分享

sparkstreaming的提交就卡死

remarkzhao 发表于 2017-7-20 17:24:37 [显示全部楼层] 只看大图 回帖奖励 阅读模式 关闭右栏 24 14931
remarkzhao 发表于 2017-7-21 10:54:01
sstutu 发表于 2017-7-21 10:43
最好上图,另外一点漏掉了master。即使本地模式,也需要master。还有类,是否有空格,加引号的作用是什么 ...

package org.apache.spark.examples.streaming
import java.io.{PrintWriter}
import java.net.ServerSocket
import scala.io.Source

object DataSourceSocket {
  def index(length: Int) = {

    val rdm = new java.util.Random

    rdm.nextInt(length)
  }
  def main(args: Array[String]) {

    val fileName = "/root/tools/spark/mycode/streaming/word.txt"
    val lines = Source.fromFile(fileName).getLines.toList
    val rowCount = lines.length

    val listener = new ServerSocket(9999)
    while (true) {
      val socket = listener.accept()
      new Thread() {
        override def run = {
          println("Got client connected from: " + socket.getInetAddress)
          val out = new PrintWriter(socket.getOutputStream(), true)
          while (true) {
            Thread.sleep(1000)
            val content = lines(index(rowCount))
            println(content)
            out.write(content + '\n')
            out.flush()
          }
          socket.close()
        }
      }.start()
    }
  }
}
改过后的代码。

回复

使用道具 举报

hyj 发表于 2017-7-21 12:17:43
修改后,提交有什么问题吗
回复

使用道具 举报

remarkzhao 发表于 2017-7-21 12:23:58
hyj 发表于 2017-7-21 12:17
修改后,提交有什么问题吗

没有,还是跟没修改前一样 停在那。
回复

使用道具 举报

hyj 发表于 2017-7-21 15:46:12
remarkzhao 发表于 2017-7-21 12:23
没有,还是跟没修改前一样 停在那。

跑一下官方提供的wordcount例子。看看什么情况。
回复

使用道具 举报

remarkzhao 发表于 2017-7-21 15:47:51
hyj 发表于 2017-7-21 15:46
跑一下官方提供的wordcount例子。看看什么情况。

弄好了…………
我忘了说了我写的是一个socket…客户端没起……
回复

使用道具 举报

123
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条