Изпълних Scala код в IntelliJ IDEA за spark.streaming.kafka, където използвам scala версия 2.11, sbt 1.0 и искра версия 2.0.1
Опитвам се да изпратя съобщение чрез производителя на Кафка и се опитах да донеса в искрен клъстер, че изпълних командата по-долу в искра:
bin/spark-submit --packages org.apache.spark:spark-streaming-kafka-0-
10_2.11:2.0.1 --class "KafkaWordCount" --master
spark://bluedata5.bdlocal:7077 jars/sskafka_2.11-0.1.jar localhost:2080
sds_test
Код: KafkaWordCount.scala
Build.sbt
грешка: Изход 1
Изход 2
Моля, помогнете ми да разреша грешката
Отговори:
1 за отговор № 1Съобщението за грешка е достатъчно ясно, което казва
java.lang.ClassNotFoundException: KafkaWordCount
Всичко, което трябва да направите, е да осигурите пълен пътеводител за класа KafkaWordCount т.е. kafspa.KafkaWordCount
Така че вашият spark-submit
командата трябва да бъде
bin/spark-submit --packages org.apache.spark:spark-streaming-kafka-0-10_2.11:2.0.1 --class kafspa.KafkaWordCount --master spark://bluedata5.bdlocal:7077 jars/sskafka_2.11-0.1.jar localhost:2080 sds_test