/ / java.lang.ClassNotFoundException в sbt скала 2.11 IntelliJ IDEA sbt 1.0 - скала, apache-spark, apache-kafka

java.lang.ClassNotFoundException в sbt скала 2.11 IntelliJ IDEA sbt 1.0 - скала, apache-spark, apache-kafka

Изпълних Scala код в IntelliJ IDEA за spark.streaming.kafka, където използвам scala версия 2.11, sbt 1.0 и искра версия 2.0.1

Опитвам се да изпратя съобщение чрез производителя на Кафка и се опитах да донеса в искрен клъстер, че изпълних командата по-долу в искра:

bin/spark-submit --packages org.apache.spark:spark-streaming-kafka-0-
10_2.11:2.0.1 --class "KafkaWordCount" --master
spark://bluedata5.bdlocal:7077 jars/sskafka_2.11-0.1.jar localhost:2080
sds_test

Код: KafkaWordCount.scala

въведете описанието на изображението тук

Build.sbt

въведете описанието на изображението тук

грешка: Изход 1

въведете описанието на изображението тук

Изход 2

въведете описанието на изображението тук

Моля, помогнете ми да разреша грешката

Отговори:

1 за отговор № 1

Съобщението за грешка е достатъчно ясно, което казва

java.lang.ClassNotFoundException: KafkaWordCount

Всичко, което трябва да направите, е да осигурите пълен пътеводител за класа KafkaWordCount т.е. kafspa.KafkaWordCount

Така че вашият spark-submit командата трябва да бъде

bin/spark-submit --packages org.apache.spark:spark-streaming-kafka-0-10_2.11:2.0.1 --class kafspa.KafkaWordCount --master spark://bluedata5.bdlocal:7077 jars/sskafka_2.11-0.1.jar localhost:2080 sds_test