druide kafka configuration du service d'indexation - json, apache-kafka, druide

J'ai suivi la documentation et édité:

druid-0.9.2/conf/druid/_common/common.runtime.properties

et ajouté:

"druid-kafka-indexing-service"

au druid.extensions.loadList et redémarré tous les services druid: middlemanager, overlord, coordinator, broker, historical

Iran:

curl -X "POST" -H "Content-Type:application/json" -d @kafka_connect/script.json druid_server:8090/druid/indexer/v1/task

mais j'ai:

{"error":"Could not resolve type id "kafka" into a subtype of [simple type, class io.druid.indexing.common.task.Task]n at [Source: HttpInputOverHTTP@4c467f1c; line: 1, column: 4]"}

L'entrée json a:

{
"type": "kafka",
"dataSchema": {
"dataSource": "sensors-kafka",
"parser": {
"type": "string",
"parseSpec": {
"format": "json",
"timestampSpec": {
"column": "timestamp",
"format": "auto"
},
"dimensionsSpec": {
"dimensions": ["machine", "key"],
"dimensionExclusions": [
"timestamp",
"value"
]
}
}
},
"metricsSpec": [
{
"name": "count",
"type": "count"
},
{
"name": "value_sum",
"fieldName": "value",
"type": "doubleSum"
},
{
"name": "value_min",
"fieldName": "value",
"type": "doubleMin"
},
{
"name": "value_max",
"fieldName": "value",
"type": "doubleMax"
}
],
"granularitySpec": {
"type": "uniform",
"segmentGranularity": "HOUR",
"queryGranularity": "NONE"
}
},
"tuningConfig": {
"type": "kafka",
"maxRowsPerSegment": 5000000
},
"ioConfig": {
"topic": "sensor",
"consumerProperties": {
"bootstrap.servers": "kafka_server:2181"
},
"taskCount": 1,
"replicas": 1,
"taskDuration": "PT1H"
}
}

Une idée de ce que j'ai mal fait? Selon le doc: http://druid.io/docs/0.9.2-rc3/development/extensions-core/kafka-ingestion.html, la type est kafka?

Est-il possible de vérifier que l'extension a été chargée correctement ou dois-je spécifier l'extension dans chaque composant? runtime.properties?

Réponses:

2 pour la réponse № 1

Les spécifications json du superviseur doivent être envoyées sur ce noeud final sur le seigneur /druid/indexer/v1/supervisor

curl -X POST -H "Content-Type: application/json" -d @kafka_connect/script.json http://druid_server:8090/druid/indexer/v1/supervisor

---

0 pour la réponse № 2

Je rencontre des problèmes similaires, et je l'ai résolu parmodifiez le fichier "conf / druid / _common / common.runtime.properties" en ajoutant "druid-kafka-indexing-service" à druid.extensions.loadList, et maintenant son émission se présente comme suit:

druid.extensions.loadList=["druid-parser-route", "mysql-metadata-storage", "druid-kafka-indexing-service"]

L'espoir peut aider quelqu'un d'autre

---