/ / Предаване на данни от Кафка в Касандра в реално време - cassandra, apache-kafka

Поточно предаване на данни от Кафка в Касандра в реално време - касандра, apache-kafka

Какъв е най-добрият начин да напишете дата от КафкаКасандра? Предполагам, че това ще бъде решен проблем, но не изглежда да има стандартен адаптер. Много хора изглежда използват Storm, за да четат от Kafka и след това да пишат на Cassandra, но бурята изглежда като някакво претоварване за прости ETL операции.

Отговори:

5 за отговор № 1

Силно използваме Кафка и Касандра чрез Буря

Разчитаме на Storm, защото:

  • обикновено има много разпределени процеси на обработка (между възела), преди резултатът от първоначалното съобщение да удари Касандра

  • Ние не се нуждаем от поддържане на потребителското състояние на Кафка (офсет) - конекторът Storm-Kafka го прави за нас, когато всички продукти на оригиналното съобщение са вписани в Storm

  • Обработката на съобщенията се разпределя между възлите със Storm

В противен случай, ако е много прост случай, може да прочетете ефективно съобщенията от Кафка и да напишете резултат на Касандра без помощта на Буря


1 за отговор № 2

Последната версия на Kafka дойде с конектораконцепция за подкрепа на източника и поглъщанията като първокласни концепции в дизайна. С това нямате нужда от стрийминг рамка за преместване на данни в / от Kafka. Ето и конектора на Касандра за Кафка, който можете да използвате: https://github.com/tuplejump/kafka-connect-cassandra