2017-02-21 10 views
2

При попытке потребления у Kafka с использованием потребителя высокого уровня (с использованием совершенно новой группы потребителей) потребитель никогда не запускается. Когда я включаю уровень протоколирования для отладки, я могу видеть, следующие две строки повторяются снова и снова:Kafka High-level Consumer error_code = 15

DEBUG [AbstractCoordinator] 09:43:51.192: Sending coordinator request for group CompletelyNewConsumerGroupThatIneverUsedBefore to broker 172.30.3.61:30000 (id: 1043 rack: null) 
DEBUG [AbstractCoordinator] 09:43:51.306: Received group coordinator response ClientResponse(receivedTimeMs=1487666631306, disconnected=false, request=ClientRequest(expectResponse=true, callback=org.apache.kafka.clients.consumer[email protected]58f68932, request=RequestSend(header={api_key=10,api_version=0,correlation_id=197,client_id=consumer-1}, body={group_id=CompletelyNewConsumerGroupThatIneverUsedBefore}), createdTimeMs=1487666631192, sendTimeMs=1487666631192), responseBody={error_code=15,coordinator={node_id=-1,host=,port=-1}}) 

Все 6 узлов кластера потребляют данные правильно. Даже старый потребитель низкого уровня работает. Также в Zookeeper есть только 6 узлов, которые должны быть там, и их файлы журналов выглядят нормально.

От googling Я обнаружил, что error_code = 15 означает, что координатор группы недоступен. Я предполагаю, что это означает координатор Consumer Group. Это проблема обратного вызова? Почему потребитель высокого уровня не работает?

+0

Высокопоставленный потребитель - старый потребитель. Исходя из заброшенного исключения, вы должны использовать нового потребителя, а потребитель жалуется, что он не может найти координатора. Вы использовали автоматические идентификаторы для брокеров? – amethystic

+0

@amethystic, привет, не могли бы вы указать мне на документ, где говорится, что старые потребители жалуются на координаторов групп? Действительно ли это для 0.9.x? – Novitoll

ответ

3

Как оказалось, все разделы темы __consumer_offsets были расположены на мертвых узлах (узлах, которые я отключил, и которые никогда не вернутся). Я решил проблему, отключив кластер, удалив тему __consumer_offsets из Zookeeper и снова запустив кластер.