英文:
How should I properly create a new consumer group and reset the offset from all topics in kakfa CLI?
问题
我有1000多个kafka主题,每个主题包含14天的数据,大约12亿条消息。
我创建了一个新的消费者组:groupA,并执行了重置偏移量的命令。
sh kafka-consumer-groups.sh --reset-offsets --execute --to-datetime "2023-05-03T00:00:00.000" --group groupA --bootstrap-server kfk-data-001:9092,kfk-data-002:9092,kfk-data-003:9092 --all-topics
但它没有按照我的期望工作,我尝试在Java中使用groupA拉取数据,仍然会消耗每个主题的起始数据。
我应该如何正确创建组并从所有主题重置偏移量?
英文:
I have 1000+ topics in my kakfa, each topic contains 14 days of data, about 1.2 billion messages.
I created a new consumer group: groupA, and executed the command to reset the offset.
sh kafka-consumer-groups.sh --reset-offsets --execute --to-datetime "2023-05-03T00:00:00.000" --group groupA --bootstrap-server kfk-data- 001:9092,kfk-data-002:9092,kfk-data-003:9092 --all-topics
But it didn't work as I expected, I tried to use groupA pull data in Java, and it still consumes the starting data for each topics.
How should I properly create the group and reset the offset from all topics?
答案1
得分: 0
你不需要使用那个命令。在你的消费者代码中,你可以使用消费者实例的offsetsForTime
和seek
函数来前往你想要的时间戳。
英文:
You don't need to use that command. In your consumer code, you could use offsetsForTime
and seek
function of consumer instance to go to the timestamp you want
通过集体智慧和协作来改善编程学习和解决问题的方式。致力于成为全球开发者共同参与的知识库,让每个人都能够通过互相帮助和分享经验来进步。
评论