zl程序教程

您现在的位置是:首页 >  大数据

当前栏目

kafka_2.11-0.10.2.1中的auto.offset.reset

Kafka 2.1 Auto reset offset 2.11
2023-09-14 08:57:20 时间

在使用spark连接kafka消费topic时,发现无论怎么设置,也无法从头开始消费。

查看配置得出auto.offset.reset的以下3种设置及含义:

earliest 
当各分区下有已提交的offset时,从提交的offset开始消费;无提交的offset时,从头开始消费 
latest 
当各分区下有已提交的offset时,从提交的offset开始消费;无提交的offset时,消费新产生的该分区下的数据 
none 
topic各分区都存在已提交的offset时,从offset后开始消费;只要有一个分区不存在已提交的offset,则抛出异常

也就是说无论哪种设置,只要kafka中相同group、partition中已经有提交的offset,则都无法从开始消费。

 

 

kafka API:

http://kafka.apache.org/10/javadoc/index.html