GBase 8a
运维管理
文章

历史分析库consumer消费跳数步骤

发表于2024-03-11 15:17:4650次浏览1个评论

跳数步骤:

首先停止同步

stop kafka consumer  表名(小写);

 

清空记录kafka offset值的临时表(表名和下划线之间无空格)

truncate table  gclusterdb.kafka_consumer_offset_表名(小写);

 

插入一条信息,将消费跳至最新

insert into gclusterdb.kafka_consumer_offset_表名(小写)  values  (数值,'00000000000000000000',NULL,NULL,NULL);

在进行临时表数据插入时,可以选择以下几个数值进行填写:

  • -1 代表将消费跳至topic中最新数据

  • -2 代表将消费跳至topic中最早的数据

  • 指定offset值  代表将消费跳至指定offset值,一般用于单条数据有误,手动查找报错consumer的process_offset值定位到导致消费卡住的数据后,将消费跳至该条数据后一条(对应process_offset值加一)进行消费

 

 

启动kafka消费

start kafka consumer  表名(小写);

消费已跳到最新开始 

通过查看information_schema下的kafka_consumer_status表观察该表同步是否正常。

select * from information_schema.kafka_consumer_status where exception<>'';

如果无报错则返回结果为空

有报错则显示报错的consumer详细信息

如上图所示,通过查询结果中的报错consumer的process_offset值定位到导致消费卡住的数据偏移量

评论

登录后才可以发表评论
茵陈发表于 2个月前
谢谢分享