GBase 8a
运维管理
文章
历史分析库consumer消费跳数步骤
发表于2024-03-11 15:17:4650次浏览1个评论
跳数步骤:
首先停止同步
stop kafka consumer 表名(小写);
清空记录kafka offset值的临时表(表名和下划线之间无空格)
truncate table gclusterdb.kafka_consumer_offset_表名(小写);
插入一条信息,将消费跳至最新
insert into gclusterdb.kafka_consumer_offset_表名(小写) values (数值,'00000000000000000000',NULL,NULL,NULL);
在进行临时表数据插入时,可以选择以下几个数值进行填写:
-1 代表将消费跳至topic中最新数据
-2 代表将消费跳至topic中最早的数据
指定offset值 代表将消费跳至指定offset值,一般用于单条数据有误,手动查找报错consumer的process_offset值定位到导致消费卡住的数据后,将消费跳至该条数据后一条(对应process_offset值加一)进行消费
启动kafka消费
start kafka consumer 表名(小写);
消费已跳到最新开始
通过查看information_schema下的kafka_consumer_status表观察该表同步是否正常。
select * from information_schema.kafka_consumer_status where exception<>'';
如果无报错则返回结果为空
有报错则显示报错的consumer详细信息

如上图所示,通过查询结果中的报错consumer的process_offset值定位到导致消费卡住的数据偏移量
热门帖子
- 12025-12-01浏览数:182762
- 22023-05-09浏览数:25056
- 42023-09-25浏览数:18525
- 52020-05-11浏览数:17528