Kafka流管理Skill kafka-streaming

这个技能用于管理和监控Kafka流处理平台,包括主题创建、消费者组状态检查、延迟分析、broker健康评估等。适用于数据工程师、DevOps工程师和系统管理员,帮助优化数据流管道和确保系统稳定性。关键词:Kafka, 流管理, 主题管理, 消费者组, 延迟监控, broker健康, 数据工程, 消息队列。

数据工程 0 次安装 0 次浏览 更新于 3/15/2026

名称: kafka-streaming 描述: Kafka主题和消费者组管理。用于调查Kafka主题、消费者延迟、broker健康状态或消费者组状态。 允许工具: Bash(python *)

Kafka流管理

认证

重要提示: 凭据由代理层自动注入。请勿检查环境变量中的 KAFKA_SASL_PASSWORD - 您将看不到它。直接运行脚本;认证是透明处理的。

您可以检查的配置环境变量(非机密):

  • KAFKA_BOOTSTRAP_SERVERS - Kafka broker地址
  • KAFKA_SECURITY_PROTOCOL - 安全协议 (PLAINTEXT, SSL, SASL_SSL, SASL_PLAINTEXT)

强制:Broker优先调查

从broker信息开始,然后检查主题和消费者组。

BROKER信息 → 列出主题 → 描述主题 → 检查消费者延迟

可用脚本

所有脚本位于 .claude/skills/streaming-kafka/scripts/

get_broker_info.py - 始终从这里开始

python .claude/skills/streaming-kafka/scripts/get_broker_info.py

list_topics.py - 列出主题

python .claude/skills/streaming-kafka/scripts/list_topics.py [--include-internal]

describe_topic.py - 主题详情与偏移量

python .claude/skills/streaming-kafka/scripts/describe_topic.py --topic TOPIC_NAME

list_consumer_groups.py - 列出消费者组

python .claude/skills/streaming-kafka/scripts/list_consumer_groups.py

describe_consumer_group.py - 消费者组详情

python .claude/skills/streaming-kafka/scripts/describe_consumer_group.py --group GROUP_ID

get_consumer_lag.py - 消费者延迟与健康评估

python .claude/skills/streaming-kafka/scripts/get_consumer_lag.py --group GROUP_ID [--topic TOPIC]

消费者延迟健康级别

总延迟 健康状况
0 健康
< 1,000 轻微延迟
< 100,000 延迟
>= 100,000 严重延迟

调查工作流程

消费者延迟调查

1. get_broker_info.py (验证集群健康)
2. list_consumer_groups.py (找到组)
3. get_consumer_lag.py --group <group-id> (检查延迟)
4. describe_topic.py --topic <topic> (检查分区详情)

主题问题调查

1. list_topics.py
2. describe_topic.py --topic <topic> (分区、配置、偏移量)
3. 检查输出中的未复制分区