首页/人工智能/AI应用/OpenTelemetry大模型追踪技能Skill/
|
|
| 名称 |
opentelemetry-llm |
| 描述 |
为LLM应用提供分布式追踪的OpenTelemetry工具 allowed-tools: - 读取 - 写入 - 编辑 - Bash - Glob - Grep |
OpenTelemetry LLM 技能
能力
- 为LLM应用配置OpenTelemetry SDK
- 实现LLM专用工具
- 设置追踪导出器(Jaeger、OTLP)
- 设计LLM语义规范
- 配置AI工作负载的跨度属性
- 实现上下文传播
目标流程
实现细节
核心组件
- 追踪提供器:SDK配置
- 跨度处理器:批量/简单处理器
- 导出器:Jaeger、OTLP、控制台
- 工具:自动和手动
LLM语义规范
- gen_ai.system(OpenAI、Anthropic)
- gen_ai.request.model
- gen_ai.request.max_tokens
- gen_ai.response.finish_reason
- gen_ai.usage.prompt_tokens
配置选项
- 导出器选择
- 采样策略
- 资源属性
- 跨度限制
- 上下文传播
最佳实践
- 一致的属性命名
- 适当的采样
- 错误处理追踪
- 跨服务传播上下文
依赖项
- opentelemetry-sdk
- opentelemetry-exporter-*
- openinference(可选)