通过 Python SDK 集成 NVIDIA NeMo Fabric
本文档介绍了如何将 NVIDIA NeMo Fabric 集成到消费者应用程序、服务、评估工具或平台中。重点包括:通过类型化 Python SDK 构建内存中的 FabricConfig,选择合适的生命周期(单次调用、有状态运行时、原生 OpenAI 流、NeMo Relay 流),使用 plan 与 doctor 进行验证,以及消费标准化结果、工件和遥测数据。
主要章节:
- 集成边界(仅导入公共 nemo_fabric 包,配置直接传递,不重实现运行时逻辑)
- 安装与设置环境(Python 版本、适配器安装、ADAPTER_PYTHON、凭据环境变量)
- 从消费者配置构建类型化配置(示例代码、能力塑造、MCP 服务器配置)
- 选择生命周期(run、start_runtime、OpenAI 流、NeMo Relay 流)
- 运行前验证(plan 和 doctor)
- 消费结果并处理错误(RunResult、FabricError、清理与关闭)
- 测试与验证集成
- 检查清单
- 相关文档链接