名称: 边缘部署技能 描述: 在机器人边缘设备(Jetson、嵌入式系统)上进行机器学习模型优化与部署 slug: edge-deployment 类别: 部署 允许使用的工具:
- Bash
- Read
- Write
- Edit
- Glob
- Grep
边缘部署技能
概述
在包括NVIDIA Jetson和嵌入式系统在内的机器人边缘设备上优化和部署机器学习模型的专家技能。
能力
- 为NVIDIA Jetson配置TensorRT优化
- 设置ONNX模型转换与优化
- 实现INT8和FP16量化
- 为视频分析配置DeepStream
- 设置CUDA图优化
- 实现模型剪枝与蒸馏
- 配置DLA(深度学习加速器)部署
- 设置多流推理
- 实现ROS2推理节点
- 在目标硬件上进行性能分析与基准测试
目标流程
- nn-model-optimization.js
- object-detection-pipeline.js
- rl-robot-control.js
- field-testing-validation.js
依赖项
- TensorRT
- ONNX Runtime
- NVIDIA Jetson SDK
- DeepStream
使用场景
当流程需要在边缘设备上部署机器学习模型并优化推理性能时,会调用此技能。
输出产物
- TensorRT引擎文件
- 优化后的ONNX模型
- 量化配置
- DeepStream流水线配置
- 推理基准测试报告
- ROS2推理节点实现