边缘部署技能 EdgeDeploymentSkill

该技能专注于将机器学习模型高效部署到机器人及嵌入式边缘设备(如NVIDIA Jetson)。核心功能包括模型优化(TensorRT、ONNX转换、INT8/FP16量化、模型剪枝)、加速推理配置(DeepStream、CUDA图、DLA)、以及集成实现(ROS2节点、多流推理)。旨在解决边缘计算场景下的模型轻量化、低延迟推理与硬件适配挑战,适用于机器人视觉、自动驾驶、工业检测等实时AI应用部署。 关键词:边缘计算部署,Jetson模型优化,TensorRT加速,ONNX转换,INT8量化,DeepStream,ROS2推理节点,嵌入式AI,模型轻量化,低延迟推理

计算机视觉 0 次安装 0 次浏览 更新于 2/25/2026

名称: 边缘部署技能 描述: 在机器人边缘设备(Jetson、嵌入式系统)上进行机器学习模型优化与部署 slug: edge-deployment 类别: 部署 允许使用的工具:

  • Bash
  • Read
  • Write
  • Edit
  • Glob
  • Grep

边缘部署技能

概述

在包括NVIDIA Jetson和嵌入式系统在内的机器人边缘设备上优化和部署机器学习模型的专家技能。

能力

  • 为NVIDIA Jetson配置TensorRT优化
  • 设置ONNX模型转换与优化
  • 实现INT8和FP16量化
  • 为视频分析配置DeepStream
  • 设置CUDA图优化
  • 实现模型剪枝与蒸馏
  • 配置DLA(深度学习加速器)部署
  • 设置多流推理
  • 实现ROS2推理节点
  • 在目标硬件上进行性能分析与基准测试

目标流程

  • nn-model-optimization.js
  • object-detection-pipeline.js
  • rl-robot-control.js
  • field-testing-validation.js

依赖项

  • TensorRT
  • ONNX Runtime
  • NVIDIA Jetson SDK
  • DeepStream

使用场景

当流程需要在边缘设备上部署机器学习模型并优化推理性能时,会调用此技能。

输出产物

  • TensorRT引擎文件
  • 优化后的ONNX模型
  • 量化配置
  • DeepStream流水线配置
  • 推理基准测试报告
  • ROS2推理节点实现