名称

jetson-edge-deploy-review

描述

当需要在 Jetson 设备上部署视觉或推理模型、评估功耗散热与实时性时使用。该技能检查模型转换、精度选择、内存与显存占用、功耗模式、散热降频、启动与 OTA 方案，并给出可量化的验收指标。适用于 Jetson Orin、Xavier、Nano 系列上的边缘推理、视频分析与机器人感知部署。关键词：Jetson、边缘计算、TensorRT、ONNX、INT8、FP16、DLA、JetPack、功耗、散热、降频、实时推理、DeepStream、OTA、内存、部署评审、Jetson Orin、Jetson Nano。

Jetson 边缘部署评审

在功耗、散热、实时性三者约束下，判断一个模型能否稳定跑在目标设备上。

何时使用

模型从服务器迁到 Jetson，需要评估可行性。
设备频繁降频、帧率不稳。
需要在多个功耗档位之间做取舍。
设计量产设备的 OTA 与回滚方案。

不适用：云端 GPU 部署；纯模型精度优化。

输入

设备型号与 JetPack 版本。
模型框架、输入尺寸、batch、精度要求。
业务帧率与端到端延迟预算。
供电方式、散热方案、外壳结构。
是否使用多路视频与并行任务。

工作流

第 1 步：明确指标

指标	定义	目标示例
推理延迟	单帧前处理+推理+后处理	P95 < 33 ms
端到端帧率	含采集与编码	≥ 25 FPS
功耗	整机平均与峰值	< 15 W
温度	满载稳定温度	SoC < 85 °C
内存	峰值 RSS 与显存	< 设备内存 70%
启动时间	上电到服务就绪	< 60 s

指标必须同时包含延迟分布与热稳定后的表现。

第 2 步：功耗模式

用 nvpmodel 选择功耗档位，记录档位与频率。
量产设备固定档位，避免运行时切换。
若需要满频，评估 jetson_clocks 对温度与寿命的影响。
多档位方案需分别测试延迟与温度。

第 3 步：模型转换

导出 ONNX，固定输入形状，避免动态维度导致回退。
使用 TensorRT 构建引擎，记录版本与构建参数。
精度选择：FP16 优先；INT8 需校准集并验证精度损失。
算子不支持时会被回退到 CPU，必须检查层分析结果。
DLA 适合部分卷积网络，注意不支持的层与内存限制。
引擎与设备、JetPack 版本绑定，不能跨版本复用。

第 4 步：内存与并发

Jetson 使用统一内存，注意 CPU 与 GPU 竞争。
多路视频时计算峰值：解码 + 推理 + 编码同时进行。
使用零拷贝与固定缓冲，避免频繁分配。
监控内存碎片与 OOM 历史。
限制并发流数量，超过硬件能力只会增加延迟。

第 5 步：散热验证

满载运行 30 分钟以上，记录温度与频率曲线。
确认外壳内环境温度高于室温，按最坏环境测试。
观察是否触发降频，降频后帧率是否仍达标。
被动散热需评估长期积灰影响。

第 6 步：部署与运维

服务开机自启，异常自动重启。
提供健康检查接口与看门狗。
OTA 采用 A/B 分区，失败可回滚。
记录版本、模型哈希、引擎哈希。
远程日志与指标上报，避免设备变黑盒。

检查清单

[ ] 目标指标包含 P95 延迟与热稳定后帧率。
[ ] 功耗档位固定并记录。
[ ] 模型输入形状固定，无动态维度回退。
[ ] TensorRT 层分析无意外 CPU 回退。
[ ] INT8 校准集具有代表性，精度损失可接受。
[ ] 引擎与 JetPack 版本绑定并记录哈希。
[ ] 多路视频场景下内存峰值已验证。
[ ] 满载 30 分钟温度与频率曲线已采集。
[ ] OTA 支持回滚。
[ ] 健康检查与看门狗已配置。

输出模板

## 设备与环境
型号： JetPack： 功耗档： 散热：

## 指标结果
| 指标 | 目标 | 实测 | 结论 |
| --- | --- | --- | --- |

## 模型转换
| 步骤 | 配置 | 结果 | 风险 |
| --- | --- | --- | --- |

## 热与功耗
...

## 运维
...

## 结论
可量产 / 需优化 / 不建议

反模式

只看实验室冷机首帧延迟。
用动态 shape 导致部分层回退 CPU。
INT8 校准集只取少量简单样本。
多路视频不做并发压测。
引擎跨设备复制，现场报错。
无 OTA 回滚，升级失败变砖。

参考文件

references/jetson-checklist.md：转换、功耗、散热与运维检查表。