英伟达发布 Jetson 内存优化指南：量化 Qwen3 模型可节省约 10GB 内存

英伟达发布 Jetson 平台内存优化指南，针对边缘设备内存受限问题，通过多层优化释放内存。基础软件层禁用图形桌面可释放 865MB，关闭非必要网络服务节省 32MB；Jetson Orin 系列调整 Carveout 保留区域可回收 68MB 物理内存，内核层优化减少不必要预留。

推理流水线层面，从容器转裸机部署节省 70MB，Python 迁移至 C++释放 84MB；DeepStream 框架禁用可视化组件并使用 FakeSink 额外节省 258MB。模型量化效果显著：Qwen3 8B 从 FP16 量化至 W4A16 节省约 10GB，Qwen34B 从 BF16 量化至 INT4 节省约 5.6GB。

实际案例中，Reachy Mini 机器人在 Jetson Orin Nano 8GB 设备上，通过 4 位量化运行 Cosmos-Reason2-2B 视觉语言模型，协同语音模块实现无云端依赖的端侧多模态 AI 应用。