🚀 一、Jetson AGX Orin 内核定制与烧录指南(基于 R36.4.3)
📚 开发手册链接
⚠️ 注意版本匹配!
如图所示,当前手册版本为 36.4.3,请务必使用对应版本的手册与工具包,不同版本间存在关键性操作差异,即便是相近版本也不可忽略。

📦 获取 SDK 与源码包
在手册多个位置均提供 SDK 下载链接。可通过如下方式跳转获取:


请下载下图中圈选的 三个软件包:

📁 解压预编译文件
依次执行以下命令完成预编译文件的准备:
| |
🔧 开始内核定制
按开发手册步骤操作,如下为关键命令汇总:
| |
💾 烧录到 eMMC
请根据 Quick Start 指南中的指令操作。
推荐使用以下方法进入 Recovery 模式:


在 R36.4.3 版本下,执行以下命令进行烧录:
| |
🚀 二、Jetson Orin AGX 上安装 GPU 加速的 PyTorch(JetPack 6.2)
SDK Manager给你装的torch是不可用的,所以还得自己装。以下是针对 Jetson Orin AGX 上安装支持 GPU 加速的 PyTorch(适用于 JetPack 6.2 和 CUDA 12.6)的详细指南。 (PyTorch and TorchVision for Jetpack 6.2 - NVIDIA Developer Forums)
📋 系统要求
- JetPack 版本:6.2(L4T 36.4.3)
- CUDA 版本:12.6
- Python 版本:3.10(建议)
- cuDNN 版本:9.3.0.75 (Yolo incompatible with Jetpack 6.2(Jetson Orin Nano Super) #18829)
我们的orin实际上装的是:
| |
✅ 安装步骤
1. 安装系统依赖
| |
2. 安装 cuSPARSELt(适用于 PyTorch 2.6.0 及以上版本) 可跳过
| |
3. 下载并安装 PyTorch、TorchVision 和 TorchAudio
建议到这个网站直接去下载:
| |
| |
4. 验证安装
| |
⚠️ 常见问题及解决方案
问题 1:torch.cuda.is_available() 返回 False
可能原因:
- CUDA 未正确安装或未配置环境变量
- 安装了不支持 CUDA 的 PyTorch 版本 ([OLD JP5.*] 1. Installing Torch (with CUDA) on NVIDIA Jetson Orin …)
解决方案:
- 确保已安装 JetPack 6.2,并且 CUDA 12.6 正确配置
- 使用上述提供的 wheel 文件安装支持 CUDA 的 PyTorch 版本 (Overview — Torch-TensorRT v2.8.0.dev0+3b30409 documentation, Set Up Pytorch Environment on Nvidia Jetson Platform - Medium)
问题 2:安装 TorchVision 后,torch 版本变为 CPU 版本
可能原因:
- TorchVision 的安装覆盖了之前的 PyTorch 安装
解决方案:
- 确保使用与 PyTorch 版本兼容的 TorchVision wheel 文件
- 重新安装支持 CUDA 的 PyTorch wheel 文件 (Pytorch-CUDA 11.8 for Jetson Orin AGX)
问题 3:RuntimeError: operator torchvision::nms does not exist
可能原因:
- TorchVision 安装不完整或版本不兼容
解决方案:
- 确保安装的 TorchVision 版本与 PyTorch 版本兼容
- 重新安装正确版本的 TorchVision wheel 文件
📌 附加建议
- 建议使用 Python 3.10,以确保与提供的 wheel 文件兼容
- 安装过程中使用
--no-cache-dir选项,以避免使用缓存的旧版本 - 安装完成后,使用
torch.cuda.is_available()验证 GPU 是否可用
如需进一步的帮助或有其他问题,欢迎查阅 NVIDIA 官方文档 或在相关论坛中提问。