NVIDIA - Jetson Orin Nano Super

Hardware

JetPack SDK

檢查目前 Jetpack 版本

Tip: 先找出 L4T 版本後,前往 https://developer.nvidia.com/embedded/jetpack-archive  可以找出對應的 Jetpack 版本。
dpkg -l | grep 'nvidia-l4t-core'

SDK Manager

官方的 Jetson 系列設備的刷機軟體,需安裝在另一個 Linux 工作站。設備刷機前需要先切換成 Recovery Mode,並且以 USB-C 線連接 Linux 工作站與設備。

Install SDK Manager

安裝方式支援 Linux、Windows、Docker 平台。

Recovery Mode

還原模式用途與特性:

  1. 設備開機時會跳過正常開機程序,以最簡易環境啟動。
  2. 可進行系統刷機及韌體更新作業。

切換方式:將 J14 (Button Header) 的 Pin 9-10 短路。

Headless Setup

VNC Server
sudo apt-get update
sudo apt-get install tightvncserver
vncserver

# Start VNC server
vncserver -geometry 1980x1080

# Kill VNC Server
vncserver -kill :1

~/.vnc/xstartup :

#!/bin/sh

unset SESSION_MANAGER
unset DBUS_SESSION_BUS_ADDRESS

[ -x /etc/vnc/xstartup ] && exec /etc/vnc/xstartup
[ -r $HOME/.Xresources ] && xrdb $HOME/.Xresources

export XKL_XMODMAP_DISABLE=1
export XDG_CURRENT_DESKTOP="GNOME-Flashback:Unity"
export XDG_MENU_PREFIX="gnome-flashback-"

gnome-session --session=gnome-flashback-metacity --disable-acceleration-check &

POST-Install

Docker
# Install the docker
sudo apt update
sudo apt install -y nvidia-container curl
curl https://get.docker.com | sh && sudo systemctl --now enable docker
sudo nvidia-ctk runtime configure --runtime=docker

# Add your user to the docker group
sudo systemctl restart docker
sudo usermod -aG docker $USER
newgrp docker

# Add default runtime
sudo apt install -y jq
sudo jq '. + {"default-runtime": "nvidia"}' /etc/docker/daemon.json | \
sudo tee /etc/docker/daemon.json.tmp && \
sudo mv /etc/docker/daemon.json.tmp /etc/docker/daemon.json

# Restart the docker
sudo systemctl daemon-reload && sudo systemctl restart docker

FAQ

CTranslate2 Issue
CTranslate2 package was not compiled with CUDA support

Solution: 從 pip 安裝的 CTranslate2 模組不支援 ARM 的平台,需要下載原始檔在 ARM 平台上重新編譯,步驟如下:

下載並編譯 ctranslate2 主程式

git clone --recursive https://github.com/OpenNMT/CTranslate2.git

cd CTranslate2
mkdir build && cd build
mkdir install
cmake .. -DWITH_CUDA=ON -DWITH_CUDNN=ON -DWITH_MKL=OFF -DOPENMP_RUNTIME=COMP -DCMAKE_INSTALL_PREFIX=$PWD/install
make -j4
make install
sudo cp -r install/* /usr/local
sudo ldconfig

回到出現執行錯誤的專案目錄,例如 pyvideotrans,重新安裝 ctranslate2 模組,注意要使用 --force-reinstall 覆蓋有問題的版本。

cd ~/pyvideotrans
source ~/.venv/bin/activate
cd ~/CTranslate2/python
pip install -r install_requirements.txt
python setup.py bdist_wheel
pip install dist/*.whl --force-reinstall

 

Tutorials
More hardware for AI


Revision #27
Created 2025-01-23 16:50:32 CST by A-Lang (Admin)
Updated 2025-08-19 20:41:31 CST by A-Lang (Admin)