Superモード追加。NVIDIA「Jetson Orin Nano Super Developer Kit」は従来の半額の249ドルに

2024年12月17日、NVIDIAは小型AI開発キット「Jetson Orin Nano Super Developer Kit」を発表しました。
国内では菱洋エレクトロと株式会社マクニカが12月18日に発売しています。

スペック

■ Jetson Orin Nano Super
CPU	Cortex-A78AE×6コア
CPU	1024 CUDAコア 32 Tensorコア
メモリ	8GB LPDDR5 128bit, 102GB/s
ストレージ	M.2 NVMe SSD×2
インターフェース	USB Type-C(3.2)×1 USB 3.2 Gen2×4 DisplayPort 1.2 SDXC 1GbE 有線LAN
wi-fi	M.2 Key-E
サイズ	103×90.5×34.77mm

特徴

「Jetson Orin Nano Super Developer Kit」は2023年に登場した「Jetson Orin Nano Developer Kit」(JetSon Nanoの後継機)をベースにした製品で、SoM(System on Module)の「Jetson Orin Nano 8GB」と各種インターフェースを備えたキャリアボードで構成する点は同じです。

システム構成

「Orin Nano Super」のCPUとGPUは、構成面では「Orin Nano」と変わらず、6コアのCortex-A78AE、1024のCUDAコア、32のTensorコアです。
CPUの名称みたいなものはありません。

メモリについても8GB LPDDR5という点は同じ。

このように構成は同じですが、動作周波数や転送速度については差があり、まとめたのが以下の表。

ここでポイントなのが、最後の行。
「Jetson Orin Nano」の消費電力は7W～15Wだったのに対し、「Orin Nano Super」ではSuperモードとして25W動作が追加されました。

このSuperモードと動作周波数の向上の結果、AI性能が40TOPSから67TOPSに、約1.7倍の向上を果たしました。

AI性能(LLM)で比較すると、1.3～1.6倍くらいに向上しています。
数値で言うと、Llama 3.1 8Bは14 token/sから19.14 token/sに向上。

既存のJetsonシリーズの性能はこんな感じ。一つ上の「Orin NX」に迫る性能となります。
とはいえ実はソフトウェアをJetPack 6.1に更新することで、「Orin NX」もSuperモードが使えるようになり、1.6～1.7倍の性能となります。

具体的には以下のようになります。

「Orin NX」も1.7倍になるので、逆に差が開くという。
またこの表を見る限り、「Jetson Orin Nano Super」は4GBモデルも出るみたいですね。

外観

「Jetson Orin Nano Super」の本体はSoM、つまりCPU/GPUとメモリだけが載ったモジュールです。
インターフェースを担うキャリアボードと分離することで、モジュールを入れ替えるだけで性能をアップできるのが特徴です。

…まぁ実際はキャリアボードとセット販売なことが多く、モジュールだけ入れ替えたよってのはあまり聞きませんが。

キャリアボードのインターフェース。
M.2 SSDはGen3 x4(2280サイズ)とGen3 x2(2230サイズ)の2スロット。片面実装のみで、さらに高さ制限(台座の高さ)が4.3mmのため、ヒートシンクの装着はできません。

ちなみにType-CはDataオンリーとだけ書かれていて、電源として使えないということ以外、規格も不明です。

まとめ

「Jetson Orin Nano Super Developer Kit」の価格は249ドル。RYOYO(菱洋エレクトロのオンラインストア)では税込み42,460円とされています。

「Jetson Orin Nano Developer Kit」の499ドル(96,800円)から、半額となりました。「Jetson Orin Nano Developer Kit」は2023年3月の登場だったので、1年9か月で半額です。
これでようやくエントリーキットらしい価格になりましたね。

かつてのエントリーキットであった「Jetson Nano」(2022年生産終了)は普及を優先して4GBモデルが99ドル、2GBモデルが59ドルという設定でした。
「Jetson Nano」はCUDAコアではなく、浮動小数点演算なので比較は難しいのですが、「Jetson Nano(4GB)」と「Orin Nano(8GB)」それぞれのGPUを使ったAIベンチマークでは、種類によって12～60倍の差があるそう。「Orin Nano Super」はさらに強化されているので、20～100倍差くらいですね。

参考 【Jetson Orin Nano レビュー(2)】Orin Nano対AGX Orin/AGX Xavierベンチマーク対決　実務でのAI演算能力でも実用性を測る！：ロボスタ

それを考えると価格差5倍は許容範囲というか、割安レベルと言ってもいいくらいです。
AI分野の裾野を広げたいというNVIDIAの本気度が伺えます。

関連リンク

Jetson Orin Nano Super Developer Kit：NVIDIA
Jetson Orin Nano：マクニカ
NVIDIA
Jetson Orin Nano Super 開発者キット：RYOYO(菱洋エレクトロ)