英偉達(NVIDIA)近日發佈了一款全新的緊湊型生成式AI超級計算機——Jetson Orin Nano Super開發者套件。這款產品不僅在性能上有了顯著提升,價格也大幅降低,並可通過軟件升級進一步提升性能,旨在讓更多人擁抱生成式AI。

這款全新的Jetson Orin Nano Super開發者套件體積小巧,可以輕鬆握在手中,它爲商業AI開發者、愛好者和學生提供了更強大的生成式AI能力和更高的性能。其價格也從之前的499美元降至249美元,大幅降低了使用門檻。

image.png

該套件今日正式上市,與上一代產品相比,其生成式AI推理性能提升了1.7倍,INT8TOPS性能提升了70%,達到67TOPS,內存帶寬也提升了50%,達到102GB/s。無論是創建基於檢索增強生成的LLM聊天機器人、構建視覺AI代理,還是部署基於AI的機器人,Jetson Orin Nano Super都是理想的選擇。

軟件升級,性能持續提升

值得一提的是,新的Jetson Orin Nano Super的軟件更新也將爲已經擁有Jetson Orin Nano開發者套件的用戶帶來生成式AI性能的提升。

Jetson Orin Nano Super適用於那些對生成式AI、機器人技術或計算機視覺感興趣的人。隨着AI世界從特定任務模型轉向基礎模型,它也提供了一個將想法轉化爲現實的便捷平臺。

image.png

強大性能,助力生成式AI

Jetson Orin Nano Super的性能提升爲所有流行的生成式AI模型和基於Transformer的計算機視覺帶來了顯著優勢。

這款開發者套件包含一個Jetson Orin Nano8GB系統模塊(SoM)和一個參考載板,爲原型設計邊緣AI應用提供了理想的平臺。

SoM採用NVIDIA Ampere架構GPU和帶有張量核心的6核Arm CPU,有助於實現多個併發AI應用程序管道和高性能推理。它可以支持最多四個攝像頭,提供比以前版本更高的分辨率和幀率。

豐富的生成式AI軟件生態系統和社區

生成式AI正在快速發展。NVIDIA Jetson AI實驗室爲開源社區的尖端模型提供即時支持,並提供易於使用的教程。開發者還可以從更廣泛的Jetson社區獲得廣泛的支持,並從其他開發者的項目中獲得靈感。

Jetson運行NVIDIA AI軟件,包括用於機器人技術的NVIDIA Isaac,用於視覺AI的NVIDIA Metropolis和用於傳感器處理的NVIDIA Holoscan。利用NVIDIA Omniverse Replicator進行合成數據生成和NVIDIA TAO Toolkit微調NGC目錄中的預訓練AI模型可以縮短開發時間。

Jetson生態系統合作伙伴提供額外的AI和系統軟件、開發者工具和定製軟件開發。他們還可以幫助提供攝像頭和其他傳感器,以及用於產品解決方案的載板和設計服務。

“Super模式”提升Jetson Orin整體性能

此次的軟件更新不僅提升了Jetson Orin Nano Super的生成式AI性能,還將爲Jetson Orin NX和Orin Nano系列的系統模塊帶來同樣的1.7倍性能提升。

總而言之,英偉達此次發佈的Jetson Orin Nano Super開發者套件不僅大幅降低了AI開發的門檻,還通過強大的性能和完善的軟件生態系統,爲開發者提供了更廣闊的創新空間。

官方介紹:https://blogs.nvidia.com/blog/jetson-generative-ai-supercomputer/