ASUSは最近、新しいUSBフォームファクタのAIアクセラレーションカード「UGen300」を発表しました。画期的なデザインにより、従来のハードウェア展開の障壁を打ち破りました。マシンを開けずに、PCIeスロットを占有することなく、USB 3.1 Gen2ケーブル一本で、通常のPCや産業用コンピュータ、さらにはARM開発ボードに40 TOPSのローカルAI推論能力を簡単に追加できます。

UGen300のコアは、イスラエルのチップ会社Hailoが提供するHailo-10Hニューラルネットワークプロセッサ（NPU）です。わずか2.5Wの典型的な消費電力で高い性能比を実現しています。ボード上には8GBのLPDDR4メモリが搭載されており、大型の事前学習モデルを直接読み込んで実行できるため、ホストリソースを頻繁に呼び出す必要がありません。このデバイスは主流の計算エコシステムをカバーしており、x86とARMアーキテクチャに対応し、Windows、Linux、Androidなどのオペレーティングシステムにも対応しています。開発フレームワークはTensorFlow、PyTorch、ONNXなどの主要な標準に完全に対応しています。

特に注目すべきは、ASUSがUGen300に100種類以上の即時使用可能な事前学習モデルをすでに統合していることです。これらは高度な画像認識、対象検出、セマンティックセグメンテーション、パターン解析などのシナリオに焦点を当てており、スマートセキュリティ、産業品質検査、医療画像補助、エッジAI教育など多様な分野で利用可能です。ユーザーはゼロから訓練する必要がなく、挿入するだけで使用できるため、AIの導入の複雑さを大幅に軽減します。