AI推論チップを手掛けるカナダUntether AI、1,400個のカスタムRISC-Vプロセッサを搭載した新チップを準備中
2024年7月17日、AI推論チップを手掛けるカナダUntether AI（アンテザーエーアイ）は、自社の推論チップ向けのSDK「imAIgine SDK 」の早期アクセス版をリリースした。
今回リリースした「imAIgine SDK 」は、トレーニング済みのニューラル・ネットワーク・モデルを推論チップで実行できるように最適化するもので、PyTorch/TensorFlowで開発したモデルの量子化、最適化、物理的割り当て、マルチ・チップ・パーティショニングをプッシュボタン式でわずか数分で実行する。
「imAIgine SDK 」は、間も無くリリースされる予定の第二世代の推論アクセラレーター「speedAI240」向けに用意されるもので、デバイス上でネットワークがどのように実行されているかを分析するツールがあり、実際のデバイスを受け取る前に仮想ハードウェア・ビューを確認することが可能。ニューラル・ネットワークがシリコンにどのようにマッピングされているか、フロアプランを確認し、接続トポロジ、ソケットの深さ、パフォーマンスの推定をインタラクティブに検査できる。
新製品「speedAI240」は、TSMC 7nmで製造される推論アクセラレーターで2022年にHOT CHIPSで発表された。同製品は、Untether AI独自の「アットメモリ・アーキテクチャ」を採用し、AIワークロードの電力消費の90%以上を占めるデータ転送の電力消費を6分の1に削減することが可能。1,400個のカスタムRISC-Vプロセッサ、37万個のPE（processing elements）、238MBのSRAMを搭載し、最大2ペタフロップスの推論パフォーマンス（FP8）と、最大30テラフロップス/ワットの電力性能を誇る。
Untether AIは既に第一世代製品「runAI200」で金融、自動車向けなどの実績があり、「speedAI240」ではロボット、自動車、ドローンなどの市場を狙っている。「speedAI240」はまだ製品がリリースされていないが、その前評判は高く既に米自動車大手GMとの提携を発表したほか、ADAS向けのソリューションを実現するパートナーとして英Armとも提携している。
学習用途よりも大きな市場があるとされる「推論チップ」に特化してビジネスを進めるUntether AIは、現在社員180名、投資家からの累計調達額は1億5,000万ドル以上。「speedAI240」のリリースにより、同社が市場でどこまで成功するか注目していきたい。