レコメンデーション特化の推論AIチップを手掛ける台湾AIベンチャーNEUCHIPS

2022年5月31日、台湾のAIチップベンチャーNEUCHIPSは同社初となるAIチップ「RecAccel N3000」を発表した。

発表によると「RecAccel N3000」は、Facebookがオープンソースで提供するDLRM(deep-learning recommendation model) の高速化に特化したASICでTSMC 7nmプロセスで製造されている。同チップにはデータセンターに求められるエネルギー効率を維持しながら、高い精度とハードウェア利用率を提供するために最適化された、ハードワイヤード・アクセラレータ、特許取得済みのクエリ・スケジューリング、包括的なソフトウェアスタックが含まれており、2022年の下半期にOpenComputePlatform準拠サーバー用のデュアルM.2モジュールおよび標準データセンターサーバー用のPCIeGen5カードに搭載する形で提供が開始される予定。その他の特徴は以下の通り。

・独自の8ビット係数の量子化（FP32の99.95％の精度）

・LPDDR5アクセスを50％削減し、帯域幅使用率を30％向上させる独自のキャッシュ設計

・DRAMトラフィックの最適化を備えた特許取得済みのエンジン  

・複数のカードにわたって非常に高いスケーラビリティを提供する実証済みのソフトウェアスタック  

・DLRM、WND、DCN、NCFなどの主要な推奨AIモデルのサポート

なおこのNEUCHIPSという会社は、TSMCの子会社で設計サービスを担っているGUCの共同創設者であり、台湾の国立清華大学の教授であるYoun-Long Lin博士がファウンダーでCEOを務めており、TSMCを中心とした台湾半導体クラスタと密接な繋がりを持っている。ぽっと出のAIチップベンチャーという訳では無さそうだ。

※NEUCHIPS