高速AI推論のGroqが6億4000万ドルを追加調達

2024年8月5日、AI推論チップを手がける米ベンチャーGroqは、資金調達Dラウンドで6億4000万ドルを調達したことを発表した。

プレスリリース

発表によると今回の増資はBlackRockが主導し、Cisco, KDDI, Samsungなどの既存投資家も参加した。同社の累計調達額は13億ドル以上。企業評価額は28億ドルとされている。

Groqは自社開発の推論アクセラレータ「LPU」をベースとしたサーバー「Groq Systems」を販売する一方で、「LPU」上でLlama3, Whisper Large V3, Mixtral, gemma といったオープンソースのLLMをホストし、API経由でアクセスを提供する「GroqCloud」というクラウドベースのサービスを展開しており、「LPU」による圧倒的に高速な推論パフォーマンスによって、既に36万人以上のユーザー（AI推論を利用するサービス開発者/提供者）を集めている。

「GroqCloud」の起源はGroqが2023年に公開した「GroqChat」にあり、 「LPU」による高速なLlama2 70Bの実行によりその推論パフォーマンスの高さを実証。すかさず生成AI技術をベースとしたサービス会社「Definitive Intelligence」を買収し、オープンソースのLLMをホストし超低レイテンシ推論を使用量に応じて低価格で提供するという新たなサービス「GroqCloud」を生み出した。同ビジネスはかなり順調のようで、AI推論サービスのデファクト・スタンダードとなる可能性がある。

Groqは今回調達した資金により、「GroqCloud」に追加で「LPU」を108,000台以上配備するほか、人材を大幅に増やし第2世代の「LPU」の開発を加速する計画。ちなみにGroqはGlobal Foundriesに「LPU」の製造を委託している。

※Groq

※GroqのLPUの推論の速さはGroqのホームページで実感できます（めちゃくちゃ速い！）