AI半導体スタートアップのCerebrasが、ラックスケールのAI推論システム「CS-4」を発表しました。同社の巨大な1枚ウェハーそのものを1つのプロセッサとする独自の「ウェハースケール」設計を踏襲しつつ、新プロセッサ「WSE-3 Turbo」を3枚束ねた構成を採用しています。CS-4は同社の新しいプラットフォーム設計「Nexus」を採用した最初のシステムでもあります。
Cerebrasによると、CS-4はシステム全体で750PFLOPSのAI演算性能を備え、大規模言語モデルの推論において1ユーザーあたり最大4,400トークン/秒、GPUベースの構成と比べて最大30倍の速度を主張しています。従来機のCS-3と比べても最大2倍の性能で、電力あたりのスループット(処理効率)は最大10倍に高まったとしています。
巨大なウェハーを丸ごと使う設計は、多数のGPUを高速ネットワークでつなぐ一般的な構成と異なり、チップ間の通信ボトルネックを抑えられる点が特徴です。ChatGPTのような対話型AIでは応答速度が体感品質を大きく左右するため、Cerebrasは「速さ」を武器にNVIDIA製GPUが支配する推論市場へ切り込む狙いです。最初の出荷は今四半期中に始まる予定とされています。
出典: Cerebras(公式発表)



