マイクロソフト、AIチップ「Maia 300」を2027年導入へ。1MWでの処理量は主要GPUシステム比4割増の見込み
Springl からの転載です。元の記事
マイクロソフトは10月12日、自社開発のAI推論向けチップの第3世代となる「Maia 300」を発表した。2027年に本番環境への導入を始める。同年からMaiaシリーズの導入を数ギガワット規模に広げ、自社の製品とサービスで使う主な推論システムにする計画だ。
同社によると、システム全体の効率の改善により、Maia 300が1メガワットの電力で処理するトークンの数は、GPUベースの主要なシステムより40%多くなる見込みだ。40%の比較の相手は「GPUベースの主要なシステム」とあるだけで、具体的な製品名や測定の条件は示されていない。前世代のMaia 200と比べると、96基をそろえたラックの単位で、トークンの処理量は最大7倍に上ると説明する。
ワット当たりの性能を高める手段として、同社は、データの置き場所や移動を見直し、電力やチップの面積を増やすことだけに頼らない設計を挙げた。データセンターの効率は、決まった電力と冷却の枠でどれだけの設備を動かせるかで決まるとして、ラック内のサーバーの配置や電源、冷却も合わせて設計した。1基の熱設計電力は950W、ラックは96基で167kWの電力の枠に収める。
想定する用途は、長い文脈を扱う推論、応答の速さが求められる会話、AIエージェントが複数の手順を続けて進める処理だ。
先行するMaia 200は、すでにMicrosoft Copilotなどの本番の処理を担い、米国と欧州、オーストラリアで導入が進んでいる。同社によると、TeamsやCopilotなどに組み込んだAIの機能で、1ワット当たりのトークン処理量は主要なGPU基盤の最大1.7倍に達している。
【プレスリリース】Microsoft「Microsoft to expand Azure Maia system to multi-gigawatt deployments」
【参照サイト】Microsoft「Deep dive into Azure Maia 300 architecture」
