本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

Tokens per Watt(ワットあたりのトークン数)とは・意味、単位・各社の発表・比べるときの注意

Tokens per Watt(ワットあたりのトークン数)とは?

Tokens per Watt(ワットあたりのトークン数)とは、AIを動かす計算の基盤が、電力1ワットに対してどれだけのトークンを生み出せるかを表す効率の指標のこと。トークンは、生成AIが文章を読み取ったり生成したりするときに扱う文字のまとまりだ。

米国の半導体大手 NVIDIA によると、ワットあたりのトークン数が増えれば、同じ電力の枠に収まる課金できる処理が増え、トークンあたりのコストも下がる。

NVIDIA は日本語のページで、この考え方を「電力あたりのトークン処理量」と表記している。英語では「tokens per watt」のほか、「tokens per megawatt」(メガワットあたり)の形でも使われる。

Tokens per Watt の単位と測る範囲

実際の値は毎秒のトークン数を電力で割ったもの

ワットは1秒あたりのエネルギーの量を表す単位なので、指標の実際の値は、1秒に生み出すトークンの数を消費電力で割ったものになる。これは1ジュールあたりのトークン数と同じ量になる。

NVIDIA は2025年8月の Blackwell Ultra の解説で、データセンターの指標を「1メガワットあたりの毎秒のトークン数(TPS/MW)」と表記している。

Microsoft の例では、同じ数字がワットとメガワットのどちらの言い方でも示された。Microsoft は2026年10月12日の発表で、新しいチップ Maia 300 の見込みを「1メガワットあたり40%多いトークン」と表記した。同社の Satya Nadella CEO は10月28日の決算説明会で、Maia 300 の向上を同じく40%と述べ、こちらは「1ワットあたり」の言葉を使った。

測る範囲はチップから冷却と電源まで広がる

ワットあたりのトークン数は、半導体のチップだけで決まるものではない。NVIDIA は、ギガワット級の設備では電力の最大40%が計算に届く前に失われることがあるとしている。冷却の効率の悪さで電力が失われ、従来の余裕を大きく取った電力の割り当ても容量を無駄にする。冷却や使われていない設備に回らなかった電力は、トークンと収益を生む分になる。

米国の半導体メーカー onsemi は、電源の部品の側から同じ指標を挙げた。同社は2026年11月の発表で、電圧を整える部品をプロセッサーの近くにまとめる技術により、システムの電力のうちAIの計算に充てられる割合が増えると説明した。その結果として、ワットあたりのトークン数が改善するという。

Tokens per Watt が注目されるようになった背景

NVIDIA は、電力が今のAIにとって最大の制約で、どのAIの施設も電力の上限の中で動くと説明している。電力網の容量が決まっている以上、収益を生むトークンにエネルギーをどれだけ変えられるかが、AIの基盤を評価する最も重要な指標になるというのが、同社の立場だ。

同社は、AIのためのデータセンターをAIファクトリーと呼んでいる。同社は2026年3月に設計の手引きを公開し、その中のソフトウェア群について、使えるエネルギー1ワットあたりのAIのトークンを最大にすることを目的に挙げた。

香港科技大学(広州)の Xiang Liu 氏らは2026年5月の論文で、AIの推論が今も主に精度や応答の速さ、処理量、計算機の使用率で評価されていることを挙げ、それだけでは足りないと論じた。著者らは、データセンターに届く電力と冷却が強い制約になったことを理由に挙げている。

Liu 氏らは、AIの推論を「エネルギーからトークンへの生産」として評価するよう主張した。著者らは、電力だけで価格や能力などが決まるとは主張していないとも書いている。

Tokens per Watt に関する主な出来事・ニュース

  • 2026年3月16日 NVIDIA「Vera Rubin DSX AI Factory」参照設計を公開:NVIDIA は、AIの基盤の設計の手引きを公開した。ワットあたりのトークンの最大化と、本番の稼働までの時間の短縮を目的に掲げている。
  • 2026年10月12日 Microsoft「Maia 300」を発表:Microsoft は、自社のAIチップ Maia 300 を2027年から本番に配備すると発表した。同社は、主要なGPUベースのシステムに比べ、1メガワットあたりのトークンが40%多くなると見込んでいる。

Tokens per Watt に関する各社の発表

NVIDIA は世代ごとの処理量の倍率を公表している

NVIDIA は2026年3月の技術ブログで、6世代の設計を通じて、1メガワットあたりの推論の処理量を100万倍に高めたと記した。

NVIDIA は、SemiAnalysis の推論の比較データ「InferenceX」を引き、中国の DeepSeek の推論モデル DeepSeek-R1 での比較を示している。同社のソフトウェアの最適化とラック単位のシステム GB300 NVL72 を合わせた場合、1メガワットあたりの処理量は Hopper の最大50倍で、トークンのコストは35分の1になるという。

同社は次の世代の Vera Rubin について、AIファクトリーで中国の Moonshot AI のモデル Kimi K2 を動かす条件では、Blackwell に比べ1メガワットあたりの処理量が最大10倍になるとしている。

Microsoft は自社チップ Maia の倍率を公表している

Microsoft は2026年10月12日の発表で、すでに稼働している Maia 200 の効率の数字も挙げた。同社によると、Teams・Copilot・Cowork に組み込んだAIの機能で、ワットあたりのトークン数は主要なGPUの基盤の最大1.7倍になる。Maia 200 は米国・欧州・オーストラリアで配備を進めている。

同じ発表で、同社は Maia の製品群を2027年から数ギガワットの規模に広げ、自社の製品とサービスの推論の主な基盤にすると述べた。Maia 300 の本番の配備は、2027年に始まる予定だ。

Tokens per Watt の数字を比べるときの注意

各社の倍率は比べる相手と処理を決めた値

各社が示す倍率は、比べる相手と動かす処理を決めた条件での値だ。NVIDIA は、Hopper や Blackwell と比べた倍率には DeepSeek-R1 や Kimi K2 など動かしたモデルを示しているが、6世代で100万倍という値には本文で条件を書いていない。

Microsoft の Maia 300 の40%は、配備前の2026年10月の時点での見込みだ。同社は比べる相手を「主要なGPUベースのシステム」と表記するだけで、製品名を挙げていない。Maia 200 の1.7倍の比べる相手も「主要なGPUの基盤」で、製品名はない。

研究者は条件をそろえた報告を求める

香港科技大学(広州)などの研究者は5月の論文で、トークンの質は一様ではないという反論を取り上げ、質の違いがあることを認めた。著者らが報告の基準として提案するのは、品質とサービスの水準の目標をそろえたうえでの1トークンあたりのエネルギーで、ジュールあたりのトークン数の生の値ではない。

Liu 氏らは、作業の種類、まとめて処理する数、機器、エネルギーをどこまで数えたかの開示も求めた。こうした条件をそろえなければ、トークンの数は比べられないという。

Tokens per Watt に関する出典

NVIDIA「Scaling Token Factory Revenue and AI Efficiency by Maximizing Performance per Watt」(2026年3月25日)
NVIDIA「NVIDIA Releases Vera Rubin DSX AI Factory Reference Design and Omniverse DSX Digital Twin Blueprint With Broad Industry Support」(2026年3月16日)
NVIDIA「Inside NVIDIA Blackwell Ultra: The Chip Powering the AI Factory Era」(2025年8月22日)
Microsoft「Microsoft to expand Azure Maia system to multi-gigawatt deployments」(2026年10月12日)
Microsoft「Microsoft Fiscal Year 2027 First Quarter Earnings Conference Call」(2026年10月28日)
Xiang Liu ほか「Position: LLM Inference Should Be Evaluated as Energy-to-Token Production」(2026年5月12日、arXiv)
NVIDIA「トークノミクス ガイド: 大規模な推論をデプロイし収益化するケース スタディ」
onsemi「onsemi to Acquire Ferric, Establishing Leadership in Power Delivery for Next-Generation AI Processors」(2026年11月2日)

Tokens per Watt に関連する記事