Meta、「Muse Spark Open」の重みを公開。量子化版はM5 Ultra搭載Mac Studio 2台で動作
Metaは10月15日、AIモデル「Muse Spark Open」の重みを公開した。「Muse Spark」のオープンウェイト版で、パラメーター数は総計8,160億、1トークンあたりに使うのは約420億だ。重みはHugging Faceなどで配布し、モデルは外部の事業者のAPIでも使える。
Metaによると、Appleの機械学習フレームワーク「MLX」の最新版を使い、M5 Ultra搭載のMac Studio 2台で動く。Metaは開発者向けの解説で、統合メモリー512GBのMac Studio 2台で計1TBとし、自社が配布するNVFP4形式の量子化版を載せる構成を示した。GPUのビデオメモリーはNVFP4版で700GB以上、BF16版で2TB以上要る。
コード作成やエージェントによる作業を主な用途とするモデルで、テキストのほか画像・動画・音声を入力できる。コンテキストは100万トークンまで扱える。学習には100を超える言語のデータを使ったが、すべての言語では評価していないと、モデルカードは注記する。
ライセンスは独自の「Muse Model License」で、無料で利用・改変・再配布・販売などができる。主な条件として、製品・サービスの画面や説明書きなどに「Built with Muse Spark Open」と目立つよう表示し、利用方針に従う必要がある。第三者にAPIなどでモデルを提供する事業者は、自社と関連会社を合わせた総収入が連続12か月で2,000万ドルを超えると、Metaへの通知と別の契約が要る。社内利用や研究など、こうした提供以外の利用にこの条件はかからない。Hugging Faceでの入手には氏名や生年月日などの登録が要り、モデルカードは18歳未満の利用を想定していない。
モデルカードによると、単体での悪用に備え、オープンウェイト版に安全性の学習を足した。Metaは、用途に合わせた安全対策を備えたAIシステムの一部として使うよう勧める。同社はこのモデルを、米国のオープンウェイトモデルでこれまでで最も高性能と位置づける。モデルカードに載る、規模と構成が近い主要なオープンウェイトモデルとのベンチマークの比較では、上回る項目も下回る項目もある。
【関連サイト】Meta「Introducing Muse Spark Open, The Most Capable US Open‑Weight Model to Date」
【関連サイト】Meta「Build with Muse Spark Open」
【関連サイト】Meta（Hugging Faceのmeta-models）「Muse Spark Open Model Card」
