29万4,000ドルという価格がAI業界に衝撃を与えた理由
DeepSeekが推論モデル「R1」に関する査読済み論文をNatureに発表した際、世界の注目を集めた数字があった。29万4,000ドルだ。米国の競合各社が費やしたとされる額のほんの一部で、主力モデルを学習させたという見出しが相次いだ。この数字は実際のものだが、開発のごく一部に当てはまる。モデルの段階的な推論能力を高める最終的な強化学習の費用を示しているにすぎない。R1が依存する、より大規模なベースモデルの数カ月にわたる事前学習は含まれていない。
目次
R1の性能を支えているのは、大規模な計算クラスターを使い、膨大なコーパスで学習させた大規模言語モデル「DeepSeek V3」だ。この高額な基盤を整えた後に初めて、チームは強化学習を行い、モデルの論理的思考と問題解決能力を高めた。仕上げの工程をプロジェクト全体と取り違えたことで、特定工程の費用が大きな見出しになった。
この違いは重要だ。コーディングや数学で最高水準のシステムに匹敵するモデルが、チップを数台並べて週末に作れるわけではない。継続的な計算資源の投入、入念なデータの選別、反復的な実験、安全性と評価に関する慎重な作業、そして最終的な最適化が必要になる。Natureの論文は、この最後の工程を知る貴重な手がかりを示した。しかし、その前に必要だった膨大な作業がなくなったわけではない。
Natureの論文が実際に示したこと
R1の補足資料には、NvidiaのH800 GPUを512基使った強化学習の実施内容が記されている。初期モデル「R1 Zero」の学習期間は約198時間で、公開版のR1に仕上げるためにさらに80時間を費やした。また、過程で使う選好データの生成に、およそ5,000 GPU時間を記録している。H800クラスのアクセラレーターの一般的なレンタル料金で計算すると、これらの工程の合計は30万ドル弱となる。この数字は、最先端モデルをゼロから作るために必要な時間と計算資源の全体を示すものではない。
論文はハードウェアの背景についても明らかにしている。DeepSeekは主にH800でR1を学習させた。これは、米国の輸出規制で高性能アクセラレーターへのアクセスが制限された中国向けにNvidiaが設計したチップだ。チームは、小型モデルを使った準備作業にA100 GPUを使用したことを認めたうえで、R1の主要な強化学習にはH800を使ったとしている。技術的な詳細と費用の内訳は、学術誌Natureが公開した査読済み資料で確認できる。
R1開発の実際の費用はV3の事前学習から始まる
DeepSeek自身の資料が示す最大の費用項目は、R1の基盤となるV3モデルの事前学習だ。V3はH800 GPUを2,048基使い、約2カ月かけて学習された。この期間はおよそ279万GPU時間に相当する。このクラスのハードウェアのレンタル料金をGPU時間あたり約2ドルと控えめに見積もると、事前学習だけで約558万ドルとなる。強化学習と関連データの生成にかかった約29万4,000ドルを加えると、公開版のR1に至るまでの計算費用は約587万ドルに達する。
この試算は、R1の29万4,000ドルはベースモデルの費用に上乗せされるものだという論文の説明に沿っている。また、R1の計算規模を他の大規模オープンモデルと同程度とする外部分析とも一致する。それでも、最大規模の非公開システムにかかったとされる予算と比べれば低く見えるが、「30万ドル未満」という見出しが示唆するほど安価ではない。
GPU時間の計算方法
GPU時間は計算量を測る簡単な単位だ。GPU 1基を1時間稼働させると1 GPU時間となる。学習に使ったGPU時間の合計は、GPUの台数に稼働時間を掛けて求める。費用は、クラウドで借りる場合のレンタル料金か、自社保有のハードウェアの減価償却費と運用費によって決まる。2,000基を超えるアクセラレーターを数カ月レンタルすれば、開発者は時間単位で料金を支払う。同じ規模のクラスターを購入する場合は、初期費用に加え、電力、冷却、設置スペース、保守の費用がかかる。
この規模のクラスターを購入すれば、単一の学習実施のためにレンタルするよりはるかに高くつく。現在の市場価格でH800クラスのGPUを2,048基そろえ、ネットワーク機器とサーバーを用意すると、5,100万ドルを大きく上回る。その額にはエンジニアリングの人件費、データライセンス、評価作業、ストレージ、そして公開成功に至るまでの数々の失敗実験は含まれない。587万ドルという数字は、大規模な学習で成功した実施分の費用と見るのが適切で、それを可能にした研究の総費用ではない。
強化学習は仕上げの工程であり、開発のすべてではない
強化学習は、望ましい結果に報酬を与えることで、学習済みモデルの振る舞いを変える。R1の開発ではDeepSeekは、回答を採点し、正解にたどり着く解法をモデルが選ぶよう促す手法を用いた。研究者はこの方法を純粋な強化学習と説明している。人間が書いた思考の連鎖は必要ない。モデルは自らの経路を試し、正解かどうかの信号を受け取りながら、推論の戦略を徐々に改善する。
この仕上げの工程には大きな価値がある。検証可能な答えにたどり着くことが重要な数学、コーディング、科学的な課題で、性能を引き出せる。また、事前学習より大幅に安価だ。しかし、依然として大きな負担となるのは、ベースモデルに言語知識と幅広い能力を身につけさせる数カ月にわたる学習だ。強化学習はその能力を、段階的な推論やツールの使用といった特定の目標に向けて調整する。
半導体、輸出規制、DeepSeekが実際に使ったもの
DeepSeekは半導体の供給制約下でモデルを学習させた。米国が高性能アクセラレーターの中国向け輸出を制限したため、Nvidiaのデータセンター向けGPUを輸出規制に対応させて性能を抑えたH800が、DeepSeekの資料に繰り返し登場する。中国の研究者がより高速な製品を入手する方法を見つけたという業界のうわさもあり、ハードウェアの調達先を示す手がかりを探して企業の発表を一行ずつ精査する動きもあった。費用の説明で重要な点は、より明確だ。R1の強化学習にはH800を512基使った一方、事前準備にはA100を使った期間もあった。
チームは補足資料でこの事実を認めている。研究者らは、H800を使ったR1の主要な学習に先立つ準備段階でA100を使った理由を説明した。
DeepSeekの研究者は次のように記した。「DeepSeek-R1に関する研究では、小型モデルを用いた実験の準備にA100 GPUを使用した」
この情報により、最終的な予算と使用チップの組み合わせが、どちらも事実である理由が分かる。強化学習の主な費用計算にはH800が含まれる一方、手法を練り上げた初期の実験ではA100が使われた。
DeepSeekは欧米の競合より大幅に安かったのか
R1の開発にかかった計算費用の全体は、30万ドルではなく600万ドルに近い。それでも、最先端の非公開システムにかかったとされる9桁規模の費用の一部にすぎない。また、アクセラレーターの台数と学習期間で比べると、使用トークン数はより多かったとしても、Metaの「Llama 4」のような大規模オープンモデルと同程度の規模だ。差は興味深いが、開発工程全体の費用を桁違いに削減するような革命ではない。
それでもDeepSeekがコストリーダーだと多くの人に見られている理由の一つは、制約下でチップの性能を引き出したことにある。同社は、各トークンでパラメーターのごく一部だけを活性化する混合専門家モデルを大規模に展開した。これにより、GPU時間あたりの処理量が増える。また、推論時により長く考えさせることで、負担の一部を事前学習から、その後の利用段階へ移している。
研究者の間では、データの出所やモデル間の知識移転についても議論が続いている。DeepSeekは自社のモデル群の一部で蒸留を活用しており、性能の高いモデルに回答を生成させて、より小型または低コストのモデルを学習させている。V3のベースモデルについて、同社はAI生成コンテンツを多く含むウェブデータで学習させたと説明している。そこには他のシステムの出力が含まれる可能性もある。論文はこれを、推論の経路を意図的にコピーしたものではなく、偶発的なものと位置づけている。技術的な違いは、弁護士や政策立案者にとって重要であり、少ないトークンと計算資源で開発者がどこまでできるかを知りたい費用の試算担当者にも重要だ。
費用と利用機会について専門家が語ること
研究者らは、DeepSeekの数字を冷静に読み解くよう呼びかけている。確かなエンジニアリング能力を評価する一方、単純な費用比較には注意が必要だとしている。学習予算の削減は利用料金を下げ、市場に利益をもたらす可能性がある。しかし、見出しになりやすい数字からは、人件費や実験費、インフラ費用が抜け落ちていることが多い。
セントルイス・ワシントン大学でコンピューターサイエンス・工学の助教を務めるウマル・イクバル氏は、費用の低下が利用機会を広げる可能性を指摘する一方、クラウド規模のAIがもたらすプライバシーとセキュリティー上のトレードオフにも注意を促している。
イクバル氏は「技術が広く普及するには、手頃な価格でなければならない」と述べた。開発費用の低下は大規模な実験を増やす一助となる一方、クラウドベースのAIサービスにはデータ管理とプライバシーをめぐる現実的な課題があるとも警告した。
DeepSeekの技術的な方向性を支持する人々も、広く共有されている学習費用の総額は、不完全な比較基準だと注意を促している。単一の一連の学習では見えない、反復実行や調整のサイクル、データ作業を指摘している。
データ、蒸留、学習データに含まれていた可能性のあるもの
蒸留では、より高性能なシステムの応答を使って、対象となるモデルを導く。開発者は質の高い質疑応答のペア、コードの実行履歴、思考の連鎖の例を数百万件生成し、モデルを追加学習させてその振る舞いを再現できる。この方法なら、費用の最もかかる事前学習をやり直さなくても品質を高められる。数学やプログラミングなどの分野で、小規模チームが大手研究所のモデルに特定の能力で迫ったり、並んだりできる大きな理由の一つだ。
DeepSeekによると、モデル群の一部の蒸留版は、MetaのLlamaなどのオープンソースシステムを利用している。V3について同社は、AI生成の回答を相当量含む広範なウェブデータを使ったと説明した。この方法には利点とリスクがある。よく見られるパターンを効率よく学ばせられる一方、ライセンスや品質に関する問題が未知のまま持ち込まれる可能性もある。Natureの論文は、いつどのデータを使ったのか、また工程のどの部分で合成ラベルに頼ったのかについて、より明確な説明を求めるきっかけとなった。
「29万4,000ドル」の見出しが広まった理由と、その意味
29万4,000ドルという数字は伝えやすく、市場を動かすほどのインパクトもあった。1月には、低コストの競合が米国の大手企業を脅かすとの懸念が、DeepSeekの最初のモデル公開ですでに広がっていた。投資家は半導体メーカーやAI関連企業の株を売った。査読済み論文が、脚注より速く広まる分かりやすい数字とともに、その懸念を再燃させた。多くの読者や一部の記者は、強化学習が全工程であるかのように受け止めた。
論文がもたらしたのは、話題だけではない。具体的な数字と手法の詳細を公的な科学記録に残し、透明性の基準を示した。査読者はDeepSeekに対し、人間のような振る舞いを連想させる表現を減らし、安全性、データの出所、計算資源について明確に説明するよう求めた。これは科学と業界の双方にとって有益だ。どの技術が最も大きな価値を生んだのか、どの費用がなお削減しにくいのかを、業界全体が把握しやすくなる。
AIの費用と競争にとって何を意味するのか
モデル開発の経済性は変化している。規模の拡大が続いた数年間を経て、多くのチームがデータセットやパラメーター数を増やすだけでなく、追加学習や、モデルにより長く推論させることを重視し始めている。費用の一部は推論段階に移り、モデルは1回の問い合わせに対してより長く考え、回答あたりの計算量も増える。効率化による効果が推論時間の増加を上回れば、最終的に利用者がより安く使える可能性はある。
DeepSeekの混合専門家モデル、推論能力を高めるための強化学習、選択的な蒸留は、よりモジュール化された開発へと向かう業界全体の動きの一部だ。モデルが互いから学び、小規模チームが大規模モデルを土台に開発し、オープンウェイトがスタートアップに先行する機会を与える。欧州でこの動向を調べた政策研究は、こうした変化が中小企業の競争を後押しする一方、基盤モデルの固定費を回収しにくくする可能性も指摘した。価格競争が激しくなるなか、開発者はAIを製品やサービスに組み込み、持続可能な形で提供する方法を探っている。
公表された学習費用は、完成度の高いシステムに至るまでの負担を過小評価していることが多いと警告する研究者もいる。最終的に成功した学習1回分の費用と、データ作業、失敗した試行、安全性評価、数カ月に及ぶエンジニアリングを含む総予算との違いを強調している。
スイスに拠点を置くINSAIT研究所の所長、マーティン・ヴェチェフ氏は、技術的な成果を称賛する一方、単一の学習実施に基づく数字を総費用と見なすべきではないと警告した。
ヴェチェフ氏は「500万～600万ドルという数字は誤解を招く。学習1回分しか計上していないためだ。このようなモデルを開発するには複数回の学習と実験が必要で、実際の費用ははるかに高い」と述べた。
この見方はR1をめぐる証拠とも合致する。プロジェクトの大きな節約は、事前学習の高額な工程を省いたためではなく、優れたアーキテクチャーの選択と強化学習の手法によって実現した。競合の一部より少ない計算資源で高性能を実現する有力な道筋を示したが、最先端モデルの学習を30万ドル未満で済ませる方法ではない。
要点
- DeepSeek R1の29万4,000ドルという数字は、H800 GPUを512基使った強化学習と関連データの生成にかかる費用であり、モデル全体の学習費用ではない。
- R1は、H800 GPUを2,048基使い約2カ月、約279万GPU時間をかけて学習させたV3をベースとしている。
- GPUのレンタル費用を試算すると、V3の事前学習は約558万ドル、R1に至るまでの総額は約587万ドルとなる。
- 同等のハードウェアを購入する費用はレンタルよりはるかに高く、GPU約2,000基規模のクラスターは運用費を除いて5,100万ドルを超える。
- DeepSeekは準備作業にA100 GPUを使い、その後、R1の主要な強化学習にH800を使用した。
- R1の計算規模は、初期の見出しが示唆したほど小さくはなく、9桁規模とされる非公開モデルの予算に比べれば控えめでも、他の大規模オープンモデルに近い。
- 強化学習は比較的低い費用で推論能力を高めたが、費用の大部分を占めたのは事前学習とデータ作業だった。
- 公表される学習費用には、研究開発、データ準備、複数回の失敗が含まれないことが多く、専門家は実際の開発費用を過小評価しないよう注意を促している。
