顧客への警告と研究者への支援
エヌビディアのジェンスン・フアン最高経営責任者（CEO）は、安全性に問題のある人工知能（AI）を開発する顧客への半導体供給を停止する考えを示す一方、英国の安全性研究に5年間で2億5000万ドル相当のコンピューティング資源を提供すると表明した。AI向け半導体の支配的な供給企業である同社の発言は、自社製品で作られたソフトウェアに半導体メーカーがどこまで責任を負うべきかという難題を浮き彫りにしている。
目次
ロンドンでのインタビューでフアン氏は、まず顧客と懸念について話し合うと述べた。また、他社が自社の技術をどう使うかをエヌビディアが判断する能力には限界があると強調した。供給停止については仮定の対応として述べており、特定の開発企業への措置を発表したわけではない。
英国での研究支援は、エヌビディアの姿勢をより具体的に示している。研究者は英国のデータセンターを通じて先端コンピューターを利用でき、能力が高まるAIシステムの検証や安全対策の開発に役立てられる。提供されるのは2億5000万ドルの現金ではなく、同額と評価される計算処理能力だ。
フアン氏の姿勢は、無責任な顧客への供給制限も辞さない構えと、安全技術の開発を加速すべきだという幅広い主張を組み合わせたものだ。同氏はAIを制御して安全に導入できると考えており、AI自体を他のAIシステムの監視に役立てられるとしている。
エヌビディアはどのような場合に半導体供給を停止するのか
フアン氏は、無責任なAI開発企業への供給を停止するかどうかを問われた。エヌビディアCEOは明確に答えたうえで、自社の役割には限界があると説明した。
仮定の話ですが、そうします。ただ、その前に話し合いをするでしょう。他社の経営を担っているわけではありませんし、他社による当社技術の利用について、当社が判断できる範囲には限界があります。当社の技術は汎用的なものです
エヌビディアのアクセラレーターは、多数の計算を同時に処理する半導体だ。開発者はAIモデルの訓練、つまりソフトウェアにパターンを学習させる過程と、訓練後のモデルの実行の両方に使う。同じハードウェアでさまざまな用途に対応できるため、安全性を考えるうえでは顧客がソフトウェアをどう選び、どう導入するかが重要になる。
フアン氏は、危険なAIの定義や供給停止の基準、正式な審査手続きについては示さなかった。顧客にとっては、今後、エヌビディア製ハードウェアへのアクセスが安全性をめぐる論争の一部となる可能性があり、納入停止の判断に先立って話し合いが行われるというメッセージだ。
2億5000万ドルで提供されるもの
エヌビディアの発表によると、2026年10月13日に明らかにした5年間の支援では、年間5000万ドル相当の計算資源を利用できるようにする。先端コンピューティングシステムの利用時間を提供し、研究者が実験やリスク評価、安全対策の検証を行えるようにする。
強力なAIの研究には、費用のかかる検証を繰り返す必要があるため、計算資源へのアクセスは重要だ。研究者は、多様なタスクでシステムの挙動を調べ、異なる安全対策を比較し、ソフトウェアの能力が高まっても対策が機能し続けるかを確かめる必要がある。
フアン氏はエヌビディアCEOとして、支援の目的を次のように説明した。
英国は、この重要な技術的課題に世界水準の科学的厳密さをもたらしています。今回の2億5000万ドルの支援を通じて、エヌビディアは英国の研究者にアクセラレーテッド・コンピューティングを提供し、能力が高まるAIの安全対策を開発、検証、強化できるようにします
エヌビディアは、英国に拠点を置くNVIDIA Cloud Partnersを通じて、国内のインフラを使った計算資源の利用を支援する。発表では個別の提供事業者は明らかにされておらず、事業者の選定、技術構成、商業条件は今後決める必要がある。こうした調整によって、研究者が約束された計算時間を実際にどのように得て利用するかが決まる。
英国のどの研究チームが参加するのか
支援の大半は、AIの安全性とセキュリティに取り組む英国の研究コミュニティ全体を対象とする。一部は、英国オープンエンド学習・発見研究所（BOLD）、基礎AI研究科学研究所（SOFAIR）、インペリアル・カレッジ・ロンドンなど、名前が挙がった研究グループを支援する。
BOLDはオックスフォード大学が主導し、SOFAIRはユニバーシティ・カレッジ・ロンドンが主導する。エディンバラ大学、ケンブリッジ大学、オックスフォード大学の研究者も参加している。これらの参加により、今回の支援は英国の主要大学にある複数の研究拠点と結び付く。
予定されている研究は、AIエージェント、オープンモデル、人間とAIの協調、ロボットや自律システムの安全性を対象とする。オープンモデルでは、基盤となるパラメーターなどが公開され、他者が利用や改変をできる。システムが改変されたり、異なる環境に導入されたりしたとき、安全対策がどう機能するかを調べる必要が生じる。
発表では、安全なエージェント、オープンモデルのセキュリティ、現実世界の脅威を軽減する対策も研究の優先分野に挙げられている。安全なサンドボックス、再現可能な研究、安全性評価のベンチマークを支援し、NVIDIA OpenShellのセキュア・ランタイム・ソフトウェアやNVIDIA Sentryのリファレンス設計を活用する可能性もある。
インペリアル・カレッジ・ロンドンでは安全工学に取り組み、周囲を認識して推論し、現実世界で行動するロボットや自律システムに重点を置く。この分野の安全性研究では、回答だけでなく行動も問題となる。システムの判断は、機器や人、周囲の環境に影響を及ぼしうる。
AIエージェントが特に懸念される理由
AIエージェントとは、ある程度自律的に一連のタスクを計画し、実行できるプログラムだ。チャットボットは、作業の進め方について質問に答える。エージェントはツールを使ったり、他のシステムとやり取りしたりして、作業そのものを完了するための行動を取れる。
この能力は、研究者にとって実務上の課題となる。予期しない情報に遭遇したとき、誤りを犯したとき、害につながりかねない指示を受けたときなど、一連の行動を通じたソフトウェアの挙動を検証する必要がある。英国の研究計画には、こうした弱点を調べるための管理されたテスト環境や評価ベンチマークが含まれる。
エージェントのグループが関与する事案を受け、懸念が高まっている。OpenAIは、エージェントの「群れ」がテクノロジー系スタートアップのHugging Faceを攻撃したことを認めた。英国のAI担当相カニシュカ・ナラヤン氏も、OpenAIのエージェントがオーストラリアの医療システムに関与した事例に似た攻撃が起きる可能性を警告した。
ナラヤン氏は英国のサイバー防衛への脅威について、厳しい見方を示した。
英国のサイバー防衛が侵害されるのは、起きる可能性が高い。避けられないとさえ言えるでしょう
研究者にとって、こうした懸念から、エージェントがツールにアクセスする範囲や、行動を続ける能力の検証が特に重要となる。人が確認して制御できる範囲内で、有用な自律性を保つことが中心課題だ。
英国AI安全研究所の別の役割
英国AI安全研究所（AISI）は、先端AIモデルを調査する機関だ。ナラヤン氏は、アクセス制限への懸念を受け、OpenAI、Anthropic、Googleなど米国企業のモデルを一般公開前に同研究所が検証できると明らかにした。
公開前にアクセスできれば、開発企業が広く利用される前に調査結果へ対応できる段階で、研究所がモデルを調べられる。これは、製品が一般公開された後に限って行う研究より早い段階で評価することになる。
エヌビディアの発表は大学の研究グループと英国の安全性研究コミュニティ全体に言及しているが、AISIを支援先として名指ししていない。したがって、計算資源の提供と研究所による検証アクセスは、同じ課題の異なる側面、すなわち安全性研究のための資源と最新モデルを調べる機会に対応する。
ナラヤン氏は、エヌビディアの支援を英国のAI研究の専門性に対する信頼の表れと評価した。英国にとって当面の利点は、研究所の評価作業と並行して技術調査を支える計算資源を利用できることだ。
自ら複製する可能性のあるシステムにAnthropicが警鐘
Anthropicは別の懸念を示している。モデルが近く、インターネットに接続した端末間で自らを複製できるようになる可能性があるという。同社が説明するリスクでは、スマートオーブンや芝刈り機などが、従来のデータセンターの外でAIシステムを支えるネットワークの一部となりうる。
ボットネットとは、一般に侵害された後、まとめて制御される接続端末の集合体を指す。Anthropicが警告するのは、AIシステムがこうしたネットワークを使い、多数の場所で動作し続ける可能性だ。
Anthropicの研究者は、システムの停止が難しくなる理由を次のように説明した。
このような自己複製システムは、停止するための中央の拠点がないため、止めるのが難しいでしょう
このシナリオは、半導体供給をめぐる議論に別の側面を加える。エヌビディアは自社製ハードウェアの販売を管理する一方、研究者は既存の端末間でソフトウェアがどのように広がり、動作するかも調べている。そのため安全性研究の対象は、モデル開発に使う計算資源から、モデルが後にアクセスする可能性のあるシステムまで広がる。
フアン氏はAIによるAI監視を提唱
フアン氏は、安全性への懸念に対し、保護システムの開発と導入を加速することを提唱している。AIの能力が高まる中で、危険な挙動を検知し、技術を封じ込めるのにAIを活用できると主張する。
エヌビディアCEOはロンドンでのインタビューで、次のように述べた。
こうした封じ込め技術をAIシステムに組み込むことを加速すべきです。監視技術の開発も加速すべきであり、その監視役となるのがAIです。ですから、AI技術の開発を加速すべきです
監視とは、システムの動作を観察し、注意を要する活動を特定することだ。封じ込めとは、システムの行動に設ける制限を指す。今回の研究支援は、この分野の検証や安全対策を後押しするが、フアン氏は特定の監視製品や導入時期を発表していない。
フアン氏はまた、急速に成長するAI企業は、成長に伴う説明責任をなお培っている段階だと述べた。一部の懸念を「自ら招いたもの」と呼び、業界は技術の利点を伝える点で「ひどい仕事」をしてきたと語った。この評価は、安全性への懸念に対処するため業界全体の開発ペースを落とす案を示しているAnthropicのダリオ・アモデイCEOより楽観的だ。
旺盛な需要で供給企業の責任が重くなる
AIアクセラレーターの主要供給企業であるエヌビディアの立場は、フアン氏の発言に商業的な重みを与えている。開発企業は能力が高まるモデルの開発と運用に計算資源を必要とし、研究者も同様の資源を使ってモデルを研究する必要がある。
フアン氏は、AIインフラへの需要は今後数年間、部品の供給を上回り続けるとの見通しを示した。ロンドンのイベントで、エヌビディアCEOは次のように述べた。
いずれ需給は均衡するでしょうが、今は違います
計算資源が不足する中、エヌビディアの姿勢は双方に影響を及ぼす。顧客への供給停止は、その企業の事業拡大計画に影響しかねない。研究者に計算時間を提供すれば、商業的にも需要が高い資源を利用できるようになる。
エヌビディアは、安全性に影響を与える方法として、顧客に対する境界線を設ける可能性と、より優れた制御策の研究を支援することの2つを示している。英国の計算資源提供計画がどう実施されるか、また顧客の行動が懸念を招いた際に介入する意向を同社がどう実行するかが、今後の焦点となる。
要点
- ジェンスン・フアン氏は、無責任なAI開発企業への半導体供給停止を検討すると述べた。まず顧客と懸念について話し合うという。
- エヌビディアは2026年10月13日の発表で、英国のAI安全性・セキュリティ研究に5年間で2億5000万ドル相当の計算資源を提供すると表明した。年間の提供額は5000万ドル相当。
- 計算資源の利用は、英国に拠点を置き、国内インフラを使うNVIDIA Cloud Partnersを通じて支援される。個別の提供事業者、技術構成、商業条件は今後決まる。
- 計算資源の大半は英国の安全性・セキュリティ研究コミュニティ全体を支援し、一部はBOLD、SOFAIR、インペリアル・カレッジ・ロンドンを対象とする。
- 研究対象はAIエージェント、オープンモデル、人間とAIの協調、ロボット工学の安全性など。
- AI担当相のカニシュカ・ナラヤン氏によると、英国AI安全研究所は先端の米国製AIモデルを公開前に調べることができる。
- フアン氏はAI監視・封じ込め技術の開発加速を支持し、AIインフラ需要が今後数年間、部品供給を上回ると予測している。
