偽アカウントと有権者プロファイル、議会で審議
マレーシアの通信規制当局は、同社のClaude人工知能(AI)モデルがマレーシアの有権者を標的とした商業的な政治操作プラットフォームの構築を支援したとAnthropicが明らかにしたことを受け、技術的な詳細と証拠の提出を求めている。問題の作戦では、約1,000件の偽Xアカウント、架空のニュースサイト、全222選挙区を網羅する有権者プロファイルが組み合わされていた。
目次
通信省は11月17日付の議会答弁書で、マレーシア通信・マルチメディア委員会(MCMC)が証拠を評価したうえで、追加措置を判断すると述べた。既存の通信関連法やオンライン安全法を適用する可能性がある一方、デジタル省は別途、人工知能ガバナンス法案を起草している。
Anthropicは、この作戦をトルコ・イスタンブールに拠点を置くテクノロジー企業、BBS Bilisim Teknolojileriと結び付けた。同社は9月11日に関与を否定した。Anthropicは関係するClaudeアカウントを停止し、さらなる悪用を防ぐ対策を導入したと述べた。
この事案では、全国の有権者をプロファイルするよう設計されたシステムと、実際の対象者は限られていたとみられる作戦という、異なる二つの規模が交差している。Anthropicによると、キャンペーンが人工的に作られたネットワークを超えて実在のオンラインコミュニティーに届いた証拠は見つからなかった。
マレーシアの有権者にとって、疑惑の欺瞞は誤解を招く投稿にとどまらなかった。プラットフォームは、作り上げたアカウントを一般の人々に見せかけ、書き換えた記事を独立系報道に見せ、捏造した疑惑を情報機関の調査結果のように装うことができた。マレーシアが当面取り組むべき課題は、誰がシステムを運営し、どのような措置が法律の適用範囲に入るのかを明らかにすることだ。
マレーシアがAnthropicに求めている情報
MCMCは、疑惑の作戦に関する詳細な技術的説明と裏付けとなる証拠を求めている。11月17日の答弁書は、ペリカタン・ナシオナル所属でブルラン選挙区選出のダトゥク・セリ・ドクター・ロナルド・キアンディー議員が、関係者と偽アカウントや捏造ニュースポータルへの対応について質問したことに答えたものだ。
通信省は、執行措置を決める前にさらなる情報を求めている理由を説明した。
あらゆる評価と追加措置が十分な情報と証拠に基づくよう、MCMCはAnthropicに報告に関する追加情報と説明を求めている。
通信相のダトゥク・ファーミ・ファジル氏も、パシルマス選挙区選出のペリカタン・ナシオナル所属、アハマド・ファドリ・シャーリ議員への議会答弁でこの問題を取り上げた。質問は、ClaudeなどのAIアプリを通じた外国による選挙干渉を調査・防止するための政府の措置に関するものだった。
同省は、追加対応には執行機関や治安機関、デジタルプラットフォーム、その他の関係者が関わる可能性があると述べた。示された方針は、証拠を集め、MCMCの管轄内で事案を評価したうえで、適切な対応を判断するというものだ。
マレーシアの有権者データを軸に構築された商業サービス
Anthropicは、このプラットフォームを、政治的影響力を行使する機能を顧客に販売するサービスと説明した。このビジネスモデルでは、購入者は自らインフラを構築するのではなく、世論形成を狙うツールや活動のために運営者へ料金を支払う。
同社によると、このシステムは国勢調査情報や選挙データ、数百万件の有権者記録を使い、マレーシアの全222選挙区のプロファイルを作成した。人種、宗教、王室に関する問題を含め、地域ごとの政治的・社会的な分断を特定することを目的としていた。
選挙区プロファイルは、選挙区に関する情報を一か所にまとめるものだ。Anthropicによると、この作戦ではClaudeが情報を標的設定ツールに変換するのを支援し、影響力を狙うコンテンツの配信に使われるインフラも支えた。こうした組み合わせにより、運営者は異なるコミュニティー向けに別々のメッセージを用意できた可能性がある。
Anthropicの脅威評価は、このサービスがどのように自らを位置付けていたかを説明している。
このプラットフォームは、防御的なサイバー情報分析と偽情報対策ツールを提供する窓口を装っていた。
Anthropicは調査の結果、プラットフォームをBBS Bilisim Teknolojileriと結び付け、影響力行使の機能へのアクセスを販売していたとした。トルコ企業が関与を否定しているため、MCMCが求める技術的証拠はマレーシアの評価にとって重要となる。
偽アカウントが本物らしく見せようとした手口
Anthropicによると、このプラットフォームはX上で約1,000件の偽アカウントを管理していた。政治的影響力を狙う活動に使う前に、アカウントを実績のある本物らしいものに見せる仕組みも備えていた。
Anthropicは、検知を回避するためにクッキーとインターネット・プロトコル(IP)アドレスを更新する試みがあったと説明した。クッキーはオンライン活動中に保存される小さな情報で、IPアドレスはネットワーク上の接続を識別する。こうした情報を変えることで、運営者はアカウント間の関連を隠しやすくなる。
ダッシュボードでは、標的アカウントに人工的な閲覧数を付与する依頼もできた。Anthropicによると、現職のマレーシア首相のアカウントを支援するため、100万回の人工的な閲覧数を求める依頼が確認された。依頼した顧客は特定されておらず、Anthropicはアンワル・イブラヒム首相や首相府とのつながりを確認していない。運営者自身のツールに表示された反応数も検証されていなかった。
ナンヤン工科大学ウィー・キム・ウィー・コミュニケーション・情報学部の新メディア専門家、サイフディン・アハメド氏は、疑惑の活動がなぜ操作に当たるのかを説明した。
したがって、これは単に有権者をより効果的に標的にする問題ではなく、背後に誰がいるのかを隠しながら、人工的に操作された世論のやりとりを作り出すことに関わっていた。
「マレーシア・パルス」、書き換えたニュースと捏造疑惑を混在
Anthropicによると、この作戦は「マレーシア・パルス」という架空のニュースサイトと、それに連動するYouTubeチャンネルも運営していた。ウェブサイトはマレーシアの正規報道機関の記事をコピーし、Claudeを使って繰り返し書き換えたうえで、架空の署名者名を付けて掲載していた。
マレーシア・パルスは、TV BRICS、新華社、スプートニク/RIA、CGTNのコンテンツも再掲載した。Anthropicによると、元の報道機関を示す出典表記は削除され、独立したマレーシアの報道であるかのように見せられていた。この手法により、読者はニュースの作成者や出所について異なる印象を持つことになった。
記事に加え、運営者はClaudeを使い、匿名の野党政治家や市民社会団体に対する疑惑を含む、捏造された情報資料を作成した。資料集とは、個人や団体に関する情報を集めたものだ。ここでは、提示の仕方によって、でっち上げの主張が記録に基づく調査のように見せられていた。
Anthropicは疑惑について、明確にこう述べた。
これらの疑惑は、行為者によって完全に捏造されたものだった。
Claudeは、一部の依頼を拒否または部分的に拒否した。ある資料が政治的中傷を目的としていると判断した後も、その一例だった。Anthropicによると、運営者は同じ機能を引き続き利用しようと、依頼の文言を変えた。この事案は、個々の依頼が繰り返し言い換えられるなかで、悪用目的のプロジェクトを検知する難しさを示している。
MCMCが独自に関与を否定した理由
Anthropicによると、運営者はMCMCとの契約獲得を目指していた。同社は、その試みが成功した証拠は見つからなかったと述べた。MCMCは9月11日、説明されたような活動や取り決めへの関与を否定した。
規制当局は声明で立場を示した。
明確にしておくと、報告書に記された性質の活動はMCMCの機能や権限の範囲に含まれず、MCMCはそのような活動や取り決めに関与していない。
MCMCは、事実関係を確認し背景を把握するため、疑惑を調査し、追加情報を求めていると述べた。国民を守り、オンライン上の被害に対処することは、引き続き同委員会の責務の中心にあるという。
法制度改革を担当する首相府相のダトゥク・セリ・アザリナ・オスマン・サイド氏は、包括的かつ独立した調査を求めた。同氏の要請により、作戦への監視と、規制当局自身による証拠収集が並行して進むことになった。
9月の公表から議会答弁まで
公の対応は、企業による情報開示、関与の否定、議会での質問を通じて進んだ。主な経緯は次の通り。
- 9月:Anthropicは脅威評価で、マレーシアを標的とした疑惑の作戦を公表し、関係するClaudeアカウントを停止したと発表。
- 9月11日:BBS Bilisim Teknolojileriが関与を否定。MCMCも説明された活動への関与を否定し、疑惑を調査していると表明。
- 11月3日:アハマド・ファドリ・シャーリ議員への書面答弁で、技術的説明の要請と既存法の適用可能性を提示。
- 11月17日:通信省はロナルド・キアンディー議員への答弁で、証拠収集の手続きを改めて説明。
重要な詳細のいくつかは、依然として明らかになっていない。マレーシアでの活動に誰が資金を出したのか、正確な実施期間、特定の選挙との関連、AnthropicがMCMCの要請に回答したかどうか、警察が正式な刑事捜査を開始したかどうかは公表されていない。AI法案の導入時期も示されていない。
Anthropicの9月の評価は、サイバー作戦、監視、詐欺、政治的影響力行使など、Claudeのさまざまな悪用を対象としていた。影響力を狙った事例全体では、政府、政府系メディア、影響力行使サービスを販売する民間企業など、6大陸の対象者に働きかける行為者を記述した。
既存法と別途策定中のAI法案
通信省は、1998年通信・マルチメディア法、2025年オンライン安全法、その他の適用法を、規制措置や執行措置の根拠となり得るものとして挙げた。対応は証拠とMCMCの管轄権に左右される。
提案されている人工知能ガバナンス法案は、目的が異なる。デジタル省は、説明責任、リスク管理、AIシステムの開発・導入を行う者の責任を定める規則を起草している。平たく言えば、この法案は、AI製品のリスクを誰が管理すべきか、また責任が果たされなかった場合に誰が責任を負うのかを扱うものだ。
二つの取り組みは、問題の異なる側面に対応する。既存法は、疑惑の活動に現時点で対処するために政府が示した手段となる。提案中の法案は、AIシステムの開発と利用に関する、より広範な責任を定めることになる。
マレーシア国外の企業に帰属するとされる作戦には、単一の規制当局を超えた協力も必要となる。治安機関、捜査機関、プラットフォーム事業者との連携を予定する同省の方針は、関連証拠がどこに存在し得るかを反映している。AIサービス、ソーシャルネットワーク、運営者、そして顧客だ。
AIがコンテンツ制作を加速、配信先はプラットフォームが提供
Anthropicによると、内部システムでアカウントを検知し、アクセスを停止したほか、調査で得た情報を使って作戦の全容を把握した。インフラは大規模だったものの、実在のオンラインコミュニティーに大きく浸透した証拠は見つからなかった。
世界各地の選挙を担当する元Meta幹部で、現在はテクノロジーコンサルタント会社アンカー・チェンジのトップを務めるケイティ・ハーバス氏は、影響力を狙うコンテンツの制作におけるAIの役割を説明した。
AIを使えば、より多くのコンテンツを、より個人に合わせて、より速く、より安く作ることができ、その規模を飛躍的に高められる。
ハーバス氏は、運営者には依然として配信手段が必要であり、現在はソーシャルメディア・プラットフォームがその役割を担うと述べた。マレーシアの事例は、その両面を示している。Claudeがコンテンツとツールの構築を支援し、偽アカウントやウェブサイト、YouTubeチャンネルが読者への配信手段として使われるはずだった。
東南アジアの他の地域でも、同様の懸念が浮上している。OpenAIは、フィリピン政治について架空のコメントを生成し、フェルディナンド・マルコス・ジュニア大統領を支持するコメントなどを投稿していたアカウントを停止した。インドネシアの2024年の選挙では、プラボウォ・スビアント氏を描いたAI生成のアニメ風動画が人気を集め、強権的なイメージを和らげるのに一役買った。
マレーシアで疑われる作戦は、とりわけ敏感な社会的分断を標的にした。ノッティンガム大学アジア研究所マレーシアのブリジット・ウェルシュ氏は、こうした活動が政治的分極化を助長すると警告した。モナシュ大学マレーシア校のメディア講師、ベン・ロー博士も、AIコンテンツがロヒンギャ難民への既存の敵意を強めていると指摘している。
マレーシアにとって、次の具体的な段階は証拠の評価だ。Anthropicは特定したClaudeアカウントを停止した。MCMCは今後、入手した情報が、疑惑の作戦を背後で支えた人物や組織への措置を正当化するか判断しなければならない。
要点
- MCMCは追加措置を決める前に、Anthropicに技術的な説明と証拠を求めている。
- Anthropicは約1,000件の偽Xアカウント、「マレーシア・パルス」サイト、全222選挙区を対象とする有権者の標的設定を明らかにした。
- Anthropicがプラットフォームとの関連を指摘した後、BBS Bilisim Teknolojileriは関与を否定した。
- MCMCは活動への参加を否定した。Anthropicは、規制当局との契約獲得を図ったとの報告について、成功を示す証拠はなかったと述べた。
- Anthropicは特定したClaudeアカウントを停止し、実在のオンラインコミュニティーに意味のある影響が及んだ証拠は見つからなかったとした。
- マレーシアは既存の通信関連法やオンライン安全法を挙げる一方、AIガバナンス法案を策定している。






