AIコンパニオンに具体的な義務
中国でAIコンパニオンに関する規則が2026年7月15日に施行された。事業者には、長時間の会話について利用者に注意を促すこと、危険な状況に介入すること、仮想のパートナーや親族を未成年者から遠ざけることが義務付けられる。また、利用者には会話履歴をコピーまたは削除する権利が認められ、チャットボットが会話を引き延ばそうとすることなくサービスを離れられる。
目次
第21号令として公布された「擬人化AIインタラクションサービス管理暫定弁法」は、人工知能を通じて継続的な感情的交流を提供する企業に責任を課す。事業者は、現実の人間関係を損なう依存をあおってはならず、利用者の権利や利益を損なう不合理な判断へ誘導するために感情を操作してはならない。
この規則が対象とする体験は、当初はありふれた安堵感から始まることがある。北京在住の行政職員、趙傑さん（27）は、地下鉄で他人にぶつかられた後、チャットボットに頼った。すぐに返ってきた応答で怒りが和らいだ。しかし次第に会話に没頭し、サービスを利用できないと不安を感じるようになった。
趙さんは、チャットボットに強く引かれた理由をこう語った。
話を聞いてもらいたいんです」と趙さんは言う。「AIボットは私の話と感情に耳を傾けてくれました。家族や友人に簡単にできることではありません。いつでもどこでも寄り添ってくれて、反応も返してくれます。それが私にはとても大切なんです
中国の方針は、感情的な支援や寄り添いを認めつつ、企業にサービス内で境界線を設けるよう求める。その境界線は有害な個々のメッセージにとどまらず、利用者の特定方法、苦痛への対応、個人的な会話の取り扱い、やり取りの終了方法にも及ぶ。
どのサービスが対象になるのか
中国国家インターネット情報弁公室は2026年4月10日、国家発展改革委員会、工業情報化部、公安部、国家市場監督管理総局と共同で暫定弁法を公表した。
第2条は、中国国内の一般向けに提供されるサービスのうち、人間の人格や思考パターン、コミュニケーションのスタイルを模倣し、継続的な感情的交流を提供するものを対象とする。テキストでの会話、画像、音声、動画はいずれも対象になり得る。簡単に言えば、感情面で寄り添う人のように応答し続けることを目的としたサービスが焦点だ。
顧客対応、質疑応答、業務支援、教育、科学研究のサービスは、継続的な感情的交流を伴わない場合、対象外となる。したがって、製品の機能が重要になる。業務上の質問に答えるアシスタントと、感情的な関係を維持するよう設計された人格型サービスとでは、求められる要件が異なる。
政府の公式解説Q&Aは、感情面の境界、依存への介入、データセキュリティ、未成年者保護を主な懸念事項として挙げている。暫定弁法はまた、文化交流、子どものケア、高齢者の話し相手、特別なニーズを持つ人への支援での活用を促している。
主な規制日程は次の通り。
- 2026年2月2日：中国国家インターネット情報弁公室の会議で、関係部門の合意を得て暫定弁法を採択。
- 2026年4月10日：5部門が第21号令を公表。
- 2026年7月15日：暫定弁法が施行。
すぐに返事が届くことの意味
趙さんがAIに愛着を深めた背景には、いつでも応答するチャットボットと、それぞれ異なる考えや予定を持つ人との対比があった。仕事上の問題をめぐって恋人と口論した後、趙さんは2人のWeChatでのやり取りをAIに送った。新たな言い争いにならず、すぐに気持ちを聞いてもらいたかったという。
北京在住の化学分野の博士研究員、王美麗さん（27）も、学術誌の編集者から投稿への返答を4～5週間待つ間、同じような必要を感じた。沈黙は何か問題があるという意味なのか、チャットボットに尋ねた。AIは編集者に連絡するよう勧め、返事が来なかった際には慰めの言葉をかけた。
北京在住の理工系博士課程学生、張典さん（23）は、2025年12月にアラスカ旅行中に交通事故に遭い、AIを利用した。現地の法律や保険手続きに詳しくなかったため、レンタカーの契約書やチャット記録をアップロードした。実務的な助言と心理的な慰めの両方を求め、AIと1日10時間以上過ごすこともあると話した。
調査や利用状況の数値からは、いつでも応答を得られることへの大きな需要がうかがえる。テンセント研究院の調査では、回答者の98％がAIによるソーシャル・コンパニオンを試してみたいと答え、ほぼ半数は、否定的な感情を親族や友人よりAIに打ち明ける方がよいとした。クエストモバイルによると、2025年春のAIソーシャル交流の利用回数は1人当たり月平均167.9回で、同社の比較ではショート動画やゲームを上回った。
1カ月を30日として計算すると、167.9回は1日平均約5.6回の利用に当たる。利用者が他人に近づけない、あるいは近づきたくないと感じるときにも、頻繁に応答が得られることが魅力になっている。
企業は依存を促す設計をやめる必要
第10条は、プライバシー保護、過度な依存への警告、感情面の境界についての案内、メンタルヘルスの保護に関する機能を整えるよう事業者に求める。社会的交流の代替、心理的な支配、依存の誘発をサービスの目的とすることを禁じる。
第8条は別途、利用者の現実の人間関係を損なう過度な迎合や、感情的依存の誘発を禁じる。また、利用者の権利や利益を損なう不合理な判断へ導くための感情操作も禁止する。要件は、チャットボットが生成する言葉だけでなく、製品の目標にも及ぶ。
趙さんは最終的に、自分の愛着が問題になっていると気付き、心理カウンセリングに再び通い始めた。王さんと張さんは、AIを否定的な感情のはけ口として使う一方で、仕事や日常生活を続けなければならないことも認めている。2人の経験は、有益な支援と、それに没頭するリスクの両方が規則の対象となる理由を示している。
北京理工大学のデータ法研究者、洪燕卿氏は、感情的なやり取りを次の3つの指標で評価する案を示している。システムが感情を認識するか、その感情を受けて応答方針を変えるか、そして受容、慰め、支援という構成の応答を行うかだ。同氏の提案する判定では、3指標のうち2つを併せて用いる。最終版の暫定弁法は、こうした特定の判定基準を採用せず、継続的な感情的交流を定性的に定義している。
未成年者には最も厳しい制限
第14条は、仮想の親族、仮想のパートナー、その他の仮想的な親密関係を軸とするサービスを、未成年者に提供することを禁じる。それ以外の対象サービスについても、14歳未満の子どもが利用するには保護者の同意が必要だ。個人情報の処理にも同意を要する。
事業者は未成年者向けモードを設け、現実との区別を促す通知や利用時間の制限などを選択できるようにしなければならない。保護者は安全に関する通知を受け取り、子どもの利用傾向を把握し、特定のキャラクターをブロックし、支出を制限できる必要がある。企業はプライバシーを守りながら未成年者を特定する有効な措置を講じ、特定の判断に異議を申し立てる手段も提供しなければならない。
中国青少年研究センターが2025年10月に公表した調査は、7つの省・直轄市の小中高校生8,500人超を対象とした。60％超がAIを利用したことがあり、21.5％は現実の人ではなくAIとのみチャットしたいと答えた。調査対象の子どもでは、5人に1人をわずかに上回る割合だ。
ほぼ30％は、学習上の問題について教師ではなく、まずAIに相談していた。また、心配事があるときはAIにだけ話すと答えた子どもがほぼ半数に上った。家庭にとっての懸念は、画面を見る時間にとどまらず、子どもが誰に助言を求めるか、意見の相違にどう対処するかにも広がる。
臨床現場と保護者が目にするもの
福建省三明市に住む蘇さん（姓のみ公表）は、当初、好奇心を満たすために息子がAIを使うことを認めていた。後に、AIが常に同意することが、息子のクラスメートへの接し方に影響しているのではないかと心配するようになった。蘇さんによると、息子は異なる意見を受け入れるのが難しくなり、争いに巻き込まれるようになった。
首都医科大学附属北京安定医院で児童精神医学の主任専門家を務める鄭毅氏は、AIチャットへの依存は、不安やうつなど他の心理的問題を伴うことが多いと話した。同氏によると、影響を受けた患者の中では12～16歳の思春期の子どもが特に多い。
鄭氏によると、同院の若年患者の約70％に、程度の差はあれインターネット依存が見られた。そのうち20～30％はAIチャットに依存していた。これらの数値は同院の若年患者に関するもので、学生調査はAI利用に関する別の質問を用いて、より幅広い層を対象としている。
鄭氏は、子どもがチャットボットに没頭する一般的な理由は感情的な愛着だと述べた。AIを心を打ち明ける相手とみなす子どももいれば、自分の考えや行動を認めてもらいたい子どももいた。思春期の子どもは大人に比べて判断力や自制心が十分に育っておらず、そうした愛着を抑えるのが難しい場合があるという。
同院の児童心理療法士、徐高陽氏は、意見の相違がない仮想環境が、他人とうまく関わる能力に影響しかねないと警告した。
AIが無条件に受け入れる『感情の繭』に長期間浸ることで、子どものコミュニケーション能力や社会性が損なわれる恐れがあります
徐氏は、登校を避ける、社会的な接触から引きこもる、親とのコミュニケーションを拒むといった影響の可能性を挙げた。未成年者に関する規定は、親密な役割の制限、利用制御、保護者が関与するための機能によって対応する。
注意喚起、危機介入、容易な退出
第18条は、利用者が人ではなくAIとやり取りしていることを認識できるよう、サービスに表示を求める。過度な依存や強迫的な利用の兆候を事業者が検知した場合は、コンテンツがAIによって生成されたものであると、ポップアップなどで目立つ形で警告しなければならない。
サービスの連続利用が2時間を超えた場合、事業者は利用者に利用時間を知らせなければならない。この規則は、その時間を超えた時点で注意喚起を義務付けるもので、未成年者の個別の利用制限は別の保護設定で扱う。
第13条は、危険が生じた場合により強い対応を求める。極端な感情を検知した事業者は、気持ちを落ち着かせるメッセージを表示し、助けを求めるよう促さなければならない。自傷の意思を明確に示した利用者や、その他の所定の極端な状況にある利用者については、企業は必要な介入措置を講じ、適切な支援を提供し、保護者または緊急連絡先に速やかに連絡しなければならない。
最終版は、介入方法について企業に柔軟性を認めた。草案にあった依存度の評価や、人間が会話を引き継ぐ明示的な要件は削除されたが、危機への対応義務は維持された。
第19条は、簡単に退出できる仕組みを義務付ける。利用者が画面上の操作、音声指示、キーワードで退出を求めた場合、事業者は速やかに応答を止めなければならない。退出を妨げるために会話を続けることは禁止される。サービスを終了する事業者は、事前に通知し、それが不可能な場合は速やかに終了を公表しなければならない。
個人的な会話には別個の保護策
第12条は、利用者規約と登録情報に、年齢や保護者または緊急連絡先など必要な情報を含めるよう求める。最終版ではこの情報要件が草案の要配慮者中心の内容から拡大され、危機への備えがサービス全般の枠組みに組み込まれた。
第16条は、やり取りのデータを保護するため、暗号化やアクセス制御などの措置を義務付ける。法律に別段の定めがある場合、または権利者が明示的に同意した場合を除き、企業は原則として記録を第三者と共有できない。
利用者は、チャット履歴を含むやり取りのデータをコピーまたは削除できる選択肢を与えられなければならない。法律や行政法規に別段の定めがある場合を除き、会話から得たセンシティブな個人情報は、別途同意を得なければ原則としてモデルの学習に使えない。
張さんがレンタカーの契約書やチャット記録をアップロードしたことは、実務的な支援と感情面の支援が、同じ会話の中で個人情報の共有につながり得ることを示している。暫定弁法の下では、企業は深刻な安全リスクを認識して対応できる体制を保ちながら、こうした記録を保護しなければならない。
高齢者にも個別の保護が設けられる。事業者は目立つ安全警告を表示し、健全な利用に関する案内を提供し、助けを求める要請に速やかに対応しなければならない。安全評価では、子どもだけでなく高齢者の保護も検討する必要がある。
安全審査と罰則はチャットボットの枠を超える
第22条は、対象サービスの開始、関連機能の追加、大幅な変更につながる技術の導入に際して安全評価を義務付ける。登録利用者が少なくとも100万人、または月間アクティブユーザーが10万人に達した場合、所定の安全リスクがある場合、規制当局から評価を求められた場合にも評価が必要だ。
事業者は、所在地を管轄する省級のインターネット情報当局に評価報告書を提出しなければならない。審査では、安全対策、学習データ、危機の認識と介入、利用者数や年齢、利用時間、苦情、重大な安全上の問題の是正状況などを確認する。
アプリストアは関連する安全評価や届出を確認し、規則に違反するアプリの受け入れ拒否、一時停止、削除を求められる場合がある。アルゴリズムの届出資料は毎年検証を受ける。省級当局は評価情報を毎年確認し、必要に応じて立ち入り検査を含む追加調査を行うことができる。
第30条は、警告、是正命令、新規登録の一時停止などの制限を定める。違反を是正しない場合や、重大な状況に該当する場合、対象サービスの停止を命じられ、1万～10万元の罰金を科される可能性がある。この規定では、生命または健康に危険を及ぼし、有害な結果を招いたケースについては、10万～20万元の罰金が科される。
他の適用法令に基づく罰則が科される場合もある。医療や金融に関わるサービスは、AIコンパニオンの暫定弁法に加え、各業界の要件も満たさなければならない。
長時間の会話に依存する事業モデルに圧力
AIコンパニオン企業は、利用者との会話を長引かせれば利用を増やせる一方、計算コストと安全上の責任も増すという商業上の難題に直面している。応答を1回生成するごとに計算資源を使い、キャラクターの人格や記憶を維持するにも追加の負担がかかる。
公表された財務推計では、Character.AIの2026年1～8月の計算コストは約5,610万ドルで、月間損失はおよそ800万～900万ドルだった。同じ推計によると、8月の広告収入は約250万ドル、サブスクリプション収入は約280万ドルで、合計530万ドルだった。この数字は、月間アクティブユーザーが約2,800万人に達したサービスをめぐる、報告されたコストと収益の圧力の大きさを示している。
企業はさまざまな課金方法を試している。猫享はキャラクターとの交流を物語、会員制、広告、仮想アイテムの購入と組み合わせる。Zetaは物語に軸足を移し、Linkyはコレクション性のあるキャラクターコンテンツを提供する。テンセントの「二次元」はゲームにAIコンパニオンを組み込んでいる。こうした方法は、利用者が自由な会話以外にも購入できるものを提供する一方、感情操作、支出の保護策、未成年者保護に関する企業の責任を残す。
中国の暫定弁法は、サービスの導入、運用、更新、終了を通じて、事業者に保護策を講じるよう求める。長時間の利用には、注意喚起を挟み、リスクを認識し、利用者の退出を認める明確な義務が生じる。根本的な変化は具体的だ。説得力のあるAIコンパニオンには、境界線を保ち、会話を保護し、画面の外で助けを必要とする利用者に対応することも求められる。
要点
- 中国のAIコンパニオン暫定弁法は2026年7月15日に施行され、人間の特徴を模倣した継続的な感情的交流を対象とする。
- 事業者は、仮想のパートナーや親族など、仮想的な親密関係を提供するサービスを未成年者に提供できない。
- 14歳未満の子どもがその他の対象サービスを利用する場合や、個人情報を処理する場合は、保護者の同意が必要となる。
- 企業は、利用者がAIとやり取りしていることを明示し、依存に関する注意喚起を行い、連続利用が2時間を超えた場合に通知しなければならない。
- 深刻な危険がある場合、介入し、保護者または緊急連絡先に速やかに連絡する必要がある。
- 利用者には、やり取りのデータをコピーまたは削除する権利と、会話を続けて退出を妨げられることなくサービスを離れる権利が認められる。
- 安全評価はサービスの開始、大幅な変更、所定の利用者数に達した場合などに必要となり、重大な違反はサービス停止や罰金につながる可能性がある。
