深刻化する問題の中の小さな表示
俳優のJanhvi Kapoor、Keerthy Suresh、Sunainaaは、自身の肖像を人工知能（AI）によるディープフェイクに悪用されたとして異議を唱え、不適切な画像や動画を受けて法的措置も辞さない構えを示した。こうした経験から、ソーシャルメディアのプラットフォームにとって実務的な疑問が浮き彫りになっている。画面に映る人物がデジタル加工で作られたものだと、視聴者はどれほど簡単に見分けられるのか。
Pearl Academyでコミュニケーション、映画、ゲーム分野の学部長を務める視覚効果の専門家、CB Arun Kumar氏は、AIを使って作成されたコンテンツに明確で目立つ表示を義務付ける法律を求めている。現行の表示は見落とされやすく、捏造された素材が本物の写真や録画、ニュース映像のように見えてしまうと指摘する。
同氏の批判の中心にあるのが、Instagramの「AI Info」タグだ。アカウントのユーザー名と投稿された画像や動画の間に、小さな文字で表示されるという。問題は視認性だと同氏は懸念する。気付かずにスクロールして通り過ぎる視聴者にとって、開示表示はほとんど役に立たない。
Arun Kumar氏は、より厳しい表示義務を求める理由を次のように説明した。
ネット上に広がる災害映像のように、AIコンテンツがニュースを装うことのないよう、明確で目立つ表示を義務付ける、より厳しい法律が必要です。本当の問題は、何が現実で何が偽物なのか、視聴者に見分けがつかなくなることです
同氏の提案は、互いに関連する二つの問題に対処するものだ。俳優は、自分の身元が不適切なコンテンツに使われるという個人的な被害に直面する。一方、視聴者には、作られた場面を実際に起きた出来事だと受け止めてしまうリスクがある。目立つ表示があれば、画像を見た時点で情報を得られ、信じるか共有するかを決める前に判断できる。
俳優たちに何が起きたのか
Kapoor、Suresh、Sunainaaは、自身の肖像が不適切なディープフェイク画像や動画に使われたとして、衝撃を表明したり異議を唱えたりした俳優たちの一部だ。悪用した人物に対して法的措置を警告する反応も出ている。
ディープフェイクとは、本人が実際にはしていない行為をしたり、言っていないことを話したりしているように見せるため、AIで作成または加工された画像、動画、音声記録を指す。俳優の場合、顔立ちに見覚えがあるため、本人が制作に一切関わっていなくても、偽造物が本物らしく見えることがある。
目の前にある問題は、本人が自分のアイデンティティーを管理できないことだ。俳優はどの役を引き受けるか、どの写真を公開するか、どの商品を宣伝するかを選べる。だが、捏造画像は本人が許可していない場面にその俳優を登場させ、視聴者は当初、それを本物だと思い込む可能性がある。
Arun Kumar氏が求めているのは、より強い法的義務であり、新たな規則が施行されたという発表ではない。同氏の発言では、具体的な法案や施行期限、予定される罰則は示されていない。
AI以前からあった偽画像
Arun Kumar氏は、現在の懸念を、娯楽分野で画像が加工されてきた長い歴史の中に位置付ける。今日のAIツールが登場する前から、ボディーダブルやPhotoshop、複製やモーフィングといった視覚効果の技術を使い、偽の場面を作ることができた。
複製は、画像や映像の一部をコピーする技術だ。モーフィングは、顔やその見た目を変えることも含め、ある画像を別の画像へと変化させる。視聴者が作り物の場面だと理解している映画制作では、どちらも正当な目的で使われる。問題は、加工された素材が、誰かの行動を記録した本物の映像として提示されるときに生じる。
AIによって、そうした素材を作る新たな手段が生まれた。注目や拡散から手早く利益を得ようとする人々も、その手段を利用している。Arun Kumar氏は、技術はその使い方に基づいて評価すべきであり、不適切なコンテンツの責任者には、既存の法的救済手段を適用すべきだと主張する。
Arun Kumar氏は、削除を求めるための法的手段はすでにあると述べた。
この種の不適切なコンテンツを削除するための法的手段は、すでに数多くあります
削除と表示は、一連の流れの異なる段階に対応する。削除は、異議が申し立てられた後も画像が公開され続けるのを防ぐためのものだ。目立つ表示は、画像が画面に表示されている間に、視聴者が判断できるようにする。同氏の主張は、有害な素材への対処と、その人工的な出自を認識しやすくすることの両方に焦点を当てている。
表示の大きさが重要な理由
Instagramの小さなAI表示は、開示することと、それを役立つ形で伝えることの隔たりを示している。Arun Kumar氏は、一般の視聴者が画像の周囲を探さなくても気付けるほど、目立つ形で情報を表示するようプラットフォームに求めている。
捏造された災害映像は、これが著名人の話題にとどまらない理由を示している。本物の緊急事態を撮影したように見える映像を見ている人は、その場面が生成されたものかどうかを知る必要がある。そうでなければ、実際には描かれたような形では起きていない出来事について、その画像が人々の見方を左右しかねない。
俳優にとって、同じ問題はより個人的なものだ。偽画像を本人だと認識させ、注目を集めるのは顔である。表示を見落とした視聴者は、制作方法について何も知る前に、その場面を俳優と結び付けてしまう可能性がある。
したがって、Arun Kumar氏の要望は、情報の有無だけでなく、その見せ方にも関わる。プラットフォームが投稿の横に表示を置いても、その大きさや位置によって、視聴者に届くかどうかは変わる。同氏が求める基準は明快だ。人工的に作られたものだと、すぐに分かるようにすべきだという。
アーティストにとって同意は別の問題
Arun Kumar氏はまた、AI全体を否定することと、アーティストの作品を許可なく使うことへの異議申し立てを区別している。前者は技術全体に対する判断だ。後者は、特定の素材をどのように入手し、使用したかに関わる。
学習とは、AIシステムが画像、文章、音声、動画などの例からパターンを学ぶ過程だ。学習に関して懸念を抱くアーティストは、自分の同意なく創作物がその過程に取り込まれた場合、何が起きるのかを問うている。
この問題は、目に見えるディープフェイクに限らない。俳優は自分が捏造された形で登場することに異議を唱える一方、イラストレーターなどの制作者は、新しい画像を生成するシステムの開発に自分の作品が使われたことに異議を唱えるかもしれない。影響を受ける人も、問題視する行為も異なる場合がある。
Arun Kumar氏は、AIを一括りにして非難すれば、こうした違いが見えなくなると主張する。同氏の立場は、許可をめぐる異議を真剣に受け止めつつ、正当な創作利用を認める余地を残している。読者が考えるべき問いは具体的だ。誰のアイデンティティーが登場しているのか、誰の作品が使われたのか、どのような許可が与えられたのか。
デジタルアーティストの収入に圧力
Arun Kumar氏によると、メディア、ビジネス、映画、テレビ、建築、ファッションの各分野で働くグラフィックアーティストは、AIの普及による別の影響にも直面している。企業が一部の種類の視覚素材をより速く生成できるようになる中で、生計を立てられるかという懸念だ。
Arun Kumar氏は、AIの出力が競合する選択肢になるにつれ、細心の手作業を要する仕事の商業的価値が失われつつあると語る。画像の制作方法を決めるクライアントは、アーティストの技能や判断力とともに、スピードやコストも考慮する可能性がある。
人間の作品がどう評価されるかにも影響が及びかねない。Arun Kumar氏は、丹念に制作された画像が、質の低いAI生成物と比較される恐れがあると警告する。アーティストは、観客やクライアントが両方に触れる機会が増える市場で、自分の作品の価値を説明しなければならなくなる。
Arun Kumar氏は、雇用への圧力とアーティストへの助言について、次のように述べた。
現実として、AI革命は仕事を奪いつつあります。AIの方がより速く仕事をこなせるからです。AIを制作工程の新たなツールとして使える真のアーティストは、生き残り、活躍するでしょう
制作工程とは、最初のアイデアから完成した画像や映画に至るまで、創作プロジェクトを完成させるための一連の作業を指す。同氏の助言は、その工程にAIをどう取り入れられるかを学ぶ一方で、人間ならではの選択と技術を作品に生かし続けることだ。
同氏の予測は、変化に適応するアーティストについて楽観的だが、AIによって加速できる作業に収入を依存する人々が、差し迫った苦境に置かれていることも認めている。捏造された姿からの保護を求める俳優と、より安価な競争に直面するアーティストは、同じ技術変革の異なる側面を経験している。
要点
- Janhvi Kapoor、Keerthy Suresh、Sunainaaは、自身の肖像をディープフェイクに悪用されたとして異議を唱えた俳優たちの一部だ。
- Pearl Academyの学部長でVFX専門家のCB Arun Kumar氏は、AIコンテンツに明確で目立つ表示を義務付ける法律を求めている。
- 同氏は、Instagramの「AI Info」タグを含む小さな表示は、視聴者が見落としやすいと指摘する。
- 同氏はAIの有害な利用への対処を支持し、アーティストの作品が同意なく使われることへの懸念も示している。
- 同氏によると、デジタルアーティストは収入面で圧力に直面しており、創作過程にAIを取り入れる方法を学ぶべきだという。
