ディープフェイクによる有権者の混乱は韓国だけのことでない。「世界選挙の年」と呼ばれた昨年から人工知能(AI)が生成した政治的映像・イメージ・音声の出現が急増している。規制と処罰をめぐる論争も同時に広まっている。
昨年1月に米国であった「バイデン偽電話」騒動が代表的な例だ。民主党ニューハンプシャー州の大統領選挙予備選の前日、多数の党員が「11月の大統領選のために票を惜しむべき」という当時のバイデン米大統領の声が入った電話を受けた。声を複製したディープフェイクであり、米連邦政府は音声制作者の政治コンサルタント、スティーブ・クレイマー容疑者を送検し、罰金600万ドル(約8億4600万円)を科した。
2023年、日本では当時の岸田文雄首相の偽演説映像が登場した。岸田首相の音声データを学習したAIが入力されたスクリプトを読むやや粗悪な方式だったが、首相が淫らな内容の演説するような錯覚を起こして波紋が広がった。映像制作者は「いたずらだった」として映像をすぐに削除して謝罪した。岸田首相は翌年の国際会議で「(AIで生成したディープフェイク)虚偽情報拡散防止はすべての国の共通の挑戦課題」と演説した。世界的に過去のインタビュー映像の政治的メッセージを操作するケースが増えているという。
欧州連合(EU)は「デジタルサービス法」でディープフェイクを制裁している。プラットホーム事業者に不法・有害コンテンツを義務的に削除させ、法的責任まで負わせる方式だ。しかし大半の国で関連立法が技術発展ペースに追いついていない。米国は連邦議会で「ディープフェイク責任法案」を審議中だが、現在のところ連邦政府レベルの具体的な基準がない。
2025/04/21 11:04
https://japanese.joins.com/JArticle/332791