XのAIツール「Grok」が、女性や児童の性的画像を本人の同意なく生成できるとして、国内外で批判を浴びている。
こうした問題を受けて、Xは1月14日、ビキニなど露出度の高い服装をした実在する人物の画像を編集する行為を制限するための技術的措置を実施したと発表した。
Grokによる画像改変機能は、2025年12月24日以降にリリースされた。以降、女性の全裸に近い姿やビキニ姿に加工した画像が繰り返し投稿され、当事者が被害をうったえる事態が相次いでいた。
一方、新機能の提供開始から時間が少し経った現在も、弁護士ドットコムの法律相談には不安の声が寄せられている。
「初めてのAI使用で楽しくなり、3日間で100枚以上、ジュニアアイドルを裸に近い姿にした」 「イーロン・マスクが自身のビキニ姿を生成しているのをみて、未成年の服を脱がせてしまった」
なかには高校生が、同級生のヌード動画を作成したという事例もあった。相談者の多くは、実在する人物の性的画像を生成したことで、刑事罰を受けるのではないかと強い不安を抱き、警察への自首を検討する人まで現れている。
●総務大臣も状況を注視
Grokを通じた性的改変問題を受け、Xは1月6日、警告を出した。Grokによる性的改変画像の作成についても、違法コンテンツのアップロードと同様にアカウント削除や永久停止、法執行機関との連携といった厳格な措置の対象になると強調した。
また、1月9日には、林芳正総務大臣が一般論と前置きしたうえで「違法情報ガイドラインに沿って考えますと、AIで生成した性的画像をSNS等で流通させる行為は、肖像権、名誉権、プライバシー等の他人の権利を侵害する場合があると考えております」と言及した。
Grokで気軽に性的改変ができる環境が整ったことで、深く考えないまま手を出してしまった人たちが、昨年12月24日以降、弁護士ドットコムに相次いで相談を寄せている。
以下、実際に寄せられた相談の一部を紹介する。（※趣旨を変えない範囲で編集しています）
●「高校2年の同級生のヌードを作った」「イーロン・マスクがやってたから」
「高校2年生です。Grokで同級生のヌード動画を作ってしまいました。後悔、反省しています。動画の公開や販売はしていませんが、作成しただけでも罪に問われるのでしょうか。スマホを初期化しましたが、親に迷惑をかけるのも心配です」
「20代の学生です。Grokで何人かの知人（成人）や未成年を水着にしたり性的加工してしまいました。すでにアカウントやデータも削除しましたが、Xから警察に情報提供があるか不安で、自首も考えています」
「未成年の服を脱がせるディープフェイクを30個ほど生成してしまいました。途中で自分の倫理観のなさに気づき、アカウントと生成データを削除しました。X公式が『法執行機関と連携する』と発表しており、自分も対象になるのではと不安を覚えています」
「高校時代の同級生の写真を、Grokに頼んでビキニ姿に加工してもらいました。指示を出しただけでも、児童ポルノ製造に該当するのでしょうか」
「Xでイーロン・マスク自身がビキニ姿を生成しているのを見て、興味本位で性的な動画を作成してしまった。Xがアカウントの削除や永久停止の警告を出したことから、ただちにすべての成果物を削除しました」
「3日間で、実在するジュニアアイドルの画像を裸に近い状態にしてしまいました。AIでの児童ポルノ製造やディープフェイクが罪だとは知らず、はじめてのAI使用で楽しくなってしまい100枚ほど生成してしまいました」
●専門家「悪質な場合、刑事責任を問われる可能性も」
Grokを使って、実在の人物の写真をビキニ姿やヌードに近い姿にして、SNSに投稿する行為には法的責任が問われる可能性がある──。インターネットの法律問題にくわしい清水陽平弁護士はそう指摘する。
「裸や際どいビキニ姿などの画像にされている場合は、名誉毀損の問題が生じます。また、プライバシー権侵害の問題も生じるといえます。
名誉毀損罪にあたるような酷いものについては、刑事責任を問われる可能性がありますし、著作権侵害についても刑事責任を問われる可能性があります。
また、加工の対象が実在する18歳未満の人物である場合は、評価が分かれる余地があり、Grokの事案ではないですが、加工の内容次第では児童ポルノ禁止法に抵触するとして摘発された例もあります。
