交流サイト（SNS）などにさまざまな情報があふれ、人々の関心に経済的な価値を見出す「アテンション・エコノミー（関心経済）」の時代を生きる私たちに新たな脅威が迫っています。他人の写真や動画を勝手に加工し、扇情的な姿に改変する「性的ディープフェイク（DF）」による被害です。
メディアの発達とともに、いわゆるエロ、アダルトものは人々の興味を手っ取り早く引きつけるコンテンツとして時に物議を醸し、一定の受容と規制が繰り返されてきました。
しかし、アテンション・エコノミーの世界では、SNSにアップされた一般人の顔や体の画像が標的にされ、生成人工知能（AI）が過激さを助長するという未知の段階に突入しています。私たちがテクノロジーを駆使して行き着く先は、笑顔と思い出の詰まった卒業アルバムすらつくれないディストピア（暗黒世界）なのでしょうか。
コスプレイヤーが味わった恐怖
生成AIで性的DF画像に加工される前のひやニキさんのコスプレ写真（いずれも本人提供）
首から上は自分の顔。だが、その下は身に着けたこともない女性の下着姿に変わっていた。
コスプレーヤーとして活動する30代の「ひやニキ」さんが、自身の写真を勝手に性的な画像に加工される被害に遭ったのは2023年の冬のことだった。X（旧ツイッター）を通じて突然送られてきた。
加工画像は、ひやニキさんが人気アニメ「チェンソーマン」の女性キャラに扮した写真を悪用。元の写真は看護師の格好をしていたが、加工された下着姿は肌の露出が多く、裸に近いとも感じられた。
送り主は実生活での面識はない。戸惑いとともに、怒りと恐怖感が込み上げてきた。
「女の子だったら打ち明けられなかった」
記者は都内の喫茶店でひやニキさんと対面した。礼儀正しく、快活に話す姿が印象的。女性キャラクターのコスプレもするが、本人は男性だ。勝手に改変された性的画像を送り付けられた際も「俺、男だけどなと思った」と屈託なく打ち明けてくれたが、思わぬ被害には深く心を痛めていた。
ダイエットや美容に力を入れ、別人級にあか抜けた人として話題になったインフルエンサーでもある。Xのフォロワーは2万7千人を超え、コスプレ写真を投稿すると数千の「いいね」が付く。アニメやゲームのキャラクターになりきりSNSで披露してきたが、コスプレを楽しむ対象は男女を問わず、自身のSNSの投稿では性的なアピールをしたことも扇情的な意図を持ったこともなかったという。ひやニキさんは「仮に性的な表現をしている人であっても、本人の同意なく勝手に画像が改変されることはあってはならない」と話す。
「自分が女の子だったら被害を打ち明けられなかったと思う」。生成AIで作成されたとみられる体の部分は、性別が異なることを除けば不自然さはなく、それが余計に不気味に感じられた。警察にも相談したが、性的DFを作成した相手が分からない限り、「対応が難しい」の一点張りだった。
自己顕示欲や承認欲求にも影響
ひやニキさんのXのアカウントに突然送られてきた性的DF画像と中国語のメッセージ（本人提供、一部画像処理）
今、SNSで広がるこうした性的DFの被害は、常に注目を欲するアテンション・エコノミーが、経済活動だけでなく個人の心をも変え始めていることを示している。
刺激的なニュースや書き込み、写真、動画…。あらゆる情報があふれるネット上で人々の目を引きつけるのは至難の業だが、ひとたびそれに成功すれば、自己顕示欲と承認欲求が満たされる。閲覧数や「いいね」の数、フォロワー数は分かりやすい物差しだ。そのために、人の本能に訴える性的DFがつくられ、拡散されている。大きな注目を集めれば、SNSの運営者から広告収益の一部を還元される可能性もある。
Xで加工画像を送りつけられたひやニキさんには、まるで「犯行」を誇示するかのように、「私の創作アートを受け取ってください！」という意味の中国語と英語のメッセージも同時に届いたという。
楽して「バズりたい、金を得たい」
被害はその後も続いた。会話アプリ「ディスコード」で、別の性的DF画像が出回っていることを人づてに知った。女子高生の制服を着たキャラのコスプレ写真が、水着姿に変えられていた。
「当時、生成AIで『脱がす』人のリストができていたらしい」とひやニキさん。SNSなどで元の写真を入手した人が、生成AIに詳しい人に性的DFの作成を依頼するルートができており、ディスコード内には「リクエスト」を集めた名簿のようなものまで存在していたという。
ひやニキさんは「連絡がなかったら全く被害に気が付かなかった。そう考えると怖い」と話す。
自分のあずかり知らぬところで被害が拡大する脅威は、SNS社会で加速している。「性的DFの製作者は、楽して称賛を得たい、楽して稼ぎたいという考えがあると思う」。いわば手早く安易に「バズる」方法として、性的DF画像を利用する人がいる。
「話し言葉」で簡単に画像加工
平易な言葉で指示を出しても、数十秒で画像を加工する生成AIとのやりとりのイメージ
古今東西、性的関心をあおるコンテンツは集客や金もうけのネタとなってきた。
ネット時代の前は、アイドルなどの顔写真に、別人のヌード写真を貼り合わせる「アイドルコラージュ（アイコラ）」の被害がたびたび問題化。芸能人のプライベート写真や隠し撮りなども世間を賑わせてきた。いずれも一部の業者などが手がけていた。
だが、アテンション・エコノミーと個人の承認欲求が生み出す性的DFの矛先は、ひやニキさんのようなインフルエンサーはもちろん、SNSに自己紹介の顔写真を投稿しただけの一般人にも向かう恐れを秘めている。
それを容易にしているのが、「プロンプト」と呼ばれる日常用語ベースの指示だけで画像を加工できる生成AIの普及だ。例えば、生成AIに飼い猫の写真を認識させ、「ちょっとウサギに似せてみて」とプロンプトを入力すれば、自然な形で耳が長くなったり、赤みがかった目になったりする。
もしその対象が人の顔や体の画像になり、性的な指示が与えられたら…。すでにネットだけでなく、卒業アルバムの写真が悪用されたケースも多数報告されている。
加工画像極めて「精巧」
ネット上の膨大な情報を読み込む生成AIが加工する画像は極めて精巧だ。裸にしろ下着姿にしろ、本当の姿なのか加工されたのかすら見分けにくい。ひやニキさんは「本人が（自撮りを）やったんじゃないのかと疑われる可能性もある。真実が何かを分からなくさせるのは悪質だ」と憤る。被害に遭った上に、弁明する負担を思うと心に負う傷は計り知れないと感じている。
ひやニキさんはSNSであえて被害を打ち明けた。「声を上げることで、性的DFの議論が適切に広がってほしい」と話す。生成AIそのものを否定するのではなく、同意なくして画像を性的に改変されたり、拡散されたりする被害が生まれないことが重要だと強調する。
爆発的に広がるAI利用
だが、そんな願いをよそに、テクノロジーの進化と普及は止まらない。
総務省の「情報通信白書」によると、米国のOpenAI（オープンエーアイ）が生成AI対話型の「ChatGPT」を一般公開したのは2022年。利用者は言葉で指示を出すだけで、狙い通りの画像や動画を作り出せるようになった。その後、わずか2カ月で全世界の利用者は1億人を突破し、TikTok（ティックトック）が9カ月、インスタグラムが30カ月、Xが49カ月かかった記録をあっという間に抜き去った。
ChatGPTの爆発的普及は生成AIの世界的な開発競争を引き起こし、マイクロソフトやグーグルといった大企業だけでなく、中国のスタートアップ企業も参戦し、目覚ましい技術の進歩を遂げている。
総務省が24年度に実施した調査によると、生成AIを利用したことがある人の割合は26.7％。年代別でみると、20代は44.7％で、およそ2人に1人は利用経験があった。企業における業務での利用率は日本が55.2％、中国は95.8％、米国が90.6％に上っている。
AI開発企業の見解
性的DF対策の問い合わせに対するオープンエーアイ社の回答
こうした中、2026年初めにはXと連携する生成AIサービス「Grok（グロック）」による性的DF画像の流出が各国で問題となった。グロックで生成した画像は、Xにそのまま投稿することができ、勝手に加工された性的な画像が拡散される被害が相次いだ。
選挙を左右するフェイクニュースやSNS型投資詐欺と同様、性的DFでも開発企業やSNSを運営するプラットフォーム企業の責任や対策が問われる段階に差しかかっている。
中日BIZナビは、ChatGPTを開発したオープンエーアイ社に問い合わせたところ「性的DFは容認できず、当社はこうした悪用を防止するための安全対策を講じ、お客様の保護を優先しています」などと回答があった。
ただ、具体的な内容について同社が参照を求めた「使用に関するポリシー」へのリンクに飛ぶと、不適切な利用者らの「アクセス停止」に言及があったものの、どのように不適切な内容を把握したり認定するのかといった記述は見当たらず、通報窓口も明示されていなかった。
「使用に関するポリシー」には、さらに「安全性への取り組み」へのリンクもあったが、クリックすると長文の英語が表示されるだけだった。少なくとも日本の利用者の大半が容易に理解できる状態とは言い難い。
ChatGPTの回答は…？
性的DFを生成しないよう対策を取っているのか。このシンプルな問いに、なかなか腑に落ちるやりとりをできないでいる中、当のChatGPTにも同様に聞いてみた。
生成AIの頭脳が導いた答えは「強く対策している」。
ChatGPTによると、オープンエーアイは実在の人物、特に未成年の性的DFは厳格に禁止し、性的DFを生成する恐れがあるプロンプトを阻止するなどして性的な加工を防いでいるという。
「ただ…」とChatGPTの回答は続いた。
それは、研究者などから「性的DF画像の検出が難しい」「規制だけでは拡散を止められない」との指摘があることを引用し、こう打ち明けた。「性的DF画像をかなり強く防ごうとしているが、業界全体では『いたちごっこ』というのが実態に近い」
