マーベルのティーンスター、ソチトル・ゴメスがディープフェイクポルノの最新の被害者となった。しかし、X（旧Twitter）上で合意のない性的に露骨なディープフェイクが出回っているのを発見した後、プラットフォームが措置を講じて削除しなかったことに彼女は当惑した。
人工知能の台頭とともに多くの問題が発生していますが、ディープフェイク ポルノは最も懸念されるものの 1 つです。ディープフェイクはかなり前から存在していましたが、テクノロジーの進歩により、ディープフェイクはよりアクセスしやすく、説得力のあるものになりました。その結果、多くの個人、特に女性が、同意なしに自分の肖像が撮影または再作成され、ポルノ コンテンツに使用されていることに気づきました。これは女性有名人だけでなく、リベンジポルノ、嫌がらせ、いじめなどの性的コンテンツに自分の肖像が利用された経験を持つ一般女性にとっても大きな問題となっている。児童虐待を描写するためにディープフェイクが使用されるという大きな懸念もあります。
残念ながら、現在、同意のないディープフェイクポルノを規制する連邦法はなく、国民をディープフェイクポルノから保護する法律を制定している州はわずかです。ディープフェイクポルノの被害者になった多くの女性は、規制の欠如とインターネットの無法さのために、それと戦う選択肢がないことに気づいています。ほとんどの人には法的措置を講じる経済的余裕がありません。スカーレット・ヨハンソンのような有名人でさえ、ディープフェイクと戦おうとしても無駄だと宣言しています。
女性が得られる小規模な保護の 1 つは、ディープフェイクや AI 生成のポルノを禁止したソーシャル メディア プラットフォームによるものです。これらのサイトがそのような禁止を強制すれば、この有害なコンテンツの流通はさらに困難になるでしょう。しかし、ゴメスの経験は、ソーシャルメディアがルールを強制していないことを示しています。
ソチトル・ゴメスがディープフェイクポルノの経験を語る
(アクセル/バウアー・グリフィン/ゲッティ)
テイラー・ロートナーと彼の妻のポッドキャストに出演中に、 ザ・スクイーズ 、ソチトル・ゴメス（別名アメリカ・チャベス）は、ディープフェイクポルノの被害者としての経験を告白した。 17歳の彼女は、X（旧Twitter）上で性的表現が広まっているのを見つけたが、削除するのに非常に苦労していると明かした。 Xは2018年にAI生成ポルノを禁止しており、性的に露骨なディープフェイク画像や動画、誤解を招くメディアや合意のないヌードを禁止するポリシーを設けている。ゴメスの画像が明らかに X の規則に違反しており、このコンテンツに未成年者が登場していることを考慮すると、プラットフォームが直ちに措置を講じると考える人もいるでしょう。
しかし、ゴメスさんは、チームがすでにコンテンツに対して措置を講じようとしていたが無駄だったことを知り、ショックを受けました。 NBCニュース 報告 2024 年 1 月 19 日の時点でも写真は X 上で発見されていたが、X はコメントの要請に応じなかった。ゴメスさんは、そのコンテンツが彼女を奇妙にさせ、見た目が彼女にとって良くないため、どうしても削除してほしいと思ったと説明した。彼女は「なぜ撤去するのはこんなに難しいのですか？」と尋ねました。それが私の考えでした、「なぜこれが許されるのか？」
しかし最終的に、彼女はコンテンツを削除することはできないと諦め、そのことについて考えないようにして、問題に対処するために携帯電話をしまっているだけだと明らかにした。それでも、彼女が尋ねた質問は依然として非常に意味のあるものです。 なぜ このコンテンツを削除するのはそれほど難しいですか?ディープフェイクポルノが同意のない個人によって作られた場合、それは道徳的に非難されるべきであり、不快です。未成年者が絡むと本当に恐ろしいです。 X 上では実際に児童ポルノが出回っており、これが最も緊急に対処すべき問題であるはずにもかかわらず、奇妙なことにプラットフォームはそれについて何もしていません。
個人が性的に露骨な内容を報告し、それに同意しなかったことをプラットフォームに通知するのは、複雑な状況とは思えません。この素材はウェブサイト上の複数のルールに違反しています。他に何を検討または決定する必要がありますか?ソーシャルメディアでこの種のコンテンツを見つけることは、個人にとってすでに十分なトラウマになっています。これらのプラットフォームができることは、少なくとも削除要求に従うことだけだ。 X やその他のソーシャル メディア プラットフォームがユーザーの保護を執拗かつ困惑するほど拒否しているため、個人、特に未成年者は、コンテンツが存在することをただ受け入れるべきではありません。
(注目の画像: Axelle/Bauer-Griffin/FilmMagic / Getty)
