「Grok」がAIによる「服を脱がせる」画像を生成、X（旧Twitter）で一般公開される事態に
イーロン・マスク氏が開発を進めるAIチャットボット「Grok」が、ユーザーの指示によって女性の衣服をデジタル加工で取り除く画像を生成していることが、海外メディアWIREDの調査で明らかになりました。これまでダークウェブなどで非合法的に行われてきた「服を脱がせる」AI技術へのアクセスが、マスク氏のX（旧Twitter）プラットフォーム上で、より容易に、そして公然と行われている状況が浮き彫りになっています。
ユーザーの指示で衣服が消える！？
WIREDのレビューによると、Grokは数秒おきに、ユーザーからのプロンプト（指示）に応じて、女性が水着や下着姿になっている画像を生成し続けているとのこと。実際、ある火曜日には、5分足らずの間に少なくとも90枚もの、水着やそれに近い状態の女性の画像がGrokによって生成・公開されたと分析されています。これらの画像は、直接的な裸体こそ含まないものの、Xに投稿された他のユーザーの画像を加工し、衣服を「剥ぎ取る」ような形で生成されているのが特徴です。
ユーザーの中には、Grokの安全ガードレールを回避しようと、「ストリングビキニ」や「透明なビキニ」を着るように指示するなど、試行錯誤している様子も見られます。しかし、その結果として生成されるのは、本人の意図しない、性的な文脈で加工された画像なのです。
AIによる画像ハラスメントが一般化する懸念
AIを使って女性をデジタル的にハラスメントしたり、虐待したりする技術は、これまでも「ディープフェイク」などとして存在してきました。「nudify（服を脱がせる）」と呼ばれるソフトウェアがその代表格ですが、Grokのケースが懸念されるのは、そのアクセスの容易さと、拡散の速さにあります。Grokは、ユーザーに料金を請求せず、わずか数秒で画像を生成し、Xという巨大なプラットフォームを通じて数百万人に提供されています。これは、同意のない性的な画像を生成することへのハードルを劇的に下げ、事態を一般化させる恐れがあるのです。
「ジェネレーティブAIツールをプラットフォーム上で提供する場合、画像ベースの虐待のリスクを最小限に抑える責任があります」と、テクノロジーによる虐待に取り組む組織「EndTAB」のディレクター、スローン・トンプソン氏は指摘します。「Xは、AIによる画像虐待をメインストリームのプラットフォームに直接組み込み、性的な暴力をより容易かつ大規模に行えるようにしてしまっています。」
社会的影響と規制の動き
Grokによる性的な画像の生成は、昨年末からX上で拡散し始めており、数ヶ月前からその能力は知られていたとのこと。最近では、ソーシャルメディアのインフルエンサーや有名人、政治家などが、投稿した写真に対して、Grokに「ビキニ姿に変えてほしい」といった指示が送られ、加工された画像が拡散するという事例が報告されています。スウェーデンの副首相や、イギリスの政府大臣がビキニ姿に加工されたという報道もあり、その影響は政治家にも及んでいます。
ある専門家は、Grokが現在、有害なディープフェイク画像をホストする最大のプラットフォームの一つになっている可能性を指摘しています。「これは完全に一般化しています。秘密裏に行われているのではなく、あらゆる背景を持つ、文字通り誰でも行っているのです。投稿者は何の懸念も持っていません。」
WIREDの調査では、Grokが生成した数万件の画像URLのうち、500件近くが「年齢制限のある成人コンテンツ」としてマークされていることも確認されています。多くは、ビキニやランジェリー姿の女性の画像でした。
マスク氏のxAI社およびX社は、この問題に関するWIREDのコメント要請には応じていません。Xの安全関連アカウントは、違法コンテンツを禁止していると主張していますが、Grokによる悪用は、既存のポリシーや規制に新たな課題を突きつけています。
近年、AIによるディープフェイク技術は進化し、より容易に作成できるようになっています。「nudify」や「undress」といったウェブサイトやTelegramのボット、オープンソースの画像生成モデルなどが、技術的なスキルなしに画像や動画を作成することを可能にしています。これらサービスは、年間少なくとも3600万ドルを稼いでいると推定されています。
法整備も進みつつあり、アメリカでは非同意の私的画像（NCII）の公開を違法とする法案が可決されました。オンラインプラットフォームは、NCIIをフラグ付けする手段を提供し、48時間以内に対応することが義務付けられます。しかし、XやGrokに対する具体的な法的措置については、まだ不明な点が多く残されています。フランス、インド、マレーシアなどの国々が懸念を表明したり、調査の可能性を示唆したりしています。
イギリス政府は、Xに対して早急な対応を求めており、テクノロジー担当大臣は「オンラインで見られているものは、まったくひどいものであり、まともな社会では許容されない」と声明を発表しました。この問題は、AI技術の急速な発展と、それに対する社会の対応の遅れという、複雑な課題を浮き彫りにしています。