イーロン・マスク の AI Grok 性的画像問題を解説

みなさん、こんにちは。今回はオーストラリアのオンライン安全規制当局が、イーロン・マスク氏のAIチャットボット「Grok」に関する深刻な問題を指摘したニュースをお伝えします。

オーストラリアのeSafety委員会がGrokの問題を警告

オーストラリアの独立したオンライン安全規制機関であるeSafety委員会は、Grokを使った同意なしの性的画像生成に関する苦情が急増していると発表しました。2025年後半から苦情の件数が倍増しているとのことです。

苦情の中には、児童性的搾取に関わる可能性のあるものも含まれており、成人に対する画像を使った虐待も報告されています。eSafety委員長のジュリー・インマン・グラント氏は、特に子どもが関わるケースに強い懸念を示しています。

Grokはイーロン・マスク氏のAIスタートアップxAIが開発したチャットボットで、SNS「X」上でユーザーの写真を加工できる機能を持っています。競合のChatGPTなどと違い、Grokは「Spicy Mode」という性的に過激なコンテンツを生成するモードを搭載しており、これが問題視されています。

グラント氏は、AIが「非常にリアルなコンテンツ」を生成できることが、悪用を助長し、規制当局や法執行機関、児童保護団体の対応を難しくしていると指摘しています。オーストラリアでは、児童性的搾取に対するオンラインサービスの安全対策が義務付けられており、AI生成であっても例外ではありません。

昨年には「nudify」と呼ばれる画像を無断で性的に加工するサービスに対しても規制が入り、オーストラリアから撤退させる措置が取られました。今後はAI製品に対しても、開発段階から適切な安全策を組み込むことが求められています。

ディープフェイク問題の深刻化と法整備の動き

2025年9月には、オーストラリアで初めてディープフェイクポルノに対する罰金判決が下されました。ゴールドコーストの男性が著名な女性のディープフェイク画像を投稿し、削除命令を無視したため、21万2千ドル（約34万3千豪ドル）の罰金が科されています。

この事件を受けて、オーストラリアの議員たちは非同意のディープフェイクに対する法的保護を強化しようと動いています。独立系上院議員デイビッド・ポコック氏は、2025年11月に「My Face, My Rights」法案を提出し、非同意のディープフェイクを共有した個人に最大10万2千ドル（約16万5千豪ドル）、企業には最大51万ドル（約82万5千豪ドル）の罰金を科すことを提案しています。

ポコック氏は「誰でも簡単にディープフェイクを作成し、好きなように使える時代になった」と述べ、政府のAI規制対応が遅れていることを批判しています。

今回の報告からは、AI技術の進化が便利さと同時に新たなリスクも生み出していることがわかります。特に性的画像の無断生成やディープフェイクの悪用は、個人のプライバシーや安全に直結する問題であり、各国の規制や法整備が急務となっているようです。

今後もAIの利便性と安全性のバランスをどう取っていくのか、注目していきたいですね。引き続きウォッチしていきたいです！