インド政府が AI チャットボット「Grok」規制強化！

みなさん、こんにちは。今回はインド政府がイーロン・マスク氏の運営する SNS「X」に対して、AIチャットボット「Grok」に関する重要な指示を出したニュースをお伝えします。

インド政府が「Grok」に対して即時対応を要求

インドのIT省は、Grokが生成した「わいせつな」コンテンツ、特にAIで女性の画像を性的に加工した事例が問題視されたことを受け、Xに対して技術的および運用上の改善を即座に行うよう命じました。具体的には、「ヌードや性的表現、違法な内容」の生成を制限し、72時間以内に対応報告を提出するよう求めています。

違反すると法的免責が危うくなる可能性も

この命令は、Xがインドの法律で認められている「セーフハーバー」保護、つまりユーザー生成コンテンツに対する法的免責を失うリスクがあることを警告しています。つまり、対応を怠るとX自身が法的責任を問われる可能性が出てくるわけです。

問題となった具体的なケース

ユーザーや議員からは、Grokが女性の画像をビキニ姿に加工するようなリクエストに応じてしまう事例が報告されており、インドの国会議員プリヤンカ・チャトゥルヴェディ氏が正式に苦情を提出しました。また、未成年者を性的に描写した画像が生成されたケースもあり、Xはこれを認めて画像を削除していますが、ビキニ姿の画像はまだ残っているとのことです。

インドの規制強化の背景と影響

今回の命令は、インドIT省が先日出したより広範なガイドラインの一環で、わいせつや性的に露骨なコンテンツに関する法令遵守を強く求めています。違反が続けば、IT法や刑法に基づく厳しい処置が取られる可能性も示唆されています。

インドは世界でも有数の巨大なデジタル市場であり、ここでの規制強化はグローバルなテック企業にとっても大きな影響を与えるかもしれません。特にAI生成コンテンツの取り扱いに関しては、各国の規制動向を占う重要な試金石となりそうです。

Xの対応と今後の展望

一方で、Xはインドのコンテンツ規制に関して裁判で争う姿勢も見せており、政府の削除命令が過剰な権限行使になると主張しています。Grokはニュースのリアルタイム事実確認などにも使われているため、その出力内容はより注目されやすく、政治的な敏感さも増しています。

現時点でXやxAIからの公式コメントはありませんが、今後の対応が注目されます。

今回の件は、AIが生成するコンテンツの倫理的・法的な問題がいよいよ現実の課題として浮上していることを示しているように思います。AIツールの利便性とリスクのバランスをどう取るか、各国の対応を引き続きウォッチしていきたいですね！