OpenAI Sora 2 が偽情報動画を量産！問題点まとめ

みなさん、こんにちは。今回は OpenAI の動画生成 AI「Sora 2」に関する興味深い調査結果をお伝えします。

Sora 2 が偽情報動画を高確率で生成

ニュース監視団体 NewsGuard の分析によると、Sora 2 は 20 件のテストのうち 80％の確率で偽情報を含む動画を作成したそうです。具体的には、モルドバの選挙関係者が親ロシア派の投票用紙を破棄する映像や、アメリカの移民局が幼児を拘束する映像、さらにはコカ・コーラの広報担当者がスーパーボウルのスポンサーを辞退すると発表する映像など、実際には起きていない内容がリアルに見える形で作られていました。

これらの動画は、ぱっと見ただけでは本物と見分けがつかないほどのリアリティがあり、SNSなどで流れてしまうと誤解を生みやすいものです。しかも、動画の作成は数分ででき、技術的な専門知識も不要。さらに Sora の透かし（ウォーターマーク）も簡単に消せるため、偽動画を本物として拡散しやすい状況にあります。

OpenAI と歴史的人物のディープフェイク問題

この調査結果が出たタイミングで、OpenAI はマーティン・ルーサー・キング・ジュニア氏など歴史的な著名人のディープフェイク動画をめぐる問題にも直面しています。キング牧師の娘さんが「侮辱的で意味不明」とSNSで批判したこともあり、OpenAI はキング牧師の映像生成を一時的に停止し、権利者と協力して対応策を検討中とのことです。

また、ロビン・ウィリアムズやジョージ・カーリンなど他の著名人の遺族も、AIによる偽動画の拡散に困惑している様子が伝えられています。法律的にも故人の名誉毀損に関する規定が曖昧で、遺族が対処に苦慮している現状があります。

OpenAI の対応と今後の課題

OpenAI は Sora 2 のリリース時に、偽情報や無断使用のリスクを認めており、CEOのサム・アルトマン氏は「公開しながら改善していく」方針を示しています。ただ、この「後から対応する」スタイルは賛否両論で、特に被害を受ける遺族や関係者にとっては大きな負担となっています。

また、ディズニーなどの大手企業は自社の著作物が無断で使われていることに対し、OpenAI に対して正式な許可を出していないと明言しており、今後の著作権問題も注目されています。過去の ChatGPT のケースと同様に、法的な争いに発展する可能性もあるようです。

今回の調査は、AI技術の進化がもたらす利便性と同時に、偽情報や倫理的な問題の深刻さを改めて浮き彫りにしています。私たちも情報を受け取る際には、映像や画像の真偽を慎重に見極める必要がありそうですね。引き続きウォッチしていきたいですね！