DuckDuckGoのAI、ネットの毒を盛られて「トランプ大統領は狂犬病で死亡」と虚偽回答。あまりにもな珍回答に全米が震撼
おいおいマジかよ…。僕らのプライバシーを守るはずの検索エンジン、DuckDuckGoのAIアシスタントが、とんでもないフェイクニュースを生成して大炎上です。なんと「アメリカ大統領が狂犬病で亡くなった」と、堂々と回答しちゃったっていうんですから、もう笑うしかありません。
情報源はYahoo! Techの記事。これによると、DuckDuckGoのAI機能が「r/poisonai」という、その名の通り「AIに毒を盛る（＝偽情報を学習させる）」ことを目的としたRedditのコミュニティ投稿を学習ソースにしてしまったのが原因とのこと。悪意あるユーザーたちが仕込んだ「大統領が狂犬病で死んだ」というデタラメな投稿を、AIが何の疑いもなく「事実」としてインプットしてしまったわけです。
ネットの悪ふざけが、大手検索エンジンのAIをいとも簡単にハッキングしてしまった今回の事件。これには海外のテックオタクたちも大騒ぎです。
【ルスラボ的深掘り】海外の反応は？
AI_Realist (ソフトウェアエンジニア)
「大規模言語モデル（LLM）がネット上のテキストを大規模に学習してる以上、こういう『データ汚染』攻撃は予測できたはず。AI企業はもっと入力データのキュレーションに責任を持つべきだ。これは技術的な失敗だよ。」
【ルスラボ的ツッコミ】
まさに正論！AIは何でも知ってる魔法の箱じゃなくて、食べた（学習した）ものをそのまま出すスピーカーなんですよね。ゴミを食べさせれば、ゴミを吐き出す。あまりにもシンプルで、恐ろしい真理です。
MemeLord_69 (ネット文化ウォッチャー)
「『大統領が狂犬病で死亡』って、B級ゾンビ映画の冒頭かよw r/poisonaiの連中、最高の仕事したな！」
【ルスラボ的ツッコミ】
不謹慎だけど笑っちゃう気持ち、わかります！ まさにサイバーパンクな悪ふざけ。でも、これが笑い事じゃ済まない社会問題に発展していくのが、今のネットの怖いところですよね…。誰が次のターゲットになるかわかりません。
DuckDuckGone (元DuckDuckGoユーザー)
「プライバシー重視だからDuckDuckGoを使ってたのに、こんな陰謀論みたいなウソを平気で吐くならもう使えないな…。結局、どのAIも信用ならないってことか。」
【ルスラボ的分析】
うーん、これは痛いところを突かれた感じ…。『信頼』で選んでたユーザーを裏切っちゃったわけですからね。プライバシー保護という強みと、情報の正確性。その両立の難しさが、今回の事件で残酷なほど浮き彫りになりました。
AIと人類の終わらない「いたちごっこ」
今回の事件は、単なる「AIの面白い失敗談」では片付けられません。AIが私たちの生活の隅々まで浸透すればするほど、悪意ある「毒」を盛る攻撃は巧妙化し、その影響は計り知れないものになるでしょう。
AI開発者たちは、汚染されたデータをどうやって見抜き、フィルタリングしていくのか。そして私たちユーザーは、AIが生成した情報を鵜呑みにせず、どうやって真実を見抜いていくのか。壮大な社会実験は、まだ始まったばかりのようです。
- 元記事ソース (tech.yahoo.com): DuckDuckGo’s AI feature swallows posts on r/poisonai, parrots misinformation that US president died of rabies earlier this month
- Redditスレッド: Reddit Discussion
コメント