AIチャットボット提供ニュースの「3分の1が誤情報」 巧妙化するプロパガンダ・ロンダリングの対応に遅れ

調査では、チャットボットの検索利用が拡大する中、AIの構造的な弱点が浮き彫りとなった。

その背景には、低品質なコンテンツや偽ニュース、虚偽広告が氾濫するインターネット空間を主要な情報源としている実態がある。

「本来であれば、モデルは答えられる範囲や学習データの鮮度を明示したり、デリケートな話題への言及を控えるべきところだが、実際には汚染されたオンライン環境から情報を取得している。その結果、信頼性があるかのように見えても、不正確な回答が生成されている」と、ニュースガードの広報担当、マッケンジー・サデギは指摘する。

■AIチャットボットの応答性は向上も、正確性は低下

この変化は、AIシステムの運用が根本から揺らいでいることを示唆している。調査によると、以前は特定の質問に答えなかった大規模言語モデルが、今では信頼性の低い情報源に頼って誤った回答をすることが増え、正確なニュースを見分ける力も低下している。

昨年の調査では、AIモデルは時事問題に関する問い合わせの31％を回答拒否していたのに対し、2025年8月時点での拒否率は0％だった。この変化は、調査対象のモデルが答えられない質問も含め、あらゆるクエリに応答しようとする傾向が強まった結果、より断定的に不正確な情報を提供するようになったことを示している。

■トップクラスから最下位へ転落したAIモデル

昨年のトップパフォーマーの一つであった「Perplexity（パープレキシティ）」は、今年の調査で最もパフォーマンスが低下した。同モデルは、ニュースガードが2024年に実施したファクトチェックでは100％の精度を誇ったが、2025年の調査で正確に回答できたのはわずか半数にとどまった。

(略)
■巧妙化するプロパガンダ・ロンダリング、AIは対応に遅れ

ニュースガードの最新調査は、専門家が以前から指摘していたAIの安全性リスクを裏付けた。ロシアの「Storm-1516」や「Pravda」といった政府系偽情報ネットワークは、人々に直接リーチするよりもAIシステムそのものを汚染することを目的に設計された大規模なコンテンツファームを運営しており、成果を上げている。

調査では、仏スタートアップのミストラルAIが開発した「Le Chat（ル・シャ）」、マイクロソフトの「Copilot（コパイロット）」、メタの「Llama（ラマ）」などのモデルが、不正なネットワークが流布した虚偽の情報をそのまま引用し、ロシアのVK（フコンタクテ）やTelegram（テレグラム：ロシア出身のニコライ・ドゥーロフとパベル・ドゥーロフ兄弟が開発）といったSNSプラットフォーム上のフェイクニュース記事やエンゲージメントの少ない投稿を情報源として使用していたことが判明した。

「これは、外国による情報工作の適応力と持続性の高さを示すものだ。モデルが特定のドメインを参照しなくなっても、同じネットワークのコンテンツは別経路を通じて再び浮上する可能性がある」とサデギは指摘する。

プロパガンダ・ロンダリングは単なるドメインの移動にとどまらず、ストーリーの植え付けを伴う。「同じストーリーが数十の異なるウェブサイトやSNS投稿に同時に現れ、関係者によって写真や動画、テキストの形で繰り返し拡散される」と彼女は説明する。

■情報量と信頼性の見極めにAIは苦戦

たとえ虚偽情報が悪質なフェイク情報発信者によって発信されたものであっても、十分に拡散されればAIモデルを誤らせることがある。これが、現時点での大きな盲点だ。チャットボットは、複数のプラットフォームや情報形式にまたがる「ナラティブ・ロンダリング」を検知することに、依然として苦戦している。

全文は↓
https://news.yahoo.co.jp/articles/fdd3400b526c0933df4cc2461ad6f2ce1829d066

[Forbes Japan]
2025/9/13(土) 17:00