SNSのフィードを眺めていると、自分と似たような意見や、同じようなトピックの記事ばかりが並んでいると感じたことはないだろうか。この「エコーチェンバー」と呼ばれる現象は、ユーザーを誤った情報や偏った思想に閉じ込めてしまう危険性をはらんでいる。この問題に対し、米ビンガムトン大学の研究チームが「AIを用いて解決する」という新たなアプローチを発表し、注目を集めている。
気づかぬうちに陥る情報の「泡」
エコーチェンバーとは、ソーシャルメディアのアルゴリズムがユーザーの閲覧履歴や「いいね」などの反応を学習し、その人が好みそうな情報ばかりを優先的に表示することで、まるで反響室（エコーチェンバー）のように同じ意見ばかりが返ってくる状態を指す。
この状況は、AIによるコンテンツの大量生産によってさらに加速している。一見すると多様な情報源から発信されているように見えても、実際には同じような内容の記事やコメントが氾濫。結果として、ユーザーは自分の既存の考えが正しいと信じ込みやすくなり、たとえそれが不正確な情報や陰謀論であっても、疑う機会を失ってしまうのだ。
研究チームは、特に感情を煽るような、あるいは意見が対立しやすいコンテンツは、エンゲージメント（ユーザーの反応）を重視するアルゴリズムによって増幅されやすいと指摘する。
AIで「情報の多様性」を取り戻す
この問題に対し、研究チームが提案するのは、まさに「AIをAIで制す」という画期的なフレームワークだ。彼らが開発を目指すAIシステムは、SNSプラットフォーム上でコンテンツとアルゴリズムがどのように相互作用しているかをマッピング（可視化）する。
これにより、プラットフォーム運営者（例えばMeta社やX社）やユーザーは、誤情報の拡散源を特定しやすくなるだけでなく、より重要な目的を達成できるという。それは、意図的に「多様な情報源」からのコンテンツをユーザーのフィードに届け、エコーチェンバーを破壊することだ。
研究の共著者であるティ・トラン助教は、「人々が良いAIも悪いAIも作れるように、オンラインで目にする情報は、それが人間によって作られたものであれAIによって作られたものであれ、まず真偽を疑う必要があります」と語る。
誤情報と分かっていても共有してしまう心理
研究チームは、この理論を検証するために50人の大学生を対象に調査を実施。新型コロナウイルスのワクチンに関する5つの誤情報を見せ、どう反応するかを尋ねた。
その結果は、人間の複雑な心理を浮き彫りにした。
・60%がそれらの情報を「誤りだ」と認識した。
・しかし、70%が「情報をSNSで共有する」と回答。
・同じく70%が「真偽を確かめるためにもっと調べる必要がある」と感じていた。
この結果は、多くの人が情報を疑わしいと感じながらも、それを完全に否定する前に追加の証拠を求め、さらには他者と共有してしまうという、誤情報が持つ厄介な性質を示している。
「特定の情報に繰り返し触れるほど、たとえそれが不正確でも、人はそれを真実だと信じ込みやすくなります」とトラン助教は言う。「私たちの研究は、誤情報を拡散する『悪者』が使っているのと同じ生成AI技術を、今度は人々が信頼できるコンテンツを大規模に届け、強化するために利用しようという試みなのです」。
この研究は、単に誤情報をファクトチェックするだけでなく、AIの力を利用してユーザーを情報の「泡」から解放し、より健全な情報環境を構築する可能性を示している。