• EUの学術機関と共同開発されたFRAPPEは、アブダビのMBZUAIのプレスラフ・ナコフ教授が発案した。
• FRAPPEは23種類の言語テクニックを訓練したシステムで、特定の説得やプロパガンダのテクニックを識別することができる。

スラファ・アルクナイジ

リヤド：偽情報が世論操作に果たす役割に対する懸念が高まっていることから、アラブ首長国連邦（UAE）のモハメド・ビン・ザーイド人工知能大学（MBZUAI）のプレスラフ・ナコフ教授は、プロパガンダを検出するAI搭載ツールの開発に乗り出した。

FRAPPEはFraming, Persuasion and Propaganda Explorerの略で、ニュースのフレーミング技術を評価し、情報操作の潜在的事例を特定するために設計されている。

アブダビを拠点とするMBZUAIの自然言語処理学科長兼教授であるナコフ氏は、読者の意見や感情に影響を与える複雑なパターンを分析、分類、検出することで、AIがFRAPPEで中心的な役割を果たしていると述べた。

このツールは、個々の記事をリアルタイムでその場で分析する一方、さまざまなメディアのフレーミングや説得戦略を包括的に比較することができる、と同氏はアラブニュースに語った。

国連は偽情報を、大衆を欺き深刻な被害をもたらす意図で意図的に作成され流布される不正確な情報と定義している。偽情報は国家と非国家の双方によって拡散され、人権に影響を与えたり、武力紛争に拍車をかけたり、公共政策への対応を損なったりする可能性がある。

世界経済フォーラムによる『グローバル・リスク報告書2024』では、誤報と偽情報が短期的なグローバル・リスクの上位に挙げられている。こうした欺瞞的なコミュニケーションは、大衆を欺くだけでなく、信頼を損ない、社会の分裂を深め、基本的人権を脅かす。

とはいえ、WEFは6月の記事で、誤報や偽情報の生成にAI技術が使われている一方で、パターン、言語、文脈を分析することで、このリスクと闘うためにAI技術を活用できることを強調している。

ナコフ教授によると、FRAPPEは23種類の言語テクニックを使って訓練されており、「AIを使って、罵倒、負荷のかかる表現、恐怖への訴え、誇張、繰り返しなど、特定の説得やプロパガンダのテクニックを識別する 」という。

「FRAPPEはさらにAIを使ってフレーミング分析を行う： 道徳、公正、平等、政治的、文化的アイデンティティである」

8,000以上の情報源から250万以上の記事を集めたデータベースを持つこの多言語システムによって、ユーザーは異なる国や情報源がどのように情報を組み立て、提示しているかを調べ、比較することができる。

さらに、システムのトレーニングデータを構築するために、ヨーロッパ数カ国の40人以上のジャーナリストが、13カ国語のニュースコンテンツの手動分析に貢献した。

ナコフ氏によれば、この手作業による分析によって、FRAPPEは、ストーリーがどのように語られ、どのように受け取られるかを形作る根本的なフレームを見分けることができるという。記事内の支配的なフレームを特定することで、FRAPPEはメディアソース、国、言語間でそれらを比較し、フレーミングが世界的にどのように異なるかについての貴重な洞察を提供する。

FRAPPEは、一般市民、ジャーナリスト、研究者、さらには政策立案者など、幅広い読者を対象としている。

「一般ユーザーにとって、FRAPPEはニュースコンテンツがどのようにフレーミングされるかを探る教育的ツールであり、罵詈雑言、国旗振り回し、ストレスを生じさせる表現、恐怖への訴えのようなプロパガンダのテクニックを特定することができる」とナコフ氏は言う。

「ジャーナリストや政策立案者にとって、FRAPPEは、異なる国、言語、報道機関にまたがるフレーミングや説得戦略を検証し、比較するための強力なツールとなる」

FRAPPEは、幅広い記事の中から説得やプロパガンダのテクニックを手作業で特定したジャーナリストの注釈に依存している。これにより、過度に主観的、あるいは一方的な解釈のリスクを最小限に抑えることができる。

FRAPPEの開発では、透明性と公平な分析が基本だったという。ナコフ氏は 「我々のモデルはニューラルネットワークを使用しているため、説明可能性に欠けることをユーザーは認識すべきである」という。

彼はまた、「我々の意図とは裏腹に、潜在的な意図しない記事選択のバイアスにより、FRAPPEはある政治的、社会的立場を支持しているかもしれない 」と警告した。

しかし、良い面もある。「FRAPPEは、ニュース記事がどのように受け止められ、消費されるかに影響を与える可能性がある。」そして、ジャーナリストは、自分たちが使う言葉やそれが読者に与える潜在的な影響をより意識するようになるかもしれない。

ナコフ氏は、ニュース内容の説得や操作のテクニックを見抜くために、読者や視聴者に 「恐怖や怒りのような強い反応を引き起こすようにデザインされた感情的な表現に注意し、”過激 ”や ”英雄的” のような、感情的な重みを持つ言葉に注意するように 」とアドバイスしている。

彼は読者に対し、一人の専門家や選択的な引用に頼りすぎている記事を批判的に評価するよう促し、同じ出来事を異なる報道機関がどのように対照的に報じるかを考慮することの重要性を強調した。

より明確な視点を得るために、ナコフ氏は情報源をクロスチェックし、異なるメディアが同じ記事をどのように取り上げているかを比較することを勧めている。このアプローチは、様々な角度、偏見、あるいはフレーミングのテクニックを明らかにするのに役立つ。

また、「私たち対彼ら」という単純化されすぎた物語は、「重要な詳細を省き、特定の角度から問題を構成する記事と同様に、しばしば操作されていることを示す」と強調した。

「極端な選択肢しか提示されない偽のジレンマや、論点を補強するために繰り返されるフレーズも赤信号です」

「FRAPPEは、メディアコンテンツに埋め込まれたフレーミングや説得のテクニックを明らかにすることで、個人や機関がより多くの情報に基づいた意思決定を行えるようにすることを構想している」

FRAPPEの目的は、ジャーナリズムの透明性を高め、メディアへの信頼を促進し、情報通でメディアリテラシーの高い国民に貢献することである。

FRAPPEは、欧州委員会の共同研究センターおよび欧州各地の学術機関との共同開発により、今年6月6日から9日にかけてEUで実施される2024年欧州議会選挙に先駆けて発表された。

欧州メディアモニターに統合されたこのツールは、フェイクニュース対策に焦点を当てたEUのワークショップで数多く取り上げられている。