• インターネットユーザーは、画像の検証にAIをますます活用するようになってきているが、最近の誤認事例は、この技術を盲目的に信頼することのリスクを浮き彫りにしている。
• Grok が、ガザで栄養不良の少女が写った最近の画像を、数年前のイエメンの画像と誤って特定したことから、大騒ぎになった。

パリ：AFP のフォトジャーナリスト、オマール・アル・カタア氏が撮影したこの写真は、イスラエルによる封鎖によりパレスチナ領土で大規模な飢饉が懸念されているガザで、栄養失調で骸骨のような姿になった少女を捉えている。

しかし、ソーシャルメディアのユーザーが Grok にこの写真の出所を尋ねたところ、X のボスであるイーロン・マスクの人工知能チャットボットは、この写真は 7 年近く前にイエメンで撮影されたものと答えた。

この AI ボットの誤った回答はオンラインで広く共有され、左派の親パレスチナ派フランス人議員、アイメリック・キャロン氏は、この写真を投稿したことで、イスラエルとハマス間の戦争に関する偽情報を流したとして非難された。

インターネットユーザーが画像の真偽を確認するために AI をますます利用するようになる中、この騒動は、この技術がまだエラーのないものとはほど遠い状況にある中で、Grok のようなツールを信頼することのリスクを明らかにしている。

Grok は、この写真は 2018 年 10 月に撮影された、7 歳のイエメンの子供、アマル・フセインさんだと述べた。

しかし、実際にはこの写真は、2025 年 8 月 2 日、ガザ市にて、母親のモダララさんに抱かれた 9 歳のマリアム・ダワスさんを撮影したものである。

2023年10月7日にハマスがイスラエルを攻撃したことをきっかけに戦争が始まる前、マリアムさんの体重は25キロだったと、母親はAFPに語った。

現在、彼女の体重はわずか9キロだ。マリアムさんの健康状態を改善するために彼女が摂取できる唯一の栄養は牛乳だけだと、モダララさんはAFPに語った。しかし、その牛乳も「常に手に入るわけではない」という。

誤った回答を指摘されたGrokは「私は偽ニュースを拡散しない。回答は検証済みの情報源に基づいている」と述べた。

チャットボットは最終的に誤りを認める回答を発行したが、翌日の追加の質問に対しては、写真がイエメンのものだと主張を繰り返した。

このチャットボットは以前、ナチス指導者アドルフ・ヒトラーを称賛する内容や、ユダヤ系の姓を持つ人がオンラインでの憎悪を拡散しやすいと示唆する内容を発行していた。

Grokの誤りは、AIツールの限界を浮き彫りにしている。その機能は「ブラックボックス」のように不可解だと、技術倫理の研究者ルイ・ド・ディエスバッハ氏は述べた。

「なぜ彼らがこの回答やあの回答をするのか、またどのように情報源を優先順位付けしているのか、私たちは正確には知らない」と、AIツールに関する書籍『Hello ChatGPT』の著者であるディエスバッハ氏は述べた。

各 AI は、そのトレーニングに使用された情報や開発者の指示に関連した偏見を持っている、と彼は言う。

研究者の見解では、マスク氏のスタートアップ企業 xAI によって開発された Grok は、南アフリカの億万長者であり、ドナルド・トランプ米大統領の元側近であり、過激な右派の旗手であるマスク氏の「イデオロギーと非常に一致した、非常に顕著な偏見」を示している。

チャットボットに写真の出所を特定するよう依頼することは、その本来の役割から逸脱している、とディエズバッハ氏は述べている。

「通常、画像の出所を調べると、『この写真はイエメンで撮影された可能性も、ガザで撮影された可能性も、飢饉が発生しているほぼすべての国で撮影された可能性もある』と表示されるだろう」

AI は必ずしも正確さを追求するわけではない。「それは目標ではない」と専門家は言う。

2025年7月にアル・カタア氏が撮影した、ガザの飢餓に苦しむ子供たちの別の AFP 写真も、Grok によって 2016年のイエメンと誤って撮影場所と撮影日が特定されていた。

この誤りにより、この写真を掲載したフランスの新聞「リベラシオン」は、インターネットユーザーから非難されることになった。

AIの偏りは、与えられるデータと、いわゆる「アラインメントフェーズ」と呼ばれる微調整の過程に依存し、これがモデルが「良い回答」か「悪い回答」かを判断する基準となる。

「単に『その回答は間違っている』と説明したからといって、異なる回答を返すとは限らない」とディエスバッハ氏は述べた。

「そのトレーニングデータは変更されておらず、アラインメントも変わっていないからだ」

Grokだけが画像を誤って識別しているわけではない。

AFPが、フランス系スタートアップとニュース機関の合意に基づきAFPの記事で一部訓練されたMistral AIのLe Chatに質問したところ、このボットもマリアム・ダワス氏の写真をイエメンのものと誤って識別した。

ディエスバッハ氏によると、チャットボットは事実確認のツールとして決して使用すべきではない。

「彼らは真実を伝えるために作られていない」が、「真偽を問わずコンテンツを生成するため」に作られていると彼は述べた。

「それは親切な病的嘘つきのようなものだと考えるべきだ。常に嘘をつくわけではないが、常に嘘をつく可能性がある」と。

AFP