ワシントン: 米国の高校校長が録音した音声が捏造され、人種差別と反ユダヤ主義の疑惑を生んだ事件は、AI操作に対する新たな警戒心を呼び起こした。

警察は、メリーランド州の学校で不満を持つ職員が、人工知能を使って、エリック・アイズワート校長が「ユダヤ人」や「恩知らずの黒人の子供たち」に対してわめき散らしているとされる録音を1月に作成したとして起訴した。

パイクスヴィル高校に対して怒りの電話や脅迫が殺到したこのクリップは、広く入手可能なAIや編集ツールが、有名人や一般市民を問わず、なりすましに悪用されやすいことを浮き彫りにしている。

米国を含め、世界的に大きな選挙が行われるこの年、この事件はまた、法制度が追い付いていこうとする中で、リアルなディープフェイクの危険性を示している。

カリフォルニア大学バークレー校のデジタル・フォレンジック専門家であるハニー・ファリド氏は、AFPに次のように語った。

「岩の下にでも隠れない限り、できることはほとんどないのです」

「脅威のベクトルは、世界中に、ジョー・バイデンやテイラー・スウィフトから、高校の校長、15歳の子供、記者、弁護士、上司、祖母にまで及んでいます。今や誰もが脆弱なのです」

公式調査の後、同校の体育主任だった、ダゾン・ダリエン（31）が先月末、このクリップの件で逮捕された。

告発文書によれば、この音声が流れた後、パイクスヴィル高校の職員は危険を感じたという。教師たちは校内に盗聴器が仕掛けられているのではないかと心配し、ソーシャルメディアには罵詈雑言が書き込まれた。

あるXユーザーは、校長に対して「あなたが土の反対側にいれば、世界はもっと良い場所になる」と書き込んだ。
AFPのコメント要請に応じなかったアイズワート校長は、学校から休職を命じられ、自宅の警備が必要になった。

この録音が1月にソーシャルメディアに投稿されると、インスタグラムには何千ものコメントが寄せられ、学校は全国的なスポットライトを浴びることになった。

この音声は活動家のディレイ・マッケソンによって増幅され、彼はXで約100万人のフォロワーにアイズワート校長の解雇を要求した。

アイズワート校長の入っている労働組合のビリー・バーク専務理事は、この録音について、「私は、これらの行為が引き起こした損害について懸念し続けている」と述べた。

AIを使ったディープフェイクのポルノを封じ込めようと米国の複数の学校が奮闘しており、連邦法も整備されていないなか、生徒への嫌がらせにつながっている。

ボルチモア郡のスコット・シェレンバーガー州検事は記者会見で、パイクスビルの事件は 「法律をテクノロジーに対応させる 必要性を浮き彫りにした」と述べた。

捜査当局は、この音声を最初に配信した電子メール・アドレスと体育主任を結びつけることで、この音声の出所をときとめた。

警察によれば、この中傷は、ダリエン氏がルームメイトでもあったコーチへの不正な支払いを許可したかどうかについて、アイズワート氏が12月に開始した調査に対する報復であったとのことだ。

告発文書によれば、ダリエン氏は音声が公開される前に、学校のネットワークを通じてAIツールを検索しており、「大規模な言語モデル」を使用していたという。

警察のために音声を分析したコロラド大学の教授は、”AIが生成したコンテンツの痕跡があり、後から人間が編集したもの “と結論づけた。

捜査官は、カリフォルニアの専門家にも相談し「操作され、未知のソフトウェアを使って複数の録音がつなぎ合わされている」と判断したと書いている。

AIによって生成されたコンテンツ、特に音声は、専門家によると特に見破るのが難しい。1月にバイデン大統領を装った偽の音声がニューハンプシャーの住民に同州の予備選で投票しないよう促したことで、全米に警鐘を鳴らした。

「経済全体から民主主義国家、高校の校長まで、あらゆるものに影響を与えます」とファリド氏はテクノロジーの悪用について述べている。

パイクスビルのゴルフ・コーチであるパーカー・ブラットン氏は、アイズワート校長の事件は、「非常に緊密なコミュニティ」でさえも、偽情報がいかに動揺させるかを明らかにし、パイクスビルへの警鐘となった、と語った。

「大統領は一人。校長は100万人いる。みんなこう思ったでしょう： これは私にとって何を意味するのか？誰かが私のキャリアを破滅させたいと決めたとき、私にも起こりうること?」

「これから逃れることはできないだろう」

AFP