スラファ・アルクナイジ

リヤド:実在の人物や架空の人物を描写するために加工・操作された画像や録画であるディープフェイクの使用は、倫理的な懸念を引き起こしたが、人生を変えるようなポジティブな利益をもたらす可能性もあると、木曜日にリヤドで開催されたグローバルAIサミットで語られた。

「ディープフェイク:倫理的、技術的、社会的影響のナビゲーション」と題されたパネルディスカッションで、スイス連邦通信局のトーマス・シュナイダー大使兼国際問題担当ディレクターは、「ディープフェイク」の定義には政治的、技術的、あるいは法的根拠がある可能性があると述べた。

この技術は、「芸術作品であるか、あるいは(芸術作品である場合)誰かを侮辱しているか」によって、倫理的な影響が大きく異なる。

同じパネルディスカッションで、サウサンプトン大学のジェニファー・ウィリアムズ助教授は、ディープフェイクには「ごくわずかな編集や、小さな変更」が加えられる可能性があると述べた。

「英国で使用されているような自動話者認証システムを回避できるディープフェイクを作成するには、あなたの声が3~5秒あれば十分です」と彼女は述べた。

ウィリアムズ氏は、ディープフェイクは常に誤解を招くものや違法なものであるとは限らないと述べた。

ディープフェイクの一種である音声合成技術の台頭により、多くの企業で需要が高まっていると彼女は述べた。

この技術の利点には、音声の再構築、音声信号から生体情報を取得する音声プライバシー、音声合成技術による視覚障害者のための朗読者選別などがある。

ウィリアムズ氏は、ディープフェイク技術がフェイクメディアの消費による精神衛生上の問題の増加につながる可能性もあると警告した。

「私が懸念していることのひとつは、現実をどう捉えるかという点において、さまざまな新しいタイプの精神衛生上の問題が起こるのではないかということです。若い世代が、変化する世界に私たちが対応してきたのと同じスピードで対応し、それが彼らが情報を処理する方法や、彼ら同士の関わり方にどのような影響を与えるか、私にはわかりません」と彼女は語った。

アランAIの共同創設者兼CTOのワリド・マグディ氏は、米国の俳優トム・クルーズのふりをする人物が運営するTikTokのアカウントなど、ソーシャルメディアプラットフォーム上でディープフェイクが悪用されていると述べた。

プラットフォームからディープフェイクを削除する対応が遅いことが問題だと同氏は指摘した。

「人々にその害を取り除くよう説得するには、さらに長い時間がかかります。フェイクニュースも同じです。人々の間で広まり、人々はそれを真実だと考えて行動に移します」

「目にしたことをすべて信じるのではなく、何度も確認する必要があります」

パネルの最後に、シュナイダー氏はAIの未来について次のように語りました。「私たちは学び、向上する必要があります。それは対策の組み合わせです。私たちを助ける技術的な基準を開発する必要があります。私たちを助ける法的基準を開発する必要があります。私たち自身のスキルと常識を開発する必要があります。私たちには選択肢がありません」