人間と機械の間の緊張や不安感は、今に始まったことではない。両者の間には長い間、愛と疑惑の関係があった。どの世代も、技術進歩の波が私たちの生活に入り込む前の時代を懐かしみ、逆戻りするボタンがないことに気づく。

また、機械が私たちの生活様式、ひいては人生そのものを脅かすのではないかという不安もある。フランスの作家、ジュール・ヴェルヌは現代SFの基礎を築いたが、彼の死後120年経った今、彼の作品はより深く感じられる。彼の死後120年を経た今、彼の著書はより深く感じられる： 「機械を発明した結果、人間は機械に食い尽くされる」

もちろん、これは戦場では大いに当てはまるし、道路を走る自動車にも当てはまる。しかし、医療、教育、産業、そして娯楽に至るまで、技術革新が私たちの生活をより長く、より良く、より豊かに、場合によってはより良く変えてきたこともまた事実である。

私たちに計り知れない期待と未知なるものへの恐怖の両方を植え付ける最新の技術開発は、人工知能であり、人間の認知能力と同等かそれ以上の能力を持つAIの仮説的なタイプである人工一般知能である。

処理効率の向上、イノベーションの育成、ミスの最小化、危険なタスクの遂行、複雑な問題への迅速かつ効率的な対処など、これらの新技術の可能性は、生活のあらゆる場面で膨大なものとなっている。

しかし、これらのテクノロジー、言ってみればこれらの機械が、最終的には自律的に動作するように設計されているという恐怖は、多くのメアリー・シェリーの架空の物語、ヴィクター・フランケンシュタインを思い起こさせる。ヴィクター・フランケンシュタインは、無生物から生命を創造することで、あえて自然の境界線に逆らった科学者であり、その物語は怪物とその創造者の両方にとって悲劇に終わる。

今月パリで開催された人工知能アクション・サミットは、テクノロジーの規制を通して、同様の現実の悲劇を防ぐために開催された。

その目的は、サミットの結論で述べられているように、AIが 「オープン 」で 「包括的」、そして 「倫理的 」であることを保証することである。というのも、私たちが知っている社会を変える可能性のある革命的なテクノロジーを規制するグローバル・ガバナンスの必要性が初めて国際的に理解され、認識されたからである。

AIの場合、私たちは人間であることの意味を自問し、人間性とこのような先端技術との関係について熟考するよう促されるかもしれない。

技術開発の中には、漸進的な変化の方が消化しやすく、必要であれば元に戻せるものもある。しかし、AIはそのようなものではない。AIはすでにパラダイムシフトを象徴するものであり、私たちが今目の当たりにしているのは、潜在的に無限の能力を発揮するための序曲にすぎない。

一方では、AIは救助活動や爆弾処理、有毒物質の管理、手術室での複雑な外科手術など、人間の安全や健康を脅かす作業を支援することができる。

とはいえ、AIシステムには透明性や説明責任が欠けており、もし完全に自律的に動くようになれば、我々人間の「文明」に匹敵する存在になりかねない。

イノベーションと技術の進歩は今後も続き、私たちに新たな機会と新たな挑戦をもたらすだろう。

ヨシ・メケルバーグ

AIの透明性の欠如は、AIの意思決定や行動の理由を私たちが完全に把握できていないことを意味する。私たちは、これらの決定や行動が信頼でき、倫理的であることを保証し、さらに重要なことは、その影響を受ける人々がその背後にある理由を完全に知ることができるようにするために、これを必要としている。

例えば、ソーシャルメディアに関する私たちの経験では、少なくとも初期の「無邪気な時代」には、これらのプラットフォームはソーシャルネットワークを構築し、知識を広め、娯楽を提供し、友人や家族と連絡を取り合うためのものだと信じていた。

しかし私たちは、これらのプラットフォームが実際には巨大なデータ収集マシンであり、悪用される可能性があること、場合によっては私たちに商業的な情報を浴びせる可能性があることを知った。さらに悪いことに、選挙期間中も含め、私たちのオピニオンを操作するために、他者（たとえば外国政府やビジネス関係者）によって悪用される可能性があることもわかった。

ソーシャルネットワーク上のコンテンツがモデレートされないことが増えている。これは「言論の自由」という偽りの議論を使って擁護されているが、一方で子どもたちを含むユーザーをあらゆる種類の検証されていない主張にさらすことになり、その結果、人々は歪んだ世界観を採用することになりかねない。

大手ハイテク企業は、自分たちの利益を制限できる規制には興味がない。しかし、規制のない進歩の結果、特に無限に近いパワーを持つAIは、社会を見違えるほど変えてしまうかもしれない。

さらに、AIが自律的な意思決定を行えるようになった場合、物事がうまくいかなくなったときの責任は誰にあるのだろうか？その機械を作った人たちだろうか？電源ボタンを押してスイッチを入れた人たち、あるいはその上司だろうか？データプロバイダーだろうか？それともマシンを規制することに失敗した人たちだろうか？

教育、特に高度な学位取得を目指す学問では、試験から授業外の課題に移行する傾向が強まっているが、ジェネレーティブAIの導入は、学生と教師との信頼関係を危険にさらし、一般的に学習経験と必要なスキルの育成に害を及ぼす。

医学の分野では、生死に関わる問題をAIに自律的に判断させることができるのか、あるいは信頼すべきなのか、その判断は誰が責任を負うのかなど、多くの倫理的問題が提起されている。

さらに、AI技術によるエネルギー消費量が不穏なほど多いという問題もある。気候変動への取り組みを続ける上で、これは破滅的だと評する専門家もいる。

理念の問題として技術の進歩に反対する人々（そしてAIは確かに技術的な飛躍である）と、イデオロギー的な理由から、あるいは利益の最大化への執着から、いかなる形の法律や規制にも同じように反対する人々の両極端の間に、パリ声明が示唆する第3の選択肢がある。

イノベーションと技術の進歩は今後も続き、私たちに新たなチャンスと新たな課題をもたらすだろう。しかし今回は、それが起こっている業界が十分に社会的な認識を持ち、ビジネス上の利益や権力の追求よりも人間性や倫理的価値を優先させることに関心を持っているなどという幻想は捨てるべきだ。

パリで開催された人工知能アクション・サミットとその結論は、私たちに迫りつつあるこの新たな産業革命において、政府が果たすべき役割があることを世界各国の政府が認識しつつあることを示す最初の兆しであったかもしれない。

それは、人間と機械の関係について、これまでのパラダイムシフトから学んだ教訓であり、人間性を失うことなくAIの恩恵を最大限に享受できるよう、「尊敬と疑念」を等しく持つことである。

• ヨシ・メケルバーグ氏は国際関係学の教授であり、チャタムハウスのMENAプログラムのアソシエートフェローである。X: YMekelberg