毎年、サウジアラビアで開催される未来投資イニシアティブ（FII）は、その資本コミットメントの規模だけでなく、人類の未来についての戦略的命題をあえて提起することで、世界の注目を集めている。今年、人工知能（AI）に焦点が当てられたことで、中東はAIの次の段階を担う中心的な役割を担うという転換点を迎えた。この地域がAIのリーダーシップに向けて加速していることは、成長の機会を提供するだけでなく、世界を鼓舞しうるAIシステムを開発する貴重なチャンスでもある。

AIの次のフロンティアは人工完全性

歴史が私たちに教えてくれたことがあるとすれば、それは少なくともこのことだ。人間の生命の尊重と安全を保証する十分な条件として、知能があったことはない。知性を模倣したり、似せたり、あるいは単に知性のあるふりをすると主張するものが、なぜそうでなければならないのだろうか？

人間共通の価値観に対する誠実さがなければ、人工的であろうとなかろうと、どのような形の知性も、極端で不釣り合いな、耐え難い危険の種を秘めている。その代償は人命となりうる。

私たちが必要としているのは人工知能だけではない。私たちは、何を設計するか、何のために設計するか、そして何を設計しないかを選択することができる。

AIがもたらしうる力は、人間の尊厳を守るために本質的に設計されておらず、生命そのものを守ることを他のどんなパフォーマンス的配慮よりも優先させることができないAIシステムを使用することで、良心を便利さと引き換えにすることにノーと言うことを排除するものではないし、その必要性を低くするものでもない。

これこそが、私が「アーティフィシャル・インテグリティ」と呼ぶ学問分野である。特にシステムが強力な自律性を持つようになるにつれ、AIの開発と運用を人間の価値観や主体性と意図的に一致させることを優先する設計規範である。

この学問の統合に失敗した国家は、信頼を失い、規制の反発を受け、非効率的なシステム、評判の低下、そしてさらに深刻な事態に直面するだろう。成功した国々は、技術的な快適さ以上のものを手に入れるだろう。それは、自分たちの人生を左右するような決断や、自分たちの文化や文明を形成するものを自分たちで使いこなすための、認知的な主権を保持することだ。

危機的状況にある中東のAI

サウジアラビアの「ビジョン2030」とUAEの「国家AI戦略2031」は、AIを単に導入するだけでなく、多様化した知識集約型経済のバックボーンとするための、世界で最も野心的な枠組みのひとつである。

サウジアラビアのSDAIAやUAEの人工知能局といった機関を通じて、この地域はイノベーションがテクノロジーの独占ではないことを認識する先駆者の一人となっている。持続可能な未来を準備するためには、規制もまた革新的でなければならない。

人工知能の完全性の構築は、以下のような疑問に対する明確な答えを要求することで、さらに一歩進んでいる。

自動化された人工的なエージェンシーに期待される利益は、それを正式に決定することなく追求し、祝う価値があると仮定するのではなく、私たちが「雇用」する各AIシステムは、生産前にどのような明示的で譲れない人工的インテグリティの閾値を満たさなければならないのか？そして、誰がその閾値を満たし、その結果に対して全責任を負うのだろうか？

AIは、資金、計算、データだけの問題ではない。人間の主体性が損なわれることなく第一義的に維持されるよう、デザインによって管理され、主体性を委譲された強力な社会技術的主体としてAIを取り込むための社会を準備することなのだ。

それは、健康、信用、教育、移動、エネルギー、そして真実へのアクセスに関する社会の再設計である。

中東のAIビジョンは、この地域の最大の輸出品のひとつになるかもしれない。サウジアラビアとその近隣諸国がデザインによる人工的な完全性を実用化すれば、AIの行動における完全性について、長らく欠けていた世界的な基準を確立することができるだろう。

システム化されたAIがエコシステムのリーダーシップを求める

Artificial Integrityの中心的なメッセージのひとつは、政府、企業、地域のいずれであっても、単一の団体がAIのガバナンスを掌握することはできないということだ。AIシステムの行動に共通するインテグリティ主導の基盤を継続的に構築するためには、文化、分野、セクターを超えたエコシステム・リーダーシップが必要である。

FIIはこの原則を体現している。

サウジアラビア、アラブ首長国連邦、そしてより広い地域にとって、FIIは、AIの未来はリヤド、アブダビ、そしてそれ以外の地域でも書かれるという宣言である。世界中の人々にとって、これは協力し、学び、デジタル時代の共有アーキテクチャを共同創造するための招待状なのである。

私たちの世紀を定義するAIの問いは、もはや「知的マシンを作れるか？それは、人工的な完全性を実証できるように構築できるかということである。

• ハミルトン・マンはAI研究者であり、ベストセラー『Artificial Integrity』の著者：The Paths to Leading Toward a Human-Centered Future』（ジョン・ワイリー＆サンズ刊）のベストセラー作家。INSEADとHECパリ校で教鞭をとる。