世界は、人工知能の手綱を取り、リスクを管理し利益を最大化しつつ、責任あるAIの開発を行うことに向けて、最初の協調的な一歩を踏み出した。先週、米政府から国連に至るまで、AIに追いつこうとする動きが加速した。いつの日か、規制がテクノロジーの先を行く日が来ることが期待されるが、AIの進歩の稲妻のような速さを考慮するとそれは儚い希望なのかもしれない。

最大のニュースはホワイトハウスからだった。ジョー・バイデン大統領が、グーグルやオープン AI、マイクロソフトを初めとする、AI開発を主導している7つの企業の幹部たちと会談したのである。バイデン大統領は、AIを「安全、安心で、信頼し得る」ものにするための予防手段を実装しガイドラインに従うという自発的な誓約と言質を確保することが出来た。

バイデン大統領は、AIの開発速度を驚くべき素晴らしい展開であるとし、「私たちは今後10年、あるいは数年以内にも、過去50年間で見聞した以上のテクノロジーの変化を目の当りにすることでしょう」と付け加えた。AI企業のコミットメントは頼もしい一歩ではあるとしながらも、バイデン大統領は、「私たちには協力して行う仕事がたくさんあります」と述べた。

AI企業のコミットメントに誰もが感銘を受けたわけではない。評論家らは、AIに関連した利益動機を有するAI企業がAI規制の議論の中心にいるべきではないと語る。他方、こうした大手AI企業を優先的に取り扱うことは、同じくAIに取り組んでいる中小企業に対して不公平だという見方もある。

批判はともかくとして、米政権がAI企業の規制を言明したことは歴史上重要であると考えられる。

バイデン政権は、AI企業に対して「製品の安全性の確保」の責任を強調し、会談したAI企業が「即座にこうした取り組みを開始することを選択しました」と発表した。

しかし、AI企業は何に取り組むというのだろうか? バイデン政権は、「安全、安心、信頼」の3つの原則にAI企業は取り組むことになるのだと発表した。安全とは、「製品を社会に送り出す前にその製品の安全性を確認すること」である、安心は、独立した専門家によるセキュリティテストを行い、また、安心を第一とするシステムを構築することで達成される。そして、こうしたことを行うことで、AI企業は社会的な信頼を獲得し得るのである。

バイデン大統領は、AIを安全なものするために、自身の政権が取った措置の要点を説明した。その中には、昨年10月に、「この種のことでは初となる」AI権利章典を発布し、AIシステムについての米政府のガイドラインを詳述したことが含まれている。また、今年2月には、バイデン大統領は、「不公平を招くアルゴリズムから国民を守るよう各省庁に指示する」大統領令にも署名している。この大統領令には、連邦政府の機関が開発や運用を行うAIシステムが負うべき、新たな公平性の義務が含まれていた。そして、5月には、米政府は、「信頼し得るAI関連技術の革新的ブレークスルーを促すための7つの新たなAI研究機関を設立する新戦略を発表」したのだった。

また、先週の国連安保理の会合では、米国代表は、各理事国に「AIと自律性の責任を果たし得る軍事利用についての政治宣言案」への支持も促した。この宣言案は、軍事領域におけるAI利用の原則に対応しようとするもので、AI機能の軍事利用は人間の指揮系統に対して説明責任を負うことを強く主張している。

人間による制御の無いAIを軍事領域で使用することの危険性は、AIの規制に取り組む人々の安眠を妨げている。

批判はともかくとして、米政権がAI企業の規制を言明したことは歴史上重要であると考えられる。

アマル・ムダラリ博士

バイデン大統領は、今後数週間、「信頼し得る技術革新に向けて米国が先導的役割果たすための措置を取る」事を継続すると言明した。とは言うものの、米政権は、法律として成文化しない限り、取り組むだけではAIの規制には十分ではない事を理解しており、議会が次の段階での正念場となる。

米政権と米議会の民主党指導部は、超党派ベースでAI規制の法案を優先すると述べているが、政治的に分裂している議会でそれが成功するかどうかは依然として不透明である。

米政権がAIを国際的な問題と見做し、その規制のために、国際的な協力を呼びかけていることは朗報である。米政権は、「同盟国やパートナーと協力し、AIの開発と使用を管理する強固な枠組みを確立する」意思を表明した。米政権は、自主的な取り組みについて米政権と協議を行った21ヶ国のリストを公表した。

バイデン政権は、これらの取り組みが、G7の広島AIプロセスでの日本のリーダーシップや、人工知能に関するグローバル・パートナーシップ議長国としてのインドの取り組み、英国のジェームズ・クレバリー外相が先週の安保理で発表したAIの安全性に関する英国での秋期のサミットといった、AIの管理のために進行中の他のプロセスを確実に「支援し、補完」したいと述べた。

国連安保理初のAIに関する会合では、AIが平和と安全に与え得る影響が全理事国の懸念だった。倫理的かつ信頼できる管理の枠組みを全理事国が求めたのだ。国連のアントニオ・グテーレス事務総長は、安保理に、AIへの国際的な基準や取り組みの導入にあたって国連は「理想的な環境」だと語った。

グテーレス事務総長は、「国際的な合意を得たモニタリングと管理のメカニズム」の運営を通じて「AIによる利益の恒久的な最大化」と「既存の、そして潜在的なリスクの軽減」を目的としたAI管理のための協調的取り組みを行う、「国連による新組織の設立」を求める複数加盟国の呼びかけを歓迎した。その最初の一歩として、「今年末までに国際的なAI管理の選択肢の取りまとめを目的とした、マルチステークホルダーによる人工知能についての高いレベルの諮問委員会」を開くとグテーレス事務総長は述べた。

ハイテクAI企業アンスロピック社の幹部であるジャック・クラーク氏は、AIシステムの安全性に関して大手ハイテク企業は信頼できないと国連安保理に告げた。クラーク氏は、「AIシステムの強固で信頼し得る評価」の重要性について語り、そうした評価の不在は、「規制機関が被規制側に実質的に支配され、同時に国際的な安全保障の脅威が発生し、民間セクターの限定的な関係者に未来を引き渡してしまう危険を冒す」ことになると強く主張した。

クラーク氏らは、AIシステムを構築し評価を行うための「高度なコンピューター」や適切なデータと知識を保有しているのはテクノロジー企業であり政府ではないという問題を指摘した。

「AIテクノロジーが暴走することを防ぐため」にAIについての原則を確立し、また、その開発を管理するにあたって国連が中心的役割を果たすことを、中国大使が支持した。

AI企業の誓約は、もしそれが遵守されなかった場合に米政府がどのようにそうした企業に責任を問うのか、また、AI企業が自主規制を行うと信頼してよいのかという重要な問題を提起している。ジェフ・ザイエンツ大統領首席補佐官は、「私たちは連保政府の持つあらゆる手段を駆使して、こうした取り組みと基準を実施していきます」と、ナショナル・ラジオに語った。AIの管理原則と規制の確立へ向かう列車は駅を出発したのだ。しかし、それが、車掌にとっても乗客にとっても同様に辛く根気を要する旅程となることをあらゆる兆候が示している。

• アマル・ムダラリ博士は、米国の政策、国際関係のアナリスト。