先週、テスラの創業者イーロン・マスク氏やアップルの共同創業者スティーヴ・ウォズニアック氏など1,000人を超える技術専門家や巨大IT企業のトップによって、人工知能（AI）のさらなる開発を直ちに一時停止して調査を行い、AIの開発や導入を慎重に検討および計画するように限界の設定や規制の枠組みを決めるよう求めた公開書簡が発表された。

今回、書簡が公開されたのは、AIの中でも特に、OpenAIが開発しマイクロソフトが支援する、ChatGPTを支える高度なモデルであるGPT-4のリリースなど、目覚ましいいくつかの発表があった数カ月後のことだった。ChatGPTは確かにAIにおける最も革新的な開発だが、それだけではない。Google、Microsoft、Adobeなどテック企業も、自社の主力製品、その中でも検索エンジンなど生産性向上ツールにAI機能を追加して、世界中のユーザーがAIを実用できるようにしている。

ChatGPTの出現や、類似の、あるいはさらに高度なチャットボットなどのツールが世界中のあちらこちらで開発中であるという知らせが、ChatGPTなど超強力なAIツールが雇用に影響を与えかねないことについて、人間による介入や制御なしに、これまで以上にどんどんパワフルになるマシンに人間が追いつくことができるのかについて、多くの専門家に警鐘を鳴らしているのはもっとものことである。

人間社会の向上を目指して技術開発を推進するために設立された NGO、フューチャー・オブ・ライフが書簡を公開してから2週間足らずで、 20,000筆を超える署名が集まった。書簡では、独立した外部の専門家によって監査・監督される共有安全プロトコルを開発し、プロトコルを遵守するシステムが合理的な疑いを超えて安全であると確認することを求めている。

公開書簡によって提起された問題には、現実味がある。たとえば、AIは、ほとんど人間と同じように独立して、しかもはるかに総合的に作業を行うことができるレベルに達している。これにより、さまざまなタイプの脅威がもたらされそうだ。そのひとつが、プロパガンダや偽情報の拡散を制御できない、というものだ。FacebookやWhatsAppといったSNSを通じて、現在よりもフェイクニュースが拡散されて、はるかに大きな損害がもたらされる可能性があるのだ。

進化を続けるAIが規制を受けずに、あるいは管理できずに普及して引き起こされる被害は、おそらく、たとえば研究室からウイルスが流出して人間に感染した場合の何倍も大きなものになりそうである。

ランビル・ナヤール

しかし、AIのリスクは、拡散されるかもしれない偽情報にとどまらない。ChatGPTには、報道の最低限簡単な記事を生成する能力があるため、AIはすでに、著作権やオリジナル作品といった類に干渉しているのだ。こうした文書に深く入り込む偽情報に加えて、ChatGPTの機能は、たとえば、大学が学生を評価したり、企業が従業員の実際の能力を評価したりする上で、多くの課題を浮かび上がらせている。また、ソフトウェア開発者のコーディング、法律事務所での準備書面、学術研究者やジャーナリストの仕事など、知的業務を必要とするすべての分野において、何百万人もの解雇につながる可能性がある。高度なAIが持つこのような機能は、人間の文明と社会を深刻な形で容易に脅かす恐れがあるのだ。

AI支持者の中には、数十年前のコンピューターの登場と比較して、雇用の喪失や盗作の懸念には根拠がなく、かつてコンピューターがそうであったように、あるいは工場の自動化が現在につながっているように、AIも全く新しい仕事の流れを生み出すだろうと、主張する人もいるかもしれない。だが、最初にAIを作った、あるいは現在AIを強化している人間のコーダーがたとえいなくても、AIはすぐに人間と同じことができるようになるかもしれず、AIと人間の同時共存にも根拠がない。

しかし、AIによってもたらされる脅威で、何にもまして深刻なのは、AIが何に変化するかという点である。AIは、人間によって実験室で生成または分離された病原体またはウイルスに、多くの点で似ている。進化を続けるAIが規制を受けずに、あるいは管理できずに普及して引き起こされる被害は、おそらく、たとえば研究室からウイルスが流出して人間に感染した場合の何倍も大きなものになりそうである。

他の多くの最先端技術の分野と同様、政府や規制当局は、急速な発展についていくのに苦労している。多くの場合、政府や規制当局が追いついた頃にはずっと先を行っており、技術は別のものに変貌しているだけでなく、あまりにも強力になって、規制する側には打つ手がないと言っていいだろう。

Facebook （またはMeta)、Google、Microsoft、Amazonについて考えてみよう。これらの企業が猛烈なスピードで開発から数十年以内に、現在のような私たちの生活のほぼすべての面で支配するようになるとは、予測できた規制当局は皆無であったろう。これまで、これらの企業が社会、特に自由な競争市場にもたらす脅威に、規制当局は気づくことができなかった。巨大IT企業の影響力を制限しようとする国もあるが、その動きは効果がなく、無力だった。

私たちは数十年前、巨大IT企業と歩んだ同じ道を、今度はAIと歩いているのだ。規制当局や官僚、議員たちは、これら巨大IT企業のCEOたちの「ただ、人類の文明の発展に寄与したいだけ」という、耳触りがよい言葉で交わされた約束に惑わされたのだ。それどころか、これら巨大企業は、世界中のどの独裁政権よりも、私たちの生活や社会を強力に支配しているのである。

AIで同様のリスクを冒すことはできない。なぜなら、特にAIは一握りの裕福なCEOたちによって管理されているわけではなく、誰も戦ったり抑え込んだりできない、自給自足の巨人になるかもしれないからだ。

やみくもに新たな技術の深淵に向かうのではなく、妥当なチェック・アンド・バランスと国際合意が整うまで、政府、議員、規制当局が責任をもって、さらなるAIの開発を一時停止すべき時だ。AIの最終用途に関する制限についての国際合意は、一握りの企業ではなく、国際社会が主導して決めるべきである。獣が私たちを食い物にし始める前に、檻に入れる時が来たのだ。

• ランビル・ナヤール氏はメディア・インディア・グループの編集長。