米連邦準備制度理事会（FRB）のケビン・ウォッシュ議長は、人工知能（AI）が労働生産性を大幅に高めるだろうと確信しており、著名な経済学者たちもこれに同意している。しかし、それを鵜呑みにすべきではない。実際、こうしたモデルの普及が進めば、労働者1人あたりの生産量は低下する可能性がある。

新技術の広範な普及は、経済の活力を支える礎である。そしてインターネット時代において、使いやすいユーザーインターフェースと手頃な価格は、不可欠な推進力となってきた。1990年代初頭までは、技術に精通した人々は、インターネット上で文書をやり取りするために、Gopherのような厳格に構造化されたテキストベースのツールに頼っていた。 その後、より柔軟なワールド・ワイド・ウェブ（WWW）が登場し、ブラウザ（Mosaic、Netscape Navigator、MicrosoftのInternet Explorer）や、高速で使いやすく、安価な検索エンジンが次々と生み出された。

ワールド・ワイド・ウェブ初の「全文検索」インデックスであるアルタビスタは、1995年のサービス開始初日に30万回のアクセスがあったのが、やがて1日あたり8,000万回を超えるまでに成長した。しかし、アルタビスタは検索結果に醜いバナー広告を掲載し、表示を損ねていた。 そこで、1998年にGoogleが検索エンジンを立ち上げた際、私のようなユーザーは、検索結果の質を顧みることなく、そのデザインに魅了されてしまった。Googleの成功は、競合する検索エンジンや従来の印刷媒体を圧倒し、同社のエンジニアたちは、情報検索が迅速、簡単、そして低コストであり続けるよう、計算インフラの効率性を奇跡的に維持し続けた。

しかし、その成功は同時にユーザー体験と生産性を損なうことにもつながった。Googleが独占的地位を築くにつれ、検索エンジン最適化業者（SEO業者）が無意味なリンクで検索結果を埋め尽くした。伝統的なメディアはクリックベイトに頼るようになった。こうした雑多な情報により、ユーザーはキーワードの選び方、ブール演算子（「AND」など）の使い方、クリックベイトの見分け方といった新たなスキルを身につけざるを得なくなった。 さらにGoogleは、ページの上部に「スポンサーリンク」を表示することで、ユーザー体験をさらに悪化させた。

AIチャットボットも同様の道をたどった。ChatGPTは、2022年11月のリリース後、最初の5日間で100万人のユーザーを集めた。 Googleの当初のすっきりとした検索ページと同様、このチャットボットのインターフェースも魅力的だった。ユーザーはブール演算子を必要とせず、平易な英語で質問することができた。しかし残念なことに、ChatGPTは嘘つきの「おしゃべりなやつ」であることが判明した。そのでたらめな情報を排除するのに、Googleでキーワード検索を行うよりも時間がかかり、生産性を低下させてしまった。 検索分野での支配的地位に存亡の危機を感じたGoogleが急いでリリースしたチャットボット「Bard」も、同様に期待外れだった。

ChatGPTの虚偽情報を排除するのに、Googleでキーワード検索を行うよりも多くの時間がかかり、生産性を低下させてしまった。

アマール・ビデ

それから3年以上が経過した今、GoogleはBardのサービスを終了し、従来の検索結果の上部に「AI概要」を表示するとともに、「AIモード」というオプションを導入した。これは、ユーザーに「何でも聞いてください」と促すチャットボットである。 しかし、私の経験では、単純な質問であっても、検索結果は依然として苛立たしいほど信頼性に欠ける。

Googleの先駆的なアルゴリズムを含む従来の統計モデルと比較すると、大規模言語モデルには説得力のある利点があるように思われる。数兆ものパラメータを持つこれらのモデルは、以前のモデルが無視せざるを得なかった文脈的要因を取り入れることができる。 また、大規模言語モデルは単に情報を提供するだけではない。哲学者ルートヴィヒ・ウィトゲンシュタインが「言語ゲーム」と呼んだものの中で、比喩やユーモアを用い、安心させ、説明し、お世辞を言い、主張し、説得するのだ。

しかし、以前のモデルと同様、大規模言語モデルも統計的な外挿に依存しており、過去が繰り返されるという未来を前提としている。 これはタンパク質の折りたたみのような自然現象には適しているが、絶えず変化する商品やサービスには当てはまらない。例えば、ノートパソコンのバッテリーの配置がわずかに変更されただけで、交換方法の説明が無意味になってしまうことがある。それにもかかわらず、ユーザーは――スタンレー・ミルグラムの悪名高い電気ショック実験の被験者たちのように――反射的にチャットボットの自信に満ちた回答に従ってしまう。 対照的に、従来の検索リンクは、情報の陳腐さや情報源の信頼性の低さをより明確に示す。これにより、ユーザーは自らの判断をより自由に働かせることができ、誤った結果やコストを削減できる。

無差別に数兆ものパラメータを含めることは、大規模言語モデルの外挿問題を増幅させる。なぜなら、存在しないパターンを見つけ出したり、網羅的だが精選されていないカタログから無関係または信頼性の低い回答を選択したりする可能性が高まるからだ。従来の統計モデルの設計者は、計算コストを管理しつつ、変数やデータソースを制限することで、そのような結果を回避することができる。

いったんユーザーがそのサービスに夢中になれば、ハイパースケーラーは、莫大な開発・運用コストを回収するために、間違いなく高額な料金を請求することになるだろう。

アマール・ビデ

大規模言語モデルが統計的外挿に依存していることは、その対話型インターフェースを言語的なキメラにしてしまう。人間のような意味形成を再現できず、意図に対する真の文脈的理解も持たないため、ウィトゲンシュタインの言葉を再び借りれば、言語を「生の形式」として用いることはできないのだ。 そうであるかのような見せかけこそが、AI販売業者にチャットボットを無差別に押し付けることを可能にしてきた。とりわけ、大規模言語モデルが実際に有用な、より限定的な用途だけでは、数兆ドル規模の投資を正当化できないからだ。

AI推進派は、人々を中毒状態に陥れるために全力を挙げている。GoogleのAI概要や「AIモード」は、いわば無料の試食のようなものだ。いったんユーザーがハマってしまえば、ハイパースケーラー企業は、巨額の開発費と運用コストを回収するために、間違いなく高額な料金を請求するだろう。

最も強力な企業でさえ、消費者を欺いて服従させることはできないと期待したいところだ。 一見無尽蔵に見えるリソースにもかかわらず、Googleの失敗作はヒット作と同数以上ある。Metaという社名そのものが、仮想現実（VR）への数十億ドル規模の失敗した賭けを象徴している。しかし、ジャンクフードへの依存を急成長するビジネスへと変えたマーケティング攻勢は、気が滅入るような反例を示している。

ハイパースケーラーは、人間が持つ「親しみやすい会話」への根深い欲求を悪用することで、大規模言語モデルへの依存を、生理的な依存症と同じくらい広範なものにし得る。社会的絆が希薄化する中、チャットボットはその代用となり、真面目な専門家さえも恋に夢中なティーンエイジャーに変えてしまう可能性がある。 そして他の依存症と同様に、大規模言語モデルはすでに、資本、電力、チップ、起業家精神といった、他の価値あるイノベーションに必要な資源を奪い取っている。この状況が続く中、テクノロジー楽観主義者たちは、AIがもたらす生産性の向上という楽観的な見方を再考すべきだろう。

• コロンビア大学メールマン公衆衛生大学院の保健政策学教授であるアマール・ビデ氏は、最新著書『Uncertainty and Enterprise: Venturing Beyond the Known』（オックスフォード大学出版局、2024年）の著者である。©Project Syndicate