私は、ニュースルームの同僚たちに、インターネットやChatGPTのような大規模言語モデルを基盤とした広く利用可能なツールからコピーアンドペーストすることは、ジャーナリストの知識や職業的成長を含む点で逆効果であることを説明するのに、ますます苦慮している。しかし、効果はない。

私がニュース編集者として経験していることは、教育やビジネス分野での執筆ツールの広範な利用を指摘する研究結果からもわかるように、決して珍しいことではない。長期的に見れば、これは批判的思考や情報保持といった重要な人間の能力を損なうおそれがある。

国家、社会、そしてすべての学習・コンテンツ制作機関は、機械への過度の依存が人間と社会に悪影響を及ぼすことを警告する必要がある。専門家が指摘するように、多くの人が、タスクを完了するために機械ツールにのみ依存することが、時間とともに専門的な進歩やスキル開発を損なうことを認識していない点に注意すべきだ。これは、人々がより良いジャーナリスト、研究者、または学術的な成果を上げることを妨げる。ジャーナリストが新たな洞察に基づく思考や考察を通じて社会に情報を伝える能力を阻害する。既に存在する情報を機械が繰り返し集約するだけの再表現に依存することはできない。

マサチューセッツ工科大学（MIT）が行った研究では、54人の学生が参加し、いくつかの懸念すべき結果が明らかになった。学生は3つのグループに分けられ、それぞれ20分でエッセイを書く任務が与えられた。1つのグループはChatGPTを使用し、2つ目のグループは検索エンジンを使用し、最後のグループは脳力のみを使用した。

研究者は、演習中に学生の脳活動を測定し、その後、2人の教師がエッセイを採点した。ChatGPTグループは、すべての評価項目で独立グループよりも著しく低いスコアを記録した。科学的測定結果によると、ChatGPTグループは演習中に脳の異なる領域が互いに接続される頻度が低かった。さらに、ChatGPTを使用したグループの80％以上が、後で詳細を尋ねられた際に、自身が書いたエッセイから何も引用できなかった。

ChatGPT グループの大半は、コピー＆ペーストに重点を置いており、教師たちは、創造性、洞察力、個性が欠けているにもかかわらず、文法や構造が優れていることから、彼らの「魂のない」エッセイを容易に発見することができた。

機械への過度の依存が続けば、人間や社会に悪影響を及ぼすことを警鐘を鳴らすことが重要だ。

モハメド・チェバロ

まだ査読を受けていないこのプレプリント研究の結果は、デジタルツールが知識と教育に与える影響に苦慮している教育者や学者たちに共感を呼んだ。この研究を行ったチームには、不満を抱く教師たちから 3,000 通以上のメールが届いた。

主執筆者のナタリア・コスミナ氏は、メディアのインタビューで、この研究は、人工知能ツールが学習に与える影響、および学習プロセスに役立てるために人工知能ツールをより慎重に使用する方法について、さらなる研究が必要であることを証明していると強調した。しかし、学術界や出版界では、学生や作家による AI ツールの誤用による悪影響にすでに多くの人が気づいている。AI ツールは、人々を怠惰にし、問題解決や自主的な行動に消極的にする。また、自分が生み出したものに対して責任や所有意識を持つことも少なくなる。

AI ツールの誤用と批判的思考などのスキルの低下との間に強い相関関係があることを明らかにしたのは、この調査が初めてではない。特に若いユーザーは AI ツールへの依存度が高く、その結果、認知能力のスコアが低くなっている。また、この調査では、適切なキーワードでトリガーされるとオンデマンドで提供されるこれらのシステムは、深い分析プロセスへの関与を低下させることも明らかになっている。

したがって、研究が示唆するような、能動的な情報探索から AI 生成コンテンツの受動的な消費への移行という迫り来る変化が、現在および将来の世代が知識を処理、評価、キュレーション、保存する方法に極めて危険な影響を及ぼす可能性があることは、言うまでもない。

この問題が適切に対処されない場合、学術やコンテンツ作成の分野を超えて影響が及ぶ可能性がある。科学者たちは、これがより広範な認知発達の問題を引き起こし、私たちの知的発達や自律性全体に影響を与える可能性があると指摘している。

大規模言語モデルに基づくツールは、間違いなく私たちの世界、特に教育機関に革命をもたらしている。しかし、時間が経つにつれ、機械が人間が書いたものや将来書く可能性のあるテキストに類似したテキストを生成する能力が向上し、本物の会話を模倣するようになるにつれ、人類は途方に暮れることになるかもしれない。オリジナルソースとのつながりが偽造や捏造されたバージョンと混同され、偏見や不正確さが要求に応じて生成される情報に組み込まれるようになれば、事実確認は単に必要になるだけでなく、より困難になるだろう。

私たちの生活が、快適さを追求したツールによってますます制御される時代において、快適さが過度になると幸福が失われるような時代が到来することを警戒しなければならない。機械による専制政治の時代が、ディストピア小説の世界の物語のままであることを願いたい。

• モハメド・チェバロ氏は、25 年以上にわたり、戦争、テロ、防衛、時事問題、外交などを取材してきた、イギリスとレバノンの二重国籍を持つジャーナリストだ。