AI はあなたが考えているほど私たちに害を及ぼさないかもしれません

Hウマニティは長い間、新しいテクノロジーの腐敗した影響を懸念してきました。この自明の理はソクラテスと同じくらい古く、文字自体と同じくらい古いものです。

「あなたのこの発見は、学習者の魂に忘却を引き起こすでしょう。学習者は記憶を使わないからです」とソクラテスは紀元前 360 年に警告しました。これは、知られている限り最も初期の執筆批判の 1 つですが、それが今日保存されているのは、プラトンが書き留めたからです。

2,000 年以上経った今、私たちは古代の哲学者の文章批判を、認知機能の低下への不安を煽る新たなテクノロジーをめぐる集団的アジタに簡単に置き換えることができます。印刷機、テレビ、インターネット、ソーシャルメディア。ごく最近では、ChatGPT のような生成人工知能ツールによって、この数千年前のパニックが再燃しています。

Google 検索やナビゲーション アプリなど、私たちが数十年にわたって使用してきたテクノロジーも、記憶や空間認識などの認知プロセスの混乱に対する警告を引き起こしています。しかし、一部の研究者は、ここ数年で広く利用できるようになったばかりの生成 AI は、長期的には前例のない損害を引き起こす可能性があると考えています。それは、チャットボットとのチャットが、信頼できる人間同士の本物の会話のように感じる場合があり、これらのツールが何を伝えているかを確認するのが難しい場合があるためです。

チャットボットに過度に依存すると、人々の職業に不可欠なスキルが低下する可能性があります。

チャットボットが誤った情報を吐き出すことが増えているため、これは特に憂慮すべきことですが、その範囲は説得力のある人間のようなやりとりに限定されています。 2024年に出版された論文によると、AIチャットボットは「単なる情報のリポジトリではなく、人間の会話をシミュレートし、ユーザー入力に適応し、パーソナライズされた応答を提供することができる」という。 心理学のフロンティア。 「この動的な相互作用は、静的な情報源とは異なる種類の認知的依存を引き起こす可能性があります。」

私たちがチャットボットに与える力は、「私たちが他の人に与える力と似ています」と、オランダのラドボウド大学の計算認知科学者であるオリビア・ゲスト氏は言います。 「それがとても怖いことなんです。」

生成 AI が私たちの脳に与える影響をより深く理解するために、過去数年間にわたる小規模な研究により、脳スキャン、調査結果、さまざまなタスクのパフォーマンスなどの定量的データと定性的データの両方が収集されてきました。このような研究は、チャットボットやその他の生成型 AI ツールの使用が、少なくとも短期的には、問題解決スキルを悪化させ、精神的な「怠惰」を引き起こし、学習能力を損なうなどの影響を与える可能性があることを示唆しています。

同じくラドボウド大学の計算認知科学者であるアイリス・ヴァン・ローイ氏は、チャットボットへの過度の依存は人々の職業に不可欠なスキルを低下させる可能性すらあると指摘する。

読み書き、コーディング、その他の重要な作業をチャットボットに依存することで、これらの重要な機能を実践する機会が失われる、と彼女は言います。そして、私たちの専門知識が失われると、専門家以外には見分けがつかないチャットボットによるエラーを発見することがさらに難しくなり、「負のスパイラル」が促進されます。

しかし、ユニバーシティ・カレッジ・ロンドンの認知神経科学者サム・ギルバート氏は、チャットボット使用の危険性に関する最近の調査結果を割り引いて考えることが重要だと言う。 AI チャットボットのような広く採用されているテクノロジーの定期的な使用と、私たちの精神への長期的な悪影響を決定的に結び付けるために、「適切な」管理された実験を実施するのは難しいだろうと彼は主張します。これには、特定のテクノロジーに継続的にさらされている人々と、まったく使用していない人々を比較する必要があります。

現段階でチャットボットの未公開の比較グループを見つけるのは困難であり、チャットボットが広くアクセス可能になってからまだ数年しか経っていないため、長期的な効果を測定するには時期尚早です。さらに、ギルバート氏は、長期にわたるランダム化試験で人々がいかなるテクノロジーにもアクセスできないようにするのは「非倫理的」であると述べています。

チャットボットが誤った情報を吐き出すケースが増えています。

ギルバートは、「認知的オフロード」という概念を研究しています。これは、ペンと紙やチャットボットなどの外部の助けを借りて精神的な緊張を和らげるプロセスです。ギルバート氏の研究では、私たちの頭からスクリーンに情報を転送することは必ずしも有害ではなく、他の情報のために脳のスペースを空けることさえできることがわかりました。

結局のところ、私たちは「デジタル認知症」（テクノロジーへの過度の依存を認知機能の低下と結び付ける概念で、2012年に広まった）に対して脆弱であるという警戒主義者の主張は、管理された実験が不足しているため、「非常に弱い証拠」によって裏付けられているとギルバート氏は言う。一方、高齢者を最長20年間追跡したいくつかの研究では、チャットボット以前のデジタル技術の使用が実際に認知障害のリスク低下と関連していることが判明した。

ギルバート氏はまた、生成AIを積極的に使用している被験者の脳スキャンから収集された認知活動のリアルタイムの変化は、必ずしも長期的な危険を示しているわけではなく、むしろ特定のタスク中の瞬間的な変化を示していると警告する。 「これは、人々が 1 つの特定の課題に取り組むためにどのように頭を使っているかを示しているだけです」とギルバート氏は言います。 「私たちはその証拠をどのように解釈するかについて非常に注意する必要があります。そして、テクノロジーが私たちの全体的な認知スキルに悪影響を及ぼしていることを示唆する神経学的証拠は、私が知っている限りでは確かにありません。」

それでも、たとえばエッセイを書いたり、仕事の提案書を作成したりするときに、AI ツールが実際に私たち自身の初心者よりも優れたコンテンツを提供してくれるかどうかを確認する必要がある、と彼は言います。ギルバート氏は、自分の心の道具箱を棚卸しすること、つまりメタ認知として知られるプロセス、または自分の考え方について考えることを勧めています。チャットボットやその他のデジタル リソースに特定のタスクをアウトソーシングしすぎる前に、ライティング能力や記憶能力などの自分の能力を適切に把握することが重要です。ギルバート氏は、これは両方の方向に起こると説明します。たとえば、自分の記憶力を過信している人は、デジタル リマインダーを無視したり、薬を飲み忘れたりする可能性があります。

「人々が荷降ろしを完全に避けるべきだとは思いません」とギルバート氏は言う。 「ツールが本当に役立つかどうかを知るには、ツールを使わずに自分の能力とそのツールを使った成功をうまく把握することが重要だと思います。」

AI の利用に関する見解は、学術分野全体で大きく異なります。一部の研究者は、チャットボットのような AI ツールの責任あるアプリケーションが人間の賢さを補うことができると考えていますが、ゲスト氏とヴァン ローイ氏はどちらも異なる見解をとっています。ゲスト氏によると、チャットボットは現在の形式では、技術的欠陥により具体的な利益を提供できず、「明らかに有害」であると述べています。ゲスト氏とヴァン・ローイ氏は最近、ヨーロッパや米国の研究者とともに、「学術界における『AI』テクノロジーの無批判な導入」に反対するよう訴えた。彼らはこう書きました：

「私たちは、AIの出力が『十分に優れている』ということを拒否できますし、拒否すべきです。それは、それが良くないという理由だけでなく、自分で考えることに本質的な価値があるからでもあります。私たち全員がプロの詩人の品質で詩を作ることはできませんし、おそらくまったくの初心者にとって、LLMの出力は自分で試みたものよりも「優れている」ように見えるでしょう。しかしおそらく、それが人間というものです。たとえ世界的に有名な詩人にならなかったとしても、何か新しいことを学び、それに固執するのです。」

楽しんでいます オウムガイ?無料で購読してください ニュースレター。

リード画像: オラージュ / Shutterstock

• モリー・グリック

  投稿日 2025 年 11 月 19 日

  モリー・グリックはニュースレターの編集者です。 オウムガイ。