ソフトウェア開発者は、大規模言語モデル (LLM) コード作成者の形式であっても、エージェント型 AI エージェントの形式であっても、人工知能アシスタントを利用することで多くのメリットを享受できます。しかし、MITの新たな研究で浮き彫りになった最近の報告書は、AIを多用するとユーザーの批判的思考スキルが失われる可能性があると警告している。
生産性と効率における利点は無視できないほど大きいため、問題は AI を使用するかどうかではありません。問題は、AI による出力の増加を可能にしながらセキュリティを維持しながら、これを最も効果的に使用する方法です。
AI の多用により認知的関与が損なわれる可能性がある
の MITのメディアラボによる研究は6月初めに発表され、ボストン地域の5つの大学の54人の学生がエッセイを書きながら認知機能をテストした。学生は 3 つのグループに分けられました。大規模言語モデル (LLM) を使用しているグループ、検索エンジンを使用しているグループ、そして外部からの支援を受けずに従来の学校に通っているグループです。研究チームは脳波検査（EEG）を使用して参加者の脳活動を記録し、認知関与と認知負荷を評価した。研究チームは、昔ながらの「脳だけ」のグループが最も強力かつ広範囲の神経活動を示したのに対し、検索エンジンを使用しているグループは中程度の活動を示し、LLM (この場合は OpenAI の ChatGPT-4) を使用しているグループは脳活動の量が最も少ないことを発見しました。
これは特に驚くべきことではないかもしれません。結局のところ、ツールに思考を代わって依頼すると、考えることが減ります。しかし、この調査では、LLM ユーザーは自分の論文との結びつきが弱く、学生の 83% が、完了後わずか数分であってもエッセイの内容を思い出すのに苦労しており、参加者の誰も正確な引用を提供できなかったことも明らかになりました。他のグループと比較して、著者の当事者意識が欠けていました。脳のみの参加者は、最も高い当事者意識を持ち、最も幅広い脳活動を示しただけでなく、最も独創的な論文を作成しました。 LLM グループの結果はより均質であり、実際、裁判官によって AI の仕業であることが容易に特定されました。
開発者の観点から見ると、主な結果は、AI の使用によって生じる批判的思考の低下です。もちろん、AI に一度だけ依存しただけでは批判的思考スキルが失われることはないかもしれませんが、長期間にわたり AI を継続的に使用すると、それらのスキルが萎縮する可能性があります。この調査では、ユーザーが AI を支援するのではなく、AI がユーザーを支援することで、AI の使用中に批判的思考を維持する方法が提案されています。しかし、実際に重点を置くのは、開発者が安全なソフトウェアを構築するために必要なセキュリティ スキルを確実に身につけ、それらのスキルを日常的な業務の重要な部分として使用することにあるはずです。
AI 主導の環境では開発者教育は交渉の余地がありません
スタンフォード大学の報告書は、 AI ガバナンスの向上組織がセキュリティ保護策の実装が緩いことも判明したためです。実質的にすべての組織が AI のリスクを認識していますが、AI に対して何らかの対策を講じている組織は 3 分の 2 未満です。そのため、組織はさまざまなサイバーセキュリティの脅威に対して脆弱になり、ますます厳しくなる規制コンプライアンス要件に違反する可能性があります。
答えが AI の使用をやめることではないとしたら (誰もやらないでしょう)、AI をより安全かつ確実に使用することになるはずです。 MIT の研究は、その解決策について 1 つの役立つヒントを提供します。研究の 4 回目のセッションで、研究者は LLM ユーザーを 2 つのグループに分けました。1 つは ChatGPT に助けを求める前に自分でエッセイを書き始めたグループ (研究では Brain-to-LLM グループとして知られています)、もう 1 つは、ChatGPT に最初の草案を作成させてから個人的に注意を払ったグループ (LLM-to-Brain グループとして知られています) です。 Brain-to-LLM グループは、AI ツールを使用して、自分たちで既に下書きしたエッセイの書き直しを支援しましたが、一部の領域では検索エンジン ユーザーと同様に、高い再現率と脳活動を示しました。 AI にエッセイの開始を許可した LLM-to-Brain グループでは、神経活動の調整が低下し、LLM 語彙の使用に対する偏りが見られました。
Brain-to-LLM アプローチは、ユーザーの頭脳を少し鋭く保つのに役立つかもしれませんが、開発者はソフトウェア コードを安全に記述し、AI が生成したコードのエラーやセキュリティ リスクを批判的に評価できるようにするための特別な知識も必要とします。インジェクション攻撃を促す脆弱性などのセキュリティ上の欠陥をもたらす傾向など、AI の限界を理解する必要があります。
そのためには、エンタープライズ セキュリティ プログラムを徹底的に見直して、SDLC に対する人間中心のアプローチを確保する必要があります。SDLC では、開発者が全社規模のセキュリティ最優先文化の一環として、効果的で柔軟な実践的かつ継続的なトレーニングを受けます。開発者は、急速に進化する高度な脅威、特にソフトウェア開発における AI の重要な位置から生じる脅威に遅れないようにするために、継続的にスキルを磨く必要があります。これにより、たとえば、ますます一般的になっているプロンプト インジェクション攻撃から保護されます。しかし、その保護が機能するには、組織は安全な設計パターンと脅威のモデリングに重点を置く開発者主導の取り組みが必要です。
結論
MITの研究は、AIが教育に及ぼす影響と、幼稚園以降の生徒における批判的思考スキルの潜在的な喪失に焦点を当てた。しかし、それが学生であれ、熟練した専門家であれ、この研究から得られるものは同じです。LLM やエージェントが重労働を行うと、ユーザーは受動的な傍観者になってしまいます。このことが「批判的思考スキルの低下、教材への深い理解の低下、長期記憶の形成の低下」につながる可能性があると研究著者らは述べた。認知的関与のレベルが低いと、意思決定スキルも低下する可能性があります。
サイバーセキュリティに関して、組織は批判的思考を欠くことはできません。また、高度に分散されたクラウドベースの環境におけるソフトウェアの欠陥がサイバー攻撃者の最大の標的となっているため、サイバーセキュリティは、開発者、AI アシスタント、またはエージェントのいずれによって作成されたものであっても、安全なコードを確保することから始まります。 AI のあらゆる能力を活用するために、組織はこれまで以上に、高度に磨かれた問題解決スキルと批判的思考スキルを必要としています。そしてそれをAIに委託することはできません。
LinkedIn グループの情報セキュリティ コミュニティに参加してください。
#使うか負けるか #への過度の依存によりサイバーセキュリティに関する重要な思考スキルが低下する