フロリダ州は歴史的に教育革新に関して全米をリードしてきました。私たちは、生徒の可能性を広げ、教室での学習を強化し、予見可能な損害を軽減するのであれば、新しいテクノロジーを受け入れることを恐れません。
しかし、生成 AI が学生の学習、研究、さらには人間関係の構築方法を再定義し始めるにつれ、私たちは岐路に立たされています。イノベーションへの取り組みと、今日のデジタル環境に存在する危害から若者を守る必要性とのバランスをどのようにとるべきでしょうか?
最近、連邦政策がこの話題の中心となっています。トランプ大統領は、米国の中国との競争を遅らせる可能性のある州規制のつぎはぎを防ぐため、AIに関する大統領令に署名した。重要なのは、その同じ命令には、州が子供を保護することを目的とした政策を実施することを許可する重要な例外が含まれているということです。
これはフロリダが踏み込まなければならない入り口だ。国家は世界舞台で競争力を維持しなければなりませんが、その競争が子どもたちの安全や学校の健全性を犠牲にして成り立つものであってはなりません。学生の安全が学区に独自のルールを設定するための技術的専門知識があるかどうかに依存するような、断片的なアプローチは支持できません。
フロリダ州では、AI ツールの調達と使用について州全体で統一した戦略が必要ですが、時間は限られています。明確なポリシー推奨事項を採用および実装することで、生徒が確実に保護されると同時に、教育者が教室の成果を向上させるツールにアクセスできるようになります。
最優先事項は生徒のデータを保護することです。州全体の指導では、企業の AI モデルのトレーニングや改善のために、個人を特定できる学生情報の使用を明示的に禁止する必要があります。子供のデジタル フットプリントが企業のアルゴリズムの燃料になってはなりません。
フロリダの学校と取引する AI プラットフォームに対する透明性も要求される必要があります。プラットフォームは、学生とのやり取りの監査可能な記録を維持し、精度エラー、偏見、安全性リスクを特定するための安全策を実装する必要があります。生徒と直接対話するツールには、不適切な使用にフラグを立て、大人の介入を可能にするメカニズムが含まれている必要があります。また、保護者には、生成型 AI プラットフォームが指導に使用されているか、生徒の参加に必要であるか、またその程度を知らせる必要があります。
教室用ツールを超えて、最も差し迫った課題は、人間に似た AI チャットボットの台頭です。これらのプラットフォームを使用すると、未成年者は感情をシミュレートし、長期的な関係を維持するように設計された AI と対話できます。現実とシミュレーションの間の境界線があいまいになることは危険であり、致命的となる可能性があります。
このようなボットは、実際の人間の判断や親の監督なしに、孤立を促したり、有害なアドバイスを与えたりする可能性があります。規制されていないソーシャルメディアアルゴリズムが若者の精神的健康に及ぼすリスクは十分に文書化されており、フロリダ州はAIコンパニオンが関与する同様の危機を待つべきではない。州はこれらのプラットフォームへの未成年者のアクセスを厳しく規制し、すべてのユーザーに対して明確な警告ラベルと開示ラベルを義務付ける必要がある。
フロリダ州は、州全体のガードレールを確立し、適切なトレーニングを義務付け、有害な人間に似た AI チャットボットへの未成年者の曝露を制限することで、人工知能が生徒を搾取するのではなく、生徒に役立つようにすることができます。この問題に取り組むことは、フロリダの子供たちを守り、全米の他の地域の模範となるでしょう。
___
ネイサン・ホフマン フロリダ未来財団の上級立法ディレクターです。
#フロリダ州が学生向けの #ガードレールをリードしなければならない理由