ANPTerのイラスト: 小学校のコンピュータ
NOS ニュース・ヴァンダーグ、06:06
学校や教育者はアルゴリズムのリスクをもっと認識する必要があります。 オランダ人権研究所は、学校におけるこれらのアルゴリズムの適用を研究した後、これを提唱しています。
このようなアルゴリズムは、教育現場でますます大規模に使用されています。 これは、生徒のレベルに自動的に適応する教材から、独自にチェックするプログラム、不正行為者を検出するアルゴリズムまで多岐にわたります。
これらは教師の仕事を奪う可能性があるが、リスクもある、とオランダ人権研究所は強調する。 たとえば、学校では、そのようなテクノロジーを責任ある方法で使用するための知識が不十分であることがよくあります。 これにより、生徒はアルゴリズムによる不必要な差別のリスクにさらされることになる、と理事会は警告している。
この調査は、教育委員会に代わってKBAナイメーヘンとリサーチネッドが実施したもので、現在教育においてアルゴリズムがどのように使用されているか、また差別のリスクは何かを調査した。 「私たちが驚いたのは、教育でアルゴリズムが使用される規模が大幅に増加しているということです」と、研究プロジェクトのリーダー、シャーロット・バールダ氏は言う。
Baarda 氏によると、現在、小学校の約半数がいわゆる適応学習システムを使用しています。 このようなシステムでは、教材が生徒の行動に合わせて調整されます。
たとえば、課題でミスが多い生徒には、今後、より簡単な練習教材が提示されます。 同じ教材に対する難易度が大幅に低い生徒は、答えるのが難しい質問をすることになります。
間違ったアドバイス
多くの学校では、Snappet や Gynzy などのプログラムを使用しています。 このようなプログラムを使用する場合のリスクは、学習システムが生徒のレベルを必ずしも正確に推定するとは限らないことです。 「たとえば、ADHD、失読症、自閉症などの生徒を考えてみましょう」とバールダ氏は言う。
「言語や算数の課題に対してこれらの生徒が与える答えは、学習システムが訓練された生徒のグループとは異なる可能性があります。その結果、システムはこれらの生徒に低い評価を与える可能性がありますが、彼らがそうするのには別の理由があります」練習の調子が悪くなります。」
他のさまざまな用途も、排除や不平等な扱いのリスクを高めます。 たとえば、大学では不正行為対策ソフトウェアが使用されています。 Baarda: 「これらのアプリケーションには、第二言語で表現する学生に対する偏見が含まれていることはわかっています。彼らは、ChatGPT を使用して詐欺を行った可能性が高いです。」
さらに、研究によると、移民の背景を持つ学生や低所得家庭の学生はより大きなリスクにさらされているという。 システムが適切にテストされていない場合、これらのグループに対する既存の偏見が強化され、広がる可能性があります。 これはひいては差別や機会の不平等につながる可能性があります。
すべての学生が同じ機器、高価なソフトウェア、高速インターネット接続に平等にアクセスできるわけではないため、デジタル学習システムの使用は機会の不平等につながる可能性もあります。 理事会によると、学校によっても大きな違いがあるという。
この種のシステムの使用が増えるとデメリットばかりが生じるというわけではありません。 これにより、生徒の学習プロセスをより深く理解できるようになります。 これにより、教師はより的を絞ったアドバイスや指導を提供できるようになります。
このシステムにより、教師は多くの管理作業や反復作業から解放されます。 「教師がコントロールを維持することが特に重要です。しかし、現時点では教師にはそのための十分な備えがありません」とバールダ氏は言う。 「私たちの懸念は、現在、保護者や生徒にとって、何か問題が起こっているかどうかを判断することが非常に難しいことが多いことです。」
大手テクノロジー企業に依存している
オランダ人権研究所は、学校は平等な扱い、プライバシー、自主性、透明性の分野でソフトウェアサプライヤーに要件を課すべきであると考えています。 提供されているソフトウェアの多くは、Apple、Google、Microsoft などの大手テクノロジー企業から提供されています。
理事会によると、これらの企業の影響力は決定的なものであり、学校がその製品に依存するようになる可能性があるという。 一方、学校には、優れた教育のビジョンに合致するデジタル リソースを自由に選択できる必要があります。
同団体によると、機会の不平等のリスクを防ぐために、適応学習システムをさまざまな生徒グループで広範囲にテストすることも重要だという。 それはもうほとんど起こりません。
同研究所はまた、これに関して学校を支援する上で政府の役割があると考えている。 このようにして、文部科学省はデジタル システムの効果についてのより多くの研究を可能にすることができます。 同省は教育委員会、教師、保護者、生徒に対するリスクについてさらに詳しい情報を提供する可能性もある。
1715579181
#学校ではアルゴリズムに関するさらなる知識が必要そうでないと差別のリスク
2024-05-13 04:06:41
