1770870306
2026-02-12 00:01:00
AIツールは、自殺念慮に関する偽の警告から単純な「ちんぷんかんぷん」に至るまで、ソーシャルワーク記録に有害な可能性のある間違いを犯していると現場の労働者らは述べた。
昨年のキア・スターマー 擁護した 彼はこれを「信じられないほど」時間を節約できるソーシャルワークの文字起こしテクノロジーと呼んだ。しかし 英国とスコットランドの 17 の評議会にわたる研究 ガーディアン紙と共有したところによると、AIが生成した幻覚が紛れ込んでいることが判明した。
多くの地方自治体が成人および児童サービス利用者との面会の記録と要約を加速するために AI メモテイカーを使用し始めている中、エイダ・ラブレス研究所による 8 か月にわたる調査では、「人々の経験についての潜在的に有害な虚偽表示が公式の介護記録にいくつか発生している」ことが判明しました。
独立系シンクタンクは、要約を作成するためにAI文字起こしツールを使用したあるソーシャルワーカーが、そのテクノロジーが誤って「自殺念慮があることを示した」と述べたが、「クライアントは実際には…自殺念慮や自殺計画などについて一切話しなかった」と述べたことを発見した。
別の者は、実際には子供が両親の喧嘩について話しているときに、AIのメモは「魚の指、ハエ、または木」を指しているのではないかと述べた。 ソーシャルワーク 専門家らは、こうした不具合は危険な行動パターンを見逃す可能性があるため、特に懸念されると述べた。
他のソーシャルワーカーは、地域のアクセントを持つ人々との会話の文字起こしが不正確であることについて懸念を表明した。ある人は、AI が生成した文字起こしにはしばしば「意味不明な部分」が含まれていることを説明しました。別の人は「オフィスではちょっとした冗談になってしまった」と語った。
クロイドンからレッドカー、クリーブランドまでの数十の議会は、ソーシャルワーカーに、ケースの会話を記録して要約する AI 文字起こしツールへのアクセスを提供しています。潜在的な時間の節約は、慢性的な職員不足に悩む市役所にとって魅力的です。
Magic Notes と呼ばれる人気のあるシステムの 1 つは、 市議会に販売された 転写 1 時間あたり 1.50 ポンドから 5 ポンドの費用がかかります。インタビューを受けたソーシャルワーカーのほとんどは、専門的な Magic Notes AI または汎用の Microsoft Copilot AI を使用していました。
この調査では、AI 文字起こしによって目に見える時間の節約がもたらされ、ソーシャルワーカーが解放されてサービス利用者との関係にもっと集中できることがわかりました。
同報告書は、匿名のソーシャルワーカー39名との面談後、「これらのツールがケア業務の人間関係の側面や、ソーシャルワーカーが記録する情報の質も改善できることが、われわれの証拠で示されている」と述べた。
しかし、あるソーシャルワーカーが AI ツールを使用してケア文書をより「個人中心」のトーンで書き直したところ、システムは「言われていない言葉すべて」を挿入してしまいました。別のソーシャルワーカーは、このテクノロジーが「あなたの評価とAIの評価の間の境界線を越えた」と報告した。
「AIによってこれらの記録に入力される不正確さは、ソーシャルワーカーが子供の養育に関して誤った決定を下すなど、広範囲に影響を与える可能性があり、それが子供に害を及ぼし、ソーシャルワーカーの職業上の影響につながる可能性がある」と報告書は結論づけている。
英国ソーシャルワーカー協会（BASW）によると、AIによるミスの影響はすでに専門分野で感じられており、AIメモ作成者の出力を適切にチェックしなかったり、明らかなミスを見逃したりしたことに対する懲戒処分が報告されている。ソーシャルワーク規制当局に対し、AIツールをいつどのように使用すべきかについて明確なガイダンスを発行するよう求めている。
一部のソーシャルワーカーの間では、その可能性について「本当に興奮」しているが、「これらのツールは、報告書の要約における潜在的な偏りから記録における不正確な『幻覚』に至るまで、ソーシャルワークと社会に新たなリスクももたらしている」とエイダ・ラブレスのアソシエートディレクター、イモージェン・パーカー氏は述べた。 「これらのリスクは十分に評価または軽減されておらず、最前線の従業員が自分たちでこれらの課題に対処しなければなりません。」
ソーシャルワーカーは AI トレーニングをほとんど受けていないことが多く、1 つのケースではわずか 1 時間です。 AIの記録のチェックに最大1時間かかったというソーシャルワーカーもいれば、わずか2分しか費やさなかったというソーシャルワーカーもいる。ある人は「文字通り簡単に検査するのに5分かかった」と語った […] ある人は、AI によって生成された切り貼りされたケア プランは「恐ろしい」内容になる可能性があると述べました。
また、一部の同僚は怠け者または忙しすぎて記録を確認できないと述べた人もいた。
「ここでのリスクは、人々が自分たちに向けて書かれた内容をチェックしていないことだ」とBASWの戦略責任者アンドリュー・リース氏は語る。 イングランド そしてウェールズ。 「書くことに費やす時間は、聞いたことを理解するのに役立ちます。コンピューターがそれをやってくれると、内省的な練習の重要な部分を見逃してしまいます。」
Magic Notes を運営する Beam は、その成果物は最初の草稿であり、最終的な記録ではないと強調した。 「AIツールがソーシャルワーカーに受け入れられているのには正当な理由がある」と共同創設者のセブ・バーカー氏は語る。 「サービスはあふれていてアクセスが困難です。ソーシャルワーカーの世代は燃え尽き症候群の危険にさらされており、正確で準拠した文書のニーズが高まっています。」
同氏は、偏見を評価した結果、マジックノートが「一貫して公平に」機能していることが判明し、自動幻覚リスクチェックなどソーシャルワークに特化した機能を強調したと述べた。 「すべてのAIツールが同じというわけではなく、専門化されていない、低品質、または汎用的なツールは、この分野の特定のニーズを満たしていない」と同氏は述べた。
英国政府とマイクロソフトにコメントを求めた。
連絡する
この話についてお問い合わせください
最高の公益ジャーナリズムは、事情を知っている人々からの直接の報告に依存します。この件に関して共有したいことがありましたら、次の方法を使用して内密に当社にご連絡ください。
Guardian アプリの安全なメッセージング
Guardian アプリには、ストーリーに関するヒントを送信するツールがあります。メッセージはエンドツーエンドで暗号化され、すべての Guardian モバイル アプリが実行する日常的なアクティビティ内に隠蔽されます。これにより、観察者はあなたが私たちと通信していること、ましてや何を話しているのかをまったく知ることができなくなります。
Guardian アプリをまだお持ちでない場合は、ダウンロードしてください (iOS/アンドロイド) メニューに移動します。 「安全なメッセージング」を選択します。
セキュアドロップ
監視や監視されることなく Tor ネットワークを安全に使用できる場合は、ガーディアン経由でメッセージや文書を送信できます。 SecureDrop プラットフォーム。
私たちのガイドは、 theguardian.com/tips では、安全に連絡するためのいくつかの方法をリストし、それぞれの長所と短所について説明します。
#ソーシャルワーカーの #ツールが子供たちのアカウントの意味不明な記録を作成 #ソーシャルワーク