Keir StarmerはAIからアドバイスされていますか？英国政府は私たちに教えてくれません

英国政府の中心にある何千人もの公務員が、キールのスター標首相を支援するために直接働いている人々を含め、独自の人工知能チャットボットを使用して仕事を遂行しています。 新しい科学者 明らかにすることができます。当局者は、首相がAIを使用して準備されたアドバイスを受けているのか、公務員が不正確または偏ったAIアウトプットのリスクを緩和しているかどうか、首相がAIを使用して準備されているアドバイスを受けているかどうか、そのツールの使用方法を正確に記録することを拒否しています。専門家は、開示の欠如は政府の透明性と政府で使用されている情報の正確性に関する懸念を引き起こすと言います。

確保した後 情報の自由（FOI）の法律の下でのChatGptログの世界初のリリース、 新しい科学者 Redboxとの相互作用の記録を20の政府部門に求めました。Redboxは、英国政府のスタッフの間で開発され、試行された生成的AIツールです。大規模な言語モデル駆動のチャットボットにより、ユーザーは政府の文書を尋問し、「ブリーフィングの最初のドラフトを生成する」ことができます。 によると その発展の背後にある人々の一人。初期の裁判では、1人の公務員が1日の仕事ではなく、「数秒で」50の文書を統合したと主張していました。

連絡した部門はすべて、Redboxを使用していないか、ツールとの相互作用の転写を提供することを拒否し、それを主張していると言いました。 新しい科学者のリクエストは「厄介な」ものでした。これは、FOIの要求に応答する際に使用される公式の用語であり、情報コミッショナーのオフィスが 定義します 「不均衡または不当なレベルの苦痛、混乱または刺激を引き起こす可能性が高い」。

ただし、2つの部門がRedboxの使用に関する情報を提供しました。首相を支援する内閣府は、その部門の3000人がRedboxとの合計30,000人のチャットに参加したと述べた。これらのチャットをレビューして、FOIの下でそれらをリリースする前に、機密情報を編集するには1年以上の作業が必要だと言いました。貿易局も辞退し、「13,000を超えるプロンプトと応答」を保持し、リリースのためにレビューすることは実現可能ではありません。

Redboxの使用に関するフォローアップの質問をしたとき、両部門は参照されました 新しい科学者 ツールを監督する科学、イノベーション、技術局（DSIT）に。 DSITは、首相または他の閣僚がAIツールを使用して準備されたアドバイスを受けているかどうかについての特定の質問に答えることを拒否しました。

DSITの広報担当者は語った 新しい科学者：「AIがより迅速かつ迅速にできることに時間を費やすべきではありません。ホワイトホールに組み込まれているRedboxは、安全で安全で実用的な方法でAIの力を活用するのに役立ちます。公務員が文書を要約したり、議題をドラフトしたりすることを容易にします。

しかし、生成AIツールの使用は一部の専門家に関するものです。大規模な言語モデルには、十分に文書化された問題があります バイアス そして 正確さ 軽減するのは難しいので、Redboxが質の高い情報を提供しているかどうかを知る方法はありません。 DSITは、Redboxのユーザーが不正確さやバイアスを避ける方法に関する特定の質問に答えることを拒否しました。

「ここでの私の問題は、政府が一般の人々に奉仕することになっていることであり、そのサービスの一部は、納税者として、有権者として、有権者として、意思決定がどのように行われ、意思決定の観点からプロセスが何であるかを理解するためにある程度のアクセスを持つべきだということです」と言います。 キャサリンフリック 英国スタッフォードシャー大学で。

生成的AIツールはブラックボックスであるため、フリックは、他のドキュメントよりもドキュメントの特定の側面を強調するなど、特定の出力にどのように到達するかをテストしたり理解したりするのは簡単ではないことを心配しています。その情報を共有したくない政府は、透明性をさらに低下させると彼女は言います。

その透明性の欠如は、第3政府部門の財務省にまで及びます。 FOI要求に応じて、財務省は語った 新しい科学者 そのスタッフがRedboxにアクセスできないこと、および「GPTツールはHM内で利用可能です [His Majesty’s] 財務省は迅速な履歴を保持していません」。まさにこれが言及しているGPTツールは不明です。ChatGPTは最も有名な例ですが、他の大規模な言語モデルはGPTとも呼ばれます。財務省はAIツールを使用しているが、使用の包括的な記録を維持していないことを示唆しています。 新しい科学者明確化の要求。

「使用されているプロンプトを保持していない場合、意思決定プロセスをそこに再現する方法についてあらゆる種類のアイデアを得ることは困難です」とFlick氏は言います。

ジョン・ベインズ 英国の法律事務所では、Mishcon De Reyaは、この情報を記録しないことを選択することは珍しいことです。 「政府が内部GPTシステムに入力されたプロンプトを取得できないと言っているのは驚くべきことだと思います。」裁判所は、公的機関がアーカイブする前に公的な記録を維持する必要はないと判断しましたが、「優れた情報ガバナンスは、特にポリシーの開発または通知に使用された可能性のある場合、記録を保持することが非常に重要であることを示唆しています」と彼は言います。

しかし、データ保護の専門家ティム・ターナーは、財務省はFOI法の下でAIプロンプトを保持しない権利の範囲内であると言います。「データの性質に関する特定の法的または公務員の規則がない限り、これを行うことができると思います。」