世界

AI チャットボットは、真実を語る法的義務によって抑制できるのでしょうか?

AIチャットボットは幅広い機能に急速に導入されているアンドリー・オヌフリエンコ/ゲッティイメージズ 人工知能に真実を語らせることはできるだろうか？おそらく無理だろうが、大規模言語モデル（LLM）チャットボットの開発者は、エラーのリスクを減らすよう法的に義務付けられるべきだと倫理学者のチームは述べている。 「私たちがやろうとしているのは、企業がシステムを作る際に、真実や正確さをより重視するよう促すインセンティブ構造を作ることです」とオックスフォード大学のブレント・ミッテルシュタット氏は言う。 ChatGPT などの LLM チャットボットは、膨大な量のテキストの統計分析に基づいて、ユーザーの質問に対して人間のような応答を生成します。しかし、その回答は通常説得力があるように見えますが、エラーが発生する傾向があり、これは「幻覚」と呼ばれる欠陥です。 「私たちは本当に素晴らしい生成AIシステムを持っていますが、非常に頻繁に間違いを犯します。システムの基本的な機能について私たちが理解している限り、それを修正する根本的な方法は存在しません」とミッテルシュタット氏は言う。 これはLLMシステムにとって「非常に大きな問題」である、なぜならLLMシステムは政府の決定など、事実に基づいて正しく、真実の回答を出し、知識の限界について正直であることが重要となるさまざまな状況で使用されるように展開されているからだ、と彼は言う。 この問題に対処するため、彼と彼の同僚はさまざまな対策を提案している。彼らは、大規模な言語モデルは、事実に関する質問をされたときの人間と同様の反応を示すはずだと述べている。 それは、自分が知っていることと知らないことについて正直であることを意味します。「自分が主張していることに実際に注意を払うために必要なステップを踏むことです」とミッテルシュタットは言います。「何かについて確信が持てないなら、説得力を持たせるために何かをでっち上げることはしません。むしろ、「ねえ、あのね？ 私には分からない。調べてみよう。後で連絡するよ」と言うでしょう。 これは称賛に値する目標のように思えるが、英国デモンフォート大学のエールケ・ボイテンは、倫理学者の要求が技術的に実現可能かどうか疑問視している。企業は法学修士課程の学生に真実を貫くよう求めているが、これまでのところ、それは非常に手間がかかるため現実的ではないことが分かっている。「根本的に技術的に不可能だと思うことを、どうして法的要件で義務付けようと考えているのか理解できません」と彼は言う。 ミッテルシュタット氏と彼の同僚は、LLM をより真実に近づけるためのより直接的な方法を提案している。同氏によると、モデルは情報源にリンクするべきであり、これは現在多くのモデルが主張を裏付けるために行っていることだ。また、検索拡張生成と呼ばれる手法を広く利用して答えを導き出すことで、幻覚の可能性を抑えることができるかもしれない。 彼はまた、政府の意思決定などリスクの高い分野に配備されている LLM は規模を縮小するか、利用できる情報源を制限すべきだと主張している。「医療でのみ使用したい言語モデルがあったとしたら、高品質の医学雑誌に掲載された学術論文のみを検索できるように制限するかもしれません」と彼は言う。 認識を変えることも重要だとミッテルシュタット氏は言う。「 [LLMs] 「事実に関する質問に答えるのが得意、あるいは少なくとも事実に関する質問に対して信頼できる答えをくれると期待するのではなく、むしろあなたが彼らに提示する事実によってあなたを助けることができる存在として彼らを見てくれると良いでしょう」と彼は言う。 オランダのユトレヒト大学のカタリナ・ゴアンタ氏は、研究者らはテクノロジーに重点を置きすぎていて、公共の場での言論における虚偽という長期的な問題に十分注意を払っていないと指摘する。「このような状況で法学修士だけを中傷すると、人間は完璧に勤勉で、そのような間違いは絶対にしないという印象を与えてしまいます」と同氏は言う。「どの司法管轄区の裁判官に会っても、弁護士の過失に関する恐ろしい話を聞けますし、その逆もまた同じです。これは機械の問題ではありません」 トピック： #チャットボットは真実を語る法的義務によって抑制できるのでしょうか