「謙虚な」人工知能の開発計画を持つスペイン人エンジニア |テクノロジー

人工知能は傲慢さから罪を犯しています。それは彼が意図的にそうしているのではなく、彼は考えたり推論したりしないからですが、電動ツールが好むアルゴリズムによるものです。 チャットGPT ああ ダルイー これらは、リクエストや質問が行われたときに、たとえ回答を生成するための明確な根拠がなくても、非常に詳細な回答を提供するように調整されています。 「過剰な 信頼」 これは、電気通信工学の医師であるパブロ・マルティネス・オルモス氏（グラナダ、40歳）の診断であり、人工知能が生み出す結果についての不確実性のレベルを宣言できる「謙虚な」人工知能の開発を提案している。

「私は謙虚という考え方が気に入りました。なぜなら、この美徳を持つ人は、自分の限界を認識していて、話題について何も分からないときは返答を止める人だと考えられているからです」とマルティネス氏はオフィスに座って語る。マドリードのカルロス 3 世大学で信号理論および通信学科の修士号を取得しました。このエンジニアは、次のいずれかで認められたばかりです。 レオナルド奨学金 BBVA 財団は、科学と文化の分野における「革新的なプロジェクト」を促進するために提供しています。したがって、謙虚さとは、本当に答えがわからないときに、あまり詳細または手の込んだ解決策を与えないことを知っていることです。人工知能が失敗していること。

DALL-E に尋ねるだけで十分です。 人工知能 OpenIA では、テキストの説明から画像を作成し、このバイアスが明らかになるようにスペインの詳細な地図を生成します。マルティネスはそれを証明した。 「国の形はよく捉えられていますが、地図には山、川、地域の名前など、非常に詳細な地理的側面が含まれており、それらはまったくの誤りです」と彼は指摘する。さらに彼は次のように付け加えています。「アルゴリズムは、私たちがいわゆるコミットするように導く特定の設計バイアスでトレーニングされます。 幻覚現実には何の根拠もない非常に詳細な出力です。」は 幻覚 つまり、同じリクエスト (この場合はスペインの地図) に直面した場合、ツールはまったく異なる結果を生成します。 「それぞれの地図は非常に精巧に構成されているため、単独では意味があるように見えますが、よく見ると間違いだらけです。」

これにより、いくつかの問題が発生します。その 1 つは、AI が提供するソリューションに厳密さが欠けていることです。もう一つ、それは 生成ツール 悪意のある使用にさらされる可能性が高くなります。これらのプラットフォームのアルゴリズムには、自家製爆発物の製造手順など、潜在的に危険な情報や個人情報を提供する可能性のある一部の応答を制限するための制御メカニズムがいくつかあります。しかし、マルティネス氏は次のように詳しく述べています。 幻覚 したがって、彼の回答の詳細レベルには非常に自信を持っています。」これは人間の場合と同じように機能します。アルゴリズム自体に自信があればあるほど、「くすぐったいもの」を見つけて騙すことが容易になります。彼に直接聞いても教えてくれないでしょうが、ちょっとしたスキルがあれば、ChatGPT は自宅で覚醒剤を調理する方法を説明してくれるでしょう。

アルゴリズムを再定式化する

マルティネスは、彼の研究分野は次のようなものであると指摘しています。 謙虚な人工知能 これは、信頼できる情報に基づいていない任意の詳細なソリューションを提供する機能を制限するために、アルゴリズムを再定式化する方法を考えることに基づいています。最終的な目標は、それをより便利で、信頼性が高く、安全なものにすることです。これを達成するには、いくつかの計算上の課題が伴います。 「私たちが提案するアイデアの 1 つは、悪意のある矛盾した攻撃を使用して、トレーニング中にニューラル ネットワークの動作をより複雑にすることです」と彼は指摘します。 「特定の順序」が存在するように、アルゴリズムが応答の基礎となるすべての情報を保存する必要があるという制限を増やすことも重要です。

マルティネス氏は、小さな子供のおもちゃ部屋の例を挙げます。そこには、レゴのピース、アクションフィギュア、絵画、トランプが混沌と共存しています。一見すると、何も基準もなく部屋中にすべてが散らばっていますが、詳細を記憶する優れた能力を持つ子供は、すべてがどこにあるのかを完全に知っているため、特定のパズルを組み立てたいとき、どこに行けば探せるかがわかります。部品用です。ただし、障害があるため、彼は他のゲームのパーツを使用することになりますが、この場合、彼が組み立てたいパズルには意味がありません。ただし、各ゲームが特定の引き出しやケースに保存されていれば、他のゲームの要素が忍び込む可能性は低くなります。アルゴリズムによって保存された情報にも同じことが起こり、誤差の範囲を短縮するには少し順序が必要です。この構造を維持するように子供を教育するのが難しいのと同様に、計算および数学の観点から言えば、生成型人工知能のニューラル ネットワークでも同様のことが起こります。

このエンジニアは、大手テクノロジー企業の開発には太刀打ちできないことを承知していますが、彼のプロジェクトでは、より信頼性の高いツールの開発につながる、より堅牢なアルゴリズム トレーニング方法論を提案しようとしています。魔法のような解決策はありませんが。 「これらすべての中での『知性』という言葉は非常に紛らわしいです。 「私は、私たちが補間している数学的関数について話したいのですが、それは今のところ人間の重要な能力や監督なしには実現できません」と彼は言う。

謙虚で、安全で、追跡可能で制御された人工知能というこのアイデアは、次のような分野に具体的に応用できるだろうとマルティネス氏は信じています。 医療分野。未知のバイオマーカーの検出、個人に合わせた治療効果の設計、特定の治療の悪影響の軽減、人々の生活の質の向上などは、アルゴリズムの設計がもう少し謙虚であれば実現できる可能性のある用途の一部です。