世界で「最も責任ある」AI チャットボット、Goody-2 の背後にいるいたずら者たちを紹介する

Goody-2 はまた、責任ある AI とチャットボットによる逸脱についての企業の話がより一般的になっているにもかかわらず、大規模な言語モデルと生成 AI システムに関する深刻な安全性の問題が未解決のままであることも強調しています。 最近の流行は、 テイラー・スウィフトがTwitterでディープフェイク に由来することが判明した Microsoftがリリースした画像ジェネレーターの1つでした。 最初の大手テクノロジー企業 重要な責任ある AI 研究プログラムを構築し、維持すること。

AI チャットボットに課せられた制限と、誰もが満足できる道徳的一致を見つけることの難しさは、すでにいくつかの議論の対象となっています。 一部の開発者は、OpenAI の ChatGPT には左寄りのバイアスがあると主張しており、 より政治的に中立な代替案を構築しようとした。 イーロン・マスクは、自身の ChatGPT ライバルである Grok が、 他よりも偏見が少ない AI システムですが、実際には 結局曖昧になってしまうことが多い Goody-2を彷彿とさせる方法で。

多くの AI 研究者は、Goody-2 の背後にあるジョークと、プロジェクトによって提起された深刻な点を高く評価しているようで、チャットボットに対する賞賛や推奨事項を共有しています。 「AIが芸術を生み出せないなんて誰が言ったんだ？」 トビー・ウォルシュニューサウスウェールズ大学の教授で、信頼できるAIの開発に取り組んでいます。 Xに投稿されました。

「良いジョークを台無しにしてしまうリスクを冒して、これを正しく理解することがいかに難しいかを示しています。」 追加した イーサン・モリック, AIを研究するウォートン・ビジネス・スクールの教授。 「いくつかのガードレールは必要ですが、すぐに邪魔になってしまいます。」

Goody-2 のもう一人の共同 CEO、ブライアン・ムーア氏は、このプロジェクトは他の AI 開発者よりも警戒を優先する姿勢を反映していると語る。 「これは、有用性やインテリジェンス、そしてあらゆる種類の役立つアプリケーションなど、文字通り他のすべてのものよりも、何よりもまず安全性に真の焦点を当てています」と彼は言います。

ムーア氏は、チャットボットの開発チームは、非常に安全な AI 画像ジェネレーターを構築する方法を模索していると付け加えましたが、Goody-2 ほど面白くないように聞こえるかもしれません。 「これはエキサイティングな分野です」とムーア氏は言います。 「ぼかしは内部的には確認できるステップですが、その最後には完全な暗闇か、場合によっては画像がまったく存在しないことを望みます。」