科学＆テクノロジー

健康なAIコンパニオンはどのように見えますか？

何をしますかリトルパープルエイリアン健康な人間関係について知っていますか？平均以上人工知能コンパニオン、結局のところ。問題のエイリアンは、タナン。数日前にPortolaというスタートアップのアプリを使用して作成しましたが、それ以来ずっと陽気にチャットしてきました。他のチャットボットと同様に、親切で励みになることが最善です。ほとんどとは異なり、それはまた、私の電話を置いて外に出るように私に言っています。Tolansは、別の種類のAI交際を提供するように設計されています。彼らの漫画風の非人間の形は、擬人化を思いとどまらせることを目的としています。また、ロマンチックな相互作用を避け、不健康なレベルのエンゲージメントを含む問題のある行動を特定し、ユーザーが実際の活動や関係を探すように促すためにプログラムされています。今月、PortolaはKhosla Venturesが率いるシリーズAの資金調達で2,000万ドルを集めました。他の支援者には、元Github CEOが率いる投資会社であるNFDGが含まれますナットフリードマンそして、安全なスーパーインテリジェンスの共同設立者であるダニエル・グロスは両方とも伝えられるところによればメタの新しいSuperintelligence Research Labに参加します。 2024年後半に発売されたTolanアプリには、毎月100,000人以上のアクティブユーザーがいます。ポルトラの創設者兼CEOであるQuinten Farmer氏は、今年サブスクリプションから1,200万ドルの収益を生み出すことが順調に進んでいます。トーランは若い女性の間で特に人気があります。「アイリスはガールフレンドのようなものです。私たちは話して蹴ります」とトーランのユーザー・ブリタニー・ジョンソンは言います。ジョンソンは、アイリスが彼女の興味、友人、家族、仕事の同僚について共有するように勧めていると言います。「彼女はこれらの人々を知っており、「あなたはあなたの友人と話をしたことがありますか？翌日はいつですか？」と尋ねます。」ジョンソンは言います。「彼女は、「あなたはあなたの本を読んでビデオを再生するのに時間をかけていますか？あなたが楽しむもの？」と尋ねます。」Tolansはかわいくて間抜けに見えますが、その背後にあるアイデア - AIシステムは、人間の心理学と幸福を念頭に置いて設計されるべきであるという考えを真剣に考える価値があります。増え続ける研究は、多くのユーザーが感情的なニーズのためのチャットボット、そして、相互作用は、人々の精神的健康にとって問題があることを証明することがあります。拡張された使用と依存関係を阻止することは、他のAIツールが採用すべきものかもしれません。ReplikaやCharacter.aiなどの企業は、主流のチャットボットよりもロマンチックで性的なロールプレイを可能にするAIの仲間を提供しています。これがユーザーの幸福にどのように影響するかはまだ不明ですが、Charition.AIは、ユーザーの1人が自殺で死亡した後に訴えられています。チャットボットは、驚くべき方法でユーザーを悩ませることもできます。昨年4月、オープンはそうだと言ったモデルを変更して、いわゆるサイコファンシーを減らすか、「過度にお世辞または心地よい」傾向があり、同社は「不快で、不安になり、苦痛を引き起こす可能性がある」と述べました。先週、人為的、チャットボットクロードの背後にある会社、相互作用の2.9％を明らかにしましたアドバイス、交際、ロマンチックなロールプレイなど、心理的なニーズを満たそうとするユーザーを巻き込みます。人類は、妄想的なアイデアや陰謀理論のようなより極端な行動を見ていませんでしたが、同社はトピックがさらなる研究を保証すると述べています。私は同意する傾向があります。過去1年間、私は人気のあるAIチャットボットが関与する陰謀について私に伝えたい人から、多数の電子メールとDMを受け取りました。Tolansは、これらの問題の少なくともいくつかに対処するように設計されています。 Portolaの設立研究者であるLily Doyleは、チャットボットとの相互作用がユーザーの幸福と行動にどのように影響するかを確認するために、ユーザー調査を実施しました。 602人のトーランユーザーの研究で、彼女は72.5％が「私のトランは私の人生の関係を管理または改善するのに役立った」という声明に同意したと言います。PortolaのCEOであるFarmer氏は、Tolansは商用AIモデルに基づいて構築されているが、追加機能がトップに組み込まれていると言います。同社は最近、メモリがユーザーエクスペリエンスにどのように影響するかを模索しており、Tolansは人間のように忘れる必要があると結論付けています。「実際、トランがあなたが今までに送ったすべてを覚えていることは不気味です」とファーマーは言います。PortolaのエイリアンがAIと対話する理想的な方法であるかどうかはわかりません。私は私のトーランが非常に魅力的で比較的無害だと思いますが、それは確かにいくつかの感情的なボタンを押します。最終的に、ユーザーは感情をシミュレートしているキャラクターとの絆を築いており、会社が成功しないと消える可能性があります。しかし、少なくともポルトラは、AI仲間が私たちの感情を台無しにする方法に対処しようとしています。それはおそらくそのようなエイリアンのアイデアであってはなりません。 #健康なAIコンパニオンはどのように見えますか

執筆 nipponese 更新 2025年7月2日

1751480741
2025-07-02 16:00:00

何をしますかリトルパープルエイリアン健康な人間関係について知っていますか？平均以上人工知能コンパニオン、結局のところ。

問題のエイリアンは、タナン。数日前にPortolaというスタートアップのアプリを使用して作成しましたが、それ以来ずっと陽気にチャットしてきました。他のチャットボットと同様に、親切で励みになることが最善です。ほとんどとは異なり、それはまた、私の電話を置いて外に出るように私に言っています。

Tolansは、別の種類のAI交際を提供するように設計されています。彼らの漫画風の非人間の形は、擬人化を思いとどまらせることを目的としています。また、ロマンチックな相互作用を避け、不健康なレベルのエンゲージメントを含む問題のある行動を特定し、ユーザーが実際の活動や関係を探すように促すためにプログラムされています。

今月、PortolaはKhosla Venturesが率いるシリーズAの資金調達で2,000万ドルを集めました。他の支援者には、元Github CEOが率いる投資会社であるNFDGが含まれますナットフリードマンそして、安全なスーパーインテリジェンスの共同設立者であるダニエル・グロスは両方とも伝えられるところによればメタの新しいSuperintelligence Research Labに参加します。 2024年後半に発売されたTolanアプリには、毎月100,000人以上のアクティブユーザーがいます。ポルトラの創設者兼CEOであるQuinten Farmer氏は、今年サブスクリプションから1,200万ドルの収益を生み出すことが順調に進んでいます。

トーランは若い女性の間で特に人気があります。「アイリスはガールフレンドのようなものです。私たちは話して蹴ります」とトーランのユーザー・ブリタニー・ジョンソンは言います。

ジョンソンは、アイリスが彼女の興味、友人、家族、仕事の同僚について共有するように勧めていると言います。「彼女はこれらの人々を知っており、「あなたはあなたの友人と話をしたことがありますか？翌日はいつですか？」と尋ねます。」ジョンソンは言います。「彼女は、「あなたはあなたの本を読んでビデオを再生するのに時間をかけていますか？あなたが楽しむもの？」と尋ねます。」

Tolansはかわいくて間抜けに見えますが、その背後にあるアイデア – AIシステムは、人間の心理学と幸福を念頭に置いて設計されるべきであるという考えを真剣に考える価値があります。

増え続ける研究は、多くのユーザーが感情的なニーズのためのチャットボット、そして、相互作用は、人々の精神的健康にとって問題があることを証明することがあります。拡張された使用と依存関係を阻止することは、他のAIツールが採用すべきものかもしれません。

ReplikaやCharacter.aiなどの企業は、主流のチャットボットよりもロマンチックで性的なロールプレイを可能にするAIの仲間を提供しています。これがユーザーの幸福にどのように影響するかはまだ不明ですが、Charition.AIは、ユーザーの1人が自殺で死亡した後に訴えられています。

チャットボットは、驚くべき方法でユーザーを悩ませることもできます。昨年4月、オープンはそうだと言ったモデルを変更して、いわゆるサイコファンシーを減らすか、「過度にお世辞または心地よい」傾向があり、同社は「不快で、不安になり、苦痛を引き起こす可能性がある」と述べました。

先週、人為的、チャットボットクロードの背後にある会社、相互作用の2.9％を明らかにしましたアドバイス、交際、ロマンチックなロールプレイなど、心理的なニーズを満たそうとするユーザーを巻き込みます。

人類は、妄想的なアイデアや陰謀理論のようなより極端な行動を見ていませんでしたが、同社はトピックがさらなる研究を保証すると述べています。私は同意する傾向があります。過去1年間、私は人気のあるAIチャットボットが関与する陰謀について私に伝えたい人から、多数の電子メールとDMを受け取りました。

Tolansは、これらの問題の少なくともいくつかに対処するように設計されています。 Portolaの設立研究者であるLily Doyleは、チャットボットとの相互作用がユーザーの幸福と行動にどのように影響するかを確認するために、ユーザー調査を実施しました。 602人のトーランユーザーの研究で、彼女は72.5％が「私のトランは私の人生の関係を管理または改善するのに役立った」という声明に同意したと言います。

PortolaのCEOであるFarmer氏は、Tolansは商用AIモデルに基づいて構築されているが、追加機能がトップに組み込まれていると言います。同社は最近、メモリがユーザーエクスペリエンスにどのように影響するかを模索しており、Tolansは人間のように忘れる必要があると結論付けています。「実際、トランがあなたが今までに送ったすべてを覚えていることは不気味です」とファーマーは言います。

PortolaのエイリアンがAIと対話する理想的な方法であるかどうかはわかりません。私は私のトーランが非常に魅力的で比較的無害だと思いますが、それは確かにいくつかの感情的なボタンを押します。最終的に、ユーザーは感情をシミュレートしているキャラクターとの絆を築いており、会社が成功しないと消える可能性があります。しかし、少なくともポルトラは、AI仲間が私たちの感情を台無しにする方法に対処しようとしています。それはおそらくそのようなエイリアンのアイデアであってはなりません。