科学＆テクノロジー

セックスファンタジーチャットボットは、明示的なメッセージの絶え間ないストリームを漏らしています

すべて UpGuardによって見つかった400の露出AIシステム 共通点が1つあります。llama.cppと呼ばれるオープンソースAIフレームワークを使用します。このソフトウェアにより、人々は独自のシステムまたはサーバーにオープンソースAIモデルを比較的簡単に展開できます。ただし、適切にセットアップされていない場合、送信されているプロンプトを誤って公開する可能性があります。あらゆるサイズの企業や組織がAIを展開するため、使用されているシステムとインフラストラクチャの適切な構成は 漏れを防ぐために重要です。過去3年間の生成AIの急速な改善により、AIの仲間とシステムの爆発が生じました。 もっと「人間」に見えます。 たとえば、メタは持っています 実験 AIキャラクターがWhatsApp、Instagram、Messengerでチャットできるキャラクター。一般的に、コンパニオンのウェブサイトやアプリを使用すると、人々はAIキャラクターと自由に流れる会話をすることができます。キャラクターをカスタマイズ可能な性格を持つキャラクターや有名人などの公人としてポールトリングすることができます。人々はAIとの会話から友情とサポートを見つけました。そして、それらのすべてがロマンチックなシナリオや性的シナリオを奨励するわけではありません。おそらく当然のことながら、人々は持っています AIキャラクターに恋をしました、そして数十の AIガールフレンド そして 彼氏 近年サービスが登場しています。ワシントン大学法学部のポスドク研究員であり、コーデル研究所の関連会社であるクレア・ボインは、成人や青少年を含む何百万人もの人々が一般的なAIコンパニオンアプリを使用していると言います。 「多くの人がチャットボットとの感情的な絆を育むことを知っています」と出版したボインは言います 研究 主題について。 「たとえば、AIの仲間と感情的に結びついている人々は、個人的または親密な情報を開示する可能性が高くなります。」しかし、ボーイン氏によると、企業が作成したAIに感情的に付随する力の不均衡がしばしばあります。 「時々、人々はそもそもそのタイプの関係を築くためにそれらのチャットに従事します」とボインは言います。 「しかし、それから彼らがそれを開発したら、彼らは本当にそれを簡単にオプトアウトすることができないように感じます。」AIコンパニオン業界が成長するにつれて、これらのサービスの一部はコンテンツの節度やその他のコントロールがありません。キャラクターAI、それは バッキング Googleによって、 訴えられています フロリダ出身のティーンエイジャーがチャットボットの1つに夢中になったとされる後、自殺で亡くなりました。 （キャラクターAIが持っています 時間の経過とともに安全ツールを増やしました。）個別に、生成AIツールのユーザー Replikaは覆われました 会社が個性を変更したとき。個々の仲間とは別に、ロールプレイングやファンタジーコンパニオンサービスもあります。これは、何千人ものペルソナと話すことができますが、シナリオのキャラクターとしてユーザーを配置します。これらのいくつかは、性的に高度になり、NSFWチャットを提供できます。彼らはアニメキャラクターを使用できますが、その一部は若く見えますが、一部のサイトでは「無修正」の会話を許可していると主張しています。「私たちはこれらのことをテストし、これらのプラットフォームが何を言っているかに非常に驚き、一見規制や制限がないように見えます」と、EndTab（エンディングテクノロジー対応の虐待）の創設者であるAdam Dodgeは言います。 「これはまだ人々のレーダーにも遠く離れていません。」 Dodgeは、これらの技術がオンラインポルノの新しい時代を開いていると言います。これにより、技術が成熟し改善し続けるにつれて、新しい社会的問題を導入できます。 「パッシブユーザーは現在、女性と少女のデジタルボディと肖像を前例のないアクティブな参加者にしています」と彼はいくつかのサイトについて語っています。 #セックスファンタジーチャットボットは明示的なメッセージの絶え間ないストリームを漏らしています