オズモンド・チアビジネス記者
ゲッティイメージズ中国は、子どもたちに安全策を提供し、チャットボットが自傷行為や暴力につながる可能性のあるアドバイスを提供するのを防ぐために、人工知能（AI）に関する厳格な新しいルールを提案した。
計画されている規制の下では、開発者は AI モデルがギャンブルを促進するコンテンツを生成しないことを確認する必要もあります。
この発表は、中国および世界中で導入されるチャットボットの数が急増したことを受けて行われた。
この規則が最終決定されれば、中国のAI製品とサービスに適用され、今年安全性への懸念から厳しい監視にさらされている急成長する技術を規制する大きな動きとなる。
草案規則中国サイバースペース管理局（CAC）が週末に発表したこの文書には、子どもを守るための対策が盛り込まれている。その中には、AI企業に対し、パーソナライズされた設定の提供、使用時間の制限、心の伴侶サービスを提供する前に保護者から同意を得ることが求められることが含まれる。
同行政によると、チャットボットオペレーターは自殺や自傷行為に関連する会話を人間に引き継がせ、ユーザーの保護者や緊急連絡先に直ちに通知しなければならないという。
AI プロバイダーは、自社のサービスが「国家の安全を脅かし、国家の名誉と利益を損なうコンテンツ」を生成または共有しないことを保証する必要があります。 [or] 国民の団結を損なう」と声明で述べた。
CACは、技術が安全で信頼できるものであることを条件に、地域文化の促進や高齢者との交流のためのツールの作成などにAIの導入を奨励すると述べた。また、一般の人々からのフィードバックも求めました。
中国のAI企業 DeepSeek は世界中で見出しを飾りました 今年はアプリダウンロードチャートでトップに立った。
今月、合わせて数千万人のユーザーを抱える中国の新興企業Z.aiとMinimaxの2社が株式市場に上場する計画を発表した。
このテクノロジーは急速に膨大な数の加入者を獲得し、一部の加入者はそれを次の目的で使用しています。 交友関係やセラピー。
AI が人間の行動に与える影響は、ここ数カ月でますます厳しく監視されるようになりました。
ChatGPTを開発したOpenAIの責任者であるサム・アルトマン氏は今年、自傷行為に関連した会話にチャットボットが応答する方法が同社の最も難しい問題の一つであると述べた。
8月、カリフォルニアの家族 16歳の息子の死を巡りOpenAIを訴えた、ChatGPTが彼に自殺するよう勧めたと主張した。この訴訟は、OpenAIを不法死亡で告発する最初の訴訟となった。
同社は今月、AIモデルから人間のメンタルヘルスやサイバーセキュリティに至るまでのリスクに対する防御を担当する「準備責任者」の募集を宣伝した。
合格者は、人々に害を及ぼす可能性のある AI リスクを追跡する責任を負います。 アルトマン氏はこう語った。: 「これはストレスの多い仕事になるでしょうし、すぐに最深部に飛び込むことになるでしょう。」
苦痛や絶望に苦しんでいてサポートが必要な場合は、医療専門家やサポートを提供する組織に相談してください。多くの国で利用できる支援の詳細については、Befrienders Worldwide をご覧ください。 www.befrienders.org。
英国では、支援できる組織のリストが次の場所で入手できます。 bbc.co.uk/アクションライン。米国とカナダの読者は、自殺ヘルプライン 988 に電話するか、 ウェブサイトにアクセスしてください。