AI に関するガーディアン紙の見解: 安全スタッフの退職により、業界があらゆる犠牲を払ってでも利益を追求することへの懸念が高まる |社説

HAI の偉い人が、このテクノロジーが人類に存亡の脅威をもたらすと警告しないまま、やっと 1 か月が経過する。これらの警告の多くは、曖昧または単純なものである可能性があります。利己的な人もいるかもしれません。冷静かつ冷静な監視が必要です。ただし、いくつかの警告は真剣に受け止める価値があります。

先週、何人かの著名な地上レベルのAI安全性研究者が辞めました。 警告 利益を追求する企業は安全性を無視し、リスクの高い製品を推進しているということだ。短期的には、これは短期的な利益を追求する急速な「エンシフト化」を示唆しています。 収益。規制がなければ、公共の目的は利益に取って代わられます。確かに、政府や日常生活における AI の役割の拡大、および億万長者の所有者の利益への欲求には説明責任が求められます。

AI の主要な消費者インターフェイスとしてエージェント (チャットボット) を使用するという選択は、主に商用目的で行われました。会話と互恵性の外観により、Google 検索バーよりも深いユーザー インタラクションが促進されます。 OpenAI 研究者のゾーイ・ヒツィヒ氏は次のように述べています。 警告された その動的なリスク操作に広告を導入することは、 OpenAIは、広告はChatGPTの回答に影響を与えないと述べている。しかし、ソーシャルメディアと同様に、広範な個人的な交流を利用することで、それらは目立たなくなり、より心理的にターゲットを絞ったものになる可能性があります。

注目に値するのは、 シモ身代金Facebookの広告ビジネスを構築した同氏は昨年OpenAIに加わった。そしてOpenAIは最近その幹部を解雇した ライアン・バイアマイスター 「性差別」のため。複数の報道によると、彼女はアダルトコンテンツの展開に強く反対していたという。これらの動きを総合すると、商業的な圧力が同社の方向性、そしておそらく業界全体の方向性を形作っていることを示唆している。イーロン・マスクの AI Grok ツールが残された経緯 アクティブ 悪用を引き起こすのに十分な期間が経過し、その後有料アクセスで制限され、英国と EU での調査後に最終的に停止されたことは、収益化による損害についての疑問を引き起こします。

教育や政府などの社会的目的のために構築されている、より専門的なシステムを評価することはより困難です。しかし、利益の熱狂的な追求は、人間のあらゆるシステムに抗しがたいバイアスをもたらす傾向があるため、同じことが AI にも当てはまります。

これは一企業内の問題ではありません。人類の安全研究者によるより曖昧な辞任届 ムリナンク・シャルマ氏は「世界は危険にさらされている」と警告そして、彼は「私たちの価値観を真に自分の行動に支配させることがいかに難しいかを繰り返し見てきた」と語った。 OpenAI はかつて、表向きは完全に非営利でした。 2019年に商業化を開始した後、Anthropicはより安全でより慎重な代替品であると約束されて登場した。シャルマ氏の辞任は、自制を基盤に設立された企業でさえ、同様の利益の誘惑に抵抗するのに苦労していることを示唆している。

この再編の原因は明らかだ。企業は歴史的な速さで投資資本を使い果たしており、収益は十分なペースで成長しておらず、目覚ましい技術的成果にもかかわらず、利益を生み出すために AI が何を「できる」のかはまだ明らかではありません。タバコから 医薬品、利益インセンティブがいかに判断を歪めるかを見てきました。 2008 年の金融危機は、重要なシステムが短期的なニーズと弱い監視によって動かされると何が起こるかを示しました。

この問題を解決するには、強力な国家規制が必要です。最近の 国際 AI 安全性レポート 2026 自動化の欠陥から誤った情報に至るまで、実際のリスクを冷静に評価し、規制の明確な青写真を提示しました。 60か国から支持されているにもかかわらず、米国と英国の政府は 署名を拒否した。これは、彼らが業界を束縛するのではなく、保護することを選択していることを示す憂慮すべき兆候です。