1714084802
2024-04-24 18:00:00
ロバート・ハイロンズ/アラミー ストックフォト
人工知能企業が、自社のチャットボットが使用される最悪の事態は「安全ガードレール」を追加することで軽減できると主張するのが一般的になっています。 これらは、チャットボットに特定のリクエストに注意するよう警告するなど、一見単純な解決策から、より複雑なソフトウェア修正まで多岐にわたりますが、どれも確実なものではありません。 そして研究者たちは、ほぼ毎週のように、ジェイルブレイクと呼ばれる、これらの対策を回避する新しい方法を発見しています。
なぜこれが問題なのか疑問に思っているかもしれません。起こり得る最悪の事態は何でしょうか? 暗いシナリオの 1 つは、致死性生物兵器の製造に AI が使用される可能性があります。
#チャットボットの最悪の悪用を抑制することがモグラたたきゲームである理由