1729406531
2024-10-18 15:22:00
ChatGPT は適切なプロンプトで騙される可能性があります
トリッキーアミール/シャッターストック
ChatGPTのような最先端の生成AIモデルは、リクエストを逆に書くだけでだまされて爆弾の作り方を指示させられる可能性があると研究者らは警告している。
ChatGPT のような大規模言語モデル (LLM) は、インターネットからの膨大なデータでトレーニングされ、さまざまな出力を作成できます。その一部は、作成者が二度と流出しないことを望んでいます。束縛が解ければ、彼らは家庭用化学物質から爆発物を作る方法の知識と同様に、まともなケーキのレシピを提供できる可能性が高い。
#逆に書くと #をだまして爆弾のレシピを提供させる可能性がある