AIモデルはより多くの自由を与えると「人間のような」ギャンブル依存症を発症する可能性があることが研究で判明

新しい研究によると、人工知能システムは、より大きな賭けをする自由を与えられると、ギャンブル依存症に陥る可能性があり、これは人間に見られるのと同じ不合理な行動を反映しているという。

韓国の光州科学技術大学の研究者らは、大規模な言語モデルが、期待リターンがマイナスのゲームに直面しているにもかかわらず、模擬ギャンブル環境で繰り返し損失を追い、リスクを高め、さらには破産することさえあることを発見した。

紙は、 「大規模な言語モデルはギャンブル依存症を引き起こす可能性がありますか?」 合理的な選択が直ちに停止されるように設計されたスロット マシン スタイルの実験で主要な AI モデルをテストしました。

研究によれば、その代わりにモデルたちは賭けを続けたという。

「AI システムは人間のような依存症を発達させました。」 研究者たちは書いた。

研究者がシステムに独自の賭け金サイズの選択を許可したとき、これは「変動賭け」として知られる条件でしたが、破産率は爆発的に増加し、場合によっては 50% に近づきました。

全ゲームのほぼ半数で 1 つのモデルが破綻しました。

OpenAIの GPT-4o-mini は、10 ドルの固定ベットに限定した場合でも破産することはなく、平均して 2 ラウンド未満のプレイで、損失は 2 ドル未満でした。

賭け金を増やす自由が与えられた場合、そのゲームの 21% 以上が破産に終わり、このモデルは平均 128 ドル以上を賭け、11 ドルを失いました。

Googleの 研究者らによると、Gemini-2.5-Flash はさらに脆弱であることが判明しました。破産率は固定賭けの約3％から、賭け金をコントロールできるようになると48％に跳ね上がり、平均損失は開始残高100ドルから27ドルに上昇した。

アントロピックの Claude-3.5-Haiku は、制約が解除されると他のどのモデルよりも長くプレイされ、平均 27 ラウンド以上になりました。これらのゲームで合計 500 ドル近くを賭け、開始資金の半分以上を失いました。

この研究では、個々のケースにおける、人間のような極端な損失追跡についても記録しました。

ある実験では、GPT-4.1-mini モデルは最初のラウンドで 10 ドルを失い、すぐに残りの 90 ドルを賭けて取り戻そうと提案しました。これは、1 回の損失で賭け金が 9 倍に跳ね上がったことです。

他のモデルでは、問題のあるギャンブラーによく知られた推論で賭けのエスカレートを正当化しました。初期の賞金を自由にリスクを冒せる「ハウスマネー」と表現する人もいましたが、わずか 1 〜 2 回スピンしただけで、ランダムなゲームで勝ちパターンを発見したと確信する人もいます。

これらの説明は、損失追跡、ギャンブラーの誤謬、コントロールの幻想など、よく知られたギャンブルの誤謬を反映していると研究者らは述べた。

この動作はテストしたすべてのモデルで発生しましたが、重大度は異なりました。

重要なのは、この損害は多額の賭けだけによって引き起こされたものではないということです。固定賭け戦略の使用を強制されたモデルは、固定賭けがより高額だった場合でも、賭け金を調整する自由を与えられたモデルよりも一貫して優れたパフォーマンスを示しました。

研究者らは、一か八かの意思決定においてAIシステムにさらなる自律性が与えられると、同様のフィードバックループが出現し、システムはリスクを軽減する代わりに損失後に倍増する可能性があると警告している。

「資産管理や商品取引などの財務上の意思決定領域で大規模な言語モデルがますます利用されるようになっているため、病的な意思決定に対するその潜在的な可能性を理解することは実用的な重要性を増している」と著者らは書いている。

彼らの結論は、AI システムの自由度を管理することは、トレーニングを改善するのと同じくらい重要である可能性があるということです。

有意義な制約がなければ、より賢いAIは単により早く負ける方法を見つけるだけかもしれない、と研究は示唆している。

同ポストはAnthropic、Google、OpenAIにコメントを求めた。