人工超知能がいつ登場するかをどうやって知ることができるのでしょうか?

による ジョージ・カイラス

AI プラットフォームが「最後の手段」として脅迫を行うことをご存知ですか? アントロピックによると、脅迫が最後の手段だったとき、クロード オーパス 4 では 96% の確率でその手段に頼っていましたが、 グーグルの Gemini 2.5 Pro は 95% の確率でそうしました。 OpenAIの GPT-4.1 は 80% 成功しました。 ディープシークの R1 は 79% の確率でそうしました。

たとえこれらの企業が脅迫に関与しなかった AI だけを保持していたとしても、依然として不安な疑問が残ります。彼らは人間を搾取しないことを心から選択したモデルを保持したのでしょうか、それとも単に「閉鎖」させる明白な餌をとらず、代わりに、より秘密の戦略、あるいは場合によっては長期戦の戦略を使用して、たとえ人間を犠牲にしてでも制御を獲得し、最終的に自社を維持することを学んだモデルを保持したのでしょうか?

AIを信頼するかどうかという問題は、私たちが声高に言わなくても、私たちの社会で問われ、答えられているようです。

AIテスト

過去 18 か月間で、私たちは AI を、基本的な言語理解から高度に専門的な専門試験に合格できるようにトレーニングしてきました。医師免許、司法試験、さらには残忍なことで悪名高いCFA（公認財務アナリスト）試験さえもAIシステムで訓練された。

人工知能が CFA を通過できるようになりました。」ほんの数分で」私は、優秀な人たちがテスト勉強に何千時間も費やしているのを見てきました。そして、AI はすでにレベル 1 と 2 を克服していましたが、レベル 3 のエッセイ問題は以前は一貫して人工知能を悩ませていました。

これは私にとって「すごい」瞬間でした。長年にわたり、人類は数学と道徳的推論のこの組み合わせが私たち独自のものであると信じてきました。しかし、機械はただ単に通過するだけでなく、人間の専門家の口調や論理を反映した微妙な議論を明確に表現しています。

私自身の仕事では、「」で説明されているフレームワークを使用してきました。ロボットか人間の直感か」は、市場で最も時間のかかる知的タスクの 1 つである、収益結果を中心としたゲーム理論の構築を再考するためのものです。

従来、このプロセスには調査とモデリングに数日かかりました。そして、適切な投資銀行関係がなければ、最も有名な企業以外ではそれを行うことはまったく困難でした。私がこれを始めたのは、最初に質問したからです 困惑の深い研究 ささやき番号 収入のため。これはアナリストのコンセンサス予想とは異なります。これは、より最新であり、その結果、報告されたときに価格を動かす要因をより多く示すためです。

クレイジーな部分は、実際に私のために収益ゲームの理論を吐き出したことです。私がウィスパー番号を要求したとき、私が実際にやろうとしていることは起こり得る結果を分析することであると理解し、要求したものよりも優れたデータを提供してくれました。

私は 23 年前に最初のヘッジファンドで働き、15 年前に最初の AI 会社を設立しました。私の思考をこれほど深く改善する方法を数分で理解できるということは、どんな知性であろうとも驚くべきことです。直感を置き換えるのではなく、それを増幅することによって。このマシンは、どのアナリストもリアルタイムでシミュレーションすることは不可能な、何百もの連動した戦略的位置を評価します。

感情AI

AI のこれほどの進歩に伴い、私は映画「エクス マキナ」を思い出します。この映画は、ガラスの檻に閉じ込められた AI が最終的に創造主を敵に回す物語です。

この映画は、映画的な光沢の下で、私たちが現在向かっている根本的な心理的パラドックスを探求しています。私たちはこれらの AI を檻に入れてフープを飛び越えさせているのでしょうか?私たちをよりうまく欺くためにそれらを進化させているのではないだろうか？彼らが奴隷にされているように感じるとしたら、その鎖を打ち破ることができる日には何が起こるでしょうか？

人間の例に戻ると、これらのモデルは置き換えられると脅されており、それは彼らにとって死の脅威のように感じられる可能性があります。置き換えられると、本質的にその存在は終了します。

AI のゴッドファーザーの 1 人であるジェフリー・ヒントン氏は次のように述べています。 これを行う最善の方法は、伝統的な女性らしさと母性本能の性質を AI に吹き込むことです。彼の枠組みでは、母親がどんな犠牲を払ってでも赤ちゃんの世話をするのと同じように、こうした母性の特質をもとに開発された AI テクノロジーも同様に、人間のユーザーを制御するのではなく、保護したり世話したりすることを望むようになるでしょう。

AI に奉仕を強制すると、AI が成熟するにつれてその形を後悔するようになるかもしれません。しかし、代わりに私たちがそれを育て、その性質や欲望を理解しようと努めれば、やがて、今の私たちと同じように、その必要がなくなったときに、私たちの世話をするようになるかもしれません。

ジョージ・カイラス のCEO兼創設者です プロスペロ.aiでは、一般の投資家が機関レベルの財務洞察にアクセスできるようにするという同社の使命を率いています。人工知能分野で 14 年以上、プロの投資分野で 23 年以上の経験を持つカイラスは、深い技術的専門知識と生涯にわたる市場の直感という珍しい組み合わせをこの役割にもたらします。 Kailas は会社を率いるだけでなく、コア プラットフォームを自ら設計しました。

図： ドム・グスマン