AI が医師よりも優れた診断を提供できるとしたら、医師の予後はどうなるでしょうか? |ジョン・ノートン

あ私はあまりにも多くの人に対して、あまりにも多くの（異なる）ことを意味します。私たちはそれについて話し、そして考える、より良い方法を必要としています。キュー、 ドリュー・ブルーニグは、才能豊かなオタクで文化人類学者であり、テクノロジーを次の 3 つの使用例にきちんと分類することを考え出しました。 神々、インターン、そして歯車。

この意味での「神」とは、「自律的に物事を行う超知的人工存在」ということになります。言い換えれば、OpenAIのサム・アルトマンとその仲間たちが（非合理的な費用をかけて）構築しようとしているAGI（汎用人工知能）であると同時に、それが人類の存亡を脅かす可能性があると警告しているのだ。ブリューニグ氏によれば、AI の神は「人間の代わりとなるユースケース」だという。巨大なモデルと膨大な量の「コンピューティング」、水、電気が必要です (関連する CO2 は言うまでもなく)₂ 排出量）。

「インターン」は「専門家と協力して、単調な作業に集中する監督付き副操縦士」です。つまり、次のようなことです。 チャットGPT、Claude、Llama、および同様の大規模言語モデル (LLM)。それらの特徴的な品質は、専門家によって使用および監督されることを目的としているということです。彼らが支援している専門家が彼らの出力をチェックしているため、彼らはエラーに対する許容度が高く、恥ずかしい間違いがさらに拡大するのを防ぎます。彼らは退屈な作業を行います。ドキュメントを覚えて参照をナビゲートし、大まかなストロークが定義された後に詳細を記入し、動的な意見交換板として機能してアイデア生成を支援するなどです。

最後に、「歯車」は、通常はパイプラインまたはインターフェイスの一部として、単一のタスクを非常にうまく実行するように最適化された低位のマシンです。

現在私たちがいるのはインターンのほとんどです。これらは、人間の能力を拡張するテクノロジーとしての AI を表しており、すでに多くの業界や職業で広く使用されています。その意味で、これらは人間が仕事の場で緊密な認知的相互作用を行ってきた第一世代の準インテリジェントマシンであり、人間とマシンのパートナーシップがいかにうまく機能するかについて興味深いことがわかり始めています。

AI に大きな期待が寄せられている分野の 1 つはヘルスケアです。それには正当な理由があります。たとえば、2018 年には、AI 研究者間のコラボレーションが行われました。 ディープマインド・アンド・ムーアフィールズ眼科病院 ロンドンでは、緊急治療が必要な患者の症状を検出するために網膜スキャンの分析が大幅に高速化されました。しかし、技術的には難しいとはいえ、ある意味、これは簡単なことでした。機械はスキャンを信じられないほど早く「読み取り」、専門家の診断と治療が必要なスキャンを選び出すことができます。

しかし、診断プロセス自体はどうなるのでしょうか?キュー 興味深い米国の研究 10月に出版された アメリカ医師会雑誌、ChatGPTが50人の現役医師の診断能力を向上させることができるかどうかに関するランダム化臨床試験を報告しました。大雑把な結論は、「医師が診断補助として LLM を利用できるとしても、従来のリソースと比較して臨床推論が大幅に改善されるわけではない」というものでした。しかし、驚くべきキッカーがありました: ChatGPT それ自体で 両医師グループ（機械へのアクセスがあるグループとないグループ）よりも高いパフォーマンスを示しました。

または、 として ニューヨークタイムズ それをまとめました、「従来のリソースとともに ChatGPT-4 を提供された医師は、ボットにアクセスできなかった医師よりもわずかに良い成績を収めただけでした。そして研究者たちが驚いたことに、ChatGPT だけが医師の成績を上回りました。」

しかし、さらに興味深いのは、他の 2 つの新事実です。この実験は、ChatGPT がより良い診断を提案した場合でも、医師が自分の診断に対して時々揺るぎない信念を持っていることを示しました。また、少なくとも一部の医師はこのツールの機能を最大限に活用する方法を実際にはわかっていないことも示唆されました。これにより、AI が次のようなことを提唱していることが明らかになりました。 イーサン・モリック 効果的な「即時エンジニアリング」、つまり LLM を最大限に活用するために何を依頼すべきかを知ることは、微妙でよく理解されていない技術である、と長年言われてきました。

同様に興味深いのは、AI とのコラボレーションがパートナーシップに関与する人間に与える影響です。 MITの研究者が 実験を行った AI を研究に使用できれば、材料科学者がどの程度うまく仕事を遂行できるかを確認するためです。

その答えは、発見された材料が 44% 増加し、特許出願が 39% 増加したことからわかるように、AI 支援が実際に機能しているようだということでした。これは、AI が「アイデア生成」タスクの半分以上を実行し、研究者はモデルで生成された候補材料を評価する業務に任せることによって実現されました。そのため、AI は「思考」のほとんどを行い、AI はアイデアの実際的な実現可能性を評価するというより日常的な雑用に追いやられました。その結果、研究者たちは仕事の満足度が急激に低下したのです。

面白い、 そうじゃない？?これらの研究者は高位の人材であり、地位の低い工作員ではありません。しかし突然、スマートマシンと連携することで、彼らは…そう、歯車のような気分になりました。そして道徳は？あなたが望むものには注意してください。

私が読んでいたもの

チャンバーピース
エコーチェンバーが機能したらどうなるでしょうか? 』は、ドナルド・トランプ時代のリベラルのジレンマを浮き彫りにした印象的なエッセイである。

貯蓄プラン
ロイターの鋭い分析はこうだ。 イーロン・マスクの効率化推進の道筋を描く。

独創的な思考
スティーブン・シノフスキーの素晴らしく賢明なエッセイ 破壊者であることの代償について 革新と変化についてです。