人間にとって、プラグマティズムはより信頼できる立場である

AI に投資している医療機関は、Anthropic の最近の政策決定を一時的な関心以上の関心を持って注視しています。同社は、ある面では社内の安全基準を緩和したが、別の面では防衛契約を堅持するために失った。これらの動きは、臨床および行政のリーダーにとって同様に重要な問題を提起します。それは、現実世界の制約の下で運営されている商用 AI 企業には、どのような安定した信頼できる政策姿勢が期待できるのでしょうか?

Anthropic は、社内の安全基準を緩和するという決定と、軍事用途に対する厳格性により、その結果、世界から除外されるという 2 つの論争の中心に位置しています。 防衛契約。 Anthropic が行うべきことは、価値観のみの姿勢から、価値観と市場の存続可能性の間の実用的なバランスへと成熟することです。

ステークホルダーの信頼に関する数十年にわたる研究は、そのような実際的なアプローチが防御可能であるだけでなく、より信頼できることを示唆しています。たとえば、米国の顧客は、企業が適正な保険料を請求し、適正な利益を上げ、繁栄することを期待しています。ほとんどの顧客は、ミッションステートメントではなく、価格、信頼性、サービスを通じてブランドを体験しており、自社を犠牲にしてでも顧客のニーズに応えるという独占的な使命によって企業が動かされることを期待していません。

Anthropic の憲法にはすでにこのバランスが反映されています。これは純粋に価値観に基づいた文書ではありません。ビジネスを損なう社会的目的を追求するのではなく、公平性を確保し信頼を維持するために設計された一連の制約内でユーザーの利益を優先します。しかし、それは逆方向にも進みます。憲法はクロードに対し、「正当な理由を必要とせずに合理的な製品決定を行う事業者の権利を尊重する」よう明確に指示している。通信事業者のビジネス上の利益は単に容認されるだけではありません。構造的に保護されています。それはまさに営利団体として正しい姿勢だ。

Anthropic 社は、この実用的なアプローチを自社技術の軍事利用に関する意思決定や将来の成長路線全体に拡張することができれば十分に役立つでしょう。同社がAIソリューションに投資していることを考えると、 ヘルスケア市場、そしてその憲法と 患者中心の倫理を推進するヘルスケア AI、同社の長期的な姿勢は、医療機関とそれに関連するエコシステムによって注意深く監視されるでしょう。

プラグマティズムの信頼の事例

最も信頼できる企業は最も無私無欲な企業であり、たとえ自社の費用を負担してでも顧客のために身を屈めることが最も深い忠誠心を築くという考えが広く広まっています。証拠はそうではないことを示しています。消費者、従業員、投資家が商業パートナーに対してどのように信頼を形成するかに関する広範な調査は、利害関係者が双方にとって有利な関係を期待しているという一貫した結果を示しています。彼らは望んでいます 能力と慈悲、利他主義や自己犠牲ではありません。

コストが下がったときに公正な価格を設定し、繁栄するのに十分な維持をしながら有利な条件の利点を共有する企業は、人々が信頼するパートナーです。逆に、抽象的な原則のために自社の存続可能性を犠牲にする姿勢を示す企業は、実際に信頼を損なうことになります。利害関係者は能力に疑問を持ち始めます。この組織は存続できるのでしょうか?果たしてその公約を守ることはできるだろうか？従業員にとって、業績の良い企業は、自社が何を行っているかを理解しており、自社に依存する人々のことを気にかけていることの両方を示しています。 IPO を評価する投資コミュニティにとって、計算はさらに直接的です。

安全基準：後退ではなく成熟

Anthropic がスタートアップだった頃、規制や競合他社に先駆けて独自の内部安全基準を開発することは原則的であり、戦略的でした。しかし、市場から切り離されて存在する基準は、最終的には負債となります。私の調査によると、企業の目的が消費者に知られたり、理解されたりすることはほとんどなく、ましてや購買の動機となることはほとんどありません。もしそうであれば、ウォルマートとアップルは現在のような巨大企業にはならなかったでしょう。

競合他社は同等の基準に従っていません。規制当局は、少なくともAnthropicが一方的に採用した形では、それらを望んでいないことを示している。ポジショニングの課題は内容ではなくコミュニケーションの問題です。Anthropic は新興企業の社内で生成された標準から、成熟した企業が市場情報に基づいた標準に移行しました。これは降伏ではなく成長の兆しと見るべきです。

軍事利用と水際

より困難なケースは軍事利用ですが、同じ枠組みが適用されるはずです。軍は合法的な適用を意図していると述べている。 Anthropic が問うべき質問は、「責任はどこで終わるのか?」ということです。これは私がプラグマティズムの水際と呼んでいるもので、AI に特有のものではありません。

医薬品について考えてみましょう。ある企業が合法的な医薬品を開発しましたが、その後乱用されました。処方ガイドライン、監視プログラム、一般教育など、誤用を阻止するための合理的な措置を講じているが、医薬品の製造を拒否しているわけではない。あるいは、スマートフォンについて考えてみましょう。スマートフォンのカメラは写真撮影用に設計されていますが、侵入的な監視にも使用される可能性があります。 Apple はカメラを無効にしません。これらの企業は悪用を阻止するためにできる限りのことを行っていますが、仮想的な悪用シナリオに基づいて製品を購入する人を事前に選択することはありません。

水際は合理的な安全策を講じて描かれなければなりません。下流での使用を事前に取り締まると、実際には AI プロバイダーの評判が傷つき、表向きは価値主導の理由であっても行き過ぎとみなされます。基礎的な AI 企業はすべての顧客のビジネス戦略を監査できるでしょうか?そうすべきでしょうか？ほとんどの場合、答えはノーです。

これが戦略的に何を意味するか

まず、製品が AI モデルであっても、医薬品であっても、カメラであっても、事前に製品の使用状況を監視することは非常に困難です。いかなる企業も、警察が先制的に使用する義務や権利を負うべきではありません。

第二に、Anthropic は係争地で明確な価値観を主張することで、市場に不必要な亀裂を生む危険性があります。ほとんどの顧客は、企業が定めた目的を知りません。これは調査でも一貫して示されており、ほとんどの顧客は、製品を使用するだけで政治的立場を支持しているとみなされることを望んでいません。 Anthropic の認知度が高まるにつれて、特に IPOの可能性、このリスクはさらに高まります。同社は、政治的、イデオロギー的、文化的など、市場で自然に生じている溝を越えるべきであり、溝を深めるべきではない。

第三に、一方的な自制は、その支持者が期待する結果をもたらさない。 Anthropic が特定の顧客セグメントへのサービス提供を拒否した場合でも、そのセグメントがサービスを受けられなくなることはありません。 五角形。より良い方法は、顧客の主権と自由を尊重しながら、抑制が集団的であるため効果的であり、調整された業界標準を提唱することです。

第 4 に、最も直接的には、商業的実行可能性自体がガバナンス資産です。繁栄している人道主義者は、原則の名の下に市場での地位を譲った人道主義者よりも、業界の規範、規制に関する議論、安全性研究に対してより大きな影響力を持っています。

Anthropic が表明した競争姿勢は決して純粋なものではありません。それは、安全性を真剣に受け止め、すべての利害関係者グループとの信頼を築き、存続可能で競争力のある営利企業として運営しながらそれを実現する企業の信頼性であり、これからもそうあるべきです。それが実際的な信頼の立場であり、これに従う価値のある立場です。

画像：作者作成

この投稿は、 メッドシティのインフルエンサー プログラム。誰でも、MedCity インフルエンサーを通じて MedCity News でヘルスケアにおけるビジネスとイノベーションに関する視点を公開できます。 方法を確認するにはここをクリックしてください。