一部のAI企業が新たな告発に直面：「オープンウォッシュ」

ショップトーク

/ō-pən-wä-shĭng/

一部の AI 企業に対する、「オープンソース」というラベルの使用があまりにも大雑把であるという非難。

テクノロジーの世界では、人工知能モデルを「オープンソース」にするべきかどうかについて大きな議論が行われています。 2015 年に OpenAI の設立に貢献したイーロン・マスク氏は、 スタートアップを訴えた 同社の最高経営責任者であるサム・アルトマン氏は、同社がオープン性の使命から逸脱したと主張した。 バイデン政権は、 オープンソース モデルのリスクと利点を調査する。

オープンソース AI モデルの支持者は、オープンソース AI モデルが社会にとってより公平で安全であると主張する一方、反対者は悪意のために悪用される可能性が高いと述べています。 議論に大きな問題があったでしょうか? オープンソース AI が実際に何を意味するかについて、合意された定義はありません。 また、AI企業が自社を良く見せるために不誠実に「オープンソース」という用語を使用する「オープンウォッシュ」を行っていると非難する人もいる。 (オープンウォッシングの告発は、これまで、オープンソースのラベルをあまりにも大雑把に使用したコーディングプロジェクトに向けられていました。)

オープンソースを支援するヨーロッパのシンクタンクである Open Future に関するブログ投稿では、次のように述べています。 アレク・タルコウスキーが返信を書いた「ルールが作成されるにつれて、企業の『オープンウォッシング』の試みに対して十分なガードレールを構築することが課題の 1 つとなっています。」 オープンソース ソフトウェア プロジェクトを支援する非営利団体 Linux Foundation は先月、次のように述べています。 警告した 「この『オープンウォッシング』傾向は、検査、複製、集団的進歩を可能にする知識の自由な共有というオープン性の前提そのものを損なう恐れがある。」

モデルにラベルを適用する組織は、オープン性に対して非常に異なるアプローチを採用している可能性があります。 たとえば、2022 年に ChatGPT チャットボットを立ち上げたスタートアップの OpenAI は、（社名にもかかわらず）そのモデルについてほとんど開示していません。 Meta は LLaMA 2 および LLaMA 3 モデルをオープンソースとしてラベル付けしていますが、その使用には制限を設けています。 最もオープンなモデルは主に非営利団体によって運営されており、ソース コードと基礎となるトレーニング データを公開し、広範な再利用を可能にするオープン ソース ライセンスを使用します。 しかし、これらのモデルがあっても、他の人がそれを再現するには障害があります。

その主な理由は、オープンソース ソフトウェアでは誰でもそれを複製したり変更したりできる一方で、AI モデルの構築にはコード以上のものが必要になるためです。 必要なコンピューティング能力とデータキュレーションに資金を提供できる企業はほんの一握りです。 一部の専門家が、AIを「オープンソース」と呼ぶのはよく言えば誤解を招き、悪く言えばマーケティングツールになると主張する理由もある。

「最大限にオープンな AI システムであっても、AI へのアクセスを『民主化』したり、完全な監視を可能にしたりするために必要なリソースへのオープン アクセスは許可されていません」と、コーネル工科大学の博士研究員で、研究を行っているデビッド グレイ ウィダー氏は述べています。 AI企業による「オープンソース」ラベルの使用。

オープンソース AI のより明確な定義を作成する取り組みが進行中です。 3月のLinux Foundationの研究者ら フレームワークを公開しました これにより、オープンソース AI モデルがさまざまなカテゴリに分類されます。 そして、別の非営利団体である Open Source Initiative は、 定義の草案を作成する。

しかしウィダー氏らは、真のオープンソースAIが実現可能であるかどうか疑問視している。 AI モデルを構築するための法外なリソース要件は「決してなくならない」と彼は言いました。