責任ある技術構築に向けた協力

Microsoft Researchは、過去33年間にわたりコンピュータサイエンスと関連分野の最先端を開拓してきたMicrosoftの研究部門です。当社の研究チームは、ポリシーおよびエンジニアリングチームとともに、責任あるAIへのアプローチを策定しています。当社の主要な研究者の1人は、 カマルのようにを運営する AIフロンティア ラボ内 マイクロソフトリサーチEce は過去 14 年間、Microsoft Research エコシステム内のさまざまなラボで働いており、2015 年から Responsible AI に取り組んでいます。

Microsoft Research は、今後の課題やテクノロジーについて自由に考えることができる Microsoft 内の研究組織です。私たちは、テクノロジー、特にコンピューター サイエンスのトレンドが、会社が行った賭けとどのように関係しているかを評価します。ご想像のとおり、AI が会社として行うすべてのことを変え、テクノロジーの状況が急速に変化している今日ほど、この責任が重くなっている時代はありません。

企業として、私たちは人々や企業の業務を支援する最新の AI 技術を構築したいと考えています。AI Frontiers ラボでは、AI システムの能力、信頼性、コンピューティングの効率性など、AI システムで実現できることの限界を押し広げるコア技術に投資しています。私たちは、AI システムがどれだけうまく機能するかだけでなく、常にリスクを理解し、これらのシステムを責任を持って機能させることができる社会技術的ソリューションを構築したいと考えています。

私のチームは常に、より優れた、より高性能なシステムを実現する次世代のテクノロジーの開発、これらのシステムに対する適切な制御の確保、これらのシステムが人々と対話する方法への投資について考えています。

博士号を取得してすぐ、マイクロソフト リサーチに勤め始めた頃、ハッブル宇宙望遠鏡が撮影した画像に関するスケーラブルでクリーンなデータを天文学者が収集するのを手伝っていました。ハッブル宇宙望遠鏡は宇宙のはるか遠くまで見ることができ、画像も素晴らしかったのですが、それでも理解する人が必要でした。当時、Galaxy Zoo という共同プラットフォームがあり、世界中のボランティア、時には天文学のバックグラウンドがない人たちが、これらの画像を見てラベル付けすることができました。

私たちは AI を使って画像の初期フィルタリングを行い、興味深い画像だけがボランティアに送られるようにしました。私はこれらの銀河の分類を決定できる機械学習モデルを構築していました。画像には、たとえば赤方偏移など、興味深い方法で人々を騙す特定の特徴があり、機械が同じエラー パターンを再現しているのがわかりました。

当初、私たちはこれに本当に困惑しました。宇宙のある部分を見ている機械と別の部分を見ている機械では、なぜエラー パターンが異なるのでしょうか。その後、機械が人間のデータから学習しているためにこのようなことが起きていることに気づきました。人間には人間特有の認識バイアスがあり、同じバイアスが機械にも反映されていました。当時、私たちはこれが中心的な問題になるだろうとわかっていました。そして、それに対処する必要があるとわかっていました。

AI の最前線は急速に変化しており、新しいモデルが登場し、そのモデルの上に新しいテクノロジーが構築されています。私たちは常に、こうした変化がリスクに対する考え方やシステムの構築方法にどのような変化をもたらすかを理解しようと努めています。新しいリスクが特定されると、それが私たちが協力する良い機会となります。たとえば、幻覚を見ると、情報検索タスクで使用されているシステムが根拠のある正しい情報を返していないことに気づきます。 そこで私たちは、なぜこのようなことが起きているのか、そして、この問題に対処するためにどのようなツールがあるのかを問います。

私たちにとって、機能がどのように変化しているか、またリスク面がどのように変化しているかの両方を定量化して測定することは非常に重要です。そのため、私たちはモデルの評価と理解に多大な投資を行うとともに、AI モデルのコア機能が時間の経過とともにどのように変化しているかをより適切に評価できる新しい動的ベンチマークを作成しています。私たちは、モデルや AI 技術スタックのその他のコンポーネントの要件を作成する際に、責任ある AI オフィスとの連携作業から得た知識を常に取り入れています。

一般の人々が AI のリスクについて語るとき、人々は主にリスクを完全に無視するか、その反対に、破滅的なシナリオだけに焦点を当てます。私は、今日の事実に基づいた中間の会話が必要だと考えています。私が AI 研究者である理由は、これらのテクノロジーが今日の大きな問題の多くを解決する可能性を強く信じているからです。だからこそ、私たちはこれらのアプリケーションの構築に投資しているのです。

しかし、私たちがその未来に向けて邁進する中で、私たちは常に機会と責任の両方をバランスよく念頭に置き、両方に平等に傾倒しなければなりません。また、これらのリスクと機会を遠い将来のことだけを考えるのではなく、今日から前進し、この責任を真剣に受け止めなければなりません。

これは将来の問題ではありません。これは今日の現実であり、私たちが今何をするかが大きな意味を持つことになります。

Microsoft Researchの最新情報を入手するには、 LinkedInでフォローする。