Microsoft、初の AI 透明性レポートをリリース

1714691757
2024-05-02 22:56:24

その中で 責任ある AI の透明性レポートでは主に 2023 年を対象としており、Microsoft は AI 製品の安全な導入に関する成果を宣伝しています。 AI透明性年次報告書は、同社が昨年7月にホワイトハウスと自主協定を結んだ後に行った約束の1つである。 マイクロソフトやその他の企業は、責任ある AI システムを確立し、安全性を確保することを約束しました。

Microsoftは報告書の中で、過去1年間で責任あるAIツールを30個作成し、責任あるAIチームを拡大し、生成AIアプリケーションを作成するチームに開発サイクル全体を通じてリスクを測定し、マッピングすることを義務付けたと述べている。 同社は次のように指摘しています。 追加されたコンテンツ認証情報 画像生成プラットフォームは、写真に透かしを入れて、AI モデルによって作成されたものとしてタグ付けします。

同社は、Azure AIの顧客に対し、ヘイトスピーチ、性的コンテンツ、自傷行為などの問題のあるコンテンツを検出するツールや、セキュリティリスクを評価するツールへのアクセスを提供していると述べた。 これには、新しい脱獄検出方法が含まれます。 3月に拡張されました 今年は、悪意のある命令が AI モデルによって取り込まれたデータの一部である場合、間接的なプロンプト インジェクションが含まれる予定です。

も拡大中です 赤チーム これには、AI モデルの安全機能を意図的にバイパスしようとする社内のレッド チームと、新しいモデルをリリースする前にサードパーティのテストを許可するレッド チーム アプリケーションの両方が含まれます。

しかし、そのレッドチームの部隊には、彼らにふさわしい仕事が与えられている。 同社の AI 展開は論争と無縁ではありません。

マイクロソフト社の最高責任AI責任者であるナターシャ・クランプトン氏は、次のように述べている。 ザ・ヴァージ 同社は、AI はまだ発展途上であり、責任ある AI も同様であることを理解していると述べています。

「責任ある AI にはゴールラインがないため、自主的な AI コミットメントに基づく作業が完了したとは決して考えません。 しかし、彼らと契約して以来、私たちは大きな進歩を遂げており、今年はその勢いをさらに高めることを楽しみにしています」とクランプトンは語った。

#Microsoft初の #透明性レポートをリリース