AIの課題とそれらを克服する方法：信頼のために設計する方法

デザイナーとして、信頼のためにデザインします 人工知能 （AI）製品が最重要です。 AIは、ユーザーの信頼を築くために、透明なインターフェイス、明確なフィードバック、倫理的考慮事項を必要とする独自の課題を提示します。信頼を優先する場合、ユーザーの採用と満足度を確保することができます。 ユーザーエクスペリエンス AI搭載製品で。

aiとして 製品デザイナー、イオナ・テレヌーは、この次のビデオで語っています。AIは幻覚です！デザイナーは、AI対応ソリューションが信頼性が高く、ユーザーがそれらを信頼できることをどのように保証できますか？調べてみましょう。

「私たちは皆、私たちが理解していないことを恐れています。」

– ダン・ブラウン、失われたシンボル

ユーザーとの信頼を構築する最良の方法は、できるだけ透明性を持つことです（技術情報が多すぎるユーザーを圧倒することはありません）。

1. 明確にコミュニケーションをとる：

   1. システムはどこでデータを取得しますか？可能であればソースを示します。

   2. システムはどのユーザー生成情報を使用しますか？たとえば、システムはデータを提供するために他のユーザーに依存していますか？

   3. あなたのシステムはユーザーデータからどのように学習しますか？

   4. エラーの可能性は何ですか？

2. システムが個人データ（位置データ、人口統計情報、Web使用法のメトリックなど）に依存している場合：

   1. 常にこの情報を完全に同意して収集してください。

   2. ユーザーに、設定をオフにするように依頼するのではなく、情報を共有するように明示的にオプトインするように依頼します。

   3. 個人データを提供せずにユーザーがソリューションを使用できるようにします。

信頼できるAIシステムの特性

国立標準技術研究所（NIST）は、 信頼できる AIシステム：

1. 有効で信頼性： 有効性とは、システムの満たす能力を指します ユーザーのニーズ。信頼性とは、必ずしもパフォーマンスを続けるシステムの能力を指します。 AI製品が有効かつ信頼できることを確認するには、システムのパフォーマンスを測定するための成功基準とメトリックを定義します。システムを常に評価して、意図したとおりに実行されていることを確認します。

2. 安全： AIシステムは、ユーザーに害を及ぼさないでください。現実世界の使用法を厳密にテストおよびシミュレートして、システムが危害を加えて設計を通じてそれらに対処する可能性のあるユースケースを検出します。デザイナー、データサイエンティスト、開発者は、ユーザーの安全を保護するために協力する必要があります。たとえば、ユーザーが年齢や場所に基づいて特定のアクションを実行することを禁止したり、警告を顕著に表示することもできます。

3. 安全で回復力があります： システムは、不利な条件または予期しない条件下で実行され続け、必要に応じて安全かつ優雅に劣化できる場合は回復力があります。たとえば、AIシステムが崩壊した場合に備えて、ユーザーがソリューションの使用を続けることができるように、非AAベースのソリューションを設計する場合があります。

4. 説明責任と透明： 透明性とは、ライフサイクル全体でユーザーがAIシステムに関する情報を取得できる範囲を指します。システムがより透明になるほど、人々がそれを信頼する可能性が高くなります。たとえば、システムは、システムを使用している人がそれをよりよく理解できるように、その機能に関するステータスの更新またはそのプロセスに関する情報を提供できます。

5. 説明可能で解釈可能： 説明可能なシステムは、それがどのように機能するかを明らかにするシステムです。このシステムは、ユーザーの役割、知識、スキルレベルに合わせて調整された説明を提供できます。説明可能なシステムは、デバッグと監視が簡単です。

6. プライバシー強化： プライバシーとは、ユーザーの自由、アイデンティティ、尊厳を保護することを指します。プライバシーの強化との間にトレードオフがあります バイアス。人々が匿名を維持できるようにすると、AIが最小限のバイアスで機能するために必要な包括的なデータを制限できます。

7. 有害なバイアスが管理されている公正： 公平性は、平等と差別の排除に関連しています。バイアスは常に否定的ではありません。公平性は、文化や特定のアプリケーションでさえ異なる主観的な用語です。

このチェックリストを使用して、AIツールの信頼性を確認します。

監視なし：著作権の議論を避けたAIアート

生成AI 見事な芸術作品を作成できます。 監視なし、 Machine Hallucinationsと呼ばれるアーティストRefik Anadolのプロジェクトの一部は、生成的なアートワークです。抽象画像は、近代美術館（MOMA）のデータによって推進されています。 機械学習 芸術と最先端のAI研究の交差点を紹介する複雑なアルゴリズム。

アナドールは、マルチメンシャル空間でモダンアートのマシンの「幻覚」をキャプチャするためにユニークなAIモデルを訓練しました。DATAはMOMAの広範なコレクションから収集され、機械学習モデルで処理されました。

このプロジェクトは、の課題に取り組んでいます AIに生成されたアート– それは創造的な表現の大きな可能性を秘めていますが、透明性と倫理に懸念を引き起こします。アナドールの作品は、アート、AIの研究、テクノロジーの広範な影響の相互作用についての会話を招きます。

アートの著作権討論は、AIが生成されたアートワークの創造的権利を起因することに集中しています。伝統的に、著作権法は人間の作家に基づいています。 監視なし この問題に対処し、AIモデルであるStyleGan2 ADAの共同の役割をアートの作成において公然と認めています。このアプローチは、AIと人間のアーティストであるRefik Anadolの両方を共同作成者として認識することにより、著作権の複雑さを回避します。そうすることで、 監視なし 共有された著者モデルを促進し、透明性と明確さを提供します ナビゲート AIが生成された作品の著作権の進化する風景。

テイクアウト

設計では、ユーザーとの信頼の構築が最も重要です。特にAIでは、透明性が極めて重要な役割を果たします。設計者として、データソース、システムがユーザーデータからどのように学習するか、エラーの確率など、さまざまな側面を明確に伝えることが不可欠です。

信頼できるAIシステムには、いくつかの重要な属性があります。まず、ユーザーのニーズを満たし、一貫してパフォーマンスを発揮する、有効で信頼性が高い必要があります。安全性は交渉できません。潜在的な害を検出するためには厳密なテストが重要であり、デザイナー、データサイエンティスト、開発者間のコラボレーションは、ユーザーの安全を確保するために不可欠です。

説明責任と透明性は、定期的なステータスの更新と、システムのプロセスに関する明確な洞察を通じて達成されます。説明可能性と解釈性は、システムを理解しやすくし、デバッグと監視を支援します。

プライバシー強化AIは、バイアスを管理しながらユーザーのプライバシーを尊重し、プライバシーとデータの包括性の微妙なバランスを認めます。最後に、文化全体でさまざまな微妙な概念である公平性は、差別を排除するために偏見を慎重に管理して、努力する必要があります。デザイナーとして、これらの原則を理解し、実装することは、倫理的で信頼できるAIシステムを作成するための基本です。

参照と詳細についてはどこで学ぶか

Vergeはその方法を文書化します TwitterはMicrosoftのAIチャットボットに1日以内に人種差別的な嫌いな人になることを教えました。

Voxは、ビデオで画像を生成するアルゴリズムがどのように動画で単純な言語で機能するかを説明しています。 ai art、説明。

見る 安定した拡散軽薄 安定した拡散に対する集団訴訟訴訟の裂け目のために、AIの不信と不信感を促進する複雑な技術の両方を強調します。

Ars Technicaの分析 安定した拡散著作権訴訟。

AI産業団体のOpenai、Google、Microsoft、および人類が設定した自称目標を読む フロンティアモデルフォーラム。

Scientific Americanの理由についての分析 人々はAIを信用しておらず、私たちがそれをどのように変えることができるか。

これが思考実験の詳細です、 Squiggle Maximizer。

この興味深い会話を見てください 生成AIの機会 DLDカンファレンスでマークロルストン、イナフライド、トムメイソンの間。

詳細をご覧ください 監視なし、 機械の幻覚。