政府はAIの活用にどこまで取り組むべきでしょうか?

AI は実際にどのような国家能力を強化できるのでしょうか?そして、政府はそれに依存することについてどこに注意すべきでしょうか?

ラマン・ジット・シン・チマ: それは政府が解決しようとしている問題と、誰を相手にしているかによって異なります。 AI は、データへのアクセスを改善したり、より適切な分析を可能にしたりするなど、変革的な効果をもたらすことがありますが、多くの場合、問題、利用可能なデータ、関連するコストが明確にならないまま導入されます。顔認識、監視、特定の健康アプリケーションなど、誤用が重大な害をもたらす可能性がある高リスク分野もあります。このような場合には、「危害を加えない」原則が適用されるべきであり、場合によっては、完全な禁止が正当化される可能性があります。

コメント | インドにおける AI を活用した税務ガバナンスとその課題

イシャ・スリ: AI システムは、範囲が明確なユースケースで最も効果的に機能する傾向があります。たとえば、新型コロナウイルス感染症のパンデミック中、画像処理ツールは、問題が明確に定義され、パラメーターがわかっていたため、さまざまな種類の肺感染症を区別できました。

政府は、AI 導入の目的を定義することから始める必要があります。その明快さはしばしば失われます。システムを導入する前に、AI が必要かどうか、より煩わしくない代替手段が存在するかどうか、そしてどのようなリスクがあるかを検討する必要があります。必要性と比例性のテストが重要です。 AIは存在するからといって導入すべきではありません。

AI システムとより多くのデータを共有することで政府サービスがより迅速かつ効率的に行えるのであれば、なぜプライバシーを心配する必要があるのでしょうか?テーブルの上にはどんな害があるのでしょうか？

イシャ・スリ: 「効率」とは何を意味するのか、誰にとってののかを問う必要がある。生産性の向上に関する証拠はまだ弱いです。多くの場合、効率性の主張は労働力の代替につながります。透明性にも欠ける。ある目的のために収集されたデータは他の目的で使用できます。福利厚生データは、福利厚生の取り締まりや拒否に使用できます。

こちらもお読みください| AIの偏見とリスクに対処するには世界的な協力が不可欠と首相が語る

国民がデータを共有することに同意するという考えは、インフォームド・コンセントを前提としていますが、多くの場合、そうではありません。多くの人は自分のデータがどのように使用されるかを完全に理解していません。インドのような国では、プライバシーが低くても文化的な快適さがあるとみなされることがよくありますが、実際にはデジタル リテラシーの低さが原因です。

こちらもお読みください| カルナータカ州政府、責任ある AI 委員会を設立

したがって、長期的な結果が明らかになるまで、個人は完全な情報なしで意思決定を行う可能性があります。だからこそ、国は配備後ではなく設計段階で被害を予測し、安全対策を講じなければならない。

ラマン・ジット・シン・チマ: より優れた AI にはより多くの個人データが必要であるという考えには誤りがあります。これは特定の商業俳優に利益をもたらしますが、技術的には必要ありません。データが多ければ多いほど良いとは限りません。これは非効率的でリスクがあり、主に大規模なデータ抽出やコンピューティング負荷の高いインフラストラクチャに依存する企業にとって有益となる可能性があります。代替手段はあります。たとえば、小規模なモデルでは使用するデータが限られているため、より明確な出力を生成できます。大規模なデータセンターへの継続的なデータ転送を必要としないオンデバイス AI システムもあります。データの引き継ぎはより良いサービスの代償であるという思い込みに異議を唱える必要があります。

AI企業は、より良いシステムを構築するには大規模な公開データセットへのアクセスが必要だと主張している。政府はこれらのデータセットを国家の戦略的資産として扱うべきでしょうか、それとも開発を加速するために民間企業と共有できるのでしょうか?

ラマン・ジット・シン・チマ: データは収益化できるものであるという考えには十分に注意する必要があります。データを民間の主体に公開すると、プライバシー、セキュリティ、主権に対するリスクが生じます。また、公共システムが適切な保護策なしで引き渡されたという過去の過ちも繰り返します。

こちらもお読みください| 管理システムを簡素化するために AI 主導のソリューションを全面的に導入する: ムルム大統領から IAS 役員へ

イシャ・スリ: データを国家的資産または経済的資産として捉えることは、プライバシーに関連する基本的な権利としてのその性質から注意をそらすため、問題があります。同意の問題もあります。国民は 1 つの目的のためにデータを提供できますが、商業的パートナーシップでの使用のためには提供できません。また、大規模なデータセットへのアクセスの需要を誰が推進しているのかについても疑問を抱く必要があります。多くの場合、それは明確な経済的インセンティブを持つ民間企業です。

こちらもお読みください| 政府は教師の AI 活用を支援。オープンスクールの枠組みが緩和される

結局のところ、私たちが危険にさらしているのは、公的データと公的資金によって、説明責任が限定されたまま、私的な価値の抽出が可能になるという状況です。そのため、政府は一歩下がって、そのような取り決めから誰が利益を得るか、またそれが公共の利益と一致するかどうかを評価することが重要となっている。

政府は常に民間部門と協力してきました。そのパートナーシップにおいて、私たちは AI を別の方法で扱うべきでしょうか、あるいは恐れるべきでしょうか?

ラマン・ジット・シン・チマ: 私たちは過去のデジタルインフラプロジェクトから学ぶべきです。システムを先に導入して、後から規制するべきではありません。テクノロジー自体が目的になってしまうリスクもあります。政府は、成果を向上させるためではなく、事前の投資を正当化するためにシステムを拡張する場合があります。大規模なパートナーシップは、政府を高コストで柔軟性のない協定に拘束する可能性もあります。

コメント | AI と国家安全保障の計算

イシャ・スリ: Aadhaar や DigiYatra のようなプロジェクトは、注意深い例として見るべきです。福祉の提供におけるトレードオフを軽視することはできません。除外率が小さい場合でも、重大な結果が生じる可能性があります。公共インフラがハイブリッドまたは民間団体を通じて運営されている場合にも、説明責任のギャップが生じます。

他の政府が AI を導入し始め、世界的に AI が避けられなくなった場合、インドも AI を導入すべきでしょうか?

ラマン・ジット・シン・チマ: 政府は世界の動向に盲目的に従うべきではありません。 AI は、公共の利益と民主主義的価値観を促進する場合にのみ使用されるべきです。政策立案者は、データ保護、調達、市場集中などの現実的な懸念に焦点を当てる必要があります。

説明 | インドではAIはどのように規制されるのでしょうか?

イシャ・スリ: 必然性という考えは誇張されており、業界の言い伝えによって動かされることがよくあります。政府は、逃すことへの恐怖に反応するのではなく、独自の目標を定義する必要があります。

もし他の政府が AI をよりスムーズに導入した場合、インドは後れをとる危険があるでしょうか?

ラマン・ジット・シン・チマ: 汎用人工知能について懸念がある場合は、基礎的な科学的能力の構築に重点を置く必要があります。

現在の業界の物語は、大規模な AI 企業とそのインフラストラクチャをサポートすることがそこに到達するための方法であることを示唆しています。それは実際、本当の能力を構築することから妨げられる可能性があります。インドの過去を見ると、中核科学への投資により、宇宙開発や核開発における大規模な計画が可能になりました。私たちが主権的な技術能力を必要とする場合、ここでも同様のアプローチが必要です。

こちらもお読みください| インドの新しい AI ガバナンス ガイドラインは、介入を必要としないアプローチを推進します

イシャ・スリ: また、「遅れをとる」ということが何を意味するのかを問う必要があります。 AI は単なるアプリケーションではなく、コンピューティング、データ、モデルを含むフルスタックです。国内システムが大規模なグローバル企業によって管理されるインフラストラクチャやパートナーシップに基づいて構築されている場合、私たちは真の意味で固有の能力を構築していることにはなりません。既存の依存関係の上にレイヤーを重ねているだけです。これにより、海外の技術独占へのロックインと長期依存のリスクが生じます。また、主権と統制に対する懸念も生じます。同時に、汎用人工知能や超知能に関する誇大広告の多くは、労働への影響、環境コスト、権力の集中など、現在の害から注意をそらしている可能性があります。

それでは、私たちはどうなるでしょうか？

ラマン・ジット・シン・チマ: 政府内のどこにどのように AI を導入するかについては注意してください。明確なユースケースに焦点を当て、大規模な民間企業への不必要な依存を避け、公共の利益、セキュリティ、長期的な持続可能性を優先します。

こちらもお読みください| IIT-M 研究では AI ガバナンスへの参加型アプローチを提唱

イシャ・スリ: 政府はテクノロジーを導入する前に、その目的を明確に定義する必要があります。 AI は必要なのか、リスクはメリットに比例するのかを考えてみましょう。

会話を聞いてください