テクノロジーに対するコントロールを取り戻す必要性を主張する OFF マニフェストが発表されました。 テクノロジー

人工知能の進歩がその可能性とリスクについて警鐘を鳴らして以来、政府も専門家も、 ビジネスマンは対策の緊急性について警告するのをやめた。 ChatGPT の台頭後の数か月間で、ChatGPT は急増しました。 AI分野の先駆者の何人かが署名した終末論的なマニフェスト。 それ以来、開発の一時停止を求める声もあるが、 欧州連合は世界初の規制法の施行に成功した。 しかし、さらなる努力を求める声もある。 国内外の100人の著名人が署名しています。 オフマニフェスト。 この文書は、ますます高度化する自律的なテクノロジーに直面した人間とその組織の脆弱性を強調し、より断固とした野心的な行動を求めています。

マドリードで今週水曜日に発表されたこのマニフェストには、文化、科学、教育、心理学、法律、メディアの世界の人々が署名している。 PRISA Media エグゼクティブ ディレクター、カルロス ヌニェス; カイシャ銀行の頭取、ホセ・イグナシオ・ゴイリゴルザーリ氏。 コロンビア大学のテクノロジー、メディア、コミュニケーション部門のディレクター、アーニャ・シフリン氏や、アトレメディア社の CEO、ハビエル・バルダージ氏などです。 マニフェストのコーディネーターである起業家で作家のディエゴ・イダルゴ氏は、「これは、焦点が絞られていない技術展開に直面した人間と組織の大きな脆弱性を明らかにする傾向に対する真の懸念から生まれた独立した取り組みである」と説明した。 「これは、市民社会の動員に向けた第一歩となることを目的としています。 私たちの目標は、公的および民間の行動の助けを借りて、デジタルテクノロジーの制御を取り戻すことです。」

これらの線に沿って、ヒダルゴ氏は幼い頃に携帯電話を所有することによる精神的健康上のリスクを思い出しました。 「幸いなことに、マニフェストで取り上げられている問題のいくつかは、すでに公の議論の中で一定の存在感を持ち始めています。 そのうちの 1 つは、特に若者の間での精神的健康の深刻な悪化に関係していますが、それを測定することは依然として困難です。 若者の不安を表す曲線は増加傾向にあり、まさに目もくらむような増加となっている」と彼は回想した。 によると Sapiens Lab プラットフォームによって実施された研究12歳の子供が スマートフォン 成人としてうつ病を患う確率は、18歳でうつ病に罹患した場合と比較して20％増加し、6歳以降にうつ病を患った人の74％がうつ病の症状に苦しんでいます。 スペインでは、若者の 88% が 13 歳までにスマートフォンを所有しています。

弁護士で欧州デジタル移行協会副会長のアナ・カバレロ氏は、プレゼンテーション中にデータの商業化についての困惑を表明した。 「私たちは中立ではないテクノロジーに直面しています。 しかし何よりも、私たちのデータを販売しているこれらの企業は非EUであり、彼らは私たちヨーロッパ人を購買力のある大規模なデータベースと見なしています。 残念なことに、多くの場合、私たちはデータで支払うことがお金を支払うということに気づいていません」と彼女は説明しました。

マニフェストでは、人工知能などの主要なイノベーションが伴うリスクに焦点を当てることに加えて、テクノロジーが人類に反するものではなく、今後も人類に役立つものであり続けることを保証するための緊急とされる一連の措置を定めている。 この意味で、署名者は第一に、 テクノロジーの悪用を制限する法律や規制の制定特に監視、プライバシー、独占の観点から。

懸念の中には、公共の場での匿名性を保証しない顔認識やその他のテクノロジーを通じて、国家が過度かつ一般的な方法で国民を管理する可能性がある。 たとえば、米国では、 生体認証技術は空港で広く使用されており、 航空会社と航空保安を担当する政府機関の両方によって。 「顔認識テクノロジーを使用したビデオ監視は、公共の場でのプライバシーと匿名性を脅かすパンドラの箱を開きます。 それは、私たちの動きを体系的に追跡し、私たちの生活をコントロールすることに向けた、これまでとは異なる飛躍を表しています」とマニフェストは引用しており、次のことを思い出させます。 アムネスティ・インターナショナルは顔認識システムの使用禁止を求めた それは一種の集団監視であると考えられます。

元デジタル・アジェンダ担当国務長官でESADEテクノロジーヒューマニズムセンター所長のホセ・マリア・ラサール氏は、AIが戦争に与える影響を主張した。 「人工知能とは、意識を持たずに何者かになろうとするものです。 そしてこれは、このテクノロジーを理解する人間の能力の軸を変えており、それは致死兵器の分野で非常にはっきりと見られます」と彼はプレゼンテーション中に述べた。 「人類が種として誕生して以来、人類が経験してきた不幸な経験である戦争にそれを適用することは、破壊的な影響を与える可能性があります。」

同様に、マニフェストは、民間企業、場合によっては独裁国家政府が行使する可能性のある濫用から国民を守ることを目的として、「法的拘束力のある」規制措置の導入を提案している。 。 これには以下の禁止事項が含まれます。 マイクロターゲット広告の保護 ニューロデレコス 憲法レベルでは、自律型殺傷兵器に対する国際法と、特に公共サービスへの非デジタルな方法でのアクセスを保証する「切断の権利」が定められています。

コンサルティング会社エトスフェラの共同創設者エレナ・ヘレロ＝ボーモント氏は、アルゴリズム設計におけるデータアクセスと倫理に特に焦点を当て、その整合性を確保するための規制を提案している。 「現時点では、伝統的に情報を制作してきたジャーナリズム企業が大規模なテクノロジープラットフォームと競争することは不可能だ」とヘレロ＝ボーモント氏は警告し、この流れを避けるための重要な対策としてマイクロターゲティング広告の防止を推奨している。

また大空軍は、国民のデジタルリテラシーを向上させ、テクノロジーの影響と限界についての理解を深め、テクノロジーが社会に及ぼす影響を管理するための重要なスキルの開発を促進するための教育的取り組みの実施も推奨している。

フォローできます EL PAÍS テクノロジー で フェイスブック y バツ または、ここからサインアップして私たちのメッセージを受け取ることができます ニュースレターセマナル。