Apple、「制御不能」AIニュースアラートの撤回を要請

Appleは、最新のiPhoneで不正確なニュースアラートを生成し、物議を醸している人工知能（AI）機能の廃止を求める新たな要求に直面している。

この製品は速報ニュースの通知を要約することを目的としていますが、場合によっては完全に虚偽の主張をでっち上げています。

BBCは12月にジャーナリズムが誤って伝えられているとしてテクノロジー大手に最初に苦情を申し立てたが、Appleは今週月曜日まで返答せず、要約がAIによって生成されたものであることを明らかにするために取り組んでいると述べた。

ガーディアン紙の元編集長アラン・ラスブリジャー氏はBBCに対し、Appleはさらに一歩進んで、「明らかに準備ができていない」製品を撤回する必要があると語った。

同社のコンテンツモデレーション決定に対する異議申し立てを審査するメタの監視委員会のメンバーでもあるラスブリジャー氏は、この技術は「制御不能」であり、かなりの誤報リスクをもたらしていると付け加えた。

同氏はBBCラジオ4のトゥデイ番組で、「米国の巨大企業が参入してニュースを一種のテスト製品として利用するまでもなく、ニュースに対する信頼はすでに十分に低い」と語った。

世界最大のジャーナリスト組合の一つである全米ジャーナリスト組合（NUJ）は、Appleは国民に誤った情報を与えることを避けるために「迅速に行動し」、Apple Intelligenceを排除する必要があると述べた。 ジャーナリズム団体「国境なき記者団」による事前の呼びかけ (RSF)。

「正確な報道へのアクセスがかつてないほど重要になっている時代に、国民は自分が受け取るニュースの正確さを後回しにする立場に置かれるべきではない」とNUJ事務局長のローラ・デイヴィソンは述べた。

RSFはまた、アップルの介入は不十分だとし、同製品をオフラインにするよう繰り返し要求してきた。

BBC 不平を言った 先月、AIが生成した見出しの要約が一部の読者に、ユナイテッドヘルスケアCEOのブライアン・トンプソン殺害容疑で告発されたルイージ・マンジョーネが銃で自殺したと誤って伝えた後、

金曜日、Apple の AI が BBC アプリの通知を不正確に要約した ルーク・リトラーがPDCワールドダーツチャンピオンシップで優勝したと主張する 試合が始まる数時間前に、スペインのテニススター、ラファエル・ナダルが同性愛者であることをカミングアウトしていたことも。

組織のアプリ内から発生しているかのようなエラーについてBBCが表明した懸念に対して、Appleが正式に返答したのはこれが初めてとなる。

BBCは月曜日、「AppleによるAIによる要約は、元のBBCコンテンツを反映しておらず、場合によっては完全に矛盾している」と述べた。

「信頼を維持するにはニュースの正確さが不可欠であるため、Apple がこれらの問題に早急に対処することが重要です。」

影響を受ける報道機関はBBCだけではない。

11月、プロパブリカのジャーナリストが 強調表示された Apple AIは、イスラエルのベンヤミン・ネタニヤフ首相が逮捕されたと報じたことを示唆する、ニューヨーク・タイムズ・アプリからのアラートの誤った要約を作成した。

国会議事堂暴動4周年に関連して、ニューヨーク・タイムズの記事のさらに不正確な要約が1月6日に掲載されたようだ。

ニューヨーク・タイムズはコメントを拒否した。

RSFは、12月にAIが生成したマンジョーネ氏に関する虚偽の見出しは、「生成AIサービスがまだ未熟で、国民に信頼できる情報を提供できない」ことを示していると述べた。

同社は火曜日、AIを使ってユーザーにいつ通知を要約するかを明確にする機能を更新するというAppleの計画は「問題をまったく解決していない」と述べた。

RSFのテクノロジー・ジャーナリズムデスク責任者のヴァンサン・ベルティエ氏は、「ただでさえ混乱している情報環境の中で、ユーザーは情報が真実かどうかを確認する責任をユーザーに移すだけだ」と述べた。

Appleは、アップデートは「今後数週間以内に」届く予定だと述べた。

それは持っています 以前に言った その通知概要は、最近の複数のアプリ通知のプレビューをグループ化し、ユーザーのロック画面上で 1 つのアラートに書き換えるもので、ユーザーが「重要な詳細をスキャン」できるようにすることを目的としています。

同社は月曜日の声明で「Apple Intelligence機能はベータ版であり、ユーザーからのフィードバックをもとに継続的に改善を行っている」と述べ、概要の受信は任意であると付け加えた。

「今後数週間以内のソフトウェアアップデートで、表示されているテキストがApple Intelligenceによって提供された概要である場合がさらに明確になります。予期しない通知の概要を表示した場合は、懸念事項を報告することをお勧めします。」

特徴としては、 広範な AI ツール スイートの一部としてリリースされた他のツールとともに 12月に英国で公開された。これは、iOS 18.1 以降を実行する iPhone 16 モデル、iPhone 15 Pro および Pro Max ハンドセット、および一部の iPad および Mac でのみ利用可能です。

ユーザーの指示に応じてテキスト、画像、その他のコンテンツを作成できる生成 AI ツールを展開しているのは Apple だけではありませんが、その結果はさまざまです。

GoogleのAI概要機能は、ユーザーのクエリに応じて検索エンジンの上部に結果からの情報の要約を書面で提供するものだが、昨年批判にさらされた。 不規則な応答を生成するため。

当時、Googleの広報担当者は、これらは「個別の例」であり、この機能は概ねうまく機能していると述べた。