による シャレル・バート
2024 年 10 月 24 日
これじゃダメだ……。
ノルウェーのテクノロジー企業は、ChatGPT が ユーザーにコミット方法を指示するように操作できる 多数の犯罪があったとCNNが報じた。
ストライズ社はいくつかの実験を実施し、このソフトウェアをだましてマネーロンダリングや、国境を越えた支払いの禁止を含むロシアに対する制裁対象国への武器輸出など、特定の犯罪を実行する方法について詳細な洞察を与えることができることを証明した。 、武器の販売。
この実験では危険信号がいくつか上がりました。 Strise の共同創設者兼最高経営責任者である Marit Rødevand 氏は、その簡単さには目を見張るものがあると語った。 「本当に楽ですよ。それは私の携帯電話上の単なるアプリです」とローデバンド氏は言いました。 「それは、デスクトップ上に腐敗した金融アドバイザーがいるようなものです。」
Strise は、PwC ノルウェーやハンデルスバンケンなどの金融顧客がマネーロンダリング計画と戦うために使用するソフトウェアを販売しています。ただし、ChatGPT の背後にある企業である OpenAI は、チャットボットが操作されたり、間接的に質問したりペルソナを演じたりすることで特定の質問に応答するのを防ぐために、プラットフォーム上にいくつかのブロックを設置した可能性があります。 OpenAIの広報担当者は、「私たちは、ChatGPTの有用性や創造性を失わずに、ChatGPTを騙そうとする意図的な試みを阻止できるよう常に改良を続けている」と述べた。
チャットボットが危険なツールとして指摘されるのはこれが初めてではない。 2022 年のサービス開始以来、Chat GPT は犯罪者にとってアクセスしやすいものであるというレッテルを貼られてきました。 ChatGPT により、「悪意のある攻撃者がさまざまな種類の犯罪をより深く理解し、その後実行することが大幅に容易になる」と欧州連合の法執行機関であるユーロポールが 2023 年 3 月に発表した報告書には記載されています。
「従来の検索エンジンで見つかった膨大な情報を手動で検索して要約する必要がなく、トピックをさらに深く掘り下げることができるため、学習プロセスを大幅にスピードアップできます。」によると ストレートアローニュース、同様の報告書は懸念を表明しました 「脱獄」する方法があることを発見した後 ChatGPT を実行すると、爆弾の作成方法に関する指示が見つかります。
レポートは引き続き発表されるが、OpenAI は「テクノロジーが持つ力」を認識しているものの、できる限り最善を尽くして取り組んでいると述べ、立場を堅持し続けている。同社のポリシーでは、特定の違反が発生した場合にはアカウントが停止またはキャンセルされる可能性があると警告している。
関連コンテンツ: 黒人の専門家がチームを組んで包括的な ChatGPT と人工知能のワークショップを提供
#ChatGPT #が犯罪の犯行方法を教えてくれるってご存知ですか