秋は読書の季節です。生成されたAIチャットボットに「秋を舞台にした小説のリストを教えてほしい」とお願いしたところ、2024年ノーベル文学賞を受賞した漢江の『ベジタリアン』や、『ノルウェー人』などが含まれていた。ウッド』（村上春樹）、『アンチャーリー』（ルーシー・モード・モンゴメリ）、『秋の伝説』（ジム）など。ハリソン）、「リスボ」「N行きの夜行列車」（パスカル・メルシア）、「思い出の色」（リチャード・イェーツ）、「ハートレス」（イ・グァンス）、「木々のささやき」（シン・ギョンスク） , 「ストレンジャー・ルーム」（チェ）。イノ）などが紹介された。
사진 확대 MS CoPilot AI より作者が作成した「読書の季節」画像
続いて「漢江の小説『菜食主義者』では秋がどのように描かれているか」と再質問した。生成されたAIチャットボットは「小説『ザ・ビーガン』は美しい秋の風景を通して主人公の人生と感情を豊かに表現している」と情報源(sports.chosun.com)に親切に知らせる(Microsoft・Copilot) 。しかし、実際に出典を探してみると、この小説の背景が秋であるという説明は見つからない。それは幻覚現象による「わー」というものです。あるAIチャットボットは「『ベジタリアン』は秋の寂しい感情と人間の内面の変化を繊細に描いた小説だ」と答えたが、改めてその理由を尋ねると「申し訳ありません」との答えが返ってきた。 「オータムは誤った情報だった。間違って分類したことをお詫びする」（クロード・オブ・エンスロピック）と自らの誤りを認めた。
一方、チャットGPTはチェ・インホの『見知らぬ部屋』を『ベジタリアン』ではなく秋を背景にした小説に分類しているが、秋の背景を入れたいかとの質問にはこう答えた。 「主人公は都会にいる。人里離れた場所で感じる疎外感や孤独感を中心に物語が展開し、秋の寂しい雰囲気が作品の情緒に染み込んでいる」。
著者が MS Copilot AI から生成した幻覚 (オウムのたわごと)
生成 AI の悩みの 1 つである、いわゆる「ゴブリング」または「幻覚」が依然として残っています。生成された AI チャットボットの返信は、確率的に最も類似したコーパスを提供する「確率的なオウム」にすぎず、何を言っているのかさえわかりません。その結果、チャットボットが誘導するWebサイトを基にユーザーが意思決定を行った結果、損害を被り、責任問題に発展するケースが多発しています。では、AI モデルにおける幻覚エラーを減らすにはどうすればよいでしょうか?
まず、「検索拡張生成」（RAG）という技術がある。 RAG は、試験を受けるときに Wikipedia や Open Book を使用するのと似ています。試験予想問題と解答が記載されたノートや関連教科書を参照することで、必要な情報をすぐに見つけて解答を作成することができます。 RAG は、質問に関連する最新のドキュメントや Web ページをリアルタイムで検索し、回答の信頼性と正確性を高めます。膨大な学習情報（あらゆる情報の捨て場）から答えを見つける従来の方法ではなく、関連する外部データベースやドキュメントをリアルタイムに接続することで答えを生成する方法です。例えば、RAG法で旬のベジタリアン情報を尋ねると、関連する書籍やニュースから最新の情報を検索して提供してくれるため精度が高くなります。
もう 1 つのソリューションは、Small Language Model (SLM) です。大規模言語モデル (LLM) は、さまざまなソースからの膨大な量の情報に基づいて回答を提供するため、誤った回答が発生する可能性があります。一方、小規模言語モデル (SLM) が特定のドメインに特化してトレーニングされている場合、不必要な情報を削減し、カスタマイズされた応答を提供できます。例えば、世界中の知識を網羅した巨大な図書館で情報を探すよりも、特定のテーマのみを扱った専門書や辞書を利用したほうが、情報の信頼性や正確性は高まります。 SLM はパラメータ サイズが小さく、特定のドメインでより効率的に動作し、作業に合わせて最適化できます。データ処理速度が速く、リアルタイム応答が可能で、モバイル環境でもスムーズに動作し、開発コストや保守コストを大幅に削減できます。
MS Copilot AI を使用して作成者によって生成されたチャットボット モデル
これに加えて、ヒューマン フィードバックからの強化学習 (RLHF) はゴシップを減らすのに役立ちます。人間のフィードバックに基づいた強化学習は、事実上不正確な情報や無関係な情報の代わりに、正確で関連性の高い応答を与えることでパフォーマンスを向上させることができます。さらに、ドメイン内の特定の信頼できるデータセットに基づいてモデルを微調整することで、一貫性と精度が向上します。ドメイン固有の調整と RLHF を一緒に適用すると、ホワイトウォッシングを軽減し、より信頼性の高い情報を提供できます。
사진 확대 MS CoPilot AIより作者が作成した「読書の季節」の秋の画像
ノーベル賞受賞作品や文学作品に登場する生成AIのナンセンスは、世宗大王がMacbookを投げつけた事件のように笑える。しかし、医療、金融、国防、法律などの分野でこのような誤りが発生すると、人命や財産に致命的な影響を与える可能性があります。ほんの少しのミスも許されない領域です。先ほど見たように、さまざまな解決策がありますが、専門的な知識と洞察力を備えた「人間のフィードバック」は常に価値があります。人間は、絶え間ない思考と学習を通じて、優れた洞察力と専門知識を培ってきました。彼は、たとえほんの少量の情報しか与えられなかったとしても、創造的に問題を解決する万物の霊長類です。 RAG (検索拡張生成) や SLM (小型言語モデル) などの新しいソリューションを思いつくのは、AI ではなく人間です。人間の思考こそが「AI幻覚」を軽減する源の力なのです。
長い間、人間は考えることよりも検索することに依存してきましたが、今では検索することさえ面倒になり、人工知能のプロンプトを通じて命令が与えられる時代になりました。しかし、読書の秋には、探したり命令したりするよりも、深く考えることがふさわしいと思います。人工知能がどれだけ発達しても、人間が考える香りと価値は常に素晴らしいものです。
写真を拡大する
[ヨ·ヒョンドクKAIST G-School院長/技術経営大学院教授]
#秋は読書の季節です生成されたAIチャットボットに秋を舞台にした小説のリストを教えてほしいとお願いしたところ漢のベジタリアンをはじめとするノルウェイの森村上春樹が含まれていた #2024年ノーベル文学賞を受賞したリバー