人工知能（AI）が私たちの生活を革新しながら、AIベースのロボットの役割はさらに大きくなっています。の安全性と信頼性に対する懸念も高まっている。
この中、人工知能セキュリティ専門家のカン・チャンムク教授（東国大学国際情報保護大学院AIセキュリティ）が12日午後4時、カイストでロボットのハルシネーション問題と信頼性確保案について発表した。
カン教授は2023年ソウル大学でのブロックチェーンとセキュリティ関連特講を皮切りに、2024年ハーバード大学、ボストン大学、イェール大学でLLMのハルシネーション研究を発表し、国際的な学術活動を続けてきた。
今回の特講を通じて、カン教授はAIとロボット工学に関心のある大学院生や研究者たちに貴重な洞察と知識を伝えた。ロボットの安全性と信頼性を高めるための最新の研究動向と実質的な解決策を提示した。
この日の講演によると、AIモデルが実際に存在しない情報を生成したり、誤った判断をする現象を「ハルシネーション（Hallucination）」という。例えば、自律走行車両が道路にない障害物を認識したり、逆に存在する障害物を認識できない状況をいう。これはロボットの誤動作を誘発して「安全事故」につながり、深刻な問題となっている。
現在の大規模言語モデル（LLM）は膨大な量のデータで学習されていますが、そのデータの品質と実際の状況との違いによりエラーが発生する可能性があります。また、モデルが学習データに過度に依存して新しい状況に適応できないオーバーフィッティング現象が現れる。これはロボットが予期せぬ入力や状況に対処できず、誤った判断を下す可能性を高める。これに関連して、カン教授はSLAM技術とAIの融合について具体的に説明した。ロボットが周辺環境を認識し、自分の位置を把握するための重要な技術であるSLAM（Simultaneous Localization and Mapping）は、AIとの融合を通じてさらに発展している。 SLAMはロボットが未知の環境で自分の位置を推定し、周辺の地図を作成する技術で、自律走行とナビゲーションに必須だ。
ディープラーニングを適用したSLAM技術は、環境認識能力を向上させ、ロボットの正確な位置推定と経路計画を可能にするが、AIモデルのハルシネーション問題は依然として残っており、ロボットの安全な運用に障害物となっている。
この問題を解決するために、軽量化された特化言語モデル（sLLM）が注目されている。 sLLMは特定分野に最適化された小規模な言語モデルで、ロボット内部に直接搭載され、リアルタイム処理とセキュリティ強化を同時に実現する。これにより、ハルシネーションの発生を減らし、ロボットの信頼性を高めることができる。
たとえば、MetaのLlama 3.1：1B-405Bまで、モデルは軽量化された言語モデルで高いパフォーマンスを示していますが、いくつかの脆弱性が発見されました。これらの脆弱性を補完し、セキュリティを強化することで、より安定したsLLMを開発する努力が必要です。最近紹介されたラマ3.2-vision：11B-90BもOCR認識に優れた性能を見せる。
ロボットの安全な運用のためには、AIモデルのハルシネーション問題を根本的に解決しなければならない。新しい状況でも正確な判断を下すためにモデルを改善し、モデルの一般化能力を高めるべきである。最後に、モデルが外部攻撃に対して脆弱でないように、セキュリティプロトコルを適用する必要があります。
カン教授は「AI基盤ロボットの信頼性確保は韓国社会が直面する重要な課題」とし「このために様々な研究と技術開発が行われており、このような努力が集まってロボット技術の発展を導くだろう」と話した。
パク・ヘソン記者
ⓒ世界を見る目、 世界日報
この記事のカテゴリはメディアの分類に従います。
記事が属するカテゴリーはメディアによって分類されます。
メディアは1つの記事を2つ以上のカテゴリに分類できます。
#東国大学カンチャンムク教授AIロボットの未来ハルシネーションを超えて信頼性確保へZUMニュース