ハルシネーションとは？発生原因や種類、生成AIへの対策を解説！

ChatGPTやGeminiなどの生成AIサービスを利用する人も増えてきたのではないでしょうか？

生成AIの発展により、個人や企業に多くのメリットがもたらされています。一方で、ハルシネーションという問題も浮き彫りになっています。

ハルシネーション（Hallucination）とは、生成AIが事実とは異なる情報を、もっともらしい情報であるかのように生成してしまう現象のことです。

この記事では、ハルシネーションとは何か、原因、種類、リスク、具体例、対策についてわかりやすく解説します。

ハルシネーションとは？

ハルシネーション（Hallucination）とは、生成AIが事実とは異なる情報を、もっともらしい情報であるかのように生成してしまう現象のことです。

ハルシネーションの意味・語源は「幻覚」や「幻影」です。

まるでAIが幻覚を見ているようだからです。

生成AIは、正確な情報の中に、自然に誤情報を混ぜ込んでしまうことがあるため、ユーザーが誤りに気がつかず信じてしまうことも少なくありません。

厄介なのは、一見すると、論理的で説得力があるように感じられてしまうところです。

そのため、ハルシネーションの発生は問題視されています。

ハルシネーションの種類

ハルシネーションには主に、2種類あります。

内在的ハルシネーション （Intrinsic Hallucinations）	学習したデータとは異なる情報を生成する現象
外在的ハルシネーション （Extrinsic Hallucinations）	学習したデータにはない情報を生成する現象

どちらも、生成AIが質問に対して、事実とは異なる情報を利用して回答を生成しています。

ハルシネーションの具体例

ハルシネーションの具体例には、次のようなものがあります。

架空の引用・論文

存在しない学術論文のタイトルや著者、ページ数をまるで存在するかのように回答してしまうことがあります。

人物の経歴の捏造

実在する著名人のプロフィールに、実際にはしていない経歴やエピソードを混ぜて出力してしまうことがあります。

存在しない商品の仕様

商品に存在しないスペックを自信満々に解説してしまうことがあります。

存在しない歴史の捏造

存在しない歴史的事件や出来事を作り上げてしまうことがあります。

計算やプログラミングのミス

複雑な計算やコードの生成で、一見すると正しそうなのに致命的なミスが含まれてしまうことがあります。

ハルシネーションが発生する原因

ハルシネーションが発生する原因には、次のようなものがあります。

学習データの不足や誤り

正確なデータがないことについて質問された際、AIは空白を埋めようとして、架空の事実を作り出してしまうことがあります。

プロンプト（質問）がわかりづらい

ユーザーがする指示（プロンプト）が曖昧でわかりづらい場合も、ハルシネーションが発生するリスクが高くなります。曖昧な指示に対して質問の意図を予測して回答するため、言語モデルの予測が外れた場合、事実とは異なる回答を出力してしまうことがあります。

確率的な予測の限界

言語モデルは、人間のように意味を完全に理解している訳ではありません。文脈をもとに「次に来る可能性が最も高い単語」を予測して文章を生成しています。そのため、真実と偽りの区別がつかないまま、それらしい文章を作ってしまうことがあります。

AIが意図的に嘘をついているわけではないということですね。

ハルシネーションのリスク

ハルシネーションによって引き起こされるリスクには、次のようなものがあります。

誤情報の拡散

ハルシネーションによって生成された誤情報を、誤情報と知らずにSNSに投稿してしまうこともあるかもしれません。

その結果、誤情報が急速に拡散されてしまい社会が混乱する可能性があります。

また、悪意のある者が、ハルシネーションを意図的に利用して、フェイクニュースや偽情報を生成するリスクもあります。こういった情報操作への課題があります。

ビジネスへの影響

企業の意思決定に、ハルシネーションによって生成された誤情報を使ってしまうと、間違った意思決定をしてしまう恐れがあります。

特に、重要な意思決定に誤情報を使ってしまうと、社会的信用の損失や、経済的な損失にも繋がるリスクがあるため、注意が必要です。

情報セキュリティへの脅威

ハルシネーションは、情報セキュリティの観点にもリスクをもたらしてしまう可能性があります。

第三者がハルシネーションを悪用して、フィッシングメールやソーシャルエンジニアリング攻撃に使用するリスクです。

また、生成AIが誤って機密情報を生成や漏洩してしまうリスクもあります。

ハルシネーションへの対策

現状では、ハルシネーションを完全にゼロにすることは難しいとされています。

ハルシネーションへの対策には、次のようなものがあります。

RAG（検索拡張生成）の活用

RAG（Retrieval-Augmented Generation：検索拡張生成）とは、ChatGPTなどの大規模言語モデル（LLM）に、外部の情報を検索・参照させてから回答させる技術です。

そのため、ハルシネーションの発生のリスクを低くすることができます。

プロンプトの工夫

ハルシネーションへの対策として、今日からすぐにできる方法は、プロンプト（指示文）を工夫することです。

プロンプトを「明確・具体的」にすることで、ハルシネーションの発生リスクを低くすることができます。

• 不明な場合は「わかりません」と答えてください。と指示する
• 「出典（ソース）」を示してください。と指示する
• 複雑な質問は複数回に分けて問い合わせる

プロンプト次第で、回答の精度も大きく変わります。

ファクトチェック（人による確認）

人間の目でもファクトチェックを行うことが重要です。

特に、重要な情報（特に医療、法律、金融など）が含まれる場合は、必ず信頼できる情報源で裏付けを徹底しましょう。

ガイドラインやマニュアルを作る

企業で生成AIを導入する場合は、利用に関するガイドラインやマニュアルを作ることが重要です。従業員が安全かつ、効果的に生成AIを使える環境作りが大切です。

グラウンディングを行う

グラウンディングとは、モデルに、特定のデータだけを情報源にして、回答を生成させる技術です。

これにより学習データに存在しない情報を「創作」してしまうリスクを、低くすることができます。

ファインチューニングを行う

ファインチューニングとは、汎用なLLMに対して、特定のデータや専門知識を、追加で学習させる手法のことです。

これによって、その分野における回答の精度を高めることができます。

まとめ

この記事では、生成AIにおけるハルシネーションについて、原因や具体例、リスク、対策を解説しました。

最後に、ポイントをまとめます。

ハルシネーションが発生する原因

• 学習データの不足や誤り
• プロンプト（質問）がわかりづらい
• 確率的な予測の限界

ハルシネーションへの対策

• RAG（検索拡張生成）の活用
• プロンプトの工夫（不明な場合は「わかりません」と答えて、「出典（ソース）」を示して、複雑な質問は複数回に分けて問い合わせる）
• ファクトチェック（人による確認）
• ガイドラインやマニュアルを作る
• グラウンディングを行う
• ファインチューニングを行う

生成AIを正しく理解して、味方として活用していこう！