人工知能（AI）は日常生活からビジネスと、ありとあらゆる場所で必要不可欠な存在となりました。しかし、AIが生み出す情報が必ずしも性格であるとは限りません。
AIが意図せず誤った情報を生成してしまう現象、いわゆる「ハルシネーション」は、信頼性を重視する場面で大きな問題となり得ます。この現象を見極める方法を知ることは、AIを正しく活用する上で非常に重要です。
本記事では、ハルシネーションの原因や嘘を見極める方法や対策について詳しく解説していきます。
目次
ハルシネーションとは
ハルシネーションとは、人工知能（AI）が実際には存在しない事実や根拠のない情報を生成してしまう現象を指します。この現象は、AIが過去のデータや学習した知識を基に推測を行う際に起こりますが、その推測が誤っている場合に発生します。
たとえば、質問に対してAIが自信を持って誤った答えを提示したり、全く存在しない情報を作り出したりすることが典型的な例です。
この現象の名前である「ハルシネーション」は、「幻覚」を意味する英語の “hallucination” に由来しています。AIが現実にはない情報を「見せる」ことから、この名前が使われています。ハルシネーションは特に生成系AI（Generative AI）で頻繁に見られ、テキスト生成AIでは虚偽の文章、画像生成AIでは不自然なビジュアルを生成する場合があります。
ハルシネーションが発生する原因
ハルシネーションが発生する原因は、人工知能（AI）の仕組みやその活用方法が原因で起こります。AIは膨大なデータを基に学習して動作しますが、その学習過程や利用条件によっては、誤った情報や実際には存在しないデータを生成してしまうことがあります。
学習データの偏りや不足
AIは過去に提供されたデータを基に知識を構築しますが、そのデータが偏っている場合や不十分である場合、正確な答えを生成することが難しくなります。
特定の分野の情報が少なかったり、データに誤りが含まれていると、AIはそれを基に誤った推測を行ってしまいます。
モデルの推論脳力の限界
AIはあくまで過去のデータからパターンを学習し、推論する仕組みです。そのため、未知の質問や曖昧な要求に対して、AIは自信を持って間違った答えを生成することがあります。
これはAIが「知らない」と答える能力を持たず、常に何らかの出力を試みる性質によるものです。
プロンプトの曖昧さ
AIが処理するプロンプト（指示や質問）が曖昧だったり不十分だったりすると、AIは文脈や状況を誤解し、誤った答えを出す可能性があります。
特に生成系AIでは、プロンプトの設計がAIの応答精度に直接影響を与えるため、不明瞭な指示はハルシネーションを引き起こす一因となります。
モデルの設計上の課題
AIモデル自体の設計やアルゴリズムに問題がある場合も、ハルシネーションが発生します。
例えば、生成モデルが回答の一貫性や妥当性よりも、応答を埋めることに優先度を置く設計の場合、誤情報を生成しやすくなります。
現実の知識が必要な質問
AIは現実世界の知識を直接持っているわけではなく、学習データから推測を行っています。そのため、実際の事実確認を必要とする質問や、最新の情報が必要な質問に対して誤った回答をすることがあります。
たとえば、学習データに含まれていない事象については、推測で回答を埋め合わせようとします。
ハルシネーションの具体例
架空の情報を生成する
AIが存在しない事実を「確からしい」形で生成する場合があります。
「2020年にノーベル物理学賞を受賞した人物は？」という質問に対し、実在しない人物名を挙げ、架空の研究内容を説明する。
誤った引用や参考文献を作り出す
AIが存在しない書籍や論文を「出典」として提示する場合があります。
「このテーマに関連する学術論文を教えてください」と尋ねた際、架空の論文名や著者名を回答する。
→実際には存在しない論文や出版社名
質問の文脈を誤解して回答を作り上げる
入力された質問の意図を正確に理解できず、不適切な回答を生成する場合があります。
「世界で最も高い山は？」と尋ねた場合に、間違った山名や高さを回答する。
→正確な回答はエベレスト。
時系列の誤り
AIが過去のデータを基に回答するため、最新情報や時系列に基づく正確性を欠く場合があります。
「2023年のFIFAワールドカップ優勝チームは？」と質問した場合に、過去の大会結果をもとにした誤情報を生成。
→実際には最新データに基づかない回答
矛盾した回答の生成
同じ質問を複数回行った場合、異なる回答を生成し、一貫性が欠ける場合があります。
ハルシネーションを見極める方法
情報源を確認する
AIが生成した情報が正しいかどうかを判断するには、必ず信頼できる情報源や公式の資料と照らし合わせることが必要です。特に、統計データや歴史的な事実など具体的な内容については、その出典が実在するかどうかを確認することが重要です。たとえば、AIが論文や著者名を挙げた場合、その情報が実際に存在しているかを検索することで、誤情報を見抜くことができます。
現実的かどうかを考える
AIが提示する情報が、一般常識や基本的な知識と矛盾していないかを冷静に判断することが重要です。たとえば、「月には生態系が存在する」というような明らかに誤った情報が含まれている場合、それがハルシネーションである可能性が高いです。AIが生成した情報が現実的かどうかを見極めるためには、自分自身の知識や直感も頼りになります。
類似のテーマのものを確認する
類似テーマの内容と比較することで、AIの回答に含まれる曖昧さや不整合性を見つけることが可能です。たとえば、AIが提案した統計データや歴史的事実について、他の信頼できるデータや同様のテーマの記事と比較してみることで、誤りを発見できる場合があります。
ハルシネーションを防ぐための対策
ハルシネーションを完全に防ぐことは難しいですが、その発生リスクを最小限に抑えるための対策は存在します。AIを正しく活用し、誤情報の影響を避けるために、以下のポイントを実践することが重要です。
明確で具体的なプロンプトを作成する
AIへの入力（プロンプト）が曖昧だと、AIは不正確な情報を生成しやすくなります。質問や指示はできるだけ具体的かつ明確にし、必要に応じて条件や制約を加えることで、より正確な回答を得られます。
たとえば、「人工知能について説明してください」という曖昧な質問よりも、「人工知能の仕組みについて具体例を交えて説明してください」といった詳細な指示が効果的です。
出力結果を検証する
AIが生成した情報をそのまま使用せず、信憑性のある情報源や専門家の意見と照らし合わせて確認することが重要です。特に、学術論文や統計データ、歴史的事実など、正確性が求められる内容については、必ず裏付けを取るようにしましょう。
AIの限界を理解する
AIは万能ではなく、得意分野と不得意分野があります。最新の情報や専門性の高い分野に関する質問では、誤った回答をする可能性が高まります。AIの知識の範囲や特性を理解し、用途に応じた適切な使い方をすることが大切です。
定期的にモデルを更新する
AIモデルは過去のデータに基づいて学習しているため、情報が古くなっている可能性があります。最新の技術やデータを反映するためには、AIモデルを定期的に更新することが必要です。
また、信頼できるデータセットを使用して再トレーニングを行うことで、生成結果の正確性を向上させることができます。
二次チェックを習慣化する
生成された情報をそのまま使用するのではなく、人間の専門家による二次チェックを行うことで、誤情報のリスクを減らせます。特に、ビジネスや研究分野で重要な意思決定に使用する場合は、二重の確認が不可欠です。
コンテキストを十分に提供する
AIに正確な回答を求めるには、質問に関連する背景情報や文脈を十分に提供することが有効です。曖昧な質問よりも、具体的な状況を含めた指示を与えることで、AIがより適切な回答を生成しやすくなります。
別のAIにも同じ質問をする
1つのAI機能を用いて質問をしていると、1つの機能に依存してしまい、間違いに気づきにくくなります。2種類以上のAIを使用することで、1つテーマの回答を2種類得ることができます。その際、情報に矛盾が生じていたりすると、情報の信憑性が疑われます。回答の重要性によっては、この方法はスピード重視の対策といえるでしょう。
ハルシネーション対策に有効なツール
AIのハルシネーションをAIで対策できるツールを2種類ご紹介します。
Perplexity
Perplexityは、ユーザーが問いかけた質問に対して、複数のソース、サイト、参考文献を基に回答を作成してくれるツールです。回答の信憑性が高いかどうかは、参考文献のリンクも掲載されているので、そこから自分の目で確かめることが可能です。
Genspark
GensparkもPerplexity同様に複数の参考サイトを基に回答を作成してくれるツールです。また、ファクトチェック専用の項目も設けられており、疑わしい情報をAIに調べさせて正しいかどうかを判断させることが可能です。
まとめ
今回は、AIのハルシネーションについて触れてきましたが、AIが回答内容を誤ることは、これからもなくなることはないでしょう。ファクトチェックも、AIだけの力では限界となる分野もあります。そのため、私たち人間がいかにAIを使いこなしていくかが重要となっていきます。
