生成AIについて、よくあるご質問の3点

ブログ

生成AI(ChatGPTなど)について、ご質問の3点を簡潔に解説します。

1. なぜAIは「嘘」をつくのか

AIが嘘をつく現象は「ハルシネーション(幻覚)」と呼ばれます。

  • 仕組み: AIは「事実」を検索しているのではなく、膨大なデータから**「次に来る確率が高い言葉」**を予測して文章を作っています。
  • 理由: 文脈として「もっともらしい」ことを優先するため、知識が足りない部分をそれっぽい言葉で埋めてしまい、結果としてデタラメな内容(存在しないURLや書籍名など)を生成してしまいます。
2. 情報漏洩の心配はないのか

リスクはありますが、設定次第で防げます。

  • 懸念点: 基本設定のままでは、入力した内容(プロンプト)がAIの再学習に利用される可能性があります。これにより、他人の回答に自分の機密情報が混ざってしまうリスクがゼロではありません。
  • 対策: オプトアウト設定: 学習に利用しない設定をオンにする。
    • 一時的なチャット: 履歴を残さないモードを利用する。
    • 法人向けプラン: データの学習利用が最初から禁止されているプランを利用する。
3. Web検索と何が違うのか

「情報の探し方」と「出力の形」が根本的に異なります。

特徴Web検索 (Google等)生成AI (ChatGPT等)
役割既存の情報の「場所」を教える情報を「整理・加工・生成」する
回答の形サイトのリンク集ひとつのまとまった回答文
得意なこと最新ニュース、事実確認、出典の特定要約、翻訳、アイデア出し、プログラミング
信頼性サイト運営者に依存(高い)AIの予測に依存(間違いが含まれる)

重要: Web検索は「図書館で本を探すこと」、生成AIは「物知りなアシスタントに要約してもらうこと」に似ています。

岡山のホームページ作成