教科書で学ぶAIのリスクと社会的課題
定義ハルシネーションとは、生成AIが事実でない内容を、正しいかのように自然な文章で出力してしまう現象である。
解説生成AIは学習した文章の傾向から、次に続きそうな語を確率で選んで文を作るため、語を選ぶ過程そのものでは内容の真偽を確かめない。実在しない文献名や誤った数値が、自信のある口調で示されることがある。出力を業務に使うときは、利用者が別の情報源で事実を確認する。
たとえうろ覚えの道を、迷いのない口ぶりで案内してしまう人に似ている。口調が確かなほど、聞く側は疑いにくい。
記憶フック英語の hallucination は「幻覚」。ないものが見えてしまう、つまりない事実を語ってしまう。