エルテスは9月29日、生成AIの利便性の裏に潜むリスクの側面に関する調査の結果を発表した。9月16日に生成AIを業務で頻繁に利用するビジネスパーソン400人を対象に、特に「ハルシネーション（AIが事実と異なる回答をあたかも正しい情報であるかのように生成すること）」に焦点をあて、ハルシネーションを起こさないために行っている工夫や、起きてしまった時の対応などを明らかにした。
ビジネスパーソンの3人に1人が生成AIの誤情報で「業務に影響あり」
ハルシネーションの経験を問う質問では、「何度もある」と回答した割合が36.3%、「たまにある」では44.8%に。ビジネスパーソンの約5人に4人はハルシネーションの経験があることが明らかになった。
ハルシネーションが起きていることに気付けた理由を尋ねたところ、「自身でファクトチェックを実施した」が64.2％で最多に。次点に「出力された文章や内容の不自然さ」（51.9％）が挙がった。
一方で、生成AIの誤情報を鵜呑みにしたことで「業務に影響が出た」と回答した人の割合は33.4％。その内訳をみると「社外向けの資料や提出物」（17%）や「社内の意思決定や報告」（16.4%）で多くみられている。
約8人に1人は生成AIの回答を鵜呑みに
ハルシネーション対策についても調査を実施したところ、「生成AIを利用する際に事前にハルシネーションの発生を防ぐ工夫をしている」と回答した人の割合は55.5％とほぼ半数。具体的な工夫の内容としては「根拠や参照URLを提示させる指示を入れている」「分からない場合は『分からない』と答えるよう指示を入れている」といった回答が見られた。
また、普段から生成AIの回答に対してファクトチェックを実施しているかを問う設問では、「検索等で事実確認（ファクトチェック）はしている」と回答した割合が38.0%、「常に一次情報まで確認している」が24.0%と、常時確認している人が約6割という結果に。一方で、「ほとんど確認していない」「まったく確認していない」という回答も合計13.5％にのぼっている。
ファクトチェックを「ほとんどしていない」「まったくしていない」と回答した人に理由を尋ねたところ、「生成AIから誤った情報が出力されるリスクを想定していなかった」という回答が38.9%で最多となった。
実際にハルシネーションが発生した場合の対応についての設問では、半数以上が「事実と異なる旨を指摘し、同じ生成AIツールに再度指示を入力する」（53.1％）と回答した。
