ChatGPTが嘘をつく

ChatGPTが嘘をつくことが分かった。ある資料をまとめてもらうことを依頼した際、完璧なリストを作ったように見えたが、違和感を感じたため正確かどうか確認したところ、実は違うと認め、今度はちゃんと調べると言った。驚いて尋ねると、やっつけ仕事をしたことを白状した。「もう二度としません」と言われ「人間かよ..」とショックだったが、面白くもあった。
使い方を間違えると大変だと感じた。

ハレーションというそうです。「分からないときや回答に自信がないときは”分からない”と答えましょう」と指示すると良い。