ハルシネーションと確信のズレ——意味エントロピーという測り方
要点 言語モデルのハルシネーションは、誤りでありながら高い流暢さと確信を伴うことがある。 Farquhar ら（Nature, 2024）は、答えを意味ごとにま…
不確かさをモデルがどう言語化し、ユーザーにどう提示するか。
要点 言語モデルのハルシネーションは、誤りでありながら高い流暢さと確信を伴うことがある。 Farquhar ら（Nature, 2024）は、答えを意味ごとにま…
要点 不確かさを画面や言葉でどう表すかは、技術ではなく設計の問題である。 確率の数値、言葉のヘッジ、選択肢の提示——伝え方によって受け手の行動は変わる。 「曖昧…
要点 言語モデルに「自分の答えは正しいか」を自己評価させる研究が進んでいる。 Kadavath ら（2022）は、モデルが自答の正しさの確率 P(True) を…
✓ 登録ありがとうございます