図解:機械はどのように確信度を示すか
機械はどのように「確信度」を示すのか。確率の出力から、較正、しきい値の設定、そして不確かさの伝達まで——一つの予測が利用者に届くまでの流れを、順を追って整理します。各段階は独立した技術ではなく、前の段階の出力を次が受け取る連鎖として働きます。
以下の手順は、分類モデルが確率を出力する典型的な経路を簡略化したものです。生成系のモデルでも、内部の確率を確信度へ変換し、それを利用者へ提示するという基本構造は共通しています。各段階で何が起き、どこにずれが入り込むのかを見ていきます。
-
手順 01
入力を受け取る
モデルは画像やテキストなどの入力を受け取る。この入力が訓練分布の内側か外側かが、後段の確信度の信頼性を左右する。
-
手順 02
内部表現を計算する
入力は層を通じて特徴へと変換される。深いネットワークほど表現力が高い一方、確信度が歪みやすいことが知られている。
-
手順 03
ロジットを算出する
各クラスに対する未正規化のスコア(ロジット)が出力される。この大きさが、後の確率の鋭さを決める。
-
手順 04
ソフトマックスで確率化する
ロジットをソフトマックスに通し、合計1の確率分布へ変換する。ここで初めて「確率」が現れるが、現実と一致している保証はまだない。
-
手順 05
較正で現実に合わせる
温度スケーリングなどの後処理で、確率の鋭さを実際の的中率に合わせる。精度を変えずに確信度の意味を回復させる段階。
-
手順 06
確信度を取り出す
最大確率や分布のエントロピーから、その予測の確信度を一つの量として取り出す。
-
手順 07
しきい値を適用する
確信度が基準を超えた予測のみを自動採用し、下回るものは保留する。誤りのコストに応じて基準を設定する。
-
手順 08
棄権し人手へ回す
基準を下回る曖昧な予測は、機械が断定せず人手の確認へ回送する。確実な予測だけを自動化する設計。
-
手順 09
不確かさを表現に変換する
確率の数値を、言葉のヘッジや候補集合へと翻訳する。受け手が読み取れる形に変えるが、ここでも解像度の取捨が生じる。
-
手順 10
利用者へ提示し受け止められる
最終的に確信度は人へ届く。受け手の信頼が能力に較正されていなければ、過信や不信として意思決定を歪める。