本文へスキップ
MachineUncertainty
図解

図解:機械はどのように確信度を示すか

機械はどのように「確信度」を示すのか。確率の出力から、較正、しきい値の設定、そして不確かさの伝達まで——一つの予測が利用者に届くまでの流れを、順を追って整理します。各段階は独立した技術ではなく、前の段階の出力を次が受け取る連鎖として働きます。

以下の手順は、分類モデルが確率を出力する典型的な経路を簡略化したものです。生成系のモデルでも、内部の確率を確信度へ変換し、それを利用者へ提示するという基本構造は共通しています。各段階で何が起き、どこにずれが入り込むのかを見ていきます。

  1. 手順 01

    入力を受け取る

    モデルは画像やテキストなどの入力を受け取る。この入力が訓練分布の内側か外側かが、後段の確信度の信頼性を左右する。

  2. 手順 02

    内部表現を計算する

    入力は層を通じて特徴へと変換される。深いネットワークほど表現力が高い一方、確信度が歪みやすいことが知られている。

  3. 手順 03

    ロジットを算出する

    各クラスに対する未正規化のスコア(ロジット)が出力される。この大きさが、後の確率の鋭さを決める。

  4. 手順 04

    ソフトマックスで確率化する

    ロジットをソフトマックスに通し、合計1の確率分布へ変換する。ここで初めて「確率」が現れるが、現実と一致している保証はまだない。

  5. 手順 05

    較正で現実に合わせる

    温度スケーリングなどの後処理で、確率の鋭さを実際の的中率に合わせる。精度を変えずに確信度の意味を回復させる段階。

  6. 手順 06

    確信度を取り出す

    最大確率や分布のエントロピーから、その予測の確信度を一つの量として取り出す。

  7. 手順 07

    しきい値を適用する

    確信度が基準を超えた予測のみを自動採用し、下回るものは保留する。誤りのコストに応じて基準を設定する。

  8. 手順 08

    棄権し人手へ回す

    基準を下回る曖昧な予測は、機械が断定せず人手の確認へ回送する。確実な予測だけを自動化する設計。

  9. 手順 09

    不確かさを表現に変換する

    確率の数値を、言葉のヘッジや候補集合へと翻訳する。受け手が読み取れる形に変えるが、ここでも解像度の取捨が生じる。

  10. 手順 10

    利用者へ提示し受け止められる

    最終的に確信度は人へ届く。受け手の信頼が能力に較正されていなければ、過信や不信として意思決定を歪める。

不定期配信

不確かさの読み方を、月に一度メールで。