AI・PMOの進化
説明可能なAI
Explainable AI
読み：せつめいかのうなえーあい
AIの結果や振舞いについて、人が理解し評価するための説明を得られるようにする考え方や技術です。
01初心者向け
まず意味をつかむ
AIが出した結論を、そのまま受け取らず、何が影響したのかを確かめやすくします。説明は、利用者が判断や異議申立てをする助けにもなります。
02実務者向け
仕事でどう使うか
誰が何を判断するための説明かを決めます。入力の影響、根拠、限界、不確かさなどを目的に合わせて示し、説明が実際の振舞いと対応するか検証します。
03専門家向け
判断を一段深める
分かりやすい説明でも、モデルが実際にその理由で判断したとは限りません。説明の忠実さと人にとっての理解しやすさを区別し、重要な利用では検証可能な証拠と組み合わせます。説明可能性だけで公平性や正確性も保証されません。
別名・略語：XAI
IN PRACTICE
具体例で考える
架空の案件評価AIで、遅延候補となった理由を元の入力項目と照合できる形で示し、担当者が誤ったデータを訂正できるようにします。
理解を助けるための架空の例です。理解したい判断
入力・根拠・限界の説明
説明の検証と人の評価
説明の観点を示します。内部構造の完全な解読を意味するものではありません。
ここは誤解しやすい
AIに理由を文章で述べさせただけで、内部判断を正確に説明できたと考えないようにします。
PROXIA INSIGHTS
考え方を、実務へつなぐ
AIを「使う」から、PMの判断に「活かす」へ ↗この知識を、組織の力へ。