第3章：可解釋模型設計與評估指標

# 第3章：可解釋模型設計與評估指標 在前章中，我們建立了可解釋人工智慧（Explainable AI, XAI）的三重基礎——透明度、信任與責任。接下來，我們將聚焦於實際建模階段，探討可解釋模型的設計選擇、常用解釋方法，以及如何在客製化系統中量化與評估解釋品質。 ## 3.1 可解釋模型的分類 | 模型類型 | 內在可解釋性 | 可調節性 | 適用場景 | |---------|--------------|----------|-----------| | 線性模型 | 高 | 低 | 高維特徵空間、因果推斷 | | 決策樹 | 中 | 中 | 需要階層化解釋、可視化 | | 近似可解釋模型（如局部代理） | 低 | 低 | 大型黑盒模型的補充 | | 內部可解釋神經網路（注意力機制、門控結構） | 低 | 中 | 需要深度特徵抽象 | 可解釋性並非一成不變，選擇模型時應考量業務需求、數據特性與合規要求。 ## 3.2 常見解釋方法概覽 | 方法 | 代表演算法 | 主要特徵 | |------|------------|-----------| | SHAP | Kernel SHAP、Tree SHAP | 全局與局部一致性、可加性 | | LIME | LIME | 近似線性、可解釋局部 | | 影響圖 | Influence Functions | 追溯樣本貢獻 | | 熱力圖 | Grad‑CAM、Integrated Gradients | 影像特徵可視化 | | 規則提取 | RuleFit、LimeRules | 直觀規則、可直接執行 | 實務上常以 SHAP 為基準，因其理論基礎嚴謹且實作成熟；LIME 在對大模型做快速原型時尤為方便。 ## 3.3 解釋品質評估指標 | 指標 | 定義 | 重要性 | |------|------|--------| | Fidelity | 代理模型對原模型預測的相符度 | 保障解釋可靠性 | | Stability | 針對相似樣本的解釋變化幅度 | 提升使用者信任 | | Completeness | 重要特徵佔總重要度比例 | 減少漏解釋風險 | | Interpretability | 直觀可閱讀度（如規則條數、特徵數量） | 影響人類解讀成本 | 評估時常採用交叉驗證與 bootstrap 方法，以確保指標的統計穩定性。 ## 3.4 案例實驗：信用評分 ### 3.4.1 背景 企業欲建立一套自動化信用評分系統，要求符合「公平性」與「可解釋性」兩大法規。 ### 3.4.2 資料與特徵 - 申請人年齡、職業、收入、負債比例、過往違約記錄等。 | ### 3.4.3 模型選擇 - 主模型：Gradient Boosting Machine (GBM) - 代理模型：Tree SHAP + 規則提取 | ### 3.4.4 解釋流程 1. **特徵重要性**：使用 Tree SHAP 計算全局重要度，得到 top‑5 影響特徵。 2. **局部解釋**：對每個借款人，生成 SHAP value 向量，並以條形圖呈現。 3. **公平性檢查**：利用 Fairness ToolKit 計算種族、性別群組的平均 SHAP value，確保差異不超過 5%。 4. **合規報告**：自動產生 PDF，列出解釋關鍵字、重要特徵分布、合規性檢驗結果。 ### 3.4.5 成效 - 模型精度：AUC 0.87，較傳統 logistic 回歸提升 4%。 - 可解釋性滿意度：內部審核通過 92%。 - 合規風險降低：違規成本下降 18%。 ## 3.5 案例實驗：推薦系統 ### 3.5.1 背景 電商平台希望提升推薦透明度，以減少用戶流失。 ### 3.5.2 技術選型 - 主模型：DeepFM（結合特徵交互與深度學習）。 - 代理模型：LIME + 規則摘要。 ### 3.5.3 解釋流程 1. 針對每個推薦項目，使用 LIME 生成前 3 個影響因子。 2. 以自然語言生成簡短說明（如「因您近期對高端運動鞋感興趣，推薦此款」）。 3. 在前端加入「為什麼推薦」按鈕，點擊即可顯示解釋。 ### 3.5.4 成效 - 用戶停留時間提升 12%。 - CTR 增長 8%。 - 用戶滿意度調查：88% 表示對推薦透明度滿意。 ## 3.6 可解釋性需求映射表 | 業務需求 | 可解釋性目標 | 指標 | 具體措施 | |----------|--------------|------|----------| | 法規合規 | 需要「可解釋性報告」 | 合規性分數 | 生成 PDF 報告 | | 客戶信任 | 需要「即時解釋」 | 回應時間 | LIME 生成時間 < 200ms | | 內部審核 | 需要「可驗證的規則」 | 规则可追溯性 | 规则库持久化 | 透過映射表，產品團隊能將抽象的業務需求轉化為可量化的技術指標，降低後期重構成本。 ## 3.7 本章結語 本章闡述了可解釋模型的設計選擇、主流解釋方法、品質評估指標以及兩個實際案例。透過結合模型選型、代理解釋與合規檢測，我們可以在確保預測性能的同時，提供可被業務與法規審核所接受的解釋。隨著章節的深入，後續章節將進一步探討深度模型內部可解釋機制與人機協同的最佳實踐，協助讀者在複雜 AI 系統中實現可解釋性與性能的雙贏。