第一章：可解釋人工智慧的基礎與背景

# 第一章：可解釋人工智慧的基礎與背景 在當前資料驅動時代，機器學習模型已經成為金融風控、醫療診斷、智慧交通等關鍵領域的核心支撐。然而，隨著模型複雜度的提升，決策過程的黑箱特性愈發凸顯，讓終端使用者與監管機構對其可信度產生疑慮。可解釋人工智慧（Explainable AI，簡稱 XAI）正是為了解決這一痛點而誕生的學術與實務領域。 ## 1.1 為何需要可解釋性？ | 角度 | 需求描述 | |------|-----------| | **使用者** | 需要理解模型輸出背後的邏輯，才能做出明確且負責任的決策。 | | **監管者** | 需確保模型符合公平、透明與責任追蹤的法規要求。 | | **開發者** | 透過可解釋性工具調試模型，定位偏差與過度擬合。 | | **社會大眾** | 減少因黑箱模型導致的信任缺失，促進技術普及。 | 從上述表格可以看出，解釋性不僅是技術層面的需求，更是制度、法律與道德的綜合體。 ## 1.2 可解釋性的定義與範疇 > **定義**：可解釋性指的是能夠以人類可理解的方式，說明機器學習模型在給定輸入下產生輸出的內在機制。這包含「**透明度**（模型結構可查詢）**」與「**可說明性**（輸出原因可說明）**」兩個面向。 ### 1.2.1 透明度 vs 可說明性 - **透明度**：指模型本身的結構可視化，例如決策樹、線性迴歸係數等； - **可說明性**：針對複雜模型（如深度神經網路）透過外部解釋器提供輸出原因，並不改變模型本身。 ## 1.3 XAI 的核心方法分類 | 方法類型 | 代表演算法 | 典型應用 | |----------|------------|-----------| | **模型本身可解釋** | 早期決策樹、隨機森林 | 風險評分、信貸審核 | | **局部可解釋** | LIME、SHAP | 逐筆資料的特徵重要度 | | **全局可解釋** | 整體特徵影響力分析 | 模型結構優化 | | **可視化** | 熱力圖、特徵映射 | 圖像分類、語音辨識 | | **因果推斷** | 因果圖、結構方程 | 影響因果關係分析 | > **說明**：局部可解釋方法常被視為「黑箱模型的解碼器」，而全局可解釋方法則試圖把整個模型抽象成可理解的語言。 ## 1.4 案例回顧：醫療診斷與金融風控 ### 1.4.1 醫療診斷 - **情境**：深度卷積網路在肺部X光影像中偵測肺癌。 - **XAI 需求**：醫師需要知道影像中哪個區域促使模型做出陽性判斷。 - **實作**：使用 Grad-CAM 產生熱力圖，顯示模型關注區域，醫師可與臨床經驗結合判斷。 ### 1.4.2 金融風控 - **情境**：隨機森林評估個人貸款風險。 - **XAI 需求**：銀行需向客戶說明風險評分來源，避免歧視指控。 - **實作**：SHAP 分析每筆特徵對風險分數的貢獻，並以圖表呈報。 ## 1.5 主要挑戰與研究方向 1. **解釋一致性**：同一模型對不同樣本的解釋需保持邏輯一致，避免混淆。 2. **可解釋性與準確度平衡**：過度簡化可能削弱模型性能，需在透明度與效能間取得最佳權衡。 3. **跨領域適用性**：同一解釋方法不一定適用於所有領域，須調整語言與視覺化策略。 4. **法規合規**：GDPR 等規範對解釋程度提出硬性要求，促使演算法必須具備可追蹤性。 ## 1.6 本章結語 本章梳理了可解釋人工智慧的核心概念、分類方法與實務需求。隨著後續章節將深入各類演算法的理論與實作，我們將見證可解釋性如何從概念走向具體落地，為複雜模型注入透明與信任。