7. 模型落地：MLOps 的最佳實踐

# 7. 模型落地：MLOps 的最佳實踐 ## 7.1 何謂 MLOps？ MLOps（Machine Learning Operations）是將資料科學與軟體工程的最佳實踐結合，目的在於確保機器學習模型從實驗階段安全、可追蹤、可擴充地投產。它不僅僅是部署工具，更是一套思維模式：將數據、模型、基礎設施與業務流程緊密聯繫，形成可重複、可度量的生命週期。 ## 7.2 生命週期概覽 1. **實驗（Experimentation）**：使用 Notebook、MLflow 追蹤參數、指標、 artefacts。 2. **測試（Testing）**：單元測試、集成測試與資料驗證（data drift、concept drift）。 3. **打包（Packaging）**：Docker、Kubernetes、模型服務容器化；將模型轉為 ONNX、TensorRT 等高效格式。 4. **部署（Deployment）**：A/B 測試、Canary、Blue/Green 部署；自動化流水線 CI/CD。 5. **監控（Monitoring）**：性能指標、日誌、警報；可視化 Dashboard，利用 Prometheus + Grafana。 6. **治理（Governance）**：模型版本控制、合規審計、資料隱私。 7. **退役（Decommission）**：舊模型撤除、回收資源，並將學習反饋回實驗階段。 ## 7.3 主要技術棧 | 層級 | 工具 | 目的 | |------|------|------| | 版本化 | DVC、LakeFS | 確保資料、模型、腳本的可追蹤性 | | 追蹤 | MLflow、Weights & Biases | 參數、指標、實驗組合的完整記錄 | | 容器化 | Docker、Podman | 一致的執行環境 | | 編排 | Kubernetes、Argo CD | 彈性伸縮、零停機部署 | | CI/CD | GitHub Actions、GitLab CI、CircleCI | 自動化測試與部署 | | 監控 | Prometheus、Grafana、Seldon Core | 即時監測模型表現 | | 安全 | Vault、KMS | 加密資料與金鑰管理 | | 合規 | Fairness Indicators、Open Policy Agent (OPA) | 遵循公平、隱私規範 | ## 7.4 實際案例：線上零售價格優化 1. **模型選擇**：採用 PPO（Proximal Policy Optimization）作為價格調整策略。 2. **實驗**：在本地 GPU 集群跑 30 次演算法，使用 MLflow 追蹤學習率、損失曲線。 3. **測試**：利用 UnitTest 驗證策略輸出是否在合法範圍內；使用 data validation 監測特徵漂移。 4. **打包**：將訓練好的 PPO 模型轉為 ONNX，放入 Docker 映像；在 Dockerfile 中安裝 `seldon-core` 以支援自動擴充。 5. **部署**：在 Kubernetes 上啟動 Seldon Deployment；設定 Canary 以 10% 流量先行驗證。 6. **監控**：Prometheus 把 `reward`、`price_variance` 等指標推送到 Grafana；設置 Slack 通知若 reward 與歷史平均偏差超過 3σ。 7. **治理**：在 MLflow 的 Model Registry 設定 `Production` 版；每次切換都寫入審計日誌；使用 OPA 檢查模型是否符合公平性閾值。 8. **退役**：當模型表現持續下降（AUC < 0.65）兩個連續週期，手動將其標記為 `Archived`；再把該版本的參數推回實驗流程。 ## 7.5 監控指標的哲學意涵 - **效能 vs 公平**：指標不應只追求最大化營收，還需衡量對不同客群的影響。若模型偏向高消費者，低消費者可能被排除，破壞公平。 - **透明度 vs 隱私**：監控數據必須保持透明，以利決策者信任；但同時不暴露個人敏感資訊，遵守 GDPR 等法規。 - **持續改進 vs 靜態依賴**：MLOps 的核心是「持續」——不斷回饋、迭代。這種循環與古希臘哲學中的「不斷修正自我」相呼應。 ## 7.6 常見陷阱與解決方案 | 陷阱 | 原因 | 解決方案 | |------|------|----------| | **模型漂移忽視** | 缺乏資料驗證流程 | 建立自動化 drift 檢測，觸發重新訓練 | | **部署環境不一致** | 本地與雲端差異 | 使用 Docker 及 Kubernetes 保障環境一致性 | | **安全漏洞** | 金鑰管理疏忽 | 使用 Vault、KMS 並實施零接觸原則 | | **合規失敗** | 忽略公平性評估 | 在模型訓練前設置公平性指標，並在模型註冊時檢查 | ## 7.7 小結 1. **MLOps 是流程**：將實驗、測試、部署、監控、治理串連成一條生命線。 2. **技術選型需合乎業務**：工具多樣，但要選擇能夠最直接服務業務目標的方案。 3. **治理不可省略**：合規與倫理是模型可持續運營的前提。 4. **哲學反思**：每一次部署都是對「自動化是否為最佳人性化決策」的再次檢驗。 > **接下來**：第八章將深入探討人工智慧倫理框架，從個人隱私到社會責任，進一步解構資料科學背後的價值取向。