第5章：模型部署與運維——從實驗室到實際應用

# 第5章：模型部署與運維——從實驗室到實際應用 > **學習點**：部署不是最後一步，而是一個新的起點。模型要在實際環境中持續產生價值，需結合流程、監控、成本與商業需求。 ## 5.1 引言 在第4章中，我們完成了模型的構建與評估，得到了理想的指標。這裡的挑戰在於將模型從 Jupyter Notebook 或本地實驗室搬到業務線上環境，確保它在真實流量下保持穩定、可擴充，並能及時回饋洞察。 > **提醒**：部署是一個跨部門協作的環節，工程師、資料科學家、產品經理與營運團隊都必須參與。 ## 5.2 版本管理與元資料 | 步驟 | 目的 | 工具 | |------|------|------| | 1. 模型快照 | 保障可重現性 | MLflow, DVC | | 2. 元資料儲存 | 追蹤參數、評估指標 | MLflow Tracking, Azure ML | | 3. 版本標籤 | 清晰表達演進 | Git, Git LFS | python # MLflow 範例：記錄模型與參數 import mlflow mlflow.set_experiment('churn_model') with mlflow.start_run(): mlflow.log_param('n_estimators', 200) mlflow.log_metric('roc_auc', 0.82) mlflow.sklearn.log_model(model, 'model') ## 5.3 CI/CD 流程 1. **單元測試**：確保資料轉換與模型推論無誤。 2. **模型驗證**：在驗證集上再次跑指標，確保版本一致。 3. **容器化**：使用 Docker 將模型封裝。 4. **部署**：Kubernetes 或雲端服務（AWS SageMaker, GCP AI Platform）。 5. **滾動更新**：藉由金絲雀或 A/B 測試，減少風險。 yaml # GitHub Actions 範例 name: Deploy Model on: push: branches: [ main ] jobs: build: runs-on: ubuntu-latest steps: - uses: actions/checkout@v2 - name: Set up Python uses: actions/setup-python@v2 with: python-version: '3.9' - name: Install dependencies run: pip install -r requirements.txt - name: Run tests run: pytest tests/ - name: Build Docker run: docker build -t churn-model:${{ github.sha }} . - name: Push to registry run: docker push myregistry/churn-model:${{ github.sha }} ## 5.4 監控與告警 | 指標 | 監控工具 | 觸發條件 | |------|----------|----------| | 推論延遲 | Prometheus | >200ms | | 失敗率 | Grafana | >1% | | 資料漂移 | Evidently AI | KS test p < 0.05 | > **實務提醒**：建立儀表板後，請在「試點」階段邀請業務同仁共讀，確保圖表語義對其有意義。 ## 5.5 資料漂移與再訓練 1. **漂移偵測**：使用 KS 測試、MMD 或 Evidently 的「Data Drift」報告。 2. **觸發策略**：設定閾值，或定期批次自動訓練。 3. **再訓練流程**： - 收集新標籤資料。 - 重新執行資料清洗、特徵工程。 - 訓練、驗證、部署。 4. **版本更新**：每次再訓練都視為新版本，並追蹤效能提升。 python # Evidently 示範：資料漂移報告 import evidently from evidently.pipeline.column_description import ColumnDescription from evidently.metric_preset import DataDriftPreset pipeline = EvidentlyPipeline([DataDriftPreset()]) result = pipeline.run(reference_data=df_ref, current_data=df_curr) print(result.get_report()) ## 5.6 成本與效能評估 | 成本項目 | 估算方法 | |----------|----------| | GPU/CPU 時間 | 按雲端算力單位（e.g., $0.20/hr） | | 存儲 | 依存儲量（GB）計算 | | 網路 | 出站流量（GB） | 效能評估不僅是模型指標，還包括： - 推論吞吐量（TPS） - 回應時間 SLA - 可靠性（MTBF） - 成本效益比（C/B） > **案例**：某零售商在部署客流預測模型後，將每月成本從 10,000 元降至 6,000 元，同時提升了 5% 的庫存周轉率。 ## 5.7 案例研究：線上訂閱服務的流失預測 1. **背景**：線上訂閱平台想降低 6 個月內流失率。 2. **資料**：用戶行為日誌、付款歷史、客服紀錄。 3. **模型**：LightGBM，使用 SHAP 進行解釋。 4. **部署**：Docker + Kubernetes，使用 Prometheus 監控推論延遲。 5. **結果**：在 3 個月內流失率下降 4.3%，並且每次再訓練後模型效能保持 0.80+ ROC‑AUC。 6. **教訓**： - **跨部門協作**：營收、行銷、IT 必須同步。 - **即時回饋**：Power BI 與 Tableau 直連 API，讓行銷團隊能即時看到模型洞察。 - **持續學習**：設定每月自動再訓練，減少資料漂移影響。 ## 5.8 小結 部署與運維是資料科學專案的關鍵環節，決定了模型能否真正為商業帶來價值。透過版本管理、CI/CD、監控、資料漂移偵測與成本評估，我們不僅能確保模型穩定運作，更能在動態商業環境中保持競爭力。下一章將進一步探討如何將模型嵌入產品功能，並設計持續優化的迴圈。