返回目錄
A
數據洞察實戰：從數據採集到模型部署的完整路徑 - 第 8 章
第八章：模型部署與運維
發布於 2026-02-27 23:29
# 第八章：模型部署與運維
本章將帶領讀者從 **模型開發** 走向 **實際運營**，說明如何將機器學習模型容器化、部署到雲端或本地集群，並確保模型在真實流量下能保持穩定、可追蹤、易回滾。章節涵蓋 Docker、Kubernetes、CI/CD、監控、版本控制、A/B 測試等實務要點，並以二手車價格預測模型為例，示範完整部署流程。
## 8.1 為什麼需要 ModelOps
- **快速迭代**：在競爭激烈的市場，模型需以秒鐘級的速度迭代。<br>
- **可追蹤性**：每一次部署都需能回溯到原始代碼、資料、參數。<br>
- **可觀測性**：系統需即時告警、記錄預測失誤、檢測模型漂移。<br>
- **合規安全**：資料隱私、權限管控必須嵌入部署流程。<br>
> **ModelOps** 即「機器學習運營」，結合 DevOps 的理念，將模型訓練、測試、部署、監控、回滾等環節串聯成一個自動化、可持續的生命週期。
## 8.2 容器化：Docker
### 8.2.1 基本概念
- **容器**：在同一 OS 核心上隔離執行的輕量級虛擬環境。<br>
- **映像檔**：可執行的檔案系統快照，包含應用程式、依賴、執行指令。<br>
### 8.2.2 建立 Dockerfile
以下以 **FastAPI** + **scikit‑learn** 為例，部署二手車價格預測模型。
dockerfile
# 1️⃣ 基礎映像
FROM python:3.11-slim AS base
WORKDIR /app
# 2️⃣ 安裝系統依賴
RUN apt-get update && \
apt-get install -y --no-install-recommends gcc libpq-dev && \
rm -rf /var/lib/apt/lists/*
# 3️⃣ 複製需求檔並安裝
COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt
# 4️⃣ 複製程式碼
COPY . .
# 5️⃣ 暴露端口並啟動
EXPOSE 8000
CMD ["uvicorn", "main:app", "--host", "0.0.0.0", "--port", "8000"]
#### 需求檔範例（requirements.txt）
fastapi==0.111.0
uvicorn[standard]==0.30.0
scikit-learn==1.5.0
pandas==2.2.2
numpy==1.26.4
### 8.2.3 產生與推送映像
bash
# 1️⃣ 建構映像
docker build -t carprice:latest .
# 2️⃣ 測試本機執行
docker run -p 8000:8000 carprice:latest
# 3️⃣ 推送至私有/公有 registry
docker tag carprice:latest registry.example.com/carprice:latest
docker push registry.example.com/carprice:latest
## 8.3 容器編排：Kubernetes
### 8.3.1 基本架構
- **Deployment**：管理副本數量、滾動更新。
- **Service**：提供穩定 DNS 名稱與負載平衡。
- **Ingress**：對外流量入口，支援 TLS、路由。
- **Horizontal Pod Autoscaler (HPA)**：自動水平擴展。
### 8.3.2 範例 YAML
yaml
apiVersion: apps/v1
kind: Deployment
metadata:
name: carprice-deploy
spec:
replicas: 3
selector:
matchLabels:
app: carprice
template:
metadata:
labels:
app: carprice
spec:
containers:
- name: carprice
image: registry.example.com/carprice:latest
ports:
- containerPort: 8000
resources:
limits:
cpu: "500m"
memory: "512Mi"
requests:
cpu: "250m"
memory: "256Mi"
yaml
apiVersion: v1
kind: Service
metadata:
name: carprice-svc
spec:
type: ClusterIP
selector:
app: carprice
ports:
- protocol: TCP
port: 80
targetPort: 8000
yaml
apiVersion: networking.k8s.io/v1
kind: Ingress
metadata:
name: carprice-ingress
spec:
rules:
- host: carprice.example.com
http:
paths:
- path: /
pathType: Prefix
backend:
service:
name: carprice-svc
port:
number: 80
### 8.3.3 進階：Helm Charts
Helm 允許將上述資源打包為可重複部署的 Chart，並支援參數化、版本管理。
yaml
# values.yaml
replicaCount: 3
image:
repository: registry.example.com/carprice
tag: latest
service:
type: ClusterIP
port: 80
執行：
bash
helm install carprice ./carprice-chart
## 8.4 CI/CD：自動化部署
### 8.4.1 GitHub Actions 範例
yaml
name: CI/CD for CarPrice Model
on:
push:
branches: [main]
jobs:
build-and-deploy:
runs-on: ubuntu-latest
steps:
- uses: actions/checkout@v4
- name: Set up Docker Buildx
uses: docker/setup-buildx-action@v3
- name: Login to Docker Registry
uses: docker/login-action@v3
with:
registry: registry.example.com
username: ${{ secrets.REGISTRY_USER }}
password: ${{ secrets.REGISTRY_PASS }}
- name: Build and push Docker image
uses: docker/build-push-action@v5
with:
context: .
push: true
tags: registry.example.com/carprice:latest
- name: Apply Kubernetes manifests
uses: azure/k8s-set-context@v2
with:
method: kubeconfig
kubeconfig: ${{ secrets.KUBE_CONFIG }}
- run: |
kubectl rollout restart deployment/carprice-deploy
### 8.4.2 Jenkins Pipeline 範例
groovy
pipeline {
agent any
stages {
stage('Build') {
steps {
sh 'docker build -t registry.example.com/carprice:latest .'
sh 'docker push registry.example.com/carprice:latest'
}
}
stage('Deploy') {
steps {
sh 'kubectl rollout restart deployment/carprice-deploy'
}
}
}
}
## 8.5 監控與可觀測性
| 監控指標 | 來源 | 目的 |
|---|---|---|
| **Latency** | Prometheus + Grafana | 追蹤 API 響應時間，確保 SLA |
| **Throughput** | Prometheus | 監測每秒請求數，判斷資源瓶頸 |
| **Error Rate** | Prometheus | 捕捉 5xx/4xx 失敗率 |
| **CPU / Memory** | Node Exporter | 監測容器資源使用 |
| **Prediction Error** | MLflow | 跟蹤實際成交價 vs 預測價，檢測模型漂移 |
| **Model Drift** | Custom Prometheus alert | 監測特徵分布改變、預測分布變化 |
> **工具鏈**：Prometheus（指標收集）、Grafana（可視化）、Alertmanager（告警）與 MLflow（模型實驗與版本）。
### 8.5.1 設定 Prometheus 與 Grafana
yaml
# prometheus.yaml
scrape_configs:
- job_name: 'kubernetes-service-endpoints'
kubernetes_sd_configs:
- role: endpoints
relabel_configs:
- source_labels: [__meta_kubernetes_service_label_app]
action: keep
regex: carprice
yaml
# grafana-dashboard.json (簡化示例)
{
"title": "CarPrice Service Dashboard",
"panels": [
{
"title": "Request Latency",
"type": "graph",
"targets": [{"expr": "histogram_quantile(0.95, sum(rate(http_request_duration_seconds_bucket[5m])) by (le) )"}]
}
]
}
## 8.6 版本管理與回滾
| 版本管理工具 | 優勢 |
|---|---|
| **MLflow Model Registry** | 版本化、Stage 管理、審批、測試 |
| **DVC** | 資料版本化、模型檔案管理、CI 整合 |
| **Git LFS** | 大型模型檔案存儲、檢出速度 |
### 8.6.1 MLflow 範例
python
import mlflow
mlflow.set_tracking_uri("http://mlflow.example.com")
with mlflow.start_run() as run:
model = train_model(X, y)
mlflow.sklearn.log_model(model, "model")
mlflow.log_metric("rmse", rmse)
# 在 UI 中將 Run 設為 Staging / Production
### 8.6.2 回滾流程
1. **自動化檢測**：當監控指標異常時，觸發自動回滾。<br>
2. **手動回滾**：使用 Helm `helm rollback carprice <revision>` 或 K8s `kubectl rollout undo deployment/carprice-deploy`。<br>
3. **灰度發布**：使用 Canary 或 Blue/Green，將流量逐步轉移至新版本，確保無重大問題後再完成切換。
## 8.7 安全與合規
- **Secrets Management**：使用 Kubernetes Secrets、HashiCorp Vault 或 cloud provider 的 Secret Manager。<br>
- **RBAC**：限制誰可以部署、更新模型。<br>
- **Image Scanning**：利用 Trivy、Clair 等工具檢查映像漏洞。<br>
- **網路政策**：限制 Pod 間通信，防止資料外洩。<br>
- **合規日誌**：儲存模型決策日誌，方便審計。
## 8.8 實戰案例：二手車價格預測
| 步驟 | 內容 |
|---|---|
| 1️⃣ 產生模型 | 使用 `XGBoostRegressor` 訓練，保存為 `.pkl`。 |
| 2️⃣ 打包 | 將模型與 `requirements.txt`、`main.py` 放入 Dockerfile。 |
| 3️⃣ 推送 | 推至 `registry.example.com/carprice`。 |
| 4️⃣ 部署 | 透過 Helm 在 K8s 上部署 `replicaCount: 3`。 |
| 5️⃣ 監控 | Prometheus + Grafana 監測 latency & error；MLflow 追蹤 rmse。 |
| 6️⃣ CI/CD | GitHub Actions 於 `main` push 時自動 Build → Push → `kubectl rollout restart`。 |
| 7️⃣ 回滾 | 當 rmse > 5000 時自動切換回上一版。 |
## 8.9 小結
- **容器化** 是部署的基礎，Docker 能快速包裝模型與依賴。<br>
- **Kubernetes** 提供彈性擴容與高可用，Helm 使配置更易維護。<br>
- **CI/CD** 保障每一次提交都能自動化測試、建構、部署。<br>
- **監控** 讓我們能即時發現性能或模型漂移問題，並透過回滾機制降低風險。<br>
- **版本管理** 讓模型變更可追蹤、可重現，符合科學實驗與合規需求。<br>
- **安全** 需要從 Secrets、RBAC、掃描到網路政策全方位考量。<br>
> **實務提醒**：在真正的商業環境，ModelOps 需要與業務團隊、DevOps 團隊、法務合規團隊緊密協作，才能將模型真正落地、持續營運。