1️⃣ Model Deployment Là Gì? 🧭

Model Deployment là quá trình:

• Đóng gói mô hình đã train ✅

• Đưa mô hình lên môi trường production (server, cloud, app...) 🏗️

• Cho phép hệ thống khác (website, CRM, workflow) gọi mô hình để dự đoán real-time hoặc batch 🛰️

Có 2 hướng chính:

📌 Ở môi trường doanh nghiệp, thường cả 2 hướng sẽ được dùng song song.

2️⃣ Chuẩn Bị Trước Khi Deploy 🧠

“Garbage model in = Garbage service out.”

Trước khi triển khai, bạn phải đảm bảo:

• ✅ Model đã được versioning rõ ràng (checkpoint, hyperparams, metrics).

• ✅ Feature pipeline ở prod phải giống y hệt pipeline lúc training.

• ✅ Xác định rõ interface đầu vào/đầu ra: input schema, output format.

• ✅ Đặt ra các performance target (latency, throughput, availability).

• ✅ Chuẩn bị tài nguyên tính toán phù hợp (CPU/GPU, memory...).

📌 Nếu bỏ qua bước này, khả năng “model chạy local ngon, lên server là crash” là 99% 😬

3️⃣ Các Cách Đưa Mô Hình Lên Production 🧱

3.1 Triển khai qua REST API 🌐

Phổ biến nhất. Dùng framework như FastAPI, Flask, Django để tạo endpoint gọi mô hình.

📌 Ví dụ Flask:

from flask import Flask, request, jsonify
import joblib

app = Flask(__name__)
model = joblib.load("churn_model.pkl")

@app.route('/predict', methods=['POST'])
def predict():
    data = request.get_json()
    X = preprocess(data)
    y_pred = model.predict_proba([X])[0][1]
    return jsonify({"churn_probability": y_pred})

if __name__ == '__main__':
    app.run(port=8000)

→ Deploy lên VPS hoặc Docker container → các hệ thống khác gọi qua HTTP 🚀

3.2 Triển khai Batch Jobs ⏰

Chạy mô hình định kỳ (daily/weekly) → ghi kết quả vào DB / Data Warehouse / dashboard.

📌 Ví dụ: pipeline hàng đêm dự đoán churn cho toàn bộ khách hàng → ghi điểm churn vào bảng customer_score → team marketing dùng để gửi email giữ chân sáng hôm sau.

Có thể dùng:

• Airflow

• Cron jobs

• Cloud Scheduler + Cloud Functions

3.3 Triển khai Qua Serverless & Cloud ☁️

• AWS Lambda, Google Cloud Functions → cho mô hình nhẹ, scale linh hoạt

• Vertex AI, SageMaker, Azure ML → triển khai model dạng managed service

Ưu điểm: dễ scale, không cần quản lý hạ tầng nhiều
Nhược điểm: chi phí & hạn chế custom nếu model lớn

4️⃣ MLOps – “DevOps Của Thế Giới Machine Learning” 🧠⚙️

MLOps = Machine Learning + Operations
→ là tập hợp các thực hành để tự động hóa & quản lý vòng đời model gồm:

1. Data Versioning 🧾 → DVC, Git LFS

2. Model Versioning 🧠 → MLflow, Weights & Biases

3. CI/CD Pipeline 🛠️ → Tự động test, build, deploy model khi có thay đổi

4. Feature Store 📂 → Tái sử dụng feature giữa training & inference

5. Monitoring & Alerting 🚨 → Kiểm tra hiệu suất model sau khi deploy

6. Retraining Pipeline 🔄 → Tự động retrain khi có data mới

📌 MLOps biến model từ “file notebook” thành một hệ thống sống, chạy ổn định lâu dài.

5️⃣ Monitoring – “Không Theo Dõi Là Toang” 🚨

Sau khi deploy, bạn cần giám sát:

📌 Ví dụ: nếu churn model bắt đầu tụt AUC từ 0.86 → 0.74 sau 2 tháng → báo hiệu drift → cần retrain 📈

6️⃣ Retraining Pipeline 🔄

Mô hình không phải “train 1 lần là xong”. Bạn cần thiết lập pipeline retrain định kỳ:

1. Thu thập data mới hàng tuần/tháng 📅

2. Chạy cleaning + feature pipeline 🧼

3. Train model mới 🧠

4. Evaluate → nếu tốt hơn → deploy thay thế 🚀

5. Ghi log version cũ để rollback nếu cần

📌 Airflow hoặc CI/CD pipeline sẽ tự động hóa toàn bộ quá trình này → không cần “train thủ công”.

7️⃣ Ví Dụ Thực Tế – Triển Khai Churn Model 🧪

Bối cảnh: Công ty E-commerce muốn tự động phát hiện khách hàng có nguy cơ rời bỏ.

Pipeline:

• 🧱 Train churn model (logistic regression) offline

• 🏗️ Đóng gói thành REST API (FastAPI) → deploy lên VPS Docker

• ⏰ Hàng đêm Airflow gọi API cho toàn bộ khách hàng → ghi điểm churn vào DB

• 📈 Dashboard Power BI đọc bảng churn score → team marketing gửi email tự động

• 🚨 Monitoring AUC drift mỗi tuần → retrain nếu cần

Kết quả:

• Tự động scoring > 500k user/ngày

• Giảm churn rate 15% sau 3 tháng

• Team marketing không cần động tay vào notebook 🎯

📝 Kết Luận

Deployment & MLOps là bước biến mô hình từ ý tưởng → hệ thống sống thực tế, nơi:

• 🧠 Mô hình được đóng gói, triển khai chuẩn hóa

• 🔁 Có pipeline tự động từ data đến retrain

• 🚨 Có monitoring để không bị drift âm thầm

• 🧱 Tích hợp chặt chẽ với hệ thống doanh nghiệp

👉 Làm chủ module này, bạn không chỉ là Data Scientist, mà là Machine Learning Engineer thực thụ 🚀

📞 Hotline: 0352.433.233
🌐 mcivietnam.com
📺 youtube.com/@HocVienMCI
👥 facebook.com/groups/dataaivn