one-api / new-api tự lưu trữ so với AI Gateway quản lý: chi phí, vận hành và bảo mật
«Có nên tự dựng một one-api?» Gần như team nào kết nối nhiều mô hình cũng gặp câu hỏi này. Câu trả lời trên mạng phân cực: phe open source nói «dựng có 30 phút», phe dịch vụ quản lý nói «tự lưu trữ là tự đào hố cho mình». Cả hai đều có lý nhưng đều bỏ qua ngữ cảnh quyết định. Bài này đưa ra khung quyết định trung thực — chúng tôi tự vận hành một gateway quản lý (4-4 AI, xây trên hệ sinh thái new-api), nên sẽ ghi rõ những phán đoán có lợi cho chúng tôi để bạn tự điều chỉnh theo dữ liệu của mình.
Trước hết phân biệt ba khái niệm
- one-api: gateway mã nguồn mở cho mô hình lớn. Giao thức tương thích OpenAI, quản lý đa kênh, phát hành token;
- new-api: nhánh phát triển thứ cấp của one-api, thích ứng kênh và chức năng tính tiền phong phú hơn;
- Gateway quản lý (như 4-4 AI): bên khác vận hành các hệ thống trên giúp bạn và bổ sung năng lượng thương mại (thanh toán, mã thẻ, báo cáo sử dụng, sẵn sàng cao) — bạn chỉ nạp tiền và dùng.
Bản chất, khác biệt giữa tự lưu trữ và quản lý không nằm ở tính năng, mà ở ai gánh trách nhiệm vận hành và rủi ro sự cố.
Chiều 1: mô hình chi phí — «danh sách chi phí ẩn» của tự lưu trữ
Chi phí lộ rõ của tự lưu trữ rất đơn giản: một server + một cơ sở dữ liệu. Khác biệt thật nằm ở phần ẩn:
| Hạng mục chi phí | Tự lưu trữ | Quản lý |
|---|---|---|
| Server + cơ sở dữ liệu | Trả theo tháng, gồm cả lưu trữ backup | Không (gồm trong phí dịch vụ) |
| Nâng cấp phiên bản và vá bảo mật | Mỗi lần nâng cấp tự thực hiện, lỗi thì tự rollback | Nền tảng đảm nhiệm, người dùng không phải biết |
| Bảo trì kênh | Bên thượng nguồn đổi giao diện/địa chỉ thì tự sửa cấu hình kênh | Nền tảng giữ sức khỏe kênh |
| Ứng phó sự cố | Nửa đêm dậy tự sửa | SLA / trực của nền tảng |
| Sao lưu và diễn tập phục hồi | Phải tự xây và thực sự diễn tập | Trách nhiệm của nền tảng |
| Củng cố an ninh | Lộ cơ sở dữ liệu, mật khẩu yếu, truy cập trái phép: tất cả tự phòng | Chuẩn cơ sở của nền tảng |
Một cách ước tính thực dụng:
self-host monthly cost = server fee
+ monthly maintenance hours x your hourly rate
+ expected loss of one major incident (downtime x business loss)
Chỉ cần viết rõ hai mục hai và ba, kết luận của đa số team nhỏ sẽ đảo ngược — khi mức sử dụng chưa lớn, tự lưu trữ «miễn phí» thực ra đắt hơn. Ngược lại, nếu bạn có nhân sự vận hành riêng, lượng dùng lớn và yêu cầu mạnh về chủ quyền dữ liệu, công thức tự lưu trữ có thể đứng.
Chiều 2: vận hành — những việc bạn thật sự phải làm sau khi tự lưu trữ
Nhiều hướng dẫn chỉdemo «docker run một dòng là chạy» rồi bỏ qua mọi thứ phía sau. Lấy new-api làm ví dụ, vận hành lâu dài ít nhất gồm:
- Lớp dữ liệu: chiến lược backup cho MySQL/SQLite, giám sát dung lượng đĩa — cài lại server mà không có backup là mất sạch cấu hình kênh, token, dữ liệu người dùng (loại sự cố này không hiếm trong thảo luận cộng đồng);
- Giám sát tiến trình: đăng ký dịch vụ systemd hoặc orchestration container để tự khởi động lại sau reboot — deploy chỉ chạy
nohupsẽ mất cùng lúc server restart; - Nền an ninh: database không lắng nghe trên mạng công cộng, đổi mật khẩu mặc định của bảng điều khiển, cài và gia hạn chứng chỉ HTTPS, xoay vòng log;
- Nhịp nâng cấp: dự án thượng nguồn cập nhật thường xuyên; bản nâng cấp đổi schema database phải backup trước rồi mới làm;
- Khả năng quan sát: thống kê sử dụng, cảnh báo gọi bất thường, giám sát tỉ lệ thành công kênh — đều phải tự xây.
Với giải pháp quản lý, năm việc này không tồn tại. Cái giá: chấp nhận quy tắc và mức giá của nền tảng.
Chiều 3: bảo mật — nơi khác biệt trách nhiệm lớn nhất
Các mô hình sự cố an ninh của gateway tự lưu trữ lặp lại rất giống nhau:
- Cơ sở dữ liệu (ví dụ MySQL 3306) mở thẳng ra internet, bị quét và dò brute-force;
- Bảng điều khiển vẫn dùng mật khẩu quản trị mặc định, token bị phát hành tùy tiện;
- Khóa (key kênh thượng nguồn) lưu dạng văn bản thuần trong biến môi trường hoặc file cấu hình và rò rỉ theo repo.
Nền tảng quản lý biến những việc đó thành trách nhiệm của nền tảng. Nếu tự lưu trữ, ít nhất hãy: database chỉ lắng nghe trên 127.0.0.1, đổi mọi mật khẩu mặc định, bật HTTPS, xuất backup database định kỳ sang máy khác. Bốn điều này chặn được tuyệt đại đa số sự cố.
Chiều 4: ma trận quyết định — chọn theo giai đoạn của bạn
| Tình trạng của bạn | Khuyến nghị |
|---|---|
| Dự án cá nhân / team nhỏ, không có vận hành riêng | Gateway quản lý. Chi phí ẩn vượt xa phí dịch vụ; ưu tiên tốc độ ra mắt |
| Team cỡ trung, lượng dùng tăng ổn định | Trước hết xác thực mô hình kinh doanh bằng dịch vụ quản lý; khi chi phí gateway thành một khoản đáng kể, đánh giá lại tự lưu trữ |
| Có team vận hành + lượng dùng lớn + yêu cầu chủ quyền dữ liệu | Tự lưu trữ là hợp lý. Khuyến nghị: fork dựa trên new-api, bổ sung hệ vận hành theo danh sách trên |
| Kinh doanh bán lại truy cập API | Hai đầu khó xử: tự lưu trữ kiểm soát được nhưng gánh nặng trách nhiệm; với dịch vụ quản lý, kiểm tra trước thanh toán đa thuê bao và mã thẻ |
Còn một con đường giữa: dùng dịch vụ quản lý để xác thực mô hình kinh doanh trước, giữ nguồn lực kỹ thuật cho sản phẩm lõi; khi lượng dùng chứng minh đáng giá thì chuyển sang tự lưu trữ. Lớp gateway tương thích OpenAI nên chi phí chuyển đổi chỉ là một lần đổi Base URL.
Câu hỏi thường gặp (FAQ)
one-api hay new-api để tự lưu trữ?
Đa số hệ sinh thái phân nhánh (gồm cả nền tảng kỹ thuật của chúng tôi) đã chuyển sang new-api với khả năng thích ứng kênh tích cực hơn. Nhưng chọn nhánh nào cũng không thay đổi sự thật rằng «toàn bộ vận hành do bạn gánh».
Tự lưu trữ thật sự tiết kiệm hơn không?
Hãy tính theo công thức trên, đừng chỉ nhìn tiền server. Giờ công bảo trì và tổn thất kỳ vọng do sự cố thường chiếm phần lớn. Lượng dùng càng lớn và năng lực vận hành càng mạnh thì tự lưu trữ mới càng lời.
Gateway quản lý có chậm hơn tự lưu trữ không?
Cùng cấp datacenter thì độ trễ chuyển tiếp của cả hai đều ở mức mili giây; nút thắt thường nằm ở mô hình thượng nguồn chứ không phải lớp gateway. Khi chọn, nên chú ý hơn đến độ ổn định kênh và khả năng chuyển dự phòng.
Chuyển từ tự lưu trữ sang quản lý có phiền không?
Phía nghiệp vụ chỉ cần đổi Base URL từ domain tự lưu trữ sang địa chỉ dịch vụ quản lý và thay khóa — giao thức tương thích hoàn toàn, code nghiệp vụ giữ nguyên.
Bài viết liên quan
Một khóa cho GLM, DeepSeek, Qwen và các mô hình hàng đầu: thanh toán hợp nhất và trực quan hóa mức sử dụng.
Xem mô hình và giá Dùng thử miễn phí