Tích hợp LLM trên Miracle Network
Chọn model, quản lý token, failover và chi phí — hướng dẫn cho team vận hành AI.
Tích hợp LLM trên Miracle Network
Miracle Network hỗ trợ nhiều nhà cung cấp LLM (cloud và tùy chọn self-host Ollama trong gói enterprise). Agent và node AI dùng cùng lớp cấu hình credential.
Chọn model
| Nhu cầu | Gợi ý |
|---|---|
| Chat CSKH, FAQ | Model nhỏ, latency thấp |
| Phân tích tài liệu dài | Model context window lớn |
| Code / automation | Model coder chuyên biệt |
Đặt default ở workspace; override per-agent khi cần.
Token và chi phí
- Giới hạn
max_tokenstrên agent public-facing. - Cache prompt system không đổi.
- Monitor usage theo workspace — alert khi vượt budget tháng.
Failover
Cấu hình model dự phòng khi primary timeout — workflow critical nên có fallback trả lời cố định thay vì im lặng.
Đọc tiếp: Custom tools · AI agent