✅ OpenAI-compatible API là gì?
- Hiểu đơn giản: Nó là API bắt chước (mô phỏng) y hệt API chính thức của OpenAI.
- Tức là: Đường dẫn (
/v1/chat/completions), cấu trúc JSON (model,messages,temperature…), kiểu phản hồi (usage,choices…) giống OpenAI thật 100%.
🎯 Tại sao cần OpenAI-compatible?
Vì:
- Bạn có thể thay thế OpenAI = LLM tự chạy mà không cần sửa code client.
- Ví dụ: Ứng dụng đã dùng
openaiPython SDK hay gọicurlchuẩn → Giờ chỉ cần đổibase_urllà xong. - Không lo chi phí token của OpenAI.
- Linh hoạt tự host LLM riêng (GPT, LLaMA, Mistral, Gemma…) trên GPU của bạn.