OpenAI-compatible

✅ OpenAI-compatible API là gì?

  • Hiểu đơn giản: Nó là API bắt chước (mô phỏng) y hệt API chính thức của OpenAI.
  • Tức là: Đường dẫn (/v1/chat/completions), cấu trúc JSON (modelmessagestemperature…), kiểu phản hồi (usagechoices…) giống OpenAI thật 100%.

🎯 Tại sao cần OpenAI-compatible?

Vì:

  • Bạn có thể thay thế OpenAI = LLM tự chạy mà không cần sửa code client.
  • Ví dụ: Ứng dụng đã dùng openai Python SDK hay gọi curl chuẩn → Giờ chỉ cần đổi base_url là xong.
  • Không lo chi phí token của OpenAI.
  • Linh hoạt tự host LLM riêng (GPT, LLaMA, Mistral, Gemma…) trên GPU của bạn.

Viết một bình luận