# Unsloth

Nguồn: https://docs.aicentos.com/vi/clients/unsloth

Language: vi

> Unsloth là framework tinh chỉnh và suy luận cục bộ, không phải client trò chuyện —— giải thích lý do không kết nối được aicentos

Unsloth là framework tinh chỉnh mô hình và suy luận cục bộ mã nguồn mở, kèm ứng dụng desktop và Unsloth Studio (giao diện trình duyệt). Bảng `Connections` của nó trông giống "cài đặt nhà cung cấp mô hình", nhưng **chỉ điền được endpoint cục bộ hoặc tự dựng, nhà cung cấp cloud là một danh sách cố định**, không có mục "URL tương thích OpenAI bất kỳ", vì vậy không thể trỏ yêu cầu suy luận về aicentos.

## Vì sao không thể kết nối trực tiếp

* Trong `Settings → Connections → Add Provider` của Studio, có thể chọn là các **dịch vụ cục bộ/tự dựng** như llama.cpp, vLLM, Ollama, Base URL điền có dạng `http://localhost:8000/v1`.
* Hướng cloud là một danh sách cố định (OpenAI, Anthropic, OpenRouter, ChatGPT/Codex) + API Key, không có chỗ nhập endpoint tùy chỉnh.
* "remote OpenAI-compatible endpoint" trong tài liệu chính thức chỉ **dịch vụ suy luận do chính bạn triển khai**, không phải gateway tổng hợp bên thứ ba.
* Về hướng, nó cũng nghiêng về máy chủ: Unsloth tự cung cấp API tương thích OpenAI để người khác kết nối tới.

## Cấu hình cần điền

| Trường   | Giá trị                                      |
| -------- | -------------------------------------------- |
| API Key  | Key tạo trong Console                        |
| Base URL | `https://aicentos.com/v1`                    |
| Mô hình  | tên mô hình trong "Model Square" của Console |

Bảng trên là tham số chung phía aicentos, dùng cho phương án thay thế dưới đây.

## Phương án thay thế

### Phương án 1: Huấn luyện ra huấn luyện, trò chuyện ra trò chuyện

Dùng Unsloth để tinh chỉnh và suy luận cục bộ, dùng các client như [Cherry Studio](https://docs.aicentos.com/vi/clients/cherry-studio), [Chatbox](https://docs.aicentos.com/vi/clients/chatbox) để kết nối aicentos cho hội thoại hàng ngày. Hai bên không ảnh hưởng lẫn nhau.

### Phương án 2: Dựng dịch vụ cục bộ, để frontend kết nối tới

Unsloth mở ra giao diện tương thích OpenAI. Sau khi dịch vụ `unsloth` chạy cục bộ, điền Base URL của client thành địa chỉ của nó (ví dụ `http://localhost:8000/v1`), thao tác giống hệt khi điền aicentos.

### Phương án 3: Muốn so sánh hiệu quả thì đổi frontend

Muốn so sánh "mô hình tinh chỉnh cục bộ" với "mô hình phổ thông trên aicentos", dùng một client hỗ trợ nhiều provider cùng tồn tại là tiết kiệm công nhất, chuyển đổi ngay trong cùng giao diện.

## Kiểm tra

Sau khi dịch vụ cục bộ khởi động, trước tiên `curl http://localhost:8000/v1/models` xác nhận giao diện còn sống, rồi gửi một câu prompt trong client.

## Lưu ý

* Đừng coi `Connections` của Studio là bảng BYOK, nó quản lý runtime cục bộ.
* Suy luận cục bộ ngốn phần cứng, tác vụ ngữ cảnh dài và khối lượng lớn khuyến nghị đi aicentos.
* Tài liệu chính thức không có mô tả quy trình "dùng API bên thứ ba sinh dữ liệu huấn luyện", đừng lập kế hoạch pipeline theo hướng này.

## Liên kết liên quan

* [Tài liệu Unsloth Connections](https://unsloth.ai/docs/integrations/connections)
* [Kho unsloth](https://github.com/unslothai/unsloth)