Unsloth

Unsloth 是开源的模型微调与本地推理框架，附带桌面 App 和 Unsloth Studio（浏览器界面）。它的 Connections 面板看起来像「模型供应商设置」，但只能填本地或自建端点，云端供应商是一份固定名单，没有「任意 OpenAI 兼容 URL」这一项，因此无法把推理请求指向 aicentos。

为什么不能直接接入复制锚点链接

• Studio 的 Settings → Connections → Add Provider 里可选的是 llama.cpp、vLLM、Ollama 这类本地/自建服务，填的 Base URL 形如 http://localhost:8000/v1。
• 云端方向是一份固定清单（OpenAI、Anthropic、OpenRouter、ChatGPT/Codex）+ API Key，没有自定义端点入口。
• 官方文档里「remote OpenAI-compatible endpoint」指的是你自己部署的推理服务，不是第三方聚合网关。
• 方向上它也偏服务端：Unsloth 自己对外提供 OpenAI 兼容 API，是给别人连的。

需要填写的配置复制锚点链接

上表是 aicentos 侧的通用参数，供下面的替代方案使用。

替代方案复制锚点链接

方案一：训练归训练，聊天归聊天复制锚点链接

用 Unsloth 做微调和本地推理，用 Cherry Studio、Chatbox 这类客户端接 aicentos 做日常对话。两者互不干扰。

方案二：本地起服务，前端接它复制锚点链接

Unsloth 暴露的是 OpenAI 兼容接口。unsloth 服务起在本地后，把客户端的 Base URL 填成它的地址（例如 http://localhost:8000/v1），和填 aicentos 是同一套操作。

方案三：要对比效果就换前端复制锚点链接

想比较「本地微调模型」和「aicentos 上的通用模型」，用一个支持多 provider 并存的客户端最省事，同界面切换。

测试复制锚点链接

本地服务起来后先 curl http://localhost:8000/v1/models 确认接口活着，再在客户端里发一句提示词。

注意事项复制锚点链接

• 别把 Studio 的 Connections 当成 BYOK 面板，它管的是本地运行时。
• 本地推理吃硬件，长上下文和大批量任务建议走 aicentos。
• 官方文档没有「用第三方 API 生成训练数据」的流程说明，别按这个思路规划流水线。

相关链接复制锚点链接

• Unsloth Connections 文档
• unsloth 仓库