LM Studio
LM Studio 是本地推理伺服器端而不是用戶端 —— 說明它的正確角色與替代做法
最後更新於:
LM Studio 常被當成「又一個聊天用戶端」,其實方向是反的:它是本地模型執行器,對外暴露一個 OpenAI 相容介面(預設 http://localhost:1234/v1),讓別人來連它。它沒有「填一個遠端 Base URL」的入口,所以無法作為用戶端接入 aicentos。
為什麼不能直接接入
- 官方定位是
Serve local models on OpenAI-like endpoints,伺服器端角色,不是消費方。 - 桌面端、
lmsCLI 裡都沒有第三方 provider 的端點設定項。 - 它的雲端能力(LM Studio Secure Cloud、LM Link)是官方託管的算力通道,不接受自訂第三方端點。
需要填寫的設定
| 欄位 | 值 |
|---|---|
| API Key | 控制台建立的 Key |
| Base URL | https://aicentos.com/v1 |
| 模型 | 控制台「模型廣場」中的模型名 |
上表是 aicentos 側的通用參數,供下面的替代方案使用。
替代方案
方案一:反過來用——讓用戶端連 LM Studio
如果你想跑本地模型,保持 LM Studio 當伺服器端,把 Cherry Studio、Chatbox、Cline 的 Base URL 填成 http://localhost:1234/v1。這條鏈路和 aicentos 無關,但它是 LM Studio 的正確用法。
方案二:要 aicentos 的模型,就換前端
Cherry Studio、Chatbox、LobeChat 都是桌面聊天用戶端,支援多 provider 並存:一條填 aicentos,一條填本地 LM Studio,同一個介面裡切換。
方案三:本地與雲端混用
用 Cherry Studio 這類用戶端同時掛兩個 provider,簡單任務走本地、複雜任務走 aicentos,按需切換即可。
測試
把 LM Studio 當伺服器端時,先 lms server start,再用 curl http://localhost:1234/v1/models 確認介面活著,然後在用戶端裡發一句提示詞。
注意事項
- 別在 LM Studio 裡找 Base URL 輸入框,它只顯示自己監聽的位址。
- 本地模型的上下文與速度受本機顯示記憶體限制,長上下文任務建議走 aicentos。
- 兩個方向別混淆:伺服器端填連接埠,用戶端填端點。