Skip to Content
aicentos

LM Studio

LM Studio 是本地推理伺服器端而不是用戶端 —— 說明它的正確角色與替代做法

最後更新於:

LM Studio 常被當成「又一個聊天用戶端」,其實方向是反的:它是本地模型執行器,對外暴露一個 OpenAI 相容介面(預設 http://localhost:1234/v1),讓別人來連它。它沒有「填一個遠端 Base URL」的入口,所以無法作為用戶端接入 aicentos。

為什麼不能直接接入

  • 官方定位是 Serve local models on OpenAI-like endpoints,伺服器端角色,不是消費方。
  • 桌面端、lms CLI 裡都沒有第三方 provider 的端點設定項。
  • 它的雲端能力(LM Studio Secure Cloud、LM Link)是官方託管的算力通道,不接受自訂第三方端點。

需要填寫的設定

欄位值
API Key控制台建立的 Key
Base URLhttps://aicentos.com/v1
模型控制台「模型廣場」中的模型名

上表是 aicentos 側的通用參數,供下面的替代方案使用。

替代方案

方案一:反過來用——讓用戶端連 LM Studio

如果你想跑本地模型,保持 LM Studio 當伺服器端,把 Cherry Studio、Chatbox、Cline 的 Base URL 填成 http://localhost:1234/v1。這條鏈路和 aicentos 無關,但它是 LM Studio 的正確用法。

方案二:要 aicentos 的模型,就換前端

Cherry Studio、Chatbox、LobeChat 都是桌面聊天用戶端,支援多 provider 並存:一條填 aicentos,一條填本地 LM Studio,同一個介面裡切換。

方案三:本地與雲端混用

用 Cherry Studio 這類用戶端同時掛兩個 provider,簡單任務走本地、複雜任務走 aicentos,按需切換即可。

測試

把 LM Studio 當伺服器端時,先 lms server start,再用 curl http://localhost:1234/v1/models 確認介面活著,然後在用戶端裡發一句提示詞。

注意事項

  • 別在 LM Studio 裡找 Base URL 輸入框,它只顯示自己監聽的位址。
  • 本地模型的上下文與速度受本機顯示記憶體限制,長上下文任務建議走 aicentos。
  • 兩個方向別混淆:伺服器端填連接埠,用戶端填端點。

相關連結