Kimchi
在 Kimchi 裡接入 aicentos —— 用 llmEndpoint 改推理位址,附能力邊界說明
最後更新於:
Kimchi 是終端機編碼代理,也提供 VS Code 擴充套件和 Studio 桌面端。它的設定裡有一個 llmEndpoint 欄位,預設指向 https://llm.kimchi.dev,改掉它就能把推理請求發到別處。
需要提前說明:官方文件只把 llmEndpoint 描述為推理位址,沒有承諾它可以指向任意第三方 OpenAI 相容閘道。下面的做法在社群裡可用,但屬於「按欄位語意設定」,不是官方支援的 BYOK 路徑,升級後可能失效。
準備工作
先在控制台為 Kimchi 建一個專用 Key(建議命名 kimchi),再安裝 CLI:
brew install getkimchi/tap/kimchi或者用安裝腳本:
curl -fsSL https://github.com/getkimchi/kimchi/releases/latest/download/install.sh | bash需要填寫的設定
| 欄位 | 值 |
|---|---|
llmEndpoint | https://aicentos.com/v1 |
apiKey | 控制台建立的 Key |
| 模型 | 控制台「模型廣場」中的模型名 |
設定步驟
設定檔在 ~/.config/kimchi/config.json,也可以放專案層級 .kimchi/config.json 覆寫:
{
"apiKey": "sk-你的-API-Key",
"llmEndpoint": "https://aicentos.com/v1"
}自訂模型登記在 models.json,格式與 vLLM、LM Studio 那類自建 provider 相同。欄位規範官方沒有完整公開,建議先用預設模型跑通,再考慮加自訂條目。
改完重新啟動 kimchi。
測試
啟動後在工作階段裡發一句提示詞。若回報 401,先確認 Key 沒有多餘空格;若回報 404,檢查 llmEndpoint 是否只寫到 /v1。
再回控制台看用量——這是關鍵一步:如果用量沒有成長,說明請求根本沒走 llmEndpoint,而是回落到預設端點,此時這條路對目前版本不成立。
注意事項
- Kimchi 需要登入自己的帳號,
apiKey與帳號登入狀態是兩件事,別只做一半。 - 外部模型預設按
standard檔處理、vision: false,多模態模型在這裡不會帶圖。 - 預設模型由它自己的 harness 自動挑選,你可能沒辦法直接指定 aicentos 上的某個模型名。
- 官方未把這條路寫進文件,屬於「能用但不保證」,生產環境請準備回退方案。