Skip to Content
aicentos

Kimchi

在 Kimchi 裡接入 aicentos —— 用 llmEndpoint 改推理位址,附能力邊界說明

最後更新於:

Kimchi 是終端機編碼代理,也提供 VS Code 擴充套件和 Studio 桌面端。它的設定裡有一個 llmEndpoint 欄位,預設指向 https://llm.kimchi.dev,改掉它就能把推理請求發到別處。

需要提前說明:官方文件只把 llmEndpoint 描述為推理位址,沒有承諾它可以指向任意第三方 OpenAI 相容閘道。下面的做法在社群裡可用,但屬於「按欄位語意設定」,不是官方支援的 BYOK 路徑,升級後可能失效。

準備工作

先在控制台為 Kimchi 建一個專用 Key(建議命名 kimchi),再安裝 CLI:

brew install getkimchi/tap/kimchi

或者用安裝腳本:

curl -fsSL https://github.com/getkimchi/kimchi/releases/latest/download/install.sh | bash

需要填寫的設定

欄位值
llmEndpointhttps://aicentos.com/v1
apiKey控制台建立的 Key
模型控制台「模型廣場」中的模型名

設定步驟

設定檔在 ~/.config/kimchi/config.json,也可以放專案層級 .kimchi/config.json 覆寫:

{
  "apiKey": "sk-你的-API-Key",
  "llmEndpoint": "https://aicentos.com/v1"
}

自訂模型登記在 models.json,格式與 vLLM、LM Studio 那類自建 provider 相同。欄位規範官方沒有完整公開,建議先用預設模型跑通,再考慮加自訂條目。

改完重新啟動 kimchi。

測試

啟動後在工作階段裡發一句提示詞。若回報 401,先確認 Key 沒有多餘空格;若回報 404,檢查 llmEndpoint 是否只寫到 /v1。

再回控制台看用量——這是關鍵一步:如果用量沒有成長,說明請求根本沒走 llmEndpoint,而是回落到預設端點,此時這條路對目前版本不成立。

注意事項

  • Kimchi 需要登入自己的帳號,apiKey 與帳號登入狀態是兩件事,別只做一半。
  • 外部模型預設按 standard 檔處理、vision: false,多模態模型在這裡不會帶圖。
  • 預設模型由它自己的 harness 自動挑選,你可能沒辦法直接指定 aicentos 上的某個模型名。
  • 官方未把這條路寫進文件,屬於「能用但不保證」,生產環境請準備回退方案。

相關連結