客户端接入
Kimchi
在 Kimchi 里接入 aicentos —— 用 llmEndpoint 改推理地址,附能力边界说明
最后更新于:
Kimchi 是终端编码代理,也提供 VS Code 扩展和 Studio 桌面端。它的配置里有一个 llmEndpoint 字段,默认指向 https://llm.kimchi.dev,改掉它就能把推理请求发到别处。
需要提前说明:官方文档只把 llmEndpoint 描述为推理地址,没有承诺它可以指向任意第三方 OpenAI 兼容网关。下面的做法在社区里可用,但属于「按字段语义配置」,不是官方支持的 BYOK 路径,升级后可能失效。
准备工作
先在控制台为 Kimchi 建一个专用 Key(建议命名 kimchi),再安装 CLI:
brew install getkimchi/tap/kimchi或者用安装脚本:
curl -fsSL https://github.com/getkimchi/kimchi/releases/latest/download/install.sh | bash需要填写的配置
| 字段 | 值 |
|---|---|
llmEndpoint | https://aicentos.com/v1 |
apiKey | 控制台创建的 Key |
| 模型 | 控制台「模型广场」中的模型名 |
配置步骤
配置文件在 ~/.config/kimchi/config.json,也可以放项目级 .kimchi/config.json 覆盖:
{
"apiKey": "sk-你的-API-Key",
"llmEndpoint": "https://aicentos.com/v1"
}自定义模型登记在 models.json,格式与 vLLM、LM Studio 那类自建 provider 相同。字段规范官方没完整公开,建议先用默认模型跑通,再考虑加自定义条目。
改完重新启动 kimchi。
测试
启动后在会话里发一句提示词。若报 401,先确认 Key 没有多余空格;若报 404,检查 llmEndpoint 是否只写到 /v1。
再回控制台看用量——这是关键一步:如果用量没有增长,说明请求根本没走 llmEndpoint,而是回落到默认端点,此时这条路对当前版本不成立。
注意事项
- Kimchi 需要登录自己的账号,
apiKey与账号登录态是两件事,别只做一半。 - 外部模型默认按
standard档处理、vision: false,多模态模型在这里不会带图。 - 默认模型由它自己的 harness 自动挑选,你可能没法直接指定 aicentos 上的某个模型名。
- 官方未把这条路写进文档,属于「能用但不保证」,生产环境请准备回退方案。