aicentosKimchi
Подключение к aicentos в Kimchi — смена адреса инференса через llmEndpoint и границы возможностей
Обновлено:
Kimchi — терминальный кодинг-агент, также есть расширение для VS Code и десктопное приложение Studio. В его конфигурации есть поле llmEndpoint со значением по умолчанию https://llm.kimchi.dev; изменив его, можно отправлять запросы инференса в другое место.
Важная оговорка: официальная документация описывает llmEndpoint только как адрес инференса и не обещает, что он может указывать на произвольный сторонний OpenAI-совместимый шлюз. Описанный ниже способ работает в сообществе, но это «настройка по смыслу поля», а не официально поддерживаемый путь BYOK; после обновления он может перестать работать.
Подготовка
Сначала создайте в консоли отдельный ключ для Kimchi (рекомендуемое имя kimchi), затем установите CLI:
brew install getkimchi/tap/kimchiИли через установочный скрипт:
curl -fsSL https://github.com/getkimchi/kimchi/releases/latest/download/install.sh | bashКонфигурация для заполнения
| Поле | Значение |
|---|---|
llmEndpoint | https://aicentos.com/v1 |
apiKey | ключ, созданный в консоли |
| Модель | имя модели из «витрины моделей» в консоли |
Шаги настройки
Файл конфигурации находится в ~/.config/kimchi/config.json; можно также положить проектный .kimchi/config.json, который его переопределяет:
{
"apiKey": "sk-ваш-API-ключ",
"llmEndpoint": "https://aicentos.com/v1"
}Кастомные модели регистрируются в models.json, формат такой же, как у self-hosted провайдеров вроде vLLM и LM Studio. Полная спецификация полей официально не опубликована, поэтому сначала добейтесь работы с моделью по умолчанию и только потом добавляйте собственные записи.
После изменений перезапустите kimchi.
Проверка
После запуска отправьте один промпт в сессии. Если возвращается 401, сначала проверьте, нет ли в ключе лишних пробелов; если 404 — проверьте, что llmEndpoint указан только до /v1.
Затем вернитесь в консоль и посмотрите расход — это ключевой шаг: если расход не вырос, значит запросы вообще не идут через llmEndpoint, а откатываются на эндпоинт по умолчанию; в этом случае для текущей версии такой путь не работает.
Примечания
- Kimchi требует входа в собственный аккаунт;
apiKeyи состояние входа в аккаунт — разные вещи, не делайте только половину. - Внешние модели по умолчанию обрабатываются как уровень
standardиvision: false, поэтому мультимодальные модели здесь не передают изображения. - Модель по умолчанию выбирает его собственный harness, поэтому указать конкретное имя модели на aicentos может не получиться.
- Официально этот путь в документации не описан: «работает, но без гарантий». Для продакшена предусмотрите запасной вариант.