aicentosHindsight
Модели aicentos для сервиса памяти Hindsight — четыре переменные окружения и OpenAI-совместимый протокол
Обновлено:
Hindsight — открытая система памяти для агентов: self-hosted сервис, HTTP / MCP интерфейсы, SDK и CLI. Сам по себе это не чат-клиент, но для извлечения памяти нужен LLM, и этот LLM можно направить на aicentos.
Подготовка
Сначала создайте в консоли отдельный ключ для Hindsight (рекомендуемое имя hindsight).
- Консоль: https://aicentos.com
- Создание ключа: https://aicentos.com/keys
- Пополнение кошелька: https://aicentos.com/wallet
Серверной части Hindsight нужен PostgreSQL 14 или новее. Встроенный pg0 подходит только для разработки; в продакшене подключайте собственный экземпляр.
pip install hindsight-apiКонфигурация для заполнения
| Переменная окружения | Значение |
|---|---|
HINDSIGHT_API_LLM_PROVIDER | openai |
HINDSIGHT_API_LLM_BASE_URL | https://aicentos.com/v1 |
HINDSIGHT_API_LLM_API_KEY | ключ, созданный в консоли |
HINDSIGHT_API_LLM_MODEL | имя модели из «витрины моделей» в консоли |
Шаги настройки
Достаточно прописать их в окружении запуска, код менять не нужно:
export HINDSIGHT_API_LLM_PROVIDER="openai"
export HINDSIGHT_API_LLM_BASE_URL="https://aicentos.com/v1"
export HINDSIGHT_API_LLM_API_KEY="sk-ваш-API-ключ"
export HINDSIGHT_API_LLM_MODEL="имя-модели"
hindsight-apiПри развёртывании в Docker поместите эти переменные в environment в compose. Учтите, что официальный образ не содержит llama.cpp — не рассчитывайте запускать локальные модели в контейнере.
Проверка
curl -fsSL https://hindsight.vectorize.io/get-cli | bash
hindsight healthПосле запуска сервиса запишите одну память и извлеките её обратно: если это проходит, вызовы LLM работают нормально. Можно также просто смотреть расход в консоли — каждое извлечение памяти у Hindsight порождает один запрос.
Примечания
BASE_URLдолжен заканчиваться на/v1, и апстрим должен обслуживать/chat/completions; вариантhttps://aicentos.comдаст 404.- Без настроенного LLM Key сервис откажется запускаться — это его обязательная проверка, а не признак неверно заполненного ключа.
- Извлечение памяти — фоновая пакетная обработка, расход растёт вместе с числом записей, поэтому для Hindsight лучше завести отдельный ключ: так удобнее наблюдать.
HINDSIGHT_API_LLM_PROVIDERсо значениемopenaiозначает использование OpenAI-совместимого протокола, а не то, что доступны только модели OpenAI.