Hindsight
Configurer les modèles aicentos pour le service de mémoire Hindsight — quatre variables d'environnement suffisent, compatible OpenAI
Dernière mise à jour:
Hindsight est un système de mémoire pour agents open source, qui fournit un service auto-hébergé, des interfaces HTTP / MCP, un SDK et un CLI. Ce n'est pas un client de chat en soi, mais l'extraction de la mémoire nécessite un LLM, et ce LLM peut pointer vers aicentos.
Prérequis
Créez d'abord dans la console une clé dédiée pour Hindsight (nommez-la par exemple hindsight).
- Console : https://aicentos.com
- Créer une clé : https://aicentos.com/keys
- Recharger le portefeuille : https://aicentos.com/wallet
Le serveur Hindsight nécessite PostgreSQL 14 ou supérieur. Son pg0 intégré ne convient qu'au développement ; en production, connectez votre propre instance.
pip install hindsight-apiConfiguration à renseigner
| Variable d'environnement | Valeur |
|---|---|
HINDSIGHT_API_LLM_PROVIDER | openai |
HINDSIGHT_API_LLM_BASE_URL | https://aicentos.com/v1 |
HINDSIGHT_API_LLM_API_KEY | clé créée dans la console |
HINDSIGHT_API_LLM_MODEL | nom du modèle dans la « place de marché des modèles » de la console |
Étapes de configuration
Il suffit de les écrire dans l'environnement de démarrage, sans modifier le code :
export HINDSIGHT_API_LLM_PROVIDER="openai"
export HINDSIGHT_API_LLM_BASE_URL="https://aicentos.com/v1"
export HINDSIGHT_API_LLM_API_KEY="sk-votre-clé-API"
export HINDSIGHT_API_LLM_MODEL="votre-nom-de-modèle"
hindsight-apiEn déploiement Docker, placez ces variables dans le champ environment du compose. À noter : l'image officielle n'inclut pas llama.cpp, ne comptez pas faire tourner un modèle local dans le conteneur.
Test
curl -fsSL https://hindsight.vectorize.io/get-cli | bash
hindsight healthUne fois le service démarré, écrivez une mémoire puis relisez-la : si l'aller-retour fonctionne, l'appel au LLM est opérationnel. Vous pouvez aussi consulter directement la consommation dans la console : chaque extraction de mémoire par Hindsight génère une requête.
Remarques
BASE_URLdoit se terminer par/v1, et l'amont doit pouvoir servir/chat/completions; avechttps://aicentos.com, vous obtiendrez une 404.- Sans clé LLM configurée, le service refuse de démarrer : c'est une validation obligatoire de son côté, pas une clé mal saisie.
- L'extraction de mémoire est un traitement par lots en arrière-plan ; la consommation croît avec le nombre de mémoires. Il est conseillé de donner à Hindsight une clé dédiée pour l'observer facilement.
HINDSIGHT_API_LLM_PROVIDERàopenaidésigne le protocole compatible OpenAI, et non l'usage exclusif de modèles OpenAI.