Votre LLM : accès à l’endpoint et fournisseur de secours

Votre propre LLM se configure avec une URL de base compatible OpenAI, un nom de modèle et une clé API. Ce choix ne change pas où l’application fonctionne.

Configurer et tester l’endpoint

Utilisez l’URL documentée et l’identifiant exact du modèle. L’application ajoute /chat/completions. Testez la connexion dans les paramètres avec une entrée fictive avant des données de boîte réelles.

Ollama local expose par exemple http://localhost:11434/v1, accessible uniquement depuis un processus atteignant la même interface de boucle locale. Le service hébergé n’atteint pas votre ordinateur. Le contrôle actuel de production refuse les adresses privées et de boucle locale dans les paramètres personnalisés. N’exposez pas un serveur sans authentification pour contourner cette limite.

Vérifier le secours configuré

Le code peut ajouter le fournisseur par défaut comme secours d’un endpoint personnalisé. Une requête échouée peut donc être tentée ailleurs. Choisir un modèle ne démontre pas son utilisation exclusive.

Pour un traitement uniquement local, vérifiez déploiement, modèle, chaîne complète de fournisseurs et requêtes sortantes observées, y compris une panne simulée avec données fictives. Une API locale peut aussi servir des modèles cloud Ollama : vérifiez le modèle réel.

Revoir les catégories après un changement

Le classificateur utilise expéditeur, objet et extrait limité. Il choisit une catégorie ou aucune. Vérifiez cas positifs, exclus et ambigus après un changement. Cette page ne fournit pas de classement mesuré de précision des fournisseurs.

Voir Ollama, le tri privé et les expéditeurs.