Il tuo LLM: accesso all’endpoint e provider di riserva

Il tuo LLM si configura con URL base compatibile OpenAI, nome del modello e chiave API. La scelta non cambia dove viene eseguita l’applicazione.

Configura e verifica l’endpoint

Usa l’URL documentato e l’identificatore esatto. L’applicazione aggiunge /chat/completions. Prova la connessione nelle impostazioni con dati fittizi prima delle email reali.

Ollama locale offre, ad esempio, http://localhost:11434/v1, raggiungibile solo da processi che accedono alla stessa interfaccia di loopback. Il servizio ospitato non raggiunge il tuo computer. La protezione attuale in produzione rifiuta indirizzi privati e di loopback nelle impostazioni personalizzate. Non pubblicare un server privo di autenticazione per aggirarla.

Verifica il provider di riserva

Il codice può aggiungere il provider predefinito come riserva di un endpoint personale. Una richiesta fallita può essere tentata altrove. Scegliere un modello non ne dimostra l’utilizzo esclusivo.

Per elaborazione solo locale, verifica deployment, modello, catena completa dei provider e richieste in uscita osservate, anche simulando un guasto con dati fittizi. Un’API locale può servire modelli cloud Ollama: controlla il modello reale.

Rivedi le categorie dopo cambiamenti

Il classificatore usa mittente, oggetto ed estratto limitato. Sceglie una categoria o nessuna. Verifica corrispondenze, esclusioni e casi incerti dopo un cambio di modello. Questa pagina non offre classifiche di precisione misurata dei provider.

Vedi Ollama, smistamento privato e mittenti.