Integrazione Ollama
Funziona con Ollama
Usa questa guida per configurare Ollama come provider AI locale per ReplyRabbit in FreeScout. Ollama consente a ReplyRabbit di richiedere bozze AI a un modello in esecuzione sul tuo hardware.
Cerchi la panoramica?
Panoramica
Ollama è un'opzione di provider locale in ReplyRabbit. I provider locali non richiedono una chiave API. Invece, ReplyRabbit necessita di un URL del server locale e di un nome di modello esistente nel server Ollama.
L'URL Ollama predefinito è http://localhost:11434. Usa quell'URL a meno che la versione di ReplyRabbit installata non documenti un'altra configurazione locale supportata.
Prerequisiti
Prima di iniziare, assicurati di avere:
- Un'installazione FreeScout funzionante.
- ReplyRabbit installato e attivato.
- ReplyRabbit Pro o Team, che include i provider locali.
- Ollama installato e in esecuzione dove ReplyRabbit può raggiungerlo.
- Un modello installato in Ollama.
Se stai ancora scegliendo tra provider cloud e locali, leggi Scelta di un provider AI.
Requisiti di configurazione locale
Ollama deve essere raggiungibile dal processo PHP che esegue FreeScout. ReplyRabbit imposta Ollama per impostazione predefinita su http://localhost:11434; usa un altro URL solo quando la tua versione installata documenta quella configurazione.
Non dare per scontato che nomi host o porte LAN arbitrari vengano accettati. Usa l'URL predefinito a meno che la tua build installata di ReplyRabbit non documenti una configurazione supportata diversa.
Collega Ollama
Avvia Ollama
Avvia Ollama e conferma che il modello che vuoi usare sia disponibile nel server locale.Apri le impostazioni di ReplyRabbit
In FreeScout, apri la casella, vai su Impostazioni, e scegli ReplyRabbit.Scegli Ollama
Nel Provider AI scheda, seleziona Ollama (locale).Conferma l'URL del server
Usahttp://localhost:11434a meno che la versione di ReplyRabbit installata non documenti un altro URL Ollama supportato.Scegli o inserisci il modello
Seleziona un'opzione di modello o usa il campo del modello personalizzato. Il modello deve esistere nel server Ollama in esecuzione.Salva e verifica
Salva le impostazioni, apri una conversazione FreeScout e genera una bozza. Rivedi il risultato prima di usare Ollama su una casella molto attiva.
Note di configurazione
- Chiave API: non richiesto per Ollama.
- URL del server: predefinito a
http://localhost:11434. - Modello: deve corrispondere a un nome di modello Ollama installato.
- Qualità: dipende dal modello e dall'hardware che utilizzi.
- Budget: l'utilizzo dei token può comunque essere registrato da ReplyRabbit, ma Ollama stesso non addebita per token.
Casi d'uso
- Mantieni la generazione AI su hardware che controlli.
- Verifica la qualità del modello locale prima di usarlo per una casella di posta di produzione.
- Evita la fatturazione per token dei provider cloud per i flussi di lavoro locali supportati.
Risoluzione dei problemi
| Sintomo | Cosa controllare |
|---|---|
| URL Ollama non valido | Usa http://localhost:11434 a meno che la versione installata non documenti un altro URL locale supportato. |
| Modello non trovato | Conferma che il nome del modello esista in Ollama e corrisponda all'impostazione di ReplyRabbit. |
| La generazione della bozza va in timeout | Prova un modello più piccolo, controlla le risorse del server e conferma che Ollama sia in esecuzione. |
| La qualità dell'output è debole | Prova un modello locale più potente o riporta la casella di posta a un provider cloud. |
| Ollama è disattivato nelle impostazioni | Conferma che la casella di posta sia su ReplyRabbit Pro o Team. |
Per correzioni più ampie, vedi Risoluzione dei problemi di ReplyRabbit.
Note su privacy e sicurezza
Ollama mantiene la generazione in locale quando il server e il modello vengono eseguiti sul tuo hardware. Questo può aiutare con la località dei dati, ma devi comunque proteggere la macchina, FreeScout e qualsiasi servizio locale che possa accedere ai contenuti del supporto.
Se esponi Ollama oltre localhost, verifica che la tua versione di ReplyRabbit supporti quella configurazione e che l'endpoint non sia raggiungibile da utenti non fidati.
Prossimi passi
- Rivedi il Integrazione Ollama per FreeScout pagina quando ti serve la panoramica del flusso di lavoro e dell'acquisto.
- Confronta i compromessi tra locale e cloud in Scelta di un provider AI.
- Continua con Come configurare ReplyRabbit se il contesto aziendale, gli esempi o i budget richiedono ancora attenzione.
FAQ
Ollama richiede una chiave API?
No. ReplyRabbit utilizza un URL del server Ollama e un nome di modello invece di una chiave API di un provider cloud.
Quale URL di Ollama dovrei usare?
Usa http://localhost:11434 a meno che la versione di ReplyRabbit installata non documenti un'altra configurazione locale supportata.
Posso usare qualsiasi nome di modello?
Il nome del modello deve corrispondere a un modello disponibile nel tuo server Ollama in esecuzione.
Ollama è disponibile nel piano Free?
No. I provider locali sono disponibili su ReplyRabbit Pro e Team.