Ollama-integrasjon
Fungerer med Ollama
Bruk denne veiledningen til å konfigurere Ollama som en lokal AI-leverandør for ReplyRabbit i FreeScout. Ollama lar ReplyRabbit be om AI-utkast fra en modell som kjører på din egen maskinvare.
Ser du etter oversikten?
Oversikt
Ollama er et lokalt leverandøralternativ i ReplyRabbit. Lokale leverandører krever ingen API-nøkkel. I stedet trenger ReplyRabbit en lokal server-URL og et modellnavn som finnes på Ollama-serveren.
Standard Ollama-URL er http://localhost:11434. Bruk den URL-en med mindre den installerte ReplyRabbit-versjonen din dokumenterer et annet støttet lokalt oppsett.
Forutsetninger
Før du starter, må du sørge for at du har:
- En fungerende FreeScout-installasjon.
- ReplyRabbit installert og aktivert.
- ReplyRabbit Pro eller Team, som inkluderer lokale leverandører.
- Ollama installert og kjører der ReplyRabbit kan nå det.
- En modell installert i Ollama.
Hvis du fortsatt velger mellom sky- og lokale leverandører, les Velge en AI-leverandør.
Krav for lokal oppsett
Ollama må være tilgjengelig for PHP-prosessen som kjører FreeScout. ReplyRabbit setter Ollama som standard til http://localhost:11434; bruk en annen URL bare når din installerte versjon dokumenterer det oppsettet.
Ikke anta at vilkårlige LAN-vertsnavn eller porter vil bli akseptert. Bruk standard-URL med mindre den installerte ReplyRabbit-versjonen din dokumenterer en annen støttet oppsett.
Koble til Ollama
Start Ollama
Start Ollama og bekreft at modellen du vil bruke er tilgjengelig i den lokale serveren.Åpne ReplyRabbit-innstillinger
I FreeScout, åpne postkassen, gå til Innstillinger, og velg ReplyRabbit.Velg Ollama
I AI-leverandør kortet, velg Ollama (lokal).Bekreft server-URL-en
Brukhttp://localhost:11434med mindre din installerte ReplyRabbit-versjon dokumenterer en annen støttet Ollama-URL.Velg eller skriv inn modellen
Velg et modellalternativ eller bruk det tilpassede modellfeltet. Modellen må finnes i den kjørende Ollama-serveren.Lagre og test
Lagre innstillingene, åpne en FreeScout-samtale og generer et utkast. Gjennomgå resultatet før du bruker Ollama på en travel postkasse.
Konfigurasjonsnotater
- API-nøkkel: ikke nødvendig for Ollama.
- Server-URL: standard til
http://localhost:11434. - Modell: må samsvare med et installert Ollama-modellnavn.
- Kvalitet: avhenger av modellen og maskinvaren du kjører.
- Budsjett: tokenbruk kan fortsatt registreres av ReplyRabbit, men Ollama selv tar ikke betalt per token.
Bruksområder
- Hold AI-generering på maskinvare du kontrollerer.
- Test lokal modellkvalitet før du bruker den til en produksjonspostkasse.
- Unngå fakturering per token hos skybaserte leverandører for støttede lokale arbeidsflyter.
Feilsøking
| Symptom | Hva du bør sjekke |
|---|---|
| Ugyldig Ollama-URL | Bruk http://localhost:11434 med mindre din installerte versjon dokumenterer en annen støttet lokal URL. |
| Modellen ble ikke funnet | Bekreft at modellnavnet eksisterer i Ollama og samsvarer med ReplyRabbit-innstillingen. |
| Generering av utkast går ut på tid | Prøv en mindre modell, sjekk serverressursene og bekreft at Ollama kjører. |
| Utdatakvaliteten er svak | Test en sterkere lokal modell eller bytt postkassen tilbake til en skyleverandør. |
| Ollama er deaktivert i innstillingene | Bekreft at postkassen er på ReplyRabbit Pro eller Team. |
For bredere rettelser, se Feilsøking av ReplyRabbit.
Merknader om personvern og sikkerhet
Ollama holder genereringen lokal når serveren og modellen kjører på din egen maskinvare. Det kan hjelpe med datalokalitet, men du må fortsatt sikre maskinen, FreeScout og eventuelle lokale tjenester som kan få tilgang til supportinnhold.
Hvis du eksponerer Ollama utover localhost, bekreft at ReplyRabbit-versjonen din støtter det oppsettet og at endepunktet ikke er tilgjengelig for ubetrodde brukere.
Neste trinn
- Gjennomgå Ollama-integrasjon for FreeScout side når du trenger oversikten over arbeidsflyt og kjøp.
- Sammenlign avveininger mellom lokal og sky i Velge en AI-leverandør.
- Fortsett med Hvordan sette opp ReplyRabbit hvis firmakontekst, eksempler eller budsjetter fortsatt trenger oppmerksomhet.
FAQ
Krever Ollama en API-nøkkel?
Nei. ReplyRabbit bruker en Ollama-server-URL og modellnavn i stedet for en API-nøkkel for en skyleverandør.
Hvilken Ollama-URL bør jeg bruke?
Bruk http://localhost:11434 med mindre din installerte ReplyRabbit-versjon dokumenterer et annet støttet lokalt oppsett.
Kan jeg bruke hvilket som helst modellnavn?
Modellnavnet må samsvare med en modell som er tilgjengelig i din kjørende Ollama-server.
Er Ollama tilgjengelig på gratisnivået?
Nei. Lokale leverandører er tilgjengelige på ReplyRabbit Pro og Team.