Ollama-integration
Fungerar med Ollama
Använd den här guiden för att konfigurera Ollama som lokal AI-leverantör för ReplyRabbit i FreeScout. Ollama låter ReplyRabbit begära AI-utkast från en modell som körs på din egen hårdvara.
Letar du efter översikten?
Översikt
Ollama är ett lokalt leverantörsalternativ i ReplyRabbit. Lokala leverantörer kräver ingen API-nyckel. Istället behöver ReplyRabbit en lokal server-URL och ett modellnamn som finns i Ollama-servern.
Standard-URL:en för Ollama är http://localhost:11434. Använd den URL:en om inte din installerade ReplyRabbit-version dokumenterar en annan lokalt stödd konfiguration.
Förutsättningar
Innan du börjar, se till att du har:
- En fungerande FreeScout-installation.
- ReplyRabbit installerat och aktiverat.
- ReplyRabbit Pro eller Team, vilket inkluderar lokala leverantörer.
- Ollama installerad och igång där ReplyRabbit kan nå den.
- En modell installerad i Ollama.
Om du fortfarande väljer mellan moln- och lokala leverantörer, läs Välja en AI-leverantör.
Krav för lokal installation
Ollama måste vara nåbar av PHP-processen som kör FreeScout. ReplyRabbit ställer in Ollama som standard till http://localhost:11434; använd en annan URL endast när din installerade version dokumenterar den konfigurationen.
Anta inte att godtyckliga LAN-värdnamn eller portar accepteras. Använd standard-URL:en om inte din installerade ReplyRabbit-version dokumenterar en annan supportad konfiguration.
Anslut Ollama
Starta Ollama
Starta Ollama och bekräfta att modellen du vill använda är tillgänglig i den lokala servern.Öppna ReplyRabbit-inställningar
I FreeScout, öppna brevlådan, gå till Inställningar, och välj ReplyRabbit.Välj Ollama
I AI-leverantör kortet, välj Ollama (Lokal).Bekräfta server-URL:en
Användhttp://localhost:11434om inte din installerade ReplyRabbit-version dokumenterar en annan Ollama-URL som stöds.Välj eller ange modellen
Välj ett modellalternativ eller använd fältet för anpassad modell. Modellen måste finnas i den körande Ollama-servern.Spara och testa
Spara inställningarna, öppna en FreeScout-konversation och generera ett utkast. Granska resultatet innan du använder Ollama på en upptagen mailbox.
Konfigurationsanteckningar
- API-nyckel: krävs inte för Ollama.
- Server-URL: standardvärdet är
http://localhost:11434. - Modell: måste matcha ett installerat Ollama-modellnamn.
- Kvalitet: beror på modellen och hårdvaran du kör.
- Budget: tokenanvändning kan fortfarande registreras av ReplyRabbit, men Ollama självt debiterar inte per token.
Användningsfall
- Behåll AI-generering på hårdvara du kontrollerar.
- Testa lokal modellkvalitet innan du använder den för en produktionsbrevlåda.
- Undvik fakturering per token hos molnleverantörer för arbetsflöden som stöds lokalt.
Felsökning
| Symptom | Vad man ska kontrollera |
|---|---|
| Ogiltig Ollama-URL | Använd http://localhost:11434 om inte din installerade version dokumenterar en annan lokal URL som stöds. |
| Modellen hittades inte | Bekräfta att modellnamnet finns i Ollama och matchar ReplyRabbit-inställningen. |
| Generering av utkast tar timeout | Prova en mindre modell, kontrollera serverresurserna och bekräfta att Ollama körs. |
| Utdatakvaliteten är svag | Testa en starkare lokal modell eller byt brevlådan tillbaka till en molnleverantör. |
| Ollama är inaktiverad i inställningarna | Bekräfta att brevlådan är på ReplyRabbit Pro eller Team. |
För bredare åtgärder, se Felsökning av ReplyRabbit.
Anteckningar om integritet och säkerhet
Ollama håller genereringen lokal när servern och modellen körs på din egen hårdvara. Det kan hjälpa med datalokalitet, men du måste fortfarande säkra maskinen, FreeScout och alla lokala tjänster som kan komma åt supportinnehåll.
Om du exponerar Ollama utanför localhost, bekräfta att din ReplyRabbit-version stöder den konfigurationen och att endpointen inte är nåbar av obetrodda användare.
Nästa steg
- Granska Ollama-integration för FreeScout sidan när du behöver översikten över arbetsflödet och köpet.
- Jämför avvägningar mellan lokalt och moln i Välja en AI-leverantör.
- Fortsätt med Hur du konfigurerar ReplyRabbit om företagskontext, exempel eller budgetar fortfarande behöver ses över.
Vanliga frågor
Kräver Ollama en API-nyckel?
Nej. ReplyRabbit använder en Ollama-server-URL och ett modellnamn istället för en molnleverantörs API-nyckel.
Vilken Ollama-URL ska jag använda?
Använd http://localhost:11434 om inte din installerade ReplyRabbit-version dokumenterar en annan lokal konfiguration som stöds.
Kan jag använda vilket modellnamn som helst?
Modellnamnet måste matcha en modell som är tillgänglig i din körande Ollama-server.
Är Ollama tillgängligt på Free-nivån?
Nej. Lokala leverantörer är tillgängliga på ReplyRabbit Pro och Team.