Ollama-integratie
Werkt met Ollama
Gebruik deze handleiding om Ollama te configureren als lokale AI-provider voor ReplyRabbit in FreeScout. Met Ollama kan ReplyRabbit AI-concepten opvragen bij een model dat op je eigen hardware draait.
Op zoek naar het overzicht?
Overzicht
Ollama is een lokale provideroptie in ReplyRabbit. Lokale providers vereisen geen API-sleutel. In plaats daarvan heeft ReplyRabbit een lokale server-URL en een modelnaam nodig die bestaat in de Ollama-server.
De standaard Ollama-URL is http://localhost:11434. Gebruik die URL tenzij je geïnstalleerde ReplyRabbit-versie een andere ondersteunde lokale configuratie documenteert.
Vereisten
Voordat je begint, zorg dat je het volgende hebt:
- Een werkende FreeScout-installatie.
- ReplyRabbit geïnstalleerd en geactiveerd.
- ReplyRabbit Pro of Team, inclusief lokale providers.
- Ollama geïnstalleerd en actief waar ReplyRabbit het kan bereiken.
- Een model geïnstalleerd in Ollama.
Als je nog tussen cloud- en lokale providers kiest, lees dan Een AI-provider kiezen.
Vereisten voor lokale installatie
Ollama moet bereikbaar zijn voor het PHP-proces dat FreeScout draait. ReplyRabbit stelt Ollama standaard in op http://localhost:11434; gebruik alleen een andere URL wanneer je geïnstalleerde versie die configuratie documenteert.
Ga er niet van uit dat willekeurige LAN-hostnamen of poorten worden geaccepteerd. Gebruik de standaard-URL tenzij uw geïnstalleerde ReplyRabbit-build een andere ondersteunde configuratie documenteert.
Ollama verbinden
Start Ollama
Start Ollama en bevestig dat het model dat je wilt gebruiken beschikbaar is in de lokale server.ReplyRabbit-instellingen openen
Open in FreeScout de mailbox en ga naar Instellingen, en kies ReplyRabbit.Kies Ollama
In de AI-provider kaart, selecteer Ollama (lokaal).Bevestig de server-URL
Gebruikhttp://localhost:11434tenzij je geïnstalleerde ReplyRabbit-versie een andere ondersteunde Ollama-URL documenteert.Kies of voer het model in
Selecteer een modeloptie of gebruik het veld voor een aangepast model. Het model moet bestaan in de draaiende Ollama-server.Opslaan en testen
Sla de instellingen op, open een FreeScout-gesprek en genereer een concept. Beoordeel het resultaat voordat je Ollama gebruikt op een drukke mailbox.
Configuratieopmerkingen
- API-sleutel: niet vereist voor Ollama.
- Server-URL: standaard ingesteld op
http://localhost:11434. - Model: moet overeenkomen met een geïnstalleerde Ollama-modelnaam.
- Kwaliteit: hangt af van het model en de hardware die je draait.
- Budget: tokengebruik kan nog steeds door ReplyRabbit worden geregistreerd, maar Ollama zelf rekent niet per token.
Gebruikssituaties
- Houd AI-generatie op hardware die je zelf beheert.
- Test de kwaliteit van een lokaal model voordat je het voor een productiemailbox gebruikt.
- Vermijd facturering per token bij cloudproviders voor ondersteunde lokale workflows.
Probleemoplossing
| Symptoom | Wat te controleren |
|---|---|
| Ongeldige Ollama-URL | Gebruik http://localhost:11434 tenzij je geïnstalleerde versie een andere ondersteunde lokale URL documenteert. |
| Model niet gevonden | Bevestig dat de modelnaam bestaat in Ollama en overeenkomt met de ReplyRabbit-instelling. |
| Het genereren van concepten treedt buiten de tijdslimiet | Probeer een kleiner model, controleer serverbronnen en bevestig dat Ollama draait. |
| Uitvoerkwaliteit is zwak | Test een sterker lokaal model of schakel de mailbox terug naar een cloudprovider. |
| Ollama is uitgeschakeld in de instellingen | Bevestig dat de mailbox op ReplyRabbit Pro of Team staat. |
Voor bredere oplossingen, zie Probleemoplossing ReplyRabbit.
Privacy- en beveiligingsopmerkingen
Ollama houdt generatie lokaal wanneer de server en het model op je eigen hardware draaien. Dat kan helpen bij datalokaliteit, maar je moet nog steeds de machine, FreeScout en alle lokale diensten die toegang hebben tot supportinhoud beveiligen.
Als je Ollama buiten localhost beschikbaar stelt, controleer dan of je ReplyRabbit-versie die opzet ondersteunt en of het endpoint niet bereikbaar is voor niet-vertrouwde gebruikers.
Volgende stappen
- Beoordeel de Ollama-integratie voor FreeScout pagina wanneer je het overzicht van de workflow en de aankoop nodig hebt.
- Vergelijk lokale en cloud-afwegingen in Een AI-provider kiezen.
- Ga verder met Hoe je ReplyRabbit instelt als bedrijfscontext, voorbeelden of budgetten nog aandacht nodig hebben.
FAQ
Vereist Ollama een API-sleutel?
Nee. ReplyRabbit gebruikt een Ollama-server-URL en modelnaam in plaats van een API-sleutel van een cloudprovider.
Welke Ollama-URL moet ik gebruiken?
Gebruik http://localhost:11434 tenzij je geïnstalleerde ReplyRabbit-versie een andere ondersteunde lokale setup documenteert.
Kan ik elke modelnaam gebruiken?
De modelnaam moet overeenkomen met een model dat beschikbaar is in je draaiende Ollama-server.
Is Ollama beschikbaar op het Free-abonnement?
Nee. Lokale providers zijn beschikbaar op ReplyRabbit Pro en Team.