Ollama-Integration
Funktioniert mit Ollama
Verwenden Sie diese Anleitung, um Ollama als lokalen KI-Anbieter für ReplyRabbit in FreeScout zu konfigurieren. Ollama ermöglicht es ReplyRabbit, KI-Entwürfe von einem Modell anzufordern, das auf Ihrer eigenen Hardware läuft.
Suchen Sie die Übersicht?
Übersicht
Ollama ist eine lokale Anbieteroption in ReplyRabbit. Lokale Anbieter erfordern keinen API-Schlüssel. Stattdessen benötigt ReplyRabbit eine lokale Server-URL und einen Modellnamen, der im Ollama-Server existiert.
Die Standard-Ollama-URL ist http://localhost:11434. Verwenden Sie diese URL, es sei denn, Ihre installierte ReplyRabbit-Version dokumentiert ein anderes unterstütztes lokales Setup.
Voraussetzungen
Bevor Sie beginnen, stellen Sie sicher, dass Sie haben:
- Eine funktionierende FreeScout-Installation.
- ReplyRabbit installiert und aktiviert.
- ReplyRabbit Pro oder Team, was lokale Anbieter einschließt.
- Ollama ist installiert und läuft dort, wo ReplyRabbit es erreichen kann.
- Ein in Ollama installiertes Modell.
Wenn Sie noch zwischen Cloud- und lokalen Anbietern schwanken, lesen Sie Einen KI-Anbieter auswählen.
Anforderungen für die lokale Einrichtung
Ollama muss vom PHP-Prozess, der FreeScout ausführt, erreichbar sein. ReplyRabbit setzt Ollama standardmäßig auf http://localhost:11434; verwenden Sie eine andere URL nur, wenn Ihre installierte Version dieses Setup dokumentiert.
Gehen Sie nicht davon aus, dass beliebige LAN-Hostnamen oder Ports akzeptiert werden. Verwenden Sie die Standard-URL, sofern Ihre installierte ReplyRabbit-Version kein anderes unterstütztes Setup dokumentiert.
Ollama verbinden
Ollama starten
Starten Sie Ollama und bestätigen Sie, dass das gewünschte Modell im lokalen Server verfügbar ist.ReplyRabbit-Einstellungen öffnen
Öffnen Sie in FreeScout das Postfach, gehen Sie zu Einstellungen, und wählen Sie ReplyRabbit.Ollama auswählen
In der KI-Anbieter Karte, wählen Sie Ollama (lokal).Server-URL bestätigen
Verwendenhttp://localhost:11434es sei denn, Ihre installierte ReplyRabbit-Version dokumentiert eine andere unterstützte Ollama-URL.Das Modell auswählen oder eingeben
Wähle eine Modelloption oder verwende das Feld für ein benutzerdefiniertes Modell. Das Modell muss im laufenden Ollama-Server vorhanden sein.Speichern und testen
Speichere die Einstellungen, öffne eine FreeScout-Konversation und generiere einen Entwurf. Prüfe das Ergebnis, bevor du Ollama in einem stark frequentierten Postfach einsetzt.
Konfigurationshinweise
- API-Schlüssel: nicht erforderlich für Ollama.
- Server-URL: standardmäßig
http://localhost:11434. - Modell: muss mit einem installierten Ollama-Modellnamen übereinstimmen.
- Qualität: hängt vom Modell und der Hardware ab, auf der Sie es betreiben.
- Budget: Die Token-Nutzung kann weiterhin von ReplyRabbit erfasst werden, aber Ollama selbst berechnet nicht pro Token.
Anwendungsfälle
- Behalte die KI-Generierung auf Hardware, die du kontrollierst.
- Testen Sie die Qualität eines lokalen Modells, bevor Sie es für ein Produktionspostfach verwenden.
- Vermeiden Sie die Abrechnung pro Token bei Cloud-Anbietern für unterstützte lokale Workflows.
Fehlerbehebung
| Symptom | Was zu prüfen ist |
|---|---|
| Ungültige Ollama-URL | Verwenden http://localhost:11434 es sei denn, Ihre installierte Version dokumentiert eine andere unterstützte lokale URL. |
| Modell nicht gefunden | Bestätigen, dass der Modellname in Ollama existiert und mit der ReplyRabbit-Einstellung übereinstimmt. |
| Zeitüberschreitung bei der Entwurfsgenerierung | Versuchen Sie ein kleineres Modell, prüfen Sie die Serverressourcen und bestätigen Sie, dass Ollama läuft. |
| Ausgabequalität ist schwach | Testen Sie ein stärkeres lokales Modell oder stellen Sie das Postfach wieder auf einen Cloud-Anbieter um. |
| Ollama ist in den Einstellungen deaktiviert | Bestätigen, dass das Postfach auf ReplyRabbit Pro oder Team läuft. |
Für umfassendere Behebungen siehe Fehlerbehebung bei ReplyRabbit.
Hinweise zu Datenschutz und Sicherheit
Ollama hält die Generierung lokal, wenn Server und Modell auf Ihrer eigenen Hardware laufen. Das kann bei der Datenlokalisierung helfen, aber Sie müssen trotzdem die Maschine, FreeScout und alle lokalen Dienste absichern, die auf Support-Inhalte zugreifen können.
Wenn Sie Ollama über localhost hinaus freigeben, bestätigen Sie, dass Ihre ReplyRabbit-Version dieses Setup unterstützt und dass der Endpunkt nicht für nicht vertrauenswürdige Benutzer erreichbar ist.
Nächste Schritte
- Prüfe die Ollama-Integration für FreeScout Seite, wenn Sie die Workflow- und Kaufübersicht benötigen.
- Lokale und Cloud-Kompromisse vergleichen in Einen KI-Anbieter auswählen.
- Weiter mit So richten Sie ReplyRabbit ein wenn Unternehmenskontext, Beispiele oder Budgets noch Aufmerksamkeit benötigen.
FAQ
Benötigt Ollama einen API-Schlüssel?
Nein. ReplyRabbit verwendet eine Ollama-Server-URL und einen Modellnamen statt eines Cloud-Anbieter-API-Schlüssels.
Welche Ollama-URL sollte ich verwenden?
Verwenden Sie http://localhost:11434, sofern Ihre installierte ReplyRabbit-Version keine andere unterstützte lokale Einrichtung dokumentiert.
Kann ich jeden Modellnamen verwenden?
Der Modellname muss mit einem Modell übereinstimmen, das in deinem laufenden Ollama-Server verfügbar ist.
Ist Ollama im Free-Tarif verfügbar?
Nein. Lokale Anbieter sind in ReplyRabbit Pro und Team verfügbar.