Einen KI-Anbieter auswählen
ReplyRabbit funktioniert mit Cloud-Anbietern, lokalen Modellservern und einem benutzerdefinierten OpenAI-kompatiblen Endpunkt. Wähle basierend auf Entwurfsqualität, Kosten und wohin Support-Inhalte gesendet werden. Wenn du unsicher bist, beginne mit OpenAI oder Anthropic und ändere es später in deinen Postfacheinstellungen.
Anbieteroptionen
Fünf benannte Anbieter sind Cloud-Dienste, zwei laufen lokal, und die benutzerdefinierte Option verbindet sich mit einem Server, den Sie konfigurieren. Cloud-Anbieter rechnen pro Token ab (Sie zahlen direkt an sie). Die Kosten für einen benutzerdefinierten Endpunkt hängen von dessen Betreiber ab.
| Anbieter | Typ | Am besten für | Preisgestaltung |
|---|---|---|---|
| OpenAI | Cloud | Der übliche Einstiegspunkt. Im Free-Tarif verfügbar, sodass Sie ReplyRabbit mit einem Anbieter testen können, bevor Sie upgraden. | platform.openai.com |
| Anthropic | Cloud | Claude-Modelle. Eine starke Allround-Wahl für natürliche, sorgfältige Support-Antworten. | anthropic.com |
| Google AI Studio | Cloud | Gemini-Modelle, einschließlich schneller, kostengünstiger Optionen. | ai.google.dev |
| OpenRouter | Cloud | Ein API-Schlüssel, viele Modelle von verschiedenen Anbietern. Gut zum Experimentieren und Vergleichen von Modellen, ohne sich überall anzumelden. | openrouter.ai |
| Z.AI | Cloud | GLM-Modelle. Eine leistungsfähige, kostengünstige Cloud-Option. | z.ai |
| Ollama (lokal) | Lokal | Führt Modelle auf deiner eigenen Hardware aus (localhost:11434), sodass nichts deinen Server verlässt und keine Kosten pro Token anfallen. | ollama.com |
| LM Studio (lokal) | Lokal | Führt Modelle auf deiner eigenen Hardware aus (localhost:1234), privat und ohne Kosten pro Token. | lmstudio.ai |
| Benutzerdefiniert OpenAI-kompatibel | Ihr Server oder Gateway | Verbinden Sie ReplyRabbit mit einem erreichbaren Server, der unterstützte OpenAI-kompatible Anfragen akzeptiert. | Hängt von Ihrem Server ab |
Free-Tarif verwendet OpenAI
Cloud vs. lokal
Cloud-Anbieter (OpenAI, Anthropic, Google AI Studio, OpenRouter, Z.AI) sind der einfachste Einstieg und bieten in der Regel die beste Entwurfsqualität. Sie zahlen pro Token, und der Unterhaltungsinhalt, der für aktivierte KI-Funktionen wie Entwürfe, nächste Aktionen und KI-Signale verwendet wird, verlässt Ihren Server und wird an die API dieses Anbieters gesendet.
Lokale Anbieter (Ollama, LM Studio) führen das Modell auf Ihrer eigenen Hardware aus. Nichts verlässt Ihren Server, und es gibt keine Kosten pro Token. Der Kompromiss ist, dass Sie eine einigermaßen leistungsfähige Maschine benötigen und die Entwurfsqualität vom lokalen Modell abhängt, das Sie ausführen. Lokale Modelle erfordern einen kostenpflichtigen Tarif (Pro oder Team).
Benutzerdefiniert OpenAI-kompatibel verbindet sich mit dem Server oder Gateway, das Sie auswählen. Wenn es remote ist, verlassen Support-Inhalte Ihren FreeScout-Host. Wenn es in Ihrem privaten Netzwerk ist, muss FreeScout es trotzdem erreichen können. Geben Sie die exakten Modell-IDs ein und testen Sie jede Funktion, die Sie benötigen. Ein Chat-Endpunkt garantiert keine Embeddings oder Vision.
Prompt-Caching und Token-Budgets
ReplyRabbit übernimmt das Prompt-Caching des Anbieters automatisch, wenn es für den ausgewählten Anbieter sicher ist. Es gibt keine Postfach-Einstellung zum Aktivieren.
- OpenAI: ReplyRabbit sendet einen sicheren Cache-Routing-Schlüssel für direkte OpenAI-Anfragen, damit wiederholte Support-Prompts konsistent weitergeleitet werden können.
- Anthropic: ReplyRabbit nutzt Claude Prompt Caching nur, wenn es eine wahrscheinliche Wiederverwendung bei passenden Entwurfsanfragen erkennt. Wenn Anthropic die Cache-Steuerung ablehnt, versucht ReplyRabbit es mit dem normalen Prompt erneut.
- Gemini, OpenRouter und Z.AI: ReplyRabbit zeichnet Cache-Token-Metadaten auf, wenn der Anbieter sie zurückgibt, erzwingt jedoch über diese Routen keine generische Cache-Einstellung.
- Ollama und LM Studio: lokale Modelle verwenden kein Prompt-Caching des Anbieters. Sie können dennoch die tokenbasierte Cloud-Abrechnung vermeiden, da die Generierung auf Ihrer Hardware läuft.
- Benutzerdefiniert OpenAI-kompatibel: ReplyRabbit geht nicht davon aus, dass die Prompt-Cache-Steuerung von OpenAI auf einem benutzerdefinierten Server funktioniert.
Das monatliche Token-Budget bleibt konservativ. ReplyRabbit zählt alle Eingabe- und Ausgabe-Tokens, auch wenn ein Anbieter zwischengespeicherte Eingaben anders abrechnet, weil zwischengespeicherte Prompt-Tokens weiterhin Kontext verbrauchen und auf Anbieterlimits angerechnet werden können.
Was sollte ich wählen?
- Gerade erst angefangen: verwenden Sie OpenAI oder Anthropic. Sie liefern sofort gute Ergebnisse, und OpenAI ist im Free-Tarif verfügbar, sodass Sie ReplyRabbit zuerst ausprobieren können.
- Modelle vergleichen: verwenden Sie OpenRouter. Ein API-Schlüssel gibt Ihnen Zugriff auf viele Modelle verschiedener Anbieter, sodass Sie ohne separate Konten experimentieren können.
- Datenschutz oder Kostenkontrolle sind am wichtigsten: verwenden Sie Ollama oder LM Studio. Ihre Kundendaten verlassen nie Ihren Server und es gibt keine Rechnung pro Token, auf Kosten des Betriebs des Modells auf Ihrer eigenen Hardware (Pro- oder Team-Tarif).
- Bereits einen kompatiblen API-Server betreiben: verwenden Benutzerdefiniert OpenAI-kompatibel bei Pro oder Team. Überprüfen Sie zuerst das Chat-Modell und legen Sie dann separate Embedding- und Vision-Modelle nur fest, wenn Ihr Server sie unterstützt.
Weiter