Välja en AI-leverantör
ReplyRabbit fungerar med molnleverantörer, lokala modellservrar och en anpassad OpenAI-kompatibel endpoint. Välj baserat på utkastkvalitet, kostnad och vart supportinnehåll skickas. Om du är osäker, börja med OpenAI eller Anthropic och ändra senare i dina mailboxinställningar.
Leverantörsval
Fem namngivna leverantörer är molntjänster, två körs lokalt och det anpassade alternativet ansluter till en server du konfigurerar. Molnleverantörer debiterar per token (du betalar dem direkt). Kostnader för en anpassad endpoint beror på dess operatör.
| Leverantör | Typ | Bäst för | Prissättning |
|---|---|---|---|
| OpenAI | Moln | Den vanliga startpunkten. Tillgänglig på Free-nivån, så du kan prova ReplyRabbit med en leverantör innan du uppgraderar. | platform.openai.com |
| Anthropic | Moln | Claude-modeller. Ett starkt allroundval för naturliga, noggranna supportsvar. | anthropic.com |
| Google AI Studio | Moln | Gemini-modeller, inklusive snabba alternativ med låg kostnad. | ai.google.dev |
| OpenRouter | Moln | En API-nyckel, många modeller från olika leverantörer. Bra för att experimentera och jämföra modeller utan att registrera sig överallt. | openrouter.ai |
| Z.AI | Moln | GLM-modeller. Ett kapabelt, kostnadsmedvetet molnalternativ. | z.ai |
| Ollama (Lokal) | Lokal | Kör modeller på din egen hårdvara (localhost:11434), så inget lämnar din server och det finns ingen kostnad per token. | ollama.com |
| LM Studio (lokal) | Lokal | Kör modeller på din egen hårdvara (localhost:1234), privat utan kostnad per token. | lmstudio.ai |
| Anpassad OpenAI-kompatibel | Din server eller gateway | Anslut ReplyRabbit till en nåbar server som accepterar OpenAI-liknande förfrågningar som stöds. | Beror på din server |
Gratisnivån använder OpenAI
Moln kontra lokalt
Molnleverantörer (OpenAI, Anthropic, Google AI Studio, OpenRouter, Z.AI) är det enklaste sättet att börja och erbjuder vanligtvis bästa utkastkvalitet. Du betalar per token, och konversationsinnehållet som används för aktiverade AI-funktioner, såsom utkast, nästa åtgärder och AI-signaler, lämnar din server och skickas till den leverantörens API.
Lokala leverantörer (Ollama, LM Studio) kör modellen på din egen hårdvara. Inget lämnar din server, och det finns ingen kostnad per token. Avvägningen är att du behöver en någorlunda kapabel maskin, och utkastkvaliteten beror på den lokala modell du kör. Lokala modeller kräver en betald nivå (Pro eller Team).
Anpassad OpenAI-kompatibel ansluter till den server eller gateway du väljer. Om den är fjärransluten lämnar supportinnehållet din FreeScout-värd. Om den finns på ditt privata nätverk måste FreeScout fortfarande kunna nå den. Ange de exakta modell-ID:na och testa varje funktion du behöver. En chattendpoint garanterar inte embeddings eller vision.
Promptcachning och tokenbudgetar
ReplyRabbit hanterar leverantörens prompt-cachning automatiskt när det är säkert för den valda leverantören. Det finns ingen brevlådeinställning för att slå på det.
- OpenAI: ReplyRabbit skickar en säker cache-routingnyckel för direkta OpenAI-förfrågningar så att upprepade supportpromptar kan dirigeras konsekvent.
- Anthropic: ReplyRabbit använder Claude prompt-cachning endast när det ser sannolik återanvändning mellan matchande utkastförfrågningar. Om Anthropic avvisar cache-kontroll försöker ReplyRabbit igen med den normala prompten.
- Gemini, OpenRouter och Z.AI: ReplyRabbit registrerar cache-token-metadata när leverantören returnerar det, men det tvingar inte fram en generisk cache-inställning via dessa vägar.
- Ollama och LM Studio: lokala modeller använder inte leverantörens promptcachning. De kan fortfarande undvika molnfakturering per token eftersom genereringen körs på din hårdvara.
- Anpassad OpenAI-kompatibel: ReplyRabbit antar inte att OpenAI:s prompt-cache-kontroller fungerar på en anpassad server.
Månatlig tokenbudget förblir konservativ. ReplyRabbit räknar totala in- och uttoken, även när en leverantör fakturerar cachad inmatning annorlunda, eftersom cachade prompttoken fortfarande använder kontext och kan räknas mot leverantörens gränser.
Vilken ska jag välja?
- Precis börjat: använd OpenAI eller Anthropic. De ger bra resultat direkt och OpenAI är tillgängligt på Free-nivån så du kan prova ReplyRabbit först.
- Vill du jämföra modeller: använd OpenRouter. En API-nyckel ger dig åtkomst till många modeller från olika leverantörer, så du kan experimentera utan separata konton.
- Integritet eller kostnadskontroll är viktigast: använd Ollama eller LM Studio. Dina kunddata lämnar aldrig din server och det finns ingen kostnad per token, till priset av att köra modellen på din egen hårdvara (Pro- eller Team-nivå).
- Kör redan en kompatibel API-server: använd Anpassad OpenAI-kompatibel på Pro eller Team. Verifiera chattmodellen först och ställ sedan in separata embedding- och visionsmodeller endast om din server stöder dem.
Nästa