Velge en AI-leverandør
ReplyRabbit fungerer med skyleverandører, lokale modellservere og et tilpasset OpenAI-kompatibelt endepunkt. Velg basert på utkastkvalitet, kostnad og hvor støtteinnhold sendes. Hvis du er usikker, start med OpenAI eller Anthropic og endre det senere i postkasseinnstillingene dine.
Leverandørvalg
Fem navngitte leverandører er skytjenester, to kjører lokalt, og det egendefinerte alternativet kobles til en server du konfigurerer. Skyleverandører fakturerer per token (du betaler dem direkte). Kostnader for et egendefinert endepunkt avhenger av operatøren.
| Leverandør | Skriv | Best for | Priser |
|---|---|---|---|
| OpenAI | Sky | Det vanlige utgangspunktet. Tilgjengelig på Free-nivået, så du kan prøve ReplyRabbit med én leverandør før du oppgraderer. | platform.openai.com |
| Anthropic | Sky | Claude-modeller. Et sterkt allsidig valg for naturlige, nøye støttesvar. | anthropic.com |
| Google AI Studio | Sky | Gemini-modeller, inkludert raske alternativer med lav kostnad. | ai.google.dev |
| OpenRouter | Sky | Én API-nøkkel, mange modeller fra forskjellige leverandører. Bra for å eksperimentere og sammenligne modeller uten å registrere deg overalt. | openrouter.ai |
| Z.AI | Sky | GLM-modeller. Et kapabelt, kostnadsbevisst skyalternativ. | z.ai |
| Ollama (lokal) | Lokal | Kjører modeller på din egen maskinvare (localhost:11434), så ingenting forlater serveren din og det er ingen kostnad per token. | ollama.com |
| LM Studio (lokal) | Lokal | Kjører modeller på din egen maskinvare (localhost:1234), privat uten kostnad per token. | lmstudio.ai |
| Egendefinert OpenAI-kompatibel | Din server eller gateway | Koble ReplyRabbit til en tilgjengelig server som godtar støttede OpenAI-lignende forespørsler. | Avhenger av serveren din |
Free-nivået bruker OpenAI
Sky vs lokal
Skybaserte leverandører (OpenAI, Anthropic, Google AI Studio, OpenRouter, Z.AI) er den enkleste måten å komme i gang på og gir vanligvis best utkastkvalitet. Du betaler per token, og samtalinnholdet som brukes for aktiverte AI-funksjoner, som utkast, neste handlinger og AI-signaler, forlater serveren din og sendes til leverandørens API.
Lokale leverandører (Ollama, LM Studio) kjører modellen på din egen maskinvare. Ingenting forlater serveren din, og det er ingen kostnad per token. Ulempen er at du trenger en rimelig kraftig maskin, og utkastkvaliteten avhenger av den lokale modellen du kjører. Lokale modeller krever et betalt abonnement (Pro eller Team).
Egendefinert OpenAI-kompatibel kobler til serveren eller gatewayen du velger. Hvis den er ekstern, forlater støtteinnhold FreeScout-vertsmaskinen din. Hvis den er på ditt private nettverk, må FreeScout fortsatt kunne nå den. Skriv inn de nøyaktige modell-ID-ene og test hver funksjon du trenger. Et chat-endepunkt garanterer ikke embeddings eller vision.
Promptbufring og tokenbudsjetter
ReplyRabbit håndterer leverandørens ledetekstbuffer automatisk når det er trygt for den valgte leverandøren. Det finnes ingen innstilling for postkassen for å slå dette på.
- OpenAI: ReplyRabbit sender en trygg hurtigbuffer-rutingsnøkkel for direkte OpenAI-forespørsler slik at gjentatte støtteprompter kan rutes konsekvent.
- Anthropic: ReplyRabbit bruker Claude hurtigbuffer bare når den ser sannsynlig gjenbruk på tvers av samsvarende utkastforespørsler. Hvis Anthropic avviser hurtigbufferkontroll, prøver ReplyRabbit den vanlige forespørselen på nytt.
- Gemini, OpenRouter og Z.AI: ReplyRabbit registrerer hurtigbuffer-token-metadata når leverandøren returnerer det, men tvinger ikke en generisk hurtigbuffer-innstilling gjennom disse rutene.
- Ollama og LM Studio: lokale modeller bruker ikke leverandørens prompt-bufring. De kan fortsatt unngå per-token skyfakturering fordi genereringen kjører på maskinvaren din.
- Egendefinert OpenAI-kompatibel: ReplyRabbit antar ikke at OpenAIs kontroller for ledetekstbuffer fungerer på en tilpasset server.
Månedlig tokenbudsjett forblir konservativt. ReplyRabbit teller totale inngangs- og utgangstokener, selv når en leverandør fakturerer bufret inngang annerledes, fordi hurtigbufrede prompttokener fortsatt bruker kontekst og kan telle mot leverandørgrenser.
Hvilken bør jeg velge?
- Bare kommet i gang: bruk OpenAI eller Anthropic. De gir gode resultater rett ut av boksen, og OpenAI er tilgjengelig på Free-planen, så du kan prøve ReplyRabbit først.
- Vil du sammenligne modeller: bruk OpenRouter. Én API-nøkkel gir deg tilgang til mange modeller fra ulike leverandører, så du kan eksperimentere uten separate kontoer.
- Personvern eller kostnadskontroll er viktigst: bruk Ollama eller LM Studio. Kundedataene dine forlater aldri serveren din, og det er ingen regning per token, på bekostning av å kjøre modellen på din egen maskinvare (Pro- eller Team-nivå).
- Kjører du allerede en kompatibel API-server: bruk Egendefinert OpenAI-kompatibel på Pro eller Team. Bekreft chat-modellen først, og angi deretter separate embedding- og vision-modeller bare hvis serveren din støtter dem.
Neste