Valg af en AI-udbyder
ReplyRabbit fungerer med cloud-udbydere, lokale modelservere og et brugerdefineret OpenAI-kompatibelt endpoint. Vælg ud fra kladdekvalitet, omkostninger og hvor supportindhold sendes hen. Hvis du er i tvivl, så start med OpenAI eller Anthropic og skift senere i dine postkasseindstillinger.
Udbyder valg
Fem navngivne udbydere er cloud-tjenester, to kører lokalt, og custom-muligheden forbinder til en server, du konfigurerer. Cloud-udbydere fakturerer pr. token (du betaler dem direkte). Omkostninger for et custom-endpoint afhænger af dets operatør.
| Udbyder | Skriv | Bedst til | Priser |
|---|---|---|---|
| OpenAI | Cloud | Det sædvanlige udgangspunkt. Tilgængelig på Free-planen, så du kan prøve ReplyRabbit med én udbyder, før du opgraderer. | platform.openai.com |
| Anthropic | Cloud | Claude-modeller. Et stærkt alsidigt valg til naturlige, omhyggelige supportsvar. | anthropic.com |
| Google AI Studio | Cloud | Gemini-modeller, herunder hurtige, billige muligheder. | ai.google.dev |
| OpenRouter | Cloud | Én API-nøgle, mange modeller fra forskellige leverandører. God til at eksperimentere og sammenligne modeller uden at tilmelde sig overalt. | openrouter.ai |
| Z.AI | Cloud | GLM-modeller. En kapabel, omkostningsbevidst cloud-mulighed. | z.ai |
| Ollama (lokal) | Lokal | Kører modeller på dit eget hardware (localhost:11434), så intet forlader din server, og der er ingen omkostning pr. token. | ollama.com |
| LM Studio (lokal) | Lokal | Kører modeller på dit eget hardware (localhost:1234), privat uden omkostning pr. token. | lmstudio.ai |
| Brugerdefineret OpenAI-kompatibel | Din server eller gateway | Tilslut ReplyRabbit til en tilgængelig server, der accepterer understøttede OpenAI-lignende forespørgsler. | Afhænger af din server |
Free-tier bruger OpenAI
Cloud vs lokal
Cloud-udbydere (OpenAI, Anthropic, Google AI Studio, OpenRouter, Z.AI) er den nemmeste måde at komme i gang på og giver normalt den bedste kladkvalitet. Du betaler pr. token, og det samtalindhold, der bruges til aktiverede AI-funktioner, såsom kladder, næste handlinger og AI-signaler, forlader din server og sendes til den pågældende udbyders API.
Lokale udbydere (Ollama, LM Studio) kører modellen på din egen hardware. Intet forlader din server, og der er ingen pris pr. token. Ulempen er, at du har brug for en rimeligt kraftig maskine, og kladkvaliteten afhænger af den lokale model, du kører. Lokale modeller kræver et betalt abonnement (Pro eller Team).
Brugerdefineret OpenAI-kompatibel forbinder til den server eller gateway, du vælger. Hvis den er ekstern, forlader supportindhold din FreeScout-host. Hvis den er på dit private netværk, skal FreeScout stadig kunne nå den. Indtast de præcise model-ID'er, og test hver funktion, du har brug for. Et chat-endpoint garanterer ikke embeddings eller vision.
Prompt caching og token-budgetter
ReplyRabbit håndterer provider prompt caching automatisk, når det er sikkert for den valgte udbyder. Der er ingen postkasseindstilling til at slå det til.
- OpenAI: ReplyRabbit sender en sikker cache routing key for direkte OpenAI-anmodninger, så gentagne supportprompts kan routes konsistent.
- Anthropic: ReplyRabbit bruger Claude prompt caching kun, når den ser sandsynlig genbrug på tværs af matchende kladdeanmodninger. Hvis Anthropic afviser cache control, prøver ReplyRabbit den normale prompt igen.
- Gemini, OpenRouter og Z.AI: ReplyRabbit registrerer cache-token-metadata, når udbyderen returnerer dem, men tvinger ikke en generisk cache-indstilling gennem disse ruter.
- Ollama og LM Studio: lokale modeller bruger ikke udbyderens prompt-caching. De kan stadig undgå cloud-fakturering pr. token, fordi genereringen kører på din hardware.
- Brugerdefineret OpenAI-kompatibel: ReplyRabbit antager ikke, at OpenAI's prompt-cache-kontroller virker på en custom server.
Månedligt tokenbudget forbliver konservativt. ReplyRabbit tæller samlede input- og output-tokens, selv når en udbyder fakturerer cachet input anderledes, fordi cachede prompt-tokens stadig bruger kontekst og kan tælle mod udbydergrænser.
Hvilken bør jeg vælge?
- Lige begyndt: brug OpenAI eller Anthropic. De giver gode resultater med det samme, og OpenAI er tilgængelig på Free-planen, så du kan prøve ReplyRabbit først.
- Vil du sammenligne modeller: brug OpenRouter. Én API-nøgle giver dig adgang til mange modeller fra forskellige leverandører, så du kan eksperimentere uden separate konti.
- Privatliv eller omkostningskontrol betyder mest: brug Ollama eller LM Studio. Dine kundedata forlader aldrig din server, og der er ingen regning pr. token, på bekostning af at køre modellen på din egen hardware (Pro- eller Team-niveau).
- Kører du allerede en kompatibel API-server: brug Brugerdefineret OpenAI-kompatibel på Pro eller Team. Bekræft først chatmodellen, og indstil derefter separate embedding- og vision-modeller, kun hvis din server understøtter dem.
Næste