Tilslut FreeScout til en brugerdefineret OpenAI-kompatibel server
På ReplyRabbit Pro eller Team skal du vælge Brugerdefineret OpenAI-kompatibel for at sende udkast til en API-server eller gateway, du kontrollerer. Indtast dens base-URL, et valgfrit bearer-token og det præcise chat-model-ID. ReplyRabbit tester de funktioner, du konfigurerer, før du stoler på dem.
Hvad din server skal understøtte
Til kladder og forhåndsvisninger skal serveren acceptere POST /chat/completions med model, messages, max_tokens, og temperature, og returner derefter brugbar tekst i choices[0].message.content. ReplyRabbit tilføjer denne sti til den basis-URL, du indtaster.
Embeddings kræver en separat embedding-model, der accepterer POST /embeddings med model og input, og returnerer derefter en vektor for hvert input. Vision kræver en model, der accepterer billedindhold i OpenAI-stil i en chat completion. Serveren kan understøtte chat uden at understøtte nogen af disse funktioner.
ReplyRabbit bruger ikke Responses API, streaming, tool calls, reranking, custom headers eller automatisk modelopdagelse med denne udbyder. Kompatibilitet afhænger af API-formen og den model, du serverer.
Konfigurer postkassen
Vælg udbyderen
Åbn ReplyRabbit-indstillingerne for din FreeScout-postkasse. Under AI-udbyder, vælg Brugerdefineret OpenAI-kompatibel. Denne indstilling kræver Pro eller Team.Indtast base-URL'en
Indtast API-basen, somhttps://llm.example.com/v1ellerhttp://10.0.0.25:8000/v1. Indtast kun basisadressen; ReplyRabbit tilføjer/chat/completionseller/embeddings. FreeScouts PHP-proces skal kunne nå denne adresse. Offentlige adresser kræver HTTPS. HTTP er kun tilladt for en privat eller loopback-adresse på et betroet netværk.Indtast tokenet og chat-modellen
Hvis din server kræver bearer-godkendelse, skal du indtaste dens token i Valgfrit bearer-token. Ellers lad det stå tomt. Indtast det præcise chat-model-ID, som din server rapporterer. ReplyRabbit gemmer tokenet krypteret og viser en maskeret forhåndsvisning efter gemning.Konfigurer andre funktioner
Til semantisk retrieval skal du vælge denne udbyder til embeddings og indtaste et embedding-model-ID. Til mailbox-forhåndsvisninger eller attachment vision skal du vælge eller arve udbyderen og indtaste en passende model, når det er nødvendigt. Attachment vision kræver Team. En chat-model bruges ikke automatisk til embeddings.Test og gem
Klik Test forbindelse. Testen sender kort prøvetekst og rapporterer chat, embeddings og vision separat for de modeller, du har indtastet. Den gemmer ikke formularen. Gennemgå resultaterne, og gem derefter postkasseindstillingerne.
Ændring af URL'en til en anden server rydder det gemte token, medmindre du indtaster en erstatning. ReplyRabbit sender aldrig en gemt nøgle fra en anden udbyder til det brugerdefinerede endpoint.
Delte og separate servere
Hvis én gateway betjener både chat og embeddings, skal du indtaste den samme /v1 base URL i ReplyRabbit og i den selvstændige Semantic Search-indstillinger. Indtast den relevante chat-model i ReplyRabbit og en embedding-model i Semantisk søgning. Produkterne har separate indstillinger og tokens.
Hvis chat og embeddings kører på forskellige hosts eller porte, skal du indtaste hver servers egen /v1 base URL i dens produktindstillinger. ReplyRabbit lader dig også vælge en anden eksisterende embedding-udbyder til sin egen semantiske hentning.
Fejlfinding
| Symptom | Hvad du skal kontrollere |
|---|---|
| Chat-test mislykkes | Bekræft, at basis-URL'en kan nås fra FreeScout, at chat-model-ID'et er præcist, og at serveren understøtter /chat/completions. |
Hver test fejler efter en PHP-opgradering, men curl fungerer | Tjek FreeScout-loggen for deprecated since 8.5 meddelelser. Se Ret "deprecated since 8.5"-fejl i FreeScout. |
| Embeddings er ikke tilgængelige | Indtast et embedding-model-ID, og bekræft, at serveren understøtter /embeddings. Nøgleordshentning forbliver tilgængelig, når embeddings ikke kan køre. |
| Vision-test mislykkes | Bekræft, at den valgte model accepterer billedindhold. Tekstudkast kan stadig fungere uden vision. |
| Token forsvinder efter skift af servere | Indtast et token til den nye server. ReplyRabbit rydder den gamle servers token for at beskytte den. |
| Offentlig HTTP-URL afvises | Brug HTTPS med et gyldigt certifikat. Hold HTTP-endpoints på et betroet privat netværk. |
Privatliv
Den valgte server modtager det supportindhold, der er nødvendigt for aktiverede AI-opgaver. Et eksternt endpoint kan sende det indhold væk fra FreeScout-værten. Brug en betroet server, beskyt dens token, og kontroller dens opbevaringspolitik. Forbindelsestests bruger eksempeltekst i stedet for kundesamtaler.