Collega FreeScout a un server personalizzato compatibile con OpenAI
Su ReplyRabbit Pro o Team, scegli Personalizzato compatibile con OpenAI per inviare bozze a un server API o gateway che controlli. Inserisci il suo URL di base, un token bearer opzionale e l'ID esatto del modello chat. ReplyRabbit verifica le capacità che configuri prima che tu ci faccia affidamento.
Cosa deve supportare il tuo server
Per bozze e anteprime, il server deve accettare POST /chat/completions con model, messages, max_tokens, e temperature, poi restituisce testo utilizzabile in choices[0].message.content. ReplyRabbit aggiunge questo percorso all'URL di base che inserisci.
Gli embedding richiedono un modello di embedding separato che accetti POST /embeddings con model e input, poi restituisce un vettore per ogni input. La visione richiede un modello che accetti contenuti immagine in stile OpenAI in un completamento chat. Il server può supportare la chat senza supportare nessuna di queste due capacità.
ReplyRabbit non utilizza l'API Responses, lo streaming, le chiamate agli strumenti, il reranking, le intestazioni personalizzate o il rilevamento automatico dei modelli con questo provider. La compatibilità dipende dalla forma dell'API e dal modello che servi.
Configura la casella di posta
Scegli il provider
Apri le impostazioni ReplyRabbit per la tua casella di posta FreeScout. Sotto Provider AI, scegli Personalizzato compatibile con OpenAI. Questa opzione richiede Pro o Team.Inserisci l'URL di base
Inserisci la base API, comehttps://llm.example.com/v1oppurehttp://10.0.0.25:8000/v1. Inserisci solo la base; ReplyRabbit aggiunge/chat/completionsoppure/embeddings. Il processo PHP di FreeScout deve poter raggiungere questo indirizzo. Gli indirizzi pubblici richiedono HTTPS. HTTP è consentito solo per un indirizzo privato o di loopback su una rete attendibile.Inserisci il token e il modello di chat
Se il tuo server richiede autenticazione bearer, inserisci il suo token in Token bearer opzionale. Altrimenti lascialo vuoto. Inserisci l'ID esatto del modello di chat riportato dal tuo server. ReplyRabbit memorizza il token crittografato e mostra un'anteprima mascherata dopo il salvataggio.Configura altre funzionalità
Per il retrieval semantico, seleziona questo provider per gli embedding e inserisci un ID modello di embedding. Per le anteprime della casella di posta o la vision degli allegati, seleziona o eredita il provider e inserisci un modello adatto quando necessario. La vision degli allegati richiede Team. Un modello di chat non viene usato automaticamente per gli embedding.Verifica e salva
Clicca Verifica connessione. Il test invia un breve testo di esempio e riporta separatamente chat, embedding e visione per i modelli che hai inserito. Non salva il modulo. Rivedi i risultati, poi salva le impostazioni della casella di posta.
Cambiare l'URL verso un server diverso cancella il token salvato a meno che non si inserisca un sostituto. ReplyRabbit non invia mai una chiave salvata di un altro provider all'endpoint personalizzato.
Server condivisi e separati
Se un unico gateway serve sia chat che embeddings, inserisci lo stesso /v1 URL di base in ReplyRabbit e nel standalone Impostazioni di Semantic Search. Inserisci il modello di chat appropriato in ReplyRabbit e un modello di embedding in Ricerca semantica. I prodotti mantengono impostazioni e token separati.
Se chat ed embeddings girano su host o porte diversi, inserisci il /v1 URL di base nelle sue impostazioni prodotto. ReplyRabbit ti permette anche di scegliere un altro provider di embedding esistente per il proprio recupero semantico.
Risoluzione dei problemi
| Sintomo | Cosa controllare |
|---|---|
| Il test della chat non funziona | Conferma che l'URL di base sia raggiungibile da FreeScout, che l'ID del modello chat sia esatto e che il server supporti /chat/completions. |
Ogni test fallisce dopo un aggiornamento di PHP, ma curl funziona | Controlla il log di FreeScout per deprecated since 8.5 messaggi. Vedi Correggi gli errori "deprecated since 8.5" in FreeScout. |
| Embedding non disponibili | Inserisci un ID modello di embedding e conferma che il server supporti /embeddings. Il recupero per parole chiave resta disponibile quando gli embedding non possono essere eseguiti. |
| Il test della visione fallisce | Conferma che il modello scelto accetti contenuti immagine. La stesura del testo può comunque funzionare senza visione. |
| Il token scompare dopo il cambio di server | Inserisci un token per il nuovo server. ReplyRabbit cancella il token del vecchio server per proteggerlo. |
| URL HTTP pubblico rifiutato | Usa HTTPS con un certificato valido. Mantieni gli endpoint HTTP su una rete privata affidabile. |
Privacy
Il server scelto riceve il contenuto di supporto necessario per le attività AI abilitate. Un endpoint remoto può inviare quel contenuto fuori dall'host FreeScout. Usa un server affidabile, proteggi il suo token e verifica la sua politica di conservazione. I test di connessione usano testo di esempio invece di conversazioni con i clienti.