FreeScout をカスタムの OpenAI 互換サーバーに接続
ReplyRabbit Pro または Team では、次を選択します カスタム OpenAI 互換 制御する API サーバーまたはゲートウェイに下書きを送信します。そのベース URL、オプションのベアラートークン、正確なチャットモデル ID を入力します。ReplyRabbit は、依存する前に設定した機能をテストします。
サーバーがサポートする必要があるもの
下書きとプレビューの場合、サーバーは以下を受け入れる必要があります POST /chat/completions と model, messages, max_tokens)、および temperature)、次に使用可能なテキストを返します choices[0].message.content)。ReplyRabbitは入力したベースURLにこのパスを追加します。
Embeddingsには、以下を受け入れる別のembeddingモデルが必要です POST /embeddings と model および input)、次に各入力のベクトルを返します。ビジョンには、チャット補完でOpenAI形式の画像コンテンツを受け入れるモデルが必要です。サーバーは、これらの機能のいずれかをサポートせずにチャットをサポートする場合があります。
ReplyRabbitはこのプロバイダーでResponses API、ストリーミング、ツール呼び出し、リランキング、カスタムヘッダー、自動モデル検出を使用しません。互換性は提供するAPIの形状とモデルに依存します。
メールボックスを設定
プロバイダーを選択
FreeScoutメールボックスのReplyRabbit設定を開きます。次の中で AIプロバイダー)、選択します カスタム OpenAI 互換)。このオプションにはProまたはTeamが必要です。ベースURLを入力
次のようなAPIベースを入力しますhttps://llm.example.com/v1またはhttp://10.0.0.25:8000/v1)。ベースのみを入力してください。ReplyRabbitが追加します/chat/completionsまたは/embeddings)。FreeScoutのPHPプロセスがこのアドレスに到達できる必要があります。パブリックアドレスにはHTTPSが必要です。HTTPは、信頼できるネットワーク上のプライベートまたはループバックアドレスにのみ許可されます。トークンとチャットモデルを入力
サーバーがベアラー認証を必要とする場合は、そのトークンを次に入力してください オプションのベアラートークン)。それ以外の場合は空白のままにします。サーバーが報告する正確なチャットモデルIDを入力します。ReplyRabbitはトークンを暗号化して保存し、保存後にマスクされたプレビューを表示します。その他の機能を設定
セマンティック検索では、embeddings用にこのプロバイダーを選択し、embeddingモデルIDを入力します。メールボックスプレビューや添付ファイルのビジョンでは、プロバイダーを選択または継承し、必要に応じて適切なモデルを入力します。添付ファイルのビジョンにはTeamが必要です。チャットモデルはembeddingsに自動的に使用されません。テストと保存
クリック 接続をテスト)。テストは短いサンプルテキストを送信し、入力したモデルについてチャット、埋め込み、ビジョンを個別に報告します。フォームは保存されません。結果を確認してから、メールボックス設定を保存してください。
URLを別のサーバーに変更すると、置き換えを入力しない限り保存済みトークンがクリアされます。ReplyRabbitは別のプロバイダーの保存済みキーをカスタムエンドポイントに送信することはありません。
共有サーバーと個別サーバー
1つのゲートウェイがチャットと埋め込みの両方を提供する場合は、同じものを入力してください /v1 ReplyRabbitおよびスタンドアロンのベースURL Semantic Search設定)。ReplyRabbitに適切なチャットモデルを、セマンティック検索に埋め込みモデルを入力します。製品は別々の設定とトークンを保持します。
チャットと埋め込みが異なるホストまたはポートで実行される場合は、各サーバー自身のものを入力してください /v1 その製品設定のベースURL。ReplyRabbitでは、独自のセマンティック検索用に別の既存の埋め込みプロバイダーを選択することもできます。
トラブルシューティング
| 症状 | 確認すべきこと |
|---|---|
| チャットテストが失敗する | ベースURLがFreeScoutから到達可能で、チャットモデルIDが正確で、サーバーが次をサポートしていることを確認してください /chat/completions. |
PHPアップグレード後にすべてのテストが失敗しますが、 curl 動作します | FreeScoutログで次を確認してください deprecated since 8.5 メッセージ。参照: FreeScoutの「deprecated since 8.5」エラーを修正. |
| Embeddingsは利用できません | embeddingモデルIDを入力し、サーバーが以下をサポートしていることを確認します /embeddings)。埋め込みを実行できない場合でもキーワード検索は利用可能です。 |
| ビジョンテストが失敗する | 選択したモデルが画像コンテンツを受け入れることを確認してください。テキストの下書きはビジョンなしでも引き続き機能します。 |
| サーバー変更後にトークンが消える | 新しいサーバーのトークンを入力します。ReplyRabbitは古いサーバーのトークンを保護のためにクリアします。 |
| 公開HTTP URLは拒否されます | 有効な証明書でHTTPSを使用してください。HTTPエンドポイントは信頼できるプライベートネットワーク上に維持してください。 |
プライバシー
選択したサーバーは、有効なAIタスクに必要なサポートコンテンツを受信します。リモートエンドポイントはそのコンテンツをFreeScoutホストから外部に送信する可能性があります。信頼できるサーバーを使用し、そのトークンを保護し、保持ポリシーを確認してください。接続テストでは顧客の会話ではなくサンプルテキストを使用します。