AIプロバイダーの選択
ReplyRabbitはクラウドプロバイダー、ローカルモデルサーバー、およびカスタムのOpenAI互換エンドポイントで動作します。下書きの品質、コスト、サポートコンテンツの送信先に基づいて選択してください。不明な場合はOpenAIまたはAnthropicから始め、後でメールボックス設定で変更してください。
プロバイダーの選択肢
5つの名前付きプロバイダーはクラウドサービスで、2つはローカルで実行され、カスタムオプションは設定したサーバーに接続します。クラウドプロバイダーはトークン単位で課金されます(直接支払います)。カスタムエンドポイントのコストはその運営者によって異なります。
| プロバイダー | 種類 | 最適な用途 | 料金 |
|---|---|---|---|
| OpenAI | クラウド | 通常の開始点。Freeティアで利用可能なため、アップグレード前に1つのプロバイダーでReplyRabbitを試せます。 | platform.openai.com |
| Anthropic | クラウド | Claudeモデル。自然で丁寧なサポート返信に適した、バランスの取れた総合的な選択肢です。 | anthropic.com |
| Google AI Studio | クラウド | 高速で低コストのオプションを含むGeminiモデル。 | ai.google.dev |
| OpenRouter | クラウド | 1 つの API キーで、異なるベンダーの多数のモデルを利用できます。あちこちでサインアップすることなく、モデルの実験や比較に適しています。 | openrouter.ai |
| Z.AI | クラウド | GLMモデル。能力が高く、コストを意識したクラウドオプション。 | z.ai |
| Ollama (ローカル) | ローカル | 独自のハードウェア(localhost:11434)でモデルを実行するため、何もサーバーから出ず、トークンごとのコストもかかりません。 | ollama.com |
| LM Studio(ローカル) | ローカル | 独自のハードウェア(localhost:1234)でモデルを実行し、トークンごとのコストなしでプライベートに保ちます。 | lmstudio.ai |
| カスタム OpenAI 互換 | あなたのサーバーまたはゲートウェイ | ReplyRabbit を、サポートされている OpenAI 形式のリクエストを受け入れる到達可能なサーバーに接続します。 | サーバーによって異なります |
無料プランはOpenAIを使用
クラウドとローカル
クラウドプロバイダー (OpenAI、Anthropic、Google AI Studio、OpenRouter、Z.AI)は最も簡単な開始方法で、通常は最高の下書き品質を提供します。トークンごとに料金が発生し、有効なAI機能(下書き、次のアクション、AIシグナルなど)に使用される会話内容はサーバー外に出て、そのプロバイダーのAPIに送信されます。
ローカルプロバイダー (Ollama、LM Studio)はお客様自身のハードウェアでモデルを実行します。データはサーバー外に出ず、トークンごとのコストもかかりません。トレードオフとして、ある程度の性能を持つマシンが必要で、下書きの品質は実行するローカルモデルに依存します。ローカルモデルには有料プラン(ProまたはTeam)が必要です。
カスタム OpenAI 互換 選択したサーバーまたはゲートウェイに接続します。リモートの場合、サポートコンテンツはFreeScoutホストから外部に出ます。プライベートネットワーク上にある場合でも、FreeScoutがそこに到達できる必要があります。正確なモデルIDを入力し、必要な各機能をテストしてください。チャットエンドポイントは埋め込みやビジョンを保証するものではありません。
プロンプトキャッシュとトークン予算
ReplyRabbitは、選択したプロバイダーにとって安全な場合、プロバイダーのプロンプトキャッシュを自動的に処理します。有効にするメールボックス設定はありません。
- OpenAI: ReplyRabbitは直接のOpenAIリクエストに対して安全なキャッシュルーティングキーを送信するため、繰り返されるサポートプロンプトを一貫してルーティングできます。
- Anthropic: ReplyRabbitは一致する下書きリクエスト間で再利用される可能性が高い場合にのみClaudeのプロンプトキャッシュを使用します。Anthropicがキャッシュ制御を拒否した場合、ReplyRabbitは通常のプロンプトで再試行します。
- Gemini、OpenRouter、Z.AI: ReplyRabbitはプロバイダーが返したときにキャッシュトークンのメタデータを記録しますが、それらのルートを通じて汎用的なキャッシュ設定を強制しません。
- Ollama と LM Studio: ローカルモデルはプロバイダープロンプトキャッシュを使用しません。生成はハードウェアで実行されるため、トークンごとのクラウド請求を回避できます。
- カスタム OpenAI 互換: ReplyRabbitは、OpenAIのプロンプトキャッシュ制御がカスタムサーバーで機能するとは想定していません。
月間トークン予算は保守的なままです。ReplyRabbitはプロバイダーがキャッシュされた入力を異なる方法で請求する場合でも、総入力トークンと出力トークンをカウントします。キャッシュされたプロンプトトークンは依然としてコンテキストを使用し、プロバイダーの制限にカウントされる可能性があるためです。
どちらを選ぶべきですか?
- はじめての方へ: OpenAI または Anthropic を使用します。すぐに優れた結果が得られ、OpenAI は Free ティアで利用できるため、まず ReplyRabbit を試すことができます。
- モデルを比較したい場合: OpenRouter を使用します。1 つの API キーでさまざまなベンダーの多くのモデルにアクセスできるため、個別のアカウントなしで実験できます。
- プライバシーまたはコスト管理が最も重要: Ollama または LM Studio を使用します。顧客データがサーバーから離れることはなく、トークンごとの請求もありませんが、モデルを独自のハードウェアで実行するコストがかかります (Pro または Team ティア)。
- 互換性のある API サーバーをすでに実行中: 使用する カスタム OpenAI 互換 ProまたはTeamで。まずチャットモデルを確認し、サーバーがサポートしている場合にのみ別の埋め込みモデルとビジョンモデルを設定します。
次へ