选择 AI 提供方
ReplyRabbit 支持云端提供商、本地模型服务器和自定义 OpenAI 兼容端点。请根据草稿质量、成本以及支持内容的发送位置进行选择。如果不确定,请先从 OpenAI 或 Anthropic 开始,之后可在邮箱设置中更改。
提供商选择
五个命名提供商是云服务,两个在本地运行,自定义选项连接到你自己配置的服务器。云提供商按令牌计费(你直接向他们付费)。自定义端点的费用取决于其运营商。
| 提供商 | 类型 | 最适合 | 定价 |
|---|---|---|---|
| OpenAI | 云 | 通常的起点。在 Free 层级可用,因此你可以先使用一个提供商试用 ReplyRabbit,然后再升级。 | platform.openai.com |
| Anthropic | 云 | Claude 模型。自然、细致的支持回复的强力全能选择。 | anthropic.com |
| Google AI Studio | 云 | Gemini 模型,包括快速、低成本选项。 | ai.google.dev |
| OpenRouter | 云 | 一个 API 密钥,即可使用来自不同供应商的众多模型。适合在无需到处注册的情况下试验和比较模型。 | openrouter.ai |
| Z.AI | 云 | GLM 模型。一个功能强大、注重成本的云选项。 | z.ai |
| Ollama(本地) | 本地 | 在您自己的硬件上运行模型(localhost:11434),因此数据不会离开您的服务器,也没有按 token 计费的成本。 | ollama.com |
| LM Studio(本地) | 本地 | 在您自己的硬件上运行模型(localhost:1234),私密且无按 token 计费的成本。 | lmstudio.ai |
| 自定义 OpenAI 兼容 | 你的服务器或网关 | 将 ReplyRabbit 连接到接受支持的 OpenAI 风格请求的可访问服务器。 | 取决于您的服务器 |
免费层使用 OpenAI
在免费套餐中,ReplyRabbit 仅使用 OpenAI。升级到 Pro 或 Team 可解锁其他提供商选项,包括本地模型和自定义端点。价格经常变动,请查看各提供商官网获取当前费率。
云与本地
云提供方 (OpenAI、Anthropic、Google AI Studio、OpenRouter、Z.AI)是最简单的入门方式,通常提供最佳的草稿质量。你按 token 付费,用于已启用 AI 功能(如草稿、下一步操作和 AI 信号)的对话内容会离开你的服务器并发送到该提供商的 API。
本地提供商 (Ollama、LM Studio)在你自己的硬件上运行模型。数据不会离开你的服务器,也没有按 token 计费的成本。代价是你需要一台性能足够的机器,且草稿质量取决于你运行的本地模型。本地模型需要付费套餐(Pro 或团队版)。
自定义 OpenAI 兼容 连接到您选择的服务器或网关。如果是远程的,支持内容会离开您的 FreeScout 主机。如果它在您的私有网络上,FreeScout 仍必须能够访问它。输入确切的模型 ID,并测试您需要的每项能力。聊天端点并不保证嵌入或视觉能力。
提示缓存和 token 预算
当对所选提供商安全时,ReplyRabbit 会自动处理提供商提示缓存。没有需要开启的邮箱设置。
- OpenAI: ReplyRabbit 为直接 OpenAI 请求发送安全的缓存路由键,以便重复的支持提示可以被一致地路由。
- Anthropic: ReplyRabbit 仅在检测到匹配的草稿请求之间可能存在复用时才使用 Claude 提示缓存。如果 Anthropic 拒绝缓存控制,ReplyRabbit 会重试普通提示。
- Gemini、OpenRouter 和 Z.AI: ReplyRabbit 在提供商返回缓存令牌元数据时记录它,但不会通过这些路由强制使用通用缓存设置。
- Ollama 和 LM Studio: 本地模型不使用提供商提示缓存。它们仍然可以避免按令牌的云计费,因为生成在您的硬件上运行。
- 自定义 OpenAI 兼容: ReplyRabbit 不假定 OpenAI 的提示缓存控制能在自定义服务器上生效。
每月令牌预算保持保守。ReplyRabbit 计算总输入和输出令牌,即使提供商对缓存输入的计费方式不同,因为缓存的提示令牌仍使用上下文并可能计入提供商限制。
我应该选择哪个?
- 刚刚开始: 使用 OpenAI 或 Anthropic。它们开箱即用效果良好,并且 OpenAI 在免费层可用,因此你可以先试用 ReplyRabbit。
- 想要比较模型: 使用 OpenRouter。一个 API 密钥即可让你访问来自不同供应商的许多模型,因此你无需单独账户即可试验。
- 隐私或成本控制最重要: 使用 Ollama 或 LM Studio。你的客户数据永远不会离开你的服务器,也没有按令牌计费,代价是在你自己的硬件上运行模型(Pro 或 Team 层级)。
- 已经运行兼容的 API 服务器: 使用 自定义 OpenAI 兼容 在 Pro 或 Team 上。首先验证聊天模型,然后仅在您的服务器支持时设置单独的嵌入和视觉模型。
下一步