Escolhendo um provedor de IA
O ReplyRabbit funciona com provedores na nuvem, servidores de modelo locais e um endpoint personalizado compatível com OpenAI. Escolha com base na qualidade do rascunho, no custo e em para onde o conteúdo de suporte é enviado. Se estiver em dúvida, comece com OpenAI ou Anthropic e altere depois nas configurações da caixa de correio.
Opções de provedor
Cinco provedores nomeados são serviços em nuvem, dois rodam localmente e a opção personalizada se conecta a um servidor que você configura. Provedores em nuvem cobram por token (você paga diretamente a eles). Os custos de um endpoint personalizado dependem do operador dele.
| Provedor | Tipo | Melhor para | Preços |
|---|---|---|---|
| OpenAI | Nuvem | O ponto de partida usual. Disponível no plano Free, para que você possa experimentar o ReplyRabbit com um provedor antes de fazer upgrade. | platform.openai.com |
| Anthropic | Nuvem | Modelos Claude. Uma escolha forte e versátil para respostas de suporte naturais e cuidadosas. | anthropic.com |
| Google AI Studio | Nuvem | Modelos Gemini, incluindo opções rápidas e de baixo custo. | ai.google.dev |
| OpenRouter | Nuvem | Uma chave de API, muitos modelos de fornecedores diferentes. Bom para experimentar e comparar modelos sem se cadastrar em todos os lugares. | openrouter.ai |
| Z.AI | Nuvem | Modelos GLM. Uma opção de nuvem capaz e econômica. | z.ai |
| Ollama (Local) | Local | Executa modelos no seu próprio hardware (localhost:11434), então nada sai do seu servidor e não há custo por token. | ollama.com |
| LM Studio (Local) | Local | Executa modelos no seu próprio hardware (localhost:1234), privado e sem custo por token. | lmstudio.ai |
| Personalizado compatível com OpenAI | Seu servidor ou gateway | Conecte o ReplyRabbit a um servidor acessível que aceite requisições compatíveis com o estilo OpenAI. | Depende do seu servidor |
O nível gratuito usa OpenAI
Nuvem vs local
Provedores em nuvem (OpenAI, Anthropic, Google AI Studio, OpenRouter, Z.AI) são a forma mais fácil de começar e geralmente oferecem a melhor qualidade de rascunho. Você paga por token, e o conteúdo da conversa usado para os recursos de IA ativados, como rascunhos, próximas ações e AI Signals, sai do seu servidor e é enviado à API desse provedor.
Provedores locais (Ollama, LM Studio) executam o modelo no seu próprio hardware. Nada sai do seu servidor e não há custo por token. A contrapartida é que você precisa de uma máquina razoavelmente capaz, e a qualidade dos rascunhos depende do modelo local que você executa. Modelos locais exigem um plano pago (Pro ou Team).
Personalizado compatível com OpenAI conecta ao servidor ou gateway que você escolher. Se for remoto, o conteúdo de suporte sai do seu host FreeScout. Se estiver na sua rede privada, o FreeScout ainda precisa conseguir alcançá-lo. Insira os IDs exatos dos modelos e teste cada recurso que você precisa. Um endpoint de chat não garante embeddings nem visão.
Cache de prompt e orçamentos de tokens
O ReplyRabbit gerencia o cache de prompt do provedor automaticamente quando é seguro para o provedor selecionado. Não há configuração de caixa de correio para ativar.
- OpenAI: O ReplyRabbit envia uma chave segura de roteamento de cache para solicitações diretas ao OpenAI, para que prompts de suporte repetidos possam ser roteados de forma consistente.
- Anthropic: O ReplyRabbit usa o cache de prompt do Claude apenas quando identifica provável reutilização entre solicitações de rascunho correspondentes. Se a Anthropic rejeitar o controle de cache, o ReplyRabbit tenta novamente o prompt normal.
- Gemini, OpenRouter e Z.AI: O ReplyRabbit registra metadados de tokens de cache quando o provedor os retorna, mas não força uma configuração genérica de cache por essas rotas.
- Ollama e LM Studio: modelos locais não usam cache de prompt do provedor. Eles ainda podem evitar a cobrança por token na nuvem porque a geração é executada no seu hardware.
- Personalizado compatível com OpenAI: O ReplyRabbit não presume que os controles de cache de prompt da OpenAI funcionem em um servidor personalizado.
O Orçamento Mensal de Tokens permanece conservador. O ReplyRabbit conta o total de tokens de entrada e saída, mesmo quando um provedor cobra a entrada em cache de forma diferente, porque tokens de prompt em cache ainda usam contexto e podem contar para os limites do provedor.
Qual devo escolher?
- Só começando: use OpenAI ou Anthropic. Eles dão bons resultados prontos para uso, e a OpenAI está disponível no plano Free para você experimentar o ReplyRabbit primeiro.
- Quer comparar modelos: use OpenRouter. Uma chave de API dá acesso a muitos modelos de fornecedores diferentes, para que você possa experimentar sem contas separadas.
- Privacidade ou controle de custos é o mais importante: use Ollama ou LM Studio. Os dados dos seus clientes nunca saem do seu servidor e não há cobrança por token, ao custo de executar o modelo no seu próprio hardware (nível Pro ou Team).
- Já executa um servidor de API compatível: use Personalizado compatível com OpenAI no Pro ou Team. Verifique primeiro o modelo de chat, depois defina modelos separados de embedding e visão apenas se o seu servidor os suportar.
Próximo