Elegir un proveedor de IA
ReplyRabbit funciona con proveedores en la nube, servidores de modelos locales y un endpoint personalizado compatible con OpenAI. Elige según la calidad del borrador, el costo y dónde se envía el contenido de soporte. Si no estás seguro, comienza con OpenAI o Anthropic y cámbialo más tarde en la configuración de tu buzón.
Opciones de proveedor
Cinco proveedores con nombre son servicios en la nube, dos se ejecutan localmente y la opción personalizada se conecta a un servidor que configures. Los proveedores en la nube cobran por token (les pagas directamente). Los costes de un endpoint personalizado dependen de su operador.
| Proveedor | Tipo | Mejor para | Precios |
|---|---|---|---|
| OpenAI | Nube | El punto de partida habitual. Disponible en el plan Free, para que puedas probar ReplyRabbit con un proveedor antes de mejorar el plan. | platform.openai.com |
| Anthropic | Nube | Modelos de Claude. Una opción sólida y versátil para respuestas de soporte naturales y cuidadosas. | anthropic.com |
| Google AI Studio | Nube | Modelos Gemini, incluidas opciones rápidas y de bajo coste. | ai.google.dev |
| OpenRouter | Nube | Una clave de API, muchos modelos de distintos proveedores. Ideal para experimentar y comparar modelos sin registrarte en todas partes. | openrouter.ai |
| Z.AI | Nube | Modelos GLM. Una opción en la nube capaz y económica. | z.ai |
| Ollama (Local) | Local | Ejecuta modelos en tu propio hardware (localhost:11434), por lo que nada sale de tu servidor y no hay costo por token. | ollama.com |
| LM Studio (Local) | Local | Ejecuta modelos en tu propio hardware (localhost:1234), de forma privada y sin costo por token. | lmstudio.ai |
| Personalizado compatible con OpenAI | Tu servidor o puerta de enlace | Conecta ReplyRabbit a un servidor accesible que acepte solicitudes compatibles con el estilo de OpenAI. | Depende de su servidor |
El nivel gratuito usa OpenAI
Nube frente a local
Proveedores en la nube (OpenAI, Anthropic, Google AI Studio, OpenRouter, Z.AI) son la forma más sencilla de empezar y suelen ofrecer la mejor calidad de borradores. Pagas por token, y el contenido de las conversaciones usado para las funciones de IA activadas, como borradores, próximas acciones y Señales de IA, sale de tu servidor y se envía a la API de ese proveedor.
Proveedores locales (Ollama, LM Studio) ejecutan el modelo en tu propio hardware. Nada sale de tu servidor y no hay coste por token. La contrapartida es que necesitas una máquina razonablemente potente, y la calidad de los borradores depende del modelo local que ejecutes. Los modelos locales requieren un plan de pago (Pro o Team).
Personalizado compatible con OpenAI se conecta al servidor o gateway que elijas. Si es remoto, el contenido de soporte sale de tu host de FreeScout. Si está en tu red privada, FreeScout debe poder alcanzarlo de todos modos. Introduce los IDs de modelo exactos y prueba cada capacidad que necesites. Un endpoint de chat no garantiza embeddings ni visión.
Caché de prompts y presupuestos de tokens
ReplyRabbit gestiona automáticamente la caché de prompts del proveedor cuando es seguro para el proveedor seleccionado. No hay ninguna configuración de buzón que activar.
- OpenAI: ReplyRabbit envía una clave de enrutamiento de caché segura para solicitudes directas a OpenAI, de modo que los prompts de soporte repetidos se puedan enrutar de forma consistente.
- Anthropic: ReplyRabbit usa el almacenamiento en caché de prompts de Claude solo cuando detecta una probable reutilización entre solicitudes de borrador coincidentes. Si Anthropic rechaza el control de caché, ReplyRabbit reintenta con el prompt normal.
- Gemini, OpenRouter y Z.AI: ReplyRabbit registra metadatos de tokens de caché cuando el proveedor los devuelve, pero no fuerza una configuración de caché genérica a través de esas rutas.
- Ollama y LM Studio: los modelos locales no usan el almacenamiento en caché de prompts del proveedor. Aun así pueden evitar la facturación en la nube por token porque la generación se ejecuta en tu hardware.
- Personalizado compatible con OpenAI: ReplyRabbit no asume que los controles de caché de prompts de OpenAI funcionen en un servidor personalizado.
El presupuesto mensual de tokens sigue siendo conservador. ReplyRabbit cuenta los tokens totales de entrada y salida, incluso cuando un proveedor factura la entrada en caché de forma diferente, porque los tokens de prompt en caché siguen usando contexto y pueden contar para los límites del proveedor.
¿Cuál debo elegir?
- Solo para empezar: usa OpenAI o Anthropic. Dan buenos resultados desde el principio, y OpenAI está disponible en el nivel Free para que puedas probar ReplyRabbit primero.
- ¿Quieres comparar modelos? usa OpenRouter. Una sola clave de API te da acceso a muchos modelos de distintos proveedores, para que puedas experimentar sin cuentas separadas.
- Si lo que más importa es la privacidad o el control de costos: usa Ollama o LM Studio. Tus datos de clientes nunca salen de tu servidor y no hay factura por token, a costa de ejecutar el modelo en tu propio hardware (nivel Pro o Team).
- Ya tienes un servidor API compatible en marcha: usar Personalizado compatible con OpenAI en Pro o Team. Verifica primero el modelo de chat, y luego configura modelos de embedding y visión separados solo si tu servidor los admite.
Siguiente