Integração com Ollama
Funciona com Ollama
Use este guia para configurar o Ollama como provedor de IA local para o ReplyRabbit no FreeScout. O Ollama permite que o ReplyRabbit solicite rascunhos de IA a um modelo rodando no seu próprio hardware.
Procurando a visão geral?
Visão geral
O Ollama é uma opção de provedor local no ReplyRabbit. Provedores locais não exigem chave de API. Em vez disso, o ReplyRabbit precisa de uma URL de servidor local e de um nome de modelo que exista no servidor Ollama.
A URL padrão do Ollama é http://localhost:11434. Use essa URL a menos que a versão do ReplyRabbit instalada documente outra configuração local suportada.
Pré-requisitos
Antes de começar, certifique-se de ter:
- Uma instalação funcional do FreeScout.
- ReplyRabbit instalado e ativado.
- ReplyRabbit Pro ou Team, que inclui provedores locais.
- Ollama instalado e em execução onde o ReplyRabbit possa alcançá-lo.
- Um modelo instalado no Ollama.
Se você ainda estiver escolhendo entre provedores em nuvem e locais, leia Escolhendo um provedor de IA.
Requisitos de configuração local
O Ollama precisa estar acessível pelo processo PHP que executa o FreeScout. O ReplyRabbit define o Ollama por padrão como http://localhost:11434; use outra URL apenas quando a versão instalada documentar essa configuração.
Não presuma que nomes de host ou portas de LAN arbitrários serão aceitos. Use a URL padrão, a menos que a sua build instalada do ReplyRabbit documente uma configuração suportada diferente.
Conectar Ollama
Inicie o Ollama
Inicie o Ollama e confirme que o modelo que você deseja usar está disponível no servidor local.Abrir configurações do ReplyRabbit
No FreeScout, abra a caixa de correio, vá para Configurações, e escolha ReplyRabbit.Escolha Ollama
No Provedor de IA cartão, selecione Ollama (Local).Confirme a URL do servidor
Usarhttp://localhost:11434a menos que sua versão instalada do ReplyRabbit documente outra URL do Ollama suportada.Escolha ou insira o modelo
Selecione uma opção de modelo ou use o campo de modelo personalizado. O modelo deve existir no servidor Ollama em execução.Salvar e testar
Salve as configurações, abra uma conversa no FreeScout e gere um rascunho. Revise o resultado antes de usar o Ollama em uma caixa de correio movimentada.
Notas de configuração
- Chave de API: não obrigatório para Ollama.
- URL do servidor: padrão para
http://localhost:11434. - Modelo: deve corresponder a um nome de modelo Ollama instalado.
- Qualidade: depende do modelo e do hardware que você executa.
- Orçamento: o uso de tokens ainda pode ser registrado pelo ReplyRabbit, mas o Ollama em si não cobra por token.
Casos de uso
- Mantenha a geração de IA em hardware que você controla.
- Teste a qualidade do modelo local antes de usá-lo em uma caixa de correio de produção.
- Evite a cobrança por token de provedores em nuvem para fluxos de trabalho locais compatíveis.
Solução de problemas
| Sintoma | O que verificar |
|---|---|
| URL do Ollama inválida | Usar http://localhost:11434 a menos que sua versão instalada documente outra URL local suportada. |
| Modelo não encontrado | Confirme se o nome do modelo existe no Ollama e corresponde à configuração do ReplyRabbit. |
| A geração de rascunhos expira | Experimente um modelo menor, verifique os recursos do servidor e confirme que o Ollama está em execução. |
| A qualidade da saída está fraca | Teste um modelo local mais forte ou volte a caixa de correio para um provedor de nuvem. |
| O Ollama está desativado nas configurações | Confirme se a caixa de correio está no ReplyRabbit Pro ou Team. |
Para correções mais amplas, consulte Solução de problemas do ReplyRabbit.
Notas de privacidade e segurança
O Ollama mantém a geração local quando o servidor e o modelo rodam no seu próprio hardware. Isso pode ajudar com a localidade dos dados, mas você ainda precisa proteger a máquina, o FreeScout e quaisquer serviços locais que possam acessar conteúdo de suporte.
Se você expuser o Ollama além do localhost, confirme que sua versão do ReplyRabbit suporta essa configuração e que o endpoint não é acessível por usuários não confiáveis.
Próximos passos
- Revise o Integração com Ollama para FreeScout página quando você precisar da visão geral do fluxo e da compra.
- Compare as vantagens e desvantagens entre local e nuvem em Escolhendo um provedor de IA.
- Continuar com Como configurar o ReplyRabbit se o contexto da empresa, os exemplos ou os orçamentos ainda precisam de atenção.
FAQ
O Ollama exige uma chave de API?
Não. O ReplyRabbit usa uma URL de servidor Ollama e um nome de modelo em vez de uma chave de API de provedor na nuvem.
Qual URL do Ollama devo usar?
Use http://localhost:11434 a menos que a versão instalada do ReplyRabbit documente outra configuração local suportada.
Posso usar qualquer nome de modelo?
O nome do modelo deve corresponder a um modelo disponível no seu servidor Ollama em execução.
O Ollama está disponível no plano Free?
Não. Provedores locais estão disponíveis no ReplyRabbit Pro e Team.