Интеграция с Ollama
Работает с Ollama
Используйте это руководство, чтобы настроить Ollama как локального AI-провайдера для ReplyRabbit в FreeScout. Ollama позволяет ReplyRabbit запрашивать AI-черновики у модели, работающей на вашем собственном оборудовании.
Ищете обзор?
Обзор
Ollama это вариант локального провайдера в ReplyRabbit. Локальные провайдеры не требуют API-ключа. Вместо этого ReplyRabbit нужен URL локального сервера и имя модели, которая существует на сервере Ollama.
URL Ollama по умолчанию: http://localhost:11434. Используйте этот URL, если только ваша установленная версия ReplyRabbit не документирует другую поддерживаемую локальную настройку.
Предварительные требования
Перед началом убедитесь, что у вас есть:
- Работающая установка FreeScout.
- ReplyRabbit установлен и активирован.
- ReplyRabbit Pro или Team, который включает локальных провайдеров.
- Ollama установлена и запущена там, где ReplyRabbit может до неё достучаться.
- Модель, установленная в Ollama.
Если вы всё ещё выбираете между облачными и локальными провайдерами, прочитайте Выбор провайдера ИИ.
Требования к локальной установке
Ollama должна быть доступна PHP-процессу, в котором работает FreeScout. По умолчанию ReplyRabbit задаёт для Ollama http://localhost:11434; используйте другой URL только если ваша установленная версия документирует такую настройку.
Не предполагайте, что произвольные имена хостов или порты LAN будут приняты. Используйте URL по умолчанию, если только ваша установленная сборка ReplyRabbit не документирует иную поддерживаемую настройку.
Подключить Ollama
Запустите Ollama
Запустите Ollama и убедитесь, что нужная вам модель доступна на локальном сервере.Открыть настройки ReplyRabbit
В FreeScout откройте почтовый ящик, перейдите в Настройки, и выберите ReplyRabbit.Выберите Ollama
В AI Provider карточка, выберите Ollama (локально).Подтвердите URL сервера
Использоватьhttp://localhost:11434если установленная у вас версия ReplyRabbit не документирует другой поддерживаемый URL Ollama.Выберите или введите модель
Выберите вариант модели или используйте поле пользовательской модели. Модель должна существовать в запущенном сервере Ollama.Сохранить и проверить
Сохраните настройки, откройте разговор FreeScout и сгенерируйте черновик. Проверьте результат перед использованием Ollama на загруженном почтовом ящике.
Примечания к конфигурации
- API-ключ: не требуется для Ollama.
- URL сервера: по умолчанию
http://localhost:11434. - Модель: должно совпадать с именем установленной модели Ollama.
- Качество: зависит от модели и оборудования, на котором вы работаете.
- Бюджет: использование токенов всё равно может записываться ReplyRabbit, но сама Ollama не взимает плату за токен.
Сценарии использования
- Держите генерацию ИИ на оборудовании, которое вы контролируете.
- Проверьте качество локальной модели перед использованием её для производственного почтового ящика.
- Избегайте оплаты облачного провайдера за токены для поддерживаемых локальных рабочих процессов.
Устранение неполадок
| Симптом | Что проверить |
|---|---|
| Неверный URL Ollama | Использовать http://localhost:11434 если установленная у вас версия не документирует другой поддерживаемый локальный URL. |
| Модель не найдена | Убедитесь, что имя модели существует в Ollama и совпадает с настройкой ReplyRabbit. |
| Истекло время создания черновика | Попробуйте меньшую модель, проверьте ресурсы сервера и убедитесь, что Ollama запущен. |
| Качество результата слабое | Протестируйте более сильную локальную модель или переключите почтовый ящик обратно на облачного провайдера. |
| Ollama отключена в настройках | Убедитесь, что почтовый ящик на тарифе ReplyRabbit Pro или Team. |
Для более широких исправлений см. Устранение неполадок ReplyRabbit.
Заметки о конфиденциальности и безопасности
Ollama сохраняет генерацию локальной, когда сервер и модель работают на вашем собственном оборудовании. Это может помочь с локальностью данных, но вам всё равно нужно защитить машину, FreeScout и любые локальные сервисы, имеющие доступ к содержимому поддержки.
Если вы открываете Ollama за пределы localhost, убедитесь, что ваша версия ReplyRabbit поддерживает такую настройку и что конечная точка недоступна недоверенным пользователям.
Следующие шаги
- Проверьте Интеграция Ollama для FreeScout страница, когда вам нужен обзор рабочего процесса и покупки.
- Сравните компромиссы локальных и облачных решений в Выбор провайдера ИИ.
- Продолжить с Как настроить ReplyRabbit если контекст компании, примеры или бюджеты всё ещё требуют внимания.
FAQ
Требует ли Ollama ключ API?
Нет. ReplyRabbit использует URL сервера Ollama и имя модели вместо API-ключа облачного провайдера.
Какой URL Ollama мне использовать?
Используйте http://localhost:11434, если установленная версия ReplyRabbit не описывает другую поддерживаемую локальную настройку.
Можно ли использовать любое имя модели?
Имя модели должно совпадать с моделью, доступной на вашем работающем сервере Ollama.
Доступен ли Ollama на бесплатном тарифе?
Нет. Локальные провайдеры доступны на ReplyRabbit Pro и Team.