Integracja Ollama
Współpracuje z Ollama
Użyj tego przewodnika, aby skonfigurować Ollama jako lokalnego dostawcę AI dla ReplyRabbit w FreeScout. Ollama pozwala ReplyRabbit żądać odpowiedzi roboczych AI od modelu działającego na Twoim własnym sprzęcie.
Szukasz przeglądu?
Przegląd
Ollama to opcja lokalnego dostawcy w ReplyRabbit. Dostawcy lokalni nie wymagają klucza API. Zamiast tego ReplyRabbit potrzebuje adresu URL lokalnego serwera i nazwy modelu, który istnieje na serwerze Ollama.
Domyślny adres URL Ollama to http://localhost:11434. Użyj tego adresu URL, chyba że zainstalowana wersja ReplyRabbit dokumentuje inną obsługiwaną konfigurację lokalną.
Wymagania wstępne
Zanim zaczniesz, upewnij się, że masz:
- Działająca instalacja FreeScout.
- ReplyRabbit zainstalowany i aktywowany.
- ReplyRabbit Pro lub Team, który obejmuje lokalnych dostawców.
- Ollama zainstalowana i uruchomiona tam, gdzie ReplyRabbit może ją osiągnąć.
- Model zainstalowany w Ollama.
Jeśli nadal wybierasz między dostawcami w chmurze a lokalnymi, przeczytaj Wybór dostawcy AI.
Wymagania konfiguracji lokalnej
Ollama musi być osiągalna dla procesu PHP uruchamiającego FreeScout. ReplyRabbit domyślnie ustawia Ollama na http://localhost:11434; używaj innego adresu URL tylko wtedy, gdy zainstalowana wersja dokumentuje taką konfigurację.
Nie zakładaj, że dowolne nazwy hostów LAN lub porty zostaną zaakceptowane. Używaj domyślnego URL, chyba że zainstalowana wersja ReplyRabbit dokumentuje inną obsługiwaną konfigurację.
Połącz Ollama
Uruchom Ollama
Uruchom Ollama i potwierdź, że model, którego chcesz użyć, jest dostępny na lokalnym serwerze.Otwórz ustawienia ReplyRabbit
W FreeScout otwórz skrzynkę, przejdź do Ustawienia, i wybierz ReplyRabbit.Wybierz Ollama
W Dostawca AI karta, wybierz Ollama (lokalnie).Potwierdź adres URL serwera
Użyjhttp://localhost:11434chyba że zainstalowana wersja ReplyRabbit dokumentuje inny obsługiwany adres URL Ollama.Wybierz lub wprowadź model
Wybierz opcję modelu lub użyj pola niestandardowego modelu. Model musi istnieć na działającym serwerze Ollama.Zapisz i przetestuj
Zapisz ustawienia, otwórz rozmowę FreeScout i wygeneruj szkic. Przejrzyj wynik przed użyciem Ollama na zajętej skrzynce.
Uwagi dotyczące konfiguracji
- Klucz API: niewymagane dla Ollama.
- Adres URL serwera: domyślnie
http://localhost:11434. - Model: musi odpowiadać nazwie zainstalowanego modelu Ollama.
- Jakość: zależy od modelu i sprzętu, na którym go uruchamiasz.
- Budżet: zużycie tokenów może być nadal rejestrowane przez ReplyRabbit, ale sama Ollama nie pobiera opłat za token.
Przypadki użycia
- Zachowaj generowanie AI na sprzęcie, który kontrolujesz.
- Przetestuj jakość modelu lokalnego przed użyciem go w skrzynce produkcyjnej.
- Unikaj rozliczeń u dostawców chmurowych za tokeny w obsługiwanych lokalnych przepływach pracy.
Rozwiązywanie problemów
| Objaw | Co sprawdzić |
|---|---|
| Nieprawidłowy adres URL Ollama | Użyj http://localhost:11434 chyba że zainstalowana wersja dokumentuje inny obsługiwany lokalny adres URL. |
| Nie znaleziono modelu | Potwierdź, że nazwa modelu istnieje w Ollama i odpowiada ustawieniu ReplyRabbit. |
| Generowanie szkicu przekracza limit czasu | Wypróbuj mniejszy model, sprawdź zasoby serwera i potwierdź, że Ollama działa. |
| Jakość danych wyjściowych jest słaba | Przetestuj silniejszy model lokalny lub przełącz skrzynkę z powrotem na dostawcę chmury. |
| Ollama jest wyłączona w ustawieniach | Potwierdź, że skrzynka jest w planie ReplyRabbit Pro lub Team. |
Szersze poprawki znajdziesz w Rozwiązywanie problemów z ReplyRabbit.
Uwagi dotyczące prywatności i bezpieczeństwa
Ollama utrzymuje generowanie lokalnie, gdy serwer i model działają na Twoim własnym sprzęcie. Może to pomóc w lokalizacji danych, ale nadal musisz zabezpieczyć maszynę, FreeScout i wszelkie lokalne usługi, które mają dostęp do treści wsparcia.
Jeśli udostępniasz Ollama poza localhost, potwierdź, że Twoja wersja ReplyRabbit obsługuje taką konfigurację i że punkt końcowy nie jest osiągalny dla niezaufanych użytkowników.
Następne kroki
- Przejrzyj Integracja Ollama dla FreeScout strona, gdy potrzebujesz przeglądu procesu i zakupu.
- Porównaj kompromisy lokalne i chmurowe w Wybór dostawcy AI.
- Kontynuuj z Jak skonfigurować ReplyRabbit jeśli kontekst firmy, przykłady lub budżety nadal wymagają uwagi.
FAQ
Czy Ollama wymaga klucza API?
Nie. ReplyRabbit używa adresu URL serwera Ollama i nazwy modelu zamiast klucza API dostawcy chmury.
Jakiego adresu URL Ollama powinienem użyć?
Użyj http://localhost:11434, chyba że zainstalowana wersja ReplyRabbit dokumentuje inną obsługiwaną konfigurację lokalną.
Czy mogę użyć dowolnej nazwy modelu?
Nazwa modelu musi odpowiadać modelowi dostępnemu na Twoim działającym serwerze Ollama.
Czy Ollama jest dostępna w planie Free?
Nie. Dostawcy lokalni są dostępni w ReplyRabbit Pro i Team.