Ollama entegrasyonu
Şunlarla çalışır Ollama
Ollama'yı FreeScout'ta ReplyRabbit için yerel AI sağlayıcısı olarak yapılandırmak için bu kılavuzu kullanın. Ollama, ReplyRabbit'in kendi donanımınızda çalışan bir modelden AI taslakları istemesini sağlar.
Genel bakışı mı arıyorsunuz?
Genel bakış
Ollama, ReplyRabbit'te yerel bir sağlayıcı seçeneğidir. Yerel sağlayıcılar API anahtarı gerektirmez. Bunun yerine ReplyRabbit'in bir yerel sunucu URL'sine ve Ollama sunucusunda var olan bir model adına ihtiyacı vardır.
Varsayılan Ollama URL'si http://localhost:11434. Kurulu ReplyRabbit sürümünüz başka bir desteklenen yerel kurulum belgelemediği sürece bu URL'yi kullanın.
Ön koşullar
Başlamadan önce şunlara sahip olduğunuzdan emin olun:
- Çalışan bir FreeScout kurulumu.
- ReplyRabbit kuruldu ve etkinleştirildi.
- Yerel sağlayıcıları içeren ReplyRabbit Pro veya Team.
- Ollama, ReplyRabbit'in erişebileceği bir yerde kurulu ve çalışıyor.
- Ollama'da yüklü bir model.
Hâlâ bulut ve yerel sağlayıcılar arasında seçim yapıyorsanız, şunu okuyun Bir yapay zeka sağlayıcısı seçme.
Yerel kurulum gereksinimleri
Ollama'ya FreeScout'u çalıştıran PHP süreci tarafından erişilebilmelidir. ReplyRabbit, Ollama'yı varsayılan olarak şuna ayarlar http://localhost:11434; yalnızca yüklü sürümünüz bu kurulumu belgeliyorsa başka bir URL kullanın.
Rastgele LAN ana bilgisayar adlarının veya bağlantı noktalarının kabul edileceğini varsaymayın. Kurulu ReplyRabbit sürümünüz farklı bir desteklenen kurulum belgelemediği sürece varsayılan URL'yi kullanın.
Ollama'yı bağlayın
Ollama'yı başlatın
Ollama'yı başlatın ve kullanmak istediğiniz modelin yerel sunucuda mevcut olduğunu doğrulayın.ReplyRabbit ayarlarını aç
FreeScout'ta posta kutusunu açın, şuraya gidin Ayarlar, ve seçin ReplyRabbit.Ollama'yı seçin
Şurada AI Provider kartında seçin Ollama (Yerel).Sunucu URL'sini onaylayın
Kullanhttp://localhost:11434kurulu ReplyRabbit sürümünüz başka bir desteklenen Ollama URL'si belgelemediği sürece.Modeli seçin veya girin
Bir model seçeneği seçin veya özel model alanını kullanın. Model çalışan Ollama sunucusunda mevcut olmalıdır.Kaydet ve test et
Ayarları kaydedin, bir FreeScout konuşması açın ve bir taslak oluşturun. Ollama'yı yoğun bir posta kutusunda kullanmadan önce sonucu inceleyin.
Yapılandırma notları
- API anahtarı: Ollama için gerekli değildir.
- Sunucu URL'si: varsayılan olarak
http://localhost:11434. - Model: yüklü bir Ollama model adıyla eşleşmelidir.
- Kalite: çalıştırdığınız modele ve donanıma bağlıdır.
- Bütçe: token kullanımı yine de ReplyRabbit tarafından kaydedilebilir, ancak Ollama'nın kendisi token başına ücret almaz.
Kullanım durumları
- AI üretimini kontrol ettiğiniz donanımda tutun.
- Üretim posta kutusu için kullanmadan önce yerel model kalitesini test edin.
- Desteklenen yerel iş akışları için token başına bulut sağlayıcı faturalandırmasından kaçının.
Sorun giderme
| Belirti | Neleri kontrol etmeli |
|---|---|
| Geçersiz Ollama URL'si | Kullan http://localhost:11434 kurulu sürümünüz başka bir desteklenen yerel URL belgelemediği sürece. |
| Model bulunamadı | Model adının Ollama'da var olduğunu ve ReplyRabbit ayarıyla eşleştiğini doğrulayın. |
| Taslak oluşturma zaman aşımına uğruyor | Daha küçük bir model deneyin, sunucu kaynaklarını kontrol edin ve Ollama'nın çalıştığını doğrulayın. |
| Çıktı kalitesi zayıf | Daha güçlü bir yerel modeli test edin veya posta kutusunu tekrar bir bulut sağlayıcısına geçirin. |
| Ollama ayarlarda devre dışı | Posta kutusunun ReplyRabbit Pro veya Team'de olduğunu doğrulayın. |
Daha geniş düzeltmeler için bkz. ReplyRabbit sorun giderme.
Gizlilik ve güvenlik notları
Ollama, sunucu ve model kendi donanımınızda çalıştığında üretimi yerel tutar. Bu veri yerelliğine yardımcı olabilir, ancak yine de makineyi, FreeScout'u ve destek içeriğine erişebilen yerel hizmetleri güvence altına almanız gerekir.
Ollama'yı localhost dışında açığa çıkarırsanız, ReplyRabbit sürümünüzün bu kurulumu desteklediğini ve uç noktaya güvenilmeyen kullanıcılar tarafından erişilemediğini doğrulayın.
Sonraki adımlar
- Şunu inceleyin FreeScout için Ollama entegrasyonu iş akışı ve satın alma genel bakışına ihtiyaç duyduğunuzda sayfa.
- Yerel ve bulut ödünleşimlerini şurada karşılaştırın Bir yapay zeka sağlayıcısı seçme.
- Şununla devam edin: ReplyRabbit nasıl kurulur şirket bağlamı, örnekler veya bütçeler hâlâ ilgi gerektiriyorsa.
SSS
Ollama bir API anahtarı gerektiriyor mu?
Hayır. ReplyRabbit, bulut sağlayıcı API anahtarı yerine bir Ollama sunucu URL'si ve model adı kullanır.
Hangi Ollama URL'sini kullanmalıyım?
Yüklü ReplyRabbit sürümünüz başka bir desteklenen yerel kurulum belgelemediği sürece http://localhost:11434 kullanın.
Herhangi bir model adını kullanabilir miyim?
Model adı, çalışan Ollama sunucunuzda mevcut bir modelle eşleşmelidir.
Ollama Ücretsiz katmanda mevcut mu?
Hayır. Yerel sağlayıcılar ReplyRabbit Pro ve Team'de kullanılabilir.