Bir yapay zeka sağlayıcısı seçme
ReplyRabbit bulut sağlayıcıları, yerel model sunucuları ve özel bir OpenAI uyumlu uç nokta ile çalışır. Taslak kalitesine, maliyete ve destek içeriğinin nereye gönderildiğine göre seçin. Emin değilseniz OpenAI veya Anthropic ile başlayın ve daha sonra posta kutusu ayarlarınızdan değiştirin.
Sağlayıcı seçenekleri
Beş adlandırılmış sağlayıcı bulut hizmetidir, ikisi yerel olarak çalışır ve özel seçenek yapılandırdığınız bir sunucuya bağlanır. Bulut sağlayıcıları token başına faturalandırır (doğrudan onlara ödersiniz). Özel bir uç noktanın maliyetleri operatörüne bağlıdır.
| Sağlayıcı | Tür | Şunun için en iyi | Fiyatlandırma |
|---|---|---|---|
| OpenAI | Bulut | Olağan başlangıç noktası. Ücretsiz katmanda mevcuttur, böylece yükseltmeden önce ReplyRabbit'i tek bir sağlayıcıyla deneyebilirsiniz. | platform.openai.com |
| Anthropic | Bulut | Claude modelleri. Doğal, özenli destek yanıtları için güçlü ve çok yönlü bir seçim. | anthropic.com |
| Google AI Studio | Bulut | Hızlı, düşük maliyetli seçenekler dahil Gemini modelleri. | ai.google.dev |
| OpenRouter | Bulut | Tek bir API anahtarı, farklı satıcılardan birçok model. Her yere kaydolmadan modelleri denemek ve karşılaştırmak için iyi. | openrouter.ai |
| Z.AI | Bulut | GLM modelleri. Yetenekli, maliyet bilinçli bir bulut seçeneği. | z.ai |
| Ollama (Yerel) | Yerel | Modelleri kendi donanımınızda (localhost:11434) çalıştırır, böylece hiçbir şey sunucunuzdan ayrılmaz ve token başına maliyet yoktur. | ollama.com |
| LM Studio (Yerel) | Yerel | Modelleri kendi donanımınızda (localhost:1234) çalıştırır, token başına maliyet olmadan özel. | lmstudio.ai |
| Özel OpenAI uyumlu | Sunucunuz veya ağ geçidiniz | ReplyRabbit'i desteklenen OpenAI tarzı istekleri kabul eden erişilebilir bir sunucuya bağlayın. | Sunucunuza bağlıdır |
Ücretsiz katman OpenAI kullanır
Bulut ile yerel karşılaştırması
Bulut sağlayıcıları (OpenAI, Anthropic, Google AI Studio, OpenRouter, Z.AI) başlamanın en kolay yoludur ve genellikle en iyi taslak kalitesini sunar. Token başına ödeme yaparsınız ve taslaklar, sonraki eylemler ve AI Signals gibi etkinleştirilen AI özellikleri için kullanılan konuşma içeriği sunucunuzdan çıkar ve o sağlayıcının API'sine gönderilir.
Yerel sağlayıcılar (Ollama, LM Studio) modeli kendi donanımınızda çalıştırır. Sunucunuzdan hiçbir şey çıkmaz ve token başına maliyet yoktur. Ödün vermeniz gereken şey, makul düzeyde güçlü bir makineye ihtiyaç duymanız ve taslak kalitesinin çalıştırdığınız yerel modele bağlı olmasıdır. Yerel modeller ücretli bir plan (Pro veya Team) gerektirir.
Özel OpenAI uyumlu seçtiğiniz sunucuya veya ağ geçidine bağlanır. Uzak ise destek içeriği FreeScout ana makinenizden ayrılır. Özel ağınızdaysa FreeScout yine de ona erişebilmelidir. Tam model kimliklerini girin ve ihtiyaç duyduğunuz her yeteneği test edin. Bir sohbet uç noktası, gömme veya görüntü işlemeyi garanti etmez.
İstem önbelleğe alma ve token bütçeleri
ReplyRabbit, seçilen sağlayıcı için güvenli olduğunda sağlayıcı istem önbelleğini otomatik olarak yönetir. Açılacak bir posta kutusu ayarı yoktur.
- OpenAI: ReplyRabbit, doğrudan OpenAI istekleri için güvenli bir önbellek yönlendirme anahtarı gönderir, böylece tekrarlanan destek istemleri tutarlı şekilde yönlendirilebilir.
- Anthropic: ReplyRabbit Claude istem önbelleğini yalnızca eşleşen taslak istekleri arasında yeniden kullanım olasılığı gördüğünde kullanır. Anthropic önbellek denetimini reddederse ReplyRabbit normal istemle yeniden dener.
- Gemini, OpenRouter ve Z.AI: ReplyRabbit, sağlayıcı bunu döndürdüğünde önbellek token meta verilerini kaydeder, ancak bu rotalar aracılığıyla genel bir önbellek ayarını zorlamaz.
- Ollama ve LM Studio: yerel modeller sağlayıcı istem önbelleğe almayı kullanmaz. Üretim donanımınızda çalıştığı için yine de token başına bulut faturalandırmasından kaçınabilirler.
- Özel OpenAI uyumlu: ReplyRabbit, OpenAI'nin istem önbelleği kontrollerinin özel bir sunucuda çalıştığını varsaymaz.
Aylık Belirteç Bütçesi muhafazakar kalır. ReplyRabbit, bir sağlayıcı önbelleğe alınmış girdiyi farklı faturalandırsa bile toplam girdi ve çıktı belirteçlerini sayar, çünkü önbelleğe alınmış istem belirteçleri yine bağlam kullanır ve sağlayıcı sınırlarına sayılabilir.
Hangisini seçmeliyim?
- Yeni başlıyorsanız: OpenAI veya Anthropic kullanın. Kutudan çıktığı gibi iyi sonuçlar verirler ve OpenAI Free katmanında mevcuttur, böylece önce ReplyRabbit'i deneyebilirsiniz.
- Modelleri karşılaştırmak ister misiniz: OpenRouter kullanın. Tek bir API anahtarı size farklı satıcılardan birçok modele erişim sağlar, böylece ayrı hesaplar olmadan deneyebilirsiniz.
- Gizlilik veya maliyet kontrolü en çok önemliyse: Ollama veya LM Studio kullanın. Müşteri verileriniz sunucunuzdan asla ayrılmaz ve token başına fatura yoktur, bunun bedeli modeli kendi donanımınızda çalıştırmaktır (Pro veya Team katmanı).
- Zaten uyumlu bir API sunucusu çalıştırıyorsunuz: kullanın Özel OpenAI uyumlu Pro veya Team'de. Önce sohbet modelini doğrulayın, ardından sunucunuz destekliyorsa ayrı gömme ve görüntü modelleri ayarlayın.
İleri