การเลือกผู้ให้บริการ AI
ReplyRabbit ทำงานร่วมกับผู้ให้บริการบนคลาวด์ เซิร์ฟเวอร์โมเดลภายใน และปลายทางที่เข้ากันได้กับ OpenAI แบบกำหนดเอง เลือกตามคุณภาพฉบับร่าง ต้นทุน และตำแหน่งที่เนื้อหาการสนับสนุนถูกส่งไป หากไม่แน่ใจ ให้เริ่มด้วย OpenAI หรือ Anthropic แล้วเปลี่ยนภายหลังในการตั้งค่ากล่องจดหมาย
ตัวเลือกผู้ให้บริการ
ผู้ให้บริการที่ระบุชื่อห้ารายเป็นบริการคลาวด์ สองรายรันในเครื่อง และตัวเลือก custom เชื่อมต่อกับเซิร์ฟเวอร์ที่คุณกำหนดค่า ผู้ให้บริการคลาวด์คิดค่าบริการต่อโทเค็น (คุณจ่ายโดยตรงกับพวกเขา) ค่าใช้จ่ายสำหรับ endpoint แบบ custom ขึ้นอยู่กับผู้ดำเนินการ
| ผู้ให้บริการ | ประเภท | เหมาะสำหรับ | ราคา |
|---|---|---|---|
| OpenAI | คลาวด์ | จุดเริ่มต้นปกติ ใช้ได้ในระดับฟรี เพื่อให้คุณลอง ReplyRabbit กับผู้ให้บริการรายหนึ่งก่อนอัปเกรด | platform.openai.com |
| Anthropic | คลาวด์ | โมเดล Claude ตัวเลือกที่แข็งแกร่งรอบด้านสำหรับการตอบกลับลูกค้าที่เป็นธรรมชาติและรอบคอบ | anthropic.com |
| Google AI Studio | คลาวด์ | โมเดล Gemini รวมถึงตัวเลือกที่รวดเร็วและต้นทุนต่ำ | ai.google.dev |
| OpenRouter | คลาวด์ | คีย์ API เดียว โมเดลมากมายจากผู้จำหน่ายที่แตกต่างกัน เหมาะสำหรับการทดลองและเปรียบเทียบโมเดลโดยไม่ต้องสมัครทุกที่ | openrouter.ai |
| Z.AI | คลาวด์ | โมเดล GLM ตัวเลือกคลาวด์ที่ความสามารถสูงและประหยัดต้นทุน | z.ai |
| Ollama (ภายในเครื่อง) | ภายในเครื่อง | เรียกใช้โมเดลบนฮาร์ดแวร์ของคุณเอง (localhost:11434) จึงไม่มีอะไรออกจากเซิร์ฟเวอร์ของคุณและไม่มีค่าใช้จ่ายต่อโทเค็น | ollama.com |
| LM Studio (ในเครื่อง) | ภายในเครื่อง | เรียกใช้โมเดลบนฮาร์ดแวร์ของคุณเอง (localhost:1234) เป็นส่วนตัวโดยไม่มีค่าใช้จ่ายต่อโทเค็น | lmstudio.ai |
| Custom OpenAI-compatible | เซิร์ฟเวอร์หรือเกตเวย์ของคุณ | เชื่อมต่อ ReplyRabbit กับเซิร์ฟเวอร์ที่เข้าถึงได้ซึ่งรองรับคำขอแบบ OpenAI ที่รองรับ | ขึ้นอยู่กับเซิร์ฟเวอร์ของคุณ |
ระดับฟรีใช้ OpenAI
คลาวด์เทียบกับในเครื่อง
ผู้ให้บริการบนคลาวด์ (OpenAI, Anthropic, Google AI Studio, OpenRouter, Z.AI) เป็นวิธีที่ง่ายที่สุดในการเริ่มต้นและมักให้คุณภาพร่างที่ดีที่สุด คุณจ่ายต่อโทเค็น และเนื้อหาบทสนทนาที่ใช้สำหรับฟีเจอร์ AI ที่เปิดใช้งาน เช่น ร่าง การดำเนินการถัดไป และ AI Signals จะออกจากเซิร์ฟเวอร์ของคุณและถูกส่งไปยัง API ของผู้ให้บริการนั้น
ผู้ให้บริการภายในเครื่อง (Ollama, LM Studio) รันโมเดลบนฮาร์ดแวร์ของคุณเอง ไม่มีข้อมูลออกจากเซิร์ฟเวอร์ของคุณ และไม่มีค่าใช้จ่ายต่อโทเค็น ข้อแลกเปลี่ยนคือคุณต้องมีเครื่องที่มีประสิทธิภาพพอสมควร และคุณภาพของร่างขึ้นอยู่กับโมเดลโลคอลที่คุณรัน โมเดลโลคอลต้องใช้แพ็กเกจแบบชำระเงิน (Pro หรือ Team)
Custom OpenAI-compatible เชื่อมต่อกับเซิร์ฟเวอร์หรือเกตเวย์ที่คุณเลือก หากเป็นระยะไกล เนื้อหาสนับสนุนจะออกจากโฮสต์ FreeScout ของคุณ หากอยู่ในเครือข่ายส่วนตัวของคุณ FreeScout ยังคงต้องเข้าถึงได้ ป้อน ID โมเดลที่แน่นอนและทดสอบทุกความสามารถที่คุณต้องการ ปลายทางแชทไม่ได้รับประกัน embeddings หรือ vision
การแคชพรอมต์และงบโทเค็น
ReplyRabbit จัดการ prompt caching ของผู้ให้บริการโดยอัตโนมัติเมื่อปลอดภัยสำหรับผู้ให้บริการที่เลือก ไม่มีการตั้งค่าในกล่องจดหมายให้เปิด
- OpenAI: ReplyRabbit ส่งคีย์การกำหนดเส้นทางแคชที่ปลอดภัยสำหรับคำขอ OpenAI โดยตรง เพื่อให้พรอมต์การสนับสนุนที่ซ้ำกันถูกกำหนดเส้นทางได้อย่างสม่ำเสมอ
- Anthropic: ReplyRabbit ใช้แคชพรอมต์ของ Claude เฉพาะเมื่อเห็นแนวโน้มการนำกลับมาใช้ซ้ำในคำขอฉบับร่างที่ตรงกัน หาก Anthropic ปฏิเสธการควบคุมแคช ReplyRabbit จะลองพรอมต์ปกติใหม่
- Gemini, OpenRouter และ Z.AI: ReplyRabbit บันทึกข้อมูลเมตาของโทเค็นแคชเมื่อผู้ให้บริการส่งคืน แต่ไม่บังคับการตั้งค่าแคชทั่วไปผ่านเส้นทางเหล่านั้น
- Ollama และ LM Studio: โมเดลในเครื่องไม่ใช้การแคชพรอมต์ของผู้ให้บริการ พวกมันยังสามารถหลีกเลี่ยงการเรียกเก็บเงินระบบคลาวด์ต่อโทเค็นได้เนื่องจากการสร้างทำงานบนฮาร์ดแวร์ของคุณ
- Custom OpenAI-compatible: ReplyRabbit ไม่ถือว่าการควบคุม prompt-cache ของ OpenAI ทำงานบนเซิร์ฟเวอร์ที่กำหนดเอง
งบประมาณโทเค็นรายเดือนยังคงระมัดระวัง ReplyRabbit นับโทเค็นอินพุตและเอาต์พุตทั้งหมด แม้ผู้ให้บริการจะเรียกเก็บเงินอินพุตที่แคชต่างออกไป เพราะโทเค็นพรอมต์ที่แคชยังคงใช้บริบทและอาจนับรวมกับขีดจำกัดของผู้ให้บริการ
ฉันควรเลือกอันไหน?
- เพิ่งเริ่มต้น: ใช้ OpenAI หรือ Anthropic พวกมันให้ผลลัพธ์ที่ดีตั้งแต่เริ่มต้น และ OpenAI พร้อมใช้งานในระดับฟรีเพื่อให้คุณลอง ReplyRabbit ก่อน
- ต้องการเปรียบเทียบโมเดล: ใช้ OpenRouter คีย์ API เดียวให้คุณเข้าถึงโมเดลมากมายจากผู้จำหน่ายต่างๆ เพื่อให้คุณทดลองได้โดยไม่ต้องมีบัญชีแยก
- ความเป็นส่วนตัวหรือการควบคุมต้นทุนสำคัญที่สุด: ใช้ Ollama หรือ LM Studio ข้อมูลลูกค้าของคุณไม่เคยออกจากเซิร์ฟเวอร์ของคุณและไม่มีบิลต่อโทเค็น โดยแลกกับการรันโมเดลบนฮาร์ดแวร์ของคุณเอง (ระดับ Pro หรือ Team)
- มีเซิร์ฟเวอร์ API ที่เข้ากันได้ทำงานอยู่แล้ว: ใช้ Custom OpenAI-compatible บน Pro หรือ Team ยืนยันโมเดลแชทก่อน จากนั้นตั้งค่าโมเดล embedding และ vision แยกต่างหากเฉพาะเมื่อเซิร์ฟเวอร์ของคุณรองรับ
ถัดไป