การตั้งค่า API SillyTavern: ตั้งค่า API ที่เข้ากันได้กับ OpenAI
การตั้งค่า API ของ SillyTavern ง่ายต่อการกำหนดค่าเมื่อคุณมีสี่ค่า: แหล่งข้อมูล, URL พื้นฐาน, คีย์ และชื่อโมเดล นี่คือวิธีกรอกข้อมูล เลือกความยาวของบริบทและคำตอบ และจัดการกับข้อผิดพลาด


จุดสำคัญ
- กรอกผู้ให้บริการที่เข้ากันได้กับ OpenAI, URL พื้นฐาน, คีย์ API และชื่อโมเดล uncensored
- ขนาดหน้าต่างบริบทในไคลเอนต์ควรสอดคล้องกับหน้าต่าง 100,000 โทเคนของ API และงบประมาณของคุณ
- แหล่งที่มาของข้อผิดพลาดทั่วไปคือ URL พื้นฐานที่ผิดหรือการพิมพ์ผิดในคีย์
- การสวมบทบาทมีค่าใช้จ่ายต่อข้อความเพียงเศษเสี้ยวของเซ็นต์ เนื่องจากประวัติการสนทนาจะถูกส่งไปทุกครั้ง
ค่าทั้งสี่ที่คุณต้องการ
SillyTavern เป็นอินเทอร์เฟซสำหรับแชทและเกมสวมบทบาทที่มีตัวละคร สามารถเชื่อมต่อกับแหล่งข้อมูลข้อความต่างๆ รวมถึงเอนด์พอยต์ที่รองรับรูปแบบ OpenAI คุณต้องระบุข้อมูลสี่รายการเพื่อเชื่อมต่อ:
- แหล่งข้อมูล: แหล่งข้อมูลแชทที่รองรับรูปแบบ OpenAI หรือแบบกำหนดเอง
- Base URL:
https://api.unzensiertesllm.com/v1 - คีย์ API: คีย์ของคุณจากหน้า รับคีย์ API
- ชื่อโมเดล:
uncensored
ชื่อเมนูและช่องกรอกข้อมูลอาจแตกต่างกันไปในแต่ละเวอร์ชันของ SillyTavern ให้ยึดตามคำศัพท์ด้านบน และอ่านเอกสารของ SillyTavern หากมีข้อแตกต่าง
ขั้นตอนการเชื่อมต่อทีละขั้นตอน
- เข้าสู่ระบบ (Google หรืออีเมลพร้อมรหัสผ่าน) และสร้างคีย์ หลังจากเข้าสู่ระบบ คุณสามารถรับเครดิตทดลองใช้ $0.50 ได้ด้วยการคลิกหนึ่งครั้ง: คนละหนึ่งครั้ง ใช้งานได้ 7 วัน ไม่ต้องใส่ข้อมูลการชำระเงิน
- เปิดส่วนการเชื่อมต่อ API ใน SillyTavern
- เลือกประเภท API เป็น Chat Completion และเลือกแหล่งข้อมูลแบบกำหนดเองที่เข้ากันได้กับ OpenAI (ชื่อที่แน่นอนขึ้นอยู่กับเวอร์ชันของคุณ)
- กรอก URL พื้นฐานพร้อมส่วนต่อท้าย
/v1 - วางคีย์โดยไม่เว้นวรรคที่ต้นหรือท้าย
- ระบุโมเดลเป็น
uncensoredหรือเลือกจากรายการ หากไคลเอนต์สอบถามโมเดล - เชื่อมต่อและส่งข้อความทดสอบสั้นๆ
หากไคลเอนต์แสดงรายการโมเดล มันจะเรียกใช้ GET /v1/models หากปรากฏ uncensored แสดงว่าที่อยู่และคีย์ถูกต้อง
ตรวจสอบการเชื่อมต่อล่วงหน้าภายนอก SillyTavern
หากมีปัญหา ให้ตรวจสอบที่อยู่และคีย์แยกจากไคลเอนต์ เพื่อลดความสับสน
curl https://api.unzensiertesllm.com/v1/models \
-H "Authorization: Bearer DEIN_SCHLUESSEL"
curl https://api.unzensiertesllm.com/v1/chat/completions \
-H "Authorization: Bearer DEIN_SCHLUESSEL" \
-H "Content-Type: application/json" \
-d '{"model": "uncensored", "messages": [{"role": "user", "content": "Sag kurz Hallo."}], "max_tokens": 30}'หาก curl ตอบกลับ ปัญหาคงอยู่ที่ไคลเอนต์ หาก curl ไม่ตอบกลับ ปัญหาคงอยู่ที่คีย์ ที่อยู่ หรือเครือข่าย คุณสามารถดูยอดคงเหลือในหัวข้อความตอบกลับ X-Balance-USD
เลือกขนาดหน้าต่างบริบทและความยาวของคำตอบให้เหมาะสม
ตัวควบคุมสองตัวกำหนดว่าจะส่งและสร้างข้อความต่อข้อความอย่างไร:
- ขนาดหน้าต่างบริบท (Context Size): จำนวนโทเคนของประวัติการสนทนา คำอธิบายตัวละคร และข้อมูลโลกที่ส่งไปรวมกัน API รองรับได้สูงสุด 100,000 โทเคนสำหรับพรอมต์และคำตอบรวมกัน คุณไม่จำเป็นต้องใช้จนเต็ม สำหรับเกมบทบาทหลายประเภท การใช้เพียงไม่กี่พันโทเคนก็เพียงพอ และหน้าต่างบริบทแต่ละโทเคนจะถูกคิดค่าใช้จ่ายใหม่ในทุกข้อความ
- ความยาวคำตอบ (Response Length): สอดคล้องกับ
max_tokensการระบุค่านี้เป็นตัวเลือกใน API; ในไคลเอนต์ คุณควรตั้งค่านี้เพื่อป้องกันไม่ให้คำตอบยาวเกินไป
กฎทั่วไป: เลือกขนาดหน้าต่างบริบทให้พอดีกับบัตรตัวละคร หมายเหตุสำคัญ และข้อความล่าสุดไม่กี่สิบข้อความ สิ่งเก่ากว่านั้นไคลเอนต์สามารถทิ้งได้ หรือคุณอาจสรุปย่อข้อมูลเหล่านั้น
ค่าตัวสุ่มตัวอย่าง (Sampler)
API ส่งต่อ temperature, top_p, stop, seed และพารามิเตอร์ค่าปรับ เริ่มด้วยค่าปานกลาง เช่น อุณหภูมิประมาณ 0.8 และเปลี่ยนการตั้งค่าทีละอย่าง ซัมพลเลอร์อื่นที่ SillyTavern นำเสนอสำหรับแหล่งที่มาเฉพาะอาจไม่รองรับโดยอินเทอร์เฟซนี้; ค่าเหล่านั้นจะไม่มีผล ตรวจสอบใน เอกสาร
ต้นทุนของเซสชันเกมบทบาท
ราคา: $0.15 ต่อ 1M Input-Tokens, $0.50 ต่อ 1M Output-Tokens สมมติว่าแต่ละข้อความส่งหน้าต่างบริบท 8,000 โทเคน และได้รับคำตอบ 350 โทเคน:
- อินพุต: 8,000 / 1,000,000 × $0.15 = $0.0012
- เอาต์พุต: 350 / 1,000,000 × $0.50 = $0.000175
- รวม: $0.001375 ต่อข้อความ
เซสชันที่มีข้อความ 200 ข้อความมีต้นทุน $0.275 เครดิตทดลองใช้ฟรี $0.50 ใช้สำหรับข้อความประมาณ 363 ข้อความ (0,50 / 0,001375 ≈ 363,6) หากเพิ่มบริบทเป็น 16.000 โทเคน ส่วนประกอบของ Input จะเพิ่มขึ้นเป็น $0.0024 และข้อความมีต้นทุน $0.002575
คุณสามารถเติมเงินจำนวนเต็มตั้งแต่ $20 ถึง $500 ด้วย USDT บน TRC20 หรือ USDC บน Base เมื่อเติมตั้งแต่ $50 ขึ้นไป รับโบนัส +5 %, ตั้งแต่ $100 ขึ้นไป รับโบนัส +10 %, ตั้งแต่ $200 ขึ้นไป รับโบนัส +15 % เครดิตไม่หมดอายุ ระดับราคาอยู่ที่ หน้าราคา
ข้อผิดพลาดทั่วไปและวิธีแก้ไข
| ข้อความหรืออาการ | สาเหตุ | วิธีแก้ไข |
|---|---|---|
| 401 หรือข้อผิดพลาดการตรวจสอบสิทธิ์ | คีย์ผิด, ถูกตัดหรือมีช่องว่าง | วางใหม่และตรวจสอบด้วย curl |
| 404 หรือไม่พบโมเดล | /v1 หายไป หรือชื่อโมเดลผิด | กรอก Base URL พร้อม /v1 และใช้โมเดล uncensored |
429 พร้อม concurrency | คำขอพร้อมกันมากเกินไป (คีย์ทดสอบ: 2, คีย์เต็ม: 8) | แชทกลุ่มแบบเรียงลำดับแทนที่จะทำพร้อมกัน, แท็บสตรีมมิงปิด |
429 พร้อม rate_limited | คำขอมากเกินไปต่อนาที (60 หรือ 300) | อย่ากดสร้างคำตอบใหม่ซ้ำๆ ในเวลาอันใกล้ |
429 พร้อม Retry-After: 5 | ภาระเกินชั่วคราว | รอ 5 วินาทีแล้วส่งใหม่ |
| การตอบขาดกลางประโยค | ความยาวการตอบที่ไคลเอนต์กำหนดไว้เล็กเกินไป | เพิ่มความยาวการตอบ |
| ข้อผิดพลาดเนื่องจากหน้าต่างบริบทยาวเกินไป | ประวัติการสนทนาทั้งหมดไม่พอดีกับหน้าต่างบริบท 100.000 โทเคน (การตอบจะถูกจำกัดให้เหลือพื้นที่ที่ว่างอยู่) | ลดขนาดหน้าต่างบริบทที่ไคลเอนต์, ย่อข้อความเก่า |
คำขอแบบสตรีมมิงจะครอบครองพื้นที่ในขีดจำกัดอัตราสำหรับคำขอพร้อมกัน จนกว่าสตรีมมิงจะสิ้นสุด นี่คือสาเหตุของข้อความ 429 ที่อาจทำให้คุณประหลาดใจเมื่อคุณมีแชทหลายรายการเปิดอยู่
คำแนะนำเกี่ยวกับเนื้อหาและความเป็นส่วนตัว
โมเดลนี้ได้รับการปรับแต่งสำหรับงานนิยาย บทบาทสมมติ และสถานการณ์สำหรับผู้ใหญ่โดยไม่มีการปฏิเสธเนื้อหา เป็นโมเดลแบบเปิดน้ำหนักจากซัพพลายเออร์รายเดียว ไม่ใช่ API ทางการจากผู้ผลิตขนาดใหญ่ เนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ถูกตัดออกทั้งหมด API ให้เฉพาะข้อความ ไม่สร้างภาพหรือเสียงพูด
ดูเพิ่มเติมเกี่ยวกับการเลือกโมเดลที่ไม่เซ็นเซอร์ใน การเปรียบเทียบ AI แบบไม่เซ็นเซอร์
คู่มือเพิ่มเติม
คำถามที่พบบ่อย
ควรใส่ URL พื้นฐานใดใน SillyTavern
https://api.unzensiertesllm.com/v1, พร้อมส่วนขยาย /v1. ระบุโมเดลเป็น uncensored
ขนาดหน้าต่างบริบทที่เหมาะสมคือเท่าใด
API รองรับโทเคนได้สูงสุด 100,000 สำหรับพรอมต์และคำตอบ โดยทั่วไปสำหรับเกมบทบาทสมมติอาจใช้เพียงหลักพัน; ค่าที่มากขึ้นทำให้ต้นทุนต่อข้อความเพิ่มขึ้น
ทำไมจึงได้รับข้อผิดพลาด 429
รหัสข้อบ่งชี้สาเหตุ: rate_limited หมายถึงคำขอเกินต่อนาที, concurrency หมายถึงคำขอพร้อมกันมากเกินไป ด้วยคีย์ทดสอบอนุญาต 60 ต่อนาทีและ 2 พร้อมกัน
เซสชันที่มี 200 ข้อความมีค่าใช้จ่ายเท่าใด
ที่หน้าต่างบริบท 8,000 โทเคนและคำตอบ 350 โทเคน จะคิดเงินประมาณ $0.275 เมื่อหน้าต่างบริบทใหญ่ขึ้น ราคาจะสูงขึ้น