TH ▾

การตั้งค่า API SillyTavern: ตั้งค่า API ที่เข้ากันได้กับ OpenAI

การตั้งค่า API ของ SillyTavern ง่ายต่อการกำหนดค่าเมื่อคุณมีสี่ค่า: แหล่งข้อมูล, URL พื้นฐาน, คีย์ และชื่อโมเดล นี่คือวิธีกรอกข้อมูล เลือกความยาวของบริบทและคำตอบ และจัดการกับข้อผิดพลาด

AI แบบไม่เซ็นเซอร์: LLM API เทียบกับโมเดลท้องถิ่นเทียบกับบริการคลาวด์

อัปเดต

เวทีโรงละครพร้อมหน้ากากและกล่องข้อความเรืองแสงที่ชี้ไปที่ปลั๊ก: การเชื่อมต่อ SillyTavern กับ API

จุดสำคัญ

  • กรอกผู้ให้บริการที่เข้ากันได้กับ OpenAI, URL พื้นฐาน, คีย์ API และชื่อโมเดล uncensored
  • ขนาดหน้าต่างบริบทในไคลเอนต์ควรสอดคล้องกับหน้าต่าง 100,000 โทเคนของ API และงบประมาณของคุณ
  • แหล่งที่มาของข้อผิดพลาดทั่วไปคือ URL พื้นฐานที่ผิดหรือการพิมพ์ผิดในคีย์
  • การสวมบทบาทมีค่าใช้จ่ายต่อข้อความเพียงเศษเสี้ยวของเซ็นต์ เนื่องจากประวัติการสนทนาจะถูกส่งไปทุกครั้ง

ค่าทั้งสี่ที่คุณต้องการ

SillyTavern เป็นอินเทอร์เฟซสำหรับแชทและเกมสวมบทบาทที่มีตัวละคร สามารถเชื่อมต่อกับแหล่งข้อมูลข้อความต่างๆ รวมถึงเอนด์พอยต์ที่รองรับรูปแบบ OpenAI คุณต้องระบุข้อมูลสี่รายการเพื่อเชื่อมต่อ:

  • แหล่งข้อมูล: แหล่งข้อมูลแชทที่รองรับรูปแบบ OpenAI หรือแบบกำหนดเอง
  • Base URL: https://api.unzensiertesllm.com/v1
  • คีย์ API: คีย์ของคุณจากหน้า รับคีย์ API
  • ชื่อโมเดล: uncensored

ชื่อเมนูและช่องกรอกข้อมูลอาจแตกต่างกันไปในแต่ละเวอร์ชันของ SillyTavern ให้ยึดตามคำศัพท์ด้านบน และอ่านเอกสารของ SillyTavern หากมีข้อแตกต่าง

ขั้นตอนการเชื่อมต่อทีละขั้นตอน

  1. เข้าสู่ระบบ (Google หรืออีเมลพร้อมรหัสผ่าน) และสร้างคีย์ หลังจากเข้าสู่ระบบ คุณสามารถรับเครดิตทดลองใช้ $0.50 ได้ด้วยการคลิกหนึ่งครั้ง: คนละหนึ่งครั้ง ใช้งานได้ 7 วัน ไม่ต้องใส่ข้อมูลการชำระเงิน
  2. เปิดส่วนการเชื่อมต่อ API ใน SillyTavern
  3. เลือกประเภท API เป็น Chat Completion และเลือกแหล่งข้อมูลแบบกำหนดเองที่เข้ากันได้กับ OpenAI (ชื่อที่แน่นอนขึ้นอยู่กับเวอร์ชันของคุณ)
  4. กรอก URL พื้นฐานพร้อมส่วนต่อท้าย /v1
  5. วางคีย์โดยไม่เว้นวรรคที่ต้นหรือท้าย
  6. ระบุโมเดลเป็น uncensored หรือเลือกจากรายการ หากไคลเอนต์สอบถามโมเดล
  7. เชื่อมต่อและส่งข้อความทดสอบสั้นๆ

หากไคลเอนต์แสดงรายการโมเดล มันจะเรียกใช้ GET /v1/models หากปรากฏ uncensored แสดงว่าที่อยู่และคีย์ถูกต้อง

ตรวจสอบการเชื่อมต่อล่วงหน้าภายนอก SillyTavern

หากมีปัญหา ให้ตรวจสอบที่อยู่และคีย์แยกจากไคลเอนต์ เพื่อลดความสับสน

curl https://api.unzensiertesllm.com/v1/models \
  -H "Authorization: Bearer DEIN_SCHLUESSEL"

curl https://api.unzensiertesllm.com/v1/chat/completions \
  -H "Authorization: Bearer DEIN_SCHLUESSEL" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Sag kurz Hallo."}], "max_tokens": 30}'

หาก curl ตอบกลับ ปัญหาคงอยู่ที่ไคลเอนต์ หาก curl ไม่ตอบกลับ ปัญหาคงอยู่ที่คีย์ ที่อยู่ หรือเครือข่าย คุณสามารถดูยอดคงเหลือในหัวข้อความตอบกลับ X-Balance-USD

เลือกขนาดหน้าต่างบริบทและความยาวของคำตอบให้เหมาะสม

ตัวควบคุมสองตัวกำหนดว่าจะส่งและสร้างข้อความต่อข้อความอย่างไร:

  • ขนาดหน้าต่างบริบท (Context Size): จำนวนโทเคนของประวัติการสนทนา คำอธิบายตัวละคร และข้อมูลโลกที่ส่งไปรวมกัน API รองรับได้สูงสุด 100,000 โทเคนสำหรับพรอมต์และคำตอบรวมกัน คุณไม่จำเป็นต้องใช้จนเต็ม สำหรับเกมบทบาทหลายประเภท การใช้เพียงไม่กี่พันโทเคนก็เพียงพอ และหน้าต่างบริบทแต่ละโทเคนจะถูกคิดค่าใช้จ่ายใหม่ในทุกข้อความ
  • ความยาวคำตอบ (Response Length): สอดคล้องกับ max_tokens การระบุค่านี้เป็นตัวเลือกใน API; ในไคลเอนต์ คุณควรตั้งค่านี้เพื่อป้องกันไม่ให้คำตอบยาวเกินไป

กฎทั่วไป: เลือกขนาดหน้าต่างบริบทให้พอดีกับบัตรตัวละคร หมายเหตุสำคัญ และข้อความล่าสุดไม่กี่สิบข้อความ สิ่งเก่ากว่านั้นไคลเอนต์สามารถทิ้งได้ หรือคุณอาจสรุปย่อข้อมูลเหล่านั้น

ค่าตัวสุ่มตัวอย่าง (Sampler)

API ส่งต่อ temperature, top_p, stop, seed และพารามิเตอร์ค่าปรับ เริ่มด้วยค่าปานกลาง เช่น อุณหภูมิประมาณ 0.8 และเปลี่ยนการตั้งค่าทีละอย่าง ซัมพลเลอร์อื่นที่ SillyTavern นำเสนอสำหรับแหล่งที่มาเฉพาะอาจไม่รองรับโดยอินเทอร์เฟซนี้; ค่าเหล่านั้นจะไม่มีผล ตรวจสอบใน เอกสาร

ต้นทุนของเซสชันเกมบทบาท

ราคา: $0.15 ต่อ 1M Input-Tokens, $0.50 ต่อ 1M Output-Tokens สมมติว่าแต่ละข้อความส่งหน้าต่างบริบท 8,000 โทเคน และได้รับคำตอบ 350 โทเคน:

  • อินพุต: 8,000 / 1,000,000 × $0.15 = $0.0012
  • เอาต์พุต: 350 / 1,000,000 × $0.50 = $0.000175
  • รวม: $0.001375 ต่อข้อความ

เซสชันที่มีข้อความ 200 ข้อความมีต้นทุน $0.275 เครดิตทดลองใช้ฟรี $0.50 ใช้สำหรับข้อความประมาณ 363 ข้อความ (0,50 / 0,001375 ≈ 363,6) หากเพิ่มบริบทเป็น 16.000 โทเคน ส่วนประกอบของ Input จะเพิ่มขึ้นเป็น $0.0024 และข้อความมีต้นทุน $0.002575

คุณสามารถเติมเงินจำนวนเต็มตั้งแต่ $20 ถึง $500 ด้วย USDT บน TRC20 หรือ USDC บน Base เมื่อเติมตั้งแต่ $50 ขึ้นไป รับโบนัส +5 %, ตั้งแต่ $100 ขึ้นไป รับโบนัส +10 %, ตั้งแต่ $200 ขึ้นไป รับโบนัส +15 % เครดิตไม่หมดอายุ ระดับราคาอยู่ที่ หน้าราคา

ข้อผิดพลาดทั่วไปและวิธีแก้ไข

ข้อความหรืออาการสาเหตุวิธีแก้ไข
401 หรือข้อผิดพลาดการตรวจสอบสิทธิ์คีย์ผิด, ถูกตัดหรือมีช่องว่างวางใหม่และตรวจสอบด้วย curl
404 หรือไม่พบโมเดล/v1 หายไป หรือชื่อโมเดลผิดกรอก Base URL พร้อม /v1 และใช้โมเดล uncensored
429 พร้อม concurrencyคำขอพร้อมกันมากเกินไป (คีย์ทดสอบ: 2, คีย์เต็ม: 8)แชทกลุ่มแบบเรียงลำดับแทนที่จะทำพร้อมกัน, แท็บสตรีมมิงปิด
429 พร้อม rate_limitedคำขอมากเกินไปต่อนาที (60 หรือ 300)อย่ากดสร้างคำตอบใหม่ซ้ำๆ ในเวลาอันใกล้
429 พร้อม Retry-After: 5ภาระเกินชั่วคราวรอ 5 วินาทีแล้วส่งใหม่
การตอบขาดกลางประโยคความยาวการตอบที่ไคลเอนต์กำหนดไว้เล็กเกินไปเพิ่มความยาวการตอบ
ข้อผิดพลาดเนื่องจากหน้าต่างบริบทยาวเกินไปประวัติการสนทนาทั้งหมดไม่พอดีกับหน้าต่างบริบท 100.000 โทเคน (การตอบจะถูกจำกัดให้เหลือพื้นที่ที่ว่างอยู่)ลดขนาดหน้าต่างบริบทที่ไคลเอนต์, ย่อข้อความเก่า

คำขอแบบสตรีมมิงจะครอบครองพื้นที่ในขีดจำกัดอัตราสำหรับคำขอพร้อมกัน จนกว่าสตรีมมิงจะสิ้นสุด นี่คือสาเหตุของข้อความ 429 ที่อาจทำให้คุณประหลาดใจเมื่อคุณมีแชทหลายรายการเปิดอยู่

คำแนะนำเกี่ยวกับเนื้อหาและความเป็นส่วนตัว

โมเดลนี้ได้รับการปรับแต่งสำหรับงานนิยาย บทบาทสมมติ และสถานการณ์สำหรับผู้ใหญ่โดยไม่มีการปฏิเสธเนื้อหา เป็นโมเดลแบบเปิดน้ำหนักจากซัพพลายเออร์รายเดียว ไม่ใช่ API ทางการจากผู้ผลิตขนาดใหญ่ เนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ถูกตัดออกทั้งหมด API ให้เฉพาะข้อความ ไม่สร้างภาพหรือเสียงพูด

ดูเพิ่มเติมเกี่ยวกับการเลือกโมเดลที่ไม่เซ็นเซอร์ใน การเปรียบเทียบ AI แบบไม่เซ็นเซอร์

คู่มือเพิ่มเติม

คำถามที่พบบ่อย

ควรใส่ URL พื้นฐานใดใน SillyTavern

https://api.unzensiertesllm.com/v1, พร้อมส่วนขยาย /v1. ระบุโมเดลเป็น uncensored

ขนาดหน้าต่างบริบทที่เหมาะสมคือเท่าใด

API รองรับโทเคนได้สูงสุด 100,000 สำหรับพรอมต์และคำตอบ โดยทั่วไปสำหรับเกมบทบาทสมมติอาจใช้เพียงหลักพัน; ค่าที่มากขึ้นทำให้ต้นทุนต่อข้อความเพิ่มขึ้น

ทำไมจึงได้รับข้อผิดพลาด 429

รหัสข้อบ่งชี้สาเหตุ: rate_limited หมายถึงคำขอเกินต่อนาที, concurrency หมายถึงคำขอพร้อมกันมากเกินไป ด้วยคีย์ทดสอบอนุญาต 60 ต่อนาทีและ 2 พร้อมกัน

เซสชันที่มี 200 ข้อความมีค่าใช้จ่ายเท่าใด

ที่หน้าต่างบริบท 8,000 โทเคนและคำตอบ 350 โทเคน จะคิดเงินประมาณ $0.275 เมื่อหน้าต่างบริบทใหญ่ขึ้น ราคาจะสูงขึ้น

คีย์ของคุณอยู่ห่างออกไปเพียงคลิกเดียว

สร้างบัญชี คัดลอกคีย์ และปรับ Base URL เสร็จสิ้น

รับคีย์ API