ID ▾

Pengaturan API SillyTavern: Siapkan API yang kompatibel dengan OpenAI

Pengaturan API SillyTavern cepat disiapkan jika Anda memiliki empat nilai: sumber, URL dasar, kunci, dan nama model. Di sini Anda dapat melihat apa yang harus Anda masukkan, cara memilih ukuran konteks dan panjang respons, serta solusi saat terjadi kesalahan.

AI tanpa sensor: API LLM vs. Model Lokal vs. Layanan Cloud

Diperbarui

Panggung teater dengan topeng dan balon dialog bercahaya yang mengarah ke steker: menghubungkan SillyTavern dengan API

Poin penting

  • Anda memasukkan sumber yang kompatibel dengan OpenAI, URL dasar, kunci API, dan nama model uncensored.
  • Ukuran konteks di klien harus sesuai dengan jendela konteks 100.000 token dari API dan anggaran Anda.
  • Sumber kesalahan yang sering terjadi adalah URL dasar yang salah atau kesalahan ketik pada kunci.
  • Roleplay biaya per pesannya hanya pecahan sen karena riwayat dikirimkan setiap kali.

Empat nilai yang Anda butuhkan

SillyTavern adalah antarmuka untuk obrolan dan roleplay dengan kartu karakter. Aplikasi ini dapat terhubung ke berbagai penyedia teks, termasuk endpoint yang menggunakan format OpenAI. Untuk koneksi, Anda memerlukan tepat empat informasi:

  • Sumber: sumber chat-completion yang kompatibel dengan OpenAI atau kustom
  • URL dasar: https://api.unzensiertesllm.com/v1
  • Kunci API: kunci Anda dari halaman Dapatkan kunci API
  • Nama model: uncensored

Penamaan menu dan bidang dapat berbeda antar-versi SillyTavern. Berpedomanlah pada istilah di atas dan baca dokumentasi SillyTavern itu sendiri jika terdapat perbedaan.

Hubungkan langkah demi langkah

  1. Masuk ke akun kami (Google atau email dengan kata sandi) dan buat kunci. Setelah masuk, Anda mendapatkan $0,50 kredit uji coba gratis dengan satu klik: sekali per orang, berlaku 7 hari, tanpa data pembayaran.
  2. Buka bagian koneksi API di SillyTavern.
  3. Pilih jenis API sebagai variasi chat completion dan sumber sebagai entri kustom yang kompatibel dengan OpenAI (nama pastinya bergantung pada versi Anda).
  4. Masukkan URL dasar dengan akhiran /v1.
  5. Masukkan kunci tanpa spasi di awal atau akhir.
  6. Masukkan model uncensored atau pilih dari daftar jika klien menanyakan model.
  7. Hubungkan dan kirim pesan uji singkat.

Jika klien menampilkan daftar model, ia memanggil GET /v1/models. Jika uncensored muncul di sana, alamat dan kunci Anda benar.

Periksa koneksi di luar SillyTavern

Jika ada masalah, periksa alamat dan kunci secara terpisah dari klien. Ini menghemat waktu menebak-nebak.

curl https://api.unzensiertesllm.com/v1/models \
  -H "Authorization: Bearer DEIN_SCHLUESSEL"

curl https://api.unzensiertesllm.com/v1/chat/completions \
  -H "Authorization: Bearer DEIN_SCHLUESSEL" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Sag kurz Hallo."}], "max_tokens": 30}'

Jika curl merespons, masalahnya ada di klien. Jika curl tidak merespons, masalahnya ada pada kunci, alamat, atau jaringan. Saldo tersisa Anda dapat dilihat di header respons X-Balance-USD.

Pilih ukuran konteks dan panjang respons dengan benar

Dua pengatur menentukan berapa banyak yang dikirim dan dihasilkan per pesan:

  • Ukuran konteks: Berapa banyak token riwayat, deskripsi karakter, dan informasi dunia yang disertakan. API mengizinkan hingga 100.000 token untuk prompt dan respons secara bersamaan. Anda tidak perlu memaksanya. Untuk banyak roleplay, beberapa ribu token sudah cukup, dan setiap token konteks dikenakan biaya setiap kali pesan dikirim.
  • Panjang respons: Sesuai dengan max_tokens. Pengaturan ini opsional di API; sebaiknya atur di klien agar respons tidak terlalu panjang.

Aturan praktis: Pilih ukuran konteks sehingga kartu karakter, catatan penting, dan selusin pesan terakhir muat. Yang lebih lama dapat dibuang oleh klien atau Anda dapat meringkasnya.

Nilai sampler

API meneruskan temperature, top_p, stop, seed dan parameter penalti. Mulailah dengan nilai moderat, misalnya suhu sekitar 0,8, dan ubah hanya satu pengaturan sekaligus. Sampler lain yang ditawarkan SillyTavern untuk sumber tertentu mungkin tidak didukung oleh antarmuka ini; pengaturan tersebut akan tidak berpengaruh. Periksa hal ini di dokumentasi.

Biaya sesi roleplay

Harga: $0,15 per 1M token input, $0,50 per 1M token output. Asumsikan setiap pesan mengirim 8.000 token konteks dan menerima 350 token respons:

  • Input: 8.000 / 1.000.000 × $0,15 = $0,0012
  • Output: 350 / 1.000.000 × $0,50 = $0,000175
  • Total: $0,001375 per pesan

Satu sesi dengan 200 pesan membutuhkan biaya $0,275. Saldo prabayar $0,50 cukup untuk sekitar 363 pesan seperti itu (0,50 / 0,001375 ≈ 363,6). Jika Anda menggandakan jendela konteks menjadi 16.000 token, bagian input naik menjadi $0,0024 dan pesan menjadi $0,002575.

Anda dapat mengisi saldo dengan jumlah bulat apa pun dari $20 hingga $500 menggunakan USDT di TRC20 atau USDC di Base. Mulai dari $50 ada bonus +5 %, mulai dari $100 ada +10 %, mulai dari $200 ada +15 %. Saldo tidak kedaluwarsa. Tingkatannya ada di halaman harga.

Kesalahan umum dan solusinya

Pesan atau gejalaPenyebabSolusi
401 atau kesalahan autentikasiKunci salah, terpotong, atau mengandung spasiMasukkan lagi, verifikasi dengan curl
404 atau model tidak ditemukan/v1 hilang atau nama model salahMasukkan Base URL dengan /v1, model uncensored
429 dengan concurrencyTerlalu banyak permintaan secara bersamaan (kunci uji coba: 2, kunci penuh: 8)Obrolan grup secara berurutan, bukan paralel; tutup tab streaming
429 dengan rate_limitedTerlalu banyak permintaan per menit (60 atau 300)Jangan picu pembuatan ulang secara cepat
429 dengan Retry-After: 5Beban berlebih sementaraTunggu 5 detik dan kirim ulang
Respons terputus di tengah kalimatPanjang respons di sisi klien terlalu kecilTingkatkan Panjang Respons
Kesalahan karena konteks terlalu panjangRiwayat percakapan saja tidak muat dalam jendela konteks 100.000 token (respons dibatasi hingga sisa ruang)Perkecil ukuran konteks di sisi klien, perpendek pesan lama

Permintaan streaming menempati ruang dalam batas permintaan paralel hingga stream berakhir. Ini menjelaskan beberapa pesan 429 yang mengejutkan ketika Anda memiliki beberapa obrolan terbuka.

Catatan konten dan privasi

Model ini dilatih untuk melayani fiksi, permainan peran, dan skenario pendamping untuk dewasa tanpa penolakan konten. Ini adalah model bobot terbuka tunggal dari penyedia independen, bukan API resmi dari produsen besar. Konten seksual yang melibatkan anak di bawah umur dikecualikan secara menyeluruh. API hanya menyediakan teks; gambar atau suara tidak dihasilkan. Prompt tidak digunakan untuk pelatihan.

Untuk informasi lebih lanjut tentang pemilihan model tanpa sensor, lihat perbandingan AI tanpa sensor.

Panduan lainnya

Pertanyaan Umum

Base URL mana yang saya masukkan ke SillyTavern?

https://api.unzensiertesllm.com/v1, dengan akhiran /v1. Untuk model, masukkan uncensored.

Ukuran konteks mana yang masuk akal?

API mengizinkan hingga 100.000 token untuk prompt dan respons. Untuk roleplay, beberapa ribu token sering kali sudah cukup; nilai yang lebih besar meningkatkan biaya per pesan.

Mengapa saya mendapatkan kesalahan 429?

Kode kesalahan menunjukkan penyebabnya: rate_limited berarti terlalu banyak permintaan per menit, concurrency berarti terlalu banyak secara bersamaan. Dengan kunci uji coba, berlaku 60 per menit dan 2 secara bersamaan.

Berapa biaya sesi dengan 200 pesan?

Dengan konteks 8.000 token dan respons 350 token sekitar $0,275. Dengan konteks yang lebih besar, harganya meningkat.

Kunci Anda hanya satu klik jauhnya

Buat akun, salin kunci, sesuaikan Base URL. Selesai.

Dapatkan kunci API