PL ▾

Ustawienia API SillyTavern: Konfiguracja API kompatybilnego z OpenAI

Ustawienia API SillyTavern szybko skonfigurujesz, mając pod ręką cztery wartości: źródło, Base URL, klucz i nazwę modelu. Tutaj znajdziesz informacje, co wpisać, jak dobrać kontekst i długość odpowiedzi oraz co zrobić przy błędach.

Niezacenzurowana AI: LLM API vs. Modele lokalne vs. Usługi chmurowe

Zaktualizowano

Scena teatralna z maskami i świecącymi dymkami dialogowymi wskazującymi na wtyczkę: połączenie SillyTavern z API

Ważne punkty

  • Wpisz źródło kompatybilne z OpenAI, bazowy URL, klucz API i nazwę modelu uncensored.
  • Wielkość okna kontekstu w kliencie powinna pasować do 100 000-tokenowego okna API i Twojego budżetu.
  • Typowe źródła błędów to nieprawidłowy Base URL lub literówka w kluczu.
  • Gra RPG kosztuje ułamek centa za wiadomość, ponieważ historia jest przesyłana za każdym razem.

Cztery wartości, których potrzebujesz

SillyTavern to interfejs do czatów i gier RPG z kartami postaci. Może łączyć się z różnymi źródłami tekstu, w tym endpointami obsługującymi format OpenAI. Do połączenia potrzebujesz dokładnie czterech danych:

  • Źródło: źródło Chat Completion kompatybilne z OpenAI lub niestandardowe
  • Base URL: https://api.unzensiertesllm.com/v1
  • Klucz API: Twój klucz ze strony Uzyskaj klucz API
  • Nazwa modelu: uncensored

Nazwy menu i pól mogą się różnić w zależności od wersji SillyTavern. Kieruj się powyższymi terminami i w razie różnic przeczytaj dokumentację SillyTavern.

Krok po kroku połączenie

  1. Zaloguj się do nas (Google lub e-mail z hasłem) i wygeneruj klucz. Po zalogowaniu kliknięciem odbierzesz $0,50 darmowego kredytu próbnego: raz na osobę, ważny przez 7 dni, bez podawania danych płatniczych.
  2. W SillyTavern otwórz sekcję połączeń API.
  3. Wybierz typ API jako Chat Completion i jako źródło opcję niestandardową kompatybilną z OpenAI (dokładne nazwy zależą od Twojej wersji).
  4. Wpisz Base URL z końcówką /v1.
  5. Wklej klucz bez spacji na początku lub końcu.
  6. Podaj jako model uncensored lub wybierz go z listy, jeśli klient pyta o modele.
  7. Połącz się i wyślij krótką wiadomość testową.

Jeśli klient wyświetla listę modeli, wywołuje GET /v1/models. Jeśli pojawi się tam uncensored, adres i klucz są poprawne.

Sprawdź połączenie przed SillyTavern

Jeśli coś nie działa, sprawdź adres i klucz oddzielnie od klienta. To oszczędzi zgadywania.

curl https://api.unzensiertesllm.com/v1/models \
  -H "Authorization: Bearer DEIN_SCHLUESSEL"

curl https://api.unzensiertesllm.com/v1/chat/completions \
  -H "Authorization: Bearer DEIN_SCHLUESSEL" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Sag kurz Hallo."}], "max_tokens": 30}'

Jeśli curl odpowiada, problem leży po stronie klienta. Jeśli curl nie odpowiada, przyczyną jest klucz, adres lub sieć. Pozostałe środki na koncie wyświetlisz w nagłówku odpowiedzi X-Balance-USD.

Dobieranie wielkości kontekstu i długości odpowiedzi

Dwa suwaki określają, ile jest przesyłane i generowane na wiadomość:

  • Wielkość kontekstu (Context Size): Ile tokenów historii, opisu postaci i informacji o świecie jest łącznie przesyłanych. API pozwala na do 100 000 tokenów dla promptu i odpowiedzi łącznie. Nie musisz tego maksymalizować. Do wielu gier RPG wystarcza kilka tysięcy tokenów, a każdy token kontekstu kosztuje przy każdej wiadomości ponownie.
  • Długość odpowiedzi (Response Length): Odpowiada max_tokens. W API jest to opcjonalne; w kliencie warto to ustawić, aby odpowiedzi nie były zbyt długie.

Złota zasada: Wybierz wielkość kontekstu tak, aby zmieściła się karta postaci, ważne notatki i ostatnie kilkanaście wiadomości. Starsze dane klient może odrzucić lub możesz je streścić.

Wartości samplerów

API przekazuje temperature, top_p, stop, seed oraz parametry penalty. Zacznij od umiarkowanych wartości, np. temperatury około 0,8, i zmieniaj zawsze tylko jedno ustawienie. Inne samplery oferowane przez SillyTavern dla określonych źródeł mogą nie być obsługiwane przez ten interfejs i nie będą miały wpływu. Sprawdź to w dokumentacji.

Koszt sesji RPG

Ceny: $0,15 za 1M tokenów wejściowych, $0,50 za 1M tokenów wyjściowych. Przyjmijmy, że każda wiadomość przesyła 8 000 tokenów kontekstu i otrzymuje 350 tokenów odpowiedzi:

  • Wejście: 8 000 / 1 000 000 × $0,15 = $0,0012
  • Wyjście: 350 / 1 000 000 × $0,50 = $0,000175
  • Suma: $0,001375 za wiadomość

Rozmowa z 200 wiadomościami kosztuje zatem $0,275. Kredyt próbny $0,50 wystarczy na około 363 takich wiadomości (0,50 / 0,001375 ≈ 363,6). Podwojenie kontekstu do 16 000 tokenów zwiększa udział kosztu wejścia do $0,0024, a koszt wiadomości do $0,002575.

Doładować możesz dowolną kwotę całkowitą od $20 do $500 za pomocą USDT na TRC20 lub USDC na Base. Od $50 dostajesz +5 % bonusu, od $100 +10 %, od $200 +15 %. Kredyt nie wygasa. Tabela bonusów znajduje się na stronie z cenami.

Typowe błędy i ich rozwiązania

Komunikat lub objawPrzyczynaRozwiązanie
401 lub błąd uwierzytelnianiaNieprawidłowy, ucięty klucz lub ze spacjamiWklej ponownie, sprawdź curl
404 lub model nieznalezionyBrak /v1 lub błędna nazwa modeluPodaj bazowy URL z /v1, model uncensored
429 z concurrencyZbyt wiele równoczesnych zapytań (klucz testowy: 2, pełny klucz: 8)Czaty grupowe jeden po drugim zamiast równolegle, zamykanie kart strumieniowania
429 z rate_limitedZbyt wiele zapytań na minutę (odpowiednio 60 lub 300)Nie uruchamiaj ponownej generacji zbyt często
429 z Retry-After: 5Tymczasowe przeciążeniePoczekaj 5 sekund i wyślij ponownie
Odpowiedź urywa się w połowie zdaniaZa krótka długość odpowiedzi po stronie klientaZwiększ długość odpowiedzi
Błąd spowodowany zbyt długim kontekstemSam historia rozmowy nie mieści się w oknie kontekstu 100 000 tokenów (odpowiedź jest ograniczana do pozostałej przestrzeni)Zmniejsz rozmiar kontekstu w kliencie, skróć starsze wiadomości

Wywołanie strumieniowe zajmuje miejsce w limicie równoległych zapytań, dopóki strumień się nie zakończy. To wyjaśnia niektóre zaskakujące komunikaty 429, gdy masz otwarte wiele czatów.

Uwagi dotyczące treści i prywatności

Model jest dostosowany do obsługi fikcji, odgrywania ról i scenariuszy dla dorosłych bez odmowy treści. Jest to pojedynczy model o otwartych wagach niezależnego dostawcy, a nie oficjalne API dużego producenta. Treści seksualne z udziałem nieletnich są wykluczone. API zwraca tylko tekst, nie generuje obrazów ani mowy. Prompty nie są używane do trenowania.

Więcej o wyborze modeli bez cenzury znajdziesz w porównaniu niecenzurowanych AI.

Dodatkowe przewodniki

Najczęściej zadawane pytania

Jaki bazowy URL wpisać do SillyTavern?

https://api.unzensiertesllm.com/v1, ze ścieżką /v1. Jako model podaj uncensored.

Jaki rozmiar kontekstu jest sensowny?

API pozwala na do 100 000 tokenów dla promptu i odpowiedzi. Do odgrywania ról często wystarcza kilka tysięcy; większe wartości zwiększają koszt wiadomości.

Dlaczego otrzymuję błąd 429?

Kod błędu wskazuje przyczynę: rate_limited oznacza zbyt wiele zapytań na minutę, concurrency zbyt wiele równoczesnych. Dla klucza testowego obowiązuje 60 na minutę i 2 równoczesne.

Ile kosztuje sesja z 200 wiadomościami?

Przy 8 000 tokenach kontekstu i 350 tokenach odpowiedzi to około $0.275. Większy kontekst podnosi cenę.

Twój klucz jest tylko jednym kliknięciem

Utwórz konto, skopiuj klucz, dostosuj bazowy URL. To wszystko.

Uzyskaj klucz API