DE ▾

SillyTavern API Settings: OpenAI-kompatible API einrichten

Die SillyTavern API Settings sind schnell eingerichtet, wenn Sie vier Werte parat haben: Quelle, Basis-URL, Schlüssel und Modellname. Hier steht, was Sie eintragen, wie Sie Kontext und Antwortlänge wählen und was bei Fehlern hilft.

Unzensierte KI: LLM-API vs. Lokale Modelle vs. Cloud-Dienste

Aktualisiert

Theaterbühne mit Masken und leuchtenden Dialogblasen, die an einen Stecker führen: SillyTavern mit einer API verbinden

Wichtige Punkte

  • Eingetragen werden eine OpenAI-kompatible Quelle, die Basis-URL, der API-Schlüssel und der Modellname uncensored.
  • Die Kontextgröße im Client sollte zum 100.000-Token-Fenster der API und zu Ihrem Budget passen.
  • Häufige Fehlerquellen sind einer falschen Basis-URL oder einem Tippfehler im Schlüssel.
  • Rollenspiel kostet pro Nachricht Bruchteile eines Cents, weil der Verlauf jedes Mal mitgesendet wird.

Die vier Werte, die Sie brauchen

SillyTavern ist ein Frontend für Chats und Rollenspiele mit Figurenkarten. Es kann sich mit verschiedenen Textquellen verbinden, darunter mit Endpunkten, die das OpenAI-Format sprechen. Für die Verbindung brauchen Sie genau vier Angaben:

  • Quelle: eine OpenAI-kompatible beziehungsweise benutzerdefinierte Chat-Completion-Quelle
  • Basis-URL: https://api.unzensiertesllm.com/v1
  • API-Schlüssel: Ihr Schlüssel von der Seite API-Schlüssel erhalten
  • Modellname: uncensored

Die Bezeichnungen der Menüs und Felder können sich zwischen SillyTavern-Versionen unterscheiden. Orientieren Sie sich an den Begriffen oben und lesen Sie bei Abweichungen die Dokumentation von SillyTavern selbst.

Schritt für Schritt verbinden

  1. Melden Sie sich bei uns an (Google oder E-Mail mit Passwort) und erzeugen Sie den Schlüssel. Nach der Anmeldung holen Sie mit einem Klick $0.50 Testguthaben ab: einmal pro Person, 7 Tage gültig, ohne Zahlungsdaten.
  2. Öffnen Sie in SillyTavern den Bereich für die API-Verbindungen.
  3. Wählen Sie als API-Typ die Chat-Completion-Variante und als Quelle den benutzerdefinierten, OpenAI-kompatiblen Eintrag (die genauen Bezeichnungen hängen von Ihrer Version ab).
  4. Tragen Sie die Basis-URL mit der Endung /v1 ein.
  5. Fügen Sie den Schlüssel ein, ohne Leerzeichen am Anfang oder Ende.
  6. Geben Sie als Modell uncensored an oder wählen Sie es aus der Liste, falls der Client die Modelle abfragt.
  7. Verbinden Sie und senden Sie eine kurze Testnachricht.

Zeigt der Client eine Modellliste, ruft er dafür GET /v1/models auf. Erscheint dort uncensored, stimmen Adresse und Schlüssel.

Verbindung vorab außerhalb von SillyTavern prüfen

Wenn etwas nicht klappt, prüfen Sie Adresse und Schlüssel getrennt vom Client. Das spart Rätselraten.

curl https://api.unzensiertesllm.com/v1/models \
  -H "Authorization: Bearer DEIN_SCHLUESSEL"

curl https://api.unzensiertesllm.com/v1/chat/completions \
  -H "Authorization: Bearer DEIN_SCHLUESSEL" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Sag kurz Hallo."}], "max_tokens": 30}'

Antwortet curl, liegt das Problem im Client. Antwortet curl nicht, liegt es an Schlüssel, Adresse oder Netzwerk. Das Restguthaben sehen Sie im Antwort-Header X-Balance-USD.

Kontextgröße und Antwortlänge richtig wählen

Zwei Regler bestimmen, wie viel pro Nachricht gesendet und erzeugt wird:

  • Kontextgröße (Context Size): Wie viele Tokens Verlauf, Figurenbeschreibung und Weltinformationen insgesamt mitgehen. Die API erlaubt bis zu 100.000 Tokens für Prompt und Antwort zusammen. Sie müssen das nicht ausreizen. Für viele Rollenspiele reichen einige tausend Tokens, und jeder Token Kontext kostet bei jeder Nachricht erneut.
  • Antwortlänge (Response Length): Entspricht max_tokens. Die Angabe ist bei der API optional; im Client setzen Sie sie am besten, damit Antworten nicht ausufern.

Eine Faustregel: Wählen Sie die Kontextgröße so, dass Figurenkarte, wichtige Notizen und die letzten Dutzend Nachrichten hineinpassen. Alles Ältere kann der Client verwerfen, oder Sie fassen es zusammen.

Sampler-Werte

Die API reicht temperature, top_p, stop, seed und die Penalty-Parameter weiter. Starten Sie mit moderaten Werten, zum Beispiel einer Temperatur um 0,8, und ändern Sie immer nur eine Einstellung. Andere Sampler, die SillyTavern für bestimmte Quellen anbietet, werden von dieser Schnittstelle möglicherweise nicht unterstützt; sie bleiben dann ohne Wirkung. Prüfen Sie das in der Dokumentation.

Was eine Rollenspiel-Sitzung kostet

Preise: $0.15 pro 1M Input-Tokens, $0.50 pro 1M Output-Tokens. Angenommen, jede Nachricht sendet 8.000 Tokens Kontext und erhält 350 Tokens Antwort:

  • Input: 8.000 / 1.000.000 × $0.15 = $0.0012
  • Output: 350 / 1.000.000 × $0.50 = $0.000175
  • Summe: $0.001375 pro Nachricht

Eine Sitzung mit 200 Nachrichten kostet damit $0.275. Das Testguthaben von $0.50 reicht für etwa 363 solcher Nachrichten (0,50 / 0,001375 ≈ 363,6). Verdoppeln Sie den Kontext auf 16.000 Tokens, steigt der Input-Anteil auf $0.0024 und die Nachricht auf $0.002575.

Aufladen können Sie jeden ganzen Betrag von $20 bis $500 mit USDT auf TRC20 oder USDC auf Base. Ab $50 gibt es +5 % Bonus, ab $100 +10 %, ab $200 +15 %. Das Guthaben verfällt nicht. Die Staffel steht auf der Preisseite.

Typische Fehler und ihre Lösung

Meldung oder SymptomUrsacheLösung
401 oder AuthentifizierungsfehlerSchlüssel falsch, abgeschnitten oder mit LeerzeichenNeu einfügen, mit curl gegenprüfen
404 oder Modell nicht gefunden/v1 fehlt oder Modellname falschBasis-URL mit /v1 eintragen, Modell uncensored
429 mit concurrencyZu viele gleichzeitige Anfragen (Test-Schlüssel: 2, voller Schlüssel: 8)Gruppenchats nacheinander statt parallel, Streaming-Tabs schließen
429 mit rate_limitedZu viele Anfragen pro Minute (60 beziehungsweise 300)Neugenerieren nicht in schneller Folge auslösen
429 mit Retry-After: 5Kurzzeitige Überlast5 Sekunden warten und erneut senden
Antwort bricht mitten im Satz abAntwortlänge im Client zu kleinResponse Length erhöhen
Fehler wegen zu langem KontextDer Verlauf allein passt nicht ins Fenster von 100.000 Tokens (die Antwort wird auf den verbleibenden Platz begrenzt)Kontextgröße im Client verkleinern, ältere Nachrichten kürzen

Ein gestreamter Aufruf belegt seinen Platz im Limit für gleichzeitige Anfragen, bis der Stream endet. Das erklärt manche überraschende 429-Meldung, wenn Sie mehrere Chats offen haben.

Hinweise zu Inhalten und Datenschutz

Das Modell ist darauf abgestimmt, Fiktion, Rollenspiel und Begleiter-Szenarien für Erwachsene ohne inhaltliche Verweigerung zu bedienen. Es handelt sich um ein einzelnes Open-Weight-Modell eines unabhängigen Anbieters, nicht um die offizielle API eines großen Herstellers. Sexuelle Inhalte mit Minderjährigen sind ausnahmslos ausgeschlossen. Die API liefert nur Text, Bilder oder Sprache erzeugt sie nicht. Prompts werden nicht zum Training verwendet.

Mehr zur Auswahl unzensierter Modelle finden Sie im Vergleich unzensierter KI.

Weitere Anleitungen

Häufig gestellte Fragen

Welche Basis-URL trage ich in SillyTavern ein?

https://api.unzensiertesllm.com/v1, mit der Endung /v1. Als Modell geben Sie uncensored an.

Welche Kontextgröße ist sinnvoll?

Die API erlaubt bis zu 100.000 Tokens für Prompt und Antwort. Für Rollenspiel genügen oft einige tausend; größere Werte erhöhen die Kosten pro Nachricht.

Warum bekomme ich einen 429-Fehler?

Der Fehlercode nennt die Ursache: rate_limited bedeutet zu viele Anfragen pro Minute, concurrency zu viele gleichzeitige. Mit dem Test-Schlüssel gelten 60 pro Minute und 2 gleichzeitig.

Was kostet eine Sitzung mit 200 Nachrichten?

Bei 8.000 Tokens Kontext und 350 Tokens Antwort rund $0.275. Mit mehr Kontext steigt der Preis.

Ihr Schlüssel ist nur einen Klick entfernt

Konto erstellen, Schlüssel kopieren, Basis-URL anpassen. Das war’s.

API-Schlüssel erhalten