RU ▾

Настройки API SillyTavern: подключение OpenAI-совместимого API

Настройки API для SillyTavern настраиваются быстро, если у вас есть четыре значения: источник, базовый URL, ключ и имя модели. Здесь указано, что вводить, как выбрать контекст и длину ответа и что делать при ошибках.

ИИ без цензуры: LLM API против локальных моделей и облачных сервисов

Обновлено

Театральная сцена с масками и светящимися речевыми пузырями, ведущими к разъему: подключение SillyTavern к API

Важные моменты

  • Вводятся OpenAI-совместимый источник, базовый URL, API-ключ и имя модели uncensored.
  • Размер контекста в клиенте должен соответствовать 100 000-токенному окну API и вашему бюджету.
  • Частые источники ошибок — неверный базовый URL или опечатка в ключе.
  • Ролевая игра обходится в доли цента за сообщение, так как история отправляется каждый раз.

Четыре параметра, которые вам нужны

SillyTavern — это фронтенд для чатов и ролевых игр с карточками персонажей. Он может подключаться к различным источникам текста, включая эндпоинты, поддерживающие формат OpenAI. Для подключения вам нужны ровно четыре параметра:

  • Источник: OpenAI-совместимый или пользовательский источник Chat Completion
  • Базовый URL: https://api.unzensiertesllm.com/v1
  • API-ключ: Ваш ключ со страницы Получить API-ключ
  • Имя модели: uncensored

Названия меню и полей могут отличаться в разных версиях SillyTavern. Ориентируйтесь на термины выше и при расхождениях читайте документацию самого SillyTavern.

Пошаговое подключение

  1. Войдите к нам (через Google или E-mail с паролем) и создайте ключ. После входа вы получите $0,50 пробного баланса одним кликом: один раз на человека, срок действия 7 дней, без данных для оплаты.
  2. Откройте в SillyTavern раздел настроек API-подключений.
  3. Выберите тип API как Chat Completion и в качестве источника укажите пользовательский, совместимый с OpenAI (точные названия зависят от вашей версии).
  4. Введите базовый URL с окончанием /v1.
  5. Вставьте ключ без пробелов в начале и в конце.
  6. Укажите в качестве модели uncensored или выберите её из списка, если клиент запрашивает доступные модели.
  7. Подключитесь и отправьте короткое тестовое сообщение.

Если клиент показывает список моделей, он делает запрос GET /v1/models. Если там появляется uncensored, адрес и ключ верны.

Проверка подключения вне SillyTavern

Если что-то не работает, проверьте адрес и ключ отдельно от клиента. Это избавит от догадок.

curl https://api.unzensiertesllm.com/v1/models \
  -H "Authorization: Bearer DEIN_SCHLUESSEL"

curl https://api.unzensiertesllm.com/v1/chat/completions \
  -H "Authorization: Bearer DEIN_SCHLUESSEL" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Sag kurz Hallo."}], "max_tokens": 30}'

Если curl отвечает, проблема в клиенте. Если curl не отвечает, проблема в ключе, адресе или сети. Остаток баланса вы видите в заголовке ответа X-Balance-USD.

Правильный выбор размера контекста и длины ответа

Два регулятора определяют, сколько отправляется и генерируется за сообщение:

  • Размер контекста (Context Size): Сколько токенов истории, описания персонажей и информации о мире помещается. API поддерживает до 100 000 токенов для промпта и ответа вместе. Вам не обязательно использовать весь объём. Для многих ролевых игр достаточно нескольких тысяч токенов, и каждый токен контекста стоит денег при каждом сообщении.
  • Длина ответа (Response Length): Соответствует max_tokens. Параметр в API необязателен; в клиенте лучше его задать, чтобы ответы не разрастались.

Общее правило: выберите размер контекста таким, чтобы в него помещались карточка персонажа, важные заметки и последний десяток сообщений. Всё, что старше, клиент может отбросить, или вы можете его суммировать.

Значения сэмплера

API передает temperature, top_p, stop, seed и параметры штрафов. Начните с умеренных значений, например температуры около 0,8, и меняйте только один параметр. Другие сэмплеры, которые SillyTavern предлагает для определенных источников, могут не поддерживаться этим интерфейсом и оставаться без действия. Проверьте это в документации.

Сколько стоит сессия ролевой игры

Цены: $0,15 за 1M входных токенов, $0,50 за 1M выходных токенов. Предположим, каждое сообщение отправляет 8 000 токенов контекста и получает 350 токенов ответа:

  • Вход: 8 000 / 1 000 000 × $0,15 = $0,0012
  • Выход: 350 / 1 000 000 × $0,50 = $0,000175
  • Итого: $0,001375 за сообщение

Сессия из 200 сообщений обходится в $0,275. Тестового баланса в $0,50 хватит примерно на 363 таких сообщения (0,50 / 0,001375 ≈ 363,6). Если удвоить контекст до 16 000 токенов, доля ввода возрастает до $0,0024, а сообщение — до $0,002575.

Пополнить можно любую сумму от $20 до $500 в USDT на TRC20 или USDC на Base. От $50 бонус +5 %, от $100 +10 %, от $200 +15 %. Баланс не сгорает. Уровни бонусов указаны на странице цен.

Типичные ошибки и их решение

Сообщение или симптомПричинаРешение
401 или ошибка аутентификацииНеверный, обрезанный ключ или с пробеламиВставьте заново и проверьте с помощью curl
404 или модель не найденаОтсутствует /v1 или указано неверное имя моделиУкажите базовый URL с /v1, модель uncensored
429 с concurrencyСлишком много одновременных запросов (тестовый ключ: 2, полный ключ: 8)Групповые чаты последовательно, а не параллельно; закройте вкладки со стримингом
429 с rate_limitedСлишком много запросов в минуту (60 или 300)Не запускайте повторную генерацию слишком часто
429 с Retry-After: 5Кратковременная перегрузкаПодождите 5 секунд и отправьте запрос снова
Ответ обрывается посреди предложенияСлишком малая длина ответа в клиентеУвеличить длину ответа
Ошибка из-за слишком длинного контекстаИстория диалога не помещается в контекстное окно на 100 000 токенов (ответ ограничивается оставшимся местом)Уменьшите размер контекста в клиенте, сократите старые сообщения

Потоковый запрос занимает место в лимите одновременных запросов до завершения потока. Это объясняет некоторые неожиданные сообщения об ошибке 429, когда у вас открыто несколько чатов.

Примечания по контенту и конфиденциальности

Модель настроена на работу с фантастикой, ролевыми играми и сценариями для взрослых без отказа по контенту. Это отдельная модель с открытыми весами от независимого провайдера, а не официальное API крупного производителя. Сексуальный контент с несовершеннолетними исключён полностью. API выдаёт только текст, изображения или звук оно не генерирует. Промпты не используются для обучения.

Больше о выборе моделей без цензуры вы найдёте в сравнении ИИ без цензуры.

Дополнительные руководства

Часто задаваемые вопросы

Какой базовый URL ввести в SillyTavern?

https://api.unzensiertesllm.com/v1, с суффиксом /v1. В качестве модели укажите uncensored.

Какой размер контекста целесообразен?

API позволяет до 100 000 токенов для промпта и ответа. Для ролевых игр часто достаточно нескольких тысяч; большие значения увеличивают стоимость сообщения.

Почему я получаю ошибку 429?

Код ошибки указывает причину: rate_limited означает слишком много запросов в минуту, concurrency — слишком много одновременных. С тестовым ключом действуют лимиты: 60 в минуту и 2 одновременно.

Сколько стоит сессия из 200 сообщений?

При контексте в 8 000 токенов и ответе в 350 токенов — около $0,275. С большим контекстом цена возрастает.

Ваш ключ всего в одном клике

Создайте аккаунт, скопируйте ключ, настройте базовый URL. Вот и всё.

Получить API-ключ