KO ▾

SillyTavern API 설정: OpenAI 호환 API 설정하기

SillyTavern API 설정은 소스, Base URL, 키, 모델 이름 네 가지 값을 준비하면 빠르게 완료됩니다. 입력할 값, 컨텍스트 및 응답 길이 선택 방법, 오류 해결 방법을 안내합니다.

무검열 AI: LLM API vs 로컬 모델 vs 클라우드 서비스

업데이트

마스크와 대화풍선이 플러그로 이어지는 극장 무대: API에 SillyTavern 연결

중요 포인트

  • OpenAI 호환 소스, Base URL, API 키 및 uncensored 모델 이름을 입력합니다.
  • 클라이언트의 컨텍스트 크기는 API의 100,000 토큰 컨텍스트 창과 예산에 맞게 조정해야 합니다.
  • 주요 오류 원인은 잘못된 Base URL 또는 키의 오타입니다.
  • 역할극은 매번 대화 기록이 전송되므로 메시지당 몇 센트 미만의 비용이 듭니다.

필요한 네 가지 값

SillyTavern은 캐릭터 카드를 사용한 채팅 및 역할극용 프론트엔드입니다. OpenAI 형식을 지원하는 엔드포인트를 포함해 다양한 텍스트 소스에 연결할 수 있습니다. 연결에는 정확히 네 가지 정보가 필요합니다:

  • 소스: OpenAI 호환 또는 사용자 정의 채팅 완료 엔드포인트
  • Base URL: https://api.unzensiertesllm.com/v1
  • API 키: API 키 받기에서 키 얻기
  • 모델 이름: uncensored

메뉴 및 필드 이름은 SillyTavern 버전마다 다를 수 있습니다. 위의 용어를 참고하고, 차이가 있을 경우 SillyTavern 자체 문서를 읽어보십시오.

단계별 연결

  1. 저희 사이트에 로그인(구글 또는 이메일/비밀번호)하고 키를 생성합니다. 로그인 후 클릭 하나로 $0.50 테스트 크레딧을 받습니다: 사용자당 한 번, 7일 유효, 결제 정보 불필요.
  2. SillyTavern에서 API 연결 영역을 엽니다.
  3. API 유형으로 채팅 완료 API 옵션을 선택하고 소스로 사용자 정의 OpenAI 호환 항목을 선택합니다(정확한 이름은 버전에 따라 다름).
  4. 끝에 /v1을 붙인 Base URL을 입력합니다.
  5. 시작이나 끝에 공백 없이 키를 붙여넣습니다.
  6. 모델로 uncensored를 지정하거나, 클라이언트가 모델을 조회할 경우 목록에서 선택합니다.
  7. 연결하고 짧은 테스트 메시지를 보냅니다.

클라이언트가 모델 목록을 표시하면 GET /v1/models를 호출합니다. uncensored가 표시되면 주소와 키가 정확합니다.

SillyTavern 외부에서 연결 사전 확인

연결이 안 될 경우 클라이언트와 분리하여 주소와 키를 확인합니다. 이렇게 하면 추측을 줄일 수 있습니다.

curl https://api.unzensiertesllm.com/v1/models \
  -H "Authorization: Bearer DEIN_SCHLUESSEL"

curl https://api.unzensiertesllm.com/v1/chat/completions \
  -H "Authorization: Bearer DEIN_SCHLUESSEL" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Sag kurz Hallo."}], "max_tokens": 30}'

curl이 응답하면 문제가 클라이언트에 있습니다. curl이 응답하지 않으면 키, 주소 또는 네트워크 문제입니다. 잔액은 응답 헤더 X-Balance-USD에서 확인할 수 있습니다.

컨텍스트 크기 및 응답 길이 적절히 선택

메시지당 전송 및 생성되는 양을 결정하는 두 가지 조절기가 있습니다:

  • 컨텍스트 크기: 대화, 캐릭터 설명, 세계관 정보를 함께 처리할 토큰 수입니다. API는 프롬프트와 응답 합계 100,000 토큰까지 지원합니다. 꼭 최대치를 사용할 필요는 없습니다. 많은 역할극은 몇천 토큰이면 충분하며, 각 토큰 컨텍스트는 메시지마다 다시 비용이 발생합니다.
  • 응답 길이: max_tokens과 같습니다. API에서는 선택 사항이지만, 클라이언트에서 설정하여 응답이 너무 길어지지 않도록 하는 것이 좋습니다.

대략적인 규칙: 캐릭터 카드, 중요 메모 및 최근 수십 개 메시지가 들어갈 수 있도록 컨텍스트 크기를 선택합니다. 그 이전 데이터는 클라이언트가 삭제하거나 요약할 수 있습니다.

샘플러 값

API는 temperature, top_p, stop, seed 및 페널티 매개변수를 전달합니다. 온도를 약 0.8로 설정하는 등 적절한 값으로 시작하고 한 번에 하나의 설정만 변경하십시오. SillyTavern이 특정 소스에 제공하는 다른 샘플러는 이 인터페이스에서 지원되지 않을 수 있으며 효과가 없을 수 있습니다. 문서에서 확인하십시오.

역할극 세션 비용

가격: 입력 토큰 100만 개당 $0.15, 출력 토큰 100만 개당 $0.50. 메시지당 컨텍스트 8,000 토큰을 전송하고 응답 350 토큰을 받는다고 가정하면:

  • 입력: 8,000 / 1,000,000 × $0.15 = $0.0012
  • 출력: 350 / 1,000,000 × $0.50 = $0.000175
  • 합계: 메시지당 $0.001375

200회 메시지 세션 비용은 $0.275입니다. $0.50 테스트 크레딧으로는 약 363회 메시지(0.50 / 0.001375 ≈ 363.6)가 가능합니다. 컨텍스트를 16,000 토큰으로 두 배로 늘리면 입력 비용이 $0.0024로 증가하고 메시지당 비용은 $0.002575가 됩니다.

USDT(TRC20) 또는 USDC(Base)로 $20부터 $500까지 정수 금액으로 충전할 수 있습니다. $50 이상은 +5%, $100 이상은 +10%, $200 이상은 +15% 보너스를 제공합니다. 크레딧은 만료되지 않습니다. 등급은 가격 페이지에서 확인하세요.

일반적인 오류 및 해결 방법

메시지 또는 증상원인해결 방법
401 또는 인증 오류키가 잘못되었거나 잘리거나 공백이 포함됨새로 붙여넣기, curl로 확인
404 또는 모델을 찾을 수 없음/v1이 누락되었거나 모델 이름이 잘못됨Base URL에 /v1을 포함하여 입력하고, 모델은 uncensored로 설정합니다.
concurrency 관련 429 오류동시 요청 수 초과 (테스트 키: 2, 전체 키: 8)그룹 채팅은 병렬이 아닌 순차적으로 처리, 스트리밍 탭 닫기
rate_limited 관련 429 오류분당 요청 수 초과 (60 및 300)빠른 연속으로 재생성하지 마세요
Retry-After: 5 관련 429 오류일시적 과부하5초간 대기 후 다시 전송
응답이 문장 중간에 끊김클라이언트에서 응답 길이가 너무 작게 설정됨응답 길이(Response Length) 증가
컨텍스트가 너무 길어 발생한 오류대화 기록만으로도 100,000 토큰 컨텍스트 창에 맞지 않습니다(응답은 남은 공간으로 제한됨)클라이언트에서 컨텍스트 크기를 줄이고 이전 메시지를 축약하세요

스트리밍 요청은 스트리밍이 끝날 때까지 동시 요청 제한을 차지합니다. 여러 채팅을 열어둔 상태에서 예상치 못한 429 오류가 발생하는 이유가 바로 이것입니다.

콘텐츠 및 데이터 보호 안내

이 모델은 성인용 픽션, 롤플레이 및 동반자 시나리오를 콘텐츠 거부 없이 처리하도록 미세 조정되었습니다. 이는 독립적인 제공업체의 단일 오픈 웨이트 모델이며, 대형 업체의 공식 API가 아닙니다. 미성년자와 관련된 성적 콘텐츠는 예외 없이 제외됩니다. API는 텍스트만 제공하며, 이미지나 음성은 생성하지 않습니다. 프롬프트는 학습에 사용되지 않습니다.

무검열 모델 선택에 대한 자세한 내용은 무검열 AI 비교에서 확인하세요.

추가 가이드

자주 묻는 질문

SillyTavern에 어떤 Base URL을 입력해야 하나요?

https://api.unzensiertesllm.com/v1 (끝에 /v1 접미사가 붙습니다). 모델은 uncensored로 지정합니다.

어떤 컨텍스트 크기가 합리적인가요?

API는 프롬프트와 응답에 최대 100,000 토큰까지 허용합니다. 롤플레이에는 수천 토큰이면 충분하며, 큰 값은 메시지당 비용을 증가시킵니다.

429 오류가 발생하는 이유는 무엇인가요?

오류 코드는 원인을 나타냅니다. rate_limited는 분당 요청 수가 많음을, concurrency는 동시 요청 수가 많음을 의미합니다. 테스트 키의 경우 분당 60개, 동시 2개가 적용됩니다.

200개의 메시지가 포함된 세션의 비용은 얼마인가요?

8,000 토큰의 컨텍스트와 350 토큰의 응답 기준 약 $0.275입니다. 컨텍스트가 늘어날수록 가격이 상승합니다.

API 키는 클릭 한 번으로 확보할 수 있습니다

계정 생성, 키 복사, Base URL 조정. 이것으로 완료됩니다.

API 키 받기