繁中 ▾

SillyTavern API 設定:設定 OpenAI 相容 API

只要準備好四個值:來源、基礎 URL、金鑰和模型名稱,即可快速設定 SillyTavern API 設定。這裡說明您應輸入的內容、如何選擇上下文和回應長度,以及出錯時的處理方法。

無審查 AI:LLM API 與本地模型與雲端服務

更新於

帶有面具和發光對話氣泡的戲劇舞台,指向插頭:將 SillyTavern 連接到 API

重點

  • 輸入 OpenAI 相容來源、基礎 URL、API 金鑰和模型名稱 uncensored。
  • 客戶端的上下文大小應與 API 的 100,000 token 視窗及您的預算相符。
  • 常見錯誤來源包括基礎 URL 錯誤或金鑰中的拼寫錯誤。
  • 角色扮演每則訊息的成本僅為幾分之一美分,因為每次都會傳送對話歷史。

您需要的四個值

SillyTavern 是一個用於聊天和角色扮演(帶有角色卡)的前端。它可以連接到不同的文本來源,包括支援 OpenAI 格式的端點。連接需要以下四項資訊:

  • 來源: OpenAI 相容或自訂聊天完成來源
  • 基礎 URL: https://api.unzensiertesllm.com/v1
  • API 金鑰: 來自 取得 API 金鑰 頁面的金鑰
  • 模型名稱: uncensored

選單和欄位的名稱可能因 SillyTavern 版本而異。請以上述名稱為準,若有差異請參閱 SillyTavern 本身的文件。

逐步連接

  1. 登入我們(Google 或電子郵件加密碼)並產生金鑰。登入後,點擊即可領取 $0.50 測試額度:每人一次,有效期 7 天,無需付款資訊。
  2. 在 SillyTavern 中開啟 API 連接區域。
  3. 將 API 類型選擇為聊天完成變體,並將來源設為自訂、OpenAI 相容項目(確切名稱取決於您的版本)。
  4. 輸入帶有 /v1 結尾的基礎 URL。
  5. 插入金鑰,前後不要有空格。
  6. 將模型設為 uncensored,或在客戶端查詢模型時從列表中選擇。
  7. 連接並發送一條短測試訊息。

如果客戶端顯示模型列表,它會呼叫 GET /v1/models。如果那裡顯示 uncensored,則地址和金鑰正確。

在 SillyTavern 之外預先檢查連接

如果無法運作,請在客戶端之外單獨檢查地址和金鑰。這可以省去猜測。

curl https://api.unzensiertesllm.com/v1/models \
  -H "Authorization: Bearer DEIN_SCHLUESSEL"

curl https://api.unzensiertesllm.com/v1/chat/completions \
  -H "Authorization: Bearer DEIN_SCHLUESSEL" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Sag kurz Hallo."}], "max_tokens": 30}'

如果 curl 有回應,則問題在客戶端。如果 curl 無回應,則問題在於金鑰、網址或網路。剩餘額度請見回應標頭 X-Balance-USD。

正確選擇上下文大小和回應長度

兩個控制器決定每則訊息傳送和生成的數量:

  • 上下文大小: 對話歷史、角色描述與世界資訊總共可包含多少 token。API 允許提示詞與回應合計最多 100,000 token。你不必用到上限。許多角色扮演只需數千 token,且每個 token 上下文在每則訊息時都會重複計費。
  • 回應長度(Response Length): 對應 max_tokens。API 中此選項為可選;在客戶端中最好設定它,以防止回應過長。

一個經驗法則:選擇上下文大小,使角色卡、重要筆記和最後幾十則訊息都能容納。較舊的內容可以由客戶端丟棄,或者您可以將其摘要。

採樣器值

API 會傳遞 temperature、top_p、stop、seed 和懲罰參數。從適中值開始,例如溫度約 0.8,並且每次只更改一個設定。SillyTavern 為特定來源提供的其他採樣器可能不受此介面支援;它們將無效。請在 文件 中檢查。

一場角色扮演對話的成本

價格:每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。假設每則訊息傳送 8,000 個 token 上下文並獲得 350 個 token 回應:

  • 輸入:8,000 / 1,000,000 × $0.15 = $0.0012
  • 輸出:350 / 1,000,000 × $0.50 = $0.000175
  • 總計:每則訊息 $0.001375

一場包含 200 則訊息的對話因此需 $0.275。$0.50 的免費試用額度足夠約 363 則此類訊息(0.50 / 0.001375 ≈ 363.6)。若將上下文擴大至 16,000 token,輸入成本將升至 $0.0024,單則訊息成本升至 $0.002575。

您可以使用 USDT(TRC20)或 USDC(Base)儲值任意整數金額,範圍從 $20 到 $500。金額達到或超過 $50 贈送 +5%,達到或超過 $100 贈送 +10%,達到或超過 $200 贈送 +15%。額度永不過期。價格表請見 價格頁面。

典型錯誤及其解決方案

訊息或症狀原因解決方案
401 或身份驗證錯誤金鑰錯誤、截斷或帶有空格重新插入,使用 curl 進行驗證
404 或找不到模型/v1 遺漏或模型名稱錯誤填入帶有 /v1 的基礎 URL,模型填入 uncensored
429 錯誤與 concurrency 有關同時請求過多(測試金鑰:2,完整金鑰:8)群組聊天改為順序執行而非並行,關閉串流輸出分頁
429 錯誤與 rate_limited 有關每分鐘請求過多(60 或 300)避免連續快速重新生成
429 錯誤與 Retry-After: 5 有關短暫過載等待 5 秒後重新發送
回應在句子中間中斷客戶端設定的回應長度過小增加回應長度
因上下文過長而錯誤僅歷史記錄就無法放入 100,000 token 的視窗(回應會受限於剩餘空間)在客戶端縮小上下文大小,截斷較舊的訊息

一個串流請求會佔用並行請求的限制空間,直到串流結束。這解釋了為何在開啟多個對話時會出現一些令人驚訝的 429 錯誤。

內容與隱私注意事項

該模型專為服務成人向的虛構、角色扮演與伴侶情境設計,不會拒絕相關內容。這是一個由獨立供應商提供的單一開放權重模型,並非大型廠商的官方 API。一律禁止涉及未成年人的性內容。API 僅提供文字,不產生圖像或語音。提示詞不會用於訓練。

更多關於選擇無審查模型的資訊,請見 無審查 AI 比較。

更多指南

常見問題

我該在 SillyTavern 輸入什麼 Base URL?

https://api.unzensiertesllm.com/v1, 加上 /v1 後綴。模型請指定為 uncensored。

合理的上下文大小是多少?

API 允許最多 100,000 token 用於提示詞與回應。對於角色扮演,通常只需數千 token;較大的值會增加每則訊息的成本。

為什麼我會收到 429 錯誤?

錯誤程式碼指出原因:rate_limited 表示每分鐘請求過多,concurrency 表示同時請求過多。使用測試金鑰時,每分鐘限制為 60,同時限制為 2。

一場包含 200 則訊息的會話要花多少錢?

8,000 token 上下文與 350 token 回應約需 $0.275。上下文越多,價格越高。

你的金鑰只需點擊一次即可取得

建立帳戶,複製金鑰,調整 Base URL。完成。

取得 API 金鑰