JA ▾

検閲なしLLM:ローカルまたはAPIで選択

検閲なしLLMは、自社で運用するかホステッドAPIとして利用できます。どちらが適しているかは、データ保護、ハードウェア、品質、可用性、コストの5つの基準で判断します。

無検閲AI:LLM-API vs ローカルモデル vs クラウドサービス

更新日:

ローカルPCとクラウドサーバーの天秤:検閲なしLLMのローカルまたはAPI利用

重要ポイント

  • データ主権とオフライン運用ではローカルが有利、手間とモデルサイズではAPIが有利です。
  • 重要なのは、あなたの利用パターンです。時々、定期的、または他者へのサービス提供としてです。
  • APIではトークン課金のみ:入力1Mあたり$0.15、出力1Mあたり$0.50。
  • 混合運用は一般的です:実験はローカル、安定した運用はAPI。

迅速な判断

検閲なしLLMをお探しの場合は、以下の指針が役立ちます:ハードウェアが使用可能なモデルを処理でき、データをコンピュータから外出したくない場合はローカルで実験してください。大規模モデル、他ユーザー向けの信頼できる応答、または保守不要を求める場合はAPIをご利用ください。

基準ローカルホストAPI
データデバイス内に留まるプロバイダ経由で処理される
開始インストール、モデルダウンロードキーとBase URL
継続コスト電力、ハードウェアの消耗トークンあたり
並列性ハードウェアに制限されるプロバイダの制限による
保守アップデート、ドライバー、モデル変更はユーザー側プロバイダ側
オフライン利用可能はいいいえ

「無検閲」の技術的意味

言語モデルは訓練方法によりリクエストを拒否することがあります。オープンウェイトモデルは多くのバリエーションで提供されています:ベースモデル、安全訓練付きインストラクションモデル、および拒否が少ないまたは全くない後処理版など。この用語は標準ではありません。無検閲とされる2つのモデルでも、動作や品質が大きく異なる場合があります。

したがって、ラベルではなく、独自のプロンプトでの動作を確認してください。日常の10の典型的なタスクは、いかなる説明よりも多くのことを示します。これはローカルでもAPIでも同様です。

基準1と2:データ保護とハードウェア

データ保護。 ローカルではプロンプトはコンピュータから出ません。APIではテキストがプロバイダに送信されます。プロバイダのデータ保護規定を確認してください。当社ではプロンプトはトレーニングに使用されません。機密性の高いデータにはローカル運用が最も安全です。

ハードウェア。 必要量はモデルサイズと量子化に依存します。モデルやソフトウェアによって変動が大きいため、固定数値は示しません。目安として、モデルが大きいほどGPUまたはRAMが必要で、小規模モデルでは応答品質が低下することがあります。各ソフトウェアのガイドラインに具体的な要件が記載されています。長いコンテキストウィンドウはさらに必要量を増加させます。

基準3と4:品質と可用性

品質。 モデルに依存し、運用方法には依存しません。APIは、ローカル環境では実行できないモデルを提供できる場合があります。当社のAPIは、独立したベンダーの単一オープンウェイトモデルを使用しており、成人による合法利用のための無検閲応答に最適化されています。大手メーカーの公式APIでもなく、複数ベンダーをルーティングするルーターでもありません。コンテキストウィンドウは100,000トークン(プロンプトと応答の合計)です。

可用性。 ローカルモデルはPCが稼働している限り動作します。他者向けサービスには運用と監視付きサーバーが必要です。APIは制限を提供します:完全なキーでは8つの同時リクエストと1分あたり300リクエストです。可用性の具体的な保証は行いません。

基準5:コスト、正直な計算

APIはトークン課金:入力1Mあたり$0.15、出力1Mあたり$0.50、サブスクなし。3つの利用パターン:

プロファイル計算月額コスト
たまに:1日20リクエスト、入力2,000トークン、出力500トークン600リクエスト: 120万入力 × $0.15 = $0.18;30万出力 × $0.50 = $0.15$0.33
定期的:1日200、入力3,000、出力6006,000リクエスト:1,800万入力 × $0.15 = $2.70;360万出力 × $0.50 = $1.80$4.50
サービス: 1日3,000リクエスト、入力3,000、出力60090000リクエスト:270000000入力 × $0.15 = $40.50;54000000出力 × $0.50 = $27.00$67.50

ローカル運用では、機器の購入費、電気代、そしてあなたの時間が対価となります。これらを自前の計算式に組み込んでください。使用量が少ない場合(最初の行)はAPI請求額は小さくなりますが、高負荷の継続使用では自前ハードウェアとの比較が有益です。すべての価格、数量割引、最低チャージ額($20〜$500)は価格ページをご覧ください。

両方の方法を試す

APIテストは無料です:Googleまたはパスワード付きEメールでログイン後、APIキーを取得ページで一度限りの$0.50テストクレジットを受け取れます。有効期限は7日で、支払い情報は不要です。呼び出しは次の通りです:

from openai import OpenAI

client = OpenAI(base_url="https://api.unzensiertesllm.com/v1", api_key="DEIN_SCHLUESSEL")

aufgaben = [
    "Schreibe die Gedanken eines Schurken in drei Sätzen.",
    "Fasse den Plot einer düsteren Kurzgeschichte zusammen.",
]
for text in aufgaben:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": text}],
    )
    print(r.choices[0].message.content, "\n---")

同じタスクをローカルモデルで実行し、トーン、長さ、拒否の挙動を比較してください。より多くの背景情報は無検閲AI比較の記事で、パラメータはドキュメントで説明されています。

典型的な誤判断

  • モデルが確定する前にハードウェアを購入するな。まずAPIまたは小規模モデルでテストし、回答品質が要件を満たすか確認してください。それ以降に購入が有益になります。
  • トークンあたりの価格のみを重視する。 電気代、セットアップ時間、障害は、ローカル方式のコスト要因に含まれます。
  • ラベルをすべて信じる。 無検閲という名称は、品質やタスクでの適切な動作を保証するものではありません。
  • コンテキストを過小評価する。 長い会話やドキュメントには大きなウィンドウが必要です。ローカルではコンテキストに応じてメモリが必要になりますが、APIでは履歴が毎回入力としてカウントされるため、請求額が増加します。
  • プライバシーを半端に考える。 ローカルモデルでもチャット履歴はファイルに保存されることが多いです。他の機密ファイルと同様にバックアップしてください。

不安な場合は、無料のテストクレジットで始め、1週間後に期待値ではなく実際の数値に基づいて判断してください。

すべての方法に適用される制限

当社の製品はテキストのみを提供します:画像、オーディオ、埋め込みベクトル、ファインチューニングは含まれません。未成年者との性的なコンテンツは例外なく除外されており、成人による合法的な用途を想定しています。支払いはTRC20上のUSDTまたはBase上のUSDCで行います。

その他のガイド

よくある質問

無検閲の言語モデルは合法ですか?

モデル自体は利用可能です。重要なのは、どのような用途で利用するかです。利用は合法である必要があり、未成年者に関するコンテンツは除外されます。これは法的助言ではありません。

通常のPCでローカルモデルは動作しますか?

小規模モデルでは多くの場合可能ですが、大規模モデルでは不可能です。要件はモデルサイズと量子化に依存します。各プログラムの提供情報を確認してください。

低使用時のAPIコストはいくらですか?

1日20リクエスト、2,000トークンの入力、500トークンの出力の場合、月額は約$0.33です。

ローカルとAPIを組み合わせられますか?

はい。多くのユーザーはローカルでテストを行い、確実に動作させる必要がある場合や、より大規模なモデルを利用したい場合にAPIを使用しています。

キーはワンクリックで入手可能

アカウントを作成し、キーをコピーし、ベースURLを設定します。それだけです。

APIキーを取得