LLM local sans censure : matériel, entretien, alternative
Un LLM local sans censure vous donne un contrôle total, mais exige du matériel et de l'entretien. Lisez ici comment estimer vous-même le besoin en mémoire, ce qui se présente au quotidien et quand une API est plus rentable.


Points clés
- Le besoin en mémoire peut être estimé grossièrement à partir du nombre de paramètres et de la largeur en bits des poids.
- Le contexte, le logiciel d'exécution et le système d'exploitation s'ajoutent ; prévoyez une marge.
- Charge de maintenance : mises à jour, changement de modèle, pilotes et vérification que le modèle ne refuse vraiment pas.
- Pour une utilisation rare ou des modèles volumineux, une API hébergée est souvent la solution la plus simple.
Le besoin en mémoire pour le calcul local
Qui veut faire tourner un LLM local sans censure se demande d'abord : cela tient-il sur mon ordinateur ? Pour les poids du modèle, il existe une règle générale approximative : nombre de paramètres multiplié par les octets par poids. Les valeurs ci-dessous sont des approximations.
| Taille du modèle | 16 bits (2 octets) | 8 bits (1 octet) | 4 bits (0,5 octet) |
|---|---|---|---|
| 7 milliards de paramètres | 14 Go | 7 Go | 3,5 Go |
| 13 milliards de paramètres | 26 Go | 13 Go | 6,5 Go |
| 70 milliards de paramètres | 140 Go | 70 Go | 35 Go |
Ce ne sont que les poids. S'ajoutent le tampon pour le contexte, qui croît avec la longueur de la conversation, et la surcharge du logiciel. Prévoyez donc nettement plus que ce que montre le tableau. Des largeurs de bits plus faibles économisent de l'espace, mais coûtent souvent un peu de qualité. Dans quelle mesure dépend du modèle, et nous ne donnons volontairement pas de chiffres précis à ce sujet.
Carte graphique, mémoire vive ou les deux
Si un modèle s'exécute entièrement dans la mémoire vidéo, il répond plus rapidement. S'il ne tient pas, les programmes peuvent décharger des parties dans la mémoire vive, ce qui réduit considérablement la vitesse. Sur les ordinateurs à mémoire partagée CPU/GPU (par exemple de nombreux ordinateurs portables avec puces Apple), la limite est la mémoire totale.
Vérifiez les points suivants avant l'achat :
- Quel modèle souhaitez-vous réellement utiliser, et avec quelle quantisation ?
- Quelle doit être la longueur des conversations ? Les longs contextes nécessitent plus de mémoire.
- Quel délai d'attente par réponse est acceptable pour vous ?
- La machine est-elle utilisée uniquement par vous ou sert-elle plusieurs personnes ?
Nous n'indiquons pas le nombre concret de tokens par seconde pour votre configuration. Mesurez-le avec votre modèle, car les valeurs des tests tiers ne sont pas transférables.
L'entretien, rarement prévu à l'avance
L'installation est souvent rapide selon le logiciel et les connaissances préalables. Ensuite commence le travail continu :
- Sélection du modèle : De nouvelles variantes apparaissent régulièrement. Chaque nouvelle version doit être testée.
- Vérifier le comportement de refus : Tous les modèles décrits comme sans censure ne répondent pas forcément à vos sujets. Créez une liste fixe de prompts de test et vérifiez chaque nouvelle version avec.
- Mises à jour : Les logiciels d'exécution, les pilotes et les formats de modèles changent. Une mise à jour peut casser l'installation.
- Sécurité : Téléchargez les modèles et les logiciels uniquement depuis des sources de confiance et vérifiez les fichiers. Un téléchargement manipulé est un risque réel.
- Fonctionnement pour d'autres : Dès que d'autres doivent accéder à votre modèle, s'ajoutent la protection d'accès, les redémarrages et la surveillance.
Qui aime cela prend du plaisir et apprend beaucoup. Qui a seulement besoin de réponses le vit comme une charge.
Quand une API hébergée est le meilleur choix
Une API est pertinente si au moins l'une de ces affirmations est vraie :
- Votre matériel ne prend pas en charge le modèle souhaité.
- Vous l'utilisez rarement et l'achat n'est pas rentable.
- Une application ou un bot doit répondre de manière fiable pour d'autres.
- Vous avez besoin d'une longue fenêtre de contexte sans augmenter la mémoire.
- Vous ne souhaitez pas consacrer de temps à l'entretien.
Notre API fournit un seul modèle à poids ouverts d'un fournisseur indépendant, optimisé pour des réponses sans refus de contenu pour une utilisation légale par les adultes. La fenêtre de contexte couvre 100 000 tokens. L'endpoint est compatible OpenAI ; les mêmes clients que vous utilisez en local fonctionnent souvent avec une URL de base modifiée. Il est basé uniquement sur le texte.
Coûts par rapport à votre propre matériel
L'API coûte 0,15 $ par 1 M de tokens d'entrée et 0,50 $ par 1 M de tokens de sortie, sans abonnement. Exemple : 100 requêtes par jour, 2 500 tokens d'entrée et 500 tokens de sortie, 30 jours.
- Requêtes : 3 000
- Entrée : 3 000 × 2 500 = 7,5 millions de tokens × 0,15 $ = 1,125 $
- Sortie : 3 000 × 500 = 1,5 million de tokens × 0,50 $ = 0,75 $
- Total : 1,875 $ par mois
Comparez cela à la facture d’une carte graphique adaptée, à l’électricité et à votre temps. Calculez vous-même à partir de quelle durée d’utilisation le matériel local deviendrait rentable. Si vous traitez des millions de requêtes par jour, le calcul est différent. Des remises de volume et des recharges (de 20 $ à 500 $, paiement par USDT sur TRC20 ou USDC sur Base) sont disponibles sur la page des prix. Les requêtes échouées ne sont pas facturées, et le crédit n’expire jamais.
Le juste milieu : tester en local, utiliser l’API
Beaucoup utilisent les deux modes. Le programme pour le modèle local fournit souvent également un endpoint compatible OpenAI ; votre code doit alors simplement changer l’URL de base. L’adresse utilisée par votre programme est indiquée dans sa documentation.
from openai import OpenAI
# Wechsel zwischen lokalem Endpunkt und API nur über die Basis-URL
client = OpenAI(
base_url="https://api.unzensiertesllm.com/v1",
api_key="DEIN_SCHLUESSEL",
)
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Schreibe zwei Sätze über einen Hafen bei Nacht."}],
)
print(r.choices[0].message.content)Pour tester, récupérez 0,50 $ de crédit d'essai sur la page Obtenir la clé API après vous être connecté : une fois par personne, valable 7 jours, sans données de paiement. D'autres critères de comparaison sont proposés par la comparaison des IA sans censure, et les détails techniques par la documentation.
Une limite s'applique dans tous les cas : les contenus à caractère sexuel avec des mineurs sont exclus. Les prompts ne sont pas utilisés pour l'entraînement chez nous.
Autres guides
Questions fréquentes
Combien de mémoire un modèle de 7 milliards de paramètres nécessite-t-il ?
Les poids seuls occupent environ 14 Go en 16 bit, 7 Go en 8 bit et 3,5 Go en 4 bit. Le contexte et le programme s'ajoutent.
Chaque modèle local répond-il sans refus ?
Non. Le comportement dépend de la variante spécifique. Testez chaque nouvelle version avec vos propres prompts.
Combien coûte l’API par rapport à votre propre matériel ?
Avec 100 requêtes par jour, 2 500 tokens en entrée et 500 tokens en sortie, cela représente 1,875 $ par mois. Vous devez établir le calcul matériel avec vos propres chiffres.
Puis-je utiliser le même code en local et via l’API ?
Souvent oui, car les deux peuvent être compatibles OpenAI. Vous modifiez l’URL de base, la clé et le nom du modèle.
Votre clé est à un clic
Créez un compte, copiez la clé, ajustez l’URL de base. C’est tout.
Obtenir une clé API