Checkpoint dense officiel
La fiche Qwen s’appelle Qwen/Qwen3.8-27B. Elle indique 27B paramètres, encodeur visuel, licence Apache-2.0 et contexte natif de 262 144 tokens.
Français
Qwen3.8-27B · guide SillyTavern
Qwen3.8-27B dans SillyTavern
Le nom est bien réel, mais il est souvent confondu. Qwen publie le checkpoint dense officiel Qwen3.8-27B, orienté vision et langage. Qwen3.8-Max est un autre membre de la famille : 2,4 billions de paramètres au total et 95 milliards actifs. Vérifiez d’abord votre checkpoint et votre fournisseur.
Ce guide sépare les faits amont des retours de la communauté. Il ne garantit ni fournisseur, ni quantification, ni accès dans chaque compte Tabbit.
Vérifier le nom
27B n’est pas le modèle 2,4T
Les résultats de recherche placent plusieurs étiquettes côte à côte. Elles désignent des artefacts différents, et un nom copié trop vite peut fausser l’installation locale.
Famille Qwen3.8-Max
L’annonce Qwen et le nom des poids ouverts décrivent Qwen3.8-Max avec 2,4 billions au total et 95 milliards actifs. Le poids ouvert est Qwen3.8-2.4T-A95B, pas un alias 27B.
Fichiers communautaires
GGUF, FP8, GPTQ et les fine-tunes RP ajoutent parfois un suffixe ou le nom de leur auteur. Chaque dépôt est un artefact distinct : lisez ses notes de format et de template.
ID hébergé
SillyTavern a besoin de l’ID exact exposé par le fournisseur. Un nom d’affichage ne prouve pas que la route sert Qwen3.8-27B.
Fiche du modèle
Ce que dit la page officielle 27B
Servez-vous de ces faits pour choisir un runtime. Ils décrivent le checkpoint amont, pas la mémoire requise par chaque fichier quantifié.
27B paramètres
Le modèle de langage dense est donné à 27B paramètres. La fiche affiche aussi une étiquette de taille safetensors de 28B : ne la transformez pas en nom de modèle.
Image et vidéo
La page le classe image-text-to-text et décrit la compréhension des images et vidéos. Le backend doit encore gérer le processeur et le multimodal.
Contexte 262K
Le contexte natif est de 262 144 tokens et la fiche décrit une extension jusqu’à 1M. Cela ne signifie pas qu’un GPU grand public peut tout charger.
Choix de service
La fiche donne des exemples Transformers, vLLM, SGLang, TokenSpeed et Docker. Choisissez une version actuelle qui déclare ce support.
Réglage SillyTavern
Partir de l’endpoint
Une carte de personnage ne corrige ni une mauvaise route ni un template appliqué deux fois. Suivez cet ordre avec une API hébergée ou un serveur local.
Les libellés des fournisseurs, presets communautaires et dépôts quantifiés ne font pas partie de la fiche amont. Gardez chaque affirmation avec sa source.
1. Nommer l’artefact
Copiez le dépôt ou l’ID exact du fournisseur. Distinguez Qwen/Qwen3.8-27B, un dérivé quantifié et le membre Qwen3.8-2.4T-A95B.
2. Vérifier le backend
En local, vérifiez que Transformers, vLLM, SGLang, llama.cpp ou votre application gère le checkpoint et son chemin vision. Un GGUF peut limiter le multimodal.
3. Connecter SillyTavern
Pour un serveur compatible OpenAI, choisissez Chat Completions, saisissez la Base URL documentée et copiez le model ID renvoyé. Ne mettez pas les clés dans la carte.
4. Un seul template
Laissez la route hébergée sérialiser les messages ou suivez le template du tokenizer local. Les deux à la fois peuvent casser les rôles et les balises.
5. Comparer le raisonnement
Si le fournisseur le permet, testez la même carte avec thinking désactivé ou low, puis medium et xhigh. Mesurez la latence avant le preset de style.
Diagnostic rapide
Réparer d’abord la panne ordinaire
Gardez la carte et le premier message identiques. Changez une entrée à la fois et conservez le model ID de chaque réponse.
| Symptôme | À vérifier | Petite correction |
|---|---|---|
| Modèle absent ou fallback silencieux | Liste du fournisseur et model de la réponse | Copiez l’ID exposé et supprimez l’alias qwen3.8-27b deviné. |
| Rôles, balises ou format cassés | Qui possède le template | Gardez un seul chemin de template et ouvrez un nouveau chat. |
| VRAM insuffisante | Format, contexte et entrées visuelles | Essayez un quant plus petit, moins de contexte et une base texte. |
| Long raisonnement, peu d’action | Mode, limite de sortie et longueur du preset | Comparez low ou medium à xhigh avec la même carte. |
| Prose différente selon le fournisseur | Filtres, samplers et prompt système | Notez la route comme variable, pas comme fait du modèle. |
Carte de test RP
Donner un contrat court
Un prompt de test réduit rend visibles les différences de template, raisonnement et fournisseur.
Role: Tu es [personnage]. Scene: [lieu, relation, conflit actuel]. Style: [point de vue, langue, longueur]. Direction: Fais avancer une action observable. Ne parle pas pour l’utilisateur. Continuity: Utilise les faits confirmés ; demande en cas de doute. Format: Action puis dialogue. 250 à 450 mots. Pas de résumé. Check: Garde la voix, les limites et l’indice non résolu du tour précédent.
Envoyez la même carte trois fois. Comparez latence, balises inattendues, format et mouvement de scène avant de changer température ou preset.
Parcours navigateur
Garder docs et lore dans le même espace
SillyTavern reste l’outil spécialisé pour cartes et lorebooks. Tabbit aide quand il faut lire une fiche, comparer des fournisseurs et écrire avec une référence sans copier chaque paragraphe.
- 1
Ouvrir la source
Laissez la fiche Hugging Face, la documentation du fournisseur ou le wiki du personnage dans un onglet.
- 2
Vérifier le sélecteur
Ouvrez le sélecteur de Tabbit et choisissez Qwen3.8-27B seulement si cette option exacte apparaît dans votre édition et votre compte.
- 3
Citer avec @
Utilisez @ pour joindre une page, une capture ou un fichier à la question. Demandez une extraction des exigences de template ou une comparaison avec la fiche.
- 4
Comparer la réponse
Le chat multimodèle peut lire la même source sous plusieurs angles. La capture montre le flux du navigateur, pas un accès identique pour tous.
Parcours navigateur
Comparer la réponse
Choisir la surface
SillyTavern ou Tabbit ?
Ils s’occupent de parties différentes du flux RP. Gardez les contrôles spécialisés et utilisez le navigateur quand les références ralentissent le travail.
| Besoin | SillyTavern | Tabbit |
|---|---|---|
| Cartes et lorebooks | Contrôles RP dédiés | Référencer pages et fichiers |
| Preset et ordre des prompts | Contrôle fin | Prompt système et Skills |
| Lire des docs pendant le RP | Extensions ou copier-coller | Les onglets ouverts deviennent contexte |
| Comparer les réponses | Fournisseur ou extensions | Chat multimodèle du navigateur |
| Premier geste | Vérifier ID, backend et template | Ouvrir la source puis le sélecteur |
Ouvrir les preuves
La fiche avant la communauté
Ces liens séparent les spécifications amont des retours qui expliquent les problèmes rencontrés dans SillyTavern.
- Qwen/Qwen3.8-27B sur Hugging Face ↗Fiche officielle, architecture, contexte, licence et exemples de service.
- Annonce officielle Qwen3.8 ↗Contexte de famille pour Qwen3.8-Max et la distinction 2,4T total, 95B actifs.
- Documentation Chat Completions SillyTavern ↗Guide officiel pour un endpoint personnalisé compatible OpenAI.
- Recherche Qwen3.8-27B sur r/SillyTavernAI ↗Retours sur quants, prose, temps de réflexion et presets. Ce ne sont pas des spécifications.
- Qwen3.8-27B sur X ↗Publications de Qwen, créateurs de quants et utilisateurs locaux.
FAQ
Questions Qwen3.8-27B et SillyTavern
Qwen3.8-27B est-il officiel ?+
Oui. Qwen/Qwen3.8-27B possède une fiche officielle Hugging Face et correspond à un checkpoint dense vision-langage de 27B. Il est distinct de Qwen3.8-Max et Qwen3.8-2.4T-A95B.
27B est-il le même modèle que Qwen3.8-Max ?+
Non. Qwen3.8-Max est décrit avec 2,4 billions de paramètres au total et 95 milliards actifs. N’utilisez pas son ID ou son quant 2,4T pour tester le dense 27B.
Quelle quantification télécharger ?+
Cela dépend du GPU, de la RAM, du contexte et du backend. Commencez par un dépôt qui indique format et support du loader. GGUF, FP8, GPTQ et fine-tunes sont des artefacts différents.
Quel template utiliser ?+
Un fournisseur hébergé sérialise généralement les messages. Un serveur local suit le tokenizer ou la fiche du checkpoint. N’appliquez pas un second template Qwen.
Pourquoi le RP est lent ou trop court ?+
Vérifiez séparément raisonnement, sortie, contexte, samplers et route. Rejouez la même carte et notez la route avant de modifier le prompt.
Tabbit peut-il exécuter Qwen3.8-27B ?+
Choisissez-le seulement si le sélecteur Tabbit affiche le modèle exact. La disponibilité dépend de l’édition, de la région, du compte et du déploiement.
Laisser la référence ouverte
Installez Tabbit pour macOS ou Windows, vérifiez le sélecteur et amenez la fiche du modèle ou le wiki du personnage dans la même conversation navigateur.
L’accès au modèle et les conditions du fournisseur varient selon l’édition et le déploiement.