ずっと考え続ける
thinkingの状態、推論予算、thinking blockを保持するプロバイダーかを確認します。reasoning effortを下げると一回は速くても、長いタスクでは再試行が増えることがあります。
日本語
QWEN 3.8 + SILLYTAVERN
SillyTavern向けQwen 3.8設定
返答がループする、考え続ける、キャラクターの事実を忘れる、途中で止まる。原因はサンプラーだけとは限りません。まず接続とチャットテンプレートを確認し、次に一つの変数だけ変えて同じ短いテストを繰り返します。
以下は公式ドキュメントにある開始値で、万能なベストプリセットではありません。プロバイダー、バックエンド、量子化、カード、コンテキスト予算もQwen3.8-27Bの挙動を変えます。
まず症状を見る
症状は層を示します。魔法の数字ではありません
同じように悪い返答でも、誤ったエンドポイント、合わないテンプレート、狭いコンテキスト、制限の強いサンプラー構成が原因かもしれません。プリセットを変える前に変更点を記録します。
カードを忘れる
コンテキスト境界とresponseの割り当てを確認します。SillyTavernはキャラクター情報、システムプロンプト、チャット履歴をcontextに送ります。古い発言が範囲外かもしれません。
ループする、平板になる
repetition penalty、DRY、top-p、top-k、min-pをまとめて確認します。Qwenは複数の項目に中立値を示しています。一度に一つだけ変えます。
タグが壊れる
モデルID、チャットテンプレート、推論タグの処理、プロンプト後処理を確認します。別のモデル用に整形されたリクエストをサンプラーで直すことはできません。
切り分けの順番
プロバイダー → テンプレート → コンテキスト → サンプラー → 再テスト
短く再現できるキャラクターのターンを使います。カード、プロンプト、利用できるseed、出力長を保ったまま層を進みます。
- 1
接続とプロバイダー
プロバイダーがQwen3.8-27Bを実際に提供しているか確認し、正確なモデルIDをコピーしてTest Messageを送ります。Custom OpenAI-compatible endpointではbase URLと/v1/modelsも確認します。
- 2
チャットテンプレートとthinking
Qwen3.8用のテンプレートを使います。公式カードではthinkingが初期オンです。直接回答にする場合は、バックエンドが文書化したフィールドで無効にします。過去のthinkingを残すかも決めます。
- 3
コンテキストとresponse
カードと直近の会話を収めるcontextを確保し、responseの余地を残します。大きな数値を設定しても、バックエンドや量子化版が同じ容量を出すとは限りません。
- 4
サンプラーと再テスト
下の公式行から始めます。一つの設定だけを変え、同じ短いターンを数回再生成して結果を記録します。その後で次の変数を試します。
プロバイダーがフィールドを無視する場合、画面の値だけでは受信を証明できません。可能ならリクエストやレスポンスのメタデータを確認します。
参照表
公式の開始値と中立値を並べる
QwenはThinking ModeとInstructまたはnon-thinking modeを別に提示しています。SillyTavernの文書にはサンプラーを無効にする中立値もあります。試すモードに合う行を選んでください。
| パラメーター | Thinking mode | Instruct / non-thinking | 見るポイント |
|---|---|---|---|
| temperature | 1.0 | 0.7 | 低いほど予測しやすく、高いほど多様。 |
| top_p | 0.95 | 0.80 | 1でnucleusフィルターを無効化。 |
| top_k | 20 | 20 | バックエンドにより0または-1で無効化。 |
| min_p | 0.0 | 0.0 | 高すぎると反復が悪化することがある。 |
| presence_penalty | 0.0 | 1.5 | Qwenは0から2を反復抑制に提示。 |
| repetition_penalty | 1.0 | 1.0 | 1で効果を無効化。 |
| reasoning_effort | xhigh | 対象外 | xhigh、medium、lowを文書化。 |
| preserve_thinking | true | true | 最新の推論だけ残すなら無効化。 |
Qwenモデルカードの開始値です。サンプラーの対応はフレームワークとプロバイダーで変わるため、すべてのカードでRPが改善する保証はありません。
サンプラーに見える境界例
画像、量子化、DRYが基準を変える
それぞれを別の実験として扱います。コミュニティのプリセットは変更の原因を隠すことがあります。
コンテキストとresponseの長さ
SillyTavernではcontext tokensはresponseを割り当てた後のプロンプト予算です。responseが長いほど生成に時間がかかり、カードと履歴の余地が減ります。Qwen3.8-27Bのネイティブ上限は262,144 tokensですが、実用上はバックエンドや量子化で低くなる場合があります。
画像入力
公式カードは画像と動画の理解を説明しています。コネクターがバックエンドの形式でメディアを渡せないなら、原因は統合です。temperatureを変えても直りません。
量子化
BF16、FP8、低bit版はメモリと数値精度の交換条件が異なります。同じバックエンド、プロンプト、context、samplerで比較してからプリセットを疑います。
repetition penaltyとDRY
repetition_penalty 1は中立です。rangeやslopeを上げすぎると普通の語まで罰します。DRYは反復する列を対象にし、multiplier 0で無効です。再現するループにだけ一つの制御を足します。
別のコンテキスト経路
情報源がウェブなら、その横でQwenを使う
カードとlorebookが必要ならSillyTavernが適しています。ページ、PDF、スクリーンショット、調査から始まる作業にはTabbitが便利です。情報源を開き、モデルを選び、見える状態で作業します。
情報源を開く
macOSまたはWindowsのデスクトップブラウザを使い、wiki、プロンプトガイド、文書をメイン画面に置きます。
モデルを選ぶ
新しいタブの入力欄またはサイドチャットからTabbitのモデル選択を開きます。リストは製品更新で変わるため、すべてのローカルQwen3.8重みが使えるとは考えないでください。
@で参照する
@を入力してタブ、スクリーンショット、ファイルを参照します。情報源を見ながらシーン案、カードの書き直し、比較を頼めます。
@で参照する
@を入力してタブ、スクリーンショット、ファイルを参照します。情報源を見ながらシーン案、カードの書き直し、比較を頼めます。
FAQ
Qwen 3.8とSillyTavern設定
Qwen3.8の公式サンプラー値は？+
Thinking Modeはtemperature 1.0、top_p 0.95、top_k 20、min_p 0.0、presence_penalty 0.0、repetition_penalty 1.0です。Instructまたはnon-thinking modeは0.7、0.80、20、0.0、1.5、1.0です。
コミュニティのプリセットを使うべき？+
比較用の出発点として使います。保証ではありません。モデル版とバックエンドを混ぜた例もあるため、項目を記録して公式行を一つずつ試します。
なぜSillyTavernのQwen3.8は考え続ける？+
公式カードではthinkingが初期オンです。サンプラーを変える前に、接続のテンプレート、推論タグ、プロバイダー対応を確認します。
contextはどれくらいにする？+
カード、システムプロンプト、直近のチャットに余地を与え、responseも残します。ネイティブ上限は262,144 tokensですが、利用中のstackが小さい場合があります。
repetition penaltyやDRYをオンにする？+
まずrepetition_penalty 1とDRY multiplier 0を使います。中立または無効の値です。同じテストでループが続く場合だけ一つを追加します。
TabbitはローカルのQwen3.8-27Bを実行する？+
このページではそう主張していません。Tabbitはブラウザのモデル選択とコンテキスト機能を提供します。現在の選択肢を確認し、ローカル重みにはSillyTavernとローカルバックエンドを使ってください。
説明できる設定だけを残す
公式行から始め、一つの変数を変え、情報源を表示したままにします。ウェブや文書から始まる仕事はTabbitで開き、ブラウザのコンテキスト経路を使えます。
macOSとWindowsに対応。モデルの提供状況は製品更新で変わることがあります。