Token-Guard: Towards Token-Level Hallucination Control via Self-Checking Decoding
要約
# 1. Introduction
- 大規模言語モデル（LLM）は知識集約型シナリオでハルシネーション問題に悩まされており、不正確または誤解を招くコンテンツを生成する
- RAGやRLHFは外部知識検索や大規模ファインチューニングに依存し、リソース集約的である
- Token-Guardはトークンレベルのハルシネーション制御方法であり、自己チェックデコーディングに基づき、潜在空間でのスコアリングと反復的な刈り込み・再生成により、リソース効率良くハルシネーションを抑制する
# 2. Related Work
- 既存のハルシネーション制御アプローチにはRAG、アラインメント手法（命令ファインチューニング、RLHF）、生成後検出（不確実性推定、分類器）があるが、計算コストが高いか領域特化的である
- デコーディング戦略（CoT、DoLa、KCTS、Phi-Decoding）はトークンレベルのハルシネーション検出を導入し、信頼性の低いトークンをフィルタリングすることで事実整合性を向上させる
- Token-Guardは既存の自己反省デコーディングを発展させ、LLM推論プロセス全体で明示的かつ堅牢なハルシネーション削減を提供する
# 3. Preliminaries
- トークンレベル自己回帰生成では、トークン列が条件付き確率の積として生成される
- マルチレベル監督では、階層的信号によりトークン確率を調整し、複合ガイダンススコアを提供する
- 反復検証では、スコア関数と閾値を用いて生成シーケンスを精緻化し、低スコアのシーケンスに改良関数を適用する
# 4. Methodology: Token-Guard
- トークンレベル自己チェック：各推論ステップで候補トークンを潜在空間でスコアリングし、低信頼度トークンを刈り込むことでハルシネーションを抑制
- セグメントレベル明示的スコアリング：関連トークンを候補フラグメントにグループ化し、ハルシネーションリスクスコアを割り当て、信頼性の高いフラグメント選択をガイド
- ローカル強化とグローバル反復：ハルシネーション検出時にローカルフラグメント再生成とグローバル反復戦略を適用し、論理的一貫性を維持しながら効率的に修正
# 5. Experiments
- 6つの標準HALUデータセット（FinanceBench、DROP、COVID-QA、PubMedQA、HaluEval、RAGTruth）で評価し、Token-GuardはEM/F1で最高の平均スコアを達成
- アブレーション研究により、プロンプト初期化、トークンレベルスコアリング、セグメントレベルスコアリング、グローバル反復の各コンポーネントが性能向上に寄与することを確認
- Token-Guardは事実精度、関連性、論理的一貫性を向上させ、メモリ使用量と時間効率を競合手法と同等に維持しながら、3Bから13Bまでのバックボーンモデルに移植可能
# 6. Conclusion
- Token-Guardはトークンレベルのハルシネーション制御デコーディングフレームワークであり、各推論ステップでの自己チェックと3段階フィルタリングパイプラインにより、ハルシネーショントークンを検出・抑制する
- HALUベンチマークでの実験により、Token-Guardは生成品質を大幅に改善し、従来のデコーディング手法と比較して高いF1スコアと真実回答との強いアラインメントを達成
- Token-Guardは効率的なリソース使用を維持し、モデルスケール間での移植性を実証し、LLM生成におけるハルシネーション軽減の信頼性の高いアプローチを提供
評価
# 新規性
- トークンレベルでの幻覚検出と抑制を実現する自己チェックデコーディング手法を提案
- 潜在空間における明示的な幻覚リスクスコアリングによるセグメント評価機構を導入
- ローカル修正とグローバル反復戦略を組み合わせた動的エラー訂正フレームワークを構築
- 外部知識検索や大規模ファインチューニングなしで幻覚を軽減できる軽量な手法を実現
# 言及されている全ての関連研究との相違点
- RAG (Lewis et al., 2020; Luo et al., 2025b)との違い: Token-Guardは外部知識検索を必要とせず、デコーディング時に内部検証のみで幻覚を制御
- RLHF (Stiennon et al., 2020; Christiano et al., 2017; Bai et al., 2022)との違い: 大規模ファインチューニングなしで、推論時のみで幻覚を軽減
- Chain-of-Thought (Wei et al., 2022)との違い: 段階的推論に加え、各トークンで明示的な幻覚チェックを実施し自己修正機能を持つ
- Tree-of-Thought (Yao et al., 2023)との違い: 木構造の探索に加え、トークンレベルとセグメントレベルの両方で幻覚スコアリングを行う
- Guided Decoding (Xie et al., 2023)との違い: 自己評価に加え、明示的な幻覚リスク定量化と動的修正メカニズムを提供
- Predictive Decoding (Ma et al., 2024)との違い: 先読み戦略ではなく、各ステップでのリアルタイム幻覚検出と即座の修正を実現
- DoLa (Chuang et al., 2024)との違い: レイヤー間コントラストではなく、トークンレベルの意味的一貫性と確率の組み合わせでスコアリング
- KCTS (Choi et al., 2023)との違い: 知識制約付き木探索に加え、セグメントレベルの局所修正とグローバル反復を組み合わせた三段階パイプライン
- Phi-Decoding (Xu et al., 2025)との違い: 適応的プルーニングに加え、明示的な幻覚リスクスコアと動的閾値調整を導入
- Self-Reflection (Ji et al., 2023b)との違い: 自己反省的生成に対し、トークンとセグメントの両レベルでの体系的な幻覚制御を実現
- Self-RAG (Asai et al., 2024)との違い: 証拠コーパスの構築に依存せず、デコーディング時の内部検証のみで動作
- SELF-REFINE (Madaan et al., 2023)との違い: 反復的改善に加え、各段階で明示的な幻覚スコアに基づく受容/拒否判定を実施
- Shuster et al. (2021)との違い: 検索拡張による会話での幻覚軽減ではなく、推論時のトークンレベル制御で対応
- Li et al. (2024)との違い: ドメイン固有のRAGパイプラインではなく、汎用的なデコーディングベース手法を提供
- RAGTruth (Wu et al., 2023)との違い: ベンチマークとしての位置づけとは異なり、実際の幻覚制御メカニズムを提供
- HaloScope (Du et al., 2024)との違い: 事後検出型分類器ではなく、生成時にリアルタイムで幻覚を抑制
- Ledger & Mancinni (2024)との違い: 不確実性推定による事後検出ではなく、デコーディング中の即時的な幻覚制御を実現
- HaluEval (Li et al., 2023)との違い: 評価ベンチマークではなく、幻覚を能動的に軽減するデコーディング手法として機能
- Multi-layered framework (Hiriyanna & Zhao, 2025)との違い: 多層制御の概念に基づきつつ、トークン・セグメント・グローバルの三段階で体系的に実装
- Tang et al. (2025)との違い: 選択的局所修正の原理を採用しつつ、幻覚スコアに基づく判断基準を追加
- Lyu et al. (2025)との違い: 局所探索フレームワークを参考にしつつ、幻覚検出に特化した三段階パイプラインとして再設計
- Saha et al. (2024)との違い: Branch-Solve-Mergeのセグメント再配置の着想を取り入れつつ、幻覚スコアによる選択メカニズムを追加
- IterGen (Ugare et al., 2024)との違い: 反復生成に対し、動的資源配分と不要な計算コストの回避機能を強化
- Zhang et al. (2025)との違い: トークンレベルの不確実性推定を活用しつつ、明示的な幻覚スコアリングと動的修正を組み合わせ
- Zeng et al. (2024)との違い: トークンレベル最適化に対し、セグメントとグローバルレベルの整合性チェックを追加
# 有効性
- HALUベンチマーク7データセットで最強ベースラインに対し最大16.3%の相対的F1向上を達成
- Meta-Llama-3.1-8B-InstructとQwen3-8Bの両方で平均F1スコア51.03と53.98を記録
- DROP_nfl等の多段階推論と厳密な事実整合性を要求するタスクで特に大きな改善を実現
- トークンレベル精度、セグメントレベルF1、BLEUスコアの全てで一貫した優位性を示す
- 3Bから13Bまでの異なるスケールのバックボーンモデルで追加調整なしにポータビリティを実証
- アブレーション実験により各コンポーネント（トークン・セグメント・グローバル）の寄与を確認
- StrategyQAデータセットで69.4%の精度を達成しDoLaを5.3ポイント上回る
# 信頼性
- 6つの標準HALUデータセット（FinanceBench、DROP、COVID-QA、PubMedQA、HaluEval、RAGTruth）で広範な評価を実施
- NVIDIA A40 GPU (40GB)単一での実験により再現性を確保し、ハイパーパラメータの詳細設定を公開
- EMスコア、F1スコア、BLEUスコアの3つの評価指標で多角的に性能を検証
- アブレーション実験により各モジュールの貢献度を定量的に分析
- 理論的証明（Proposition 1-3）と実験結果の両方で手法の有効性を裏付け
- メモリ消費量（ピーク21.6%、平均16.3%）と処理時間の詳細な分析を提供
- 5つの代表的な失敗事例を詳細に分析し、手法の限界と適用範囲を明示
- グリッドサーチによるハイパーパラメータ最適化過程を完全に公開
- コードを公開しており（GitHub）、第三者による検証が可能
和訳
![]()
1 / 1
100%
付箋を貼る場所をクリックしてください
