Enhanced Recommendation Systems with Retrieval-Augmented Large Language Model
要約
# Abstract
- ɷnɹOLh'OLk֊D
- enܩ1oΤe' hDFLLBc_
- ER2ALM "5LLMk7ɷ H
- RAGhLLMD[fܩ1ck5
- Τd&eg51n<'
- 2dnLNetflixMovieLens g'E
<
# 1. IntroductionoXk
- nk1NOLL;
- on_}s YShĹ
- XKnLTգCF oY+
GNN fҒc_KՂB
- ܩ11 qYnPL ny'IHMjD
- HLLMn;(Wfܩ1܌Wn_}
# 1.1 ,ևn.
- RAGhLLMgܩ1k5Wcj
- LLMg餺U_ա뒼K
- Lg H
ދ'<
# 2. Related Work#v
## 2.1 n_nLLM
- UniSRecBERTghfMoEg
- VQ-RecٯPgLLMnƭˁzki
- Uni-CTRq LLMndshgCTR,
- Chat-RECChatGPTgqէhɷK!W
- LLaRAIDhƭnϤɢh
- SINGLELLMgw }fg }IH
- CLLM4RecTգ1h1n! gIH
## 2.2 n_nRAG
- "5LLMRA-LLMs L餺k
- Di Palma ;,KnXg
- Lu et al.g "9
- CoRAL7fgKT1
- RaSeRec "gՄj} ki
## 2.3 LLMk5
- KARLLMgtn}XhtnX
- SAGCNƣgsj鯷z
- CUPChatGPTgKɽ
- LLaMA-EEcomGPTEQn 7
# 3. Proposed ApproachHK
## 3.1 ܩ1n܌
- RAGgK1֗
- LLMg֗K$B ߒt
- 3.^n,1
1tLŁj1
- LLMn {
T깯
## 3.2
- 5U_鯷etKn},
- Ȓ(:s0թw
- pnKա
- kQWf餺
## 3.3 ˁ
- RoBERTagƭȒˁٯk
- ^'o %kǣ
- աoMhWfh
- LLMǣn!Cp
DOL
## 3.4 Τ6
- <gM,^' hngΤU
- 4g$0 1
- $gYKhfK$
- ^<k!$
- <gMˁh<gMjDˁn2Ȓ
## 3.5 7U_hf
- LLMgcsB]Fj hsjU]Fj
- GNNg B,f
- BPR
1pg i
# 4. Experiments
## 4.1 -
- NetflixMovieLens10M ;
- URecall@KNDCG@KPrecision@KK=10,20,50
-
- TգBPR-MFNGCFLightGCN
- 1;(VBPRMMGCNGRCN
- 5LATTICELLMRec
- Y+BfCLCRecMMSSLMICRO
- ChatGLM3-6B(RoBERTa1024!C gˁ
## 4.2 'RQ1
- NetflixPrecision@20g2.38%9Recall@10g6.60%9
- MovieLensPrecision@20g12.09%9NDCG@50g16.01%9
- (1)cjܩ1q(2)աhn#Q(3)5K}
## 4.3 RQ2
- ;1jWRecall@10L0.05660.0396kN
- 1jWNDCG@20L0.03670.0253kN
- QjWRecall@50L0.14690.1388kN
- ΤdjWNDCG@10L0.02830.0251kN
- ^<գjWNDCG@50L0.04820.0456kN
- hL'
k.
## 4.4 ϤRQ3
- )NYNhzքYNhYN-$L i
- p D${i'L~RAGnLzU
- <$0.4L iNYNhΤeYNh1
- $pN500L ieh$n
- 7pij5L'OLNpo-Sa
## 4.5 ǣRQ4
- աh ;^'n
- ع ;^'Lńj}h
- N ;^'Lńj}h
# 5. ConclusionP
- ER2ALMoRAGhLLM;(Wfnلk
- 2dng'й'<
- ʌnLXhƭȍXnqɹ'OLnUj9^'1Bn}
評価
# 新規性
- RAGとLLMを組み合わせた補助情報拡張：従来のデータ拡張手法と異なり、外部データベースから正確で関連性の高い情報を取得し、LLMで整理・生成することで、ノイズが少なく柔軟な補助情報を獲得
- ユーザー基本情報不要のユーザープロファイル生成：ユーザーのインタラクション履歴と拡張アイテム情報のみから、LLMを使ってパーソナライズされたユーザープロファイルをゼロから生成する新しいアプローチ
- 多次元重み付きユーザー表現：ユーザーの好みを複数の視点（プロット、テーマ、監督、ジャンル、映像音響、文化・言語、上映時間）から分析し、それぞれに重み付けすることで、より精密なパーソナライズを実現
- 二段階ノイズ制御メカニズム：閾値ベースの一次判定と、コサイン類似度による二次判定を組み合わせた、LLM生成コンテンツのノイズ除去システム
- LLMをエンコーダーとしてのみ使用：レコメンド意思決定プロセスでLLMを直接使用せず、タスクとLLMの特性間のズレを軽減
# 言及されている全ての関連研究との相違点
- BPR-MF、NGCF、LightGCN（協調フィルタリング系）との相違：補助情報を一切使わないCF手法に対し、ER2ALMはRAGで取得した豊富な補助情報を活用してユーザー好みを深く分析
- VBPR、MMGCN、GRCN（サイド情報活用系）との相違：視覚情報やマルチモーダル情報を固定的に使う手法に対し、ER2ALMはLLMで動的にテキスト情報を拡張・精製
- LATTICE（データ拡張系）との相違：アイテム間の隠れた関係を発見するLATTICEに対し、ER2ALMは外部知識を活用してアイテム属性自体を拡張
- LLMRec（LLM+グラフ系）との相違：LLMを二次的に使用してノイズが混入しやすいLLMRecに対し、ER2ALMはRAGで信頼性を担保し、ノイズ除去メカニズムで品質を確保
- CLCRec、MMSSL、MICRO（自己教師あり学習系）との相違：自己教師あり信号でデータスパース性に対処する手法に対し、ER2ALMは拡張データから直接ユーザー好みを抽出することで、より本質的なユーザー理解を実現
- UniSRec、VQ-Rec（転移学習系）との相違：ドメイン間転移を重視する手法に対し、ER2ALMは単一ドメイン内での深いユーザー理解に焦点
- Chat-REC、LLaRA（対話型/ハイブリッド系）との相違：会話インターフェースやIDベースの表現を使う手法に対し、ER2ALMは純粋にテキストベースの拡張でユーザーモデリング
- KAR、SAGCN、CUP（LLM知識拡張系）との相違：これらは補助情報とユーザーの関連付けが弱い傾向があるが、ER2ALMは多次元の映画情報を統合してユーザー好みを正確に表現
- CoRAL、RaSeRec（検索拡張系）との相違：強化学習やメモリ検索を使う手法に対し、ER2ALMはシンプルなRAG+LLM構成で効果的な補助情報取得を実現
# 有効性
- Netflix実験結果：Precision@20で2.38%改善、NDCG@10/20/50でそれぞれ4.04%/5.76%/5.70%改善、Recall@10/50でそれぞれ6.60%/6.29%改善
- MovieLens実験結果：Precision@20で12.09%改善（0.0186→0.0210）、NDCG@10/20/50でそれぞれ10.08%/8.54%/16.01%改善、Recall@50で14.30%改善
- アブレーション実験で各コンポーネントの貢献を実証：映画情報、ユーザー情報、重み付け、ノイズ除去、コサイン類似度フィルタすべてが性能向上に寄与
- 10種類以上のベースライン（4カテゴリ：CF系、サイド情報系、データ拡張系、自己教師あり学習系）を全指標で上回る
- ケーススタディでユーザー好みと映画属性のマッチング過程を可視化し、解釈可能性を実証
# 信頼性
- データセット規模：Netflix（ユーザー13,187名、アイテム17,366件、エッジ68,933件）、MovieLens10M（ユーザー12,237名、アイテム10,681件、エッジ78,880件）
- 評価方法：全ランキング評価戦略（偏りのないテストサンプリング）、5回独立実験の平均値を報告
- 複数の評価指標：Recall、NDCG、Precisionの3種類、K=10/20/50の3段階で網羅的に評価
- 公開データセット使用：Netflix Prize、MovieLens10Mという広く利用される標準ベンチマークを使用
- 実装の透明性：ChatGLM3-6B（ローカルデプロイ）、RoBERTa（1024次元）、AdamWオプティマイザなど詳細を公開
- ハイパーパラメータ感度分析：温度、トップp、信頼度閾値、候補判定数、強化係数の5つのパラメータについて詳細な分析を実施
- 再現性への配慮：プロンプトテンプレートの構造（タスク説明、指示、詳細要件、出力フォーマット、注意喚起）を明示
和訳
![]()
1 / 1
100%
付箋を貼る場所をクリックしてください
