こんにちは，M2の山﨑です．
今回私は2024年10月14~18日にイタリア・バーリ（Bari）で開催された推薦システムに関する国際会議ACM Recommender Systemsに参加してきました．この記事では，本会議にて行った我々のポスター発表についての報告や気になった論文について紹介します．
ACM Recommender Systemsは，推薦システムを専門とする国際会議で，その採択率は例年20%台とトップカンファレンスに位置付けられています．会議には，研究機関や大学だけでなく，推薦システムを取り扱う企業からも多くの方が世界中から参加しており，数多くの企業における推薦システムの活用事例も聴講できます．
今年の開催地であるイタリア・バーリでは，口頭発表をペトゥルッツェッリ劇場（Teatro Petruzzelli），ポスター発表をその2つ隣に位置する商工会議所（Chamber of Commerce）で実施されました． どちらも歴史ある建物です．
発表内容
今回，24卒の簀河原さんと取り組んだ補完推薦に関する論文
Is It Really Complementary? Revisiting Behavior-based Labels for Complementary Recommendation
がLate-Braking Result（LBR）Trackに採択され，そのポスター発表をしてきました．
我々の発表内容については，簀河原さんが書かれた以下の記事にて詳しく解説されていますので，興味のある方は是非ご覧ください！
発表は，国内学会と同様にポスターの前でご質問をいただきながら説明・議論していきました．コーヒーブレイク（午前・午後）のみの対応でしたが，様々な方にご質問をいただき，我々の研究に興味を持っていただけたことがとても嬉しく思いました．また，質問される方のほとんどが「補完推薦」についてご存知であり，改めて推薦システムの研究者・実務家の方達が集まった学会だと強く感じました．
気になった発表
Revisiting BPR: A Replicability Study of a Common Recommender System Baseline
- 古典的な推薦手法であるBayesian Personalized Ranking (BPR) について徹底的に調査した論文
- ポイント
- オープンソース実装の整合性検証を行い，特定の実装にて性能の低下を確認
- BPRもハイパラチューニング次第でSOTA手法であるEASEやMult-VAEを上回る
- 感想
Distillation Matters: Empowering Sequential Recommenders to Match the Performance of Large Language Models
- シーケンシャル推薦にて，LLMを教師モデルとして，生徒モデルであるシーケンシャル推薦モデルへの知識蒸留による推薦精度の向上を示した論文
- ポイント
- 推論速度が遅いLLMから軽量なMLモデルへの知識蒸留
- LLMの出力に対して3種のweightsを考慮することでより信頼性の高い知識をMLモデルに伝えている
- 感想
- こちらの論文は，今自分が取り組もうとしているアイデアと近く，LLMの出力に対するweightsの取り方など参考になる点が非常に多かった
- LLM→MLモデルへの知識蒸留は他の研究テーマでも応用が効きそうな反面，研究テーマ毎にLLMの出力の整合性とどう向き合うかが重要だと感じた
Self-Auxiliary Distillation for Sample Efficient Learning in Google-Scale Recommenders
- Googleレベルの巨大な推薦システムにおいて，価値の異なる膨大なラベル情報から効率的な学習を実現するため，「自己補助蒸留」という新しいフレームワーク提案からオフライン・オンラインの両面で性能向上を達成した論文
- ポイント
- 高品質（正確な）ラベルをmain headでの学習に用い，低品質ラベルはauxiliary headにてmain headから得られるソフトラベルと一緒に補完して学習に用いることで，より高品質なラベルを重視した学習を実現
- auxiliary headの追加による計算負担は少なく，推論（Serving）時の計算コストにも影響しないため，巨大な推薦システムにも効率的に適用可能
- 感想
- 教師ラベルから得られるソフトラベルを用いた低品質ラベルの補正はシンプルかつ効果的な戦略であり，とても面白く感じた
最後に
今回の学会参加を通して，推薦システムの最先端の動向を肌で触れることで，自分の知識を広げることができました．来年のRecsys 2025はチェコ・プラハでの開催とのことで，来年も参加できるように現在取り組んでいる修士研究をより発展させていきたいと思います．
