[2025/11/19] Machine Learning 輪講

[chimuichimu]

Why

Machine Learning 輪講は最新の技術や論文を追うことで、エンジニアが「技術で解決できること」のレベルをあげていくことを目的にした会です。

prev. #319

What

話したいことがある人はここにコメントしましょう！
面白いものを見つけた時点でとりあえず話すという宣言だけでもしましょう！

[Hayashi-Yudai]

Combining LLM Semantic Reasoning with GNN Structural Modeling for Multi-View Multi-Label Feature Selection

特徴選択において、LLM + GNN を活用することで既存研究より良い結果が得られた、ということを報告している論文

課題感

最近の機械学習モデルでは、モデル自身がマルチモーダルデータを受け付けられるようになってきたこともあって、情報のソースが複数になるケースが増えてきた。これは、使える情報が増えてメリットがある一方で、情報にノイズが増え、モデルが性能を発揮しきれない懸念もある。

• テキストデータの "puppy" というワードは "dog" クラスの分類では有用な情報だが、"cat" クラスの分類では重要ではない
• 画像からの情報で犬の分類をするときに目に着目している場合、それは猫の分類においても役立つかもしれない

機械学習モデルの学習に有用な情報だけを抜き出したい。特に、既存の特徴選択手法では上手く扱えていなかった、予測対象との意味的な関連性を利用できるような手法を作りたい。

提案手法

• LLM を使って、データソース(画像の "View")、特徴量、ラベル vs ラベル 間の意味的類似度を計算する
  • 詳しくは述べられていないが、プロンプトを与えて回答させるような形で得ているように見える
• スコアが閾値を超えた場合にエッジを貼るという形でヘテロなグラフを作成
• 従来手法で用いられてきたような、統計的に作成したグラフも用意
• 2つのグラフを利用して、GATモデルを作成。最終出力をスコアとして、Top-kの特徴量を選択 → モデルの学習に利用

[ghibney]

Enhancing Embedding Representation Stability in Recommendation Systems with Semantic ID

著者

Zheng, Carolina and Huang, Minhui and Pedchenko, Dmitrii and Rangadurai, Kaushik and Wang, Siyu and Xia, Fan and Nahum, Gaby and Lei, Jie and Yang, Yang and Liu, Tao and Luo, Zutian and Wei, Xiaohan and Ramasamy, Dinesh and Yang, Jiyan and Han, Yiping and Yang, Lin and Xu, Hangjun and Jin, Rong and Yang, Shuang

学会

RecSys '25

どんな論文？

Metaによる論文で、アイテムIDをハッシュ化する代わりに、semantic IDで代用したという論文

背景

• 巨大な推薦システムにおいてはアイテム数が膨大で、IDをそのまま利用できないため、IDをハッシュ化している
• IDをハッシュ化したら無関係なアイテム同士の衝突が起きてしまうが、ID自体を使えないので仕方がない
• このハッシュ化したIDは、学習の安定性と精度を損ねている

目的

アイテムのコンテンツ情報に基づいたSemantic IDを導入する

手法

RQ-VAEを使って、似ているアイテムのsemantic IDをわざと衝突させる

結果

ランダムハッシュ、IDをそのまま使う場合（理想的な条件）よりも精度が上がっている

[chimuichimu]

How Do Users Perceive Recommender Systems’ Objectives?

推薦でユーザー体験を良くしたい
→ 体験の良さを定量的に測るために評価指標を設定しよう
→その評価指標が良くなっているなら、意図したユーザー体験を提供できているはず
という前提を疑った論文

書籍と映画の2つのドメインでユーザー調査を実施し、

• アルゴリズムの目的に対する認識
• 従来の評価指標と、実際に推薦を受けたユーザーの認識

などを調査

特に多様性や探索といった Beyond Accuracy 的な指標において、解釈がユーザー間で大きく違ったり、指標とユーザーが感じる感覚にズレがあったり、ドメインによって傾向が違うことなどが分かった

※ るいすさんの紹介スライドが分かりやすかった
https://x.com/kuri8ive/status/1989572340980818322?s=20