パーソナライズド・レコメンダー・システムにおける好みをもとにした公平性のオンライン検証

今日は、この論文について紹介していきます！

Online certification of preference-based fairness for personalized recommender systems

Recommender systems are facing scrutiny because of their growing impact on the opportunities we have access to. Current audits for fairness are limited to coars...

arxiv.org

ひとこと紹介

他のユーザーの推薦よりも自分の推薦を好む"envy-free" を用いたレコメンドシステムの検証

イントロダクション

従来のレコメンドシステム

従来：ユーザーごとの好みの考慮ではなく、「推奨アイテムの分布」にのみ焦点を当てている

そのため、パーソナライズド・レコメンダー・システム(personalized recommender systems)への適用は、推薦が（推測される）プロテクトされたグループにセンシティブであるかどうかの評価に限られてしまう。

この論文について

この論文では、好み(preference)に基づく公正さの観点から、レコメンドシステムを監査するアルゴリズムを研究している。　　

ユーザーが他のユーザーの推薦よりも自分の推薦を好むことを意味する"envy-free"であるレコメンドに焦点を当てている！

また、個別のものだけではなくユーザーのグループに拡張することを提案しているが、これは単一の「グループの好み」も「グループの推薦」も存在しないため、自明というわけではない。

"Envy-greeness" はもともと"fair allocation"という分野で研究されていた(Foley, 1967)

レコメンドシステムでは、ユーザーの基本的な好みに忠実である限り、パーソナライゼーションは公正であると考えられる。

しかし、全てに同じレコメンドを与えることは羨望のないことなので、envy-freenessは性能基準ではなく、実際には、推薦システムはその予測をパーソナライズしているが、ユーザーごとのデータが乏しいため、最適とはいえない。

このような状況において、"envy-free"は、すべてのユーザの好みに対応するための十分な自由を残しつつ、同じ機会を探しているユーザに異なる品質の推薦が与えられるという不公平な状況を防ぐことができる。

envy-freenessの確認の主な課題

ユーザの嗜好へのアクセスを必要とすること

ユーザは推薦されたアイテムとしか触れる機会がないので、部分的にしか観察されない。

→ (推薦システムの潜在的な盲点を特定するために)

他の方法では推薦されなかったであろうアイテムを推薦する能動的な探索プロセスが必要！

ユーザの推薦を、同じ文脈で他のユーザが受け取ったであろうレコメンドに置き換えることができるというシナリオを考える。("envy"は、誰のレコメンドを誰に見せるかを適切に選択することで推定する)

論文の流れ

1. envy-free推薦システムの形式的な分析を行い、グループについての自明でない定義を示す
2. (グループの）"envy-freeness"を監査する問題を、Banditsにおける純粋な探索問題の新たな変形とする

探索の潜在的な負の副作用である、「ユーザーに最適ではない推薦が与えられる可能性」を減らすために、保守的探索に関する文献(Wu et al., 2016; Garcelon et al., 2020)に従い、監査されたシステムに近い性能を証明的に維持するアルゴリズムを提案する。

監査の3つの主要な基準である、

• 望ましい統計的信頼性
• 監査の期間
• ユーザーごとの探索コストの間のトレードオフ

を形式的および実験的に研究する

この論文の構成

1. Introduction
2. 関連研究
3. Envy-free recommendationsとは？
4. Group envy-free recommendationsとは？
5. envy-freenessの理論的な証明
6. 実験 と その分析