12:00
研究により、報酬モデルのスコアリングには顕著なヒント依存性が存在することが明らかになった：ペア比較評価ではこのバイアスを検出できない
2026年10月24日付でarXivに掲載されたAI研究論文は、現在主流のペアワイズ評価手法では、同一のプロンプトに対するすべての応答に共通するスコアリング成分が自動的に相殺されてしまうため、報酬モデルにおける重要な「プロンプトレベルのバイアス」が検証されていないと指摘している。著者らは人間による評価を基準として、既に公開されている18種類のスコアラーに対して監査を実施した結果、HelpSteer2データセットにおいて、6つのモデルではスコアの分散の34％～64％がプロンプトそのものに起因しており、一方で人間の評価ではこのような現象はほとんど見られなかったことを明らかにした。
注目する理由本研究は、大規模言語モデルのアライメントプロセスにおいて長らく見過ごされてきた根本的な欠陥を指摘している――すなわち、報酬モデルによるスコアリングが応答の質そのものではなく、提示文に強く依存している点である。また、本研究の方法論（人間基準による審査、プロンプトの置換、分散分解）は再現性が確保されており、結論は実証的分析に基づいており、複数の主流なオープンソースの評価ツールを網羅しているため、嗜好最適化、RLHF、および安全評価の実践に対して直接的な警鐘を鳴らすものとなっている。