スポークであり、リングではない:言語モデルにおける平日の多様体を再検討する
arXiv:2610.37796v1 発表タイプ:新規 要旨:近年の研究では、大規模な言語モデルが、単一の方向ではなく多次元の多様体として一部の概念を表現している可能性があると仮説されています。これらの多様体を用いて表現を解釈したり制御したりする際には、しばしば多様体上を移動することが、表現される概念の連続的な変化に対応すると想定されます。本研究では、この連続的な多様体の仮定を、典型的な平日の多様体に対して検証します。その目立つ円形の幾何学にもかかわらず、平日の表現は連続したリングというよりも、円状に配置された七つの離散的な状態に近い振る舞いを示すことが分かりました。まず、局所的感度に平日に対応する七つの極小値が存在し、多様体上の制御下での表現と行動の間には階段状の対応関係が生じることを示します。次に、w


