Teaching a Transformer to Solve the Rubik's Cube教 Transformer 解魔方Apprendre à un Transformer à résoudre le Rubik’s CubeTransformer にルービックキューブを解かせる
Six training runs, 165 million parameters, and a hard lesson about the limits of scaling — curriculum learning, GRPO reinforcement learning, and why ~50 % is a structural ceiling.
六次训练、1.65 亿参数,以及关于缩放定律极限的一课——课程学习、GRPO 强化学习,以及为什么 50% 左右是结构性的天花板。
Six entraînements, 165 millions de paramètres et une leçon sévère sur les limites du passage à l’échelle — apprentissage par curriculum, apprentissage par renforcement GRPO, et pourquoi ~50 % constitue un plafond structurel.
6回の学習、1億6500万パラメータ、そしてスケーリングの限界についての手痛い教訓。カリキュラム学習、GRPO による強化学習、そして成功率約50%が構造的な上限になる理由を紹介します。