Teaching a Transformer to Solve the Rubik's Cube教 Transformer 解魔方Apprendre à un Transformer à résoudre le Rubik’s CubeTransformer にルービックキューブを解かせる
Six training runs, 165 million parameters, and a hard lesson about the limits of scaling — curriculum learning, GRPO, and why ~50 % is a structural ceiling.
六轮训练、1.65 亿参数,一次关于缩放定律边界的实验:课程学习、GRPO 强化学习,以及为什么 50% 左右的成功率是结构性上限。
Six entraînements, 165 millions de paramètres et une leçon sévère sur les limites du passage à l’échelle — apprentissage par curriculum, GRPO, et pourquoi ~50 % constitue un plafond structurel.
6回の学習、1億6500万パラメータ、そしてスケーリングの限界についての手痛い教訓。カリキュラム学習、GRPO、そして成功率約50%が構造的な上限になる理由を紹介します。