不换框架也能刷新上限！ViT-5：全面升级视觉骨干，ImageNet86.0%刷新纪录

背景：自2020年视觉Transformer（ViT）问世以来，视觉骨干网络设计似乎停滞，而大语言模型架构不断演进。研究目的：约翰斯·霍普金斯大学和加州大学圣克鲁兹分校的研究团队旨在通过系统性整合过去五年Transformer架构的演进成果，对传统ViT进行现代化改造，探索其性能潜力。结论：提出的ViT-5模型通过组件级优化，如引入层缩放、RMSNorm、2D旋转位置编码与绝对位置编码共存、寄存器令牌和QK归一化等，在图像分类、生成和分割任务中均取得最先进性能，例如在ImageNet-1k分类中达到86.0%的准确率，证明了传统架构通过精细优化仍能显著提升性能，并强调了视觉与语言模态差异对组件选择的重要性。