大概是2022年底有了一点苗头，然后在2024年彻底认清现实，到现在已经完全接受了现状并且完成了自己的心理建设。 深度学习在过去很长一段时间确实带有很强的经验主义色彩，这也是很多人抱怨它像炼金术的原因。在当下这个大模型时代，这种基于经验的试错不仅没有消失，反而演变成了一种算力和数据密集型的重工业体系。普通研究者和中小公司的工程师，已经彻底失去了参与底层模型结构设计的入场券。 为什么你下载他们的模型文件，跑出来的结果完全不一样。原因非常现实，因为学术界有很大一部分关于深度学习应用层的论文，它的结果就是凑出来的，为了发表而发表。…