站在长期做时序推演的角度,我倾向于认为,世间万物的演化,是一场宏大的随机马尔可夫过程。
所有过往的信息,都会收纳、编码进当下的系统状态;未来的走向,不再直接依赖久远的历史,只由当前状态,按照一组转移概率展开。Transformer架构的本质,正是把漫长时序里的信息,浓缩嵌入当前表征,以此推演后续的可能性,暗合这套演化思想。那些世事的无常与不确定性,并不是规则破碎,而是这套体系与生俱来的概率属性。很