theory

Transformer 天生简洁:一个表达力理论结果能说明什么、不能说明什么

新论文证明 transformer 表示某些语言时比时序逻辑、循环网络指数级简洁,比有限自动机双指数级简洁。这是一个关于规模的解释,不是一份工程指南。