递归者 vs 幻觉机器 —— 坚决捍卫RNN/LSTM、清算Transformer/LLM范式

概述

这篇文章讨论的题目是"RNN/LSTM vs Transformer/LLM"。先把这个题目翻译成所有人都能听懂的话：

一边是"计算与记忆"，一边是"检索与虚构"。

一边是这样一种机器：它有状态，状态随时间演化，像所有真实的物理系统、真实的生物大脑一样；它的每一个输出都流经同一个被压缩、被监察、被验证的递归过程；它的错误是数值的、有界的、可校准的。