文本扩散模型

本文介绍了 TDM（文本扩散模型）的概念与应用。文章从 AI 生图过程切入，类比 Stable Diffusion 将噪声逐步解析为图像，引出 TDM 将类似技术用于文本生成。TDM 不同于传统 LLM 逐字输出，而是直接生成字符范围，在约 20 步内逐步填充、修改直至文本合理，并能同时处理所有内容，避免遗忘问题。文章也指出其缺陷，如可能产生逻辑矛盾，并以“独生女文章出现哥哥”为例说明。此外，文中提到谷歌 DeepMind 开源的 DiffusionGemma 模型已可体验，但目前编程与聊天能力尚不完善。作者认为该领域研究较少但有前景，有望加速长文生成。