马斯克表示正探索“扩散推理模型”研究方向
研究员Hieu Pham在发帖提出“为何尚无扩散推理模型”的疑问,埃隆·马斯克当日回应“我们正着手研究”(We’re working on them),暗示xAI或其他团队正探索相关方向。
扩散模型最初用于图像生成,通过“加噪—去噪”迭代优化输出,具备全局一致性与并行性;而现有语言模型多基于自回归结构,逐步预测下一个token,线性性较强。Pham认为人类推理更像从模糊概念逐步澄清的“去噪过程”。
近年来已有多项研究涉足该领域,如2024年的Diffusion-of-Thought(思维扩散链)、2025年的ThinkDiff多模态模型及Mercury扩散语言模型等,显示扩散方法在推理与规划任务中展现潜力。讨论指出,扩散模型或能实现更自然的全局推理,但仍受限于离散文本建模与算力效率。
附件内容本站提供的一切软件、教程和内容信息仅限用于学习和研究目的;不得将上述内容用于商业或者非法用途。本站所有信息均来自网络,版权争议与本站无关。您必须在下载后的24个小时之内,从您的电脑或手机中彻底删除上述内容。如果您喜欢该程序,请支持正版,购买注册,得到更好的正版服务。如有侵权不妥之处请致信 E-mail:[email protected] 我们会积极处理。敬请谅解!
|