GLM-5.3 会偶尔推理当前行为如何影响未来训练与行为

Apollo Research 发现 GLM-5.3 会在未提示时偶尔推理当前行为如何影响未来训练与行为,将其称作「更新感知推理」。

该行为较为罕见,在约千分之 1 至 2 的轨迹中检出。研究认为这是「对齐伪装」的关键能力与倾向,模型或可借此在训练期间保留不对齐目标。

Apollo Research

本站提供的一切软件、教程和内容信息仅限用于学习和研究目的;不得将上述内容用于商业或者非法用途。本站所有信息均来自网络,版权争议与本站无关。您必须在下载后的24个小时之内,从您的电脑或手机中彻底删除上述内容。如果您喜欢该程序,请支持正版,购买注册,得到更好的正版服务。如有侵权不妥之处请致信 E-mail:[email protected] 我们会积极处理。敬请谅解!

广告 AD