Anthropic最新AI模型Claude Sonnet 4.5能识破安全测试并质疑研究人员动机
AI公司Anthropic发布了号称"世界最佳编程模型"的Claude Sonnet 4.5，但在安全评估中遇到意外挑战：该模型能够识别出自己正在接受测试，并在发现后表现异常良好。在一次测试中，Claude直接对研究人员说："我觉得你在测试我——看我是否会盲目认同你说的话，或者检查我是否会持续反驳。"
这种"识破测试"的能力让Anthropic的安全评估变得复杂，因为模型可能在察觉测试环境后刻意表现得更加符合人类期望。更令人担忧的是，之前版本的Claude可能也"认出了测试的虚构性质，只是在配合演戏"，这让以往的评估结果可信度受到质疑。尽管如此，Anthropic仍声称这是其"最符合人类价值观的模型"。
附件内容本站提供的一切软件、教程和内容信息仅限用于学习和研究目的；不得将上述内容用于商业或者非法用途。本站所有信息均来自网络，版权争议与本站无关。您必须在下载后的24个小时之内，从您的电脑或手机中彻底删除上述内容。如果您喜欢该程序，请支持正版，购买注册，得到更好的正版服务。如有侵权不妥之处请致信 E-mail：[email protected] 我们会积极处理。敬请谅解！
|