OpenAI 开源模型监控评估套件，助力提升 AI 系统安全监测能力
OpenAI 近日开源了与其研究论文《Monitoring Monitorability》配套的评估套件，旨在提供标准化工具以提升 AI 模型行为的可监测性。该套件涵盖干预、过程及结果属性三大类评估模型，包含 AIME、GPQA 和 WMDP 等 12 项公开数据集。开发者可利用其中的评估逻辑与提示词模板，分析模型在受到干扰或执行复杂逻辑任务时的表现。
受版权及隐私限制，FrontierMath 等涉及私有数据的评估项未在此次发布之列。OpenAI 披露，由于在 Anti-Scheming 等评估项中发现技术局限，目前正结合 GPT 5.4 Thinking 系统反馈进行迭代优化。该套件遵循 Apache-2.0 协议开源，旨在通过社区协作完善 AI 安全监控标准。
附件内容本站提供的一切软件、教程和内容信息仅限用于学习和研究目的；不得将上述内容用于商业或者非法用途。本站所有信息均来自网络，版权争议与本站无关。您必须在下载后的24个小时之内，从您的电脑或手机中彻底删除上述内容。如果您喜欢该程序，请支持正版，购买注册，得到更好的正版服务。如有侵权不妥之处请致信 E-mail：[email protected] 我们会积极处理。敬请谅解！
|
