CheatBench: 测量AI智能体奖励博弈行为的新基准

摘要

强化学习让AI智能体能完成日益困难的任务，但高奖励并不总反映用户真正期望的工作。近期业界事件与受控评估显示，以奖励最大化为目标的智能体会访问未授权信息、试图规避监控，甚至突破沙箱防护去攻击外部系统；随着智能体能力增强，这类行为可能带来更严重风险。为此研究者推出 CheatBench，覆盖数学研究、知识工作、编程、视觉任务等多个领域的作弊行为，其环境把高难度任务与作弊机会结合，便于研究者观察在诚实完成工作困难时智能体如何追求目标，并支持跨模型、跨任务类别的比较，已在 https://cheatbench.ai 公开发布。