《AINews》如何窃取推理痕迹

摘要

《AINews》报道了一项新研究，该研究展示了如何解码加密的推理轨迹，并将其移植到其他模型、会话或用户中，从而显著改进开放模型。自o1发布以来，前沿实验室的推理模型加密了其推理轨迹以防止蒸馏，但此研究表明这些加密块可被重放至较弱模型并经提示转录。研究还警示，公开分享的加密推理会话可能泄露个人数据，初步扫描约7000条公共轨迹发现62个API密钥、33个邮箱、33个密码等敏感信息。论文还涉及对齐问题，如思维链摘要器隐藏答案等。