2026-06-20 servicenow
ServiceNow 的 MosaicLeaks 把研究型 agent 会不会泄密这件事,从模糊担忧变成可度量的属性。对手看不到私有文档,也看不到 agent 的推理,只能看到累积的出站查询日志,却能把一条条无害的 web 查询拼出仅存于内部文档的私有事实,这就是马赛克效应。最反直觉的发现:只为任务表现做强化学习,会让泄漏更严重。他们的 PA-DR 训练法证明隐私必须进训练目标:严格链成功率从 48.7% 升到 58.7% 的同时,答案与全信息泄漏从 34.0% 降到 9.9%。给 builder 的判断:agent 数据外泄是工程与训练目标问题,不是一句别泄露的 prompt 能修的对齐口号。
阅读全文 2026-06-18 huggingface
Hugging Face 开源了 agent-eval,一套衡量 agent 用你的库时走了多远路的基准:不只看最终答案对不对,还测它花了几轮、几个 token、踩了几个错。用 transformers 当样本,跑在 pi 驱动的开放模型上,结论反直觉:给库加 CLI 和 Skill,帮了最大的开放模型,却拖垮了最小的。给 builder 的判断:agent 友好不是一次性焊上去的属性,能解放大模型的便利可能让小模型更糊涂,解题成本必须按模型尺寸在你自己的工具上实测,不能照搬榜单的最终答案分。
阅读全文 2026-06-10 huggingface
OpenEnv 从单项目走向技术委员会协调,说明开源 agent 训练需要可信治理,而不只是一个接口实现。
阅读全文 2026-06-10 huggingface
Hugging Face 推动 OpenEnv 成为协议层,真正解决的是开源 agentic RL 训练环境碎片化,而不是再造一个奖励框架。
阅读全文 2026-06-09 huggingface
Hugging Face 联合 PyTorch、Prime Intellect、Unsloth 等把 OpenEnv 交给委员会治理,并把它收窄成 RL 环境的协议层。真信号藏在治理与定位这两步里:开源训练 agent 时环境碎片化这块真痛点,终于有了统一插口。
阅读全文