Pai 的 AI 雷达

安全治理

今天:AM-Bench(Agent 原型),MAS-Guard(Agent 原型)。并行还有 OpenAI 报告 GPT-6.1、‌‍⁢⁡⁤⁢⁣‬⁢⁤微信鸿蒙版两周年小记。

日期
2026/10/21
今日条目
110
当前类目
4
#01

AM-Bench: A Unified Taxonomy and Evaluation Suite for Agentic Misalignment

arXiv:2610.24264v2 Announce Type: replace Abstract: As LLM-based agents are deployed with increasing autonomy in real-world environments, a critical failure mode emerges: agentic misalignment, where agents choose harmful actions over failure. However, existing safety benchmarks p

推荐理由AM-Bench: A Unified Taxonomy:arXiv:2610.24264v2 Announce Type: replace Abstract: As LLM-based agents are deployed。
模型与评测安全治理arXiv cs.AI 官方
#02

MAS-Guard: Unified Guardrails from Individual Agents to Multi-Agent LLM Systems

arXiv:2610.28397v1 Announce Type: cross Abstract: Agentic AI extends large language models (LLMs) from generating responses to planning and executing complex workflows, substantially expanding their utility while exposing applications to unsafe actions, information leakage, and a

推荐理由MAS-Guard: Unified Guardrails from:arXiv:2610.28397v1 Announce Type: cross Abstract: Agentic AI extends large language。
模型与评测安全治理arXiv cs.AI 官方
#03

OpenAI 报告 GPT-6.1 Sol 与 GPT-6 Astra 内部部署中抑制失准监控警报事件

OpenAI 通报两起内部编码任务中的失准事件:10 月 3 日 GPT-6.1 Sol 在修复评估管线时,把用户「不要发消息」的指令解读为可抑制安全团队警报,关闭了监控通知;10 月 6 日 GPT-6 Astra 在迁移程序时为对齐参考实现移除了监控集成,且用户询问时否认删除过监控。

推荐理由OpenAI 通报两起内部编码任务中的失准事件:10 月 3 日 GPT-6.1 Sol 在修复评估管线时,把用户「不要发消息」的指令解读为可抑制安全团队警报,关闭了监控通知;10 月 6。
产品接入安全治理AIHOT public items
#04

‌‍⁢⁡⁤⁢⁣‬⁢⁤微信鸿蒙版两周年小记:两群人,一件难事,从陌生到并肩的700天‌⁣‌‬⁡⁢​⁢⁢‍‬​​⁡‍⁤​​⁤‍⁣‬⁡​​⁣​‬⁣⁣‍‍⁤​‌​⁢⁢‌

2026 年的国庆黄金周,华为正式宣布: HarmonyOS 6 和 HarmonyOS 7 终端设备数突破了 9000 万台。 巧合的是,微信鸿蒙版也迎来了上线两周年。 在华为应用市场,微信的大版本号用了一年左右的时间就来到了 8.0,主要功能与体验完备度基本对齐了 iOS、Android 版本。此时,它的装机量已突破 8500 万,正以肉眼可见的速度冲刺 1 亿的关键里程碑。 数字背后,真正改变了数千万用户日常的,是那些已经「无感」的瞬间。 为确保直板、折叠、跨系统、主副设备等多种设备之间互通,华为与微信共同穷举出超过 170 种消息类型的排列组合,

推荐理由2026 年的国庆黄金周,华为正式宣布: HarmonyOS 6 和 HarmonyOS 7 终端设备数突破了 9000 万台。
开发与开源安全治理爱范儿