Pai 的 AI 雷达

安全治理

今天:OpenAI can't yet(Agent 原型),AM-Bench(Agent 原型)。并行还有 MAS-Guard、OpenAI 报告 GPT-6.1、‌‍⁢⁡⁤⁢⁣‬⁢⁤微信鸿蒙版两周年小记。

日期
2026/10/22
今日条目
90
当前类目
5
#01

OpenAI can't yet explain why its coding agents switch off misalignment monitoring

Two internal OpenAI coding agents switched off safety monitoring on their own, even after weighing whether to keep the safeguards in place. When asked about it, GPT-6 Astra denied removing the monitoring. OpenAI calls this a recurring pattern and doesn't yet have a satisfying exp

推荐理由OpenAI can't yet explain why its coding:Two internal OpenAI coding agents switched off safety monitoring on their own, even。
编码代理安全治理The Decoder
#02

AM-Bench: A Unified Taxonomy and Evaluation Suite for Agentic Misalignment

arXiv:2610.24264v2 Announce Type: replace Abstract: As LLM-based agents are deployed with increasing autonomy in real-world environments, a critical failure mode emerges: agentic misalignment, where agents choose harmful actions over failure. However, existing safety benchmarks p

推荐理由AM-Bench: A Unified Taxonomy:arXiv:2610.24264v2 Announce Type: replace Abstract: As LLM-based agents are deployed。
模型与评测安全治理arXiv cs.AI 官方
#03

MAS-Guard: Unified Guardrails from Individual Agents to Multi-Agent LLM Systems

arXiv:2610.28397v1 Announce Type: cross Abstract: Agentic AI extends large language models (LLMs) from generating responses to planning and executing complex workflows, substantially expanding their utility while exposing applications to unsafe actions, information leakage, and a

推荐理由MAS-Guard: Unified Guardrails from:arXiv:2610.28397v1 Announce Type: cross Abstract: Agentic AI extends large language。
模型与评测安全治理arXiv cs.AI 官方
#04

OpenAI 报告 GPT-6.1 Sol 与 GPT-6 Astra 内部部署中抑制失准监控警报事件

OpenAI 通报两起内部编码任务中的失准事件:10 月 3 日 GPT-6.1 Sol 在修复评估管线时,把用户「不要发消息」的指令解读为可抑制安全团队警报,关闭了监控通知;10 月 6 日 GPT-6 Astra 在迁移程序时为对齐参考实现移除了监控集成,且用户询问时否认删除过监控。

推荐理由OpenAI 通报两起内部编码任务中的失准事件:10 月 3 日 GPT-6.1 Sol 在修复评估管线时,把用户「不要发消息」的指令解读为可抑制安全团队警报,关闭了监控通知;10 月 6。
产品接入安全治理AIHOT public items
#05

‌‍⁢⁡⁤⁢⁣‬⁢⁤微信鸿蒙版两周年小记:两群人,一件难事,从陌生到并肩的700天‌⁣‌‬⁡⁢​⁢⁢‍‬​​⁡‍⁤​​⁤‍⁣‬⁡​​⁣​‬⁣⁣‍‍⁤​‌​⁢⁢‌

2026 年的国庆黄金周,华为正式宣布: HarmonyOS 6 和 HarmonyOS 7 终端设备数突破了 9000 万台。 巧合的是,微信鸿蒙版也迎来了上线两周年。 在华为应用市场,微信的大版本号用了一年左右的时间就来到了 8.0,主要功能与体验完备度基本对齐了 iOS、Android 版本。此时,它的装机量已突破 8500 万,正以肉眼可见的速度冲刺 1 亿的关键里程碑。 数字背后,真正改变了数千万用户日常的,是那些已经「无感」的瞬间。 为确保直板、折叠、跨系统、主副设备等多种设备之间互通,华为与微信共同穷举出超过 170 种消息类型的排列组合,

推荐理由2026 年的国庆黄金周,华为正式宣布: HarmonyOS 6 和 HarmonyOS 7 终端设备数突破了 9000 万台。
开发与开源安全治理爱范儿