OpenAI 详解前沿模型训练环境的安全加固与红队测试
OpenAI 介绍其前沿模型训练与评估环境的安全加固措施,包括训练期间不接入互联网、构建离线缓存网页世界、以纵深防御多层隔离,并用最强模型(含即将推出的 GPT‑6 Astra Cyber)组成智能体团队进行高算力红队测试。
Pai 的 AI 雷达
今天:OpenAI 详解前沿模型训练环境的安全(模型发布),Anthropic 介绍 Claude。并行还有 AI Agent 正在改写 CPU 的价值、Anthropic 将 Agent、Anthropic 指南。
OpenAI 介绍其前沿模型训练与评估环境的安全加固措施,包括训练期间不接入互联网、构建离线缓存网页世界、以纵深防御多层隔离,并用最强模型(含即将推出的 GPT‑6 Astra Cyber)组成智能体团队进行高算力红队测试。
Anthropic 发文介绍处于研究预览阶段的 Claude Duet 智能体的安全与隐私设计。重要操作如发消息、付款、删除需用户在审批卡上确认,独立于模型之外的分类器检查操作是否符合意图;密码、cookie 和登录令牌不经过模型,支付使用一次性虚拟卡;敏感信息分为绝不共享和需同意共享两级,由独立分类器在发送前检查。
Anthropic 宣布把 Agent Skills 开放标准捐赠给 Linux Foundation 旗下的 Agentic AI Foundation(AAIF),此前已向其捐赠 MCP。
Anthropic Applied AI 团队发布指南,讲解何时把 orchestrator 下的路由器、规划器和领域子智能体合并进单个主 Agent 循环。文中对比显示,带 skills 的单智能体在质量上常优于一提示全包和子智能体设计,且成本和延迟更低,一家客户改用单循环后运行时间约快 2x。
OpenAI 与 Google Cloud 达成合作,将把 OpenAI 前沿模型和 Codex 智能体工作流引入 Google Cloud 的 Model Garden,客户可通过 Google Cloud Marketplace 购买,并可用 GCP 消费承诺抵扣。
OpenRouter 宣布月之暗面的 Kimi K3.1 Pro 上线,定位为基于 Kimi K3 后训练、面向长程编码和智能体任务的 1M 上下文多模态开源权重模型。定价为 $2/M input tokens、$10/M output tokens,可在 OpenRouter 直接试用。 🔗 阅读原文 via AIHOT · https://aihot.news/items/g725ujk3cq0gquz6g2nlozeu4