大模型安全

通过对 Claude Code 的配置文件 CLAUDE.md 进行红队测试，本文详细分析了 10 种提示词注入攻击模式。实验证明，合理的安全规则配置可将拦截率从 66.7% 提升至 100%。

深入分析 OpenAI 发布的 GPT-5.3 Instant 系统卡片，探讨其在低延迟架构、安全对齐以及开发者集成方面的重大突破。

一名 Meta AI 安全研究员在社交平台分享了 OpenClaw 智能体在处理其收件箱时发生的严重失误，引发了开发者对自主 AI 代理安全性和受控性的深度讨论。

OpenAI 向 The Alignment Project 承诺提供 750 万美元资金，以加强对 AI 对齐的独立研究，重点关注通用人工智能 (AGI) 的安全与安全风险。

OpenAI 为 ChatGPT 企业版和团队版用户推出了全新的安全功能，包括“锁定模式”（Lockdown Mode）和“高风险标签”，旨在防御提示注入攻击和未经授权的数据外泄。