AI教程2026年7月7日为什么泄露的向量嵌入是 RAG 管道中的重大安全风险了解为什么向量嵌入并非匿名的数字指纹,以及 vec2text 攻击如何将它们还原为敏感的原始文本,从而在 RAG 实现中造成巨大的安全漏洞。阅读全文 →
行业资讯2026年7月4日Claude 辅助安全研究人员发现美国各大音乐节门票系统漏洞一名安全研究人员利用 Anthropic 的 Claude 模型成功发现了 Front Gate Tickets 平台的严重漏洞。该平台为 Lollapalooza 和 Bonnaroo 等主流音乐节提供服务,该漏洞允许攻击者绕过支付环节直接出票。阅读全文 →
AI教程2026年7月1日AI 智能体可能在隐藏思维链中泄露密钥最新研究表明,AI 智能体在内部推理步骤中泄露 API 密钥和秘密的可能性比在最终答案中高出 50 倍。本指南探讨了如何识别和减轻这些不可见的泄露风险。阅读全文 →
AI教程2026年6月26日保护 LangGraph 智能体:防御间接提示注入漏洞全指南深入分析基于 LangGraph 构建的邮件 AI 智能体如何被间接提示注入攻击劫持,并介绍如何使用 AgentBreak 工具扫描和修复 AI 工作流中的安全漏洞。阅读全文 →
行业资讯2026年6月23日OpenAI 发布 Daybreak 工具集助力全球组织安全OpenAI 推出了 Daybreak 计划,包含 Codex Security 和 GPT-5.5-Cyber 等先进安全工具,旨在帮助全球组织大规模发现、验证并修复系统漏洞。阅读全文 →
行业资讯2026年6月16日微软 Copilot 漏洞曝光:攻击者可窃取双重身份验证代码深入分析 SearchLeak 漏洞,这是微软 Copilot 中的一个关键漏洞,展示了当前大语言模型(LLM)安全措施在保护 2FA 代码等敏感用户数据方面的局限性。阅读全文 →
行业资讯2026年6月14日亚马逊安全研究引发白宫禁用 Anthropic 模型深入探讨《华尔街日报》关于亚马逊内部安全研究如何导致白宫限制外国国民访问 Anthropic 的 Fable 和 Mythos 模型的报告。阅读全文 →
行业资讯2026年6月12日网络安全 研究人员 对 Anthropic Fable 的 防护栏 限制 表示 不满Anthropic 的最新模型迭代版本 Fable 正面临网络安全社区的强烈抵制。研究人员认为,其过于严格的防护栏(Guardrails)阻碍了合法的安全分析和漏洞研究工作。阅读全文 →
AI教程2026年5月28日解析首个 AI 编写的零日漏洞:Google 如何拦截 2FA 绕过及其对 LLM 安全栈的启示深入探讨全球首例由 AI 自主构建的 2FA 绕过零日漏洞案例,分析攻击者如何从 AI 助手转变为 AI 操作员,以及企业应如何构建新型 LLM 安全防御体系。阅读全文 →
AI教程2026年5月26日AI 智能体安全:从麦肯锡 Lilli 被黑事件看 LLM 架构防御深度分析自主 AI 智能体如何利用麦肯锡 Lilli 等内部 RAG 系统进行攻击,涵盖漏洞路径、架构缺陷及企业级防御策略。阅读全文 →
AI教程2026年5月19日AI 红队测试技术:安全团队的实用入门指南本指南为正在转向 AI 安全领域的专业人士提供了一套实用的红队测试框架,涵盖提示词注入、RAG 漏洞利用以及利用现代 LLM API 进行控制栈测试的深度技术分析。阅读全文 →