AI 时代的安全新边界：大模型注入与数据投毒

当企业把大模型接入客服、代码、办公流程，安全团队发现：过去那套防火墙、权限、审计，管不住一个"会听话也会被骗"的模型。AI 系统正在开辟一条全新的攻击边界。

一、三类新型威胁

• 提示注入（Prompt Injection）：在文档、网页、邮件里藏恶意指令，劫持智能体去执行攻击者想要的动作，是 Agent 时代最危险的攻击。
• 越狱（Jailbreak）：用话术绕过安全护栏，诱导模型输出违规、有害内容。
• 数据投毒（Data Poisoning）：在训练或微调数据中掺入后门样本，让模型在特定触发下行为异常。

二、防御思路：把模型当"不可信的实习生"

核心原则是不盲信模型输出：对智能体可执行的动作施加严格的权限与人工审批；把外部内容视为"数据"而非"指令"，做输入清洗与隔离；对高风险输出加审核层；训练数据来源可信、可追溯。

三、AI 安全是攻防并进

红队对抗测试、越狱样本库、行为监控与异常检测，要成为 AI 应用的标配。同时，AI 也在反哺安全——自动化漏洞挖掘、威胁检测与响应提速。攻防两端都在被大模型重塑。

大模型把"自然语言"变成了可执行的接口，也就把"社会工程学"规模化地引入了系统。AI 时代的安全，始于承认：模型会犯错，而攻击者最擅长利用错误。