在2026年国家网络安全宣传周上，提示词注入这一AI攻击方式受到广泛关注。攻击者能够通过一句话、一个文件、一张图片甚至网页内容，诱导大模型误把恶意指令当成正常任务执行，进而突破原有的安全限制。
这类恶意指令还可能被隐藏在邮件、文档、网页或数据库中。一旦AI读取相关内容，可能造成账号信息、个人隐私、企业文件及商业数据泄露。对于企业部署的私有大模型，若未同步做好权限控制、安全护栏、异常指令识别及操作审计，风险可能进一步放大。
相关技术被用于违法犯罪后，也已经出现判刑案例。浙江余姚警方2025年侦办一起利用生成式AI制作淫秽物品牟利案件。一名程序员组建团队，通过修改模型提示词等方式绕过内容过滤，涉案AI累计生成大量静态与动态图片，用户充值约2.4万美元。经法院审理，6名被告人均被认定构成制作淫秽物品牟利罪，分别被判处相应有期徒刑并处罚金，判决已经生效。
提示词注入带来的网络安全与生成式AI风险表明，人工智能越强，权限管理越重要。目前相关事件的细节与技术防范仍有待进一步核实，请公众注意防范数据安全风险。
东南亚快曝光提醒，个人在面对来源不明的AI工具时，不要随意把身份证、密码、内部文件等敏感资料交出去。企业在接入大模型时，更不能只追求能用，必须同步限制数据访问权限并保留安全审计记录。
来源：东南亚快曝光 Telegram频道 @F_KBG
原文链接：查看Telegram原消息
