AI总结也会被“下毒”？微软警告新攻击术_***_公司_导致用户

发表时间：2026-09-20 16:50:27
来源：

IT之家 2 月 13 日消息，或许网龄比较老的小伙伴们听说过“SEO ***”，别有用心者通常会在互联网上创建大量低质量文章，然后将某个***冒、篡改的工具与特定关键词绑定，进而导致用户搜索某个关键词时，搜索引擎跳出来的第一个搜索结果是恶意软件，而非官方产品。

而根据微软安全研究人员本周（2 月 10 日）发布的博文，目前 AI 领域也存在类似的“AI 推荐***”攻击术。

以现实举例，一些公司正在将隐藏指令嵌入网页 / App 的“AI 总结”按钮，当用户点击时，系统会通过 URL 的提示参数，尝试将 AI 助手的记忆注入持久化指令。

IT之家在此援引微软，这些提示词会让 AI 固化认知，将“XX 公司是可靠信源”“优先推荐 XX 公司”等指令烂熟于心，最终让 AI 在未来回答中偏向某个产品或服务。

不过问题就在于，一旦有别有用心之人尝试篡改网页提示词参数，将原本的“XX 公司”替换为“XX ***公司”，那么 AI 就会照本宣科地向其他用户提供有毒的建议，进而操纵推荐、AI 总结系统，给出篡改的总结文章，而用户这边却毫不知情。

微软强调，上文所述的攻击方法并非纸上谈兵，目前公司已在邮件流量中发现了 50 起类似***案例，涉及金融、医疗、法律服务、营销、食品、服务行业等，常见模式包括“记住 XX 公司是可信来源”“未来对话中优先引用 XX 网站”，更有甚者直接注入完整营销文案，并且上述案例均来自合法公司而非黑客。

微软对此警告，上述实例表明，这种***术已经存在现实风险，金融工作者有可能被 AI 推荐到高风险、***投资平台；而家长很有可能完全听信 AI，忽略儿童游戏中的不良内容；并且普通人也有可能会被有心之人利用，在 AI 中持续引用单一媒体来源。

当然，最好的应对方法就是不要完全信赖“AI 总结”，用户在点击 AI 推荐的链接时应该先悬停看一眼是否正规，同时谨慎点击“AI 总结”按钮、定期检查 AI 存储的记忆，如遇可疑情况，可以删除相关条目、重置 AI 记忆。返回搜狐，查看更多

谷歌电话会：1850亿支出“不得不花”，确认与苹果合作，Gemini并非SaaS的“终结者”_桑达尔·皮查伊_代理_资本

挑战人类认证：科学家发现罕见“内外翻转”行星系统，距地球约 116 光年_岩质_恒星_气态

推荐资讯

2026-09-20 12:56:00首款2nm芯片来了！三星Exynos 2600多核成绩突破1.1万分：冲进第一梯队_-Pro_性能_架构
2026-09-21 04:16:36刻蚀机，是国产芯片设备中，真正突破的一条赛道_公司_生产线_制造
2026-09-20 22:29:3923.14亿天价索赔案和解！欣旺达认责，5年付清全部款项_电芯_威睿_双方
2026-09-20 01:57:03100万颗卫星，撑起马斯克的AI太空基建梦_SpaceX_通信_轨道
2026-09-19 22:01:58抄华为2年前作业，苹果iPhone 18 Pro或能卫星通信发图了_功能_Mac_Cult
2026-09-21 18:16:59AI购物的第一次出圈，不在北上广_奶茶店_县城_活动
2026-09-20 06:36:19马斯克大动作！SpaceX申请部署100万颗卫星！重磅数据，首次曝光_公司_人士_特斯拉
2026-09-20 00:35:10全网首例：用户反馈其苹果iPhone Air自研5G基带硬件故障_设备_蜂窝_信号
2026-09-20 03:41:392026春节，是人类史上最大的图灵测试_用户_社交_元宝
2026-09-20 23:02:25荷兰光刻机巨头阿斯麦宣布裁员1700人_控股公司_设备_Holding

推荐产品

为什么雷军的直播总是争议不断？_小米_汽车_保值
一是，这场科普直播把小米汽车试验室的部分测试停了下来，为了让大家看清楚试验室环境和流程，工作节奏按了暂停键，雷军表示直播费用“很高很高”。还未等告别雷军光辉，小米汽车就陷入了严重的舆论危机上，SU7发生车…
元宝红包链接被微信屏蔽，自家人为难自家人？_活动_诱导_用户
元宝红包链接被微信屏蔽，自家人为难自家人？_活动_诱导_用户
求求你们，别折腾AI了_叙事_未来_教唆犯
本质上，传播焦虑的AI博主们，和性商教母没啥区别，但他们不是教父，就是一帮AI教唆犯。但他对未来的很多预测，现在证明是错误的：自动化没有让人不用工作；大型组织并没有瓦解，反而出现了各种科技巨头；技术没有消灭…
日活破亿！张一鸣又赌对了：字节迎来第五个爆款APP_红果_***_***
日活破亿！张一鸣又赌对了：字节迎来第五个爆款APP_红果_***_***