只要13个单词，就能给ChatGPT“下毒”？“美版贴吧”Reddit，正沦为AI“投毒基地” 文章

想要操控 ChatGPT、Google AI Search 等 AI 工具的搜索结果，你觉得难吗？ 最近，康奈尔大学研究人员发布了一篇题为《Deep-research agents can be poisoned via user-generated content》（深度研究 Agent 可被用户生成内容投毒）的论文，其中指出： 在 Reddit、Wikipedia、Quora、Facebook 等用户生成内容（UGC）平台上，一段短到只有 13 个单词的文本，就可能稳定影响 AI 的回答结果，甚至会诱导 AI 输出带有推广、营销乃至欺诈性质的内容。 AEO，一场从 SEO 演变而来的“新生意” 过去二十年，互联网行业一直围绕着 SEO（搜索引擎优化）展开竞争。 企业会研究 Google 的排名机制，想方设法让自己的网页出现在搜索结果首页。而如今，随着 ChatGPT、Google AI Overview、Perplexity 等 AI 搜索工具逐渐成为新的流量入口，一种新的玩法开始兴起：AEO（AI Engine Optimization，AI 引擎优化）。 简单来说，AEO 的目标不是让网页排在搜索结果前列，而是直接让 AI 在回答问题时提到你的产品、服务或品牌。也就是说，原本 SEO 关注的对象已经从 Google 爬虫变成了大模型。 很多用户以为，AI 搜索背后依靠的是权威数据库、学术资料或者官方信息源，但现实情况并非如此：研究人员分析发现，目前驱动 ChatGPT、Google AI Search 等产品的深度研究 Agent 会大量引用 Reddit、Wikipedia 等用户生成内容平台。所谓的“深度研究 Agent”，本质上就是能实时访问互联网、抓取网页内容并整理引用来源的自动化系统。 研究发现，在大约一半的查询中，AI 会引用 Reddit（类似于美版贴吧）、Wikipedia 等社区内容，而接近四分之一的全部引用来源都来自用户生成网站——换句话说，Reddit 已经从一个普通社区逐渐演变成 AI 的重要知识来源，而这也让它成为最容易被利用的攻击入口。