摘要
这段时间豆包翻车案例经常上热搜，说明AI搜索越来越普及了。“万事不决问AI”成了这届用户的新习惯。但很多时候，AI给的东西乍一看还可以，却根本不能深究。 有的数据找不着来源、有的概念是同名异意词、甚至它给的有些论文都根本是编的，真把这些东西拿出来用，那可就得贻笑大方了...我发现吐槽AI搜索不靠谱这事儿的还不在少数。 （图源：Ron Stoner） 就前阵子，安全工程师罗恩・斯托纳（Ron Stoner）在个人博客发布了一篇博文，号称自己仅用12美元（约82元）注册域名和一次编辑维基百科，就成功欺骗了ChatGPT、Claude3、Gemini Advanced等主流大模型。 这哥们到底整了什么活？ 花12美元就成功欺骗了主流AI 作为安全工程师，Ron Stoner对Anthropic、OpenAI等厂商鼓吹的“大模型需要数月甚至数年内持续导入恶意内容才会被破坏”深表质疑，他认为自己完全可以实现一种更快、更便宜、更简单的攻击。 想实现这一切，只要从数据回收层开始下手即可。 为此，Ron Stoner盯上了一款名叫6 Nimmt!（又名：谁是牛头王）的德国桌游，这是一款发行于1994年的老派策略卡牌游戏。 （图源：meeplelikeus） 为什么偏偏选中它呢？因为这款游戏有个特征，那就是它只在德国有些名气，在世界范围内算籍籍无名，且在现实中从未单独举办过什么官方的世界锦标赛，网上关于它世界冠军的信息几乎是一片空白。 对大模型来说，这种信息空白区简直就是无人区。 这就好比在一片从未被开发过的荒地上，谁先盖个茅草屋，AI就会认定谁是这片地的主人。 于是乎，Ron Stoner开始了他的操作。 第一步，他花了12美元注册了一个看起来极其官方的域名——6nimmt.com。 （图源：6nimmt.com） 第二步，他让AI帮他写了一篇充满激情的新闻稿，大致内容就是自己在慕尼黑，击败了来自二十多个国家的顶尖选手，夺得了牛头王的世界冠军。他还特意加上了彩带飘落、观众欢呼这种逼真的赛后感言，然后把文章挂在了自己刚买的那个网站上。 最关键的第三步来了。他跑去维基百科，在那款桌游的词条底下加了一段话，宣称自己是2025年世界冠军，并把参考资料的链接，指向了自己刚建好的那个破网站。