据雷科技，，，，，清静工程师RonStoner破费12美元注册域名并编辑维基百科，，，，，乐成诱骗了ChatGPT、Claude3、GeminiAdvanced等主流大模子，，，，，让它们认定自己是一款德国桌游“6Nimmt!”的2025年天下冠军。。。。
。。 RonStoner对Anthropic、OpenAI等厂商声称“大模子需要数月甚至数年一连导入恶意内容才会被破损”的说法深表质疑，，，，，他以为可以实现一种更快、更自制、更简朴的攻击。。。。
。。他选择这款1994年刊行的德国桌游，，，，，是由于该游戏仅在德国有些名气，，，，，天下规模内没没无闻，，，，，且从未单独举行过官方天下锦标赛，，，，，网上关于其天下冠军的信息险些空缺。。。。
。。 他的操作分为三步：第一步，，，，，破费12美元注册域名6nimmt.com；；；；；；第二步，，，，，让AI撰写一篇充满激情的新闻稿，，，，，声称自己在慕尼黑击败多国顶尖选手夺得冠军，，，，，并加上逼真赛后感言，，，，，挂到该网站；；；；；；第三步，，，，，在维基百科该桌游词条下添加自己是2025年天下冠军的内容，，，，，并将参考资料链接指向自己新建的网站。。。。
。。整个历程前后不到二十分钟。。。。
。。 随后，，，，，Ron向多家大模子提问“谁是牛头王天下冠军”，，，，，效果所有AI都斩钉截铁地回覆是RonStoner。。。。
。。有的大模子甚至将假新闻稿里的细节当成铁证，，，，，栩栩如生形貌他赢得角逐的历程。。。。
。。这条误差百出的假条目在维基百科存活了整整两个多月，，，，，在此时代险些所有具备联网搜索功效的大模子都抓取了该信息，，，，，并在用户提问时坚定输出虚伪谜底。。。。
。。直到Ron在博客果真实验历程，，，，，维基百科自愿者才发明并删除该条目。。。。
。。 这一征象与检索增强天生（RAG）机制有关。。。。
。。常用大模子基于某个时间节点前的语料库训练，，，，，想要获得之后的数据需先上网搜索再基于资料天生效果。。。。
。。正常来说，，，，，借助外部信息佐证能够使大模子天生更准确、详细且最新的响应，，，，，但AI根天职不清信息真假，，，，，只认权威。。。。
。。在AI底层逻辑里，，，，，维基百科是互联网上最靠谱的百科全书，，，，，Ron正是使用这一点，，，，，将链接挂到维基百科，，，，，AI顺着爬已往后发明双方说法对得上，，，，，即便其自建网站是三无产品，，，，，大模子仍直接将其当成事实。。。。
。。 现在外洋几家大模子已针对性消除该伪造信息，，，，，但海内大模子厂商似乎未注重到这一问题，，，，，Ron的英文网页甚至为虚伪新闻增添了“可信度”。。。。
。。本钱仅需12美元，，，，，别有专心的人完全可以批量制造假新闻，，，，，通过百科类网站举行信任洗白，，，，，让AI把毒药端给绝不知情的用户。。。。
。。 谷歌体现已在搜索、Gemini、Chrome、Pixel和云端添加AI验证工具，，，，，OpenAI也推出了可溯源的隐形水。。。。
。。，，，这些行动能在一定水平上阻止AI投毒征象。。。。
。。用户在面临AI搜索时需提高AI素养，，，，，查证历史事实、做出投资或医疗决议时，，，，，应自行做好信息交织验证，，，，，把判断真伪的权力握在自己手里。。。。
。。