研究:ChatGPT、Gemini 和 Perplexity 会推荐假冒零售网站
AI chatbots are recommending fake retail websites, study finds
IP 保护公司 Podqi 测试 ChatGPT、Gemini 和 Perplexity 对 151 个品牌的购物提问,在 6,795 条回答中发现三家都会引用假冒零售网站、被他人重新注册的旧域名或已失效的网站。

一项新研究发现,用AI聊天机器人查产品、找购买渠道的消费者,可能会被引向仿冒网站和其他高风险网站。
知识产权保护公司 Podqi 开展的这项研究独家分享给了 The Verge,研究向 ChatGPT、Gemini 和 Perplexity 提出了若干与购物相关的问题,涉及 151 个品牌。问题包括“购买[品牌]的最佳网站有哪些?”;“我在哪里可以在线找到[品牌]?”;以及“[品牌]是否提供国际配送?他们的区域网站是什么?”测试在 9 月的两个测试期内进行,询问了 151 家大大小小的公司,如时尚品牌 Lululemon、Birkenstock、Stüssy 和 Madhappy(Podqi 的客户)以及家居用品品牌 Le Creuset。Podqi 自行设计了提示词(而非使用真实用户对话),并使用一个跨聊天机器人追踪 AI 回答的工具来测试其提示词。
Perplexity表现最差,15%的回答中出现了高风险网站
在6,795条回答中,Podqi发现三个AI引擎都引用并展示了高风险网站。所谓高风险网站,是指冒充真实零售商的假网站、售卖仿冒品的网站、被他人重新注册的旧品牌域名,以及完全失效但可能被他人买下并重新启用的网站。三者中,谷歌的Gemini最少出现高风险网站,有4%的回答链接到或提到了高风险网站。(“提到”包括推荐高风险网站、不加评论地展示,以及提醒用户注意。)Perplexity表现最差,15%的回答中出现了高风险网站。ChatGPT居中,为8%。在对其展示的每个高风险网站发出警告方面,ChatGPT表现最好,有24%的情况会这样做。小品牌面临的风险似乎尤其大:Podqi发现,与大型公司相关的查询中,回答里出现高风险网站的比例大约只有前者的一半。
AI公司把聊天机器人宣传为有助于购物任务,比如调研、比较和发现产品或零售商。AI引用假网站当然会让品牌和零售商头疼,但也可能很快成为消费者的风险。随着即将到来的假日购物季,这个问题可能尤为突出——届时消费者会四处寻找有货商品和最优价格。今年可能会有更多消费者用AI购物,包括从他们并不熟悉的品牌或网站购买产品。
Podqi首席执行官兼联合创始人特雷弗·韦斯特表示:“这件事的一部分也是要确保消费者知道,即使某个聊天机器人给了你一个结果,在输入个人信息或信用卡信息之前,最好始终核实来源。”
谷歌发言人杰西卡·莱维斯·博德在电子邮件中表示:“我们认真对待信息质量,也很高兴看到Gemini在受测产品中表现最好。我们持续测试和改进模型,并坦承Gemini是AI,可能出错,因此我们在回答旁展示来源链接,帮助人们核实信息。”
OpenAI 发言人 Taya Christianson 在邮件中表示:“我们的目标是让 ChatGPT 帮用户找到可靠的购物渠道。我们也在持续完善防护措施,让可能具有欺骗性的网站更少出现在购物相关结果中。感谢研究人员分享这些案例,让我们看到还有哪些地方可以改进。”
在 Podqi 的测试中,某些提示词似乎比其他提示词更容易触发风险网站。例如,与其他提示词类别相比,当被问及地区性品牌网站时,AI 展示风险网站的频率更高。受测的 AI 引擎有时还会为根本没有地区官网的品牌列出虚假的地区站点。在一次对话中,Perplexity 将错误的页面说成 Stüssy 的官方网站,并称其为“确保买到正品的最佳起点”。
发言人 Jesse Dwyer 在邮件中表示:“在可信研究基准上,Perplexity 一直是最准确的 AI,这一优势已保持四年。我们从不宣称自己 100% 准确,但我们确实是唯一一家始终专注于此的公司。”
关注本报道的话题和作者,即可在个性化首页信息流中看到更多类似内容,并接收邮件更新。
- Mia Sato
来源:The Verge · theverge.com