一家因大规模食物中毒而被起诉的酒店被形容为“干净整洁”，而一处客人投诉员工性骚扰的度假村则因“友好的”服务而受到赞扬，这些都是一款旨在总结数百万Tripadvisor评论的AI所提供的。根据消费者运动组织Which?的调查，这些客户反馈的概述淡化了严重投诉，从霉臭到缺乏自来水等问题。AI生成的评论出现在该旅游网站的酒店网页上，旨在帮助度假者决定预定哪家酒店。在一个案例中，AI总结将佛得角的Riu Palace Santa Maria描述为受欢迎，拥有宽敞的房间，“多样化的餐厅”获得“热评”，且洁净程度无可挑剔。然而，顾客报告说被提供了生鸡肉，分享了自助餐上苍蝇和鸟儿的照片，并报道“坐客区有死去的烤小老鼠”。一位全家生病的客人写道：“这个地方会毁掉假期。”这家酒店连锁正在高等法院起诉数百名顾客，指控其卫生标准低下及食品安全失误导致的疾病。佛得角酒店的AI生成评论目前已无法获得。其运营方RIU Hotels & Resorts表示：“我们以最高的专业标准和服务运营，将卫生安全作为我们的首要任务。”Tripadvisor表示，它正在监测和完善其AI工具，但“相信这些功能正好达到了设计的目的”。AI称赞了多米尼加共和国的一家酒店拥有“丰富的”设施，只是提到了“清洁不一致”和“维护问题”。但客人报告说由于自来水停供，只能使用瓶装水淋浴，且在一场大型婚礼上，几乎每个人都生病。而在土耳其的一家酒店，客人表示由于男性酒店员工的多次性骚扰，包括要求在社交媒体上建立联系，感到不安全，但AI总结将服务描述为“友好”，并仅提到“少数人指出的[服务]失误”。Which?发现，Tripadvisor表示正在监测和完善其AI工具，并“关注那些评论与目标物业不符的案例”。但它表示“相信这些功能正好达到了设计的目的：帮助旅行者快速理解反馈的广度，同时让他们轻松查看完整的基础评论”。它表示，AI生成的总结并未取代旅行者的评论，顾客有常识去对照AI建议与汇聚的超过十亿条评论和贡献。Which?旅行的编辑Rory Boland表示：“该平台有责任重新审视其AI总结和AI聊天机器人的准确性。在此期间，用户应绕过这些摘要，查看客人评论，特别是一星评级以及其他网站上的评论，以确保下一次入住的安全。”Tripadvisor表示，其系统会在旅行者警告有关严重安全事件（如死亡、药物麻醉或性侵犯）时自动抑制AI摘要，“帮助确保这些内容在我们的社区中高度可见”。伦敦大学学院人机交互教授Duncan Brumby表示，此案例与他自己关于学术界在同行评审过程中使用AI的研究引起了共鸣。他发现，AI倾向于“消毒和抹去尖锐批评的边缘”，这可能是因为大部分训练数据包含大量普通的观察。“这里有客人描述一个非常负面的经历，但AI决定将其淡化，”他说。“就好像它在表现得很客气。”其他研究发现，旨在总结意见的技术往往存在盲点，意味着它们将消费者反馈的丰富性简化为更肤浅的情感。今年，谷歌在《卫报》调查发现人们因虚假和误导性信息而面临伤害风险后，移除了部分AI健康摘要。