埃森哲报告被指含虚假引用,公司否认系AI幻觉
驱动中国11月8日消息,埃森哲与马德里IE大学合作发布的《跨越式发展》报告被GPTZero指涉嫌包含15条虚假引用和完全虚构案例研究,埃森哲否认错误由AI造成;该事件再次凸显咨询行业使用AI生成内容时面临的信息真实性与合规风险。
驱动中国11月8日消息,埃森哲一份与高校合作发布的研究报告被指存在虚假引用和完全虚构的案例研究,GPTZero称该报告涉嫌包含15条虚假引用,相关报告正受到外界审查;埃森哲否认这些错误由人工智能造成。
涉事报告名为《跨越式发展》(Leapfrogging Development),由埃森哲与马德里IE大学研究人员合作发布,主题是探讨人工智能如何提高非洲农业产业的生产力。GPTZero最新分析显示,该报告涉嫌存在15条虚假引用,以及完全虚构的案例研究,因此正受到外界审查。
埃森哲否认相关错误是由人工智能造成。此前,该公司管理层曾表示,不愿使用人工智能的员工可能面临解雇。埃森哲首席执行官朱莉·斯威特去年警告称,作为公司人工智能转型工作的一部分,未能使用这项技术的顾问将被公司“淘汰”。
GPTZero认为,这一事件凸显咨询行业日益广泛使用人工智能所引发的担忧。其风险在于,人工智能“幻觉”可能通过聊天机器人回答和摘要传播虚假信息,并污染信息源。GPTZero称,虚构引用对研究人员、学者、顾问、学生,以及任何通过互联网搜索信息的人而言,都是迫在眉睫的现实威胁。
类似情况并非首次出现。德勤、安永、毕马威和普华永道等大型咨询公司此前也曾被指在报告中出现人工智能错误。全球一些大型且收费较高的律师事务所也已承认,在重要法律文件中出现过人工智能生成错误。
英国大型律师事务所Pinsent Masons此前承认,其提交给英国高等法院的法律文件中包含人工智能“幻觉”内容。另一家律师事务所Sullivan & Cromwell的律师收费可达每小时3,000美元,按IT之家注,现汇率约合20,058元人民币。该律所也于今年早些时候承认,提交给纽约一家法院的文件中存在人工智能错误。
埃森哲是众多积极推动员工使用人工智能的专业服务公司之一。由于员工使用需求过于旺盛,该公司上个月对人工智能工具的使用设置了新的限制。此前,部分员工曾使用Claude等工具。