德勤（Deloitte）将在包含多个错误的440,000美元报告中退还联邦政府的一部分付款。这家科技公司已承认，它已经使用生成人工智能（AI）来帮助制作报告。据《卫报》报道，一旦交易完成，就业和工作场所关系部（DEWR）确认，将退还439,000美元（290,000美元）的合同。
AI生成的报告后，德勤退还政府
工党参议员黛博拉·奥尼尔（Deborah O’Neill）批评了德勤（Deloitte），称该公司有“人类情报问题”，称这一集为“不合格作品的部分道歉”。德勤于2024年12月被安东尼·阿尔巴尼斯（Anthony Albanese）政府聘请，对目标合规框架（TCF）及其IT系统进行独立的保证审查。该系统自动对未履行澳大利亚福利计划下相互义务的求职者的处罚。
该咨询公司今年早些时候结束了七个月的项目。当该报告于7月4日发布时，它显示了一系列问题，包括框架规则和立法之间的可追溯性，各种“系统缺陷”，以及被描述为“受参与者违反参与者的惩罚性假设驱动的IT设置”。
在报告中发现的错误，AI使用公开了
八月，澳大利亚财务评论在报告中标记了多个错误，包括对不存在的学术参考文献的引用和制造的法院案件（Deanna Amato v Consonwealth）。
拉奇说：“他们没有用一个真实的伪造参考代替一个幻觉的伪造参考。 “这表明原始主张不是基于任何单个证据来源。”
星期五，DeWr重新上传了一个更新的版本。它在纠正重写参考列表的同时删除了十几个不存在的参考文献和印刷错误。该部门确认“报告的实质和建议保持不变。”
后来，在更新的附录中，德勤（Deloitte）使用生成的AI大型语言模型（Azure OpenAi GPT – 4O）作为方法论的一部分承认。更新的报告指出：“报告的一部分包括使用DEWR许可并在DeWr的Azure租赁上托管的生成AI大语言模型。”
但是，该公司并未将原始报告中的错误归因于AI，并继续坚持其发现。 Deloitte说：“更新绝不影响或影响报告中实质性内容，发现和建议。”德勤发言人补充说：“此事已与客户直接解决。”
参议员黛博拉·奥尼尔（Deborah O’Neill）说，这一事件引起了人们对AI过度依赖的担忧。她说：“德勤有一个人类的情报问题。如果不是那么可悲，这将是可笑的。部分退款看起来像是不合标准工作的部分道歉。” O’Neill补充说，政府机构应验证谁实际上正在从事他们支付的工作以及是否使用AI。她说：“也许不是一家大型咨询公司，而是更好地注册了ChatGpt订阅。”
Dewr表示，一旦最终确定，退款交易和合同详细信息将公开。
