加密新闻

澳大利亚当局用来禁止青少年使用社交媒体的关键文件，被发现充斥着对不存在的科学研究的引用。这对整个行业来说是一个令人不安的信号：当监管决策依赖于由神经网络生成的数据时，不仅特定报告的信誉受到打击，而且对立法过程本身的信任也会受到损害。

年龄验证技术的测试由英国组织Age Check Certification Scheme（ACCS）进行。为此花费了348万澳元（约合250万美元）。专家们测试了来自48家供应商的60多种解决方案，并于2025年8月向政府提交了最终文件，共十卷约一千页。当时，通信部长阿尼卡·威尔斯表示，这些数据证实存在“多种有效的年龄验证工具”。对16岁以下用户的禁令已于2025年12月10日生效。

六处错误引用

报告的主要部分致力于对现有解决方案的实践测试。问题出现在关于前瞻性发展的章节中，作者在该章节引用了科学文献。第一个指出不一致之处的是向参议院委员会提交的呈文作者，该委员会正在审议关于加强禁令的修正案。文件中声称，至少有两处引用看起来像是典型的AI“幻觉”。

我的核查在同一章节中发现了六处违规，可分为四类：

• 虚构的DOI；
• 指向无关工作的DOI；
• “作者-期刊-年份”组合未得到任何出版物的证实；
• 对文章的引用正确，但报告所归因的论断在原文中并不存在。

例如，ACCS将一篇文章标注为2025年3月，但实际上它直到7月才发表。在另一个案例中，对Weber et al. 2011的引用无处可寻——无论是在指定期刊中还是在莫纳什大学的研究中都找不到。

元数据中的ChatGPT

ACCS代表坚决否认在准备文件时使用了AI。然而，当报告某些部分发现四处直接指向ChatGPT的元数据引用后，立场不得不软化。ACCS承认人工智能为简洁起见重写了部分片段，但坚持认为研究本身是在没有OpenAI聊天机器人参与的情况下完成的。该组织代表声称，ChatGPT元数据本身就是使用AI的充分通知。

然而，对修订后的来源列表的核查发现了新的不一致之处：其中的年份、作者和期刊名称与报告中的原始引用不符。

一千页中的“一小撮错误”

基础设施和通信部表示正在研究这些投诉。在参议院听证会上，官员们转述了ACCS的说法：据他们称，这些引用在发布时是有效的，只是后来“失效了”。第一助理秘书莎拉·范登布鲁克澄清说，该部门并未独立核实这一说法，并认为此类核查“耗时费力”。

澳大利亚国立大学教授克里斯蒂安·道尼警告说，虚假引用会导致错误决策并破坏对机构的信任。独立参议员法蒂玛·佩曼要求承包商正式道歉并退还资金。她提醒说，一年前与德勤发生的类似事件本应教会当局更加关注来源。2025年10月，这家咨询公司已承认使用AI，并退还了44万澳元合同的部分款项。

我的专家评估：这种情况只是冰山一角。当政府机构基于未经适当控制的AI使用报告做出决策时，我们有可能获得一整层建立在虚构数据之上的监管法规。行业需要严格的来源验证标准，否则对数字倡议的信任将被彻底破坏。