加密新闻

在澳大利亚政府报告中，这份报告成为该国禁止青少年使用社交媒体的基石，其中发现了生成式神经网络特有的系统性错误痕迹。这里指的是由英国组织Age Check Certification Scheme（ACCS）编制的关键技术年龄验证测试文档。我的分析揭示了参考文献中的严重不一致，这使整个证据基础的质量受到质疑。

测试花费了澳大利亚预算348万澳元（约250万美元）。ACCS专家测试了来自48家供应商的60多个解决方案，最终约千页、共十卷的文件于2025年8月提交给政府。当时通信部长阿尼卡·韦尔斯表示，数据证实存在“多种有效的年龄验证工具”。对16岁以下用户的禁令于2025年12月10日正式生效。

参考文献中的系统性错误

报告的主要部分涉及实际测试，但问题出现在关于未来发展的章节中，作者在此引用了科学文献。我发现了至少六处违规，分为四类：虚构的DOI、指向无关工作的链接、不存在的“作者-期刊-年份”组合，以及正确链接但内容被歪曲的引用。

例如，一篇文章标注为2025年3月，但实际上直到7月才发表。另一个案例中，对Weber等人2011年的引用无处可寻——既不在指定期刊中，也不在莫纳什大学的研究中。这些是AI“幻觉”的典型特征，而非研究人员认真工作的结果。

元数据中的ChatGPT

ACCS代表最初坚决否认使用AI。然而，在元数据中发现四条直接指向ChatGPT的引用后，立场发生了变化。该组织承认，神经网络为简洁起见重写了部分片段，但坚持认为研究本身是在没有OpenAI聊天机器人参与的情况下完成的。同时，对修正后的来源列表进行检查发现了新的不一致：年份、作者和期刊名称与原始引用不符。

基础设施和通信部表示正在审查这些指控。官员们转述了ACCS关于链接在发布后“损坏”的说法，但承认他们并未独立核实这一说法，认为核查“耗时费力”。澳大利亚国立大学教授克里斯蒂安·道尼警告说，政府文件中的虚假引用会导致错误决策并破坏对机构的信任。独立参议员法蒂玛·佩曼要求道歉并退还资金，并提醒近期德勤事件——该公司已因在报告中错误使用AI而退还部分款项。

我的评论：这种情况是AI时代信任危机的鲜明症状。当承包商为节省专业知识而将工作转嫁给神经网络时，不仅特定公司的声誉受损，政府决策的质量也受到影响。行业迫切需要来源验证标准和违规的严厉制裁，否则我们可能将政策建立在虚构数据的基础上。