英伟达公司进行了一项示范性实验,展示了机器学习领域自动化的新水平。通过使用自家AI智能体Codex和TAO工具包,工程师们在不到24小时内,将Cosmos 3 Nano模型在丰田Woven Traffic Safety专用数据集上的准确率从54.41%提升至惊人的93.35%。这不仅仅是优化,更是模型后训练方法的范式转变。
实验过程
未经任何适配的基础版Cosmos 3 Nano,在四选一测试中仅取得54.41%的成绩。开发人员委托Codex智能体分析模型,并采用LoRA(低秩适配)方法进行微调。智能体并非简单运行脚本——它自主选择了Cosmos-reason指令,发现数据集标注中缺少帧率参数,修正了配置,加载权重并启动了训练容器。
首次在八块NVIDIA A100(80GB)加速器上运行LoRA仅耗时30分钟,便将准确率提升至87.14%。这已是惊人飞跃,但英伟达并未止步。
超参数自动优化
第二阶段,开发人员激活TAO AutoML自动调优超参数:学习率、批次大小、LoRA参数及其他设置。系统通过贝叶斯优化进行了43次并行试验。最佳配置达到93.35%——在Oracle云基础设施的多个A100节点上,计算时间不到20小时。
该方法的核心优势在于资源节约。据英伟达估算,LoRA所需的GPU时长比完整模型微调减少约七倍。这对希望适配大模型却无需租用整个集群的企业至关重要。
对行业的意义
需明确背景:93.35%的准确率仅针对Woven Traffic Safety研究数据集的验证部分。这并非自动驾驶安全测试,也不代表模型具备实时决策能力。但核心原理——利用AI智能体自主微调——开辟了新前景。
我的分析:我们正见证从手动调参向智能体驱动管线的转变。此实验中的Codex不仅执行指令——它分析数据、修正配置错误并选择最优策略。尽管其自主性仍受限于预设指令,但这已是迈向全自动化ML开发周期的第一步。未来数年,此类智能体将成为后训练的标准配置,尤其在需要快速适配基础模型至特定数据集的垂直领域。