加利福尼亚州沙斯塔山发生的事件再次引发了一个问题：在错误代价关乎健康与生命的领域，对人工智能的信任边界究竟在哪里。三名游客借助谷歌的Gemini聊天机器人准备登山，却因低估路线而面临严重后果。事实证明，神经网络建议团队携带的补给和水远少于实际攀登所需。
计划攀登时间为八小时，但实际攀登却拖延至16小时。游客们在天黑后才开始下山，导致其中一名参与者膝盖受伤。最终，团队偏离了路线，不得不在峡谷中过夜，直到救援人员赶到并提供帮助，将他们护送回小径起点。
算法的危险自负
这一事件并非孤例，而是更广泛问题的征兆。包括Gemini在内的现代语言模型在文本生成和数据分析方面表现出色，但它们关于实际体力消耗、天气条件和特定地区特征的“知识”往往过于笼统或过时。算法不考虑个人体能状况、小径当前状态以及其他关键变量，而这些正是经验丰富的护林员在现场能够评估的因素。
负责此次救援行动的锡斯基尤县警长办公室强调，有必要将人工智能提供的信息与当地专家进行交叉核实。这是完全正确的做法：人工智能应作为初步分析的工具，而非安全事务的最终权威。
作为分析师，我的看法：面向旅游和户外活动的人工智能解决方案市场正在增长，但开发者应在这些场景中引入明确的免责声明和限制。在模型学会整合来自传感器的实时数据、天气预报和社区最新报告之前，在极端环境中依赖它们是一种可能代价过高的风险。沙斯塔山事件鲜明地提醒我们，技术尚不能取代人类的经验和常识。