在近日的 Ai4 大会上，Geoffrey Hinton、李飞飞和吴恩达三位 AI 先驱，就 AI 安全与开放的平衡展开辩论。面对快速升级的风险担忧，他们分别从风险治理、社会信任和产业创新角度，阐述了开放生态的必要性。
一、辛顿：风险越大，越需要开放协作
作为 2018 年图灵奖得主，杰弗里·辛顿（Geoffrey Hinton）是深度学习革命的奠基人之一。2023 年，他因担心 AI 的潜在风险而离开谷歌，并多次公开表示"AI 可能威胁人类生存"。然而在本场辩论中，辛顿明确反对"闭关自守"的应对方式。他认为，将模型和研究完全封闭，不仅无法消除风险，反而会让问题被掩盖，导致安全机制滞后于技术进展。
“我们需要的不是把实验室锁起来，而是让更多研究者拥有测试和防御的工具。”
在他看来，AI 风险是全球性挑战，任何单一组织或国家都无法独自应对。开放研究能够让更广泛的群体参与模型审计，也能加速安全技术的突破。
二、李飞飞：开源是建立信任的必由之路
李飞飞是斯坦福大学终身教授，被誉为"ImageNet 之父"，也是"以人为本的人工智能"理念的重要推动者。她指出，AI 技术正在深刻影响公共决策、医疗健康等敏感领域，如果这些系统不透明，公众无法信任，监管也无从下手。开源可以让模型参数、训练数据和评估方法接受独立检验，进而推动负责任的 AI 发展。
“开放不是为了免费获取代码，而是为了让技术面对公众问责。”
三、吴恩达：监管不能成为封闭的借口
作为 Coursera 和 DeepLearning.AI 创始人，吴恩达始终对过度监管保持警惕。他在发言中强调，AI 风险更多地体现在应用环节，而非基础模型。许多大模型的开源版本已经被广泛使用，它们并没有造成人们想象中的灾难，反而让更多创业者能够参与创新。
“将模型技术转让给开源社区，不是安全风险，而是竞争力。”
面对中国在 AI 领域的快速进步，吴恩达认为，美国不应通过技术封锁来维持优势，而应通过更健康的创新生态来保持领先。
四、编者按：开放是安全命题的另一种解法
三位专家的立场也许并不完全一致：辛顿更强调风险治理，李飞飞聚焦社会信任，吴恩达则关注产业活力。但在"开放"这一点上，他们获得了罕见共识。在一些媒体和政策讨论中，"安全"往往与"限制"画上等号，但先驱们提醒我们，封闭本身也可能是一种危险的短视。
这场讨论发生在一个特殊的时代背景下。中国 AI 产业在模型能力和应用场景上不断突破，美国则持续收紧出口管制。当"开放"与"竞争"发生碰撞，它已然超出技术范畴，成为一种战略选择。而三位专家的观点，或许是在提醒：任何以安全为由的孤立，都可能削弱长期创新能力，进而在全球竞赛中被边缘化。
“安全不是一堵墙，而是一座桥。”——李飞飞
本文首发于赢政天下 (https://www.winzheng.com)，获取更多深度技术内容与资源，欢迎访问官网。
