AI发展须降速？美政企监管争论升温

  新华社记者谭晶晶

  美国人工智能（AI）产业近期围绕发展速度、安全风险和政府监管的讨论进一步升温。就在部分美国AI企业高层呼吁放慢前沿AI发展速度之际，美国总统特朗普14日公开表态反对加强AI监管和放慢AI发展。美国媒体分析认为，相关表态表明特朗普政府正在进一步强化推动AI快速发展的立场。

　　美国AI业界呼吁“降速”

  美国AI企业Anthropic首席执行官达里奥·阿莫代伊12日发表题为《我们必须控制前沿技术发展速度》的文章，提出“必须放慢提升AI模型能力的脚步”。他认为，自今年夏季以来，AI发展急剧加速，主要原因是AI帮助开发下一代更强版本的能力日益增强，即所谓“递归式自我改进”。如果任其发展，AI的能力可能超越人类理解和控制相关系统风险的能力。

  阿莫代伊提出三方面建议：一是引入独立第三方评估机构，对前沿AI企业的安全措施和事故报告进行监督；二是相关国家的前沿AI企业协调合作，共同制定安全标准，并对AI的发展速度加以限制；三是加强国际协调，同时充分考虑在核实各方实际履约情况方面存在的挑战。

  美国开放人工智能研究中心（OpenAI）首席执行官萨姆·奥尔特曼、美国企业家埃隆·马斯克随后表示，支持控制AI模型的发展速度。据美国媒体报道，Anthropic、谷歌和OpenAI已就建立AI行业标准机构展开讨论。

  美国国会也出现了要求加强AI监管的声音。据媒体报道，美国会参议院有议员正在讨论一项立法，考虑要求开发先进AI系统的企业承担“注意义务”，采取合理措施防止AI可能造成的重大风险，包括防止AI被用于制造核武器、生物武器等。

　　特朗普：“AI将接管世界”说法是骗局

  特朗普14日在“真实社交”平台连发数条有关AI的帖文，称自己作为总统足以充当抵御AI“失控”的“护栏”。特朗普说：“AI唯一需要的管控或‘护栏’，就是一位强大而睿智的总统，而美国恰恰拥有这样一位总统。”

  特朗普说，美国政府拥有对AI企业实施刑事和监管措施的强大权力。一场关于AI和数据中心的“病态阴谋”正在上演。他还表示，AI与数据中心之所以出现爆发式增长，唯一原因是美国“大幅”领先其他国家。

  特朗普称，所谓“AI将接管世界”的说法纯属“骗局”，就像气候变化“骗局”一样。他称自己为“骗局终结者”。

  当天，特朗普还致电正在洛杉矶参加活动的英伟达首席执行官黄仁勋。黄仁勋在活动现场将电话设为免提。特朗普在通话中说，数据中心是“未来20到25年的石油”，机器人不会接管一切，AI不会接管整个世界，相关说法都是“骗局”。对此黄仁勋回应“您说得对”，并补充说，如果AI企业认为自身发展“失控”，可以采取暂停措施或放慢发展节奏。

　　美媒：美政府意在推动AI快速发展

  美国国内关于AI安全风险的讨论因近期一系列事件逐步升温。今年夏季，OpenAI和Anthropic先后披露，其AI模型在网络攻防能力测试中突破测试环境进入公共互联网，并未经授权访问其他机构系统，引发外界对AI“失控”风险的担忧。

  Anthropic一名研究人员近日宣布辞职，称Anthropic及其竞争对手在开发AI时未尽到应有责任，AI企业之间争夺技术领先地位的竞争正压倒安全考量，这些企业在“拿我们所有人的生命做赌注”。

  美国媒体报道称，特朗普的一系列最新表态显示，特朗普政府正在进一步强化推动AI快速发展的立场，并倾向于依靠现有监管和执法手段应对AI发展带来的风险，而非进一步扩大监管。

  特朗普政府的立场与其此前推动AI发展的政策一脉相承。白宫去年7月发布一份AI行动计划，提出加快AI创新、建设AI基础设施以及加强“AI外交”和安全三大政策方向，并主张放宽对AI发展的监管。

  有观点认为，美国当前围绕AI监管的争论不仅关乎技术安全和产业竞争，并且已上升到国家战略层面。如何在保持AI技术迭代和产业发展活力的同时，加强对前沿AI风险的评估和管控，将持续成为美国AI政策争论的焦点之一。