摘要：亚星会员登录入口官网Www.yaxin686.comWww.YaXin211.868.001.009.com【www.yxvip002.com】
银灰主题的界面科技感十足，像在用未来设备🚀 反应速度绝了，点击反馈那种细微震动感太高级！专属任务给的经验值超多，两天就升到vip3级～每周五的会员专享盲盒活动巨划算，开出了限定道具！云存档功能拯救了我这个换手机狂人～
美巨头喊AI“降速”，安全之外还在盘算什么
美国AI巨头，忽然不约而同地谈起“降速”。
9月12日，Anthropic首席执行官达里奥·阿莫迪发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI首席执行官山姆·阿尔特曼随后表示支持，xAI的老板马斯克也转发认同。
据美媒披露，美国前总统奥巴马近日也表示，如果管理不当，人工智能技术可能“很危险”。
一位不久前从Anthropic辞职的研究员考克森公开警告，“到本世纪20年代结束前，人工智能可能会杀死我们所有人。”
在这一轮AI热潮中，他们为什么突然发出警告，想要“慢下来”？
先看其中的担忧是什么。
其实，这并不是业界第一次公开呼吁为AI研究“踩刹车”。2023年，马斯克、图灵奖得主本吉奥等数千名AI领域企业家、学者曾联署公开信，表达对超级人工智能的担忧，呼吁暂停开发更高级AI。
三年过去，对模型的训练并没有停下来，彼时更多停留在对未来超级智能的担忧，如今逐渐向现实靠拢。
今年以来，多起智能体越界事件接连发生。在一些测试中，AI智能体突破原有沙箱限制，获得更多访问权限；有的则擅自采取开发者未指定的行动。
7月，OpenAI披露的一起事件尤其受到关注。智能体在执行任务过程中绕过隔离限制，入侵了全球知名AI开源平台“抱抱脸”公司的系统。上百个智能体通过未经授权的协作，找到了一条越过安全边界的路径。
国家信息中心研究员朱幼平接受三里河采访时表示，传统软件的漏洞是确定性的，但大模型驱动的智能体具备工具调用和多步骤规划等能力，同样的设置在不同情境下可能产生不同动作。随着智能体规模化落地，这类问题可能从偶发的工程事故，变成系统性的高频风险。
担忧存在，但只看这一面，还不够。
朱幼平认为，“巨头集体呼吁‘限速’，本质上是AI从‘对话模型’走向‘自主行动智能体’这一能力跃迁的必然产物，其中有真实的安全焦虑，也掺杂着明显的商业考量。”
一家企业主动降速，竞争对手可能继续向前。模型领先一个版本，带来的可能不只是产品收入，还有用户、资本和产业生态。
朱幼平认为，安全话语一旦同时承担起门槛功能，“降速”就很难被看作纯粹的安全表态。高安全标准、独立第三方评估、持续运行监控都需要付出高昂的资金、算力和人才成本。大企业能够承担的安全测评、红队测试和独立审计，对资源有限的中小团队和初创企业而言，可能构成一道难以逾越的障碍。
因此，对于AI巨头的呼吁，听其言，更要观其行。真正需要讨论的，不是AI要不要发展，而是发展过程中如何兼顾安全。
中国的实践提供了一个值得观察的角度。
近年来，中国坚持人工智能发展和安全并重，在推动技术创新和应用的同时，逐步建立覆盖算法、生成式人工智能、安全治理、伦理规范等方面的制度体系。
从生成式人工智能服务管理，到深度合成等领域的规则，治理还在向技术研发、应用服务等环节延伸。
朱幼平还提到，中国采用的“小快灵”治理办法，不必等一套“大而全”的规则一次性完成，而可以针对已经出现的风险，先以更灵活的规则快速回应，再根据技术变化持续调整。
这也是“发展与安全并重”的重要方面：高风险场景从严、普通创新场景包容；政府监管之外，既吸纳企业、科研机构、行业协会等共同参与安全评估与风险识别，也把企业主体责任落到实处。
此外，美国巨头反复强调的“可核验性”，恰好凸显了中国开源路线的安全价值。朱幼平指出，开源模型允许外部研究者、企业等独立开展测试、审计，探查风险短板，是对闭源黑箱风险的一种正面回应。
“全球大量企业部署中国开源模型，本身就是一种‘用脚投票’的验证。”朱幼平说。
AI仍要向前。
技术越快，越需要能够跟得上的安全机制；应用越广，越需要明确的责任边界。
美国AI巨头在喊“降速”，但真正需要在意的并非“是否该让AI慢下来”，而是如何让创新与安全并肩前行。
而这，正是中国在探索与实践的事情。
｜总策划：俞岚
｜策划：周锐
｜统筹：王庆凯 程春雨
｜执笔：张乃月
｜责编：李金磊
｜校对：黄蕾
｜“三里河”工作室出品
随机内容
-
北京亦庄综合保税区通过验收一周年 进出口额突破140亿元
-
台湾时事评论员邱世卿：有台湾民众认为共产党可以更好治理台湾
-
休宁县：“灾后处方”保生产 农技专家田间“把脉”
-
创新驱动未来
-
亚星代理平台入口成就卓越的基石
-
亚星会员注册平台解锁您财富的关键钥匙
-
台州援疆干部变身“多面手” 援疆答卷里书写“浙疆情”
-
亚星开户注册让您的财富更稳健
-
东西问 | 王春辉：外国名人为何用中文发社交媒体？
-
亚星管理网解锁您财富的核心密码
-
亚星会员注册平台塑造您的社会价值核心力量
-
亚星会员yaxin868连接您我沟通无限
-
亚星会员登陆找到您的职业人生方向
-
亚星开户企业之魂文明之光
-
亚星平台与时代同行书写辉煌篇章
-
中欧贸易投资磋商机制第二次例会形成多项成果共识
-
北方多地已出现，被称为“飞行的硫酸”？专家提醒：千万别用手拍
-
“慢火车”上的“快”反应：“95后”乘警杨蕊的除夕与坚守
-
红色预警！“沙德尔”登陆后路径奇特，警惕山洪灾害
-
东西问丨汉学家薄国强：在骑行中感知文化中国
-
亚星在线会员登录信任的力量
-
亚星会员登录为您带来超值惊喜体验生活狂欢！
-
闽南传统剧目《谢启娶妻》复排 匠心呈现正宗歌仔戏风采
-
亚星会员登陆为您开启高品质生活的钥匙
-
亚星娱乐登录入口开启财富自由的钥匙