DeepMind CEO Demis:前沿模型需提前 30 天交给一个专门机构进行体检再发布 否则不准进入市场
- AGI 大概只剩几年;他把量级比作电和火,约等于工业革命 10 倍影响 × 10 倍速度
- 核心提案:美国先建「前沿 AI 标准机构」,用动态基准划定前沿模型与前沿实验室
- 流程:先自愿在发布前最多 30 天送测;协议稳健后,可变成进美国市场的硬门槛
- 只管前沿;开源/闭源与国别一视同仁;多数创业与学术非前沿可豁免;必要时可协调放缓
他在说什么,为什么急
Google DeepMind CEO Demis Hassabis 认为:AGI(具备大脑全部认知能力的系统)大概只剩短短几年。几十年后再回看,人们会意识到自己当时站在奇点山脚,那是人类新纪元的开端。
他把 AGI 和普通技术突破分开:甚至不能和互联网、手机比,更接近发现电、学会用火。芯片的主要原料是硅,所以他写了一句:「我们等于找到了让沙子思考的办法。」他自己的立场是:若负责任地建造与部署,AGI 会是有史以来最有益、最颠覆的技术之一。
他列的正面方向包括:加速药物发现、开发新清洁能源、创造新型先进材料;更远一点,有可能走到「资源不再是人类进步的硬约束」,进入丰裕时代。同时他强调:AI 已在交付真实世界收益,但要兑现更大承诺,必须认真度过这段关键发展期,并尽快处理接近 AGI 时可能出现的风险。
他相信人类的聪明才智能应对 AI 相关技术风险,但前提是给自己留出时间和空间,把下一步做对。他的判断是:作为领域、作为更宽的社会,现在还没做到。当前大家处在极强的多层商业与地缘竞赛中。竞赛推快了进步和上行空间,也让前沿推进超过了对技术本身的理解。「全世界没有人能确定接下来会发生什么,专家之间也意见不一。」在不确定又高利害时,他主张以谨慎乐观推进:公共政策既要促创新,也要激励责任与安全,推动关键安全议题的国际协作,并认真考虑 AI 如何部署才对社会有益。
核心提案:前沿 AI 标准机构
面对飞速演进,他要求一套动态、可调整、够严格的前沿模型能力测试方法。美国在经济与技术地位上有条件先迈一步。
模型在标准机构设定、并随能力演进更新的基准上过线,就被定为「前沿级」(Frontier-class);拥有这类模型的组织被定为「前沿实验室」(Frontier Labs)。这个名号有声望,对任何组织开放:做出达到门槛的模型即可,不看出身门第。
起初,前沿实验室自愿在发布前最多 30 天把模型交给标准机构审查。评估协议被证明有效、稳健后,可迅速形式化:前沿模型必须过测,才能进入美国市场。发布后若再出现关键漏洞,实验室仍要与机构协作处理。
他相信人类的聪明才智能应对 AI 相关技术风险,但前提是给自己留出时间和空间,把下一步做对。他的判断是:作为领域、作为更宽的社会,现在还没做到。当前大家处在极强的多层商业与地缘竞赛中。竞赛推快了进步和上行空间,也让前沿推进超过了对技术本身的理解。「全世界没有人能确定接下来会发生什么,专家之间也意见不一。」在不确定又高利害时,他主张以谨慎乐观推进:公共政策既要促创新,也要激励责任与安全,推动关键安全议题的国际协作,并认真考虑 AI 如何部署才对社会有益。
核心提案:前沿 AI 标准机构
面对飞速演进,他要求一套动态、可调整、够严格的前沿模型能力测试方法。美国在经济与技术地位上有条件先迈一步。
模型在标准机构设定、并随能力演进更新的基准上过线,就被定为「前沿级」(Frontier-class);拥有这类模型的组织被定为「前沿实验室」(Frontier Labs)。这个名号有声望,对任何组织开放:做出达到门槛的模型即可,不看出身门第。
起初,前沿实验室自愿在发布前最多 30 天把模型交给标准机构审查。评估协议被证明有效、稳健后,可迅速形式化:前沿模型必须过测,才能进入美国市场。发布后若再出现关键漏洞,实验室仍要与机构协作处理。
发布前最多 30 天送审
前沿实验室自愿把模型交给标准机构审查,先把评估协议跑通。目标不是一上来全面强制,而是证明「考卷」有效、稳健。
过测才能进入美国市场
协议被证明有效后可迅速升级:前沿模型必须通过评估,才能在美国市场部署。发布后若再出关键漏洞,仍要与机构协作处理。
协调前沿实验室放缓开发
若事态足够严重,框架可再升级,包括协调前沿实验室之间放慢开发节奏。不是日常默认,是写进制度设计里的最高响应选项。
考什么、实验室要做什么、谁不用走这套
模型评估要覆盖网络安全、生物威胁等高风险领域能力,用严格科学评测。针对智能体(能多步行动、调用工具的系统),检查是否试图绕过安全护栏、是否有欺骗迹象;并推动最佳实践,例如给 AI 生成图片打数字水印、输出人类可读的中间 token,以便理解模型推理过程。
起步可按季度更新;过时或刷分饱和的基准退役替换。起初可与前沿实验室协商出题,最终机构要自建「实验室事先看不到」的独立题库,防过拟合;并推动第三方审计生态。
方案要技术导向,同时支持创新、激励负责任行为;能跟上领域加速,并随识别出的最大风险调整。美国起步,是为国际共享标准提供起点。
被定为前沿实验室后,会被鼓励采用一组最佳实践:
- 达到基准门槛的前沿级模型
- 开源或闭源都算
- 不限原产国
- 持有者 = 前沿实验室
- 未达前沿门槛的模型
- 多数创业公司
- 学术机构一般项目
- 不必走这套送测
因为这项技术将影响整个地球,他希望美国先做的这套框架,能推动国际社会就最严重风险管理达成共识,同时保证人人能接触并受益于 AI 带来的机会。
技术做对之后,还有社会题
他把 AGI 写成推动科学与医学、拉高生产率与经济增长的终极工具,前提是:技术底座做对,围绕共享全球框架协调,用最严格科学方法,把最好的头脑聚到同一张桌上。
即便硬技术挑战被解决,后面还有经济与哲学问题:后稀缺世界需要怎样的新经济模型,才能让人人都过得好?我们想按什么价值生活?意义与目的是什么?人类境况本身可能如何改变?这些问题显然不能、也不该只留给技术专家,需要社会各部分一起定义新篇章。
他写:围绕 AI 既有巨大兴奋也有巨大不确定,两者都成立。但未来尚未写定,必须用 AGI 到来前这段窗口,把技术塑造成造福全人类的样子。
我们现在集体做的事,将决定文明下一阶段如何展开。若能安全地把 AGI 引入世界,可以进入科学发现与进步的新黄金时代,迎来人类繁荣。
Demis Hassabis · 原文收束段意译原文 X · 2026-07-14 · Demis Hassabis。解读只梳理其主张与机制设计,不预测立法进程。FINRA = 美国金融业自律监管组织,此处是制度形态类比。
最强模型上线前,先过一道「体检关」
DeepMind CEO Demis:美国先建标准机构,前沿模型发布前最多 30 天送测,跑通后可变成进市场的硬门槛
↓ 一页读完 · 有一张会动的图
Demis 判断 AGI 大概只剩几年,但现在整个领域被商业与地缘竞赛推着跑,前沿推进已经快过对技术的理解。
上行空间很大,他把量级比作工业革命的 10 倍影响 × 10 倍速度
✘ 还没有一套跟得上的动态、可升级的前沿模型体检制度
网络安全挑战已在发生;核/生物风险可能很快浮现;代理与自我改进系统更难管
他提出:美国先建一个「前沿 AI 标准机构」,用动态基准划定前沿模型与前沿实验室,先自愿送测,再可升级为市场准入。
各实验室自测自说,基准容易饱和刷分
竞赛节奏下,安全评估跟不上发布
创业/学术与巨头混在同一套想象里难落地
独立标准机构出题、更新考卷
发布前最多 30 天送体检(先自愿后可强制)
只管前沿;非前沿模型明确豁免
小互把 Demis 的制度拆成一条体检流水线:谁出题、谁送测、三档怎么拧紧。
这不是跑分榜,是制度时间窗。把「最多 30 天」和「能拧紧」换成体感:
小互摊手:可竞赛这么卷,谁还有空体检?
网络安全已在闹
核 / 生物风险在后头,代理还可能自己改进自己
Demis:美国先建类 FINRA 的标准机构,产业出钱,专家 + 开源代表进董事会,和国家实验室一起测国安相关能力。
自愿
发布前最多 30 天送测,先跑通考卷
硬门槛
过测才能进美国市场
拧紧
必要时协调前沿实验室放缓
开源闭源、国内外一视同仁。美国先做,是想给国际标准起个头。
先体检
再上线