刚刚,诺贝尔奖得主、DeepMind掌舵人Demis Hassabis掷地有声地宣告:
通用人工智能(AGI)即将实现。
哈萨比斯豪言:
药物研发将不再需要十年漫长试错,新型清洁能源或将在几年内突破,先进材料将让「资源稀缺」成为历史名词。
我们甚至可能抵达这样一个节点——资源不再是人类进步的制约因素。
一个令人惊叹的富足新时代,正在敲门。
他直言:现在是人类史上的关键时刻,AGI或将在短短几年内实现!
哈萨比斯给出了一个令人战栗的算式:AGI的影响规模将是工业革命的10倍,而速度也是10倍。
这是「降维打击」。这意味着,人类即将迎来一个100倍速的震荡时代。
在如此激进的预言下,哈萨比斯抛出了他最具争议的方案:设立一个类似金融监管局(FINRA)的组织,要求所有「前沿实验室」在发布模型前,必须经历30天的「预审期」。
甚至在极端情况下,该机构有权协调全球实验室共同放缓研发速度。
但哈萨比斯没有停在这里。
他把镜头拉得更远,直击人类最深层的困惑:「即使我们解决了这些艰巨的技术难题,仍会有更复杂的经济和哲学问题有待解决。」
在后稀缺时代,需要什么样的新型经济模式来帮助所有人共同繁荣?我们希望秉承什么样的价值观?意义和目的将是什么?甚至,人类自身的境况将如何改变?
下面,就是哈萨比斯的文章译文——《前沿AI框架与新时代的曙光》「A Framework for Frontier AI and the Dawning of a New Age」。
前沿AI框架与新时代的破晓
这是人类历史上一个关键的时刻。
通用人工智能(AGI)——一种具备人脑全部认知能力的系统,距离我们可能只有短短几年。几十年后再回望此刻,我想我们会意识到:我们当时正站在奇点的山脚下,说这是人类新纪元的破晓,毫不为过。
我一生都在研究AGI,因为我始终深信:只要负责任地构建与部署,它将被证明是人类有史以来最有益、最具变革性的技术之一。AGI无法与一般的技术突破相提并论,哪怕是互联网、移动互联网这种影响深远的技术也不行——它更像人类发现电、学会用火的那种时刻。
静下来想一想:我们本质上是找到了一种让沙子思考的方法。这是奇迹。
这项技术的影响规模将史无前例——或许是工业革命的10倍量级,且以10倍的速度展开。它将帮助我们解决社会面临的一些最重大的难题:从加速新药研发,到开发新型清洁能源,再到创造全新的先进材料。
我们甚至可能走到这样一个节点:资源不再是人类进步的限制因素,一个令人惊叹的富足新纪元就此开启。
前沿的挑战
AI已经开始带来实实在在的现实收益,但要兑现它的巨大前景,我们必须深思熟虑、小心谨慎地渡过这段关键的发展期。随着我们日益逼近AGI,必须采取紧急行动,应对可能随之而来的风险。
我们已经见识了前沿模型给网络安全带来的挑战;而随着能力持续提升,包括核风险与生物风险在内的其他威胁可能很快显现。放眼更远处,我们还需要强有力的防护措施,以维持对日益智能体化(agentic)、能够递归式自我改进的系统的掌控——并处理那些只有随时间推移才会逐渐清晰的未知问题。
我始终相信,人类的才智与创造力足以解决任何难题。我有信心,化解AI相关的技术风险,是我们能够共同应对的挑战。但前提是,我们得给自己留出时间和空间,把接下来这关键的一步走对。而眼下,无论作为一个领域,还是作为更广泛的社会,我们都没有做到这一点。
此刻,我们深陷一场异常激烈、多层交织的商业与地缘政治竞赛。这种竞争态势固然推动了快速进步、加速兑现惊人的红利,但前沿的进展速度,已经超过了我们对这项技术本身的理解速度。
世界上没有人能确定接下来会发生什么,连专家们也各执一词。当不确定性如此之大、赌注又如此之高时,带着「审慎的乐观」稳步前行,才是明智且正确的策略。这就要求公共政策做到:在促进创新的同时,激励责任与安全;推动关键安全议题上的国际协作;并鼓励各方审慎考量AI应如何部署,方能造福社会。
「前沿AI标准机构」:一个框架
眼下AI的飞速进展,要求我们以一种全新的方式测试前沿AI模型的能力——这种方式必须动态、灵活且严格。
美国有充分条件迈出第一步,率先制定这样一个框架:设立一个新的「标准机构」(Standards Body),仿照受联邦监督的公私合作或行业自律组织的模式——就像金融业监管局(FINRA)那样——其董事会应纳入独立的顶尖技术专家与开源社区代表。
资金规模必须可观,且很可能主要来自产业界,如此才能吸引世界级的技术人才,并为大规模测试提供必需的算力资源。
模型若在标准机构设定的一组基准测试上达到特定门槛,即被认定为「前沿级」(Frontier-class);这套基准会定期更新,以跟上AI能力的演进。
依照这些基准被认定拥有「前沿模型」的组织,将被视为「前沿实验室」(Frontier Labs),并被鼓励采纳一系列最佳实践,例如:发布载有技术细节的模型卡(model card)、维持强有力的内部网络安全、对关键岗位人员做背景审查、为安全与安保研究投入充足资源,等等。
初期,前沿实验室将在模型发布前最多提前30天,自愿把模型交给标准机构评审。一旦评估规程被证明行之有效且足够稳健,就可以迅速将其正式化。
届时,前沿模型必须通过评估,方可在美国市场部署。实验室还需与标准机构合作,处理模型发布后暴露出的任何重大漏洞。
模型评估应包含对网络安全、生物威胁及其他高风险领域能力的严格科学测评。
针对智能体AI的专项测试,可以排查模型是否试图绕过安全护栏、是否露出欺骗的苗头,并确保各项最佳实践落地。例如,为AI生成的图像添加数字水印,以及生成人类可读的输出token,以便理解模型的推理过程。
这些测评将定期更新:起步阶段或许每季度一次,过时或已经「饱和」(被刷到满分)的基准将被弃用、替换。
初期,测评可与前沿实验室协商共建;但最终,标准机构应当建立起自己的技术能力,独立于各实验室开发「保留测试集」(held-out tests),以防模型对测试过拟合。
它还可与政府携手,培育一个第三方审计机构的生态,协助开展评估,并参与打造新的基准与测评。
这一方案的优势在于:它以技术为本,同时又支持创新、激励负责任的行为。它的设计初衷,就是要跟得上这个领域的加速度,并随着最大风险被逐一识别而不断调整;如果形势的严重程度有此要求,还可以逐级收紧,包括在必要时,协调各前沿实验室一致放缓开发节奏。
获得「前沿实验室」的认定将是一份重要的声望,而这扇门对任何组织敞开,只要造出达到基准标准的模型即可。该框架可适用于一切「前沿级」模型,无论来自哪个国家、开源还是闭源;而所有非前沿模型,比如出自初创公司或学术界的,都可豁免这一流程。
既然这项技术终将影响整个星球,理想状态下,这一框架能促使国际社会达成共识:如何管控最严重的风险,同时确保每个人都能获取并受益于AI带来的机遇。
未来尚未写就
AGI有潜力成为推动科学与医学进步的终极工具,并带来巨大的生产力跃升与经济增长。
但要实现这一切,我们必须先夯实技术根基:围绕一个全球共享的框架协同行动,运用最严格的科学方法,汇聚最优秀的头脑,共同攻克眼前的挑战。
即便这些棘手的技术难题都被解决,还有更复杂的经济与哲学问题等在后面:
在一个「后稀缺」的世界里,需要怎样的新经济模式,才能让每个人都过得兴旺?我们想依循怎样的价值观生活?意义与目标将安放何处?甚至,「人的境况」本身又会如何改变?
这些问题的解答,显然不能、也不应只留给技术人。它需要社会的每一个部分走到一起,共同定义这个新篇章。
围绕AI,既有巨大的兴奋,也有巨大的不确定——两者都有道理。
但未来尚未写就。我们必须抓住AGI到来之前这扇珍贵的窗口,把这项技术塑造成造福全人类的力量。我们此刻的共同作为,将决定文明的下一阶段如何展开。只要安全地护送AGI来到这个世界,我们就能步入一个科学发现与进步的黄金新时代,迎来一个人类空前繁盛的光明未来。
参考资料:
https://x.com/demishassabis/status/2076957440109625718?s=20
本文来自微信公众号“新智元”,作者:大卫 所罗门
