前OpenAI研究副总裁:人类研究员的时间还剩2年,整个AI研究迅速走向自动化
wallstreetcn人类在AI研究发现中继续扮演重要角色的时间只剩最后两年。之后从提出假设到验证的整个AI研发闭环将实现完全自动化。一味复刻大厂的Transformer模型是一场“必输的游戏”,当前AI技术更进一步的瓶颈恰恰是架构本身。未来的不仅是AI实验室,所有大型企业都将走向完全自动化。
在当前的人工智能领域,研究员们正面临着一种前所未有的撕裂感:一方面是技术一日千里的狂飙突进;另一方面,则是被无尽的代码与实验压榨至极限的疲惫。
“你现在经常能听到AI领域的研究员们在重复这句话:‘我们的工作只剩最后几天了,趁现在还能干就多干点,之后我们就可以全都休息了。’”前OpenAI研究副总裁 Jerry Tworek 在近期的访谈中抛出了这个略带黑色幽默的观点。
在他看来,这绝非一句简单的玩笑。随着“原生智能体(agent-native)”时代的到来,AI自身正迅速接管研发工作。“我粗略估计,人类研究员在AI研究发现过程中继续扮演重要角色,至少还有两年的时间。”
离开效力七年的OpenAI后,Jerry 创立了 Core Automation。他的野心不止于研发下一个大语言模型,而是试图重构AI公司的运转范式——用AI来研发AI,打造完全自动化的“第三代AI实验室”。

以下为访谈要点:
人类研究员的“倒计时”:人类研究员在AI研究发现中继续扮演重要角色的时间只剩最后两年。之后,从提出假设到验证的整个AI研发闭环将实现完全自动化。
第三代AI实验室崛起:区别于DeepMind/早期OpenAI(纯研究驱动)和GPT-3后的实验室(专注算力规模化),第三代实验室将“自动化”置于首位。利用低成本的AI智能体(Agents)取代人类执行繁复的实验与代码编写,可将研发周期从数月压缩至一天。
挑战Transformer霸权:一味复刻大厂的Transformer模型是一场“必输的游戏”,当前AI技术更进一步的瓶颈恰恰是架构本身。新一代实验室正利用编程智能体,从零探索曾经因为“试错成本极高”而被束之高阁的新架构,目标指向在测试时(test time)学习的新模型。
揭秘o1/o3模型内幕:大规模强化学习(RL)是通往AGI的必经之路。Ilya Sutskever早在2019年便精准预判了路线图。o系列(推理模型)的突破源于研究团队多年的底层探索,以及关键时刻领导层(如Jakub Pachocki)对算力的果断倾斜。
“公司级AI”将成为终极产品:未来的不仅是AI实验室,所有大型企业都将走向完全自动化。在剥离了重复劳作的“后劳作时代”,人类将拥有更多时间去追求精神与身体的伟大。
倒计时两年:第三代AI实验室告别“人肉执行”
Jerry Tworek 将AI实验室的发展划分为三个阶段。
第一代以DeepMind和早期的OpenAI为代表,它们诞生于“大规模AI可行性”被验证之前,是纯粹以实现AGI为目标的“研究驱动型”机构;第二代则诞生于GPT-3发布之后,当Scaling Law(规模法则)被证明有效,各家实验室开始疯狂竞逐算力,试图通过规模化产生智能(以Anthropic等为代表)。
而现在,我们正在见证第三代AI实验室的出现——它们试图将“自动化”放在首位。
在传统的AI研发中,提出假设、编写代码、跑通小规模实验、再到调动数十人花费数月时间去扩大规模,这是一个极其昂贵且摩擦力巨大的过程。
“在很多方面,我们现在的做法是:人类研究员依然负责生成洞见(Insight)和指明方向,但智能体(Agents)的作用是尽可能简化执行过程。”Jerry指出,虽然目前的智能体还不擅长开放式探索或提出极其精准的假设,但只要指令明确,它们的执行力无可挑剔。
“如果我们可以把实验的时间从一个月缩短到一天,那就是 30 倍的加速。” Jerry预测,两年后,整个人工智能研究的闭环——从提出想法到数据验证,将完全实现自动化。人类在其中将不再发挥决定性作用,就像今天的人类在国际象棋比赛中一样。
避开算力内卷,打破Transformer的“十年统治”
当前,几乎所有头部大厂都在Transformer架构上“卷”算力。但在Jerry看来,对于新兴实验室(NeoLabs)而言,一味跟随是一场灾难。
“仅仅雇一群研究员然后说‘我们将像 OpenAI 和 Anthropic 一样训练 Transformer 模型,并试图与他们竞争’,这是一个非常糟糕的策略。这是一场必输的游戏。”
他指出,受限于经济激励和高昂的试错成本,大厂倾向于走最稳妥的规模化路线。但历史经验表明,任何技术的早期阶段都会经历底层的剧变。“目前 AI 技术更快发展、更快进步的瓶颈,恰恰是架构本身,也就是我们用了这么多年的 Transformer。”
为什么过去十年没人能成功替换Transformer?Jerry给出的答案是:试错成本太高。
在过去,研究员要测试一个新架构,代码极难编写。即便小规模跑通,要扩大规模还需要极高的算力审批和团队资源。很多创新想法就这样在漫长的科层摩擦中被扼杀,或者被Transformer的既有势头所淹没。
但现在情况变了。“写代码变得大幅度廉价和容易,这可能是一种独特的解锁方式。” 凭借低成本的AI编程智能体,Core Automation 正试图从零开始探索曾经被放弃的架构路径。他们的“北极星”目标非常明确:打造能在测试时(test time)进行学习、能从用户交互中学习的新架构模型。
首次揭秘 o1/o3 突破内幕:强化学习与算力的奇迹
作为 OpenAI o系列(推理模型)的核心开发者,Jerry 也首次在访谈中回顾了这一颠覆性突破背后的故事。
早在2019年初,Ilya Sutskever 就在全员大会上精准描绘了通往AGI的路线图:“我们需要用能得到的所有数据训练一个巨大的生成模型,然后我们需要用强化学习(RL)进行训练。”
方向虽然明确,但执行之路却漫长而坎坷。Jerry透露,GPT-3 开始训练时,他的第一反应就是如何用它做强化学习。初代的 Codex 就是大语言模型结合强化学习的实验产物。然而,受限于数据、算法和实验设置,团队在很长一段时间内都无法将其有效扩展。
“这些东西当时都在后台默默酝酿。很长一段时间里,尝试都没有取得巨大的收益。”
转机来自于一次“生命的迹象”以及领导层的果断决策。当模型终于在强化学习下展现出可能奏效的微弱火花时,首席科学家 Jakub Pachocki 敏锐地抓住了机会:“杰瑞,现在我们有了这些 GPU。看看我们是否能开始扩展这个,是否能把现有的结果做大做强。”
在算力匮乏的AI实验室里,“先有鸡还是先有蛋”(先有成果还是先给算力)是永恒的难题。但正是高层“放手去干”的算力倾斜,点燃了整个团队。
“这让我们激动万分。我们付出了三倍的努力,去思考需要什么样的数据集、系统和实验来证明它可以持续扩展。兴奋带来了实验结果,结果又创造了势头。” 最终,通过将强化学习的规模提升数个数量级,震惊行业的 o1、o3 推理模型得以面世。
终极愿景:“公司级AI”与后劳作时代的狂想
谈及 Core Automation 的未来产品,Jerry 的目光超越了单纯的AI模型。
“我们想把自己的公司打造成世界上最自动化的公司,并且将其作为蓝图。我们要构建出一个类似‘公司大脑’的东西,集中所有的公司信息,员工通过终端连接,成为一个公司 AI 的用户。”
当被问及如果大大小小的公司最终都实现了完全自动化,人类的未来将何去何从时,Jerry 给出了一个充满哲学意味的“后劳作(post-labor)时代”设想。
官僚作风最重的大公司将最先被自动化,AI将接管信息的传递与流程的优化。这意味着,人类十万年来为了生存而不得不进行的“人肉执行”将逐渐走向终结。如果矿山能自主运作提供资源、软件能自我修复漏洞并开发新功能,人类就不再需要为了世界运转而强迫自己苦逼地“打工”。
但这并不意味着劳动的绝对终结。Jerry 认为,未来的焦点将转向“人类增强(human augmentation)”与追求极致的伟大。
“我有点像在想象这样一个世界:我们生活得像古希腊哲学家一样,在广场上聚会,整天互相讨论哲学、运动身体,做一些我们想做的事。人类应该努力在身体和精神上变得伟大,就像今天的职业体育一样,没有经济理由去做,但我们为了追求伟大而努力。这才是对我们来说最重要的部分。”
随着倒计时两年的时钟滴答作响,无论是AI研究员,还是所有身处知识经济浪潮中的普通人,或许都到了该重新思考“工作”定义的时候了。
以上内容仅用作资讯或教育之目的,不构成与BTCC相关的任何投资建议。BTCC竭力但不能保证上述全部内容的真实性、准确性和原创性。