Jeff Dean谈AI:从Agent失控到创业成功的1%法则

2026年的YC Startup School现场,Jeff Dean的声音带着明显的沙哑。他解释说自己刚失声过,今天的状态和平时不太一样,但台下6000多名创业者的注意力丝毫没有被分散。对面的YC合伙人没有沉浸在回顾他的传奇履历里——MapReduce、BigTable、TensorFlow、TPU、Gemini,每一项都足以成为一名工程师职业生涯的巅峰作品——而是抛出了一个更具前瞻性的问题:当生成式AI已经席卷整个软件行业,这位最擅长从底层重构系统的技术专家,当下最关注的方向是什么?
Jeff Dean的答案出人意料,不是参数规模更大的基础模型。在近一小时的对话里,他反复提及推理硬件、能源消耗、数据搬运、上下文工程、长周期运行的Agent、自动化实验系统,以及创业公司如何避开通用模型的正面竞争。这些看似分散的话题背后,有一条清晰的主线:AI的下一阶段,不再是单纯把模型训练得更聪明,而是要把模型嵌入一个能够长期工作、持续试错、自动验证、不断积累能力的完整系统里。这意味着,全球AI行业的竞争正在从「谁拥有更大的模型」,转向谁能更高效地组织智能。
一、当AI成为初级工程师,行业分工正在重构
早在2025年5月,Jeff Dean就曾提出一个引发广泛讨论的判断:AI的能力已经接近一名初级工程师。时隔一年,当被问及这个预测的落地情况时,他给出了肯定的答复:「相当准确」。甚至,模型在Agent化、长流程编码和复杂任务上的进步,比他当时的预期还要更快。
这种能力早已不限于写代码,越来越多的Agent系统开始渗透到科学研究、工程开发和其他专业领域。它们不再只是被动回答问题,而是能够拆解任务、调用工具、运行实验、读取结果,并根据反馈持续调整行动路径。
很多人会把AI类比初级工程师的现象,聚焦在人力替代的层面,但Jeff Dean更关注的是另一层深层变化:当一个「初级工程师」可以被复制成数十、数百个,并行工作数天甚至数周时,整个生产组织的方式会发生怎样的改变?
在传统团队中,初级工程师需要熟悉业务、理解工具、不断获取反馈。Agent也是如此,只不过它的「培训材料」不再是纸质文档,而是提示词、工具说明、技能文件、测试体系、评估器和完整的上下文环境。这催生出了AI工程领域的全新分工:
过去,工程师的核心工作是编写代码;未来,更多工程师会转向定义问题、搭建环境、编写规范、设计反馈回路,再调度一群Agent完成具体任务。
Jeff Dean对2027年的预测也印证了这一点:机器学习系统会越来越多地参与改进自身。它们会将大目标拆解为子问题,自动运行大量实验、对比结果,再将有效的方案组合起来,形成能力更强的新系统。「只要一个领域存在可量化的目标,就有机会取得巨大进展。」他说。
这句话是整场访谈的第一把钥匙。AI自动化最先渗透的,未必是知识密度最高的领域,而是反馈最清晰的领域:代码能否通过测试、芯片布局能否降低面积、模型结构能否提升精度、材料性能是否符合要求,这些问题都有相对明确的评价标准。只要评估器足够可靠,机器就能以极高的频率反复试验。因此,AI时代真正的核心单位,不再是单次的问答,而是一次完整的闭环:提出方案、执行方案、测量结果、修正方向。
二、底层逻辑的重构:从算力到数据搬运
Jeff Dean的很多标志性成果,都源于一个朴素的起点:先把数量级算清楚。2001年,Google搜索还大量依赖硬盘存储,虽然硬盘容量充足,但访问速度缓慢。他和Sanjay Ghemawat做了一次估算后发现,当时Google的整份搜索索引,已经可以放进所有服务器的内存中。
在今天看来,这只是一次简单的存储介质升级,但在当时,这意味着完全颠覆传统的系统设计思路。如果索引主要驻留在硬盘上,查询需要等待机械寻道;而将索引放入内存,访问延迟会骤降。两人很快写出新版本并在几天内部署到生产环境,Google搜索的速度因此得到了显著提升。
这个故事常被包装成天才的灵光一现,但Jeff Dean的解读更像一名工程师的常识陈述:当系统条件发生变化,原本不成立的方案突然变得可行,就应该重新计算一次。很多行业的创新都发生在这样的时刻:旧问题长期存在,人们已经习惯围绕它打补丁;直到硬件成本、内存容量、网络带宽或模型能力跨过某个临界点,原来的约束消失,但大多数人仍在沿用旧架构,因为旧的模式已经变成了默认的常识。
Jeff Dean擅长的,就是把常识重新变回可质疑的假设。他会不断追问:为什么一定要这样做?今天的数量级和昨天相比有变化吗?如果把成本最高的环节替换掉,整个系统会不会呈现出完全不同的形态?这也是他给创业者的核心建议:不要只盯着现有方案的不足,而是要从第一性原理重新审视问题——能不能将性能提升一个数量级?能不能把成本降低两个数量级?能不能跳出行业默认的实现路径?
「有时候,你只需要眯起眼睛看一个问题,不要被当下的解法锚定,而是从最基础的逻辑出发思考应该如何解决。」他说。
2013年,Google的深度学习语音识别系统性能显著超越旧方案,错误率下降了一半,相当于过去二十年的语音识别进展在数月内集中完成。产品团队为此兴奋不已,但Jeff Dean却先算了一笔账:如果语音识别的准确率真的大幅提升,用户的使用意愿会显著增强。假设每名用户每天仅使用三分钟的语音识别功能,Google需要新增多少服务器才能支撑这个需求?
结果并不乐观:按照当时CPU的计算效率,Google可能需要将服务器规模扩大一倍。这正是TPU项目的起点——它并非源于团队突然想要造芯片,也不是为了证明Google的硬件能力,而是因为一个成功的模型即将带来无法承受的服务成本。
这段历史揭示了一个常被忽略的AI产品规律:模型效果的提升,并不总是降低成本,反而可能让系统压力陡增。当语音识别的准确率较低时,用户很少调用,系统成本并不突出;但当错误率大幅下降,用户需求被释放后,原本隐藏在后台的算力约束就会浮出水面。
TPU的设计思路,是为机器学习最核心的计算模式打造专用硬件:它不需要运行浏览器或处理通用程序,只专注于低精度、稠密线性代数计算——而这类运算恰好是现代机器学习的核心。第一代TPU最终带来了数量级的性能提升:按照Jeff Dean的说法,它比当时的CPU和GPU节能30到80倍,延迟也降低了20到30倍。
这里还有一个容易被忽略的设计平衡:TPU足够专用,但并没有专用到只能运行某一种固定模型。团队意识到机器学习算法会快速迭代,因此将芯片设计为通用性更强的线性代数系统——它牺牲了运行Chrome或Word的能力,但保留了支持未来算法演进的空间。这种平衡极难把握:专用性不足则收益有限,专用性过强则会随着算法更新快速过时。
Jeff Dean对当下推理硬件的判断,与当年TPU的设计思路一脉相承:下一轮重要的机会仍在专用化,但重心会进一步转向低延迟、低能耗的推理场景。「想象一下,如果延迟能改善50倍,你可以做什么?」他说。当模型回复需要十几秒时,人们只会将其视为偶尔咨询的工具;但当延迟接近即时,AI才能真正融入交互界面、机器人、实时视频、操作系统和连续决策流程。等待从来不是一个小的体验问题,它会彻底改变产品的形态。
Jeff Dean还指出,为2026年的AI工程师更新「必须掌握的延迟数字」时,重点已经从硬盘寻道、缓存未命中和跨洲网络延迟,转向芯片内部的数据流。工程师需要清楚:主存到片上内存的带宽是多少、片上内存到乘法单元的带宽是多少、一次乘法需要多少能量、芯片之间如何互连、从500颗芯片扩展到1万颗芯片时网络效率会如何下降。这些数字看似离产品很远,实则决定了哪些产品能够真正落地。
他给出了一个极具冲击力的比例:完成一次数学乘法大约只需要1皮焦耳的能量,但将数据从高带宽内存搬到计算单元,能量成本可能高出约1000倍。换句话说,今天AI系统中最昂贵的动作,往往不是「计算」,而是「搬运需要计算的数据」。这也解释了批处理的重要性:当一组模型权重从内存加载到计算单元后,如果只处理一个token,数据搬运的成本会全部由这个token承担;但如果同时处理更大的批次,同一份权重可以服务更多计算,能量和带宽成本就会被摊薄。
但批处理与低延迟天然存在矛盾:为了凑够一批请求,系统往往需要等待,这会提升整体吞吐率,但单个用户的响应速度会变慢。因此,很多看似属于模型层的问题,本质上都是硬件和系统问题:为什么训练要用大批次?为什么推理需要KV Cache?为什么模型要追求低精度?为什么系统需要量化?这些问题的背后,都离不开数据搬运和能量约束。
Jeff Dean近期更关注推理场景,正是因为推理对延迟极度敏感:训练任务跑慢一点,只是实验结束得晚一点;但推理任务每多等一秒,都会直接影响用户体验和Agent的工作效率。如果一个Agent需要连续调用模型1000次,单次延迟降低50%,整个任务的完成时间会出现巨大差异,更不用说未来Agent需要运行数天甚至数周。因此,AI的「能源问题」并非遥远的环保议题,它直接决定了模型能否以更低成本服务更多用户、决定Agent能否持续运行,也决定了创业公司的毛利是否健康。
三、Agent的真相:不是聊天窗口,而是分布式系统
过去几年,AI行业习惯用参数量、训练数据量和基准测试分数来衡量进步,但2026年的Jeff Dean更强调模型周围的整套系统。一个真正有用的AI系统,除了模型本身,还需要检索工具、记忆模块、历史信息、执行环境和反馈机制。模型需要知道有哪些可用工具、何时调用工具、如何将复杂问题拆解为一系列动作,还要能够比较多种方案,判断哪一种更有可能成功。这正是「上下文工程」开始走到舞台中央的原因。
他解释说,模型在训练阶段接触的信息,最终被「搅拌」进数千亿乃至数万亿的参数中,它们就像一锅浓汤,知识存在但未必清晰;而真正放入当前上下文的信息,对模型来说更加直接,也更容易被准确使用。
这为小团队留下了重要的生存空间:训练基础模型需要海量的资本、数据和算力,但上下文工程可以从一个简单的API开始。创业者可以围绕具体业务,将领域知识、工具流程、客户数据和评估标准组织起来,让通用模型在细分场景中表现得更加可靠。
Jeff Dean举了一个自己的亲身案例:他和Sanjay Ghemawat经常优化Google内部的底层库,这些数据结构运行在数百万个进程中,哪怕是微小的性能差异都会被规模放大。传统的优化流程是工程师先编写微基准测试,测量当前性能,再修改代码,重新运行基准测试,观察缓存占用和性能变化,然后持续迭代。两人将这套工作方法整理成了一项Agent技能,让模型学会如何运行基准、修改代码、对比结果,并根据测量数据继续优化。「我们只是把人类会采用的工作方法,以模型可以使用的形式交给了它。」他说。
这句话几乎可以视为上下文工程的朴素定义:它不是神秘的提示词技巧,也不是堆砌更多背景材料,而是要回答三个核心问题:专家会按照什么步骤做事?系统有哪些可靠的工具?结果应该如何被验证?当这些内容被结构化后,模型获得的不再是更多的知识,而是一套可重复执行的工作方法。这也是为什么「技能(Skill)」会成为Agent生态中的关键资产:一份优秀的技能文件,可能封装了团队多年的隐性经验,它会告诉模型遇到某类问题时先做什么、哪些错误最常见、哪些工具值得信任、什么结果才算完成。未来公司的差异化,可能不仅存在于模型的权重中,也存在于这些被编码进工作流的经验里。
几乎所有真正开发过Agent的团队,都见过同一个典型场景:前几步进展顺利,模型能够读取需求、调用工具、编写代码,但到了第30步甚至第50步,它就会开始忘记目标、误解当前状态、重复执行动作,或者沿着错误的方向越走越远。Jeff Dean将其中一个核心原因归结为分布外问题:模型在训练中见过大量常见任务,只要任务仍处于它熟悉的「舒适区」,表现通常不错;但一旦连续操作将它带到不熟悉的状态,性能就会突然下降,偏离舒适区越远,错误累积的风险就越高。
解决这个问题的方法之一,是提供技能和提示词,将模型尽可能约束在熟悉的路径上;另一种方法则是使用多Agent系统:多个Agent可以尝试不同的方案,再由另一个模型担任评估者,判断哪些方向更有希望,失败的分支被丢弃,成功的分支继续推进。这本质上是在推理阶段进行搜索,和人类团队的工作方式并不陌生:面对复杂问题,一个人提出方案,另一个人审查风险,第三个人运行实验,团队不会把全部希望押在第一条思路上,而是通过分工和反馈降低单点失误的概率。
Agent运行的时间越长,系统设计就越不能依赖单次正确。真正可靠的长程Agent,需要检查点、状态管理、回滚、分支探索、外部评估、权限控制和异常恢复,它更像一个分布式系统,而不是一个超长的聊天窗口。这也正是Jeff Dean的技术背景开始重新变得关键的原因:MapReduce解决的核心问题之一,就是如何让大量不可靠的机器完成可靠的计算。今天的Agent系统面临着相似的矛盾:单次模型调用并不完美,工具也可能失败,但整个任务仍需要尽可能稳定地完成。未来优秀的Agent平台,可能会继承大量分布式系统思想:任务可以拆分、结果可以验证、失败可以重试、状态可以恢复,局部错误不应该摧毁整个流程。当Jeff Dean说Agent将运行数天甚至数周时,他并不是在描述一个更长的聊天窗口,而是在描绘一种全新的计算基础设施。
四、小团队的破局之道:1%法则与结构性盲区
在YC Startup School的语境下,创业者最关心的问题无疑是机会所在:大型科技公司可以联合设计芯片、数据中心、模型和产品,通用大模型还在快速扩张能力边界,一个两三人的小团队,凭什么赢得竞争?
Jeff Dean的回答并不浪漫:小团队的机会,通常存在于通用模型尚未充分覆盖的具体领域。创业者可以将产品界面、专有数据、工作流和领域技能结合起来,在细分场景中提供更高的准确率和更好的用户体验。但他随即发出了警告:通用模型的能力正在快速变强,今天看似独立的产品功能,可能在6到12个月后就会被基础模型直接覆盖。因此,创业者需要判断自己的优势是否具有持久性。
他给出了一条非常具体的筛选标准:寻找那些当前通用模型成功率接近0%或1%的任务,而不是那些已经能做到20%的任务。「如果模型完全失败,这可能是一个好迹象;如果它已经能做一部分,只是做得不太好,那反而未必是好迹象。」他解释说,20%的成功率意味着模型已经开始具备相关能力,更多的数据、更大的模型和更长的推理时间,可能会快速将其推向可用状态;而0%或1%的成功率,则说明这个任务可能缺少关键数据、特殊工具、领域反馈,或者需要通用模型短期内难以获得的能力。这就是Jeff Dean的「1%法则」。
这并不是建议创业者专挑最难的问题,而是要寻找通用模型存在结构性盲区的领域。这类盲区大致可以分为三类:
1. 专有数据:通用模型可以整合全球公开信息,但未必能访问某个用户的全部个人资料、某家公司的内部流程、某种设备产生的实时数据。创业产品一旦获得这些数据,就能形成与基础模型不同的独特视野。
2. 专业评价能力:很多行业并不缺少生成能力,而是缺少可靠的判断标准。医疗、材料、芯片、制造和科学研究等领域,都需要高质量的验证器。谁能定义「什么是正确的结果」,谁就能让Agent持续优化迭代。
3. 窄而深的专业模型:AlphaFold并不是通用聊天模型,它针对蛋白质结构问题建立了高度专业化的能力。在材料科学、芯片设计和其他专业领域,同样可能出现类似的机会。
这套判断对创业者来说并不轻松,它要求团队同时理解模型的能力边界和行业的深层痛点:只懂AI的团队,容易做出很快会被大平台吸收的功能;只懂行业的团队,又可能低估模型的进步速度。真正的机会,恰恰存在于这两者的交界处。
五、AI时代的稀缺能力:品味、规格与问题选择
主持人曾提出一个假设:如果未来每位创始人都能同时管理50甚至100个Agent,所有代码都由Agent编写,那么什么能力会变得稀缺?Jeff Dean的回答是品味。更准确地说,是判断「应该让Agent做什么」的能力。
他认为,研究工作的大部分价值,不在于实验执行得多么精致,而在于是否选择了一个值得研究的问题。一个团队可以用最精湛的方法完成一项无关紧要的研究,也可以抓住一个关键问题,只要解决它就能改变整个领域。当Agent让执行成本大幅下降后,问题选择的重要性会进一步提升。
过去,一个模糊的想法会因为开发成本过高而自然被淘汰;但未来,只要调动足够多的Agent,很多想法都能被快速做成原型。世界不会因此自动出现更多好产品,只会出现更多产品。因此,规格也会变得越来越重要。
Jeff Dean解释说,和虚拟Agent协作时,目标越清晰,成功率越高。过去,模糊的需求交给资深工程师,对方可以主动追问,也能依靠共享背景补全意图;但Agent虽然也能提问,却更容易在缺少上下文时自行猜测。一个典型的高成功率任务,是将软件从一种编程语言迁移到另一种语言——原因不是迁移过程简单,而是规格极其完整:旧代码定义了行为,测试定义了边界,Agent可以逐项对照,直到新版本的表现与旧版本完全一致。「现在Agent可以替你写软件,但说明你究竟想要什么,反而变得更加重要。」
这对所谓的「AI原生组织」有着直接的启示:未来的管理者不只是分配任务,更需要编写更清晰的目标和验收标准。设计文档不再只是团队的沟通材料,也会成为机器执行的输入;测试、指标、约束和示例,会从开发流程的末端前移到任务定义的阶段。
至于「品味」该如何培养,Jeff Dean给出了一个务实的方法:写下一批你认为未来12个月会变得重要的事情。你不必全部去做,12个月后重新复盘,看看哪些判断成真、哪些被别人抢先实现、哪些毫无进展。通过不断积累预测样本,人会逐渐校准自己的判断。品味并非完全依赖天赋,它也可以通过持续复盘来训练。
六、Jeff Dean的思考武器:从数量级到第一性原理
在访谈的后半段,Jeff Dean分享了一个颇为疯狂的思想实验:过去60年,芯片行业一直在追求更小、更稳定、错误率更低的晶体管,人们默认同一设计制造出的芯片应该尽可能一致,位翻转越少越好。但在大型分布式系统中,工程师早已接受单个组件会失效:硬盘会坏、机器会宕机、交换机会出问题,系统的可靠性并不来自每个部件绝对不出错,而是来自复制、校验、冗余和恢复。
于是Jeff Dean提出了一个假设:如果晶体管每天会发生20次错误,而不是几百万年才出一次错,会怎样?这并不是一个现实的产品计划,他只是想把一个习以为常的前提拿掉——也许极不可靠的晶体管可以用完全不同的方式制造,系统则通过多路径和高层冗余来保证最终结果的正确性。
多数思想实验最终不会变成产品,很多行业的做法持续了数十年,确实有充分的理由。但Jeff Dean认为,仍应该定期重新审视这些理由。MapReduce的诞生就源于类似的过程:早期Google的爬虫和索引系统充满了手工编写的并行代码、检查点和故障恢复逻辑,而真正的业务计算往往很简单——比如读取所有网页、判断页面语言,但大量的系统代码却将这些简单的意图淹没了。Jeff Dean和Sanjay Ghemawat从函数式编程中获得灵感,将大量任务抽象为Map和Reduce操作,将并行化、调度、容错和重试下沉到统一的框架中,让业务开发者只需要专注于表达计算本身。这项设计并没有让机器变得不出错,而是让错误变得可以被系统吸收。
今天的Agent工程也可能处于类似的阶段:大量团队仍在为每个任务手工编排提示词、重试逻辑和工具调用,未来是否会出现一个像MapReduce一样简洁的抽象,让长程Agent的分解、验证、恢复和并行探索成为底层能力?这或许正是下一批基础设施公司的机会所在。
Jeff Dean对未来最兴奋的方向,是将科学方法本身自动化。传统的科研流程是提出假设、设计实验、运行实验、分析结果,再产生下一轮假设,这个循环的速度长期受制于实验成本和验证延迟。AI可以从两个方面改变这一点:自动提出并执行更多实验,以及将昂贵的验证器转化为廉价的近似模型。
他举了量子化学的例子:研究人员要判断一种分子构型的性质,可以运行密度泛函理论模拟,但一次模拟可能需要一整夜。Google的研究人员用大量的模拟输入和输出训练了一个神经网络近似器,它的准确度接近原模拟器,但速度快了约30万倍。当验证速度发生变化后,科学问题的形态也会随之改变:过去筛选1000万个候选方案可能需要数月的算力,而现在研究者吃一顿午饭的时间,系统就能完成初步筛选。实验不再是珍贵的单次下注,而是变成了高频的搜索。
这也是AlphaEvolve、AlphaChip等系统背后的共同逻辑:模型提出方案、工具执行方案、评价器筛选结果,优秀的结果进入下一轮循环。只要闭环足够快,系统就能在巨大的解空间中持续探索。机器学习本身也会成为这种自动化科学的对象:今天的大型研究团队通常由人类提出新的架构或训练方法,先跑小规模实验,再挑选有希望的方案放大。Jeff Dean认为,并没有根本的障碍阻止模型接管其中越来越多的环节:人类给出高层方向,系统自动探索结构、数据配方和训练策略,再将成功的实验组合成新的模型。未来衡量研究效率的指标,可能不再只是每秒浮点运算次数,而是「每单位算力能产生多少有效发现」。算力当然重要,但如何将算力转化为真正的发现,才是更关键的问题。
七、被拒绝的论文与长期主义
2014年,Jeff Dean、Geoff Hinton和Oriol Vinyals共同提交了一篇关于知识蒸馏的论文,而这项技术如今已经成为模型压缩和能力迁移的基础方法:通过大模型作为「教师」,将能力传递给更小、更快、更便宜的「学生」模型。但这篇后来影响深远的论文,当年却被NeurIPS拒绝,一名审稿人认为它「不太可能产生重大影响」。
Jeff Dean谈起这段经历时并没有愤怒,他解释说,审稿人可能并不了解大规模AI服务面临的现实问题:对Google来说,将昂贵的大模型转化为可以服务数亿用户的小模型,显然是极其重要的需求;但对于只关注理论新颖性的审稿人来说,这项工作未必显得足够「基础」。论文被拒后,团队将其上传到arXiv,行业照样读到了它并开始广泛应用。今天,Gemini的Flash模型能够在较小体量和较低延迟下保持强大的能力,知识蒸馏正是其中的核心方法之一。
这个故事并不只是「坚持就会成功」的励志材料,它说明评价体系总有盲区:一个方案的价值,有时只有真正承受过该系统瓶颈的人才能立刻看清。对创业者来说,这一点同样重要:市场、投资人和同行的否定,可能意味着方向错误,也可能只是对方没有处在同一个问题现场。区别的关键在于,团队是否有足够具体的证据,能够证明这个问题为什么重要、为什么现在可以解决。
Jeff Dean并没有鼓励盲目坚持,他鼓励的是:理解问题、持续验证,并且不要将一次评审当成世界的最终判断。
访谈接近尾声时,主持人提出了一个带有想象力的问题:如果把1999年刚加入Google时的年轻Jeff Dean传送到2026年,他会选择加入前沿实验室,还是和两三个朋友创办公司?
Jeff Dean并没有给出标准答案。他说,大组织拥有完善的结构、平台和优秀的同事,个人可以接触到自己不了解的知识,也能借助成熟的产品影响全球用户;而小团队则更自由,但也承担着更大的风险,创始人必须真正相信一个问题,愿意用数年时间承受不确定性。他给出的判断标准比「加入大厂还是创业」更根本:
「如果我解决了这个问题,并且最好的结果真的发生了,世界会因此明显变好吗?还是大家只会说,嗯,挺酷的,然后就没有然后了?」
如果答案只是后者,那么这个问题可能不值得投入最宝贵的时间。他还强调了同伴的重要性:要寻找能力互补的伙伴,也要找低自我、愿意协作、相处愉快的人。真正困难的问题往往需要长期共事,团队成员最好各自拥有别人没有的工具,并在共同工作的过程中继续扩充自己的「工具腰带」。
这番话带着老派工程师的朴素:AI行业总在谈论指数增长、超级智能和巨额融资,但Jeff Dean最终将选择落回到三件小事上:做一个真正关心的问题,和喜欢的人一起工作,尽力让世界变得更好。
结语:AI时代最稀缺的,是把问题看清楚
Jeff Dean的职业生涯中有很多被反复讲述的传奇:和Sanjay Ghemawat在几天内重写搜索系统,将索引放入内存;由三分钟语音识别的算力估算推动Google造出TPU;MapReduce将大规模并行和容错封装进统一的抽象框架;知识蒸馏从一篇被拒的论文变成行业的基础技术。这些故事很容易让人将他想象成一个不断获得灵感的天才,但从这场访谈来看,他的思考方法其实高度一致:
先算清数量级,再找到真正的瓶颈,然后质疑默认的假设,建立更简洁的抽象,最后用测量和反馈推动系统持续迭代。
今天的AI行业正在经历类似的转折:模型已经足够强大,足以承担初级工程师级别的任务。接下来,决定实际生产力的,不再只是模型的智商,而是推理成本、上下文组织、工具质量、验证速度和长程运行的可靠性。Agent会越来越像团队成员,但它们需要清晰的规格、需要技能、需要检查点、需要评价者,也需要一个能够容纳失败的系统。
创业公司的机会并没有消失,只是变得更加苛刻:最好不要去做通用模型已经能完成20%的任务,而要寻找那些成功率仍接近0%或1%的问题。那里可能藏着专有数据、专业评价器、窄领域模型,或是全新的系统抽象。当代码生成变得越来越便宜,真正昂贵的会是问题本身。
什么值得做?什么约束已经过时?什么变化刚刚跨过临界点?什么系统如果快50倍,会变成完全不同的产品?Jeff Dean并没有为创业者列出一份具体的机会清单,他给出的是一种更持久的思考方式:别急着追逐最热的答案,先把问题算清楚。


