17岁AI研究者陈广宇加入Jeff Dean创立的Discovery Loop团队

据行业观察消息,17岁的AI研究者陈广宇已加入由Jeff Dean等人创立的Discovery Loop团队。
10月15日,陈广宇在相关社交平台宣布离开前东家,称过去一年是他迄今为止最美好的时光,特别感谢了当初愿意聘用16岁的他的同事。对于未来的方向,他仅留下一句话:“还有更多事情值得探索。”
离职消息公布后,Anthropic的可扩展强化学习方向负责人曾与他取得联系。对方透露,两人此前一周刚见过面,询问他是否仍计划前往卡内基梅隆大学,并邀请他到旧金山工作。陈广宇回应称自己正准备前往湾区,这一对话一度引发外界猜测他将加入Anthropic,但他随后否认了这一说法。
16岁时加入Kimi,参与万亿参数大模型研发
陈广宇加入Kimi时还是一名高三学生。在Kimi期间,他参与了多项核心技术研发,包括优化Kimi Delta Attention(KDA)的计算内核、研究Attention Residuals,以及探索大模型训练优化器。
今年3月,陈广宇与张宇、苏剑林共同以第一作者身份发表论文《Attention Residuals》。这项研究改进了Transformer的残差连接机制,使模型能够有选择地利用此前不同层的信息,改善深层网络的信息传递。论文发布后,曾有业内人士评价该研究“令人印象深刻”。
7月,Kimi发布总参数量达2.8万亿的K3大模型,Attention Residuals成为其核心架构技术之一,陈广宇也参与了模型发布前的案例制作。
在个人研究方向上,陈广宇专注于模型架构、优化器,以及与硬件特性相适配的高效算法和计算内核。加入Kimi之前,他还曾在Tilde Research从事应用型模型可解释性研究。
此外,他还在个人网站上列出了自己秉持的一些理念:
自主行动力是一种超能力。
品味是可以培养的。
把想法写下来。
和朋友一起,任何问题都能找到解决办法。
可以用积极、有益的方式探索和改造这个世界。
不要陷入局部最优解。
有意思的是,他在“喜欢的东西”一栏曾写道“向我的老师Gemini学习(现在看来,这句话有点不合时宜了)”。
新方向:估值约500亿美元的Discovery Loop
Discovery Loop成立于今年8月,由Jeff Dean、Sanjay Ghemawat、Quoc Le和Oriol Vinyals四位前Google核心研究人员共同创办。其中,Jeff Dean曾担任Google首席科学家,参与领导Gemini研发;Oriol Vinyals同样是Gemini项目的重要技术负责人。
新公司的研究目标是利用AI加速机器学习、科学和工程领域的发现过程。具体来说,Discovery Loop希望让AI自动提出假设、设计和运行实验、分析结果,再根据反馈开展下一轮研究,形成持续迭代的自动化实验系统。
公司计划首先推进机器学习研究自动化,随后拓展到其他科学和工程领域。9月,有行业消息显示该公司正寻求新一轮融资,目标估值约500亿美元。
刚刚离开大模型研发一线的陈广宇,将有机会与Gemini的前核心研发人员合作,继续探索AI研究自动化的方向。

