文章摘要
由曾任职OpenAI的人员创立的TypeSafe团队推出的Jev,是近期引发广泛讨论的AI工具。它与大语言模型分工协作:大模型负责深度思考规划,Jev负责快速反射执行,可将同等AI能力成本降低、速度提升各两个数量级,展示了五大创新应用,填补了硬编码与高成本大模型调用间的空白,拓展了AI应用边界。

近期在开发者社区引发广泛讨论的Jev模型,由TypeSafe团队推出,其创始人Diogo Almeida曾任职于OpenAI,参与过ChatGPT背后的指令跟随相关研究。

Jev并非通用的聊天增强模型,而是将智能能力嵌入代码逻辑的工具——大语言模型负责深度思考与决策规划,而Jev则负责快速的即时反射与执行反馈,实现了AI的快慢思考分工。

五大创新玩法,直击LLM应用痛点

火箭自主回收演示:这是最具突破性的测试场景,团队在MuJoCo物理引擎中搭建了一枚猎鹰9级火箭,完整还原了42米长度、425吨总重、9台发动机的真实参数,同时模拟了真实大气环境、马赫数相关阻力、侧风以及推进剂耗尽的极端工况。整个系统没有预设自动驾驶逻辑、预设飞行轨迹,也没有安全否决代码,所有飞行决策完全交由Jev完成。

飞行器每0.8秒就会出现一次失稳风险,Jev以约1Hz的频率进行实时决策,单次决策输出耗时仅0.4秒,甚至自主选择了5台发动机进行着陆点火操作。经过12次实验后,Jev成功实现了助推器的精准自主着陆,全程仅调用了245次API接口,总花费仅4美分。针对“这只是分类器”的质疑,项目开发者Utkarsh回应称,这确实是一个高效的分类器,但它的速度和决策质量为真实世界的复杂任务打开了全新的大门——Jev的优势不在于智能上限,而在于智能的成本和延迟,同样的智能能力,成本降低两个数量级、速度提升两个数量级,就能实现完全不同的应用场景。

实时游戏决策:开发者Faadil Shaik使用Jev实现了超级马里奥兄弟的实时游玩,通过快速推理和结构化输出,首次将前沿大模型的能力带到了游戏帧率级别的实时决策中。该项目已经开源,为AI游戏交互提供了全新的实现思路。

广告情报快速拆解:Matthew Berman使用Jev仅用40秒就完成了37个品牌的724条在投广告的全面拆解,包括每条广告的钩子设计、内容格式、优惠策略、CTA话术、用户认知阶段匹配度以及落地页错配问题等细节,整个过程仅花费9美分的token调用费用。这套解决方案即将被整合进他的产品stealads,还将以MCP形式对外开放,为广告行业的情报分析提供高效工具。

瞬时上下文压缩:在智能体开发中,上下文压缩一直是痛点,以往需要通过反复调用大模型进行总结提炼,而Jev通过为每个tool call打分、自动丢弃无关内容的方式,将上下文压缩从“多次调用大模型”简化为“一次快速打分”,解决了智能体工程师的高频痛点,也是当前传播最广的应用场景。相关的快速压缩方案已经开源,大幅提升了智能体的上下文处理效率。

概率分布可视化动画:开发者Anshu利用Jev的输出概率分布,实现了逐像素点亮的加载动画,像素点亮的顺序并非随机选择,而是基于模型输出的概率分布进行随机采样。有用户质疑这种方式和直接取最高概率的效果差异,作者测试后发现两者质量没有明显区别,证明了模型输出的概率分布本身就是有价值的信息,可以为可视化交互提供更自然的动态效果。

核心价值与命名由来

Jev这个名字来源于经济学家杰文斯,也就是著名的杰文斯悖论:煤炭成本越低,煤炭的使用规模反而越大。团队以此类比智能技术的发展逻辑:智能成本每降低一个数量级,能够解锁的新应用场景就会多更多个数量级。

无论是火箭回收、马里奥游戏还是广告拆解,这些演示都只是玩具级的demo,真正的价值在于为千万行代码中的模糊判断提供了第三种解决方案——此前要么使用僵硬的if-else硬编码逻辑,要么调用大语言模型导致成本过高,而Jev填补了这个中间地带的空白。

最终的核心逻辑可以总结为:LLM负责深度思考与复杂决策,Jev负责即时反射与快速执行,两者各司其职,这才是Jev的正确使用方式,也确实让AI应用的边界得到了极大拓展。

以上内容不代表本平台立场,仅供读者参考