文章摘要
针对AI智能体规模化部署面临的计算资源瓶颈,Cloudflare推出开源运行时CloudflareComputer,为其提供持久化、有状态运行环境。它依托Cloudflareisolates实现无服务器执行,降低成本、提升速度且便于扩展。引入全新运行时机制,搭配的isolate能力强大。目前提供三种后端选项,但处于早期预览阶段,适合实验探索。

当前AI智能体的规模化部署面临着计算资源瓶颈,Cloudflare近日推出了全新的开源运行时Cloudflare Computer,旨在为AI智能体提供更贴近真实计算机的持久化、有状态运行环境,而非依赖临时容器。据该公司介绍,这套运行时依托Cloudflare isolates实现快速的无服务器执行,能够降低智能体的运行成本、提升执行速度,同时更便于扩展。

Cloudflare Computer旨在解决AI智能体部署过程中的一大核心挑战。该公司指出,依赖传统容器运行智能体的模式,无法扩展到数亿乃至数十亿的并发智能体规模,因为全球范围内根本没有足够的计算资源来支撑这样的体量。

为破解这一难题,@cloudflare/computer软件包引入了全新的智能体运行时机制,由平台自主决定代码应该在isolate、容器沙箱还是Web浏览器中运行。在这套模式下,每个智能体都会获得专属的运行环境,运行时会针对运行效率和可扩展性进行针对性优化。

Cloudflare团队表示,他们对于@cloudflare/computer的目标是,为智能体打造这样一款运行时:仅不到10%的工作需要依赖容器,像编码任务、音视频处理和文档创建这类工作,都可以通过isolate来完成。

搭配Cloudflare Workers推出的isolate具备无限横向扩展的能力,而且启动和关闭的速度极快。此外,isolate还可以持久保存智能体的运行状态,在智能体闲置时进入休眠模式,当需要时可以自行启动容器沙箱来配合运行。Cloudflare认为,isolate和容器沙箱的组合模式非常高效,能够兼顾横向和纵向的扩展能力:

Cloudflare的架构被设计为在isolate(一个Durable Object)中运行智能体运行框架,并将按需连接的容器作为工具调用。这使你能够只在必要时使用更重量级的计算原语,从而优化性能和成本。

该架构的一个核心组成部分是基于SQLite的共享文件系统,isolate和容器都可以访问这套系统。这意味着任务可以在两种运行环境之间无缝转移,共享文件系统也能让它们处理相同的文件。Cloudflare Computer的文件系统可以与Git仓库、存储桶或任意文件配合使用,同时确保所有操作都受到管控、经过审计并处于可观测状态。

目前,Cloudflare Computer提供三种后端选项:第一种是容器项目,将SQLite状态以真正挂载到FUSE文件系统的形式暴露给沙箱容器;第二种是isolate shell,在Dynamic Worker中运行just-bash环境;第三种是isolate JavaScript,在一个全新的Dynamic Worker中运行ECMAScript模块。

Cloudflare提醒,Cloudflare Computer目前仍处于早期预览阶段,只适合用于实验、探索和原型开发场景。

以上内容不代表本平台立场,仅供读者参考