DigitalOcean 打造 AI 原生云,帮助 AI 应用大幅降低成本与运维复杂度
人工智能行业存在一个复合型的瓶颈而这个瓶颈并非模型本身而是推理。过去仅仅是一次模型调用如今已演变成一个持续交互的系统。现在的应用程序会编排多个模型检索并合成数据执行工具并在生产环境中重复这一循环。这些不再是“无状态请求”而是更像基础设施而非软件特性的动态系统。以下四个变化正在重新定义基础设施必须具备的能力推理已取代训练成为重心推理模型正成为默认选择自主智能体正在大规模运行开源模型正以极低的成本达到与闭源模型相当的质量大多数技术栈从未为此而设计。超大规模云服务商提供了数百种服务但依然需要将它们拼接在一起。推理提供商则坐落在别人的算力之上额外增加了一层利润空间。GPU 供应商提供芯片但不提供系统。推理已悄然成为现代技术栈中最昂贵、却又最无人真正掌控的一层。每一项新能力都被叠加在一个碎片化的基础之上而其底层的复杂性则在不断累积。最终你遇到的问题不再是模型问题而是技术栈的问题。今天在 Deploy 2026 大会上DigitalOcean 发布了 DigitalOcean 的 AI 原生云这是一个面向生产级AI工作负载的全栈系统。DigitalOcean 的 AI 原生云建立在 DigitalOcean 的核心云服务之上涵盖计算、存储、网络和托管服务并针对AI系统在实际生产中的运行方式扩展了专门设计的能力。目标很简单精简技术栈让构建者能够专注于构建而不是把各种系统拼凑在一起。在这里开源不是附加功能而是基础。DigitalOcean 去除了不必要的抽象层消除了供应商之间的利润叠加让开发者可以直接访问构建和扩展AI系统所需的原语。这并非空谈。像 Workato 这样的客户在 DigitalOcean 上运行了数万亿次自动化任务成本降低了67%。Character.ai 部署于DigitalOcean 云平台上每天处理超过 10 亿次查询推理吞吐量提高了2倍。Hippocratic AI 医疗平台支持超过 2000 万次患者交互延迟降低了40%。这三个客户案例表明 DigitalOcean AI 原生云已在生产环境中稳定运行。面向现代AI系统的五层技术栈AI应用程序不是单一系统而是由多个相互作用的层组成这些层必须持续协同工作。DigitalOcean AI 原生云将这五层整合为一个统一的系统包括 托管式Agents、数据与分析、推理引擎、核心云服务、基础设施。如下图所示DigitalOcean AI原生云的新增能力这些并非概念上的层次而是实际运行的系统。DigitalOcean 正在扩展产品服务提供涵盖推理、数据和存储的生产级能力使其能够大规模运行。Inference Router推理路由器公测版一个具备策略感知能力的控制平面可根据成本、延迟、质量与数据合规性动态路由请求。团队无需硬编码模型逻辑只需定义意图系统即可在不同模型提供商和部署方式之间自动优化执行路径。例如LawVo 运行着 130 AI 智能体每周处理超过 5 亿 Token在无需修改代码的情况下将推理成本降低了 42%。专用推理与 Bring Your Own Model支持在专用 GPU 基础设施上运行自定义或微调模型全面掌控性能、扩展和配置。开发者可以从 Hugging Face 或自有环境部署模型通过预调优的推理栈和托管编排实现高吞吐运行而无需承担 Kubernetes 的复杂性。扩展模型与服务通过统一系统运行和评估文本、图像、音频和视频模型。模型库持续更新包含 25 新模型并支持“Day 0”首发接入例如 NVIDIA Nemotron 3 Nano Omni在 DigitalOcean 首发。该高效开源多模态模型整合视觉、语音、语言与工具调用能力并通过 NVIDIA TensorRT-LLM 在内核层优化。内置评估工具可在上线前对质量、成本和延迟进行基准测试。PostgreSQL和MySQL高级版公测托管式PostgreSQL和MySQL高级版提供超大规模云服务商级别的可靠性和扩展能力与标准版并行提供。托管式 Weaviate预览版提供可用于生产环境的向量数据库基础设施无需运维负担并与 Serverless Inference 原生集成具备可预测定价。Knowledge Bases知识库一个完全托管的 RAG 服务处理数据摄取、分块、嵌入、检索和重排序并为智能体框架提供 MCP 支持。让你的团队只需几天就能从原型走向生产。旨在简化同时不限制灵活性优势并不在于任何一个单独的层而在于它们如何协同工作。当智能体、推理和数据运行在同一个系统上时性能和成本方面的优化会自动相互叠加。技术栈变得能够自我强化而不是碎片化。与此同时灵活性得以保留。开放的 API 和与现有工具的兼容性使得采用新模型、集成外部系统以及根据需要演进架构变得容易。展望未来从本地部署到云计算的转变催生了 AWS。从云到 SaaS 的转变催生了 Salesforce。而从云原生到 AI 原生和智能体原生应用的转变将催生下一家伟大的基础设施公司。DigitalOcean 志在于此。五层技术栈。一个平台。层层开放。今天就让我们与开发者一起构建吧。
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2570129.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!