Workflow
AI推理时代:边缘计算成竞争新焦点
00360NEW FOCUS AUTO(00360) 环球网·2025-03-28 06:18

【环球网科技综合报道】近日,随着科技领域一系列动态的涌现,AI大模型的竞争焦点正加速向AI推 理转移,AI推理时代已然来临,而边缘计算凭借其独特优势,成为这一新兴领域的竞争新战场。 AI 推理时代开启 自去年以来,科技巨头们在AI推理领域动作频频。Open AI推出O1推理模型,Anthropic跟进推出依赖推 理能力的"Computer Use"的Agent功能,DeepSeek R1推理模型在全球引发广泛关注,英伟达在GTC大会 上亮相首款推理模型、首个推理软件等。这些事件清晰地揭示出AI大模型竞争焦点的转变。 数据传输链路更短,用户体验明显优于中心推理;相较于设备端,又能降低对终端设备的依赖,模型能 力的优化升级更加简便。 边缘节点容量大、健壮性强、可用性高,叠加边缘推理后,更具智能、更加高效,能够更好地支撑企业 数字化、智能化转型。此外,边缘计算还能保障业务连续性,通过业务调度能力实现节点故障时的快速 切换。 在边缘侧还可以提供更多能力,如边缘缓存可实现交互内容的就近存储,减少网络流量、提升模型的实 时性;集成安全的边缘防护能增强大模型部署和应用的安全性。 资料图 巴克莱报告指出,AI推理计算需求将迅 ...