x

全部频道

科技> 正文

端云协同,打通AI落地关键堵点

2026-10-26 08:55 科技日报

“未来可能60%的AI应用跑在本地,30%端云协同,10%由云端独立完成。”在10月22日举行的2026科大讯飞全球1024开发者节上,科大讯飞董事长刘庆峰说。

在AI日渐渗透生产生活各角落的背景下,如何让模型安全、低成本、稳定地进入真实场景,已成为业界的重要课题。随着端侧模型能力持续升级与协同技术迭代优化,端云协同正成为AI进入千行百业的重要路径,加快打通AI落地关键堵点。

平衡安全与成本

要理解端云协同,首先要看到当前大模型落地过程中最现实的两个矛盾:安全与成本。

当前,在真实生产场景中仍存在着大量“碰不到云”或网络条件并不稳定的设备,如内网环境中的办公电脑、工厂车间里的终端设备、偏僻道路上疾驰的汽车。面对它们的智能化需求,云端模型“远水难解近渴”。

端云协同的思路并不复杂:模型首先会结合任务难度、自身能力和数据安全需求,判断任务由端侧、云端还是端云协同完成。通常来说,模型会把对隐私敏感、延迟要求高的任务交给部署在端侧设备的模型完成,将需要复杂推理、大规模知识检索的任务交给云端大模型。一端一云,各司其职,协同发力。

更可控的流程、更低的单次调用成本,以及更稳定的应用体验正让端云协同成为行业共识,各厂商布局节奏明显加快。苹果公司已明确将其基础模型拆分为两款端侧模型与三款云端模型,端侧负责毫秒级延迟的个人情境理解,云端承担智能体工具调用与跨领域复杂推理。国产厂商荣耀也与阿里千问打造端云协同创新模式,千问提供基础模型能力,荣耀终端提供系统能力和终端用户的真实使用场景。新兴大模型原生AI终端品牌阶跃终端,也在不久前推出首款大模型原生智能体手机STEPX Neo,将原生端云协同列为核心能力。

协同关键在调度

端云协同并非新概念,但其距离真正落地还有很长的路要走。其中一个重要原因在于,过去的端侧模型大多仅能停留在文本补全和简单问答,一遇到多步工具调用、长文档理解就容易“掉链子”。

如今,端侧模型的显著进步让端云协同有了落地可能。

科大讯飞旗下大模型品牌词元星火更新了其星火X2.6-4B端侧通用大模型。它不仅原生支持最长100万词元上下文的模型,还大幅提升了智能体、代码、长文本、数学、推理、通用知识、指令跟随等能力。

“我们认为4B的参数规模是最合适的,它既是做智能体任务的最低规模,也是能在主流消费级硬件上跑起来的最大规模。这使得星火X2.6-4B可以轻松进入笔记本、车机、智能家居等多类存量硬件。”刘庆峰介绍,星火X2.6-4B将端侧模型能完成的智能体类型任务比例由业界主流的12.8%提升到41.9%,使其可以解决更多工作流任务,大幅提升可用性,让端侧智能落地真正成为可能。

只是端侧强还不够,协同的关键在于“会调度”。一项任务由谁完成,直接关系着端云协同的落地效率和成本。

荣耀产品线总裁方飞介绍,在荣耀与阿里千问打造的端云协同模式中,双方根据端侧功耗、内存和时延要求,共同决定模型的能力边界。这种模式使模型分工明确,并可按照智能体的认知回路将复杂推理、快速响应、具体执行等不同类型任务分配至不同模型,覆盖从感知、理解、规划到执行的完整链路。

星火X2.6-4B同样在调度优化上发力。其基于星火大模型端云一体协同架构,通过精准路由与协同执行,提升任务分配准确性与端云协同效能,推动端侧模型与云端模型优势互补。具体来说,它引入基于评语模型的端云路由协同训练机制,通过同一任务在端侧模型与云端模型上的多次采样,利用评语模型对端云组间结果进行质量对比,构建奖励与训练反馈,并结合协同交替训练,持续优化任务路由,使端云路由准确率大幅提升。

词元星火首席技术官刘权打了个比方:端云路由就像是“派单员”,负责分发任务。评语模型则充当“裁判员”,通过“裁判打分”的方式,反复训练一个智能“派单员”,让它越来越会判断任务到底该端侧做、云端做,还是端云一起做,让端云真正实现“无感”协同。

拓展AI落地场景

端云协同更大的发展空间还藏在许多此前云端模型难以触达的场景里。科大讯飞列出了十大适合端云协同的任务类别,包括私域知识深度研究、多源证据核验与风险研判、复杂数据分析与假设验证等。

以私域知识深度研究类任务为例,围绕一个技术问题,模型可以先在本地读取项目文档、实验记录、失败日志、设计图纸等私域材料,由端侧模型完成语义理解、证据筛选和时间线梳理。云端模型只需根据脱敏后的检索需求,查找公开论文、技术标准、专利文献和行业资料,做跨来源的综合推理。结果返回后,再由端侧模型逐条核对引用来源、数据口径和版本差异,标出证据强度与相互冲突之处,最终形成一份有出处、可回溯的研究结论。

“对研究团队来说,这意味着实验记录、项目资料等需要高度保密的数据不必离开本地。云端补足的是外部知识的广度,端侧守住的是敏感数据的边界和结论核验的最后一关。”刘权说。

随着端云协同开辟AI落地新路径,AI走进千行百业将打开更广阔想象空间。

责任编辑:纪敬(QC0003)作者:都芃

北京千龙新闻网络传播有限责任公司版权所有  未经千龙新闻网书面特别授权  请勿转载或建立镜像  违者依法必究

增值电信业务经营许可证(全国)B2-20100033&  增值电信业务经营许可证(北京)京B1.B2-20070037

信息网络传播视听节目许可证0104056号  互联网新闻信息服务许可证11120180003号  广播电视节目制作经营许可证18136号  网络出版服务许可证284号  新出网证(京)字013号

京公网安备 11010102007881号  京ICP备10003822号-1  京ICP证000032号

京ICP证000032号 北京互联网举报中心 不良信息举报中心 无障碍
分享到:
QQ空间 新浪微博 微信 腾讯微博 QQ好友 百度首页 腾讯朋友 有道云笔记