端侧智能浪潮：云端协同重塑人机交互新时代

当前，人工智能的创新浪潮正从云计算中心快速渗透到我们日常生活中的各类终端设备，包括AI个人电脑、智能手机以及多样化的智能机器人，这标志着一场深刻的产业变革正在加速推进。这场变革并非简单的技术迁移，而是人工智能与终端体验深度融合的演进过程，将彻底改变人类与机器之间的互动模式。

然而，当人工智能能力下沉至终端设备时，所面临的挑战远比预期更为复杂。如何在成本控制与用户体验之间取得平衡？如何确保数据安全与个人隐私？又如何让通用型大模型适应各行各业独特而细分的需求？

行业已形成一个清晰共识：端侧智能的兴起，并非要取代云端，而是要构建一种“云端协同”的智能化范式。这种模式超越了简单的任务分工，而是基于实际场景需求的精细化布局，旨在实现体验优化、成本效益与安全保障的最佳融合。在实际应用中，该协同策略主要由四大核心因素驱动：

● 实时性与安全性。 在机器人控制、自动驾驶等关键领域，毫秒级的延迟都可能导致安全事故。机器人的“神经级控制”必须在设备端完成闭环，依赖云端往返通信的风险极高。这是端侧算力不可替代的核心价值，确保了智能设备在关键时刻的稳定性和可靠性。

● 数据隐私与合规。 用户数据的隐私保护已成为重中之重。部分敏感数据不适合直接上传至云端，本地化处理成为必然选择。这意味着必须在终端部署足够强大的模型来处理这些信息。

● 成本与效率的平衡。 将高频、相对简单的任务放在端侧执行，可以显著降低云端推理成本；而对于知识问答、复杂逻辑推理、模型迭代升级等“重型任务”，则交由算力更充沛、效率更高的云端处理。这种精细化的分工，是实现大规模商业部署的关键。

● 全局协同与优化。云端扮演着协同与管理平台的角色。它将分散的终端设备整合为一个有机整体，通过全局视角优化系统运行，借助集群调度实现“1+1>2”的协同效应，从而解决大规模设备部署的管理难题。

打造体验卓越的智能终端，是一项复杂的系统工程，绝非单一企业能够独立完成。硬件、云平台、算法、数据等产业链各个环节都不可或缺。一个开放、协作的生态系统，已成为推动行业向前发展的共同选择。

在这个生态中，角色分工明确：硬件厂商提供物理载体，算法公司专注于核心模型的研发与优化，而像阿里云这样具备全栈AI云能力的平台，则发挥着“智能基石”的作用。其提供的不仅是模型本身，更是一整套从底层算力、数据处理、模型训练与部署到应用开发的“全栈式”服务。这使得创新者可以将精力聚焦于自身最擅长的领域——无论是用户需求洞察，还是人机交互设计，从而加速产品的研发与迭代。

以下为36氪研究院院长邹萍与视源股份未来教育集团（希沃）副总裁黄柏林、银河通用联合创始人张直政、心言集团具身智能资深算法工程师颜鑫、阿里云智能集团通义大模型解决方案总监郑海超的对话内容，经36氪编辑整理：

01. 端侧智能落地的路径选择和方法论

36氪：有的企业选择在端侧部署小模型，也有选择通过云端调用的方式给用户提供服务，各位是如何选择自己的技术发展路径的？

黄柏林：首先应当回归客户的实际需求。希沃作为教育品牌，专注于教育信息化领域。我们代表性的产品是希沃学习机，不同年龄段孩子的需求各异，大模型部署在端侧还是云端，我们更多考量的是能否匹配孩子在该阶段的学习需求。

我们目前选择的技术路径是端云结合的方式。例如图像识别这类传统模型能解决的问题，就放在端侧处理；相对复杂的非标准化问题则交由云端处理，最终都是为了更好地服务客户需求。

张直政：大模型为具身智能领域带来的变革是赋予机器人一个聪明的大脑，银河通用致力于构建由大模型驱动的机器人体系。

传统的机器人运动控制依赖于硬编码，这意味着动作被预先写死，注重重复定位精度。大模型的出现，其最大意义在于我们可以直接以任务成功率为导向来构建机器人的智能核心。

拥有聪明大脑意味着什么？第一，机器人的泛化能力实现质的飞跃；第二，它不是单点替代，而是引发整个协作关系和交互方式的重构；第三，大模型打通了数据、模型和算力的闭环，当具身智能大模型投入具体场景后，能够自我学习、自我迭代，形成完整解决方案，从而为千家万户和千行百业赋能，最终转化为实际生产力。

颜鑫：心言集团主要研发以情感智能为核心的情感陪伴机器人。

我们采用云边端结合的策略，在端侧机器人通过模型感知多模态、非结构化的数据，提供实时性、鲁棒性和安全性的支持与服务。在云端，则更多采用参数更大的模型进行规划和决策。

36氪：阿里云作为赋能千行百业的数字化平台，为应对分散在各行业的点状问题，能否总结出一些业务落地的方法论？

郑海超：从更广泛的视角来看，最终还是要看企业实际场景的落地和商业价值的闭环。落地时我们强调三个结合——

第一是大模型与小模型的结合。为了完成完整的业务流程，可能需要在端侧部署一些小模型，如果发现需要更大尺寸的模型才能得出理想结果，则转向云端。

第二是云与端的结合。例如语音场景对延迟更敏感，需要做前置处理；还有一些涉及安全和隐私的数据，用户更希望放在端侧。

第三是生成式大模型与判别式模型的结合。处理业务不一定全部依赖模型，还可以运用规则，如果简单任务命中规则直接处理，无需经过大模型。因为大模型通常会带来时间和成本的上升，且端侧算力相对有限。因此，从业务落地角度，这三个结合是关键。

02. 端侧AI规模化落地的技术攻坚

36氪：银河通用从初期探索到规模化落地，在模型轻量化、算力适配和推理优化等环节中，具体遇到过哪些技术卡点，并探索出哪些解决方案？

张直政：银河通用希望将最前沿的具身智能大模型推广到不同场景中。

例如工业场景非常注重隐私和工作节拍效率，因此神经级别的控制需放在端侧。多样化场景和需求背后的统一思考是：第一，与安全性相关的行为；第二，时延问题；第三，数据隐私性，例如涉及用户隐私的数据只能在端侧处理。

那么什么放在云端？第一，尽可能将学习过程放在云端，因为云端算力更充沛，学习效率更高；第二，对延迟要求较低但对复杂性要求较高的情况，例如让机器人解缠绕的线束。

36氪：从软件到硬件，用户对智能的要求各不相同，心言的AI陪伴机器人需在复杂、非结构化的环境中运行，是如何进行算法设计的，以及模型部署面临哪些挑战？

颜鑫：家庭环境是一个高度复杂的开放场景，数据结构是非结构化、多模态的。能否通过多模态模型获取这些数据，并从中提取情感信息，在算法上存在巨大挑战。

得益于阿里云提供的Qwen2.5-Omni等多模态模型，以及心言过去十余年积累的丰富多模态数据，我们在这方面做了大量探索，这要求模型具备稳定的量化能力。

机器人必须实时、稳定、安全地运行，我们将流程分为三层：感知、规划和决策。决策和规划由云端模型提供，要求云端模型具备强大的推理和智能体能力。在家庭陪伴机器人中，出于隐私、安全和实时性考虑，感知模型需部署在端侧。

36氪：希沃能否分享一个较为成功的云端协同AI应用案例，它给老师和学生分别带来了哪些体验上的改变？

黄柏林：一个典型案例是如何评价一堂课的好坏。教室场景中人固定、任务明确，但发生的情况极其复杂。

对大模型的挑战在于如何响应这种复杂性。我们从两年前开始投入一个项目研发，先将任务切分为8个部分，分段上传至云端大模型处理，返回后拼装成完整报告。最后输出给老师和学生时还需保证时效性，我们实现了5分钟内生成一节课的评价报告。

背后的挑战在于评价本身要公允，涉及专业的教学评价方法，同时兼顾时效性。这需要将复杂任务前置，一边录制一边处理，下课后5分钟即可生成。我们大约将一个7B的模型部署在本地，并搭配通义千问进行意图识别，从而实现较好效果。

36氪：为应对不同行业特征下的非通用性需求，阿里云能够提供哪些标准化的工具或解决方案？

郑海超：首先，通义作为阿里巴巴自研的开源基础大模型，率先实现“全尺寸、全模态、多场景”开源，涵盖文本、图像、视频、语音、编码等多种模态，每个模态又提供不同规格的模型服务。其次，为更好地支持业务，我们提供完整的训练环境，大模型服务平台百炼允许用户利用各种基础模型上传自有数据，并可结合通义模型家族数据进行混合训练，再进行模型部署和推理。最后，如果用户有特定需求，可能需要进一步定制化，基于阿里云的定制化工具平台，帮助打造专属的定制模型。

03. 全栈AI能力打造共赢生态

36氪：阿里云接下来将采取哪些措施回应各行业需求，并推动开源开放与行业共建？

郑海超：阿里云将在多个层次上与各方合作。

在基础设施层，阿里云部署遍布全球的基础设施，为模型训练及推理服务流程提供稳定且经济的算力基座；在数据与模型服务平台层，通过人工智能平台PAI围绕“数据-训练-推理-AI应用”的全生命周期，为客户提供高效、低成本的模型服务技术支撑；在模型层持续推进模型架构升级与模型能力进化，打造全尺寸、全模态的开源模型家族；在应用与解决方案层打造多模态交互的开发套件，以“多模态交互”与“智能助手”为核心组成，提供60%–80%的通用能力基座，支持终端厂商在差异化场景下快速完成二次开发与产品化。

值得一提的是，通义多模态交互开发套件已在端侧场景广泛落地，为终端设备注入“听懂、看懂、会思考”的能力。其通过自然对话、多模态感知与实时交互，让万物成为用户的感知延伸与生活助手。该套件提供端侧SDK与算法增强，支持VAD、回声消除等本地处理，显著降低延迟与功耗，并具备广泛的硬件与系统兼容性（Android、iOS、Linux、RTOS）。通过可视化配置界面，开发者可无代码管理模型、提示词、知识库与Agent流程，快速部署测试。同时支持调用大模型服务平台百炼上的模型，并可自定义Agent、插件及第三方协议接入，构建灵活可扩展的多模态开发生态。

在服务千行百业的过程中，阿里云已经沉淀并开放服务头部客户过程中形成的行业Know-How与最佳实践，形成端云协同的可复制范式，加速AI能力在全行业的规模化落地。

更多精彩内容，可点击观看完整直播回放：

云栖来了 亮点预告

更多关于AI价值落地的探讨，将在2025云栖大会现场精彩呈现。敬请关注9月24日下午云栖大会【36氪先锋AI硬件分论坛】与【通义多模态交互技术分论坛】。

欢迎点击链接领取门票，直通云栖大会，现场见证智能硬件的“智变时刻”。