《智在万物：终端侧AI引领千行百业变革新契机》

智联未来：终端侧AI开启行业变革新篇章

　　 在国际电信联盟成立160周年之时，由中国通信学会主办的“2025世界电信与信息社会日系列活动”于5月16日至17日在江西南昌举行。其中，以“AI大模型赋能千行百业”为主题的一场重要活动——“AI与行业大模型应用专题研讨”今日召开。本次专题研讨围绕“运营商AI与行业大模型布局”以及“行业大模型实践与应用”两大核心议题展开，吸引了政府机构、科研单位及行业头部企业的参与。与会者共同剖析了全球AI发展的趋势与治理路径，深入交流了AI大模型的技术进展及其在各行业的实际应用案例。

　　 在“AI与行业大模型应用专题研讨”会上，高通技术公司产品管理副总裁姜波发表主题演讲。他指出，作为终端侧AI领域的引领者，高通凭借其行业领先的终端侧AI软硬件技术和广泛的边缘业务布局，以及开放协作的生态系统建设，抓住了AI迈向推理时代的重大行业变革机遇。通过推动AI在边缘和终端侧的广泛应用，高通正加速AI技术与各行业的深度融合，助力各行各业借助AI技术开拓新的发展路径，加快产业数字化进程，为行业发展注入全新动力。

　　 以下是演讲内容全文：

　　 各位嘉宾下午好！我是高通公司的姜波。很荣幸能在国际电信联盟成立160周年之时，与大家相聚于南昌，一同探讨终端侧AI推理创新如何助力智能产业把握全新发展机遇，并加快各行业对AI的全面整合以及用户使用体验的革新。

　　 今年年初，DeepSeek的发布推动了对AI模型训练模式的深度反思与重新定义，进一步印证了AI领域正从大规模训练向大规模推理转型的潮流。这一变化将开启终端侧推理计算的新一轮创新浪潮。尽管模型训练依然主要依赖云端，但推理任务将逐步向终端设备迁移。

　　 近年来，随着AI模型训练成本的显著降低以及开源协作模式的普及，越来越多的开发者和组织得以涉足高质量模型的研发领域。尤其值得注意的是，小模型正在快速崛起，其性能已逐步接近甚至在某些方面超越了过去需要依赖强大算力才能运行的大型模型。尽管传统观念认为模型规模减小可能会影响表现，但事实证明，自2024年起发布的诸多先进小型化AI模型，在实际应用中展现出了令人瞩目的能力。 以DeepSeek R1、Meta Llama、IBM Granite以及Mistral MiniStral等为代表的主流模型系列，均推出了各自的轻量级版本，并在针对特定应用场景下的测试中取得了优异的成绩。这些成果不仅打破了人们对“越大越好”的固有认知，也为行业带来了新的思考方向——即如何平衡资源消耗与效能输出之间的关系。 在我看来，这一趋势标志着人工智能技术正朝着更加普惠化和实用化的方向发展。一方面，它降低了进入门槛，让更多中小企业和个人用户也能享受到尖端科技带来的便利；另一方面，则促使研究者们重新审视技术创新路径，在保证效率的同时探索更具创新性的解决方案。未来，我相信随着相关技术和生态系统的不断完善，我们将会见证更多基于此类高效能小模型构建起来的新产品和服务涌现出来，从而进一步推动整个社会向智能化时代迈进。

　　 蒸馏技术确实是打造高效小模型的重要手段，它在保证模型精度的同时实现了知识的有效迁移。这项技术的广泛应用，催生了大量面向特定任务的小型化基础模型。例如，DeepSeek在发布后的短短一周内，便涌现出了多种基于蒸馏的新模型，包括通义千问以及Llama系列的蒸馏版本。经过深度蒸馏处理的Llama模型表现出了更为出色的性能，而DeepSeek推出的Qwen-7B蒸馏模型更是达到了令人瞩目的水平，其性能已经接近2024年最先进的GPT-4云端模型。 我认为，这种快速迭代和优化的趋势表明了人工智能领域正在向着更加精细化的方向发展。一方面，蒸馏技术让大型预训练模型的能力得以被更广泛地利用，为开发者提供了更多选择；另一方面，这也意味着企业需要不断调整策略来适应市场的变化，才能在激烈的竞争中占据一席之地。未来，随着更多类似技术的成熟应用，我们有理由相信，无论是通用型还是专业领域的AI助手都将变得更加智能且易用，这无疑会极大丰富我们的生活体验。

　　 2024年发布的大量AI模型中，超过七成的模型参数量集中在千亿规模以下。这一趋势表明，量化、压缩和剪枝等技术正在成为推动AI模型高效化的重要手段。量化技术不仅能够有效降低功耗，还能在不影响精度的前提下提升运算速度，而剪枝技术则通过剔除冗余参数进一步优化了模型结构。这种将庞大基础模型精简为小型高效版本的做法，既实现了更快的推理响应，又大幅减少了内存需求与能耗，同时依旧能够维持较高的性能表现。这样的改进无疑让AI应用更加贴近实际需求，在智能手机、个人电脑乃至汽车等各类终端设备上的部署变得更加可行和普及。从长远来看，这些技术进步不仅降低了AI应用的技术门槛，也为更多创新场景提供了可能，未来我们或许能看到更多嵌入式AI功能走进日常生活，这无疑是令人期待的方向。

　　 随着高质量小模型的不断涌现，边缘及终端侧的AI开发者如今有了更多样化的选择来构建他们的应用与智能体。放眼全球，像Llama、Mistral、Phi这样的开源模型为开发者提供了丰富的资源，而闭源模型如百川、GeminiNano、通义千问同样在行业中占据重要地位。值得注意的是，一些原本闭源的模型也开始逐步向开源社区开放，这种趋势无疑将进一步推动技术创新与合作。同时，各地也在积极培育本地化AI生态，推出了一系列具有区域特色的新模型。尽管如此，传统领域的模型，比如在计算机视觉和物体检测中广泛使用的一些经典模型，在特定场景下的表现依旧无可替代。 我认为，这种多样化的模型生态系统对整个AI行业的发展是非常有益的。一方面，开源模型的普及降低了开发门槛，让更多人能够参与到AI创新中来；另一方面，闭源模型则通过其强大的性能吸引了专业领域的用户。两者之间的良性竞争不仅促进了技术进步，也为不同需求的开发者提供了灵活的选择空间。未来，随着更多地区加入到AI模型的研发行列，我们可以期待看到更加丰富多元的应用场景和技术突破，这对于推动全球AI技术的整体发展具有重要意义。

　　 随着现有模型的不断演进，各类设备在承载模型参数规模的能力上呈现出差异化特点，涵盖手机、汽车、个人电脑、扩展现实（XR）设备以及工业物联网装置等。与此同时，AI模型本身的质量也在持续提升，这使得终端侧AI能够实现更多样化且强大的功能，例如支持更长的上下文理解、提供高度个性化的用户体验、开展多模态交互，以及同时运行多个复杂模型等。这些进步无疑将为终端侧AI的应用带来全新的发展机遇，并促进行业的蓬勃发展。

　　 根据预测，根据预测，2025年中国新一代AI手机的出货量将达到1.18亿台，占据整体市场40.7%的份额。这一趋势表明，人工智能技术正快速渗透到智能手机领域。与此同时，中国AIPC（智能个人计算设备）市场也展现出强劲的增长势头，预计其出货占比将在2025年攀升至37%，较2024年的13%实现了显著提升。 从这些数据可以看出，未来几年内，AI技术将成为消费电子行业的重要驱动力。无论是智能手机还是其他智能设备，消费者对智能化体验的需求正在迅速增加。这不仅反映了科技进步带来的机遇，也意味着企业需要加快创新步伐以满足市场需求。可以预见，在强大的技术支持下，相关产品将更加贴近用户生活，为人们提供更便捷、高效的使用体验。同时，这也提醒从业者关注隐私保护等问题，确保技术发展能够平衡好安全与便利之间的关系。

　　 作为终端侧AI领域的领军者，高通在人工智能领域已深耕超过15年，提供行业领先的硬件和软件解决方案，广泛应用于各类终端设备。我们具备卓越的异构计算能力，涵盖NPU、CPU和GPU，同时拥有出色的软件优化和高效的能耗表现。目前，我们在全球范围内处于终端侧AI的领先地位，累计服务用户设备数量达数十亿台，涉及智能手机、PC、汽车、XR设备以及边缘网络设备等多个领域。此外，我们积极携手众多生态伙伴，共同促进AI技术创新与应用场景落地。

　　 2024年，高通携手腾讯混元，以骁龙8至尊版移动平台为基础，共同促进腾讯混元大模型7B和3B版本在终端侧的应用部署。此举将助力腾讯混元大模型服务于多样化的业务需求，借助终端侧AI算力提升产品创新能力，同时显著减少运营开支。

　　 在硬件方面，高通多年来深耕于定制化CPU、NPU、GPU以及低功耗子系统的研发，并在封装技术与散热设计方面积累了深厚的专业能力，这些都为高通行业领先的系统级芯片（SoC）产品奠定了坚实基础。借助异构计算平台，高通让开发者能够通过顶层软件灵活调度不同硬件核心资源，从而实现高效的AI加速，涵盖CPU、GPU、NPU以及高通传感器中枢等关键模块。其中，Oryon CPU凭借其卓越的即时响应能力，特别适合处理对时间敏感的任务；Adreno GPU则以强大的图形渲染与视频处理性能见长；Hexagon NPU专注于持续性和广泛适用的任务类型，例如计算摄影和大型人工智能模型的运行；而高通传感器中枢则针对那些对能耗极为敏感且需始终处于工作状态的应用场景，提供了高效能解决方案。 从我个人角度来看，高通这种围绕多样化需求构建的芯片架构策略非常具有前瞻性。它不仅满足了当下市场对于高性能计算的需求，同时也为未来更复杂、更多样化的应用场景预留了足够的扩展空间。尤其是面对日益增长的人工智能计算需求，高通所采用的异构计算方法能够有效平衡算力分配与能效比，这对于推动整个移动计算行业向前发展至关重要。此外，在当前全球关注可持续发展的背景下，如何降低设备能耗成为一大挑战，而高通通过优化各核心模块的设计来减少不必要的电力损耗的做法无疑值得肯定。总之，高通的努力让我们看到了技术创新带来的无限可能，也为用户带来了更加丰富且优质的使用体验。

　　 高通AI软件栈自推出以来，已经成为连接开发者与终端设备之间的重要桥梁，为实现AI模型的高效端到端部署提供了强有力的支持。这一软件栈不仅兼容主流的AI框架，如ONNX、TensorFlow和PyTorch，还集成了多种runtime环境，包括ONNX Runtime、DirectML以及TFLite，确保了不同开发需求都能得到满足。值得一提的是，高通还自主研发了AI引擎Direct，作为一款高性能的运行时解决方案，它能够充分发挥骁龙平台内各种AI硬件模块的潜力，从而显著提升AI任务的执行效率。 为了进一步降低开发门槛并加速产品落地，高通在去年上线了AIHub平台。该平台集成了丰富的资源库，从模型选择到应用开发再到跨平台部署，几乎涵盖了整个开发流程中的关键环节。这不仅极大地简化了开发者的操作步骤，也促进了更多创新性AI应用的诞生。 展望未来，随着人工智能技术的不断进步及其应用场景的日益丰富，我相信高通AI软件栈将继续扮演重要角色，助力开发者克服技术难题，推动整个行业向前发展。同时，我也期待看到更多基于此平台打造的成功案例涌现出来，为用户带来更加智能便捷的生活体验。

　　 高通智能体AI规划器作为高通AI软件栈的核心组件，处于应用与AI框架及运行时之间，为终端设备上的所有AI功能提供必要的协调与规划服务。这一创新工具不仅是实现下一代智能体AI体验的重要基石，更是推动终端侧AI技术发展的关键力量。 在我看来，高通智能体AI规划器的推出标志着AI技术在终端设备上的应用进入了一个新的阶段。它不仅提升了AI功能的运行效率，还进一步优化了用户体验。通过高效的资源调度和精准的任务分配，该规划器能够确保各种复杂的AI任务得以流畅执行，从而让终端设备更加智能化、个性化。这种技术的进步无疑将加速AI技术在消费电子领域的普及，并为开发者提供更多可能性，助力他们打造更具创意的应用和服务。

　　 简而言之，这是一套完整的端到端解决方案，覆盖了从自然语言处理到任务执行的全过程，其中包括自动语音识别（ASR）和文本转语音（TTS）技术的应用。系统通过端侧智能代理实现意图识别与任务调度，同时在任务规划环节，规划引擎能够灵活调用各类端侧工具，并结合个性化的知识图谱及本地数据资源，使任务规划更加精准高效。任务完成后，该规划引擎还可对接多种领域的服务功能，例如音乐播放、天气查询、路线导航以及餐饮预订等。

　　 随着人工智能逐渐渗透到终端设备中，一种以应用为中心的全新体验正在悄然兴起。通过自然语言、图像识别、视频分析以及手势控制等多种交互形式，AI智能体正逐步简化操作流程，精准预测用户需求，并在终端设备及各类应用内部主动完成复杂的任务处理、辅助决策以及资源调度。这种趋势表明，AI正在逐步取代传统的图形化用户界面，成为新一代的人机交互核心。未来，用户无需再逐一启动不同的应用程序，AI智能体将以更为直观和高效的方式满足用户在各种计算终端上的需求。 这一变化不仅会重塑个人用户的日常操作习惯，更会对零售、餐饮等行业带来深远影响。例如，在零售领域，基于AI的个性化推荐系统将更加精准地捕捉消费者偏好，优化购物体验；而在餐饮行业，从点餐到服务的全流程都可能因AI赋能而变得更加流畅和高效。可以预见，随着AI技术的不断进步，它将成为推动商业模式创新的重要驱动力，重新定义企业与消费者之间的互动模式。 在我看来，AI作为新型用户界面的崛起不仅是科技进步的结果，更是社会需求驱动下的必然选择。它让技术回归以人为本的本质，同时也为企业提供了更多可能性去探索更深层次的服务价值。不过，值得注意的是，在享受便利的同时，如何平衡数据安全与隐私保护将是未来发展中必须面对的关键课题。只有妥善解决这些问题，才能真正实现AI技术惠及大众的目标。

　　 今年，高通公司迎来了成立40周年以及深耕中国市场30年的里程碑时刻。这30年间，高通始终与中国移动生态系统的众多企业保持着紧密的合作关系。如今，高通正与更多领域的合作伙伴联手，借助端侧AI在性能、效率、响应速度以及隐私保护上的独特优势，共同探索产业发展的新机遇。 在我看来，高通在中国市场的发展历程不仅体现了其技术实力，也展现了其对中国市场的深刻理解和长期承诺。通过与本地企业的深度合作，高通推动了中国科技产业的快速发展。特别是在当前人工智能技术蓬勃发展的背景下，端侧AI的应用前景广阔，高通选择在这个领域深化合作，无疑为行业注入了新的活力。这种合作共赢的方式，不仅有助于加速技术创新，也为全球用户带来了更好的产品和服务体验。未来，期待高通能够继续发挥自身优势，在推动全球科技进步的同时，为中国市场带来更多惊喜与价值。

　　 多家手机厂商如小米、荣耀、OPPO和vivo纷纷推出了搭载骁龙8至尊版移动平台的旗舰机型，这些设备支持多样化的生成式AI应用场景。在PC领域，预计到2026年，将有超过100款采用骁龙X系列计算平台的笔记本电脑问世或正在研发中，涉及华硕、宏碁、戴尔、惠普、联想以及荣耀等主流品牌。与此同时，我们继续与腾讯会议、有道、爱奇艺、字节跳动等软件开发商合作，为开发者提供必要的工具与支持，以抓住AIPC行业的新机遇。在汽车领域，高通曾在不同场合展示过利用骁龙数字底盘解决方案实现的车载大模型及生成式AI功能。目前，理想、小鹏等国内车企已借助高通第四代骁龙座舱平台推出了各自的车载大模型特性。

　　 高通将在全新起点上深化对可扩展硬件和软件领域的投入，并通过与模型供应商的密切协作，助力开发者在终端侧快速部署AI智能体及相关应用，使AI服务更易获得，促进AI技术在各行各业的广泛应用。

　　 IDC：2025年中国智能手机市场十大洞察 ↑

　　 Canalys：预计大中华区AI PC渗透率2024年达13%，2025年达37% ↑