让生成式AI惠及更多人 终端侧AI是重要抓手

摘要： 近年来,从ChatGPT、Midjourney到DeepSeek、Manus,生成式AI领域爆款产品层出不穷,不断刷新人们的使用体验。不过,很多生成式AI通常是在云端运行,背后是庞...

近年来,从ChatGPT、Midjourney到DeepSeek、Manus,生成式AI领域爆款产品层出不穷,不断刷新人们的使用体验。不过,很多生成式AI通常是在云端运行,背后是庞大的算力提供支持,客观上也提高了用户的使用门槛,有时候甚至出现一码(邀请码)难求的情况,影响了生成式AI的普及应用。在这样的趋势下,混合式AI架构提供了新的解决方案,通过在云端和边缘终端之间分配并协调AI工作负载,可以实现更强大、更高效且高度优化的AI,有助于生成式AI规模化落地应用。

此外,随着DeepSeek R1等开源模型在今年迅速爆火,生成式AI正广泛应用到各行各业。一方面,DeepSeek R1等作为开源模型,可以让各行各业的用户在本地部署、运行AI大模型;另一方面,用DeepSeek R1蒸馏出来的一些小模型,在某些基准测试中表现出来的能力已经与去年5月发布的GPT-4o相当。也就是说,AI模型在尺寸变小的同时,质量也在不断提升。所有这些,为生成式AI在各类终端设备上的落地部署带来了新的可能。

数学和编程基准测试(来源:DeepSeek)

最近,高通中国区董事长孟樸在接受媒体采访时指出,混合式AI架构的最终落地需要一个重要抓手,而这个抓手在于终端侧。与依赖云端算力的通用大模型不同,终端侧AI实际上更像是一种专用大模型:云端处理通用任务,终端解决更实时性、更专业且个人隐私保护性较强的具体需求。

例如在汽车行业,用户通常很少翻阅购车时附带的维修手册,只有当出现问题时才会临时查找相关信息。这类信息数量比较大并且普遍性较高,用户可以调用云端AI来获取帮助。而当用户面临个体性较强并且需要及时解决的具体问题时,很难依赖云端AI提供帮助,这正是在车辆本地化部署的终端侧AI的优势。并且,随着用户对车辆的使用时长持续增加,车上的AI大模型在经历学习和推理的过程后,可能会比用户更了解汽车的状态和用户偏好,从而能够带来更好的体验,而且这些用户信息涉及的个人隐私也得到了妥善的保护。

需要指出的是,生成式AI在终端侧的落地部署,同样需要算力提供支持。近年来,移动终端的处理性能不断提升,有力地推动了终端侧AI的快速发展。例如在智能手机领域,高通去年推出了骁龙8至尊版,是首个采用下一代定制高通Oryon CPU的移动平台,CPU单核性能和多核性能相比前代均提升了45%,功耗降低44%。同时,骁龙8至尊版还采用了全新切片架构的高通Adreno GPU和增强的高通Hexagon NPU,GPU、NPU的性能和能效均实现了大幅的提升,能够为生成式AI在智能手机上的运行提供强大的算力支持。

上述这种集成了CPU、GPU、NPU等模块的芯片又被称为SoC(系统级芯片),能够为智能手机上的各种功能提供支持。孟樸在接受采访的过程中解释说,高通打造终端侧AI算力,需要NPU提供AI处理能力,同时还需要确保芯片非常省电,在能效方面要有优越性。而完成SoC全自研之后,高通在PC端、旗舰手机端以及智能网联汽车等领域的自研技术拼图更加完整,有助于打通各类智能终端之间的联动需求,为客户提供更加灵活、多样化的服务。

公开信息显示,自去年10月发布之后,全球已经发布或正在开发的骁龙8至尊版旗舰手机超过100款,为消费者带来丰富的生成式AI体验。在PC领域,高通推出了骁龙X Elite、X Plus等平台,目前,搭载骁龙X系列的Windows 11 AI PC设备已超过80款。此外,高通还与更多产业伙伴一起,推动终端侧AI在汽车、扩展现实(XR)、物联网等领域的规模化扩展。

而生成式AI在终端侧的规模化落地应用,也将为下一代移动通信的发展提供助力。高通公司全球副总裁李晶在今年世界电信和信息社会日期间发表演讲时谈到,5G-Advanced不仅代表着5G技术的再进化,更是开启无线AI时代的钥匙,AI将在解决无线连接技术挑战方面扮演关键角色。此前在今年全球6G技术与产业生态大会上,高通公司中国区研发负责人徐晧也介绍了AI在终端侧的推广如何为6G带来更多的应用场景。他表示,除了现阶段AI在智能手机、PC、XR等领域的应用,AI也将被广泛应用于其他6G的应用场景,比如全息远程临场、自动驾驶等用例。他认为,这些AI应用会产生大量的数据和全新的需求,并且持续推动6G的发展。业内人士普遍认为,AI技术将推动无线技术的提升,为无线连接带来巨大增益。