高通安蒙:推动生成式AI在各类终端发挥更大作用
【环球网科技报道 记者 郑湘琪】“如今我们正从生成式AI技术发展的第一阶段迈向第二阶段。在我看来,生成式AI拥有巨大的潜力,这项技术会为我们的世界带来诸多变化。”近日,高通公司总裁兼CEO安蒙在CES 2024期间接受媒体采访时表示。
生成式AI正在千行百业加速渗透。相关机构研究显示,生成式AI市场规模有望从2023年的约80亿美元增至2028年的1000亿美元以上。
安蒙认为,当前整个行业已经将生成式AI在处理器中落地,下一步将是使用场景和应用的发展。相关功能正开始进入人们的日常生活,无论是通过手机、PC,还是汽车。
“与云端AI相比,终端侧的AI体验将无处不在。在云端执行查询时,用户需要提供信息,而云并不了解用户,无法提供适合的答案。”安蒙说,但是当云和终端一起工作时,终端的情境信息就会派上用场,比如用户的位置、身份、信息的相关性等,并且这些数据都会保留在用户的手机上。这正是生成式AI的变革性意义。
基于此,高通正积极探索AI在各类终端中发挥的作用,其中包括手机、PC、汽车以及工业设备等数据中心之外的终端——即终端侧AI。高通的重点是打造计算引擎,从而让AI更好地发挥作用。
比如在手机领域,作为高通首个专为生成式AI而打造的移动平台,2023年10月发布的第三代骁龙8能够运行高达100亿参数的生成式AI模型,并可以每秒20个tokens的速度运行大语言模型。
安蒙表示,“如今,高通的处理器已经能够支持强大的AI能力,这些AI能力也正在赋能我们所在的安卓手机生态。许多手机OEM正在打造相应用例,我们的中国客户也已经推出了许多AI用例。这些用例包括影像、文字、翻译等,而这仅仅是个开始,将有更多令人惊叹的AI用例出现在2024年发布的新终端上。”
在PC领域,专为AI打造的骁龙X Elite搭载了高通自研的Oryon CPU,能够为PC带来高达75TOPS的AI性能。其支持在终端侧运行超过130亿参数的生成式AI模型。面向Windows 11 PC的终端侧聊天助手可实现每秒处理30个tokens,提供快速且准确的响应。
“生成式AI是高通进军PC市场的重要驱动力。高通致力于携手微软打造下一代PC,增强手机和PC之间的协同,为用户带来他们想要的高性能、长续航、高便携性PC。”安蒙称,生成式AI走向终端侧为骁龙 X Elite带来了机遇,支持Microsoft Copilot在终端侧跨所有应用运行。随着Windows向由Copilot赋能的AI体验转变,骁龙X Elite将成为为消费者带来下一代Windows PC体验的重要平台,这对高通来说是巨大的增长机遇。
此外,随着汽车成为了全新的计算空间,高通也面向骁龙座舱平台开展了许多工作。比如高通与Salesforce合作,双方正利用骁龙数字底盘和Salesforce汽车云打造新平台,从而可以通过汽车实现客户关系管理(CRM)。
在安蒙看来,就大语言模型来说,汽车是运用语音交互的绝佳用例。当用户开车时,语音可视化就成为用户与汽车交流的重要方式,而生成式AI正在帮助用户真正与车进行对话。汽车行业正在开启新一轮变革,这为车企带来了巨大机遇,而高通的角色就是为这些企业打造数字引擎。
值得一提的是,在XR领域,骁龙平台助力打造的XR终端也在变得越来越经济实惠、小巧,且功能越来越强大。“空间计算将成为下一代计算平台,最终将实现巨大规模。AI和XR技术发展的关键在于实现物理世界和虚拟世界的融合,同时需要很多应用。我们在XR领域有着非常广泛的生态合作,比如Meta以及谷歌和三星,还有索尼发布的最新设备。此外联想、HTC Vive也正在为企业客户打造企业级设备。这一市场蕴含着巨大机遇,接下来是时间问题。”安蒙介绍称。
当前生成式AI正在飞速发展,市场上已经出现了众多模型,为了推动这一进程,高通在过去几个月做了大量的工作,现在骁龙平台已经能够支持超过40个不同模型。安蒙表示,“高通在移动行业的成就已经广为人知,我们也会继续在这一行业深耕。但同时,我们正在推动高通从一家无线通信技术公司向专注于网联处理器与AI技术的公司转型。因此这些行业变革对我们来说都是全新的增长机遇,我们也因此成功进入了汽车、PC等市场。”