端侧生成式AI变革的主角,骁龙8Gen3首次支持100亿参数模型

来源:互联网 阅读:- 2024-04-30 22:26:15


当很多安卓手机用户还沉浸在骁龙8Gen2系列旗舰手机带来的前卫体验的同时,骁龙8Gen3悄然而至。这一次不走寻常路的高通技术公司又彻底刷新了大家对骁龙品牌的认知,骁龙8Gen3凭一己之力,扛起了端侧生成式AI的大旗。

当然,一些小伙伴可能要说了,目前支持端侧生成式AI的处理器芯片不止骁龙8Gen3这一款,为何说骁龙8Gen3是凭一己之力呢?答案很简单,因为骁龙8Gen3是第一款将生成式AI植入智能手机的处理器,是局面的开创者,是前沿技术的引领者,是行业的先驱者。

表面上看无非是个先来后到的问题,而究其内里却暗藏玄机,试想,第一个吃螃蟹的人和第二个吃螃蟹的人,他们面对的是截然不同的开局。历来,行业技术先驱者都有着比其他竞争伙伴更深厚的技术积累、更敏锐的观察力、更精准的预判力以及更强大的为用户体验服务的精神力量。

对于传统AI也好,生成式AI大模型也罢,从初级阶段的AI到现阶段具备人类创造力的生成AI,高通都有着更加深刻的理解和感悟,并且将这份对AI的认知转化到骁龙芯片的成果中去。骁龙8Gen3是高通首颗生成式AI移动旗舰芯片,率先将生成式AI功能移入手机领域,为智能手机开启一个不同以往的全新打开方式。以前,不同品牌,不同芯片的智能手机明里暗里的较劲,动不动就跑个分、测试下游戏性能,现在,骁龙8Gen3开启了一个新的行业内卷模式:没事咱跑个AI大模型啊。

骁龙8Gen3采用了全新一代高通AI引擎,实现了终端设备上世界首次支持运行100亿参数的模型,起步就能支持端侧运行超过20种生成AI模型。当下各种流行的AI应用,包括各种虚拟助手、聊天机器人、Stable Diffusion等AI大模型全部都能在搭载骁龙8Gen3的手机端侧正常运行。值得一提的是,面对70亿参数大语言模型LLM,骁龙8Gen3能够在每秒内生成20个token,推理速度和数据处理能力都大幅提升,这意味着搭载骁龙8Gen3的智能手机在面对语言模型时,能够更好的理解用户的语音指令,并且迅速输出更加精准的处理结果。

而骁龙8Gen3能够拥有这般让人惊叹的AI大模型处理器能力,其内置的Hexagon NPU是最大功臣。骁龙8Gen3这次一改此前的Hexagon DSP设计,新增了一个Hexagon NPU。根据高通官方提供的数据显示,新一代Hexagon NPU的加入,让骁龙8Gen3的AI性能比上代提升了98%之多,几乎是翻倍提升,潜力巨大。在提升性能的同时,高通也同样注重功耗问题,为全新的Hexagon NPU配备了一套独立的供电电路,并将前代产品经典的低功耗传感器等节能设计悉数保留下来,这样一番神操作以后,骁龙8Gen3在AI性能翻倍提升的前提下,功耗不但没有随之提升,还反而降低了40%。这让用户可以尽情享受AI大模型带来的便利的同时,不用担心手机电量消耗,远离续航焦虑。

纵观智能手机诞生以来十几年的历程,我们可以发现每一次重要的技术革命的背后,都离不开芯片底层强大的计算能力支撑。通过骁龙8Gen3,高通成为了这次手机端侧生成式AI变革的主角,从此那些看似遥远的端侧AI会像风、像雨、像空气一样成为我们生活中的一部分。


推荐阅读:叶紫