尊龙凯时

首页  >  行业资讯 >> 信息手艺 >> 终端侧AI的“芯”战场

终端侧AI的“芯”战场

文章泉源:尊龙凯时咨询整理 作者:尊龙凯时咨询整理 阅读量:203 宣布时间:2024-03-13

克日召开的2024年天下移动通讯大会(MWC 2024),AI成为了手机、PC等终端的立异焦点。尤其是去年以来席卷全球的天生式AI,更是让终端产品拥有了许多全新体验。

毫无疑问,AI手机、AI PC已经成为工业的未来生长趋势,而在可见的强烈的产品竞争背后,工业上游的芯片厂商也将睁开新的角逐。

展会时代,包括高通、联发科、英特尔等在内的芯片厂商均展示了其在终端侧AI的最新能力。高通产品市场高级总监Ignacio Contreras体现,终端侧AI的商用历程已经最先,终端侧AI能够为用户带来即时性、可靠性、隐私以及个性化等诸多优势。

Canalys高级副总裁彭路平则体现,以往我们在手机上看到的AI都是一些较量特定功效的AI,即“Narrow AI”,这和天生式AI有实质上的区别。天生式AI所需要的硬件能力更高,最基本的就是芯片是否能支持运行外地化的大模子。

以是未来,AI手机以及AI PC的性能上限依然会由芯片厂商来界说。而对芯片厂商来说,现在能否捉住这波天生式AI浪潮,也将决议其在未来市场名堂中的话语权。

大模子涌入手机

在MWC 2024时代,高通宣布了全新的高通AI Hub,这是为开发者提供的AI模子库,包括古板AI模子和天生式AI模子,能够支持在骁龙和高通平台上举行安排。

据Ignacio Contreras先容,高通AI Hub将支持凌驾75个AI模子,包括Whisper、ControlNet、Stable Diffusion和Baichuan-7B等,这些模子可在差别执行情形中打包,也能够在差别形态终端中实现终端侧AI性能。

不但云云,AI模子库能够自动处置惩罚从源框架到主流执行情形的模子转换,直接与高通AI引擎Direct SDK协同事情。这意味着开发者只需要几行代码就可以获取模子,并将模子集成进应用程序。

关于AI Hub,彭路平以为,这是高通在开发者生态建设的实验。“一方面,开发者能够通过这个平台找到更适合去运作的大模子,另一方面,怎么样使得差别的模子在差别的手机上运行得更顺畅,从用户体验上、开发者能力上,高通做了很是多的支持,这关于下一代AI立异是很是主要的。”

通过对大模子的应用,智能手机也在迎来一场AI革命。去年10月,高通在骁龙峰会上宣布了第三代骁龙8移动平台,这是高通专为天生式AI打造的一款旗舰芯片。现在,来自小米、OPPO、iQOO、荣耀、三星等厂商的最新旗舰智能手机均已搭载该芯片,并展现出了一些奇异的AI能力,好比小米的图像扩充、荣耀的智慧成片和智慧建设日程以及OPPO的AI消除等。

除此之外,高通在MWC时代还展示了许多AI的前沿应用。好比高通展示了首个在Android智能手机上运行的大语言和视觉助理大模子(LLaVA),这是一个凌驾70亿参数的大型多模态语言模子(LMM),可接受包括文本和图像在内的多种类型的数据输入,并能够与AI助手天生关于图像的多轮对话。

Ignacio Contreras体现,通过LLaVA模子,用户可以拍一张食材的照片,然后向AI助手提问:这些食材都是什么?凭证这些食材能够做什么菜?每道菜的热量是几多?而AI助手能够基于视觉内容提供富厚的信息。

另外,高通展示了首个在Android手机上运行的LoRA模子。Ignacio Contreras称,LoRA能够在不改变底层模子的条件下,调解或定制模子的天生内容。“通过使用很小的适配器,巨细仅为模子的2%,就能够个性化定制整个天生式AI模子的行为。”

在Ignacio Contreras看来,“LoRA是面向终端侧天生式AI的要害手艺,它能够提升效率、可扩展性以及定制化能力。这一手艺不但能够运用于图像天生,也可以应用于大语言模子等多种天生式AI模子,是实现个性化天生式AI的高效方法。”

而作为高通在手机芯片领域的挑战者,联发科也将自己界说为“AI的推动者”。联发科的天玑9300和天玑8300都集成了天生式AI处置惩罚器,在MWC时代,联发科对外展示了多项端侧AI手艺,包括文生图的SDXL Turbo、文生视频的Diffusion视频天生,以及其他端侧天生式AI的手艺扩充,好比能够在装备上实时处置惩罚正在录制的人物影像,并支持天生差别动画气概的视频。

终端侧AI待爆发

除了手机,高通近年来一直拓展营业界线,希望将智能盘算扩展至边沿侧险些所有类型的终端,包括PC、汽车、Wi-Fi装备、网络基础设施等。

高通公司总裁兼CEO安蒙在接受媒体采访时指出,天生式AI将厘革终端侧的用户体验,具备天生式AI能力的PC能够更好地明确用户需求,天生式AI还将带来全新的人车交互方法,支持用户与汽车直接举行对话。别的,天生式AI还将改变网络的运行方法,并为各行各业带来全新机缘。

以是,高通“终端侧AI”所指的终端并不但是手机。2024年,PC将是高通重点发力的领域。去年,高通宣布了面向PC的骁龙X Elite平台,这是一款高通从零最先设计的产品,凭证高通其时展示的测试数据,骁龙X Elite的性能已经凌驾现在市面上最领先的产品。

在MWC时代,高通展示了全球首个在Windows PC上运行的凌驾70亿参数的大型多模态语言模子(LMM),它能明确鸟鸣、音乐或家中的差别声音,并且能够基于这些信息举行对话。好比,多模态大语言模子能够明确用户输入的音乐类型和气概,为用户提供音乐的历史以及相似的音乐推荐,或通过对话的方法为用户调理周围的音乐。

据Ignacio Contreras先容,PC端运行差别巨细的模子所占用内存会有差别,关于这个70亿参数的大模子,高通是用4位整数运算举行量化,或许占用4GB内存空间。

另外在采访历程中,Ignacio Contreras还举行了一个比照演示。他使用划分搭载骁龙X Elite和搭载市场中常见X86芯片的两台条记本电脑,同时运行集成Stable Diffusion插件的GIMP举行AI图像天生,最终,骁龙X Elite只需7.25秒就能天生一张图像,速率是X86竞品(22.26秒)的3倍。

可以看出,高通正在以挑战者的姿态攻击PC芯片市场,而作为守擂者,英特尔也在通过一连对AI PC的结构牢靠自身职位。

在MWC时代,英特尔基于酷睿Ultra处置惩罚器推出了vPro平台。英特尔方面体现,vPro平台能够为大型企业、中小型企业以及包括教育部分在内的公共部分和边沿领域带来全新的PC体验。

英特尔称,2024年,宏碁、华硕、戴尔科技、Dynabook、富士通、惠普、遐想、LG、Microsoft Surface、NEC、松下、三星和VAIO等相助同伴将推出包括100多款条记本电脑、二合一、台式机和入门级事情站在内的商用产品系列。

除了手机和PC,汽车、物联网等各个领域,也都在加速拥抱AI。有业内人士展望,2024年将是大模子的应用之年,这也意味着终端侧AI将迎来爆发之年。而麦肯锡在一份研究报告中指出,天生式AI有望对各行各业爆发普遍影响,预计其每年可增添2.6万亿至4.4万亿美元的经济效益。

Online consultation

在线咨询

咨询热线

010-67280121
【网站地图】【sitemap】