第六届进博会期间,高通公司中国区董事长孟樸接受澎湃新闻采访。他表示,今年是高通公司第六年参展进博会,这六年,高通的5G技术和应用一直在向前进步。自从去年ChatGPT出现以后,生成式AI一直非常的热门,各种应用都开始使用生成式AI。高通作为一家技术公司,致力于推动基础技术的发展,在生成式AI领域,高通现在所做的是在终端侧推动生成式AI的落地普及。所谓终端侧AI,指与云端AI相对应,例如运行在高通骁龙5G智能手机、PC之类智能终端的AI大模型。
孟樸介绍了高通在终端侧AI的进展。在今年2月份,高通就对外展示业界首个运行在智能手机上的生成式AI大模型,一个10亿参数的Stable Diffusion。用户只需输入文字指令,不需要联网,就能在手机上通过20步推理,在15秒内,生成一张文字内容对应的图片。当时运行的平台是第二代骁龙8,而这次进博会高通带来第三代骁龙8平台,可以运行100亿参数的生成式AI大模型,参数规模是上一代的10倍。而运行相同任务的耗时不到1秒,是上一代平台的十五分之一。这一代骁龙5G移动平台的产品无论是在AI算力上,还是能效比上,都取得巨大的进步。这次高通展台就有展出小米、iQOO所带来的第三代骁龙8 5G智能旗舰。
今年高通展台主题为“让AI触手可及”,高通除了将强大的生成式AI带入智能手机,还展示专门为生成式AI打造新一代AI PC芯片,也就是骁龙X Elite,这款芯片算力可达75TOPS,可运行AI大模型规模更是提高到130亿参数。有了强大AI大模型的支持,用户在使用笔记本电脑时,可以让AI帮忙制作PTT,帮忙生成文字文案,帮忙更精准的搜索信息,从而提高笔记本的生产力和娱乐能力。除了智能手机和PC,高通还将100亿参数级别的生成式AI大模型应用到智能网联汽车,让人们能够用自然语言与汽车进行交流,提高用户驾乘体验。
孟樸还解释了终端侧AI的重要性。首先是终端拥有许多传感器,可以获取用户场景信息,例如地理位置、使用状况等,从而让AI生成更为贴近用户当下的内容。同时这些信息在本地AI大模型上就可处理,不需要上传云端,增加了数据的安全性。此外目前云端AI面临这巨大的算力瓶颈,而类似高通骁龙5G终端所支持的终端侧AI正变得越来越强大,可以有效分担云端服务器压力,同时还可以减轻网络带宽成本。高通所做的是降本增效,从终端侧推动生成式AI在全球范围的拓展普及。
文章投诉热线:182 3641 3660 投诉邮箱:7983347 16@qq.com