3月28日,云天励飞举办AI大模型产品发布会,正式发布“深目”AI模盒。该产品能够做到“3个90%”——覆盖场景超过90%、算法精度超过90%,使用成本降低90%,解决大模型在场景落地最后一公里的问题,帮助更多中小企业客户轻松使用大模型。
会上,云天励飞还与鹏城实验室、之江实验室、中国电子、华为、华润数科等单位成立“深目2.0”生态联盟,共同探索更多大模型落地应用路径。
值得一提的是,云天励飞还宣布“云天天书-2.0-68B”版本免费向合作伙伴开放;即日起预订“深目”AI模盒,即有机会获得邀约测试的机会。
千元级成本,即可拥有专属大模型
从ChatGPT到Sora,从文生文、文生图像到文生视频,大模型发展日新月异,持续给行业带来惊喜,不仅国内掀起“百模大战”,国外科技巨头也在大模型上相互较劲。大模型的能力在不断进化,引发新一轮的AI变革。
云天励飞董事长兼CEO陈宁博士在发布会上提到:未来3年,全球80%的企业都将使用大模型。但是,要训练专属大模型,不仅需要大算力、大数据,还需要大量顶尖人才。大模型一次训练成本在千万级,主流的训推一体机价格普遍在百万元,绝大多数企业都无法承担这样高昂的成本。
为了能够让大模型“平民化”,成为人人都可用的产品,云天励飞推出了“深目”AI模盒。
这款产品售价在千元级,用单手就能托起,搭载了云天励飞的自研大模型边缘训推芯片DeepEdge10 Max以及自研多模态大模型“云天天书”,具备算法边缘侧在线学习能力,可实现算法场景覆盖超过90%、算法精度超过90%,使用成本降低90%,让人人都能够根据自身场景需求,利用大模型能力,训练出可实战应用的算法,让大模型唾手可得。
把大模型变“小”,云天励飞是怎么做到的?
“能够实现3个90%,离不开云天励飞的核心能力——算法芯片化。”陈宁博士说。
“深目”AI模盒的算力基础,来源于去年云天励飞推出的14nm Chiplet大模型训推芯片DeepEdge10 Max。该芯片采用自主可控的国产工艺,内含国产RISC-V核,支持大模型训练推理部署。依托自研芯片DeepEdge10 Max创新的D2D chiplet架构打造的推理平台,已适配并可承载10亿级SAM、百亿级Llama2等大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。
“深目”AI模盒的大模型能力,来源于云天励飞自主研发的多模态大模型“云天天书”。云天天书大模型包含语言大模型、多模态大模型等不同系列,在C-Eval、CMMLU等权威测试中多次获得第一,并于去年正式通过中央网信办备案。云天天书1.0版本于2023年初正式推出,至今已完成3个版本的迭代,预计今年6月将迭代4.0 V版本。
以云天天书为底座,云天励飞能够与生态合作伙伴完成预训练场景算法,再将预训练算法提供给广大中小企业用户,中小企业客户可根据自身场景需求,在边缘端完成算法微调。由于大模型具备泛化和学习的能力,客户部署算法后,大模型还能够不断根据现实应用场景情况,在线学习、优化算法,不断提升算法精度。
“深目”AI模盒不仅仅是“压缩”了大模型和芯片能力的一款全新产品,更是把云天励飞大模型通过算法芯片化能力平台“硬件化”的一次重要尝试。把复杂的技术通过简单的产品提供给用户,让用户可以零学习成本,快速训练出自己需要的算法。
场景算法,秒速训练
“深目”AI模盒背后蕴藏了复杂的技术,但对于用户而言,他们只需要关心产品到底怎么用、好不好用。发布现场,云天励飞副总裁罗忆用实际场景演示了“深目”AI模盒是如何在数据少、无数据等极端情况下,快速完成算法训练。
场景演示一:只需少量样本,算法精度即可提升到90%以上
在算法使用初期,只有少量数据,用户如何才能快速训练高精度算法?
以店外经营为例,这是城市治理中最常见的问题之一。当用户需要训练识别算法时,可以直接使用平台现成的算法对目标进行识别。用户只需要对识别结果标记“正确”和“误报”,算法精度就能通过自学习快速提升。通过这样的过程,算法精度通过1次训练就能得到显著提升,经过1周迭代后算法精度可超过90%。
罗忆介绍,云天励飞为客户提供的算法训练平台上,有大量与生态合作伙伴共同打造的算法商城,能够提供覆盖14个大类、100+个小类、千余种算法,用户可以直接调用预训练算法,并上传自身场景图片完成算法的微调和升级,快速训练出高精度算法。
场景演示二:零数据样本,用AIGC数据训练AI
天灾人祸等极端场景识别训练的数据几乎空白,面对这样“无数据”的情况,用户该如何训练算法?
以加油站场景的吸烟识别为例,这类行为的数据极难获取,因为这类危险行为往往伴随着成不可挽回的后果。而平台能够利用大模型能力,以加油站为背景,生成在该环境抽烟行为的人物,并将数据用于算法训练中,填补训练数据的空白。
使用AI合成数据来训练算法,不仅能够填补数据空白,还能够规避隐私安全等问题,已经逐渐成为大模型时代下训练新算法和提升算法精度的一条重要路径。
场景演示三:识别对象标准不统一,大模型泛化能力解决问题
现场以“购物中心提袋识别”为例,演示了如何利用大模型泛化能力,解决识别对象标准不统一带来的算法训练难题。
大型购物中心一般没有统一的结算中心,购物中心难以掌握逛街顾客是否消费,也难以评估营销活动对实际消费转化的效果。而顾客是否提购物袋,是大型商场判断顾客是否消费的重要标准之一。但是,各品牌购物袋的大小、颜色均不统一;而且难以与顾客的背包区分,算法难以精准识别。
但在云天励飞的算法训练平台上,借助场景自适应能力,能够实现“千店千袋”的识别。首先,用户需要调用“拎手提袋识别”算法,识别所有的手提袋,再基于识别结果进行特定手提袋的识别训练,从而衍生出特定手提袋的识别算法,最后即可实现专用门店手提袋的精准识别。
做物理世界的解码者
从2014年成立至今,云天励飞一直坚持将AI技术与物理世界相结合,这也是云天励飞从成立之初自研芯片的重要原因。芯片是AI与物理世界的连接器,AI通过芯片为实体赋能,物理世界的数据又通过芯片反哺AI,推动AI进步发展。
“AI商业化发展有三个阶段:AI方案化、AI运营化、AI产品化。”陈宁博士在发布会现场说道。在AI方案化阶段,AI企业主要通过项目制满足不同垂直领域客户需求。在打磨行业标杆项目的过程中,AI企业不断积累行业认知和数据,AI技术实力不断增强,并形成具备越来越强的泛化能力AI平台,企业也得以开启AI运营业务。而最终,所有的技术都需要通过物理实体赋能,因此AI最终必须走向产品化。
云天励飞业务发展路径也沿着这条路径展开。在AI方案化方面,云天励飞在警务、城市治理、智慧交通、人居生活等领域打造诸多标杆项目,并且在低空经济、智慧教育等创新领域持续展开探索。基于在大量行业的落地经验,云天励飞已形成数据运营、新能源运营平台,走向AI运营化。如今,云天励飞还逐步走向AI产品化。去年,云天励飞与华为昇腾联合推出天舟大模型训推一体机;如今又推出面向边缘训推场景的“深目”AI模盒。此外,云天励飞还通过资本纽带,进军智能穿戴和机器人等硬件领域,形成日益完善的大模型产品体系。
从AI方案化、AI运营化再到AI产品化,云天励飞一直在致力于做物理世界的“解码者”,通过算法芯片化的能力,为“无形”的技术和“有形”的世界构建通道,让AI不仅仅是一个在虚拟世界的工具,而是转化为物理世界的生产力。
一个小彩蛋:云天天书限时免费开放
为了共同探索更多大模型低成本、高效率落地应用路径,云天励飞与鹏城实验室、之江实验室、上海交通大学城市治理研究院、哈工大深圳研究生院、中科院深圳先进研究院、中国电子、华为、深圳移动、深圳电信、深圳联通、华润数科、神州数码、中国铁塔深圳分公司、有人物联网、云赛智联等单位共同成立“深目2.0”生态联盟,共同探索更多大模型落地应用路径。
在发布会最后,云天励飞还发出了2个实实在在的福利。
一是“云天天书-2.0-68B”版本免费向合作伙伴开放。合作伙伴可免费获取“云天天书-2.0-68B”部署包及6个月推理服务授权,免费使用天书平台自带的管理、支撑、应用及API等服务,快速构建场景应用。(微信搜索“云天励飞”小程序,可报名申请)
二是从即日起预订“深目”AI模盒,即有机会获得邀约测试的机会,限额50名!
关于“深目”背后的故事
2014年,云天励飞凭借对深度学习的深刻理解,推出了基于CV小模型的人工智能产品——“深目”1.0,成功引领了AI产业化应用的浪潮,为“AI+公共安全”市场开启了新纪元。
如今,人工智能已迈入大模型时代。在大模型技术的强力驱动下,AI能力得以更广泛地拓展与应用。每一个场景都蕴藏着巨大的潜力,等待着我们用大模型去重塑、去挖掘其更深层次的价值。在这个奇点时刻,我们选择二次创业,并推出了一款基于自研芯片和大模型技术的“深目”AI模盒。这款产品能够低成本地快速生成并运行算法,为碎片化场景下复杂多变的AI应用提供了强有力的支持。
这款产品,我们依然命名为“深目”。虽然名字未变,但“深目”已经从最初我们对AI方案化构想,进化成了如今成熟的产品化现实。它的技术底座已焕然一新,方案和产品均实现了全面的升级与蜕变。我们期望“深目”系列产品能够赋能更广阔的碎片化场景,真正实现AI技术的普惠,让千行百业都能受益于其强大功能。同时,“深目2.0”这个品牌也将承载着云天人不断创新、超越自我的创业精神,为我们开启二次创业的新征程。我们坚信,在大家的共同努力下,“深目”将焕发出新的活力与光彩,为AI产业的发展贡献更多力量,共同开创更加美好的未来!