《电子技术应用》
您所在的位置:首页 > 人工智能 > 业界动态 > 云天励飞正式发布深目AI模盒

云天励飞正式发布深目AI模盒

把大模型“装”进小盒子 
2024-03-29
来源:经济参考网

3月28日,云天励飞(688343.SH)举办AI大模型产品发布会,正式发布“深目”AI模盒。据介绍,该产品能够做到“3个90%”——覆盖场景超过90%、算法精度超过90%,使用成本降低90%,解决大模型在场景落地“最后一公里”的问题,帮助更多中小企业客户轻松使用大模型。

1.png

从ChatGPT到Sora,从文生文、文生图像到文生视频,大模型发展日新月异,持续给行业带来惊喜,不仅国内掀起“百模大战”,国外科技巨头也在大模型上相互“较劲”。

发布会上,云天励飞董事长兼CEO陈宁认为,未来3年,全球80%的企业都将使用大模型。但是,要训练专属大模型,不仅需要大算力、大数据,还需要大量顶尖人才。大模型一次训练成本在千万元级,主流的训推一体机价格普遍在百万元,绝大多数企业都无法承担这样高昂的成本。

值得关注的是,为了能够让大模型“平民化”,云天励飞推出了“深目”AI模盒。这款产品售价在千元级,用单手就能托起,搭载了云天励飞的自研大模型边缘训推芯片DeepEdge10 Max以及自研多模态大模型“云天天书”,具备算法边缘侧在线学习能力,可实现算法场景覆盖超过90%、算法精度超过90%,使用成本降低90%,让用户都能够根据自身场景需求,利用大模型能力,训练出可实战应用的算法。

“能够实现3个90%,离不开云天励飞的核心能力——算法芯片化。”陈宁说。据介绍,“深目”AI模盒的算力基础,来源于去年云天励飞推出的14nm Chiplet大模型训推芯片DeepEdge10 Max。该芯片采用自主可控的国产工艺,内含国产RISC-V核,支持大模型训练推理部署。依托自研芯片DeepEdge10 Max创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载10亿级SAM、百亿级Llama2等大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。

此外,为了共同探索更多大模型低成本、高效率落地应用路径,云天励飞与鹏城实验室、之江实验室、上海交通大学城市治理研究院等多家单位共同成立“深目2.0”生态联盟,共同探索更多大模型落地应用路径。


杂志订阅.jpg

本站内容除特别声明的原创文章之外,转载内容只为传递更多信息,并不代表本网站赞同其观点。转载的所有的文章、图片、音/视频文件等资料的版权归版权所有权人所有。本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如涉及作品内容、版权和其它问题,请及时通过电子邮件或电话通知我们,以便迅速采取适当措施,避免给双方造成不必要的经济损失。联系电话:010-82306118;邮箱:aet@chinaaet.com。