《电子技术应用》
您所在的位置:首页 > 模拟设计 > 业界动态 > 三年两代AI推理芯片,燧原科技拥有的底气是什么?

三年两代AI推理芯片,燧原科技拥有的底气是什么?

2021-12-08
来源:探索科技TechSugar
关键词: AI 芯片 燧原科技

海量数据爆发,大数据与云计算进入发展快车道,对计算能力的需求持续提升,人工智能(AI芯片已经成为加速产业智能化转型的硬科技。近年来,AI市场呈现爆发式增长态势,AI场景广泛落地。另一方面,AI云端市场中训练芯片和推理芯片的占比正在发生迁移,推理芯片比例逐渐提升。从IDC数据可以看出,预计到2025年,推理芯片已经占比达60.8%。“面对人工智能海量的云端推理应用,燧原科技正不断拓展和完善产品线。”燧原科技创始人兼COO张亚林表示,该公司的AI业务已经从传统单一的机器视觉、声音文字处理、决策推理等算法,转变成多场景多应用的落地,不断满足用户广泛的推理业务和市场需求。

针对以上趋势,燧原科技发布了其第二代云端人工智能推理加速卡云燧i20及人工智能推理芯片邃思2.5。“随着该产品的推出,燧原科技完善了第二代训练与推理产品线,成为国内第一家拥有完整第二代训练推理产品线的企业。”张亚林表示,未来,燧原科技将会继续推动产品创新和迭代。

基于邃思DTU2.5,云燧i20以其高性能、高能效、模型覆盖面广、易部署、易运维等特点,广泛应用于计算机视觉、语音识别、自然语言处理、搜索与推荐等推理场景。与前代产品相比,云燧i20的浮点算力提升了1.8倍,整型算力提升了3倍,在存储带宽和精度等方面也有巨大的提升。与次旗舰GPU相比,云燧i20浮点算力和INT8算力提升了两倍,内存带宽增加了2.6倍。在基准测试benchmark中,云燧i20模型跨越了从图像分类识别、NLP到目标检测、图像分割,再到图像超分,整体性能提升了2.5至3.5倍。

据张亚林介绍,邃思2.5是专门为云端推理芯片和应用场景设计的架构。为了满足云端推理场景的应用落地需求,以及性价比和能效比的苛刻要求,燧原科技综合设计了算力、带宽和存储,同时对性能、功耗和成本因素进行了极致的平衡。此外,随着推理场景增多,客户对不同方向、不同类型的场景泛化性要求越来越高。燧原科技进一步打造更加泛化易用的推理软件栈,并推出增强的训推一体化系统,满足客户日益增长的需求。

邃思DTU2.5具备高性价比、高能效比、高精度等优势,全面支持从FP32、TF32、FP16、BF16到INT8的计算精度。单精度FP32峰值算力达到32 TFLOPS,单精度张量TF32峰值算力达到128 TFLOPS,整型INT8峰值算力达到256 TOPS。

“燧原科技始终遵循‘做大芯片,拼硬科技’的使命和初心”,成立三年以来,已经完成了两代AI训练和推理产品的迭代。燧原科技拥有超级智能算力集群系统等核心产品库,包括灵活的拓扑结构、完整的部署运维、高速分布式通信和一体化训推,协助客户部署高能效、大算力、强互联、分布式的系统。在软件方面,燧原科技拥有全栈自主软件驭算TopsRider,能够广泛适配所有框架和算法,灵活扩展编译系统,高性能泛化计算库,以及高效应用工具链,为客户开发迁移、运维更多场景和应用提供可能性。




最后文章空三行图片.jpg


本站内容除特别声明的原创文章之外,转载内容只为传递更多信息,并不代表本网站赞同其观点。转载的所有的文章、图片、音/视频文件等资料的版权归版权所有权人所有。本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如涉及作品内容、版权和其它问题,请及时通过电子邮件或电话通知我们,以便迅速采取适当措施,避免给双方造成不必要的经济损失。联系电话:010-82306118;邮箱:aet@chinaaet.com。