中科寒武纪科技股份有限公司(以下简称"寒武纪")的思元370系列智能加速卡与浪潮AIStation智能业务生产创新平台完成兼容性适配认证,将为行业AI用户提供高性能、高密度、高效能比的AI计算加速方案,促进金融、制造、能源等行业的智能转型与升级。
寒武纪是中国智能芯片领域的领先企业。思元370是寒武纪首款采用chiplet(芯粒)技术的AI芯片,集成了390亿个晶体管,最大算力高达256TOPS(INT8),是寒武纪第二代产品思元270算力的2倍。
基于思元370,寒武纪推出三款智能加速卡:MLU370-S4加速卡板卡功耗仅为75W,相较于同尺寸GPU,可提供3倍的解码能力和1.5倍的编码能力,AI算力密度与能效比业界领先;MLU370-X4可提供高达256TOPS(INT8)推理算力和24TFLOPS(FP32)训练算力,配合全新基础系统软件平台,可充分满足推训一体AI任务需求;MLU370-X8基于双芯思元370打造,整合了两倍于标准思元370加速卡的内存、编解码资源,同时搭载MLU-Link多芯互联技术,每张加速卡可获得200GB/s的通讯吞吐性能,是PCIe 4.0带宽的3.1倍,可高效执行多芯多卡训练任务。
本次适配认证测试完成了上述寒武纪加速卡在AIStation平台内多个AI业务部署与服务的验证,包括图像识别、目标检测、自然语言处理等。测试结果显示,运行在浪潮AI服务器上的寒武纪MLU370-S4、MLU370-X4、MLU370-X8加速卡,与浪潮AIStation平台无缝对接,在AI计算性能、兼容性和稳定性等方面均达到优异。通过浪潮AIStation平台出色的算力调度与管理,行业AI用户能够灵活使用和扩展寒武纪加速卡的算力,满足典型AI应用需求。