“周易”NPU是安谋科技针对深度学习和大模型而自研的人工智能处理器IP,包括完整的硬件IP和Compass软件平台。“周易”NPU目前有2个系列,包括Z系列( Z1/Z2/Z3 )和X系列(X1/X2)的多款IP产品,产品不断丰富,以满足多样化的下游AI应用场景需求。
“周易”NPU拥有四大亮点:
1、独家优势,全面覆盖主流模型,支持超200种主流大模型和传统AI模型,支持超90%主流推理框架,可加速部署落地进度。
2、采用新一代NPU架构,拥有灵活调度能力和硬件用户自定义功能接口,进一步降低AI运行时的系统资源消耗,有利于客户实现差异化功能。
3、软件支持Pytorch ,无需芯片厂商适配,能缩短50%应用上线周期,节约人力资源。
4、支持Triton编程模型生态,大幅度降低开发门槛。
一、“周易”X系列NPU:赋能高性能AI计算
目前,“周易”X系列已经推出了X1和X2二代产品,“周易”XI NPU提供10-20TOPS算力,对比当前主流车载芯片,可提高26倍计算效率。“周易”X2 NPU在大幅提升算力的同时,还针对车载、边缘计算等特定场景进行了专门优化,进一步提升这些场景下的计算效率。
“周易”X1 NPU前向兼容上一代NPU架构,构建统一的NPU软件生态。“周易”X2 NPU基于第三代“周易”架构,提供更高的算力,支持多核Cluster,最高可达320TOPS子系统,兼顾更高的精度和灵活性,多种数据精度融合计算。“周易”X2 NPU针对ADAS、智能座舱、平板电脑、台式机和手机等应用场景做了大量性能优化,例如大幅提升手机拍照、录像中的高分辨率图像处理能力,以及车载中常用的Transformer等应用的性能,同时采用i-Tiling技术大幅减少带宽需求。
二、“周易”Z系列NPU:让AI无处不在
面向人工智能设计的“周易”Z系列NPU,采用为神经网络运行及相应的前后处理设计的专用指令集,具有均衡的可编程能力和优化的标准处理能力,满足不同人工智能算法需求。融合了多种执行粒度的指令,可以为人工智能提供能效比高的运算能力。“周易”Z系列NPU也支持配合Arm Cortex CPU、Arm Mali GPU以及第三方硬件的异构计算,能够大大提高人工智能应用开发的生产效率。目前,“周易”Z系列已经推出了Z1、Z2和Z3三代产品。
三、“周易”NPU 软件开源计划,携手合作伙伴共建NPU产业生态
安谋科技“周易”NPU 软件开源计划通过开放源码的形式,携手更多开发者以及合作伙伴共建国内NPU产业生态。在“周易”NPU 软件开源计划下,安谋科技已率先对外开放NPU中间表示层规范、模型解析器、模型优化器、驱动等,并向相关合作伙伴提供“周易”Compass软件平台包括软件模拟器、调试器、编译器等在内的多种软件工具,在满足合作伙伴更自主、更灵活的算法移植需求的同时,进一步提升了软件开发效率,避免重复造轮。
截至目前,凭借完整的工具链及技术服务,“周易”NPU 软件开源计划已经有第一批合作伙伴率先加入,其中不乏来自 AIoT、智能汽车、智能操作系统等领域的明星企业。
综上所述,“周易”NPU X系列主要面向车载、边缘计算等高算力应用场景,进一步提升计算效率。Z系列主要面向智能物联网AIoT市场,为物联网IoT设备提供AI算力支持。“周易”NPU 软件开源计划则能帮助企业,大大缩短开发周期,更快的实现产品落地。




0 条评论
请「登录」后评论