VitisAI:从边缘到云的最佳人工智能推理VitisAI开发环境是Xilinx的开发平台,适用于在Xilinx硬件平台(包括边缘设备和Alveo卡)上进行人工智能推理。它由优化的IP,工具,库,模型和示例设计组成。 VitisAI被设计为高效且易于使用,并且可以充分发挥XilinxFPGA和ACAP上的人工智能加速潜力。新的1.2版本增加了以下功能:VitisAI量化器和DNNDK运行时开源AIModelZoo添加了14个新参考模型(Pytorch,Caffe,Tensorflow)VitisAI量化器支持优化的模型(修剪)和更新的DPU命名规则,以便在所有方面保持一致配置,用于边缘和云的VitisAIProfilerONNXRuntime和TVM已启动。 VitisAI增加了对AlveoU50 / U50LV和U280的支持。 AlveoU50 / U50LVDPUDPUCAHX8H微架构改进并升级了DPUTRD以支持Vitis2020.1和Vivado2020.1,VitisAI支持将PytorchCNN Universal Visit(测试版)引入VitisAI平台◆◆AI优化器◆◆采用世界领先的模型压缩技术,我们可以将模型的复杂度降低5到50倍,而对准确性的影响最小。深度压缩可以将您的AI推理性能提高到一个新水平。 ◆◆AI量化器◆◆通过将32位浮点权重和激活转换为INT8等固定点,AI量化器可以降低计算复杂度而不会影响预测精度。定点网络模型需要较少的内存带宽,因此与浮点网络模型相比,它更快且功耗更高。 ◆◆AI编译器◆◆将AI模型映射到有效的指令集和数据流。它还可以执行高级优化任务,例如层融合和指令调度,并尽可能重用片上存储器。 ◆◆AI Configurator◆◆性能分析器可帮助程序员深入分析AI推理实现方案的效率和利用率。 ◆◆AI库◆◆运行时提供了一系列轻量级的C ++++和Python API,可以实现便捷的应用程序开发。此外,它还提供有效的任务调度,内存管理和中断处理。