(资料图)
本报记者 王镜茹
近日，美的集团AI创新中心全自主研发的边端AI算法部署工具链Aidget（AI edge toolbox）正式在Github和OpenI两大社区同步上线开放。推进开源开放是美的集团承担建设的智能服务机器人国家新一代人工智能开放创新平台的重要内容，Aidget将有助于美的集团与开发者推进AI生态共创，赋能行业技术发展。
在各种智能嵌入式边端设备上运行深度学习模型（深度神经网络）已成为AIoT的主流方式，但由于主流深度学习模型部署要求高，且边端设备运算资源受限，直接部署存在大量的计算资源浪费等直接挑战，阻碍了深度学习模型在资源有限的边端设备上的部署。
为解决这些问题，美的集团AI创新中心于2021年发起了Aidget项目。Aidget包含模型压缩工具以及推理加速引擎工具，实现从模型压缩到推理加速全链路优化。Aidget适用于linux/rtos/android/ios等多种不同边端系统，面向armv7/v8及dsp等不同边端平台提供指令级加速；针对多计算单元设备，提供高性能异构计算能力；针对边端小内存设备，在内存管理方面进行优化设计。
Aidget工具链主要工作流程是将模型通过压缩工具进行模型压缩，支持前沿的主流算法技术剪枝、蒸馏及量化。通过多种压缩方式结合应用，实现高压缩比并保持良好的精度性能。经过压缩后的模型通过推理引擎侧转换工具进行解析，进行进一步优化，包括算子消除、算子替换、布局调整等图优化操作。推理时加载模型，然后经过预处理把模型从抽象的图转换为具体的算子和张量连接的描述形式，并进行内存复用和执行调度等运行优化。
目前，Aidget已陆续在智能冰箱、洗碗机、家庭服务机器人等智能家电产品上实现了投产验证和规模化量产，持续发挥了降本增效作用。美的集团希望通过Aidget开源项目，为边端智能提供AI解决方案；同时，美的集团AI将持续推进语音技术、计算机视觉、机器人学习相关算法/模型的开放服务和开源共创，赋能行业发展。
（编辑 何帆）
