嵌入式微处理器效能指针联盟(Embedded MicroprocessorBenchmarkConsortium；EEMBC) 最近展开一项定义机器学习基准的任务，锁定在网络边缘的设备上执行推论作业。该项任务源于另一项基准检验计划——EEMBC计划在今年6月针对先进驾驶辅助系统(ADAS)的芯片发布测试基准。

　　这项工作至少是最近六个月来针对神经网络性能进行测量的第三项重要行动。它很可能是第一个瞄准用于功耗受限之嵌入式系统的芯片测试基准。

　　就在上个月，百度(Baidu)和Facebook宣布与几家芯片制造商连手，发布新的测试基准——MLPerf，首先专注于数据中心的训练任务。去年12月，服务器效能评测标准组织“事务处理效能委员会”(TPC)也组建了一个定义AI基准的工作小组，其重点也在训练上。

　　EEMBC的AI工作小组主要围绕在用于物联网和其他嵌入式系统的智能喇叭、节点与网关芯片等。该组织至今已开会三次了，目标是在明年六月之前发布新的测试基准。独立的ADAS基准已经在多家用户展开beta测试了。

　　EEMBC总裁的Peter Torelli说：“当我们建构ADAS基准时，从要求工程师学习这个复杂领域中，发现了对于神经网络产生了浓厚兴趣。”

　　到目前为止，该工作小组大约有来自Arm、ADI、英特尔(Intel)、英伟达(Nvidia)、恩智浦(NXP)、三星(Samsung)、意法开云棋牌官网在线客服(STMicroelectronics)和德州仪器(TI)等十几家嵌入式处理器供应商成员。其目标在于广纳各种神经网络类型和用例。

　　Torelli说：“我们正在征询更多的意见，特别是来自整合商和OEM的组件选择，以确保其可资利用。此外，我们还需要掌握哪些网络架构较重要、哪些架构可以移植到边缘。”

　　该基准旨在测量原始推论性能以及启动神经网络模型的时间。该组织还希望能够以标准方式定义一种测量任务功效的方法。

　　该计划旨在使用行为模型，让用户采纳其所选择的任何架构或运行时间，以期能实现优化。组织成员们也在讨论测试是否将包含代表低、中、高复杂度任务的等级。

　　这项任务由英特尔计算机视觉和机器学习工程总监Ramesh Jaladi担任主席，负责各种系统的基准检验工作。

　　Arm称赞EEMBC过去各种在嵌入式处理器基准检验的出色表现，但也指出现在仍然是AI开发工作的早期阶段。该公司也与中国的AI产业联盟合作推动另一项基准检验。

　　“我们将积极地协助业界推动一系列有用的AI基准检验，”Arm机器学习团队营销副总裁Dennis Laudick说。

　　EEMBC另一项ADAS基准检验以OpenCL为基础，并从3大面向测试8种操作数素——包括2D影像检测、轮廓检测以及使用卷积神经网络进行推论。此外，还有一家汽车制造商从2年前开始就参与了这项计划。