神经引擎这回行了吗iPhone14Cor
机器之心报道
机器之心编辑部
你的iPhone14到货了吗？有人已经把CoreML的性能测试出来了。
每年苹果发布新版iPhone之后，图片编辑软件PhotoRoom的公司团队都会测试一下新iPhone的CoreML性能。现在，前几天发布的iPhone14的基准测试结果出炉了。
PhotoRoom团队的这项系列测试旨在探究苹果公司最新硬件的计算能力，以及计算能力的提升对设备上的机器学习系统意味着什么。
CoreML是苹果集成多个API构建的机器学习框架，允许iOS开发人员发布和执行机器学习模型，以加速在iPhone、iPad、AppleWatch上的人工智能任务。
今年，PhotoRoom分析了多个iPhone机型和iOS版本上的CoreML性能。
实验设置
作为一款图片编辑软件，图片裁剪和抠图是PhotoRoom非常重要的基础功能。
这项功能依托于iPhone上的CoreML框架执行，PhotoRoom团队基于此任务在多个iPhone机型和iOS版本上进行了基准测试，包括：
iPhone12ProA14Bionic(iOS15+iOS16)
iPhone13ProA15Bionic(iOS15+iOS16)
iPhone14ProA16Bionic(iOS16)
iPadProM1(iOS15+iOS16)
MacBookProM1Pro(macOS12)
对于每个设备，该团队根据不同的CoreML计算配置（包括仅在CPU上运行、GPU+CPU、ALL、神经网络引擎（ANE）+CPU），统计了模型的平均执行时间（不包括模型加载时间）。其中，每个设备、操作系统版本和计算单元配置都测量了40次并取平均值，结果如下：
这些测试结果表明：
从CPU到GPU再到ANE，运行速度持续提升；
当在iOS16上从ALL转到ANE+CPU时，推理时间（几乎）持续增加，这表明模型中的一些层无法在ANE上运行，而是默认使用GPU；
操作系统版本对整体性能的影响似乎可以忽略不计；
在A系列芯片（A14Bionic-A15Bionic-A16Bionic）中，所有配置的性能都有缓慢而稳定的提升。苹果公司也称其新的A16Bionic芯片（17TFlops）比A15Bionic（15.8TFlops）提高了7.5%，使得推理时间从iPhone13Pro的45ms缩短到iPhone14Pro的41ms；
iPadPro的M1芯片与新的A16Bionic相比，CPU和ANE的性能相当，并其M1的GPU似乎更强一些。这也许和M1芯片比A16Bionic具有更多GPU内核有关。
值得注意的是，从这项基准测试看，MacBookPro中M1Pro芯片的性能似乎并不比iPadPro中的M1芯片好很多，甚至ANE的表现要差一些。
对于新发布的产品，iPhone14Pro的推理时间缩短至41ms，这是一个重要的突破。但这项测试也显示出苹果神经网络引擎还存在一些问题。
原文链接：
