工具箱支持汽车质量人工智能

工具箱支持汽车质量人工智能

Toolkit supports automotive-quality AI

NXP半导体公司推出了一个新的深度学习工具包，叫做eIQ Auto。NXP正在寻求通过使其工具“汽车质量”使自己与竞争对手脱颖而出。NXP的目标是使AV设计者更容易在汽车上进行深入学习。             

自主汽车的发展不一定需要人工智能或深度学习。简单地说，不是所有的AV都需要人工智能驱动。然而，深度学习的快速进步和提高的准确性吸引着寻求改进其高度自动化车辆的开发人员。             

然而，验证人工智能驱动AVs安全性的困难依然存在。安全研究人员担心深度学习的“黑匣子”性质，这只是几个棘手问题之一。AV设计者是否能够验证和验证一个持续学习的人工智能系统，或者一个人工智能功能，一旦部署在车内的专用硬件中，其行为是否会与在更大、更强大的计算机系统上开发和训练时一样，仍不确定。             

尽管如此，AV和安全团体都认识到人工智能不是一个可以避免讨论的话题。             

上周，随着UL 4600规范草案的发布，Edge Case Research的首席技术官菲尔•库普曼（Phil Koopman）告诉，“将迎头赶上完全自主。”             

UL 4600，一个评估目前在保险商实验室开发的自主产品的安全标准，既没有假设也没有要求在AVs中部署深度学习。但该标准涵盖了生命关键应用中使用的任何机器学习和其自主功能的验证。

Automotive-grade software tool kit for deep learning

汽车级深度学习软件工具包             

在此背景下，NXP半导体公司推出了其eIQ自动深度学习工具包。             

NXP Semiconductors汽车人工智能战略和合作伙伴关系主管Ali Osman Ors表示：“迄今为止开发的大多数深度学习框架和神经网络都用于视觉、语音和自然语言等消费者应用。开发不一定考虑到生命关键型应用程序。

NXP是一家领先的汽车软件供应商，该公司正在进一步提高其汽车软件的性能。A-SPICE是德国汽车制造商为改进软件开发过程而开发的一套指南。             

NXP解释说，eIQ自动工具集——专门为NXP的S32V234处理器设计——将帮助AV开发者“优化深度学习算法的嵌入式硬件开发，并加快上市时间。”             

当被问及是否有类似的汽车级工具包可供深度学习时，Ors说：“一些汽车原始设备制造商可能已经在内部设计了自己的工具。但据所知，还没有见过其汽车芯片供应商提供像这样的汽车质量软件工具包，以供深入学习。”

Pruning, quantization and compressing

剪枝、量化和压缩             

嵌入式系统的数据准备和训练（学习）过程和人工智能部署（推理）的过程是很好理解的。             

今天，据说AV开发人员在公共道路上驾驶测试车辆时以每秒4G字节的速度收集数据。清理和注释如此大量的数据并为培训数据做准备可能会非常昂贵。在某些情况下，数据标记处理本身就可能在经济上削弱算法开发人员和AV初创公司。             

但是，对于AV设计者来说，同样具有挑战性的是，优化一个经过训练的AI模型并将其转换为部署（在推理机上）的艰巨任务。Ors解释说NXP的工具加速了神经网络的“量化、修剪和压缩”过程。             

通过剪枝，Ors意味着通过剪除不重要的权重来去除神经网络结构中存在的冗余连接。当然，新的“删减”模型将失去准确性。因此，必须在修剪后对模型进行微调以恢复其准确性。             

接下来，量子化创造了一个“高效的计算过程，”Ors说。包括通过对权重进行聚类或四舍五入将权重捆绑在一起，以便可以使用较少的内存来表示相同数量的连接。另一种常见的技术是通过舍入将浮点权重转换为定点表示。与剪枝一样，量化后必须对模型进行微调。             

AV设计师通过运行测试数据（深度学习系统以前从未见过）来评估转换模型的准确性，并进一步微调模型。

划分工作负荷             

对于每一个处理器来说，神经网络的运算速度都是最好的。说eiqauto不能用于非NXP设备，因为这个工具必须非常熟悉处理器内部的情况。