Vecow超恩科技|超恩智能边缘运算解决方案─实现产线智能化应用

• 关键词：超恩嵌入式系统,ABP-3000,边缘计算
• 摘要：边缘运算是一种分散式运算的架构，将应用程序、数据资料与服务的运算，由网络中心节点移往边缘设备(也称为边缘节点)来处理，允许在数据收集源附近实时处理和分析数据；由于边缘节点更接近于用户终端装置且资料不需直接上云，可加快资料处理并减少延迟，更适合处理实时性的数据分析及服务。

从云端运算

走向边缘运算

边缘计算

边缘运算是一种分散式运算的架构，将应用程序、数据资料与服务的运算，由网络中心节点移往边缘设备(也称为边缘节点)来处理，允许在数据收集源附近实时处理和分析数据；由于边缘节点更接近于用户终端装置且资料不需直接上云，可加快资料处理并减少延迟，更适合处理实时性的数据分析及服务。

智慧制造对于边缘运算需求大增 

由于智慧制造带出的庞大数据量，企业面临通讯延迟、资料安全和频宽成本等因素已让制造业从云端运算逐渐转向边缘运算，让机器不需时时联网却具备实时决策与反应力，因此将资料初步计算与推论运算的任务转移至终端设备为近期的趋势；而将资料留在当地取代回传云端，也更能满足制造业提升资安与隐私的需求。其中，在边缘运算中最重要的三个指标为体积、运算效能以及耗能。

Hailo AI加速芯片-Hailo-8™

小封装面积与低耗能

目前市面上由NVIDIA AGX Xavier以及周边显示卡称霸，并于运算效能表现亮点，然而Hailo解决方案在资源利用率上有显著地差异。透过以下图表可以说明，当位于ResNet-50执行程序时，Hailo的资源利用为2.8 TOPS/W、AGX Xavier则是0.14 TOPS/W，相当于20倍以上的能源利用效率让Hailo加速芯片成为在边缘端应用不可或缺的一项利器。

Hailo AI 加速芯片与NIVIDIA AGX Xavier之比较

独创架构能达到26 Tops高运算性能

Hailo-8™采用创新「结构定义资料流」(structure-defined dataflow)架构，让以往只能在云端上进行的复杂计算，现在能在边缘装置上实现，使其能达到26 TOPS、3 TOPS/W的运算性能；这代表Hailo-8™赋予了边缘装置在计算性能、系统功耗、实时性、资安隐私和系统可靠性上突破性优化，足以胜任在Edge端复杂的AI计算需求。

结构定义资料流架构

支援主流平台与提供完整模型

Hailo-8™同时支持市场主流的神经操作数，例如：TensorFlow以及ONNX。除此之外，方案商可以透过Hailo SDK协助将训练好的模型无痛移转到加速装置并且产出最大化的执行效能。

强大推论效能

超恩ABP-3000 AI嵌入式系统搭载Hailo-8™ AI加速芯片后，在多种AI人工智能类神经网络计算平台的验证测试中领先市面上同级产品的AI推论(Inference)性能，以及最高25W的系统低功耗表现，其性能于其他平台如下：

在Resnet-50平台上，最高每秒传输帧数可达3000帧 (FPS)

在Mobilenet-V1 SSD平台上，最高每秒传输帧数可达2500帧 (FPS)

在Yolo-v5m平台上，最高每秒传输帧数可达450帧 (FPS)

在Yolo-v3平台上，最高每秒传输帧数可达230帧 (FPS)

与他厂性能基准测试比较-柱状图显示执行每一个模型的FPS (frames per second)速率

应用领域

ABP-3000AI成功于各项边缘应用领域提供强大的推论效能，尤其在户外环境以及有限空间中更能发挥其效能。例如:在各个主要渠道路口辨识车流与车辆违规状况、在商店或是公共空间计算人流资料以及在工厂协助执行质量检测等实时性任务。

适合多种边缘运算应用

客户成功案例分享

过去传统制造业需要透过人工的方式记录每个班别甚至于工单的完成度，这样的限制导致工厂单位需要一周甚至一个月的时间才能够粗略的计算任务执行状况，衍生出工厂的资料管理不易以及无法及时做决策等关键问题。

此外，一般工厂对于生产数据有较高程度的敏感度导致大部分客户不愿意让资料上传到公有云进行资料分析，若要在工厂部属边缘运算装置更必须额外考量空间、温度以及粉尘等会影响装置寿命，以上关键因素皆呼应到边缘运算中最重要的3大指标─体积、运算效能以及耗能。

ABP-3000 AI

还好经过边缘运算装置的成熟发展，AI辨识任务已经不一定要在云端上执行。以下客户成功导入的智慧产线应用案例分享就是ABP-3000 AI于平均50°C高温中计算HD分辨率的影像。在这个案例中ABP-3000AI提供高达30 FPS的资料处理效率协助解决方案有效的追踪操作人员的每一个动作并实时计算操作人员的任务周期、完成时间以及闲置时间。

目前导入AI辨识解决方案的工厂可以透过边缘装置获取的实时影像辨识讯息进而获得实时工作稼动率与工单执行状况，而这些实时讯息则能够有效的协助工厂主管及时制定生产策略以及人员配置等议题。经过长期观察，该工厂成功的在半年内减少了20%人员闲置时间并增加了15%工单稼动率，并继续朝着实现工业4.0的目标。

生产数据可视化工厂

产品介绍

ABP-3000 AI

    * 第八代英特尔® 酷睿™ U系列处理器

    * 搭载先进的AI加速器，支持每秒26万亿次的操作 (TOPS)

    * 4个USB 3.1；4个独立千兆网口，其中2个支持IEEE 802.3at PoE+

    * 2个DisplayPort显示，最高支持4K分辨率

    * 紧凑型、无风扇设计，支持0°C至60°C工作温度

    *  9V至50V宽范围直流输入

关于Hailo

Hailo由以色列国防军的精英科技部门成员于2017年创立，为专注在人工智能的芯片制造商。其人工智能处理器重新构想了传统计算机架构，使智能型装置能以最低耗电量、最小的尺寸和最低的成本，实时执行复杂的深度学习任务。https://hailo.ai/

[关于超恩]

超恩是边缘计算的专家，超恩团队具备多年工业电脑产品设计、研发、制造、行销、销售与售后服务的经验；超恩的产品与服务以领先的系统性能、可靠的系统稳定性、高度集成的功能设计与规格配备、强固级产品设计与用料、使用者需求为考量的设计思维、以及富弹性的客制化服务见长。在全球无人驾驶(Autonomous car)、机器视觉(Machine Vision)、轨道交通(Rolling Stock)、机器人控制(Robotic Control)和车载应用(Vehicle Computing)等领域，超恩有着领先的市场地位。超恩是鸿海旗下工业电脑大厂桦汉(6414)集团的成员。