您是否见识过奥迪非凡的自动泊车功能?在没有驾驶员的情况下,轿车能自动找到车位并泊车入位;或者,您是否使用Kinect控制器玩过Xbox 360游戏,或是刚刚咬下一口您从本地水果店购买的鲜香水果。如果是,那么您可以把自己看成是Smarter Vision系统时代到来的见证人。
从最尖端精密的电子系统到普普通通的苹果,各种形式的产品都无不受到Smarter视频技术的影响。虽然当今Smarter Vision的运用已足以让人称奇,但专家称我们其实还什么都没有看到。有人预测在10年时间里,从汽车到工厂自动化、医疗、监控、消费类、航空航天和军用产品等绝大多数电子系统都将包含功能更丰富、出众的Smarter Vision技术,极大地丰富人们的生活,乃至挽救生命。
Smarter Vision系统将迅速得到普及,而且随着它们在未来几年将变得更加尖端复杂,我们很可能会乘坐自动驾驶汽车尽情穿梭在高速公路网上。诸如Intuitive Surgical公司令人惊叹的机器人辅助手术系统等医疗设备将进一步得到发展,甚至能够让外科医生远程执行外科手术。电视和远程监控系统让人仿佛置身其中,达到前所未有的互操作水平,同时影院、家庭和店铺屏幕上的内容也将迎合每个不同消费者的兴趣,乃至情绪。
赛灵思All Programmable Smarter Vision解决方案正在引领这场变革创新。ZynqTM-7000 All Programmable SoC是业界首款在单个器件上将ARM双核CortexTM-A9 MPCORETM、可编程逻辑及主要外设完美结合在一起的器件。赛灵思以其作为基础,已推出了配套基础架构(工具及SmartCORE IP组合),其将在开发和加速这些出色的创新产品上市进程中发挥至关重要的作用。该辅助基础架构包括VivadoTM HLS(高层次综合)、最新IP Integrator工具、OpenCV(计算机视觉)库、SmartCORETM IP和专用开发套件。
赛灵思企业战略与市场营销高级副总裁Steve Glaser表示:“借助赛灵思All Programmable Smarter Vision解决方案,我们将帮助客户率先推出新一代Smarter Vision系统。在过去10年中,客户已充分利用我们的FPGA来为他们系统处理器中那些运行速度不足的功能提速。对于Zynq-7000 All Programmable SoC而言,处理器和FPGA逻辑均位于同一芯片上,这意味着开发人员现已拥有一款适用于Smarter Vision应用的理想的芯片平台。我们现在又推出了一款由Vivado HLS、最新IP Integrator工具、OpenCV库、SmartCORE IP和开发套件组成的稳健可靠的开发环境,进一步完善了Zynq-7000 All Programmable SoC。借助这些Smarter Vision技术,我们的客户可以立即启动他们的新设计,以更快的速度推出效率和系统性能更高、系统功耗和材料清单成本更低的创新产品,从而在提升盈利能力的同时丰富人们的生活,乃至挽救生命。”
从哑巴摄像机到Smarter Vision
Smarter Vision系统的根源在于嵌入式视觉。若您对嵌入式视觉知之甚少,那么就让我们看看下面对这种技术及其演进发展的介绍。
根据快速发展的行业组织“嵌入式视觉联盟”的定义,嵌入式视觉融合了两种技术:嵌入式系统(区别于使用处理器的计算机的任何电子系统)和计算机视觉(有时也称机器视觉)。
嵌入式视觉联盟创始人兼咨询公司BDTI首席执行官Jeff Bier表示,嵌入式视觉技术已经给数个行业造成显著的影响,因为该技术的发展已远远超越了以往的通过电机驱动实现平移/倾斜/缩放(motorized pan-tilt-zoom)功能的模拟摄像系统时代。Bier表示:“我们已在数字时代生活了一段时间,看到嵌入式视觉从擅长压缩、存储或增强摄像头拍摄内容观感的早期数字系统迅速发展成为如今能知晓拍摄内容的Smarter嵌入式视觉系统。”此外,先进的嵌入式视觉系统或Smarter视觉系统不仅能增强和分析图像,而且还能根据那些分析结果触发行动。由此,处理量和计算能力以及算法的复杂性都显著增大。监控市场的快速发展就是这种显著演进的最好例证之一。
20年前,监控系统厂商竞相提供由机械系统强化的最佳透镜,能够执行可实现更清晰、更宽广拍摄视野的平移/倾斜/缩放功能。这些系统基本上由模拟摄像机、连接用同轴电缆、模拟监控器和安保人员监控的视频录制装置组成。这些系统的清晰度、可靠性和有效性由光学组件和透镜的质量以及监控摄像头播放内容的安保人员的尽职程度决定。
嵌入式视觉技术的问世使监控设备公司能够使用基于数字技术的较低成本摄像头。此类数字处理能力可为其系统提供卓越的功能,在性能上超越模拟以及基于透镜的保安系统,在价格上则更低廉。
鱼眼透镜和采用各种视觉专用算法的嵌入式处理系统大幅增强了摄像头生成的画质。这些技术针对光照条件进行了校正,能够改善对焦,增强色泽和数字缩放观测区域,另外无需使用机械电机控制来执行平移/倾斜/缩放,从而能够进一步提升系统可靠性。企业使用数字信号处理可提供视频分辨率达到以及超过1080p的监控系统。实际上,就无人机(UAV)和军用卫星而言,嵌入式视觉已能够实现前所未有的超高分辨率。若以此分辨率捕获图像,就需要处理大量的像素,而增强和操控这些图像则需要甚至更高的处理能力。
但通过数字信号处理操纵图像,增强其清晰度只是开始。凭借先进得多的像素处理功能,监控系统制造商开始创建更尖端的嵌入式视觉系统,以便能在其数字系统所采集的高画质图像上实时执行分析功能。视觉系统设计人员每年都会推出一系列功能更为强大的高级算法,用于创建更为动态的分析功能。这些嵌入式视觉系统的最早期类型只能检测特定的色彩、形状和移动。这项功能迅速地发展为具有下列功能的算法:能够检测跨越摄像头视野中虚拟栅栏的物体;判断图像中的对象是否是一个人;以及,链接至数据库后甚至能识别特定的人。
最先进的监控系统所提供的分析功能能跟踪受监测的个人穿越安保网络的视野范围,即便在他们离开摄像头的视野后进入盲点,然后再进入监控网络的另一部摄像头的视野后也能追踪。视觉设计人员已经设计出某些此类系统,用于检测异常或可疑的移动。赛灵思工业、科学及医疗(ISM)事业部系统架构师Mark Timmons表示:“分析功能是当今监控市场最大的发展趋势。它可以克服人为错误,甚至取代细致的人工观察和决策。可以想象,在火车站和运动赛场等拥挤的环境中,监控的难度极大。所以如果有分析功能可以发现过度拥挤的危险情况或表现出危险行为或过激动作的个人,就会带来非常明显的优势。”
为了进一步增强这种分析功能并提升此类系统的有效性,监控及众多其它使用Smarter Vision技术的市场越来越多地采用“融合”架构,将摄像头和热成像、雷达、声纳和LIDAR(光/激光探测和测距)等其它感测技术相结合。这样Smarter视觉设计人员就可进一步增强最终图像,实现夜视、检测热温/热能影像或是拾取单凭摄像头不能采集或无法看到的对象。这项功能能显著地减少虚假检测,从而实现更准确的分析。毫无疑问,技术融合以及之后分析融合技术采集的数据会带来更大的复杂性,要求更为强大的分析处理能力。
Timmons提到,这个市场上的另一大趋势是执行所有这些类型的复杂分析系统都位于监控系统网络的“边缘”,即位于每一部摄像头中,而非由每一部摄像头将自己的数据传输给中央大型机系统,然后再由大型机根据多路馈入的数据进行更精确的分析。分析功能的本地化为整体安全系统增加了灵活性,使得系统中的每个点都能更加迅速准确地执行检测,因而如果摄像头能真正发现切实的威胁,就能更迅速地向操作人员发出告警。
分析功能本地化意味着每个单元不仅需要更强大的处理功能来强化和分析摄像头采集的图像,而且还必须足够紧凑,能够集成至高度集成的电子系统中。且由于每个单元都必须能够可靠地与网络的其余部分进行通信,摄像头还必须集成电子通信功能,进一步增大计算复杂度。这些监控单元逐渐通过无线网络连接构成更大型监控系统的组成部分;而且这些监控系统将不断变成更大规模的企业网络乃至更大规模的全球网络的组成部分,正如美国军方的全球信息网格。
这类高度复杂性有望出现在监控等领域中,也正应用于军事和防务市场的各个方面,从步兵的头盔到与中央司令部联网的军用卫星等,无所不包。可能更令人惊叹的是,Smarter Vision技术正快速进入其它领域,以提高生活质量,确保生命安全。
Smarter Vision 成就完美苹果
现在以苹果为例。有没有想过一个好苹果是怎么进入您的杂货店的?赛灵思工业科学和医疗业务部的架构师Giulio Corradi说,今天食品公司正在把最新Smarter Vision系统用于食品检验生产线,将坏苹果从好苹果中筛选出来。Corradi表示,高速食品检验生产线上使用的第一代嵌入式视觉系统通常使用一个或者多个摄像头来发现苹果或者其它农产品表面上的瑕疵。如果嵌入式视觉系统发现有非正常的色泽,该苹果就会被打上标记/筛选出来进行进一步检测,或者扔掉。
但是如果在此之前的某个时候水果曾掉落过,但伤痕难以察觉会怎么样呢?Corradi表示“在某些情况下,掉落造成的伤痕可能难以被摄像头发现,只能用肉眼查看。伤痕可能实际上位于苹果的果肉中。所以一些Smarter Vision系统在摄像头上集成了红外传感器。这样这种更加高级的Smarter Vision系统就可以检测到苹果表皮之下的伤痕,触发机械分拣机将苹果推出生产线,以免被包装发往杂货店。”如果没有Smarter融合视觉系统的帮助,有伤痕的苹果会通过检测,而伤痕会在苹果摆放到杂货店货架上时变得明显,这样就可能不得不把它扔掉。一个坏苹果会糟蹋一堆苹果。
此外,分析功能还可以帮助食品公司判断有伤痕的苹果状态是否足够良好,可以转入新的生产线,由另一个Smarter Vision系统判断它是否适用于其它用途,比如制作苹果酱、果脯或者如果状态太差,用于制作肥料。
Corradi表示,Smarter Vision技术正在被应用于工厂车间,以帮助保护工人。越来越多的工厂今天都已完成自动化,使用机器人辅助技术或者完全自动化的机器人生产线。Corradi表示,最早的这些自动化工厂中,每部机器人只执行生产产品的一小部分任务,然后将其传送给生产线上的另一部机器人。由于这些机器人完成的是一系列可预测的工作,它们的活动范围也可以预测。因此,为保护在这些机器人生产线附近操作、维护或者工作的工人,许多设施在机器人周围建有保护笼。
然而在现代化工厂中,制造商正在越来越多地使用更加灵活的机器人生产线按需生产更多数量的产品,而且可以重新装备这些机器人生产线,用于制造未来的产品。为此,工厂为机器人提供更大的泊位,因其移动范围可能会发生显著的变化。对于需要制造不同产品系列的机器人来说,安全笼显得限制过多(或者过小),无法适应机器人的移动范围。
因此,为了保护工人的安全,同时避免制约自动化工厂生产线的活动范围,企业正在使用Smarter Vision技术创建安全系统。摄像头和激光会竖立“虚拟栅栏或者屏障”,如果工作人员(和安全监测人员)在产品正在生产时过于靠近工厂生产线,会以声音发出告警。部分装置包含多相虚拟屏障系统,可以在有人跨越外部屏障时发出声响报警,然后在这个人跨越第二道屏障、接近机器人时自动关闭整条生产线,以避免发生伤害事故。嵌入式视觉联盟的Bier提到,这种类型的虚拟屏障技术正在越来越多地广泛应用到有人员在具有潜在危险性设备和化学品周围工作的其它应用中。Bier说:“这对于降低工厂中的事故数量能起到明显的作用,不过为什么不能在游乐场、或在我们家中的游泳池周围、轿车上也安装虚拟屏障呢?我想我们将很快看到我们日常生活中越来越多的虚拟屏障系统。”
Smarter Vision带来完美驾驶体验
为实现更轻松、更安全的驾驶体验,汽车是另一个充分采用Smarter Vision技术的市场。赛灵思汽车业务部的系统架构师Paul Zoratti表示,在汽车市场中,高级驾驶员辅助系统(ADAS)就是关于使用包括Smarter Vision在内的远程传感技术,从而在驾驶过程中为驾驶员提供帮助(即让驾驶员的驾驶水平提高)。
在过去十年中,汽车制造商已经开始将一系列Smarter Vision技术支持的驾驶员辅助功能应用到各种高端车型中。每年他们都会在其豪车产品线上推出更强大的驾驶员辅助功能,同时在其运动车型和标准车型产品线上引入越来越多的驾驶员辅助功能。
这些功能包括盲点检测、变道辅助、行人和标牌检测等,会在感知到潜在危险情况时向驾驶员发出警告。汽车制造商最近推出的车型甚至还可提供更高级的自动紧急制动和车道保持系统。它们不仅会监测车辆环境,发现潜在问题,还会辅助驾驶员采取纠正措施,避免事故发生或者降低其严重性。
Zoratti指出,现在的某些新型轿车装配有四个摄像头,分别位于车身两侧、车前和车尾,为驾驶员提供车辆周围环境的连续360度视角。虽然第一代环视系统只是使用这些摄像头为驾驶员提供图像,而未来的系统会融入更多的驾驶员辅助功能。使用相同的四个摄像头和图像处理分析功能,新一代系统可同时生成汽车的鸟瞰图,还能在遇到行人时警告潜在危险。此外,当汽车以更高速度行驶时,汽车可使用车身侧面和后面的摄像头,用于盲点检测、变道辅助和车道偏离警示等功能。在挡风玻璃后增加一个前视摄像头,可以支持交通标识识别和正向碰撞告警功能。最后,当驾驶员抵达自己的目的地时,可启动自动停车功能。在这些摄像头和其它传感器的共同配合下,系统将帮助汽车半自动地驶入停车位。
Zoratti重点指出,实时完成所有这些工作需要大量的处理功能,这恰好是并行硬件计算的优势所在。这就是为什么许多早期系统将独立的微处理器和FPGA搭配使用,由FPGA处理大多数的并行计算,而微处理器则处理串行决策。
与监控等需要使用多个摄像头的其它市场不同,它会给汽车带来成本压力,促使分析功能不是在每个摄像头,而是在中央计算中心中完成。这样做可以最大限度地降低每部摄像头传感器的成本,乃至最终整个系统的成本。但是这也意味着中央单元的处理平台需要具备极高的性能和带宽,才能支持同时处理四路、五路乃至六路实时视频输入。
Smarter Vision 创造生命奇迹
另一个被Smarter Vision技术显著改变的领域是医疗电子行业。Smarter Vision技术在各种医疗成像技术中得到广泛应用,包括内窥镜和图像扫描仪(CT、MRI等)、机器人外科手术系统(如Intuitive Surgical公司的Da Vinci(达芬奇))等。详细介绍参见赛灵思中国通讯杂志第42期(http://issuu.com/xilinxdoc/docs/cn_xcell_42)。
在达芬奇众多值得称道的嵌入式系统中,最高级的应该是3D视觉系统,它能够让外科医生以极高的精度、流畅性和触觉敏感性操作机器人外科仪器,完成一系列精细而又错综复杂的外科手术过程。每诞生一代新系统,外科医生就能够执行更多数量和种类的外科手术,确保更好的治疗效果和更短的恢复时间。控制和协调手术过程的技术精密程度令人叹为观止,需要高度依赖处理能力和逻辑的完美结合。因此,每一代新技术都将从处理器和逻辑的更高集成度中获益。
Smarter Vision带来身临其境的视觉体验
Smarter Vision在让我们保持联系方面也取得了重大进步。如果您在现代办公楼工作,您的公司很可能至少有一个装有高级远程呈现会议系统的会议室。这不仅便于您与世界各地的参会者对话,而且还能亲眼看到他们,就如同在身边面对面交流一样。这些视频会议系统的精密程度在不断提高,以至于能够感知在桌边或者会议中发言的人是谁,然后自动将镜头拉近并对准这个人,用更高画质的逼真视频显示。
赛灵思广播及消费市场营销总监Ben Runyan表示,开发远程呈现技术的企业正在探寻如何为用户创造更佳的浸入式体验。Runyan称:“这样做的目的是让用户感觉他们同处一间会议室,但实际上他们可能身处地球两端。要实现这个目的,需要高级的摄像头和显示技术,以及高级的图像处理功能。技术的不断进步会带来更加逼真的体验,这会让协作变得更加简单,使企业的工作效率进一步提高,同时减少差旅需求和费用。”
Smarter网络
大部分Smarter Vision系统都是局域网的组成部分,同时越来越多的这种系统依次连接到更大型的外部网络。例如在汽车应用中,嵌入式视觉系统通过CAN总线、LIN和FlexRay等标准协议进行通信。此外,通用汽车还为客户提供OnStar无线导航、安全和车辆诊断服务,以便OnStar操作人员能够接入车辆系统,诊断问题。
与此形成鲜明对比的是,工业制造领域的每家厂商似乎都已开发出自己的专有协议。但是在越来越多的行业中,客户呼吁制造商提供的系统要能兼容标准因特网协议网络或以太网网络。使用通过标准网络连接和通信的系统,客户便可更加方便地将新系统集成到自己的企业中,不必搭配和匹配多家厂商的系统,从而获得更大的定价优势。但是加强网络兼容性会使嵌入式视觉设计进一步复杂化,因为视觉系统现在必须集成更加复杂的网络技术、高速I/O,并能在协议变化或者新协议出现时更新系统。软件可编程解决方案往往无法直接满足这类变化提出的性能要求,迫使客户必须从其它厂商购买新的系统。因此嵌入式视觉系统必须拥有足够的I/O灵活性,才能跟上网络技术的快速发展变化。
赛灵思:为Smarter Vision而全力打造的All-Programmable
要全面快速推进Smarter Vision技术的发展,满足新市场的需求,就必须拥有一款极为灵活的处理平台、丰富的资源组合以及致力于推进Smarter Vision技术发展的可靠的生态系统。过去10年来,赛灵思器件在帮助有关公司推进这些视觉系统创新方面一直发挥着重大作用。今天,赛灵思经过长达5年的开发,成功推出了一款完整的解决方案,将力助Smarter Vision应用开发商快速推出新一代创新技术。
10多年来,嵌入式视觉技术设计人员一直充分利用赛灵思FPGA的可编程性、并行计算功能和快速I/O功能,满足一系列嵌入式视觉系统的需求。过去,设计人员用FPGA加速系统中可能拖慢主处理器的功能,或者用FPGA来运行仅靠处理器不能执行的并行计算任务。而现在,利用Zynq-7000 All Programmable SoC,嵌入式视觉技术开发人员拥有了一款全面可编程的器件,非常适合开发新一代Smarter Vision应用。
赛灵思公司视频技术工程设计总监Jose Alvarez指出:“Smarter Vision技术能在同一开发板上互联传输的不同处理器和FPGA中实现,而Zynq-7000 All Programmable SoC为电子产业带来了前所未有的高集成度。现在,我们能通过同一芯片上处理器和逻辑之间3,000个高性能连接以芯片速度而不是板级速度在智能处理器和FPGA逻辑之间交换信息。”
下图显示出Zynq-7000 All Programmable SoC在多功能汽车驾驶员辅助系统创建中相对于采用传统多摄像头多芯片架构的优势。在赛灵思架构(见图中左下方),将一组摄像头连接到一个Zynq-7000 All Programmable SoC,能支持盲区检测、360度环绕视图、车道偏移报警和行人检测等功能捆绑。相反,现有的多功能DA系统需要多个芯片和多个摄像头,这就会让集成更复杂化,对性能和系统功耗造成不利影响,也提高了BOM成本。
一些芯片厂商提供的ASSP将ARM处理器与DSP或GPU搭配一起使用,但这种器件过于僵化,而且针对今天许多Smarter Vision应用而言计算性能也不够高。基于这种器件的解决方案往往需要添加独立的FPGA来弥补自身的不足。
Zynq-7000 All Programmable SoC相对于以GPU和DSP为中心的SoC而言,其主要优势就是具有的可编程性和高性能。ARM处理系统具有软件可编程性,FPGA逻辑可通过HDL或C++编程,甚至I/O也是全面可编程的。这样,客户就能创建出适合其特定的应用极高性能Smarter Vision系统,并让其系统从竞争产品中脱颖而出。
下图详细给出了Smarter Vision系统的一般信号流程,从中可以看出Zynq All Programmable SoC相对于基于ARM和DSP以及基于ARM和GPU的ASSP解决方案的优势。
流程中的第一个信号处理模块(绿色)是连接器件到摄像头感应器的输入。在Zynq-7000 All Programmable SoC中,开发人员可让多种不同I/O信号适应于客户连接的任何摄像头需要。下一个信号处理模块执行像素级处理或视频处理工作(具体取决于应用是面向图形处理还是显示)。再下一个模块执行图像分析功能,这是一个计算密集型任务,通常需要并行计算,而这则是FPGA最擅长的任务。接下来3个模块(红色)分别代表处理系统获得分析所得的元数据结果、创建图形化结果表达(在图像步骤显示),以及对结果进行编码用于传输。在Zynq-7000 All Programmable SoC中,处理子系统和FPGA逻辑协同工作。如果需要压缩,FPGA逻辑会直接采用适当的编解码器。在接下来最后一个信号处理模块(标为“输出”)中,Zynq-7000 SoC的可编程I/O可让开发人员满足多种不同通信协议和视频传输标准的要求,有的是厂商专有标准,有的是特定市场标准,还有的则是业界标准IP协议。与此形成对比的是,当开发人员采用以DSP和GPU为中心的SoC开发算法时,可能ASSP中的DSP或GPU难以提供所需的性能。为了弥补这种性能不足,开发人员往往还要在系统中采用独立的FPGA。
Zynq-7000 All Programmable SoC显然是开发Smarter视觉系统的最佳芯片选择,而赛灵思在该器件开发的早期阶段就认识到,应当对编程进行优化,特别是对那些比较习惯用C和C++开发视觉算法的设计人员来说更应该优化编程方法。为此,赛灵思于2012年6月向客户推出了一款最先进的软件环境:Vivado设计套件,其包含有业界一流的高层次综合等多项技术。赛灵思于2011年1月收购AutoESL获得了这种高层次综合技术。Vivado HLS特别适用于嵌入式视觉应用。比方说,如果视觉系统开发人员用Zynq-7000 All Programmable SoC开发的C或C++语言算法运行速度不够快,或者给处理系统带来过重负担,那么这些开发人员就能把C算法提交给Vivado HLS,并将这些算法综合成Verilog或VHDL,然后在器件的FPGA逻辑中运行。这就能将Zynq-7000 All Programmable SoC上的处理子系统解放出来,让它从事更适合自己的任务,从而加速整体系统性能。赛灵思还推出了OpenCV(CV就是计算机视觉的缩写)库,让进一步完善了Smarter Vision技术。
OpenCV是一款具有行业标准、包含OpenCV.org算法的开源库,能帮助嵌入式视觉开发人员快速创建视觉系统。全球嵌入式视觉开发人员积极地为这款开源库开发新的算法,目前已经包含了2500多款使用C、C++、Java和Python语言编写的算法。库中的算法具有各种不同的复杂程度,有的可执行图形滤波器等简单功能,有的则能执行运动检测等更高级的分析功能。赛灵思的视频技术设计总监Alvarez表示,这些OpenCV算法可用于微处理器和DSP等处理器的实现,支持Intel、ARM、Nvidia、MIPS/Imagination Technologies、TI等不同厂商的产品。由于Zynq-7000 All Programmable SoC采用ARM处理系统,因此用户能在Zynq-7000 All Programmable SoC的处理器上实现这些采用C++语言编写的算法。
Alvarez指出,有了Vivado HLS,用户可以用C或C++语言编写这些算法,将函数调用从OpenCV改为HLS,并使用Vivado HLS将这些算法综合或编译到RTL代码,从而针对Zynq-7000 All Programmable SoC逻辑部分的实现进行优化。Vivado环境中提供OpenCV,能让Smarter视觉架构设计人员方便地比较设计方案中的给定算法到底是在处理器还是Zynq-7000 All Programmable SoC的FPGA逻辑部分运行效率最佳。赛灵思开源库的推出可为客户提供一个良好的设计开端。就Vivado HLS而言,赛灵思已经编译了OpenCV库中30多种最常用的嵌入式视觉算法。客户可在系统级快速权衡处理器与逻辑,而且能立即在Zynq-7000 All Programmable SoC上运行,确保给定应用实现最佳的系统效果。
赛灵思及其联盟成员还将积极从OpenCV库持续进行功能移植,每个季度都将向赛灵思不断扩展的用户群提供新的功能。由于开发人员能在几乎任何商业处理器上运行OpenCV库,因此视觉设计人员能比较各种芯片器件上运行的不同算法的性能,甚至明确性能基准。赛灵思坚信,广大客户必将发现Zynq All Programmable SoC的明显优势。事实上,您也可在本演示中见证Zynq-7000 All Programmable SoC和赛灵思Smarter Vision技术的强大实力。赛灵思杰出工程师Kees Vissers在演示中将介绍如何使用OpenCV算法,并配合使用Vivado HLS快速在Zynq-7000 All Programmable SoC的FPGA逻辑部分实现这些算法,而相对于在ARM A4处理子系统中实现相同功能而言性能可提升50倍到100倍之多。
赛灵思的SMARTCore IP产品系列能充分满足各种不同细分市场对于高级Smarter Vision系统的必要要求。
作为Smarter Vision计划的一部分,赛灵思还推出了SmartCORE IP组合,以满足各种细分市场的Smarter视觉设计要求,为新一代产品带来Smarter视觉功能。客户能通过使用赛灵思新推出的IP Integrator工具在其设计中快速实现SmartCORE IP组合的内核以及OpenCV库的算法。这款新工具是一种新型即插即用IP环境,能帮助用户在原理图环境中工作,或者如果需要的话也支持在命令行环境中工作。
Alvarez指出,自Vivado设计套件诞生后,赛灵思让该套件的设计具有器件意识,这样就能充分发挥每款器件的功能。Alvarez称,有了IP Integrator,Vivado设计套件不仅具有器件意识,现在还具有目标平台意识,支持所有Zynq All Programmable SoC和7系列FPGA开发板以及套件。具有目标平台意识,就意味着Vivado设计套件现在能配置和应用特定开发板的设计规则检查,从而确保快速推出切实可行的系统。
举例来说,当设计人员选择赛灵思 Zynq-7000 SoC视频及成像套件,并在IP Integrator中实例化Zynq-7000 All Programmable SoC处理系统时,Vivado设计套件则会用正确的外设、驱动程序和存储器映射对处理系统进行预配置,从而为开发板提供支持。嵌入式设计团队现在能面向双核ARM处理系统和高性能FPGA逻辑更迅速地识别、重用并集成IP软/硬核。
用户可通过一系列对话框指定处理系统及其逻辑之间的接口。IP Integrator随后自动生成RTL并针对性能或占用面积进行优化。接下来用户能添加自己的定制逻辑,或用Vivado IP目录完成设计。
您是否见识过奥迪非凡的自动泊车功能?在没有驾驶员的情况下,轿车能自动找到车位并泊车入位;或者,您是否使用Kinect控制器玩过Xbox 360游戏,或是刚刚咬下一口您从本地水果店购买的鲜香水果。如果是,那么您可以把自己看成是Smarter Vision系统时代到来的见证人。
从最尖端精密的电子系统到普普通通的苹果,各种形式的产品都无不受到Smarter视频技术的影响。虽然当今Smarter Vision的运用已足以让人称奇,但专家称我们其实还什么都没有看到。有人预测在10年时间里,从汽车到工厂自动化、医疗、监控、消费类、航空航天和军用产品等绝大多数电子系统都将包含功能更丰富、出众的Smarter Vision技术,极大地丰富人们的生活,乃至挽救生命。
Smarter Vision系统将迅速得到普及,而且随着它们在未来几年将变得更加尖端复杂,我们很可能会乘坐自动驾驶汽车尽情穿梭在高速公路网上。诸如Intuitive Surgical公司令人惊叹的机器人辅助手术系统等医疗设备将进一步得到发展,甚至能够让外科医生远程执行外科手术。电视和远程监控系统让人仿佛置身其中,达到前所未有的互操作水平,同时影院、家庭和店铺屏幕上的内容也将迎合每个不同消费者的兴趣,乃至情绪。
赛灵思All Programmable Smarter Vision解决方案正在引领这场变革创新。ZynqTM-7000 All Programmable SoC是业界首款在单个器件上将ARM双核CortexTM-A9 MPCORETM、可编程逻辑及主要外设完美结合在一起的器件。赛灵思以其作为基础,已推出了配套基础架构(工具及SmartCORE IP组合),其将在开发和加速这些出色的创新产品上市进程中发挥至关重要的作用。该辅助基础架构包括VivadoTM HLS(高层次综合)、最新IP Integrator工具、OpenCV(计算机视觉)库、SmartCORETM IP和专用开发套件。
赛灵思企业战略与市场营销高级副总裁Steve Glaser表示:“借助赛灵思All Programmable Smarter Vision解决方案,我们将帮助客户率先推出新一代Smarter Vision系统。在过去10年中,客户已充分利用我们的FPGA来为他们系统处理器中那些运行速度不足的功能提速。对于Zynq-7000 All Programmable SoC而言,处理器和FPGA逻辑均位于同一芯片上,这意味着开发人员现已拥有一款适用于Smarter Vision应用的理想的芯片平台。我们现在又推出了一款由Vivado HLS、最新IP Integrator工具、OpenCV库、SmartCORE IP和开发套件组成的稳健可靠的开发环境,进一步完善了Zynq-7000 All Programmable SoC。借助这些Smarter Vision技术,我们的客户可以立即启动他们的新设计,以更快的速度推出效率和系统性能更高、系统功耗和材料清单成本更低的创新产品,从而在提升盈利能力的同时丰富人们的生活,乃至挽救生命。”
从哑巴摄像机到Smarter Vision
Smarter Vision系统的根源在于嵌入式视觉。若您对嵌入式视觉知之甚少,那么就让我们看看下面对这种技术及其演进发展的介绍。
根据快速发展的行业组织“嵌入式视觉联盟”的定义,嵌入式视觉融合了两种技术:嵌入式系统(区别于使用处理器的计算机的任何电子系统)和计算机视觉(有时也称机器视觉)。
嵌入式视觉联盟创始人兼咨询公司BDTI首席执行官Jeff Bier表示,嵌入式视觉技术已经给数个行业造成显著的影响,因为该技术的发展已远远超越了以往的通过电机驱动实现平移/倾斜/缩放(motorized pan-tilt-zoom)功能的模拟摄像系统时代。Bier表示:“我们已在数字时代生活了一段时间,看到嵌入式视觉从擅长压缩、存储或增强摄像头拍摄内容观感的早期数字系统迅速发展成为如今能知晓拍摄内容的Smarter嵌入式视觉系统。”此外,先进的嵌入式视觉系统或Smarter视觉系统不仅能增强和分析图像,而且还能根据那些分析结果触发行动。由此,处理量和计算能力以及算法的复杂性都显著增大。监控市场的快速发展就是这种显著演进的最好例证之一。
20年前,监控系统厂商竞相提供由机械系统强化的最佳透镜,能够执行可实现更清晰、更宽广拍摄视野的平移/倾斜/缩放功能。这些系统基本上由模拟摄像机、连接用同轴电缆、模拟监控器和安保人员监控的视频录制装置组成。这些系统的清晰度、可靠性和有效性由光学组件和透镜的质量以及监控摄像头播放内容的安保人员的尽职程度决定。
嵌入式视觉技术的问世使监控设备公司能够使用基于数字技术的较低成本摄像头。此类数字处理能力可为其系统提供卓越的功能,在性能上超越模拟以及基于透镜的保安系统,在价格上则更低廉。
鱼眼透镜和采用各种视觉专用算法的嵌入式处理系统大幅增强了摄像头生成的画质。这些技术针对光照条件进行了校正,能够改善对焦,增强色泽和数字缩放观测区域,另外无需使用机械电机控制来执行平移/倾斜/缩放,从而能够进一步提升系统可靠性。企业使用数字信号处理可提供视频分辨率达到以及超过1080p的监控系统。实际上,就无人机(UAV)和军用卫星而言,嵌入式视觉已能够实现前所未有的超高分辨率。若以此分辨率捕获图像,就需要处理大量的像素,而增强和操控这些图像则需要甚至更高的处理能力。
但通过数字信号处理操纵图像,增强其清晰度只是开始。凭借先进得多的像素处理功能,监控系统制造商开始创建更尖端的嵌入式视觉系统,以便能在其数字系统所采集的高画质图像上实时执行分析功能。视觉系统设计人员每年都会推出一系列功能更为强大的高级算法,用于创建更为动态的分析功能。这些嵌入式视觉系统的最早期类型只能检测特定的色彩、形状和移动。这项功能迅速地发展为具有下列功能的算法:能够检测跨越摄像头视野中虚拟栅栏的物体;判断图像中的对象是否是一个人;以及,链接至数据库后甚至能识别特定的人。
最先进的监控系统所提供的分析功能能跟踪受监测的个人穿越安保网络的视野范围,即便在他们离开摄像头的视野后进入盲点,然后再进入监控网络的另一部摄像头的视野后也能追踪。视觉设计人员已经设计出某些此类系统,用于检测异常或可疑的移动。赛灵思工业、科学及医疗(ISM)事业部系统架构师Mark Timmons表示:“分析功能是当今监控市场最大的发展趋势。它可以克服人为错误,甚至取代细致的人工观察和决策。可以想象,在火车站和运动赛场等拥挤的环境中,监控的难度极大。所以如果有分析功能可以发现过度拥挤的危险情况或表现出危险行为或过激动作的个人,就会带来非常明显的优势。”
为了进一步增强这种分析功能并提升此类系统的有效性,监控及众多其它使用Smarter Vision技术的市场越来越多地采用“融合”架构,将摄像头和热成像、雷达、声纳和LIDAR(光/激光探测和测距)等其它感测技术相结合。这样Smarter视觉设计人员就可进一步增强最终图像,实现夜视、检测热温/热能影像或是拾取单凭摄像头不能采集或无法看到的对象。这项功能能显著地减少虚假检测,从而实现更准确的分析。毫无疑问,技术融合以及之后分析融合技术采集的数据会带来更大的复杂性,要求更为强大的分析处理能力。
Timmons提到,这个市场上的另一大趋势是执行所有这些类型的复杂分析系统都位于监控系统网络的“边缘”,即位于每一部摄像头中,而非由每一部摄像头将自己的数据传输给中央大型机系统,然后再由大型机根据多路馈入的数据进行更精确的分析。分析功能的本地化为整体安全系统增加了灵活性,使得系统中的每个点都能更加迅速准确地执行检测,因而如果摄像头能真正发现切实的威胁,就能更迅速地向操作人员发出告警。
分析功能本地化意味着每个单元不仅需要更强大的处理功能来强化和分析摄像头采集的图像,而且还必须足够紧凑,能够集成至高度集成的电子系统中。且由于每个单元都必须能够可靠地与网络的其余部分进行通信,摄像头还必须集成电子通信功能,进一步增大计算复杂度。这些监控单元逐渐通过无线网络连接构成更大型监控系统的组成部分;而且这些监控系统将不断变成更大规模的企业网络乃至更大规模的全球网络的组成部分,正如美国军方的全球信息网格。
这类高度复杂性有望出现在监控等领域中,也正应用于军事和防务市场的各个方面,从步兵的头盔到与中央司令部联网的军用卫星等,无所不包。可能更令人惊叹的是,Smarter Vision技术正快速进入其它领域,以提高生活质量,确保生命安全。
Smarter Vision 成就完美苹果
现在以苹果为例。有没有想过一个好苹果是怎么进入您的杂货店的?赛灵思工业科学和医疗业务部的架构师Giulio Corradi说,今天食品公司正在把最新Smarter Vision系统用于食品检验生产线,将坏苹果从好苹果中筛选出来。Corradi表示,高速食品检验生产线上使用的第一代嵌入式视觉系统通常使用一个或者多个摄像头来发现苹果或者其它农产品表面上的瑕疵。如果嵌入式视觉系统发现有非正常的色泽,该苹果就会被打上标记/筛选出来进行进一步检测,或者扔掉。
但是如果在此之前的某个时候水果曾掉落过,但伤痕难以察觉会怎么样呢?Corradi表示“在某些情况下,掉落造成的伤痕可能难以被摄像头发现,只能用肉眼查看。伤痕可能实际上位于苹果的果肉中。所以一些Smarter Vision系统在摄像头上集成了红外传感器。这样这种更加高级的Smarter Vision系统就可以检测到苹果表皮之下的伤痕,触发机械分拣机将苹果推出生产线,以免被包装发往杂货店。”如果没有Smarter融合视觉系统的帮助,有伤痕的苹果会通过检测,而伤痕会在苹果摆放到杂货店货架上时变得明显,这样就可能不得不把它扔掉。一个坏苹果会糟蹋一堆苹果。
此外,分析功能还可以帮助食品公司判断有伤痕的苹果状态是否足够良好,可以转入新的生产线,由另一个Smarter Vision系统判断它是否适用于其它用途,比如制作苹果酱、果脯或者如果状态太差,用于制作肥料。
Corradi表示,Smarter Vision技术正在被应用于工厂车间,以帮助保护工人。越来越多的工厂今天都已完成自动化,使用机器人辅助技术或者完全自动化的机器人生产线。Corradi表示,最早的这些自动化工厂中,每部机器人只执行生产产品的一小部分任务,然后将其传送给生产线上的另一部机器人。由于这些机器人完成的是一系列可预测的工作,它们的活动范围也可以预测。因此,为保护在这些机器人生产线附近操作、维护或者工作的工人,许多设施在机器人周围建有保护笼。
然而在现代化工厂中,制造商正在越来越多地使用更加灵活的机器人生产线按需生产更多数量的产品,而且可以重新装备这些机器人生产线,用于制造未来的产品。为此,工厂为机器人提供更大的泊位,因其移动范围可能会发生显著的变化。对于需要制造不同产品系列的机器人来说,安全笼显得限制过多(或者过小),无法适应机器人的移动范围。
因此,为了保护工人的安全,同时避免制约自动化工厂生产线的活动范围,企业正在使用Smarter Vision技术创建安全系统。摄像头和激光会竖立“虚拟栅栏或者屏障”,如果工作人员(和安全监测人员)在产品正在生产时过于靠近工厂生产线,会以声音发出告警。部分装置包含多相虚拟屏障系统,可以在有人跨越外部屏障时发出声响报警,然后在这个人跨越第二道屏障、接近机器人时自动关闭整条生产线,以避免发生伤害事故。嵌入式视觉联盟的Bier提到,这种类型的虚拟屏障技术正在越来越多地广泛应用到有人员在具有潜在危险性设备和化学品周围工作的其它应用中。Bier说:“这对于降低工厂中的事故数量能起到明显的作用,不过为什么不能在游乐场、或在我们家中的游泳池周围、轿车上也安装虚拟屏障呢?我想我们将很快看到我们日常生活中越来越多的虚拟屏障系统。”
Smarter Vision带来完美驾驶体验
为实现更轻松、更安全的驾驶体验,汽车是另一个充分采用Smarter Vision技术的市场。赛灵思汽车业务部的系统架构师Paul Zoratti表示,在汽车市场中,高级驾驶员辅助系统(ADAS)就是关于使用包括Smarter Vision在内的远程传感技术,从而在驾驶过程中为驾驶员提供帮助(即让驾驶员的驾驶水平提高)。
在过去十年中,汽车制造商已经开始将一系列Smarter Vision技术支持的驾驶员辅助功能应用到各种高端车型中。每年他们都会在其豪车产品线上推出更强大的驾驶员辅助功能,同时在其运动车型和标准车型产品线上引入越来越多的驾驶员辅助功能。
这些功能包括盲点检测、变道辅助、行人和标牌检测等,会在感知到潜在危险情况时向驾驶员发出警告。汽车制造商最近推出的车型甚至还可提供更高级的自动紧急制动和车道保持系统。它们不仅会监测车辆环境,发现潜在问题,还会辅助驾驶员采取纠正措施,避免事故发生或者降低其严重性。
Zoratti指出,现在的某些新型轿车装配有四个摄像头,分别位于车身两侧、车前和车尾,为驾驶员提供车辆周围环境的连续360度视角。虽然第一代环视系统只是使用这些摄像头为驾驶员提供图像,而未来的系统会融入更多的驾驶员辅助功能。使用相同的四个摄像头和图像处理分析功能,新一代系统可同时生成汽车的鸟瞰图,还能在遇到行人时警告潜在危险。此外,当汽车以更高速度行驶时,汽车可使用车身侧面和后面的摄像头,用于盲点检测、变道辅助和车道偏离警示等功能。在挡风玻璃后增加一个前视摄像头,可以支持交通标识识别和正向碰撞告警功能。最后,当驾驶员抵达自己的目的地时,可启动自动停车功能。在这些摄像头和其它传感器的共同配合下,系统将帮助汽车半自动地驶入停车位。
Zoratti重点指出,实时完成所有这些工作需要大量的处理功能,这恰好是并行硬件计算的优势所在。这就是为什么许多早期系统将独立的微处理器和FPGA搭配使用,由FPGA处理大多数的并行计算,而微处理器则处理串行决策。
与监控等需要使用多个摄像头的其它市场不同,它会给汽车带来成本压力,促使分析功能不是在每个摄像头,而是在中央计算中心中完成。这样做可以最大限度地降低每部摄像头传感器的成本,乃至最终整个系统的成本。但是这也意味着中央单元的处理平台需要具备极高的性能和带宽,才能支持同时处理四路、五路乃至六路实时视频输入。
Smarter Vision 创造生命奇迹
另一个被Smarter Vision技术显著改变的领域是医疗电子行业。Smarter Vision技术在各种医疗成像技术中得到广泛应用,包括内窥镜和图像扫描仪(CT、MRI等)、机器人外科手术系统(如Intuitive Surgical公司的Da Vinci(达芬奇))等。详细介绍参见赛灵思中国通讯杂志第42期(http://issuu.com/xilinxdoc/docs/cn_xcell_42)。
在达芬奇众多值得称道的嵌入式系统中,最高级的应该是3D视觉系统,它能够让外科医生以极高的精度、流畅性和触觉敏感性操作机器人外科仪器,完成一系列精细而又错综复杂的外科手术过程。每诞生一代新系统,外科医生就能够执行更多数量和种类的外科手术,确保更好的治疗效果和更短的恢复时间。控制和协调手术过程的技术精密程度令人叹为观止,需要高度依赖处理能力和逻辑的完美结合。因此,每一代新技术都将从处理器和逻辑的更高集成度中获益。
Smarter Vision带来身临其境的视觉体验
Smarter Vision在让我们保持联系方面也取得了重大进步。如果您在现代办公楼工作,您的公司很可能至少有一个装有高级远程呈现会议系统的会议室。这不仅便于您与世界各地的参会者对话,而且还能亲眼看到他们,就如同在身边面对面交流一样。这些视频会议系统的精密程度在不断提高,以至于能够感知在桌边或者会议中发言的人是谁,然后自动将镜头拉近并对准这个人,用更高画质的逼真视频显示。
赛灵思广播及消费市场营销总监Ben Runyan表示,开发远程呈现技术的企业正在探寻如何为用户创造更佳的浸入式体验。Runyan称:“这样做的目的是让用户感觉他们同处一间会议室,但实际上他们可能身处地球两端。要实现这个目的,需要高级的摄像头和显示技术,以及高级的图像处理功能。技术的不断进步会带来更加逼真的体验,这会让协作变得更加简单,使企业的工作效率进一步提高,同时减少差旅需求和费用。”
Smarter网络
大部分Smarter Vision系统都是局域网的组成部分,同时越来越多的这种系统依次连接到更大型的外部网络。例如在汽车应用中,嵌入式视觉系统通过CAN总线、LIN和FlexRay等标准协议进行通信。此外,通用汽车还为客户提供OnStar无线导航、安全和车辆诊断服务,以便OnStar操作人员能够接入车辆系统,诊断问题。
与此形成鲜明对比的是,工业制造领域的每家厂商似乎都已开发出自己的专有协议。但是在越来越多的行业中,客户呼吁制造商提供的系统要能兼容标准因特网协议网络或以太网网络。使用通过标准网络连接和通信的系统,客户便可更加方便地将新系统集成到自己的企业中,不必搭配和匹配多家厂商的系统,从而获得更大的定价优势。但是加强网络兼容性会使嵌入式视觉设计进一步复杂化,因为视觉系统现在必须集成更加复杂的网络技术、高速I/O,并能在协议变化或者新协议出现时更新系统。软件可编程解决方案往往无法直接满足这类变化提出的性能要求,迫使客户必须从其它厂商购买新的系统。因此嵌入式视觉系统必须拥有足够的I/O灵活性,才能跟上网络技术的快速发展变化。
赛灵思:为Smarter Vision而全力打造的All-Programmable
要全面快速推进Smarter Vision技术的发展,满足新市场的需求,就必须拥有一款极为灵活的处理平台、丰富的资源组合以及致力于推进Smarter Vision技术发展的可靠的生态系统。过去10年来,赛灵思器件在帮助有关公司推进这些视觉系统创新方面一直发挥着重大作用。今天,赛灵思经过长达5年的开发,成功推出了一款完整的解决方案,将力助Smarter Vision应用开发商快速推出新一代创新技术。
10多年来,嵌入式视觉技术设计人员一直充分利用赛灵思FPGA的可编程性、并行计算功能和快速I/O功能,满足一系列嵌入式视觉系统的需求。过去,设计人员用FPGA加速系统中可能拖慢主处理器的功能,或者用FPGA来运行仅靠处理器不能执行的并行计算任务。而现在,利用Zynq-7000 All Programmable SoC,嵌入式视觉技术开发人员拥有了一款全面可编程的器件,非常适合开发新一代Smarter Vision应用。
赛灵思公司视频技术工程设计总监Jose Alvarez指出:“Smarter Vision技术能在同一开发板上互联传输的不同处理器和FPGA中实现,而Zynq-7000 All Programmable SoC为电子产业带来了前所未有的高集成度。现在,我们能通过同一芯片上处理器和逻辑之间3,000个高性能连接以芯片速度而不是板级速度在智能处理器和FPGA逻辑之间交换信息。”
下图显示出Zynq-7000 All Programmable SoC在多功能汽车驾驶员辅助系统创建中相对于采用传统多摄像头多芯片架构的优势。在赛灵思架构(见图中左下方),将一组摄像头连接到一个Zynq-7000 All Programmable SoC,能支持盲区检测、360度环绕视图、车道偏移报警和行人检测等功能捆绑。相反,现有的多功能DA系统需要多个芯片和多个摄像头,这就会让集成更复杂化,对性能和系统功耗造成不利影响,也提高了BOM成本。
一些芯片厂商提供的ASSP将ARM处理器与DSP或GPU搭配一起使用,但这种器件过于僵化,而且针对今天许多Smarter Vision应用而言计算性能也不够高。基于这种器件的解决方案往往需要添加独立的FPGA来弥补自身的不足。
Zynq-7000 All Programmable SoC相对于以GPU和DSP为中心的SoC而言,其主要优势就是具有的可编程性和高性能。ARM处理系统具有软件可编程性,FPGA逻辑可通过HDL或C++编程,甚至I/O也是全面可编程的。这样,客户就能创建出适合其特定的应用极高性能Smarter Vision系统,并让其系统从竞争产品中脱颖而出。
下图详细给出了Smarter Vision系统的一般信号流程,从中可以看出Zynq All Programmable SoC相对于基于ARM和DSP以及基于ARM和GPU的ASSP解决方案的优势。
流程中的第一个信号处理模块(绿色)是连接器件到摄像头感应器的输入。在Zynq-7000 All Programmable SoC中,开发人员可让多种不同I/O信号适应于客户连接的任何摄像头需要。下一个信号处理模块执行像素级处理或视频处理工作(具体取决于应用是面向图形处理还是显示)。再下一个模块执行图像分析功能,这是一个计算密集型任务,通常需要并行计算,而这则是FPGA最擅长的任务。接下来3个模块(红色)分别代表处理系统获得分析所得的元数据结果、创建图形化结果表达(在图像步骤显示),以及对结果进行编码用于传输。在Zynq-7000 All Programmable SoC中,处理子系统和FPGA逻辑协同工作。如果需要压缩,FPGA逻辑会直接采用适当的编解码器。在接下来最后一个信号处理模块(标为“输出”)中,Zynq-7000 SoC的可编程I/O可让开发人员满足多种不同通信协议和视频传输标准的要求,有的是厂商专有标准,有的是特定市场标准,还有的则是业界标准IP协议。与此形成对比的是,当开发人员采用以DSP和GPU为中心的SoC开发算法时,可能ASSP中的DSP或GPU难以提供所需的性能。为了弥补这种性能不足,开发人员往往还要在系统中采用独立的FPGA。
Zynq-7000 All Programmable SoC显然是开发Smarter视觉系统的最佳芯片选择,而赛灵思在该器件开发的早期阶段就认识到,应当对编程进行优化,特别是对那些比较习惯用C和C++开发视觉算法的设计人员来说更应该优化编程方法。为此,赛灵思于2012年6月向客户推出了一款最先进的软件环境:Vivado设计套件,其包含有业界一流的高层次综合等多项技术。赛灵思于2011年1月收购AutoESL获得了这种高层次综合技术。Vivado HLS特别适用于嵌入式视觉应用。比方说,如果视觉系统开发人员用Zynq-7000 All Programmable SoC开发的C或C++语言算法运行速度不够快,或者给处理系统带来过重负担,那么这些开发人员就能把C算法提交给Vivado HLS,并将这些算法综合成Verilog或VHDL,然后在器件的FPGA逻辑中运行。这就能将Zynq-7000 All Programmable SoC上的处理子系统解放出来,让它从事更适合自己的任务,从而加速整体系统性能。赛灵思还推出了OpenCV(CV就是计算机视觉的缩写)库,让进一步完善了Smarter Vision技术。
OpenCV是一款具有行业标准、包含OpenCV.org算法的开源库,能帮助嵌入式视觉开发人员快速创建视觉系统。全球嵌入式视觉开发人员积极地为这款开源库开发新的算法,目前已经包含了2500多款使用C、C++、Java和Python语言编写的算法。库中的算法具有各种不同的复杂程度,有的可执行图形滤波器等简单功能,有的则能执行运动检测等更高级的分析功能。赛灵思的视频技术设计总监Alvarez表示,这些OpenCV算法可用于微处理器和DSP等处理器的实现,支持Intel、ARM、Nvidia、MIPS/Imagination Technologies、TI等不同厂商的产品。由于Zynq-7000 All Programmable SoC采用ARM处理系统,因此用户能在Zynq-7000 All Programmable SoC的处理器上实现这些采用C++语言编写的算法。
Alvarez指出,有了Vivado HLS,用户可以用C或C++语言编写这些算法,将函数调用从OpenCV改为HLS,并使用Vivado HLS将这些算法综合或编译到RTL代码,从而针对Zynq-7000 All Programmable SoC逻辑部分的实现进行优化。Vivado环境中提供OpenCV,能让Smarter视觉架构设计人员方便地比较设计方案中的给定算法到底是在处理器还是Zynq-7000 All Programmable SoC的FPGA逻辑部分运行效率最佳。赛灵思开源库的推出可为客户提供一个良好的设计开端。就Vivado HLS而言,赛灵思已经编译了OpenCV库中30多种最常用的嵌入式视觉算法。客户可在系统级快速权衡处理器与逻辑,而且能立即在Zynq-7000 All Programmable SoC上运行,确保给定应用实现最佳的系统效果。
赛灵思及其联盟成员还将积极从OpenCV库持续进行功能移植,每个季度都将向赛灵思不断扩展的用户群提供新的功能。由于开发人员能在几乎任何商业处理器上运行OpenCV库,因此视觉设计人员能比较各种芯片器件上运行的不同算法的性能,甚至明确性能基准。赛灵思坚信,广大客户必将发现Zynq All Programmable SoC的明显优势。事实上,您也可在本演示中见证Zynq-7000 All Programmable SoC和赛灵思Smarter Vision技术的强大实力。赛灵思杰出工程师Kees Vissers在演示中将介绍如何使用OpenCV算法,并配合使用Vivado HLS快速在Zynq-7000 All Programmable SoC的FPGA逻辑部分实现这些算法,而相对于在ARM A4处理子系统中实现相同功能而言性能可提升50倍到100倍之多。
赛灵思的SMARTCore IP产品系列能充分满足各种不同细分市场对于高级Smarter Vision系统的必要要求。
作为Smarter Vision计划的一部分,赛灵思还推出了SmartCORE IP组合,以满足各种细分市场的Smarter视觉设计要求,为新一代产品带来Smarter视觉功能。客户能通过使用赛灵思新推出的IP Integrator工具在其设计中快速实现SmartCORE IP组合的内核以及OpenCV库的算法。这款新工具是一种新型即插即用IP环境,能帮助用户在原理图环境中工作,或者如果需要的话也支持在命令行环境中工作。
Alvarez指出,自Vivado设计套件诞生后,赛灵思让该套件的设计具有器件意识,这样就能充分发挥每款器件的功能。Alvarez称,有了IP Integrator,Vivado设计套件不仅具有器件意识,现在还具有目标平台意识,支持所有Zynq All Programmable SoC和7系列FPGA开发板以及套件。具有目标平台意识,就意味着Vivado设计套件现在能配置和应用特定开发板的设计规则检查,从而确保快速推出切实可行的系统。
举例来说,当设计人员选择赛灵思 Zynq-7000 SoC视频及成像套件,并在IP Integrator中实例化Zynq-7000 All Programmable SoC处理系统时,Vivado设计套件则会用正确的外设、驱动程序和存储器映射对处理系统进行预配置,从而为开发板提供支持。嵌入式设计团队现在能面向双核ARM处理系统和高性能FPGA逻辑更迅速地识别、重用并集成IP软/硬核。
用户可通过一系列对话框指定处理系统及其逻辑之间的接口。IP Integrator随后自动生成RTL并针对性能或占用面积进行优化。接下来用户能添加自己的定制逻辑,或用Vivado IP目录完成设计。
举报