加速边缘人工智能落脚物联网 浅谈英特尔携云图睿视发布全新算法商城暨张宇博士专访

来源 :新潮电子 | 被引量 : 0次 | 上传用户:whbin139
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
  如今人工智能已经在我们身边得到越来越多的应用,特别是物联网领域,人工智能的这一轮发展正在推动各个行业新生态、新应用的落地,特别是视频和图像处理领域,人工智能获得了最大的应用前景:比如零售领域常用到的刷脸支付,交通领域用到的车牌识别,包括前几年在围棋上挑战人类的AlphaGo,AlphaGo实际上也是将围棋的棋盘看成了一个19×19的图片,把这个图片送到卷积神经网络里进行处理,来得到下一步行棋策略。视频和图像处理领域之外,语言处理领域也是另一个被人工智能大力推动的应用场景,用人工智能技术进行自然语言处理如今在很多行业都得到了应用。
  今天我们仍将通过英特尔,以及英特尔的合作伙伴成都云图睿视科技有限公司(以下简称“云图睿视”)的视角来审视行业的发展:比如他们如何看待推动本轮人工智能发展的根本力量;比如人工智能在边缘上将以何种方式前进;还包括当前边缘计算发展上遇到的瓶颈。除此之外,我们还将谈及云图睿视发布最新的算法商城解决方案到底有何意义。为此,我们特别专访了英特尔公司物联网事业部中国区首席技术官及高级首席工程师张宇博士和成都云图睿视科技有限公司CEO孟莹。
  推动本轮人工智能发展的根本力量
  在英特尔看来,对于本轮人工智能发展的核心要素主要有两个,一是有了极大提升,二是有了大量的可供训练的数据。一直以来,英特尔都处于掌握算力的最高峰上,特别是随着摩尔定律的推动,算力在各个领域得到了极大的提升。
  张宇博士提及:“拥有更多算力,就可以使我们在更短时间内完成一个神经网络模型训练,我们也可以去处理一个更加复杂的神经网络模型。这样就可以极大拉近人工智能技术和商业诉求之间的距离,推动人工智能技术发展,这是我们认为的第一个核心要素。”
  如今各行和业都认同“数据即石油”的说法我们浏览的网页的习惯、我们行动的轨迹,乃至各个交通、工业、医疗等各行业每天产生的巨大数据,都拥有巨大的价值。如果说石油喂养内燃机成就了第二次工业革命,那么数据同样也是人工智能的养料——目前来看,人工智能技术网络的训练都是靠数据“喂”出来的,而且是海量的数据,从某种角度来说,用于训练的数据越多,人工智能越成熟。在AlphaGo之后,科学家便通过世界人工智能围棋大赛提升人工智能水平,其原因便是通地不同模型的对撞产生更多数据来训练人工智能在围棋上的水平。
  如今数据越来越多,这需要足够强大的存储技术以及通信技术来支撑,特别是正在普及的5G技术,带来了大的传输带宽,更低的网络传输延迟,使数据更容易获取,更快地在各个节点间传递 。“正是在计算、通讯、存储方面能力的不断提升,才真正意义上推动了本轮人工智能的发展,所以我认为这是最核心的要素。”张宇博士的说法正印证了英特尔看待人工智能的方向。
  英特尔计算、通讯、存储三方面都拥有强大的技术实力,比如英特尔拥有CPU、GPU、FPGA、VPU等不同构架的芯片技术,英特尔近期发布的第三代至强可扩展处理器便支持丰富的人工智能指令集DL Boost。利用这样一些处理器指令集可以更加方便地把像图像分类、推荐引擎或自然语言处理等人工智能训练和推理更方便地部署在通用服务器平台上。;而且从3G到5G,英特尔不提出自己的国际标准,而且还推出了面向5G无线基站的SoC芯片;存储领域,英特尔则推出了3D XPoint(傲腾技术)。该技术拥有高存储密度和高读写速度,提供更为方便、低价的数据存储解决方案。
  边缘人工智能发展的方向
  随着人工智能技术在边缘计算及物联网领域得到了越来越广泛的应用,英特尔等厂商已经开始利用人工智能技术在边缘进行一些图像处理工作,比如在工厂中利用边缘视觉技术检测摄像头摄取的一些工件表面形态,以确认里面是否带有一些缺陷。这实际上是通过数据中心里强大的算力,以及积累的大量数据去训练一个网络模型,把这个训练的结果最终推送到边缘进行推理。
  这种边缘推理模式并非完美,其最大弊端就是边缘端对模型更新的频率实际是有一定的限制的,这一模式下不可能动态、频繁、实时、自适应地调整这样一个网络模型,所以需要引入边缘训练。如今废品回收行业现在已经开始用机械臂去做废品分拣,但是由于废品形态很多,我们不可能用一个固定模型去涵盖所有废品形态,这就需要不断根据新采集的数据去做动态训练、增量训练,不断完善这个模型,使这个模型更适应新进来的物品。所以边缘人工智能的发展下一个阶段一定会在边缘训练上发生。
  张宇博士认为,边缘训练也不是边缘人工智能发展的最高阶段。从物联网的发展阶段来看,它需要经过“互联网—智能—自主”三个阶段,最高阶段“自主”便 是一个系统能够感知使用者的意图(也就是人的意图),并且根据这个意图自主进行调整。反映到人工智能方面,同样也需要人工智能系统拥有自主能力能够自主根据使用场景、使用意图去设计适宜的人工智能网络结构。再利用它所收集到的数据主动分析、训练一个合适的网络模型,然后将这个网络模型用于最终推理。
  “所以我们认为,邊缘人工智能下一个发展阶段就是自主学习阶段。边缘人工智能的发展会沿着边缘推理,再到边缘训练,再到自主学习这样三个阶段的轨迹来进行发展。”张宇博士直接阐述了自己对边缘人工智能的看法。不仅如此,他还提及了英特尔在边缘人工智能方面推出的一系列硬件和软件产品,比如Movidius第二代芯片Myriad X,可以提供2W的功耗及1T的算力,在摄像机有限的功耗中高清视频计算的需求;另外利用神经计算棒翻译笔、智能门锁,比如通过高性能通用处理器以及专用人工智能加速模块与云图睿视一起打造的AI-Box产品。在这些硬件基础上,英特尔还提供了各种软件:包括OpenVINO、Open Model Zoo,以及围绕软硬件进行的测试调优工作。
  针对物联网垂直行业的需求,英特尔还提供了一些重点行业参考设计,英特尔统称为“边缘洞见软件”(如针对工业、零售及视频的边缘洞见软件等)。这些边缘洞见软件的作用类似于一个行业的PaaS,解决这些行业的共性问题,比如如何收集、解析这个行业的数据,如何在内部进行分发、分析、存储等这些共性问题。另外,边缘洞见软件包也能帮助行业解决方案快速部署在英特尔硬件平台上,实现应用的快速部署和落地。   与合作伙伴共同构建物联网和边缘人工智能的生态链
  为了构建物联网和边缘人工智能的生态链,英特尔与生态合作伙伴展开了广泛的合作,不仅全球与超过1200个合作伙伴有密切合作,还一起发布了超过300个边缘计算解决方案,服务于智慧城市、智慧医疗、智慧零售、智慧工业等不同垂直行业,而且这些解决方案在超过了一万个用户当中得到了广泛推广。其中,英特尔与云图睿视的合作就非常有意义。
  作为推动边缘计算发展的重要技术,人工智能正在强有力地加持边缘计算负载整合和算力提升,但这一过程并不容易。以中国多达27.6亿个摄像头以例,它们分布在成千上万的细分行业内,但并没有足够资源能夠实时查看和分析众多摄像头产生的海量数据,整个市场急需AIoT技术帮助人们对海量摄像头数据进行采集和分析,进而产生有益的洞察。
  为此,英特尔联合云图睿视发布的算法商城解决方案,通过通用算法应用部署的方式,能够极大提升算法模型的部署速度,并帮助算法供应商和算法集成商快速验证算法和业务匹配程度。整个解决方案共包含:人工智能边缘计算终端(AI-Box)、Beacon OS(边缘操作系统)和AI Store(算法商城)。其中云图睿视AI-Box是一套基于英特尔第11代酷睿处理器(Tiger Lake)推出的标准算力平台,提供4路视频流的实时分析和最大8个算法模型的同时运行;Beacon OS则整合了英特尔OpenVINO、SVET等框架,能够为AI运行提供系统级的标准支撑;最有意思莫过于AI Store,它将各类算法模型的集合放在一个标准的边缘计算设备管理平台之上,所有模型均可直接运行在基于Beacon OS的硬件设备上,无须再次开发。
  云图睿视的这一套方案旨在解决人工智能落地难的问题。在行业应用中,使用算法的和系统集成商或终端用户面临缺乏对应算法,而算法开发者却限于自身渠道开拓能力,能难找到真正的需求用户。成都云图睿视科技有限公司CEO孟莹指出,正是这样难以沟通的行业壁垒,使得以往开发出的算法很难体现其价值,所以愿意投入开放算法的厂商越来越少,整个物联网行业都面临着缺乏算法的短板。正是通过与英特尔紧密合作,云图睿视创建了一个标准化的软件环境Beacon OS和便于算法使用和开放两端握手的应用商城。用户只需要输入需求,便能找到相应算法,不需要再编译。在孟莹的演示下,我们看到一个成熟的算法部署在应用场景下仅需要短短十数秒(根据算法和需求场景不同而有所不同)。
  孟莹表示,AI Store的最大优势便在于“标准的软硬件平台、完整流畅的算法购物体验、经济丰富的行业算法、安全可靠的技术支撑、强大的远程运维管理平台”。无独有偶,英特尔在官网的人工智能页面也提出了“统一计算平台,兼容多样算法”的Slogen,恰与云图推出方案的初衷不谋而合。与孟莹的想法一致,张宇博士也表明了人工智能发展上的短板正在于算法之上,比如20世纪90年代已经在用的卷积神经网络如今依旧沿用,仅是层数比以前更多,规模上虽有变化,但是算法理论基础突破并不大。另外,英特尔也在针对不同负载的应用提供统一接口,便于开发者通过统一接口和编程模型访问不同硬件资源,这便是OneAPI项目。类似于OneAPI、OpenVINO等这样一些可以帮助用户做多算法融合的工具,将是人工智能研究院向开发者推广的重点项目。
  最后,我们问及AI Store是如何快速帮助用户解决现有算法之外的新需求。孟莹答道:“BeaconOS的上层有两个独立中间件,一套独立中间件是以AI的运行为承载的独立中间件,另外一套是基于EdgeX Foundry的IoT的中间件。这套产品其实完全可以独立部署。如果用户一定需要做独立部署,我们会让系统集成商做这件事情,中间产生的研发费用或开发费用都属于系统集成商的收益。算法开发就只收取开发部分的费用,定制的部分由系统集成商收取,我们起中间桥梁搭建的工作。”
  后记
  在我们看来,英特尔与云图睿视合作推出的AI Store在当前边缘人工智能的前进中迈出了非常有意义的一步。尤其是在创新方案推动和生态构建上加速了智能边缘的应用落地和升级。虽然当前Beacon OS、AI Store这样的构架方案还不够完善,但通过它我们已经能够看到智能边缘上的广阔机遇。
其他文献
随着对活塞轻量化要求的提高,活塞结构中面窗壁厚、燃烧室厚度也越来越薄。在活塞铸造过程中,合流线、冷隔等铸造缺陷问题也变得尤为突出。为解决该问题,利用铸件充型过程惰性气体保护技术,有效地提高了铝合金液的充型能力,从而解决了现有缺陷问题,降低了铸造废品率。批量生产中,铸造废品率从最高的4.70%下降到0.18%.
党组作为中国共产党对非党组织实施领导的机构,历经百年探索,经过孕育成长、调整弱化、曲折发展、全面规范时期,形成了具有自身特色的组织和制度形态.根据党内法规,可以按领导方式把党组制度归纳为思想引领、精英吸纳、决策部署、多方协同、政治监督.不同模式党组应该采取不同的领导方式:"全局—集中"型应该强调高度的政治性;"全局—民主"型应更加尊重民主程序;"局部—集中"型应该突出规范化,明确与单位治理结构之间的决策边界与程序;"局部—民主"型应该把中央要求与群团工作实际结合起来.
上海,长三角的“龙头”,中国经济最重要的引擎,在改革开放最前沿先行先试,在“高质量一体化”中,为其他地区蹚出了宝贵经验。  安徽,长三角的“上进生”,在深度融入长三角一体化中,需对接用好上海的高能级要素,努力争当“优等生”。从这一角度看,派出干部赴上海学习,从“上海智慧”中寻找发展的“破题之钥”,更具有重大意义。  风从海上来,潮涌长三角。安徽干部“取经”上海,首先就是扑面而来的上海作风。  上海
我知道自己做得还远远不够,但能把中国的工匠精神传播到全世界去,这太令人骄傲了!董怀利的母亲王素珍没想到,结婚时购置的缝纫机,以及在上面反复练习的缝补手艺,会成为她进入城市后,赖以生存的基础。1990年代初,20多岁的王素珍和丈夫从安徽阜阳农村,来到300多公里外的南京讨生活。为了维持一家生计,王素珍在南京新街口摆起了织补地摊。
苏皖两省交界处相隔不远的两个乡镇,发展却呈现出不同的景象。  无锡宜兴的太华镇与宣城广德的四合乡同为山区乡镇,两地面积相当,户籍人口分别为2.6万和2.2万。截至2020年,太华镇常驻人口4.1万人,四合乡却仅为1.4万人。由于人口居住分散,四合乡在基础设施完善上投入巨大,让本就不富裕的财力更显捉襟见肘。  人口集聚是区域经济发展的重要支撑,为何两个相距不远、乡情基本相同的乡镇常驻人口数量会产生如
近期,笔者在各地调查发现,一些地方的基层政府采用超常规的、指令式手段推动集体经济发展。为了让村庄动起来,地方政府普遍采取“下指标”的办法,层层加压。地方政府将集体经济发展当做“三农”工作的头等大事来抓,集体经济发展数量和增长速度成为衡量村干部业绩的主要考核指标,推动集体经济发展成为一场新的“基层运动”。  一场新的“基层运动”  江西某贫困县,村集体经济大多薄弱,县政府2019年发文,要求村集体经
为倒逼行政复议机关公正行使复议权,2014年行政诉讼法修改时确定了行政复议机关作共同被告制度。该制度的实施效果有必要作出中肯审视。实证分析的结论表明复议机关作共同被告并未实现直接提升行政复议质量的预期,制度成本大于效益,且面临理论与实践的多重困境。行政复议是行政司法行为,居中对行政争议作出裁决,是与行政诉讼并列的行政救济制度、纠纷解决制度,其性质与功能决定了行政复议机关不应作被告。作被告也难以解决\"维持率高\"等复议功能发挥不足问题,其症结应当在于改造行政复议体制和程序。复议机关作共同被告应当取
正在热映的电影《1921》,日前票房已超过3.7亿,猫眼评分9.4,淘票票评分9.3,\"为牺牲的革命先驱而落泪\"、\"仿佛回到了激情澎湃的年代\"、\"先辈越鲜活就越觉得伟大\"、\"切身体会到了建党的意义和伟大\"、\"看完为身为中国人自豪\"等真诚评价,充分印证了这部\"庆祝建党100周年\"的重点影片,\"叫好又叫座\"的成绩。影片由黄建新监制兼导演,郑大圣联合导演,历时5年筹备,凝结了上百位电影人的拳拳赤子心,于世界各地档案馆挖掘史料,在
东部地区优势明显,中西部地区追赶势头强劲:东部地区整体表现亮眼,西部地区的四川、中部地区的湖北大数据发展水平表现不凡;河南、安徽、湖南、河北经济基础良好,大数据发展潜力巨大;辽宁、陕西、广西、贵州、重庆、天津有望成为我国大数据发展应用新增长点。
作为政策执行的基本载体,地方政府在执行中心工作的过程中面临着横向部门分割的困境.对此,地方政府的基本策略是从常规治理转向运动式治理,指挥部即是这一转换逻辑下的组织呈现.以精准扶贫的政策执行过程为研究领域,以"指挥部如何指挥"这一经验问题为抓手,文章对陕南秦巴山区"林县"脱贫攻坚指挥部的组织结构和运行过程进行田野深描,分析精准扶贫中县级政府的组织型变与政策执行之间的关系.研究发现,地方政府以指挥部"中枢系统"为载体,实现科层组织的权威再分配;以"办组系统"为载体,完成中心工作的任务再分流.这两点构成了指挥部