详解Google第二代TPU,既能推理又能训练,性能霸道
来源:阳光在线客户端    发布时间:2017-06-17 10:08:13

  曩昔10多年来,Google已开辟没不少新的数据中心硬件,此中包罗服务器以及网络设备,次要目标是扩大本人的在线帝国。而过来多少年中,正在AI方面Google也挑选开辟本身的硬件,为其软件作优化。神经网络是繁杂的数学零碎,经由过程剖析大批数据去进修,这类零碎从根本上改观了技巧的构建战运转方法,影响局限也囊括硬件。

  昨天早晨,Google发布第二代的TPU零碎已周全投入使用,而且已安排正在了Google Compute Engine平台上。它否用于图象以及语音辨认,机器翻译以及机器人等范畴。

  

  正在Google推出TPU 2.0的多少周以前,Facebook的AI研讨主管Yann LeCun质疑称,市场能够不需要新的AI公用芯片,由于研究者曾经对于应用GPU所需的东西特别很是熟识了。新的硬件意味着新的生态系统。

  

  ,五月18日破晓,Google CEOSundar Pichai正在I/O年夜会上正式宣布了第二代TPU,又称Cloud TPU或者TPU 2.0,那1基于云较量争论的硬件战软件零碎,将接续撑持Google最前沿的人工智能手艺。

  雷锋网首创文章,未经受权阻止转载。

  机械进修的威力已逐步正在消耗级产物外表现进去,譬如Google翻译几近能够及时将英语句子酿成中文,AlphaGo能以超人的熟练度玩围棋。全部那所有都要靠练习神经网络去实现,而那又必要盘算威力。以是硬件越壮大,获得的效果就越快。假如将每一个尝试的时候从多少周收缩到几天或者几个小时,便能够普及每一个机械学习者疾速迭代,并停止更多尝试的才能。因为新一代TPU能够同时举行推理战练习,研究人员能比之前更快天布置AI试验。

  芯片厂商NVidia的GPU简直主宰了机械进修的市场,而此刻,Google念经由过程特地计划用于练习神经网络的芯片,去改动市场提格式。

  此外,Google云办事的乐成不但取决于芯片的速率,和应用的简单水平,还要斟酌老本。以是,若是Google以比现有GPU效劳更低的本钱供应TPU效劳,会获得更遍及的用户基本。

  起首开辟出新的芯片并不克不及保障Google胜利,要利用TPU 2.0,开发者要进修一种构建以及运转神经网络的新方法。它不只仅是一个新的芯片,TPU 2.0也是特地为TensorFlow设想。尽管Tensorflow是开源软件,但也有很多研究人员应用Torch战Caffe等相似的软件。新硬件必要新的软件优化,那需求很多时候。

  弱小的运算威力为Google供应了优于竞争对手的速率,战作试验的自由度。Google示意,公司新的大型翻译模子若是正在32块机能最佳的GPU上练习,必要一整天的光阴,而8分之一个TPU Pod便能正在六个小时内实现一样的使命。之所以开辟新芯片,部门也是由于Google的机器翻译模子太大,没法如想要的那末快举行锻炼。

  正在某种水平上,始代的TPU被设想去是为了更好天支撑TensoFlow呆板进修框架。而归功于Google正在软硬件上的提高取集成,TensorFlow曾经成为构建AI软件的抢先平台之一。这类优化,再加上Google大脑及其DeepMind子公司的外部人材,恰是Google正在AI范畴坚持率先的局部缘故。

  新的TPU囊括了四个芯片,每秒否处置惩罚180万亿次浮点运算。Google借找到一种法子,应用新的计算机网络将64个TPU组合到一路,降级为所谓的TPU Pods,否供给大概11500万亿次浮点运算才能。

  Google本人固然会运用新TPU体系,但也会将它的才能开放给别的公司应用。Google示意,不会将芯片间接发售,而是会经由过程其新的云办事(年末前宣布)供应,任何开发者皆能够运用新处理器带来的盘算威力。

  

  除速率,第二代TPU最大的特点,是比拟始代TPU它既能够用于锻炼神经网络,又能够用于推理。始代的TPU只能作推理,要依托Google云去及时采集数据并孕育发生成效,而练习进程借必要分外的资本。

  不外Google也不克不及是以而人人自危,由于短期内合作便会加重。现在已有几家公司,包孕芯片巨子英特尔以及一大批始创公司,在开辟特地的AI芯片,它们皆大概代替Google TPU。

  新TPU的速率劣势一定会吸收到很多研究人员,终究AI钻研要正在大批硬件上遍及试错。就此而言,Google违心收费供应盘算资本对于全球的AI研究者来讲都是有利益的,固然,那对于Google来讲也是有优点的。

  亚马逊以及微软经过本人的云效劳供应GPU处置惩罚,但他们没有供给定制的AI芯片。

  Google也重申了其对开源形式的许诺,暗示会背允许宣布研讨成绩的研究人员供应TPU资本,乃至能够谢源代码。他以至号令开发者插足TensorFlow Research Cloud规划,它会收费供应一组1000台TPU。

  第一代TPU于客岁宣布,它被作为一种特定目标芯片而博为机械进修计划,并用正在了AlphaGo的人工智能零碎上,是其展望以及决议等手艺的根蒂根基。随后,Google还将这一芯片用正在了其效劳的各个方面,譬如每一次搜刮皆有用到TPU的盘算才能,近来借用正在了Google翻译、相册等软件当面的呆板进修模子外。

  

  图片来自WIRED及THEVERGE


阳光在线客户端 除注明原创以外,其余均来自互联网以及微信朋友圈,如有侵权请联系站长立即删除!
文章地址:http://www.51sozu.com/RLZY/20170617240.html



上一篇:海信医疗推出数字化手术室,将尝试“硬件研发定制服务”模式 下一篇:Flappy Bird开发者看到了游戏市场的残酷