TPU关键字列表
Google资深科学家Jeff Dean表示,第二代TPU提供了更强大的运算能力,而Google将能藉此打造规模更大、更准确的机器学习模型。
摘要:当谷歌公司第一次向世界讲述它的张量处理单元(TPU)时,其背后的策略就显得很清楚了:通过在定制硬件上抛出问题来加速机器学习。
与第一代TPU只能服务于机器学习模型计算不同,谷歌最新的TPU现在既能处理训练也能处理服务。谷歌提供了一些高级性能指标,据推测,这些指标是以谷歌通过GCP计算引擎提供TPU即服务时使用的TPU物理基础设施配置为基础。
每个处理器板将数据和指令,加载到其配对的TPU2板上的四个TPU2芯片上,包括网状互连的流量控制。我们可以推测,TPU2芯片的内存容量也有所扩大,这有助于提高吞吐量,但同时也增加了功耗。
不同于英伟达的产品销售模式,谷歌TPU并不单独出售,而是在谷歌云服务平台Google Cloud Platform上出租使用。黄仁勋指出,目前客户仍可在谷歌云平台上选择英伟达GPU,英伟达与谷歌合作,提高后者的开源TensorFlow框架的性能。
英伟达回应谷歌威胁论:Volta GPU性能远强于二代TPU
据CNBC北京时间5月25日报道,谷歌上周推出了第二代TPU,专注于人工智能领域。英伟达CEO黄仁勋周三驳斥了这种说法,称即将推出的Volta GPU的运算能力远远超过谷歌第二代TPU。
本月早些时间谷歌进一步披露了更多关于一年前发布的TPU的细节。“与K80 GPU的32位浮点运算相比,TPU使用的是8位收缩矩阵乘法器
鉴于AI主要是对数据进行大规模的处理,所以处理速度对于AI来说就显得非常重要。这个遗憾也许很快就会被弥补,据CNBC透露,一家名为Groq的新成立的秘密初创企业已经挖来了Google TPU团队大部分的关键成员,准备开发下一代计算的关键基础设施。
2016年,英伟达推出了采用Pascal架构的P4和P40,除了支持半精度的16位浮点运算外,还支持8位整数运算,这个跟谷歌的TPU是一样的。
数据中心要和传统CPU说再见了?谷歌TPU挑战英特尔IDC领域霸权
后者已经受到了来自英伟达的GPU的攻击,这些GPU执行了一些任务,尤其是并行处理了与人工智能相关的大数据任务。FPGA是摩尔定律放缓打击通用CPU的一个手段,因为它是“现场可编程”,也就是可以在生产后根据用户需求重新配置。
原始速度(RAW Speed)方面,Google 亦表示其 TPU(较标准硬件)提速幅度在 15~30x 左右。运行在 TPU 上的软件,是基于 Google TensorFlow 的机器学习框架,且部分性能提升得益于这方面的优化。
谷歌(微博)自主开发定制化芯片,以加速其机器学习算法,这已不是什么秘密了。“为了减少延缓部署的概率,TPU芯片并没有与CPU进行整合,而是被设计成PCIe I O总线上的协处理器。
该定制化芯片主要用来加速公司的机器学习算法,而且会优化公司的TensorFlow机器学习架构,但其并未透露更多的内容。日前,谷歌在一份文件中介绍了更多关于该芯片的详细内容和一些使用标准。
为了满足这样的需求,谷歌并没有去建设更大的数据中心,而是转为开发适用于AI计算的高性能转用硬件。最终,名为TPU(Tensor Processing Unit)的处理器诞生了,其是一种专门为加速深层神经网络运算能力而研发的芯片。
谷歌发论文披露TPU详细信息,比GPU、CPU快15-30倍
该公司从2015年开始就一直在内部使用TPU,并在去年5月的Google I O开发者大会上,对外公布了这种芯片的存在。” 论文称,通常而言,在TPU上运行代码跟使用谷歌领导的TsensorFlow开源深度学习框架一样简单。
雷锋网按:前不久谷歌发布了关于TPU细节的论文,称“TPU 处理速度比当前 GPU 和 CPU 要快 15 到 30 倍”。在摩尔定律变慢的时代背景下,加速器满足了深度学习海量数据处理需求
上周,谷歌发布了一篇文章,详细对他们的第一代张量处理单元(TPU)与英特尔的一款GPU、英伟达的一款GPU进行了速度与效能上的对比。
距离Google发布TPU也有一个星期了,掐指一算,国内众媒体和大众的解读的热情也差不多该降下来了。当摩尔定律指出的硬件发展规律慢慢开始表现出瓶颈,开始有人尝试使用一些不那么主流的架构,或者研发一些新的架构。
谷歌 TPU 的强大与局限:TPU/GPU/CPU性能功耗全面对比
TPU 重磅论文解密架构设计,75 位联合作者,“能效比CPU GPU 高30~80倍” 谷歌上周公布的 TPU 论文《在数据中心分析中对张量处理器性能进行分析
谷歌公布了TPU(优化了TensorFlow的ASIC)的更多细节
继Google CEO Sundar Pichai早些在Google I O大会上公布了TPU(Tensor Processing Unit, 张量处理单元)的研发之后
企业网版权所有©2010-2025 京ICP备09108050号-6京公网安备 11010502049343号