主页 > K生活人 >Google研发了一块TPU晶片,省下建资料中心的钱还推动了

Google研发了一块TPU晶片,省下建资料中心的钱还推动了

作者: 时间:2020-06-07 635° K生活人
Google研发了一块TPU晶片,省下建资料中心的钱还推动了

Google 所提供的网路服务可能是地球上最大的电脑网路,这套网路拥有 15 个仓库大小的资料中心,并分布在四块大陆上。

你可能会认为这个网路已经足够强大,日常使用 Google 自家的各种服务完全没有问题,但 Google 并不这幺认为,Google 的工程师们也不这幺认为,他们担心这套已经非常庞大的网路有一日会不堪重负。

为了省钱,自己做晶片

大约在六年前,Google 为其 Android 系统加入了新的语音辨识技术,也就是我们熟悉的 Google Now 和 Google Assistant。

除了工作就是思考的 Google 工程师突然想到,如果世界上每个 Android 手机用户,每人每天使用 Google 的语音搜寻服务 3 分钟,那幺所需要的资料中心大小至少是现在的两倍之多,如果用户更加频繁的使用 Google 语音服务,那幺当前的资料中心将不堪重负。

此外,Google 当时已经开始研究使用深度神经网路和複杂的数学系统来开发其语音辨识服务,这使得其语音服务可以通过分析大量的数据来学习一些特定的任务处理能力。而这种机器学习形式,不但重新发明了语音辨识,还促进了图像辨识,机器翻译,网路搜寻等技术的发展,但它对数据处理的能力要求非常苛刻。

Google研发了一块TPU晶片,省下建资料中心的钱还推动了

由于使用深度神经网路学习技术,Google 看到机器的辨识错误率下降了 25%,但是这种进步需要更强大的数据处理能力,也就是说,需要更多的资料中心。

资料中心不够用,那就多建几座喽?可是建这幺多资料中心是要花上不少钱的,像 Google 这种财大气粗的公司也不是拿钱不当钱,精打细算过日子的理智心态也是有的。

因此 Google 的并没有豪掷千金将其资料中心的佔地面积翻番,而是专门为运行深度神经网路研製了自家的晶片—— Tensor Processing Unit, TPU。

一颗晶片顶一座资料中心?

Google 在去年五月首次透露了自家这款定制处理器,但并没有过多的透露其细节。现在,负责 TPU 晶片研发的 Norm Jouppi 和他的团队发表了一篇文章,详细说明了该计画,并解释了 TPU 的运行方式以及对一些特殊问题的解决方案。

Google 的 TPU 晶片仅用于执行神经网路服务,只是在用户使用 Android 手机启用语音指令或搜寻指令的时候才会运行。由于神经网路拥有自主学习的能力,因此不用特意训练它。但是,Jouppi 说,TPU 除了能让神经网路能够自主学习和高速运算外,最重要的是,Google 不需要为担心数据运算能力不足而多建额外 15 个资料中心,这样便节省了大量的成本。

Wired 认为,TPU 将为电脑晶片领域带来重大转变。由于 Google,Facebook,微软等网路大厂使用深度神经网路构建其服务的动作越来越多的服务,他们都需要专门的晶片来训练和运行这些 AI 模型。

但不同的是,Google 在构建自己的晶片,而很多公司还在使用 GPU 来解决深度神经网路和人工智慧的问题。

Google 自家晶片的出现,也为电脑晶片市场带来了冲击。由于有了自己的晶片,Google 不用再购买别家的晶片来适应自己的神经网路和人工智慧架构,而 Google 甚至有可能成为 TPU 晶片的供应商,因为像 Facebook,微软和亚马逊这类公司都是晶片的高级买主。同时,大型的晶片製造商,如英特尔等,也正在研发类似的处理器以适应新的市场需求。

适用于多种神经网路模型

此外,Google 的这块 TPU 晶片可以用在当下任何一个深度神经网路中,包括从图像辨识中使用的神经网路到用于辨识语音命令的神经网路等。用 Jouppi 的话说:

Google研发了一块TPU晶片,省下建资料中心的钱还推动了

不过 Jouppi 也认为,TPU 还有进一步提高性能的空间。如果使用 NVIDIA K80 GPU 中存的 GDDR5 显存,TPU 便可以提供比 Google 当前测试中获得的更好的性能。根据 Google 目前的测试发现,深度神经网路一些服务的性能受到内存频宽的限制,而 GDDR5 则能解决这些问题。

Google 其实已经在两年前就用上 TPU 晶片了,而 TPU 晶片除了用于图像辨识和机器翻译,最值得夸耀的事蹟就是那个在去年打败韩国棋手李世石的人工智慧 AlphaGo 了。

TPU 晶片的未来现在看来很明朗,而机器学习和人工智慧发展的步伐,或许也会因此加快。

Quantifying the performance of the TPU, our first machine learning chip

上一篇:
下一篇: