剛剛，谷歌云博客宣布：谷歌云 TPU 機器學(xué)習(xí)加速器測試版已向外部用戶開放，價格大約為每云 TPU 每小時 6.50 美元，而且數(shù)量有限。此舉意味著這種曾支持了著名 AI 圍棋程序 AlphaGo 的強大芯片將很快成為各家科技公司開展人工智能業(yè)務(wù)的強大資源。
2016 年 5 月，谷歌向世人發(fā)布了一款特別的機器學(xué)習(xí)專屬芯片：張量處理器（Tensor Processing Unit，TPU），去年又推出了它的第二代產(chǎn)品（Cloud TPU）。這是一種被認為比 CPU 、甚至 GPU 更加高效的機器學(xué)習(xí)專用芯片。作為科技巨頭的谷歌早已把這種高度定制化產(chǎn)品應(yīng)用在了自己的服務(wù)器中，而本周一，谷歌宣布其他公司馬上也將可以享受新型芯片帶來的計算服務(wù)了。
雖然新一代 TPU 的適應(yīng)性如何還有待觀察，但是較之于單純的機器學(xué)習(xí)任務(wù)加速的功能而言，TPU 確實頗具實力。據(jù)谷歌稱，第一代 TPU 僅能夠處理推理任務(wù)，而第二代 TPU 還可以用于機器學(xué)習(xí)模型的訓(xùn)練，這個機器學(xué)習(xí)過程中重要的一部分完全可在單塊、強大的芯片上進行。在 2017 年 4 月，谷歌曾通過一篇論文《In-Datacenter Performance Analysis of a Tensor Processing Unit》介紹了 TPU 研究的相關(guān)技術(shù)以及第二代芯片與其它類似硬件的性能比較結(jié)果。
TPU 可以幫助谷歌的各類機器學(xué)習(xí)應(yīng)用進行快速預(yù)測，并使產(chǎn)品迅速對用戶需求做出回應(yīng)。谷歌稱，TPU 已運行在每一次搜索中；TPU 支持作為谷歌圖像搜索（Google Image Search）、谷歌照片（Google Photo）和谷歌云視覺 API（Google Cloud Vision API）等產(chǎn)品的基礎(chǔ)的精確視覺模型；TPU 也幫助了谷歌神經(jīng)翻譯質(zhì)量的提升；而其強大的計算能力也在 DeepMind AlphaGo 對陣李世乭的重要勝利中發(fā)揮了作用——這是計算機首次在古老的圍棋比賽中戰(zhàn)勝人類世界冠軍。
谷歌本周一的「Beta 測試」公告也宣示著這家現(xiàn)代科技企業(yè)正在改變自己的運營理念——它已開始涉及人工智能專屬芯片的解決方案，這是一個包含數(shù)十家創(chuàng)業(yè)公司，以及英特爾、高通和英偉達這樣的傳統(tǒng)硬件廠商的重要市場。隨著時代的發(fā)展，谷歌、亞馬遜和微軟已不再是純粹的互聯(lián)網(wǎng)企業(yè)，它們都已或多或少地開始扮演起硬件制造者的角色。
在此之前，谷歌其實也并不是 TPU 的唯一使用者，美國出行服務(wù)公司 Lyft 在去年底開始參與了谷歌新型芯片的測試。Lyft 希望通過使用 TPU 加速自動駕駛汽車系統(tǒng)的開發(fā)速度：TPU 在計算機視覺模型的訓(xùn)練速度上具有優(yōu)勢，可將原先耗時數(shù)日的任務(wù)縮短至幾小時內(nèi)完成。
谷歌在其云平臺博客上宣布了 TPU 服務(wù)開放的消息：
通過谷歌云平臺（GCP）提供的 Cloud TPU beta 版自 2018 年 2 月 12 日起可用，其旨在幫助機器學(xué)習(xí)專家更快地訓(xùn)練和運行 ML 模型。
Cloud TPU 是谷歌設(shè)計的一種硬件加速器，旨在優(yōu)化以加速和擴大使用 TensorFlow 編程的機器學(xué)習(xí)工作負載。Cloud TPU 使用四個定制化 ASIC 構(gòu)建，單個 Cloud TPU 的計算能力達到 180 萬億次浮點運算，具備 64 GB 的高帶寬內(nèi)存。這些板卡可單獨使用也可通過超快的專門網(wǎng)絡(luò)聯(lián)合使用以構(gòu)建數(shù)千萬億次級別的機器學(xué)習(xí)超級計算機，我們稱之為「TPU pod」。今年稍后，我們將在 GCP 上提供更大型的超級計算機。
我們設(shè)計 Cloud TPU 的目的是為 TensorFlow 工作負載提供差異化的性能，使 ML 工程師和研究者實現(xiàn)更快迭代。例如：
你們無需費力等待調(diào)度共享計算機集群，通過谷歌計算引擎 VM，就可以獨立獲取交互式的網(wǎng)絡(luò)聯(lián)結(jié) Cloud TPU。
無需花費數(shù)日或數(shù)周等待商用級機器學(xué)習(xí)模型，你可以在一系列 Cloud TPU 上訓(xùn)練同樣模型的不同變體，而且第二天就可以將準確率最高的訓(xùn)練模型部署到生產(chǎn)過程。
使用單個 Cloud TPU，并遵循該教程（https://cloud.google.com/tpu/docs/tutorials/resnet），你可以在不到一天的時間內(nèi)，訓(xùn)練 ResNet-50 使其在 ImageNet 基準挑戰(zhàn)上達到期望的準確率。
讓機器學(xué)習(xí)模型訓(xùn)練更容易
傳統(tǒng)上，編寫自定義 ASIC 和超級計算機的程序需要極高的專業(yè)度。而對于 Cloud TPU 而言，你可以使用高級 TensorFlow API 進行編程，我們開源了一系列參考高性能 Cloud TPU 模型實現(xiàn)，幫助大家立刻上手：
ResNet-50（https://cloud.google.com/tpu/docs/tutorials/resnet）和其他常用的圖像分類模型（https://github.com/tensorflow/tpu/tree/master/models/official）。
用于機器翻譯和語言建模的 Transformer（https://cloud.google.com/tpu/docs/tutorials/transformer (https://research.googleblog.com/2017/08/transformer-novel-neural-network.html)）
用于目標檢測的 RetinaNet
（https://github.com/tensorflow/tpu/blob/master/models/official/retinanet/README.md）
為了節(jié)約大家的時間和精力，我們持續(xù)測試這些模型實現(xiàn)的性能和在標準數(shù)據(jù)集上收斂至期望準確率的情況。
以后，我們還將開源其他模型實現(xiàn)。喜愛冒險的機器學(xué)習(xí)專家可以使用我們提供的文檔（https://cloud.google.com/tpu/docs/）和工具（https://cloud.google.com/tpu/docs/cloud-tpu-tools）利用 Cloud TPU 自己優(yōu)化其他 TensorFlow 模型。
現(xiàn)在開始使用 Cloud TPU，今年稍后我們宣布 TPU pod 時，你們將從時間-準確率的大幅改進中受益良多。正如我們在 NIPS 2017 上宣布的那樣，在完整的 TPU pod 上，ResNet-50 和 Transformer 的訓(xùn)練時間從大半天降到不到 30 分鐘，而且無需改變?nèi)魏未a。
可擴展的機器學(xué)習(xí)平臺
云 TPU 同樣簡化了對機器學(xué)習(xí)計算資源的規(guī)劃和管理：
你可以為自己的團隊提供頂尖的機器學(xué)習(xí)加速，隨著需求的變化動態(tài)調(diào)整自己的容量；
相比于花費資金、時間和專業(yè)人才來設(shè)計、安裝、維護一個實地的機器學(xué)習(xí)計算群（它還需要專門化的供能、冷卻、網(wǎng)絡(luò)和存儲），你可以從谷歌多年以來優(yōu)化過的大規(guī)模、高集成的機器學(xué)習(xí)基礎(chǔ)設(shè)施受益；
不需要花費努力保證驅(qū)動對各種工作站和服務(wù)器保持更新升級，云 TPU 做了不需要驅(qū)動安裝的預(yù)配置；
受谷歌云服務(wù)提供的同樣復(fù)雜的安全機制和實踐的保護。
在谷歌云，我們還想為客戶的每個機器學(xué)習(xí)負載提供最好的云。伴隨谷歌云 TPU，我們也會提供大量的高性能 CPU（包括英特爾 Skylake）和 GPU（包括英偉達的 Tesla V100）。
開始使用云 TPU
云 TPU 如今在數(shù)量受限的情況下可用，價格以秒計費，大約為每云 TPU 每小時 6.50 美元。
注冊地址：https://services.google.com/fb/forms/cloud-tpu-beta-request/