IBM 表示世界上90%的數(shù)據(jù)產(chǎn)生于過去的兩年，其中的大部分為非結(jié)構(gòu)化數(shù)據(jù)。隨著物聯(lián)網(wǎng)的應用催生出更多不同來源的數(shù)據(jù)，未來幾年這一趨勢將會加速。因此，基于傳統(tǒng)規(guī)則的數(shù)據(jù)分析方法的有效性已經(jīng)有所下降；為了更好利用爆發(fā)式增長的數(shù)據(jù)，新的方法將采用(如機器學習)。各大芯片及人工智能公司紛紛加入這場競賽，努力在競爭對手投入新市場前將各自的非結(jié)構(gòu)化數(shù)據(jù)集變現(xiàn)。
深度學習的供應鏈
GPU 是實現(xiàn)深度學習的關鍵：深度學習的兩個步驟：訓練和推斷。訓練網(wǎng)絡目的是有效的設臵網(wǎng)絡權重(Training)；使用訓練前的網(wǎng)絡用來推斷輸入內(nèi)容(Inference)。訓練部分的成本更高，進度緩慢且昂貴，而推斷部分則缺乏適應新未知內(nèi)容輸入的靈活性。
深度學習的“訓練”和“推斷”
由于深度學習的計算性質(zhì)，深度學習對并行處理的要求較高(尤其是在訓練階段)，因此為CPU 添加加速器將能夠極大地改善性能。目前使用的主要加速器是GPU 和FPGA，二者均在并行處理方面有良好的表現(xiàn)，因此較CPU 本身的處理能力而言具備顯著的性能優(yōu)勢。
GPU跟著深度學習一起火
今年的英偉達絕對是芯片領域的明星，雖然體量及總體營收尚不及英特爾/高通等老炮，但是GPU時代開啟之后，其潛力倍受認可。在PC時代，Intel占據(jù)了GPU市場的龍頭地位，隨著移動互聯(lián)網(wǎng)時代的到來，全球GPU市場經(jīng)歷了翻天覆地的變化，ARM主要是隨著移動端的快速發(fā)展逐漸崛起。而獨立GPU企業(yè)NVIDIA則在人工智能、汽車電子、視音頻大數(shù)據(jù)領域、VR等需求的驅(qū)動下，市值不斷創(chuàng)新高。
主流芯片的市場分布
GPU稱為圖形處理器，或視覺處理器。顧名思義，GPU最主要的應用場景就是處理圖像顯示計算。計算機圖像顯示流程見下圖，在這個過程中CPU決定了顯示內(nèi)容，而GPU則決定了顯示的質(zhì)量如何。像GPU這類輔助CPU完成特定功能芯片統(tǒng)稱“協(xié)處理器”，“協(xié)”字表明了GPU在計算機體系中處于從屬地位。
計算機現(xiàn)實圖像的基本過程
GPU具有高并行結(jié)構(gòu)(highly parallel structure)，因此在處理圖形數(shù)據(jù)和復雜算法方面擁有比CPU更高的效率。CPU大部分面積為控制器和寄存器，與之相比GPU擁有更多的ALU(Arithmetic Logic Unit，邏輯運算單元：用于數(shù)據(jù)處理)，而非數(shù)據(jù)高速緩存和流控制。這樣的結(jié)構(gòu)適合對密集型數(shù)據(jù)進行并行處理，所以我們看到在高度并行化且數(shù)據(jù)規(guī)模巨大的情況下，GPU獲得很高的浮點運算性能。
說明：GPU的工作特點計算量大，但沒什么技術含量，而且要重復很多很多次。就像你有個工作需要算上億次一百以內(nèi)加減乘除一樣，簡單的辦法就是雇上幾十個小學生一起算，一人算一部分，反正這些計算也沒什么技術含量，純粹體力活而已。GPU就是這樣，用很多簡單的計算單元去完成大量的計算任務，純粹的人海戰(zhàn)術。這種策略基于一個前提，就是小學生A和小學生B的工作沒有什么依賴性，是互相獨立的。很多涉及到大量計算的問題基本都有這種特性，比如說破解密碼，挖礦和很多圖形學的計算。這些計算可以分解為多個相同的簡單小任務，每個任務就可以分給一個小學生去做。而CPU就像老教授，積分微分都會算，就是工資高，一個老教授資頂幾十個小學生，但是老教授還具有協(xié)調(diào)、溝通及管理等能力。
GPU配合CPU協(xié)同工作
人工智能技術發(fā)展早期，GPU作為一種現(xiàn)成的并行計算加速芯片被使用在多個項目之中，如汽車的自動駕駛，圖像識別算法等，但GPU未必為人工智能加速硬件的終極答案。GPU限于最初設計目標，在兩個方向上均不能完美匹配人工智能主流算法。未來隨著人工智能技術大規(guī)模商用化，從產(chǎn)業(yè)鏈過去發(fā)展的歷史類比，專用人工智能加速協(xié)處理器將對GPU這類過渡方案構(gòu)成挑戰(zhàn)。GPU，由于其最初設計匹配的計算模型與神經(jīng)網(wǎng)絡計算模型存在不同，其并行計算核心之間的通信架構(gòu)-NOC(片上網(wǎng)絡)應用在神經(jīng)網(wǎng)絡運算中均存在缺點。
GPU不是人工智能的終極芯片
看似GPU已經(jīng)在人工智能的加速計算中占主導地位，那么，未來人工智能的硬件加速也一定由GPU承擔嗎？事實并非如此，業(yè)內(nèi)已經(jīng)存在各種具備競爭力的替代解決方案。谷歌在2016年5月末召開的I/O大會披露了TPU(Tensor Processing Unit)專用處理器項目。資料顯示TPU實際已使用在谷歌諸多商業(yè)與科研項目之中超過了一年時間。擊敗李世石的圍棋世紀人機大戰(zhàn)所使用的服務器集群使用TPU加速圍棋中DCNN(Deep Convolutional Neural Network)的計算。谷歌的RankBrain中使用TPU提升搜索結(jié)果和街景服務的相關度。
GPU與安防及視頻智能
隨著互聯(lián)網(wǎng)技術的不斷進步，GPU目前在人工智能(圖像語音識別、無人駕駛等)、視頻處理、VR/AR、生命化學、金融證券數(shù)據(jù)等領域顯示出了優(yōu)勢，短期內(nèi)具有廣闊的應用前景。
GPU的發(fā)展空間
深度學習技術的發(fā)展使人工智能產(chǎn)業(yè)的冰山正在迅速融化成一股勢不可擋的洪流，沖擊著安防行業(yè)的產(chǎn)業(yè)變革。安防行業(yè)眾多一線廠商攜手世界頂級人工智能芯片廠商發(fā)力智能硬件產(chǎn)品升級，并將CV領域的最尖端的圖形處理器應用于新型硬件產(chǎn)品的研發(fā)。目前包括海康、大華、宇視、網(wǎng)力、科達、曠視、格靈、文安等，均已經(jīng)或即將基于Nvidia/Movidius的GPU產(chǎn)品，結(jié)合到安防前端產(chǎn)品及后端系統(tǒng)中，深度學習/人工智能正逐步落地安防應用。
