IBM 表示世界上90%的數據產生于過去的兩年，其中的大部分為非結構化數據。隨著物聯網的應用催生出更多不同來源的數據，未來幾年這一趨勢將會加速。因此，基于傳統規則的數據分析方法的有效性已經有所下降；為了更好利用爆發式增長的數據，新的方法將采用(如機器學習)。各大芯片及人工智能公司紛紛加入這場競賽，努力在競爭對手投入新市場前將各自的非結構化數據集變現。
深度學習的供應鏈
GPU 是實現深度學習的關鍵：深度學習的兩個步驟：訓練和推斷。訓練網絡目的是有效的設臵網絡權重(Training)；使用訓練前的網絡用來推斷輸入內容(Inference)。訓練部分的成本更高，進度緩慢且昂貴，而推斷部分則缺乏適應新未知內容輸入的靈活性。
深度學習的“訓練”和“推斷”
由于深度學習的計算性質，深度學習對并行處理的要求較高(尤其是在訓練階段)，因此為CPU 添加加速器將能夠極大地改善性能。目前使用的主要加速器是GPU 和FPGA，二者均在并行處理方面有良好的表現，因此較CPU 本身的處理能力而言具備顯著的性能優勢。
GPU跟著深度學習一起火
今年的英偉達絕對是芯片領域的明星，雖然體量及總體營收尚不及英特爾/高通等老炮，但是GPU時代開啟之后，其潛力倍受認可。在PC時代，Intel占據了GPU市場的龍頭地位，隨著移動互聯網時代的到來，全球GPU市場經歷了翻天覆地的變化，ARM主要是隨著移動端的快速發展逐漸崛起。而獨立GPU企業NVIDIA則在人工智能、汽車電子、視音頻大數據領域、VR等需求的驅動下，市值不斷創新高。
主流芯片的市場分布
GPU稱為圖形處理器，或視覺處理器。顧名思義，GPU最主要的應用場景就是處理圖像顯示計算。計算機圖像顯示流程見下圖，在這個過程中CPU決定了顯示內容，而GPU則決定了顯示的質量如何。像GPU這類輔助CPU完成特定功能芯片統稱“協處理器”，“協”字表明了GPU在計算機體系中處于從屬地位。
計算機現實圖像的基本過程
GPU具有高并行結構(highly parallel structure)，因此在處理圖形數據和復雜算法方面擁有比CPU更高的效率。CPU大部分面積為控制器和寄存器，與之相比GPU擁有更多的ALU(Arithmetic Logic Unit，邏輯運算單元：用于數據處理)，而非數據高速緩存和流控制。這樣的結構適合對密集型數據進行并行處理，所以我們看到在高度并行化且數據規模巨大的情況下，GPU獲得很高的浮點運算性能。
說明：GPU的工作特點計算量大，但沒什么技術含量，而且要重復很多很多次。就像你有個工作需要算上億次一百以內加減乘除一樣，簡單的辦法就是雇上幾十個小學生一起算，一人算一部分，反正這些計算也沒什么技術含量，純粹體力活而已。GPU就是這樣，用很多簡單的計算單元去完成大量的計算任務，純粹的人海戰術。這種策略基于一個前提，就是小學生A和小學生B的工作沒有什么依賴性，是互相獨立的。很多涉及到大量計算的問題基本都有這種特性，比如說破解密碼，挖礦和很多圖形學的計算。這些計算可以分解為多個相同的簡單小任務，每個任務就可以分給一個小學生去做。而CPU就像老教授，積分微分都會算，就是工資高，一個老教授資頂幾十個小學生，但是老教授還具有協調、溝通及管理等能力。
GPU配合CPU協同工作
人工智能技術發展早期，GPU作為一種現成的并行計算加速芯片被使用在多個項目之中，如汽車的自動駕駛，圖像識別算法等，但GPU未必為人工智能加速硬件的終極答案。GPU限于最初設計目標，在兩個方向上均不能完美匹配人工智能主流算法。未來隨著人工智能技術大規模商用化，從產業鏈過去發展的歷史類比，專用人工智能加速協處理器將對GPU這類過渡方案構成挑戰。GPU，由于其最初設計匹配的計算模型與神經網絡計算模型存在不同，其并行計算核心之間的通信架構-NOC(片上網絡)應用在神經網絡運算中均存在缺點。
GPU不是人工智能的終極芯片
看似GPU已經在人工智能的加速計算中占主導地位，那么，未來人工智能的硬件加速也一定由GPU承擔嗎？事實并非如此，業內已經存在各種具備競爭力的替代解決方案。谷歌在2016年5月末召開的I/O大會披露了TPU(Tensor Processing Unit)專用處理器項目。資料顯示TPU實際已使用在谷歌諸多商業與科研項目之中超過了一年時間。擊敗李世石的圍棋世紀人機大戰所使用的服務器集群使用TPU加速圍棋中DCNN(Deep Convolutional Neural Network)的計算。谷歌的RankBrain中使用TPU提升搜索結果和街景服務的相關度。
GPU與安防及視頻智能
隨著互聯網技術的不斷進步，GPU目前在人工智能(圖像語音識別、無人駕駛等)、視頻處理、VR/AR、生命化學、金融證券數據等領域顯示出了優勢，短期內具有廣闊的應用前景。
GPU的發展空間
深度學習技術的發展使人工智能產業的冰山正在迅速融化成一股勢不可擋的洪流，沖擊著安防行業的產業變革。安防行業眾多一線廠商攜手世界頂級人工智能芯片廠商發力智能硬件產品升級，并將CV領域的最尖端的圖形處理器應用于新型硬件產品的研發。目前包括海康、大華、宇視、網力、科達、曠視、格靈、文安等，均已經或即將基于Nvidia/Movidius的GPU產品，結合到安防前端產品及后端系統中，深度學習/人工智能正逐步落地安防應用。
