根(gēn)據(jù)赛迪咨詢發(fà)布(bù)報告，2016年(nián)全(quán)球人(rén)工智能(néng)市(shì)场規模达(dá)到(dào)293亿(yì)美元(yuán)。我(wǒ)们(men)預計(jì)2020年(nián)全(quán)球人(rén)工智能(néng)市(shì)场規模将达(dá)到(dào)1200亿(yì)美元(yuán)，複合增长率約为(wèi)20%。人(rén)工智能(néng)芯片(piàn)是(shì)人(rén)工智能(néng)市(shì)场中(zhōng)重(zhòng)要(yào)一(yī)环(huán)，根(gēn)據(jù)英偉达(dá)，AMD，赛靈思(sī)，谷歌等相關(guān)公司數據(jù)，我(wǒ)们(men)测算2016年(nián)人(rén)工智能(néng)芯片(piàn)市(shì)场規达(dá)到(dào)23.88亿(yì)美元(yuán)，約占全(quán)球人(rén)工智能(néng)市(shì)场規模8.15%，而(ér)到(dào)2020年(nián)人(rén)工智能(néng)芯片(piàn)市(shì)场規模将达(dá)到(dào)146.16亿(yì)美元(yuán)，約占全(quán)球人(rén)工智能(néng)市(shì)场規模12.18%。人(rén)工智能(néng)芯片(piàn)市(shì)场空間(jiān)极(jí)其廣闊。

芯片(piàn)承载算法，是(shì)競争的(de)制高(gāo)點(diǎn)

人(rén)工智能(néng)的(de)基礎是(shì)算法，深度(dù)学習是(shì)目前(qián)最(zuì)主(zhǔ)流的(de)人(rén)工智能(néng)算法。深度(dù)学習又叫深度(dù)神經(jīng)网(wǎng)絡(DNN：Deep Neural Networks)，從之前(qián)的(de)人(rén)工神經(jīng)网(wǎng)絡(ANN：Artificial Neural Networks)模型發(fà)展(zhǎn)而(ér)来(lái)。这(zhè)種(zhǒng)模型一(yī)般采用(yòng)計(jì)算機(jī)科学中(zhōng)的(de)图(tú)模型来(lái)直(zhí)观表(biǎo)达(dá)，深度(dù)学習的(de)“深度(dù)”便指的(de)是(shì)图(tú)模型的(de)层數以(yǐ)及(jí)每一(yī)层的(de)节(jié)點(diǎn)數量(liàng)。神經(jīng)网(wǎng)絡複雜度(dù)不(bù)斷提(tí)升(shēng)，從最(zuì)早(zǎo)單一(yī)的(de)神經(jīng)元(yuán)，到(dào)2012年(nián)提(tí)出(chū)的(de)AlexNet(8个(gè)网(wǎng)絡层)，再到(dào)2015年(nián)提(tí)出(chū)的(de)ResNET(150个(gè)网(wǎng)絡层)，层次(cì)間(jiān)的(de)複雜度(dù)呈幾(jǐ)何倍數遞增，对(duì)應(yìng)的(de)是(shì)对(duì)处理器運算能(néng)力需求的(de)爆炸式增长。深度(dù)学習带(dài)来(lái)計(jì)算量(liàng)急劇增加，对(duì)計(jì)算硬(yìng)件(jiàn)带(dài)来(lái)更(gèng)高(gāo)要(yào)求。

深度(dù)学習算法分(fēn)“訓練”和(hé)“推斷”两(liǎng)个(gè)过(guò)程。簡單来(lái)講，人(rén)工智能(néng)需要(yào)通(tòng)过(guò)以(yǐ)大數據(jù)为(wèi)基礎，通(tòng)过(guò)“訓練”得到(dào)各(gè)種(zhǒng)參數，把这(zhè)些參數傳遞給(gěi)“推斷”部(bù)分(fēn)，得到(dào)最(zuì)終(zhōng)結果(guǒ)。

“訓練”和(hé)“推斷”所(suǒ)需要(yào)的(de)神經(jīng)网(wǎng)絡運算類(lèi)型不(bù)同(tóng)。神經(jīng)网(wǎng)絡分(fēn)为(wèi)前(qián)向(xiàng)計(jì)算(包(bāo)括矩阵(zhèn)相乘、卷(juǎn)積、循环(huán)层)和(hé)後(hòu)向(xiàng)更(gèng)新(主(zhǔ)要(yào)是(shì)梯(tī)度(dù)運算)两(liǎng)類(lèi)，两(liǎng)者(zhě)都包(bāo)含大量(liàng)并行運算。“訓練”所(suǒ)需的(de)運算包(bāo)括“前(qián)向(xiàng)計(jì)算+後(hòu)向(xiàng)更(gèng)新”;“推斷”則主(zhǔ)要(yào)是(shì)“前(qián)向(xiàng)計(jì)算”。一(yī)般而(ér)言訓練过(guò)程相比于(yú)推斷过(guò)程計(jì)算量(liàng)更(gèng)大。一(yī)般来(lái)说(shuō)，雲(yún)端人(rén)工智能(néng)硬(yìng)件(jiàn)負責“訓練+推斷”，終(zhōng)端人(rén)工智能(néng)硬(yìng)件(jiàn)只(zhī)負責“推斷”。

“訓練”需大數據(jù)支撐并保持(chí)較高(gāo)靈活性(xìng)，一(yī)般在(zài)“雲(yún)端”(即服(fú)务器端)進(jìn)行。人(rén)工智能(néng)訓練过(guò)程中(zhōng)，頂层上(shàng)需要(yào)有(yǒu)一(yī)个(gè)海量(liàng)的(de)數據(jù)集，并選定(dìng)某種(zhǒng)深度(dù)学習模型。每个(gè)模型都有(yǒu)一(yī)些內(nèi)部(bù)參數需要(yào)靈活調整，以(yǐ)便学習數據(jù)。而(ér)这(zhè)種(zhǒng)參數調整实際上(shàng)可(kě)以(yǐ)歸結为(wèi)优化(huà)問(wèn)題(tí)，在(zài)調整这(zhè)些參數时(shí)，就(jiù)相當于(yú)在(zài)优化(huà)特(tè)定(dìng)的(de)約束(shù)条(tiáo)件(jiàn)，这(zhè)就(jiù)是(shì)所(suǒ)謂的(de)“訓練”。雲(yún)端服(fú)务器收(shōu)集用(yòng)戶大數據(jù)後(hòu)，依靠其強(qiáng)大的(de)計(jì)算資源和(hé)專屬硬(yìng)件(jiàn)，实現(xiàn)訓練过(guò)程，提(tí)取(qǔ)出(chū)相應(yìng)的(de)訓練參數。由(yóu)于(yú)深度(dù)学習訓練过(guò)程需要(yào)海量(liàng)數據(jù)集及(jí)龐大計(jì)算量(liàng)，因(yīn)此(cǐ)对(duì)服(fú)务器也(yě)提(tí)出(chū)了(le)更(gèng)高(gāo)的(de)要(yào)求。未来(lái)雲(yún)端AI服(fú)务器平台(tái)需具備相當數據(jù)級别、流程化(huà)的(de)并行性(xìng)、多(duō)線(xiàn)程、高(gāo)內(nèi)存带(dài)宽(kuān)等特(tè)性(xìng)。

“推斷”过(guò)程可(kě)在(zài)雲(yún)端(服(fú)务器端)進(jìn)行，也(yě)可(kě)以(yǐ)在(zài)終(zhōng)端(産品端)進(jìn)行。等待模型訓練完成(chéng)後(hòu)，将訓練完成(chéng)的(de)模型(主(zhǔ)要(yào)是(shì)各(gè)種(zhǒng)通(tòng)过(guò)訓練得到(dào)的(de)參數)用(yòng)于(yú)各(gè)種(zhǒng)應(yìng)用(yòng)场景(如(rú)图(tú)像識别、語(yǔ)音(yīn)識别、文(wén)本(běn)翻譯等)。“應(yìng)用(yòng)”过(guò)程主(zhǔ)要(yào)包(bāo)含大量(liàng)的(de)乘累加矩阵(zhèn)運算，并行計(jì)算量(liàng)很大，但和(hé)“訓練”过(guò)程比參數相对(duì)固化(huà)，不(bù)需要(yào)大數據(jù)支撐，除在(zài)服(fú)务器端实現(xiàn)外(wài)，也(yě)可(kě)以(yǐ)在(zài)終(zhōng)端实現(xiàn)。“推斷”所(suǒ)需參數可(kě)由(yóu)雲(yún)端“訓練”完畢後(hòu)，定(dìng)期(qī)下(xià)载更(gèng)新到(dào)終(zhōng)端。

傳統CPU算力不(bù)足，新架構芯片(piàn)支撐AI成(chéng)必須。核心(xīn)芯片(piàn)決定(dìng)計(jì)算平台(tái)的(de)基礎架構和(hé)發(fà)展(zhǎn)生(shēng)态，由(yóu)于(yú)AI所(suǒ)需的(de)深度(dù)学習需要(yào)很高(gāo)的(de)內(nèi)在(zài)并行度(dù)、大量(liàng)浮點(diǎn)計(jì)算能(néng)力以(yǐ)及(jí)矩阵(zhèn)運算，基于(yú)CPU的(de)傳統計(jì)算架構无法充分(fēn)滿足人(rén)工智能(néng)高(gāo)性(xìng)能(néng)并行計(jì)算(HPC)的(de)需求，因(yīn)此(cǐ)需要(yào)發(fà)展(zhǎn)适合人(rén)工智能(néng)架構的(de)專屬芯片(piàn)。

專屬硬(yìng)件(jiàn)加速是(shì)新架構芯片(piàn)發(fà)展(zhǎn)主(zhǔ)流。目前(qián)处理器芯片(piàn)面(miàn)向(xiàng)人(rén)工智能(néng)硬(yìng)件(jiàn)优化(huà)升(shēng)級有(yǒu)两(liǎng)種(zhǒng)發(fà)展(zhǎn)路(lù)徑：(1)延續傳統計(jì)算架構，加速硬(yìng)件(jiàn)計(jì)算能(néng)力：以(yǐ)GPU、FPGA、ASIC(TPU、NPU等)芯片(piàn)为(wèi)代(dài)表(biǎo)，采用(yòng)这(zhè)些專屬芯片(piàn)作为(wèi)輔助，配合CPU的(de)控制，專門(mén)進(jìn)行人(rén)工智能(néng)相關(guān)的(de)各(gè)種(zhǒng)運算;(2)徹底颠覆傳統計(jì)算架構，采用(yòng)模拟人(rén)腦神經(jīng)元(yuán)結構来(lái)提(tí)升(shēng)計(jì)算能(néng)力，以(yǐ)IBM TrueNorth芯片(piàn)为(wèi)代(dài)表(biǎo)，由(yóu)于(yú)技術(shù)和(hé)底层硬(yìng)件(jiàn)的(de)限制，第(dì)二(èr)種(zhǒng)路(lù)徑尚处于(yú)前(qián)期(qī)研發(fà)階(jiē)段(duàn)，目前(qián)不(bù)具備大規模商業應(yìng)用(yòng)的(de)可(kě)能(néng)性(xìng)。從技術(shù)成(chéng)熟度(dù)和(hé)商業可(kě)行性(xìng)两(liǎng)个(gè)角(jiǎo)度(dù)，我(wǒ)们(men)判斷使用(yòng)AI專屬硬(yìng)件(jiàn)進(jìn)行加速運算是(shì)今後(hòu)五(wǔ)年(nián)及(jí)以(yǐ)上(shàng)的(de)市(shì)场主(zhǔ)流。

雲(yún)端終(zhōng)端双(shuāng)场景，三(sān)種(zhǒng)專屬芯片(piàn)各(gè)顯其能(néng)

我(wǒ)们(men)把人(rén)工智能(néng)硬(yìng)件(jiàn)應(yìng)用(yòng)场景歸納为(wèi)雲(yún)端场景和(hé)終(zhōng)端场景两(liǎng)大類(lèi)。雲(yún)端主(zhǔ)要(yào)指服(fú)务器端，包(bāo)括各(gè)種(zhǒng)共(gòng)有(yǒu)雲(yún)、私有(yǒu)雲(yún)、數據(jù)中(zhōng)心(xīn)等業务範疇;終(zhōng)端主(zhǔ)要(yào)指包(bāo)括安(ān)防、車载、手(shǒu)機(jī)、音(yīn)箱、機(jī)器人(rén)等各(gè)種(zhǒng)應(yìng)用(yòng)在(zài)內(nèi)的(de)移動(dòng)終(zhōng)端。由(yóu)于(yú)算法效率和(hé)底层硬(yìng)件(jiàn)選擇密切(qiè)相關(guān)，“雲(yún)端”(服(fú)务器端)和(hé)“終(zhōng)端”(産品端)场景对(duì)硬(yìng)件(jiàn)的(de)需求也(yě)不(bù)同(tóng)。

除CPU外(wài)，人(rén)工智能(néng)目前(qián)主(zhǔ)流使用(yòng)三(sān)種(zhǒng)專用(yòng)核心(xīn)芯片(piàn)，分(fēn)别是(shì)GPU，FPGA，ASIC。

GPU：先(xiān)發(fà)制人(rén)的(de)“十(shí)項全(quán)能(néng)”選手(shǒu)，雲(yún)端終(zhōng)端均拔头(tóu)籌。GPU(Graphics Processing Unit)又稱图(tú)形处理器，之前(qián)是(shì)專門(mén)用(yòng)作图(tú)像運算工作的(de)微处理器。相比CPU，GPU由(yóu)于(yú)更(gèng)适合執行複雜的(de)數学和(hé)幾(jǐ)何計(jì)算(尤其是(shì)并行運算)，刚好(hǎo)與(yǔ)包(bāo)含大量(liàng)的(de)并行運算的(de)人(rén)工智能(néng)深度(dù)学習算法相匹(pǐ)配，因(yīn)此(cǐ)在(zài)人(rén)工智能(néng)时(shí)代(dài)刚好(hǎo)被(bèi)賦予了(le)新的(de)使命，成(chéng)为(wèi)人(rén)工智能(néng)硬(yìng)件(jiàn)首選，在(zài)雲(yún)端和(hé)終(zhōng)端各(gè)種(zhǒng)场景均率先(xiān)落(là)地(dì)。目前(qián)在(zài)雲(yún)端作为(wèi)AI“訓練”的(de)主(zhǔ)力芯片(piàn)，在(zài)終(zhōng)端的(de)安(ān)防、汽車等領域，GPU也(yě)率先(xiān)落(là)地(dì)，是(shì)目前(qián)應(yìng)用(yòng)範圍最(zuì)廣、靈活度(dù)最(zuì)高(gāo)的(de)AI硬(yìng)件(jiàn)。

FPGA：“變(biàn)形金(jīn)刚”，算法未定(dìng)型前(qián)的(de)階(jiē)段(duàn)性(xìng)最(zuì)佳選擇。FPGA(Field-Programmable Gate Array)即現(xiàn)场可(kě)編程門(mén)阵(zhèn)列，是(shì)一(yī)種(zhǒng)用(yòng)戶可(kě)根(gēn)據(jù)自(zì)身(shēn)需求進(jìn)行重(zhòng)複編程的(de)“万(wàn)能(néng)芯片(piàn)”。編程完畢後(hòu)功能(néng)相當于(yú)ASIC(專用(yòng)集成(chéng)電(diàn)路(lù))，具備效率高(gāo)、功耗低的(de)特(tè)點(diǎn)，但同(tóng)时(shí)由(yóu)于(yú)要(yào)保證編程的(de)靈活性(xìng)，電(diàn)路(lù)上(shàng)会(huì)有(yǒu)大量(liàng)冗餘，因(yīn)此(cǐ)成(chéng)本(běn)上(shàng)不(bù)能(néng)像ASIC做到(dào)最(zuì)优，并且工作頻率不(bù)能(néng)太高(gāo)(一(yī)般主(zhǔ)頻低于(yú)500MHz)。FPGA相比GPU具有(yǒu)低功耗优勢，同(tóng)时(shí)相比ASIC具有(yǒu)開(kāi)發(fà)周期(qī)快(kuài)，更(gèng)加靈活編程等特(tè)點(diǎn)。FPGA于(yú)“應(yìng)用(yòng)爆發(fà)”與(yǔ)“ASIC量(liàng)産”夾縫中(zhōng)尋求發(fà)展(zhǎn)，是(shì)效率和(hé)靈活性(xìng)的(de)較好(hǎo)折衷，“和(hé)时(shí)間(jiān)赛跑”，在(zài)算法未定(dìng)型之前(qián)具較大优勢。在(zài)現(xiàn)階(jiē)段(duàn)雲(yún)端數據(jù)中(zhōng)心(xīn)業务中(zhōng)，FPGA以(yǐ)其靈活性(xìng)和(hé)可(kě)深度(dù)优化(huà)的(de)特(tè)點(diǎn)，有(yǒu)望繼GPU之後(hòu)在(zài)該市(shì)场爆發(fà);在(zài)目前(qián)的(de)終(zhōng)端智能(néng)安(ān)防領域，目前(qián)也(yě)有(yǒu)廠(chǎng)商采用(yòng)FPGA方(fāng)案(àn)实現(xiàn)AI硬(yìng)件(jiàn)加速。