1. 时(shí)代(dài)的(de)機(jī)遇：谁会(huì)成(chéng)为(wèi)人(rén)工智能(néng)时(shí)代(dài)的(de)ARM
1.1人(rén)工智能(néng)时(shí)代(dài)：AI+将无处不(bù)在(zài)
随着大數據(jù)的(de)發(fà)展(zhǎn)，計(jì)算能(néng)力的(de)提(tí)升(shēng)，人(rén)工智能(néng)近(jìn)两(liǎng)年(nián)迎来(lái)了(le)新一(yī)轮的(de)爆發(fà)。2016年(nián)谷歌AlphaGo赢得了(le)圍棋大戰後(hòu)，人(rén)工智能(néng)在(zài)産業界和(hé)資本(běn)圈引起了(le)高(gāo)度(dù)關(guān)注，成(chéng)为(wèi)新的(de)风口(kǒu)。
人(rén)工智能(néng)的(de)三(sān)个(gè)核心(xīn)要(yào)素是(shì)數據(jù)、算法和(hé)計(jì)算能(néng)力。人(rén)工智能(néng)之前(qián)經(jīng)曆过(guò)數次(cì)興衰，一(yī)直(zhí)未能(néng)取(qǔ)得突破的(de)障礙主(zhǔ)要(yào)是(shì)數據(jù)和(hé)計(jì)算能(néng)力的(de)限制。相比前(qián)幾(jǐ)次(cì)的(de)热(rè)潮(cháo)，目前(qián)人(rén)工智能(néng)在(zài)數據(jù)、算法和(hé)計(jì)算能(néng)力方(fāng)面(miàn)都有(yǒu)堅实的(de)基礎。因(yīn)此(cǐ)，我(wǒ)们(men)相信(xìn)人(rén)工智能(néng)并不(bù)僅是(shì)一(yī)个(gè)风口(kǒu)，而(ér)是(shì)即将迎来(lái)真(zhēn)正(zhèng)屬于(yú)自(zì)己的(de)时(shí)代(dài)。
人(rén)工智能(néng)并不(bù)是(shì)一(yī)个(gè)單独的(de)存在(zài)，而(ér)必須要(yào)和(hé)其他(tā)産業結合起来(lái)才能(néng)創造提(tí)升(shēng)效率，創造價值。未来(lái)将不(bù)存在(zài)所(suǒ)謂的(de)人(rén)工智能(néng)，而(ér)是(shì)人(rén)工智能(néng)和(hé)其他(tā)産業的(de)融合，也(yě)就(jiù)是(shì)AI+。展(zhǎn)望未来(lái)，AI+将无处不(bù)在(zài)。
按照當前(qián)人(rén)工智能(néng)实現(xiàn)的(de)基本(běn)功能(néng)来(lái)分(fēn)類(lèi)，主(zhǔ)要(yào)有(yǒu)四(sì)部(bù)分(fēn)：图(tú)像認知能(néng)力、語(yǔ)音(yīn)語(yǔ)義理解(jiě)能(néng)力、數據(jù)分(fēn)析能(néng)力、整合多(duō)種(zhǒng)能(néng)力的(de)機(jī)器人(rén)。下(xià)面(miàn)我(wǒ)们(men)将分(fēn)别按这(zhè)幾(jǐ)種(zhǒng)基本(běn)功能(néng)来(lái)介紹人(rén)工智能(néng)的(de)應(yìng)用(yòng)：
图(tú)像認知能(néng)力的(de)應(yìng)用(yòng)。最(zuì)常見(jiàn)的(de)應(yìng)用(yòng)包(bāo)括視頻安(ān)防人(rén)脸識别、客流統計(jì)、智能(néng)交通(tòng)管(guǎn)理等面(miàn)向(xiàng)企業的(de)應(yìng)用(yòng)，還(huán)有(yǒu)視頻直(zhí)播中(zhōng)的(de)鉴黃系(xì)統等方(fāng)面(miàn)。而(ér)在(zài)面(miàn)向(xiàng)个(gè)人(rén)應(yìng)用(yòng)方(fāng)面(miàn)，包(bāo)括拍照软(ruǎn)件(jiàn)中(zhōng)的(de)图(tú)片(piàn)分(fēn)類(lèi)檢索功能(néng)和(hé)相册管(guǎn)理等。
語(yǔ)音(yīn)語(yǔ)義理解(jiě)能(néng)力的(de)應(yìng)用(yòng)。語(yǔ)音(yīn)是(shì)人(rén)機(jī)最(zuì)自(zì)然的(de)交互方(fāng)式，現(xiàn)在(zài)已經(jīng)被(bèi)验(yàn)證的(de)應(yìng)用(yòng)包(bāo)括客服(fú)機(jī)器人(rén)，呼叫中(zhōng)心(xīn)，私人(rén)助理Siri，亞马遜的(de)Echo音(yīn)響等。未来(lái)，随着語(yǔ)音(yīn)語(yǔ)義理解(jiě)能(néng)力的(de)提(tí)升(shēng)，語(yǔ)音(yīn)有(yǒu)望成(chéng)为(wèi)新一(yī)代(dài)的(de)入(rù)口(kǒu)，并衍生(shēng)出(chū)各(gè)種(zhǒng)應(yìng)用(yòng)。
數據(jù)分(fēn)析能(néng)力的(de)應(yìng)用(yòng)。數據(jù)分(fēn)析應(yìng)用(yòng)範圍非(fēi)常廣，在(zài)金(jīn)融中(zhōng)有(yǒu)市(shì)场營銷分(fēn)析，风险管(guǎn)控、智能(néng)投顧等。在(zài)财务審計(jì)方(fāng)面(miàn)自(zì)動(dòng)生(shēng)成(chéng)報表(biǎo)，文(wén)案(àn)輔助上(shàng)自(zì)動(dòng)給(gěi)招聘文(wén)案(àn)打(dǎ)分(fēn)并提(tí)出(chū)修改建議，人(rén)力資源上(shàng)自(zì)動(dòng)尋找(zhǎo)合适的(de)候選者(zhě)，編程輔助上(shàng)自(zì)動(dòng)顯示相關(guān)的(de)函(hán)數用(yòng)法信(xìn)息。
智能(néng)機(jī)器人(rén)。软(ruǎn)體(tǐ)機(jī)器人(rén)可(kě)以(yǐ)讓機(jī)器人(rén)更(gèng)接近(jìn)生(shēng)物(wù)，做出(chū)很多(duō)人(rén)做不(bù)好(hǎo)的(de)事(shì)情(qíng)，例如(rú)精细(xì)抓取(qǔ)、肌肉(ròu)仿生(shēng)、穿越障礙等；微型機(jī)器人(rén)廣泛應(yìng)用(yòng)于(yú)各(gè)領域，未来(lái)有(yǒu)希望跟納米(mǐ)技術(shù)結合，在(zài)醫療領域取(qǔ)得突破；集群(qún)機(jī)器人(rén)可(kě)以(yǐ)進(jìn)行協同(tóng)搬運，海洋(yáng)探测等，應(yìng)用(yòng)領域会(huì)進(jìn)一(yī)步拓展(zhǎn)。
人(rén)工智能(néng)整體(tǐ)仍处市(shì)场早(zǎo)期(qī)，但是(shì)未来(lái)空間(jiān)巨大。根(gēn)據(jù)國(guó)外(wài)調查機(jī)構Tractica的(de)統計(jì)預测數字(zì)，2016年(nián)全(quán)球人(rén)工智能(néng)收(shōu)入(rù)为(wèi)6.4亿(yì)美元(yuán)，到(dào)2025年(nián)預計(jì)将增长至(zhì)368亿(yì)美元(yuán)。從人(rén)工智能(néng)的(de)主(zhǔ)要(yào)構成(chéng)来(lái)看(kàn)，規模最(zuì)大的(de)细(xì)分(fēn)市(shì)场分(fēn)别是(shì)機(jī)器学習應(yìng)用(yòng)、自(zì)然語(yǔ)言理解(jiě)、計(jì)算機(jī)視覺、虛拟个(gè)人(rén)助手(shǒu)和(hé)智能(néng)機(jī)器人(rén)等。在(zài)未来(lái)10年(nián)甚至(zhì)更(gèng)久的(de)时(shí)間(jiān)里(lǐ)，人(rén)工智能(néng)将是(shì)衆多(duō)智能(néng)産業技術(shù)和(hé)應(yìng)用(yòng)發(fà)展(zhǎn)的(de)突破點(diǎn)，市(shì)场空間(jiān)非(fēi)常巨大。
1.2 智能(néng)手(shǒu)機(jī)时(shí)代(dài)ARM公司的(de)“戴維斯双(shuāng)擊”
在(zài)産業發(fà)展(zhǎn)史中(zhōng)，每一(yī)场重(zhòng)要(yào)的(de)産業變(biàn)革(gé)總(zǒng)会(huì)带(dài)来(lái)新的(de)重(zhòng)大機(jī)遇。如(rú)果(guǒ)能(néng)够在(zài)新興産業中(zhōng)占據(jù)核心(xīn)産業鍊(liàn)位臵，必将能(néng)够充分(fēn)享受新興産業爆發(fà)性(xìng)增长带(dài)来(lái)的(de)紅(hóng)利。ARM在(zài)智能(néng)手(shǒu)機(jī)时(shí)代(dài)的(de)經(jīng)曆就(jiù)是(shì)最(zuì)好(hǎo)的(de)例證。ARM公司曆史簡介如(rú)下(xià)：
ARM公司1978年(nián)在(zài)英國(guó)成(chéng)立。1985年(nián)，ARM設計(jì)了(le)第(dì)一(yī)代(dài)32位、6MHz的(de)处理器，用(yòng)它(tā)做出(chū)了(le)一(yī)台(tái)RISC指令集的(de)計(jì)算機(jī)。ARM采用(yòng)的(de)RISC指令集，全(quán)稱是(shì)"精簡指令集計(jì)算機(jī)"（reducedinstructionsetcomputer），它(tā)支持(chí)的(de)指令比較簡單，虽然功能(néng)遠(yuǎn)不(bù)如(rú)英特(tè)爾处理器強(qiáng)大，但是(shì)功耗小、價格便宜。
當时(shí)处理器行業的(de)霸主(zhǔ)是(shì)英特(tè)爾，它(tā)采用(yòng)的(de)是(shì)X86的(de)CISC指令集，占據(jù)着PC处理器市(shì)场絕大多(duō)數的(de)市(shì)场份額。ARM处理器能(néng)力不(bù)足，根(gēn)本(běn)无法撼動(dòng)英特(tè)爾在(zài)PC处理器的(de)市(shì)场份額。
ARM处理器另(lìng)辟蹊徑，在(zài)嵌入(rù)式設備市(shì)场找(zhǎo)到(dào)了(le)發(fà)展(zhǎn)空間(jiān)。它(tā)被(bèi)廣泛用(yòng)在(zài)各(gè)種(zhǒng)嵌入(rù)式設備中(zhōng)，包(bāo)括蘋果(guǒ)公司的(de)牛顿PDA。这(zhè)些嵌入(rù)式設備不(bù)需要(yào)处理器性(xìng)能(néng)多(duō)麼(me)強(qiáng)大，而(ér)对(duì)功耗價格卻有(yǒu)很高(gāo)的(de)要(yào)求，这(zhè)與(yǔ)ARM处理器的(de)特(tè)性(xìng)正(zhèng)好(hǎo)一(yī)拍即合。
盡管(guǎn)找(zhǎo)到(dào)了(le)市(shì)场立足點(diǎn)，但是(shì)整个(gè)20世紀90年(nián)代(dài)，ARM公司的(de)業績平平，处理器的(de)出(chū)貨量(liàng)徘徊不(bù)前(qián)。直(zhí)到(dào)進(jìn)入(rù)21世紀之後(hòu)，由(yóu)于(yú)手(shǒu)機(jī)的(de)快(kuài)速發(fà)展(zhǎn)，ARM处理器迎来(lái)了(le)快(kuài)速增长。
而(ér)在(zài)2007年(nián)，ARM迎来(lái)了(le)曆史性(xìng)的(de)機(jī)遇——智能(néng)手(shǒu)機(jī)时(shí)代(dài)的(de)到(dào)来(lái)。2007年(nián)，乔布(bù)斯發(fà)布(bù)了(le)第(dì)一(yī)代(dài)iPhone，使用(yòng)的(de)就(jiù)是(shì)三(sān)星(xīng)制造、ARM設計(jì)的(de)芯片(piàn)。此(cǐ)後(hòu)的(de)每一(yī)款iPhone都采用(yòng)了(le)ARM架構，稍後(hòu)推出(chū)的(de)谷歌Android手(shǒu)機(jī)同(tóng)樣(yàng)采用(yòng)了(le)ARM架構。
ARM架構成(chéng)为(wèi)了(le)智能(néng)手(shǒu)機(jī)的(de)“事(shì)实标(biāo)準”。2015年(nián)，包(bāo)括高(gāo)通(tòng)、三(sān)星(xīng)、聯發(fà)科等在(zài)內(nèi)的(de)全(quán)球1384家(jiā)移動(dòng)芯片(piàn)制造商都采用(yòng)了(le)ARM的(de)架構，全(quán)球有(yǒu)超过(guò)85%的(de)智能(néng)手(shǒu)機(jī)和(hé)平板電(diàn)腦的(de)芯片(piàn)都采用(yòng)的(de)是(shì)ARM架構的(de)处理器，超过(guò)70%的(de)智能(néng)電(diàn)視也(yě)在(zài)使用(yòng)ARM的(de)处理器。
在(zài)此(cǐ)期(qī)間(jiān)，ARM公司營業收(shōu)入(rù)從2008年(nián)的(de)3亿(yì)英鎊增长到(dào)2013年(nián)的(de)7.14亿(yì)英鎊，同(tóng)期(qī)淨利潤從0.44亿(yì)英鎊增至(zhì)2亿(yì)英鎊，淨利潤CAGR为(wèi)35.6%。
從股價表(biǎo)現(xiàn)来(lái)看(kàn)，ARM股價受08年(nián)金(jīn)融危機(jī)影響下(xià)跌到(dào)2008年(nián)底的(de)80多(duō)英鎊，此(cǐ)後(hòu)两(liǎng)年(nián)多(duō)，連(lián)續上(shàng)漲到(dào)2011年(nián)初的(de)600多(duō)英鎊，期(qī)間(jiān)漲幅超过(guò)600%。
總(zǒng)結起来(lái)，ARM公司之前(qián)在(zài)嵌入(rù)式处理器这(zhè)个(gè)小衆市(shì)场中(zhōng)占據(jù)領導地(dì)位，業績一(yī)直(zhí)徘徊不(bù)前(qián)。而(ér)後(hòu)随着智能(néng)手(shǒu)機(jī)市(shì)场爆發(fà)，ARM处理器作为(wèi)整个(gè)智能(néng)手(shǒu)機(jī)的(de)底层硬(yìng)件(jiàn)平台(tái)架構，充分(fēn)享受了(le)下(xià)遊市(shì)场爆發(fà)带(dài)来(lái)的(de)紅(hóng)利。ARM公司業績在(zài)2008年(nián)到(dào)2013年(nián)出(chū)現(xiàn)了(le)爆發(fà)性(xìng)增长，而(ér)股價更(gèng)是(shì)表(biǎo)現(xiàn)出(chū)“戴維斯双(shuāng)擊”。
1.3 人(rén)工智能(néng)时(shí)代(dài)：底层計(jì)算平台(tái)存在(zài)着大機(jī)会(huì)
在(zài)人(rén)工智能(néng)时(shí)代(dài)，人(rén)们(men)对(duì)計(jì)算能(néng)力的(de)需求有(yǒu)指數級的(de)提(tí)高(gāo)，計(jì)算能(néng)力的(de)要(yào)求超过(guò)了(le)摩爾定(dìng)律。随着互聯网(wǎng)用(yòng)戶的(de)快(kuài)速增长，數據(jù)體(tǐ)量(liàng)的(de)急劇膨脹，數據(jù)中(zhōng)心(xīn)对(duì)計(jì)算的(de)需求也(yě)在(zài)迅猛上(shàng)漲。诸如(rú)深度(dù)学習在(zài)線(xiàn)預测、直(zhí)播中(zhōng)的(de)視頻轉(zhuǎn)碼、图(tú)片(piàn)壓縮解(jiě)壓縮以(yǐ)及(jí)HTTPS加密等各(gè)類(lèi)應(yìng)用(yòng)对(duì)計(jì)算的(de)需求已遠(yuǎn)遠(yuǎn)超出(chū)了(le)傳統CPU处理器的(de)能(néng)力所(suǒ)及(jí)。除此(cǐ)之外(wài)，未来(lái)在(zài)激光(guāng)雷(léi)达(dá)、无人(rén)機(jī)、无人(rén)駕駛、智能(néng)機(jī)器人(rén)等終(zhōng)端設備方(fāng)面(miàn)对(duì)計(jì)算能(néng)力也(yě)会(huì)有(yǒu)极(jí)大的(de)提(tí)升(shēng)。
另(lìng)一(yī)方(fāng)面(miàn)，摩爾定(dìng)律正(zhèng)在(zài)失效，傳統X86架構下(xià)計(jì)算能(néng)力的(de)提(tí)升(shēng)開(kāi)始滞後(hòu)于(yú)摩爾定(dìng)律。近(jìn)幾(jǐ)年(nián)半導體(tǐ)技術(shù)改進(jìn)达(dá)到(dào)了(le)物(wù)理极(jí)限，電(diàn)路(lù)越来(lái)越複雜，每一(yī)个(gè)設計(jì)的(de)開(kāi)發(fà)成(chéng)本(běn)高(gāo)达(dá)數百(bǎi)万(wàn)美元(yuán)，數十(shí)亿(yì)美元(yuán)才能(néng)形成(chéng)新産品投産能(néng)力。2016年(nián)3月(yuè)24日(rì)，英特(tè)爾宣布(bù)正(zhèng)式停用(yòng)“Tick-Tock”处理器研發(fà)模式，未来(lái)研發(fà)周期(qī)将從两(liǎng)年(nián)周期(qī)向(xiàng)三(sān)年(nián)期(qī)轉(zhuǎn)變(biàn)。至(zhì)此(cǐ)，摩爾定(dìng)律对(duì)英特(tè)爾幾(jǐ)近(jìn)失效。
因(yīn)此(cǐ)，計(jì)算能(néng)力的(de)需求供給(gěi)出(chū)現(xiàn)了(le)一(yī)个(gè)巨大的(de)缺口(kǒu)。一(yī)方(fāng)面(miàn)处理器性(xìng)能(néng)再无法按照摩爾定(dìng)律進(jìn)行增长，另(lìng)一(yī)方(fāng)面(miàn)數據(jù)增长对(duì)計(jì)算性(xìng)能(néng)要(yào)求超过(guò)了(le)按“摩爾定(dìng)律”增长的(de)速度(dù)。处理器本(běn)身(shēn)无法滿足高(gāo)性(xìng)能(néng)計(jì)算(HPC：High Performance Compute)應(yìng)用(yòng)软(ruǎn)件(jiàn)的(de)性(xìng)能(néng)需求。
巨大的(de)缺口(kǒu)同(tóng)时(shí)也(yě)是(shì)时(shí)代(dài)的(de)機(jī)遇：傳統X86架構芯片(piàn)无法滿足需求，时(shí)代(dài)呼喚新一(yī)代(dài)的(de)計(jì)算芯片(piàn)平台(tái)。谁能(néng)成(chéng)为(wèi)下(xià)一(yī)代(dài)硬(yìng)件(jiàn)芯片(piàn)平台(tái)，就(jiù)有(yǒu)望随着海量(liàng)計(jì)算需求的(de)大爆發(fà)，上(shàng)演ARM在(zài)智能(néng)手(shǒu)機(jī)时(shí)代(dài)爆發(fà)的(de)輝煌。
2. 人(rén)工智能(néng)芯片(piàn)決勝的(de)主(zhǔ)戰场在(zài)推理环(huán)节(jié)
提(tí)起人(rén)工智能(néng)芯片(piàn)，很多(duō)人(rén)認为(wèi)人(rén)工智能(néng)芯片(piàn)是(shì)一(yī)条(tiáo)好(hǎo)的(de)赛道(dào)，但是(shì)勝負已經(jīng)明(míng)了(le)，英偉达(dá)就(jiù)是(shì)最(zuì)終(zhōng)的(de)赢家(jiā)。特(tè)别是(shì)随着2016年(nián)以(yǐ)来(lái)人(rén)工智能(néng)的(de)浪潮(cháo)，英偉达(dá)股價從不(bù)到(dào)20美元(yuán)一(yī)路(lù)上(shàng)漲到(dào)160多(duō)美元(yuán)，更(gèng)是(shì)助长了(le)这(zhè)種(zhǒng)情(qíng)緒的(de)蔓延。
我(wǒ)们(men)的(de)观點(diǎn)很簡單：目前(qián)，英偉达(dá)的(de)GPU在(zài)訓練场景中(zhōng)占據(jù)着絕对(duì)領導地(dì)位。而(ér)人(rén)工智能(néng)整體(tǐ)仍然处于(yú)早(zǎo)期(qī)階(jiē)段(duàn)，未来(lái)人(rén)工智能(néng)應(yìng)用(yòng)的(de)主(zhǔ)戰场是(shì)在(zài)推理环(huán)节(jié)，遠(yuǎn)沒(méi)有(yǒu)爆發(fà)。未来(lái)勝負尚未可(kě)知，各(gè)家(jiā)技術(shù)路(lù)線(xiàn)都有(yǒu)機(jī)会(huì)勝出(chū)。
從應(yìng)用(yòng)场景来(lái)看(kàn)，人(rén)工智能(néng)芯片(piàn)主(zhǔ)要(yào)應(yìng)用(yòng)在(zài)訓練(training)和(hé)推理(inference)两(liǎng)个(gè)环(huán)节(jié)。訓練环(huán)节(jié)的(de)作用(yòng)是(shì)指利用(yòng)海量(liàng)數據(jù)，選擇合适的(de)訓練方(fāng)法，訓練出(chū)一(yī)个(gè)人(rén)工智能(néng)模型。訓練环(huán)节(jié)最(zuì)關(guān)心(xīn)的(de)指标(biāo)是(shì)速度(dù)快(kuài)。國(guó)內(nèi)外(wài)的(de)人(rén)工智能(néng)巨头(tóu)公司都建立了(le)龐大的(de)GPU集群(qún)，以(yǐ)最(zuì)快(kuài)速度(dù)处理海量(liàng)數據(jù)訓練、验(yàn)證模型的(de)有(yǒu)效性(xìng)。
而(ér)在(zài)線(xiàn)推理环(huán)节(jié)也(yě)就(jiù)是(shì)人(rén)工智能(néng)模型的(de)实際應(yìng)用(yòng)环(huán)节(jié)，是(shì)指利用(yòng)訓練出(chū)来(lái)的(de)模型来(lái)在(zài)線(xiàn)響應(yìng)用(yòng)戶的(de)需求。推理环(huán)节(jié)又分(fēn)为(wèi)两(liǎng)个(gè)场景，一(yī)个(gè)是(shì)在(zài)雲(yún)端數據(jù)中(zhōng)心(xīn)響應(yìng)用(yòng)戶需求，一(yī)个(gè)是(shì)在(zài)前(qián)端智能(néng)設備響應(yìng)用(yòng)戶需求。
在(zài)雲(yún)端數據(jù)中(zhōng)心(xīn)，各(gè)家(jiā)公有(yǒu)雲(yún)服(fú)务廠(chǎng)商都紛紛部(bù)署(shǔ)了(le)高(gāo)性(xìng)能(néng)雲(yún)計(jì)算服(fú)务器，應(yìng)用(yòng)于(yú)視頻編解(jiě)碼、深度(dù)学習、科学計(jì)算等多(duō)種(zhǒng)场景。随着人(rén)工智能(néng)技術(shù)的(de)發(fà)展(zhǎn)，未来(lái)雲(yún)端數據(jù)中(zhōng)心(xīn)應(yìng)用(yòng)场景還(huán)会(huì)有(yǒu)极(jí)大的(de)豐富。
而(ér)在(zài)前(qián)端智能(néng)設備，受模型算法以(yǐ)及(jí)計(jì)算能(néng)力的(de)限制，目前(qián)應(yìng)用(yòng)還(huán)不(bù)多(duō)。但是(shì)基于(yú)实时(shí)性(xìng)及(jí)隐私安(ān)全(quán)要(yào)求，很多(duō)應(yìng)用(yòng)都会(huì)在(zài)前(qián)端部(bù)署(shǔ)，未来(lái)市(shì)场空間(jiān)非(fēi)常巨大。我(wǒ)们(men)以(yǐ)无人(rén)駕駛和(hé)智能(néng)服(fú)务機(jī)器人(rén)为(wèi)例说(shuō)明(míng)。
?在(zài)无人(rén)駕駛中(zhōng)，无人(rén)駕駛汽車需要(yào)实时(shí)处理来(lái)自(zì)激光(guāng)雷(léi)达(dá)、攝像头(tóu)等多(duō)路(lù)傳感(gǎn)器傳輸的(de)海量(liàng)數據(jù)并作出(chū)实时(shí)反(fǎn)映。如(rú)果(guǒ)通(tòng)过(guò)雲(yún)端反(fǎn)饋处理，則必然会(huì)增加时(shí)延和(hé)不(bù)确定(dìng)性(xìng)，導致(zhì)无人(rén)汽車安(ān)全(quán)性(xìng)下(xià)降。因(yīn)此(cǐ)，无人(rén)駕駛中(zhōng)必須将計(jì)算平台(tái)部(bù)署(shǔ)在(zài)前(qián)端。
?在(zài)智能(néng)家(jiā)居中(zhōng)，未来(lái)包(bāo)括智能(néng)服(fú)务機(jī)器人(rén)在(zài)內(nèi)的(de)智能(néng)家(jiā)居設備都需要(yào)具備实时(shí)环(huán)境感(gǎn)知能(néng)力及(jí)語(yǔ)音(yīn)語(yǔ)義理解(jiě)能(néng)力等，这(zhè)些也(yě)都需要(yào)強(qiáng)大的(de)計(jì)算平台(tái)作为(wèi)底层支撐。而(ér)基于(yú)私密性(xìng)考慮，不(bù)可(kě)能(néng)把智能(néng)家(jiā)居的(de)數據(jù)都上(shàng)傳雲(yún)端处理。因(yīn)此(cǐ)，智能(néng)家(jiā)居的(de)應(yìng)用(yòng)也(yě)需要(yào)計(jì)算平台(tái)部(bù)署(shǔ)在(zài)前(qián)端設備中(zhōng)。
與(yǔ)訓練环(huán)节(jié)不(bù)同(tóng)，推理环(huán)节(jié)更(gèng)重(zhòng)視性(xìng)能(néng)功耗比。雲(yún)端數據(jù)中(zhōng)心(xīn)对(duì)高(gāo)并發(fà)更(gèng)加重(zhòng)視，而(ér)前(qián)端智能(néng)設備則对(duì)低延时(shí)更(gèng)加重(zhòng)視。
從市(shì)场潛力来(lái)看(kàn)，未来(lái)市(shì)场規模最(zuì)大的(de)肯定(dìng)是(shì)推理环(huán)节(jié)。人(rén)工智能(néng)的(de)發(fà)展(zhǎn)，首先(xiān)需要(yào)訓練出(chū)足够好(hǎo)的(de)算法模型。而(ér)當人(rén)工智能(néng)真(zhēn)正(zhèng)落(là)地(dì)應(yìng)用(yòng)时(shí)候，則需要(yào)在(zài)大量(liàng)的(de)雲(yún)端數據(jù)中(zhōng)心(xīn)或(huò)者(zhě)前(qián)端智能(néng)設備上(shàng)部(bù)署(shǔ)應(yìng)用(yòng)。
以(yǐ)人(rén)脸識别为(wèi)例，我(wǒ)们(men)需要(yào)在(zài)GPU集群(qún)中(zhōng)經(jīng)过(guò)多(duō)次(cì)訓練才能(néng)得到(dào)一(yī)个(gè)足够好(hǎo)的(de)人(rén)脸識别算法模型，而(ér)當把人(rén)脸識别應(yìng)用(yòng)于(yú)实際應(yìng)用(yòng)时(shí)候，我(wǒ)们(men)需要(yào)将模型部(bù)署(shǔ)在(zài)成(chéng)千(qiān)上(shàng)万(wàn)台(tái)服(fú)务器進(jìn)行实时(shí)人(rén)脸識别，甚至(zhì)在(zài)上(shàng)亿(yì)台(tái)攝像機(jī)中(zhōng)前(qián)臵部(bù)署(shǔ)部(bù)分(fēn)算法進(jìn)行預处理。由(yóu)此(cǐ)可(kě)見(jiàn)，推理环(huán)节(jié)才是(shì)未来(lái)最(zuì)大的(de)潛在(zài)市(shì)场，也(yě)是(shì)人(rén)工智能(néng)芯片(piàn)決勝的(de)主(zhǔ)戰场。在(zài)推理环(huán)节(jié)還(huán)遠(yuǎn)沒(méi)有(yǒu)爆發(fà)的(de)时(shí)候。未来(lái)勝負尚未可(kě)知，各(gè)家(jiā)技術(shù)路(lù)線(xiàn)都有(yǒu)機(jī)会(huì)勝出(chū)。
3.幾(jǐ)種(zhǒng)芯片(piàn)架構的(de)技術(shù)特(tè)點(diǎn)：各(gè)有(yǒu)千(qiān)秋
人(rén)工智能(néng)芯片(piàn)，目前(qián)有(yǒu)两(liǎng)種(zhǒng)發(fà)展(zhǎn)路(lù)徑：一(yī)種(zhǒng)是(shì)延續傳統計(jì)算架構，加速硬(yìng)件(jiàn)計(jì)算能(néng)力，主(zhǔ)要(yào)以(yǐ)3種(zhǒng)類(lèi)型的(de)芯片(piàn)为(wèi)代(dài)表(biǎo)，即GPU、FPGA和(hé)ASIC，但CPU依旧(jiù)發(fà)揮着不(bù)可(kě)替代(dài)的(de)作用(yòng)；另(lìng)一(yī)種(zhǒng)是(shì)颠覆經(jīng)典的(de)馮諾依曼計(jì)算架構，采用(yòng)人(rén)腦神經(jīng)元(yuán)的(de)結構来(lái)提(tí)升(shēng)計(jì)算能(néng)力，以(yǐ)IBMTrueNorth芯片(piàn)为(wèi)代(dài)表(biǎo)。由(yóu)于(yú)人(rén)腦神經(jīng)元(yuán)芯片(piàn)距離産業化(huà)仍然較遠(yuǎn)，我(wǒ)们(men)着重(zhòng)讨論在(zài)人(rén)工智能(néng)时(shí)代(dài)GPU,FPGA和(hé)ASIC的(de)應(yìng)用(yòng)和(hé)未来(lái)發(fà)展(zhǎn)可(kě)能(néng)性(xìng)。
按照处理器芯片(piàn)的(de)效率排序，從低到(dào)高(gāo)依次(cì)是(shì)CPU、DSP、GPU、FPGA和(hé)ASIC。沿着CPU->ASIC的(de)方(fāng)向(xiàng)，芯片(piàn)中(zhōng)晶體(tǐ)管(guǎn)的(de)效率越来(lái)越高(gāo)。因(yīn)为(wèi)FPGA&ASIC等芯片(piàn)实現(xiàn)的(de)算法直(zhí)接用(yòng)晶體(tǐ)管(guǎn)門(mén)電(diàn)路(lù)实現(xiàn)，比起指令系(xì)統，算法直(zhí)接建築在(zài)物(wù)理結構之上(shàng)，沒(méi)有(yǒu)中(zhōng)間(jiān)层次(cì)，因(yīn)此(cǐ)晶體(tǐ)管(guǎn)的(de)效率最(zuì)高(gāo)。CPU&GPU需要(yào)软(ruǎn)件(jiàn)支持(chí)，而(ér)FPGA&ASIC則是(shì)软(ruǎn)硬(yìng)件(jiàn)一(yī)體(tǐ)的(de)架構，软(ruǎn)件(jiàn)就(jiù)是(shì)硬(yìng)件(jiàn)。
而(ér)按照晶體(tǐ)管(guǎn)易用(yòng)性(xìng)排序是(shì)相反(fǎn)的(de)。從ASIC到(dào)CPU，芯片(piàn)的(de)易用(yòng)性(xìng)越来(lái)越強(qiáng)。CPU&GPU的(de)編程需要(yào)編譯系(xì)統的(de)支持(chí)，編譯系(xì)統的(de)作用(yòng)是(shì)把高(gāo)級软(ruǎn)件(jiàn)語(yǔ)言翻譯成(chéng)機(jī)器可(kě)以(yǐ)識别的(de)指令（也(yě)叫機(jī)器語(yǔ)言）。高(gāo)級語(yǔ)言带(dài)来(lái)了(le)极(jí)大的(de)便利性(xìng)和(hé)易用(yòng)性(xìng)，因(yīn)此(cǐ)用(yòng)CPU&GPU实現(xiàn)同(tóng)等功能(néng)的(de)软(ruǎn)件(jiàn)開(kāi)發(fà)周期(qī)要(yào)遠(yuǎn)低于(yú)FPGA&ASIC芯片(piàn)。
3.1 CPU仍然是(shì)最(zuì)好(hǎo)的(de)通(tòng)用(yòng)处理器之一(yī)
CPU作为(wèi)通(tòng)用(yòng)处理器，兼顧計(jì)算和(hé)控制，70%晶體(tǐ)管(guǎn)用(yòng)来(lái)構建Cache還(huán)有(yǒu)一(yī)部(bù)分(fēn)控制單元(yuán)，用(yòng)来(lái)处理複雜邏輯和(hé)提(tí)高(gāo)指令的(de)執行效率，如(rú)图(tú)所(suǒ)示，所(suǒ)以(yǐ)導致(zhì)計(jì)算通(tòng)用(yòng)性(xìng)強(qiáng)，可(kě)以(yǐ)处理計(jì)算複雜度(dù)高(gāo)，但計(jì)算性(xìng)能(néng)一(yī)般。
目前(qián)，英特(tè)爾等芯片(piàn)制造商主(zhǔ)要(yào)通(tòng)过(guò)增加CPU核數来(lái)增加計(jì)算能(néng)力，但是(shì)因(yīn)为(wèi)每个(gè)物(wù)理核中(zhōng)只(zhī)有(yǒu)30%的(de)晶體(tǐ)管(guǎn)是(shì)計(jì)算單元(yuán)。通(tòng)过(guò)这(zhè)種(zhǒng)方(fāng)式来(lái)增加計(jì)算能(néng)力并不(bù)劃(huà)算，還(huán)带(dài)来(lái)芯片(piàn)功耗和(hé)價格的(de)增加。
此(cǐ)外(wài)，英特(tè)爾進(jìn)行CPU架構調整的(de)时(shí)間(jiān)也(yě)在(zài)放(fàng)緩。原来(lái)英特(tè)爾按照“Tick-Tock”二(èr)年(nián)一(yī)个(gè)周期(qī)進(jìn)行CPU架構調整，從2016年(nián)開(kāi)始放(fàng)緩至(zhì)三(sān)年(nián)，更(gèng)新叠代(dài)周期(qī)較长。
由(yóu)此(cǐ)可(kě)見(jiàn)，CPU仍然最(zuì)好(hǎo)的(de)通(tòng)用(yòng)处理器之一(yī)，但是(shì)在(zài)高(gāo)性(xìng)能(néng)計(jì)算上(shàng)，CPU越来(lái)越无法滿足計(jì)算能(néng)力提(tí)升(shēng)的(de)需求。
3.2 GPU具有(yǒu)最(zuì)強(qiáng)大的(de)并行計(jì)算能(néng)力
GPU主(zhǔ)要(yào)擅长做類(lèi)似图(tú)像处理的(de)并行計(jì)算，所(suǒ)謂的(de)“粗(cū)粒(lì)度(dù)并行（coarse-grainparallelism）”。图(tú)形处理計(jì)算的(de)特(tè)征表(biǎo)現(xiàn)为(wèi)高(gāo)密度(dù)的(de)計(jì)算而(ér)計(jì)算需要(yào)的(de)數據(jù)之間(jiān)較少(shǎo)存在(zài)相關(guān)性(xìng)，GPU提(tí)供大量(liàng)的(de)計(jì)算單元(yuán)（多(duō)达(dá)幾(jǐ)千(qiān)个(gè)計(jì)算單元(yuán)）和(hé)大量(liàng)的(de)高(gāo)速內(nèi)存，可(kě)以(yǐ)同(tóng)时(shí)对(duì)很多(duō)像素進(jìn)行并行处理。
GPU的(de)設計(jì)出(chū)發(fà)點(diǎn)就(jiù)是(shì)用(yòng)于(yú)計(jì)算強(qiáng)度(dù)高(gāo)、多(duō)并行的(de)計(jì)算。GPU把晶體(tǐ)管(guǎn)更(gèng)多(duō)用(yòng)于(yú)計(jì)算單元(yuán)，而(ér)不(bù)像CPU用(yòng)于(yú)數據(jù)Cache和(hé)流程控制器。GPU中(zhōng)邏輯控制單元(yuán)不(bù)需要(yào)能(néng)够快(kuài)速处理複雜控制。并行計(jì)算时(shí)，每个(gè)數據(jù)單元(yuán)執行相同(tóng)程序，不(bù)需要(yào)繁瑣的(de)流程控制而(ér)更(gèng)需要(yào)高(gāo)計(jì)算能(néng)力，因(yīn)此(cǐ)也(yě)不(bù)需要(yào)大的(de)cache容量(liàng)。
GPU同(tóng)CPU一(yī)樣(yàng)也(yě)是(shì)指令執行过(guò)程：取(qǔ)指令->指令譯碼->指令執行，只(zhī)有(yǒu)在(zài)指令執行的(de)时(shí)候，計(jì)算單元(yuán)才發(fà)揮作用(yòng)。GPU的(de)邏輯控制單元(yuán)相比CPU簡單，要(yào)想(xiǎng)做到(dào)指令流水(shuǐ)处理，提(tí)高(gāo)指令執行效率，必然要(yào)求处理的(de)算法本(běn)身(shēn)複雜度(dù)低，处理的(de)數據(jù)之間(jiān)相互独立，所(suǒ)以(yǐ)算法本(běn)身(shēn)的(de)串行处理会(huì)導致(zhì)GPU浮點(diǎn)計(jì)算能(néng)力的(de)顯著降低。
GPU具有(yǒu)最(zuì)強(qiáng)大的(de)并行計(jì)算处理能(néng)力。以(yǐ)GP100为(wèi)例，其双(shuāng)精度(dù)運算能(néng)力是(shì)5.3Teraflops，單精度(dù)为(wèi)10.6Teraflops(AMD双(shuāng)芯RadeonProDuo是(shì)16TeraFLOPs)。而(ér)英偉达(dá)在(zài)開(kāi)發(fà)者(zhě)大会(huì)GTC2017上(shàng)發(fà)布(bù)新一(yī)代(dài)GPU架構Volta，首款核心(xīn)为(wèi)GV100據(jù)稱其在(zài)推理场景下(xià)，V100比上(shàng)一(yī)代(dài)搭载GP100CPU的(de)P100板卡(kǎ)，图(tú)像处理能(néng)力提(tí)升(shēng)了(le)約10倍，延遲也(yě)下(xià)降了(le)約30%。
3.3 FPGA：万(wàn)能(néng)芯片(piàn)
FPGA即現(xiàn)场可(kě)編程門(mén)阵(zhèn)列，它(tā)不(bù)采用(yòng)指令和(hé)软(ruǎn)件(jiàn)，是(shì)软(ruǎn)硬(yìng)件(jiàn)合一(yī)的(de)器件(jiàn)。FPGA由(yóu)于(yú)算法是(shì)定(dìng)制的(de)，沒(méi)有(yǒu)CPU和(hé)GPU的(de)取(qǔ)指令和(hé)指令譯碼过(guò)程，數據(jù)流直(zhí)接根(gēn)據(jù)定(dìng)制的(de)算法進(jìn)行固定(dìng)操作，計(jì)算單元(yuán)在(zài)每个(gè)时(shí)鐘(zhōng)周期(qī)上(shàng)都可(kě)以(yǐ)執行，所(suǒ)以(yǐ)可(kě)以(yǐ)充分(fēn)發(fà)揮浮點(diǎn)計(jì)算能(néng)力，計(jì)算效率高(gāo)于(yú)CPU和(hé)GPU。
整个(gè)FPGA市(shì)场規模約50亿(yì)美元(yuán)。由(yóu)于(yú)FPGA万(wàn)能(néng)芯片(piàn)的(de)特(tè)點(diǎn)，它(tā)被(bèi)芯片(piàn)廠(chǎng)商用(yòng)作芯片(piàn)原型設計(jì)和(hé)验(yàn)證，還(huán)廣泛使用(yòng)在(zài)通(tòng)訊密集型和(hé)計(jì)算密集型市(shì)场中(zhōng)，使用(yòng)行業包(bāo)括通(tòng)訊、军工、汽車電(diàn)子、消費及(jí)醫療等行業。
FPGA的(de)缺點(diǎn)在(zài)于(yú)進(jìn)行編程要(yào)使用(yòng)硬(yìng)件(jiàn)描述語(yǔ)言，而(ér)掌握硬(yìng)件(jiàn)描述語(yǔ)言的(de)人(rén)才太少(shǎo)，限制了(le)其使用(yòng)的(de)拓展(zhǎn)。
3.4 ASIC：高(gāo)性(xìng)能(néng)功耗比的(de)專用(yòng)芯片(piàn)
ASIC是(shì)一(yī)種(zhǒng)專用(yòng)芯片(piàn)，與(yǔ)傳統的(de)通(tòng)用(yòng)芯片(piàn)有(yǒu)一(yī)定(dìng)的(de)差异(yì)。是(shì)为(wèi)了(le)某種(zhǒng)特(tè)定(dìng)的(de)需求而(ér)專門(mén)定(dìng)制的(de)芯片(piàn)。ASIC芯片(piàn)的(de)計(jì)算能(néng)力和(hé)計(jì)算效率都可(kě)以(yǐ)根(gēn)據(jù)算法需要(yào)進(jìn)行定(dìng)制，所(suǒ)以(yǐ)ASIC與(yǔ)通(tòng)用(yòng)芯片(piàn)相比，具有(yǒu)以(yǐ)下(xià)幾(jǐ)个(gè)方(fāng)面(miàn)的(de)优越性(xìng)：體(tǐ)積小、功耗低、計(jì)算性(xìng)能(néng)高(gāo)、計(jì)算效率高(gāo)、芯片(piàn)出(chū)貨量(liàng)越大成(chéng)本(běn)越低。但是(shì)缺點(diǎn)也(yě)很明(míng)顯：算法是(shì)固定(dìng)的(de)，一(yī)旦算法變(biàn)化(huà)就(jiù)可(kě)能(néng)无法使用(yòng)。
與(yǔ)FPGA相比，ASIC上(shàng)市(shì)速度(dù)慢(màn)，需要(yào)大量(liàng)时(shí)間(jiān)開(kāi)發(fà)，而(ér)且一(yī)次(cì)性(xìng)成(chéng)本(běn)（光(guāng)刻掩模制作成(chéng)本(běn)）遠(yuǎn)高(gāo)于(yú)FPGA，但是(shì)性(xìng)能(néng)高(gāo)于(yú)FPGA且量(liàng)産後(hòu)平均成(chéng)本(běn)低于(yú)FPGA。在(zài)同(tóng)一(yī)时(shí)間(jiān)點(diǎn)上(shàng)用(yòng)最(zuì)好(hǎo)的(de)工藝实現(xiàn)的(de)ASIC的(de)加速器的(de)速度(dù)会(huì)比用(yòng)同(tóng)樣(yàng)工藝FPGA做的(de)加速器速度(dù)快(kuài)5-10倍，而(ér)且一(yī)旦量(liàng)産後(hòu)ASIC的(de)成(chéng)本(běn)会(huì)遠(yuǎn)遠(yuǎn)低于(yú)FPGA方(fāng)案(àn)。
4. FPGA未来(lái)大有(yǒu)可(kě)为(wèi)
從技術(shù)上(shàng)来(lái)看(kàn)，GPU、FPGA和(hé)ASIC都各(gè)有(yǒu)千(qiān)秋。從实際應(yìng)用(yòng)来(lái)看(kàn)，GPU擁有(yǒu)最(zuì)完善的(de)生(shēng)态系(xì)統支撐，具有(yǒu)較大的(de)先(xiān)發(fà)优勢。由(yóu)于(yú)市(shì)场对(duì)此(cǐ)已經(jīng)充分(fēn)預期(qī)，我(wǒ)们(men)在(zài)此(cǐ)就(jiù)不(bù)再贅述。
人(rén)工智能(néng)在(zài)推理环(huán)节(jié)應(yìng)用(yòng)刚起步，雲(yún)端要(yào)比前(qián)端設備發(fà)展(zhǎn)速度(dù)更(gèng)快(kuài)。下(xià)面(miàn)我(wǒ)们(men)将重(zhòng)點(diǎn)講述一(yī)下(xià)雲(yún)端數據(jù)中(zhōng)心(xīn)的(de)應(yìng)用(yòng)。在(zài)數據(jù)中(zhōng)心(xīn)，FPGA使用(yòng)日(rì)益廣泛，而(ér)ASIC路(lù)線(xiàn)风险太高(gāo)，目前(qián)僅有(yǒu)谷歌批量(liàng)部(bù)署(shǔ)了(le)TPU。
4.1 FPGA已在(zài)全(quán)球七(qī)大數據(jù)中(zhōng)心(xīn)实際部(bù)署(shǔ)
FPGA最(zuì)大的(de)优點(diǎn)是(shì)動(dòng)态可(kě)重(zhòng)配、性(xìng)能(néng)功耗比高(gāo)，非(fēi)常适合在(zài)雲(yún)端數據(jù)中(zhōng)心(xīn)部(bù)署(shǔ)。
當在(zài)數據(jù)中(zhōng)心(xīn)部(bù)署(shǔ)之後(hòu)，FPGA可(kě)以(yǐ)根(gēn)據(jù)業务形态来(lái)配臵不(bù)同(tóng)的(de)邏輯实現(xiàn)不(bù)同(tóng)的(de)硬(yìng)件(jiàn)加速功能(néng)。以(yǐ)騰訊雲(yún)为(wèi)例，當前(qián)服(fú)务器上(shàng)的(de)FPGA板卡(kǎ)部(bù)署(shǔ)的(de)是(shì)图(tú)片(piàn)壓縮邏輯，服(fú)务于(yú)QQ業务；而(ér)此(cǐ)时(shí)廣告实时(shí)預估需要(yào)擴容獲得更(gèng)多(duō)的(de)FPGA計(jì)算資源，通(tòng)过(guò)簡單的(de)FPGA重(zhòng)配流程，FPGA板卡(kǎ)即可(kě)以(yǐ)變(biàn)身(shēn)成(chéng)“新”硬(yìng)件(jiàn)来(lái)服(fú)务廣告实时(shí)預估，非(fēi)常适合批量(liàng)部(bù)署(shǔ)。
FPGA的(de)性(xìng)能(néng)功耗比顯著高(gāo)于(yú)GPU。以(yǐ)普遍(biàn)使用(yòng)在(zài)服(fú)务器中(zhōng)的(de)FPGA型号(hào)A10GX660为(wèi)例，性(xìng)能(néng)/功耗能(néng)达(dá)到(dào)45GFLOPS/W，而(ér)对(duì)應(yìng)的(de)GPU型号(hào)M4，性(xìng)能(néng)/功耗能(néng)达(dá)到(dào)29GFLOPS/W。依次(cì)测算FPGA性(xìng)能(néng)功耗比要(yào)高(gāo)50%。
近(jìn)两(liǎng)年(nián)，全(quán)球七(qī)大超級雲(yún)計(jì)算數據(jù)中(zhōng)心(xīn)包(bāo)括IBM、Facebook、微软(ruǎn)、AWS以(yǐ)及(jí)BAT都采用(yòng)了(le)FPGA服(fú)务器。在(zài)这(zhè)方(fāng)面(miàn)，中(zhōng)國(guó)和(hé)美國(guó)处以(yǐ)同(tóng)一(yī)起跑線(xiàn)。
4.2 行業發(fà)展(zhǎn)趨勢：FPGA大有(yǒu)可(kě)为(wèi)
fpga招聘 fpga求職 fpga培訓 verilog入(rù)門(mén) verilog verilog基本(běn)知識
fpga时(shí)序約束(shù) fpga入(rù)門(mén)資料 fpga入(rù)門(mén) fpga如(rú)何入(rù)門(mén)
比使用(yòng)現(xiàn)狀更(gèng)重(zhòng)要(yào)的(de)是(shì)未来(lái)的(de)技術(shù)和(hé)産業發(fà)展(zhǎn)趨勢。從行業發(fà)展(zhǎn)趨勢来(lái)看(kàn)，我(wǒ)们(men)認为(wèi)FPGA潛力被(bèi)低估了(le)，未来(lái)大有(yǒu)可(kě)为(wèi)。具體(tǐ)如(rú)下(xià)：
4.2.1 算法正(zhèng)在(zài)快(kuài)速叠代(dài)中(zhōng)
人(rén)工智能(néng)算法正(zhèng)处于(yú)快(kuài)速叠代(dài)中(zhōng)。虽然ASIC芯片(piàn)可(kě)以(yǐ)獲得最(zuì)优的(de)性(xìng)能(néng)，即面(miàn)積利用(yòng)率高(gāo)、速度(dù)快(kuài)、功耗低；但是(shì)AISC開(kāi)發(fà)风险极(jí)大，需要(yào)有(yǒu)足够大的(de)市(shì)场来(lái)保證成(chéng)本(běn)價格，而(ér)且從研發(fà)到(dào)市(shì)场的(de)时(shí)間(jiān)周期(qī)很长，不(bù)适合例如(rú)深度(dù)学習CNN等算法正(zhèng)在(zài)快(kuài)速叠代(dài)的(de)領域。因(yīn)此(cǐ)，推出(chū)ASIC芯片(piàn)风险非(fēi)常高(gāo)，且成(chéng)本(běn)太高(gāo)，只(zhī)有(yǒu)谷歌等极(jí)少(shǎo)數公司敢于(yú)嘗試。
更(gèng)重(zhòng)要(yào)的(de)是(shì)，當前(qián)人(rén)工智能(néng)算法模型的(de)發(fà)展(zhǎn)趨勢是(shì)從訓練环(huán)节(jié)向(xiàng)推理环(huán)节(jié)走(zǒu)，这(zhè)个(gè)过(guò)程非(fēi)常有(yǒu)利于(yú)FPGA未来(lái)的(de)發(fà)展(zhǎn)。人(rén)工智能(néng)算法模型從訓練环(huán)节(jié)走(zǒu)向(xiàng)推理环(huán)节(jié)并不(bù)是(shì)簡單搬運过(guò)去(qù)。訓練出(chū)来(lái)的(de)算法模型往往規模太大，複雜度(dù)太高(gāo)，无法直(zhí)接部(bù)署(shǔ)实際應(yìng)用(yòng)。現(xiàn)在(zài)，人(rén)工智能(néng)算法模型研究的(de)重(zhòng)要(yào)趨勢就(jiù)是(shì)将訓練後(hòu)的(de)模型再進(jìn)行壓縮，在(zài)基本(běn)不(bù)損失模型精度(dù)的(de)情(qíng)況下(xià)，将模型壓縮到(dào)原来(lái)的(de)幾(jǐ)十(shí)分(fēn)之一(yī)，再應(yìng)用(yòng)到(dào)推理环(huán)节(jié)。
以(yǐ)深鉴科技的(de)研究成(chéng)果(guǒ)为(wèi)例，公司發(fà)布(bù)的(de)論文(wén)《ESE :Efficient Speech Recognition Engine with Sparse LSTM on FPGA 》指出(chū)，长短(duǎn)期(qī)記(jì)憶网(wǎng)絡（LSTM）被(bèi)廣泛用(yòng)于(yú)語(yǔ)音(yīn)識别領域。为(wèi)实現(xiàn)更(gèng)高(gāo)的(de)預测精度(dù)，機(jī)器学習研究者(zhě)们(men)構建了(le)越来(lái)越大的(de)模型。然而(ér)这(zhè)樣(yàng)的(de)模型十(shí)分(fēn)耗費計(jì)算和(hé)存儲資源。部(bù)署(shǔ)此(cǐ)類(lèi)笨重(zhòng)的(de)模型会(huì)給(gěi)數據(jù)中(zhōng)心(xīn)带(dài)来(lái)很高(gāo)的(de)功耗，從而(ér)带(dài)来(lái)很高(gāo)的(de)總(zǒng)擁有(yǒu)成(chéng)本(běn)（TCO）。
公司提(tí)出(chū)了(le)一(yī)種(zhǒng)可(kě)以(yǐ)在(zài)幾(jǐ)乎沒(méi)有(yǒu)預测精度(dù)損失的(de)情(qíng)況下(xià)将LSTM模型的(de)尺寸(cùn)壓縮20倍（10倍来(lái)自(zì)剪枝和(hé)2倍来(lái)自(zì)量(liàng)化(huà)）的(de)負载平衡感(gǎn)知剪枝（load-balance-awarepruning）方(fāng)法。
最(zuì)後(hòu)，它(tā)们(men)設計(jì)了(le)一(yī)種(zhǒng)可(kě)以(yǐ)直(zhí)接在(zài)这(zhè)種(zhǒng)壓縮模型上(shàng)工作的(de)硬(yìng)件(jiàn)框架——EfficientSpeechRecognitionEngine(ESE)。該框架使用(yòng)了(le)運行頻率为(wèi)200MHz的(de)XilinxXCKU060FPGA，具有(yǒu)以(yǐ)282GOPS的(de)速度(dù)直(zhí)接運行壓縮LSTM网(wǎng)絡的(de)性(xìng)能(néng)，相當于(yú)在(zài)未壓縮LSTM网(wǎng)絡上(shàng)2.52TOPS的(de)速度(dù)；此(cǐ)外(wài)，該框架執行一(yī)个(gè)用(yòng)于(yú)語(yǔ)音(yīn)識别任务的(de)全(quán)LSTM僅需41W功耗。在(zài)基于(yú)LSTM的(de)語(yǔ)音(yīn)基準测試中(zhōng)，ESE的(de)速度(dù)为(wèi)英特(tè)爾Corei75930kCPU的(de)43倍，英偉达(dá)PascalTitanXGPU的(de)3倍。它(tā)的(de)能(néng)量(liàng)效率分(fēn)别为(wèi)以(yǐ)上(shàng)两(liǎng)種(zhǒng)处理器的(de)40倍和(hé)11.5倍。
这(zhè)篇(piān)論文(wén)验(yàn)證了(le)我(wǒ)们(men)上(shàng)述观點(diǎn)：
人(rén)工智能(néng)算法正(zhèng)处于(yú)快(kuài)速叠代(dài)中(zhōng)。公司提(tí)出(chū)的(de)新算法，可(kě)以(yǐ)在(zài)幾(jǐ)乎沒(méi)有(yǒu)預测精度(dù)損失的(de)情(qíng)況下(xià)将LSTM模型的(de)尺寸(cùn)壓縮20倍（10倍来(lái)自(zì)剪枝和(hé)2倍来(lái)自(zì)量(liàng)化(huà)）。在(zài)算法能(néng)够带(dài)来(lái)數量(liàng)級的(de)性(xìng)能(néng)提(tí)升(shēng)下(xià)，想(xiǎng)要(yào)将算法固化(huà)在(zài)ASIC中(zhōng)来(lái)獲得效率提(tí)升(shēng)的(de)想(xiǎng)法是(shì)不(bù)切(qiè)实際的(de)。
fpga招聘 fpga求職 fpga培訓 verilog入(rù)門(mén) verilog verilog基本(běn)知識
fpga时(shí)序約束(shù) fpga入(rù)門(mén)資料 fpga入(rù)門(mén) fpga如(rú)何入(rù)門(mén)
采用(yòng)了(le)搭建在(zài)FPGA上(shàng)的(de)硬(yìng)件(jiàn)框架ESE，獲得了(le)高(gāo)一(yī)个(gè)數量(liàng)級的(de)能(néng)量(liàng)效率提(tí)升(shēng)。ESE的(de)速度(dù)为(wèi)英特(tè)爾Corei75930kCPU的(de)43倍，英偉达(dá)PascalTitanXGPU的(de)3倍。它(tā)的(de)能(néng)量(liàng)效率分(fēn)别为(wèi)以(yǐ)上(shàng)两(liǎng)種(zhǒng)处理器的(de)40倍和(hé)11.5倍。采用(yòng)FPGA搭建硬(yìng)件(jiàn)框架充分(fēn)發(fà)揮了(le)FPGA万(wàn)能(néng)芯片(piàn)的(de)特(tè)性(xìng)，性(xìng)能(néng)遠(yuǎn)超GPU等。
4.2.2 芯片(piàn)NRE費用(yòng)在(zài)指數級上(shàng)升(shēng)
集成(chéng)電(diàn)路(lù)行業的(de)特(tè)點(diǎn)是(shì)赢家(jiā)通(tòng)吃，像CPU处理器，只(zhī)有(yǒu)英特(tè)爾一(yī)家(jiā)独大，門(mén)檻极(jí)高(gāo)。而(ér)随着芯片(piàn)制程工藝的(de)提(tí)升(shēng)，芯片(piàn)NRE費用(yòng)呈現(xiàn)指數級上(shàng)升(shēng)。这(zhè)樣(yàng)導致(zhì)的(de)結果(guǒ)是(shì)需要(yào)收(shōu)回(huí)成(chéng)本(běn)的(de)芯片(piàn)銷售規模門(mén)檻越来(lái)越高(gāo)。市(shì)场上(shàng)能(néng)够滿足如(rú)此(cǐ)大市(shì)场規模要(yào)求的(de)單品是(shì)非(fēi)常少(shǎo)的(de)。
