硅谷密探 李魯

《宇視》編者按：對(duì)于“AI芯片”、“人工智能芯片”，最早由智能手機(jī)在2018年炒熱。學(xué)界對(duì)此并不認(rèn)同，中國(guó)科學(xué)院自動(dòng)化研究所專家王飛躍稱沒有這樣的說(shuō)法：“我不認(rèn)為現(xiàn)在有所謂的人工智能芯片，當(dāng)然這種宣傳可以進(jìn)行?！钡聡?guó)馬格德堡大學(xué)教授Andreas Nuernberger也同意這樣的觀點(diǎn)，不知道背后誰(shuí)在推動(dòng)，從而成為一個(gè)熱詞。盡管如此，本文不失為一篇科普佳作，我們有幸在經(jīng)歷一個(gè)營(yíng)銷泡沫、商業(yè)激進(jìn)、學(xué)術(shù)冷靜并存的AI時(shí)代。

相信你一定還記得擊敗了李世石和柯潔的谷歌“阿爾法狗”（Alpha Go），那你知道驅(qū)動(dòng)Alpha Go的是什么嗎？

如果你覺得Alpha Go和人相似，只不過(guò)是把人腦換成了芯片，那么你就大錯(cuò)特錯(cuò)了。擊敗李世石的Alpha Go裝有48個(gè)谷歌的AI芯片，而這48個(gè)芯片不是安裝在Alpha Go身體里，而是在云端。所以，真正驅(qū)動(dòng)Alpha Go的裝置，看上去是如下圖這樣的。

因此李世石和柯潔不是輸給了“機(jī)器人”，而是輸給了裝有AI芯片的云工作站。

然而近幾年，AI技術(shù)的應(yīng)用場(chǎng)景開始向移動(dòng)設(shè)備轉(zhuǎn)移，比如汽車上的自動(dòng)駕駛、手機(jī)上的智能識(shí)別等。產(chǎn)業(yè)的需求促成了技術(shù)的進(jìn)步，而AI芯片作為產(chǎn)業(yè)的根基，必須達(dá)到更強(qiáng)的性能、更高的效率、更小的體積，才能完成AI技術(shù)從云端到終端的轉(zhuǎn)移。

圖 2018年6月，在北京舉辦的IEEE人工智能與控制論國(guó)際研討會(huì)，IEEE SMC學(xué)會(huì)、中國(guó)自動(dòng)化學(xué)會(huì)、中科院自動(dòng)化研究所等專家在對(duì)區(qū)塊鏈、人工智能等概念的熱炒降溫

目前，AI芯片的研發(fā)方向主要分兩種：一是基于傳統(tǒng)馮·諾依曼架構(gòu)的FPGA（現(xiàn)場(chǎng)可編程門陣列）和ASIC（專用集成電路）芯片，二是模仿人腦神經(jīng)元結(jié)構(gòu)設(shè)計(jì)的類腦芯片。其中FPGA和ASIC芯片不管是研發(fā)還是應(yīng)用，都已經(jīng)形成一定規(guī)模；而類腦芯片雖然還處于研發(fā)初期，但具備很大潛力，可能在未來(lái)成為行業(yè)內(nèi)的主流。

這兩條發(fā)展路線的主要區(qū)別在于，前者沿用馮·諾依曼架構(gòu)，后者采用類腦架構(gòu)。你看到的每一臺(tái)電腦，采用的都是馮·諾依曼架構(gòu)。它的核心思路就是處理器和存儲(chǔ)器要分開，所以才有了CPU（中央處理器）和內(nèi)存。而類腦架構(gòu)，顧名思義，模仿人腦神經(jīng)元結(jié)構(gòu)，因此CPU、內(nèi)存和通信部件都集成在一起。

圖 GPU比CPU有更多的邏輯運(yùn)算單元（ALU）

下面介紹兩種架構(gòu)的簡(jiǎn)要發(fā)展史、技術(shù)特點(diǎn)和代表性產(chǎn)品。

從GPU到FPGA和ASIC芯片

2007年以前，受限于當(dāng)時(shí)算法和數(shù)據(jù)等因素，AI對(duì)芯片還沒有特別強(qiáng)烈的需求，通用的CPU芯片即可提供足夠的計(jì)算能力。比如現(xiàn)在在讀這篇文章的你，手機(jī)或電腦里就有CPU芯片。之后由于高清視頻和游戲產(chǎn)業(yè)的快速發(fā)展，GPU（圖形處理器）芯片取得迅速的發(fā)展。因?yàn)镚PU有更多的邏輯運(yùn)算單元用于處理數(shù)據(jù)，屬于高并行結(jié)構(gòu)，在處理圖形數(shù)據(jù)和復(fù)雜算法方面比CPU更有優(yōu)勢(shì)，又因?yàn)锳I深度學(xué)習(xí)的模型參數(shù)多、數(shù)據(jù)規(guī)模大、計(jì)算量大，此后一段時(shí)間內(nèi)GPU代替了CPU，成為當(dāng)時(shí)AI芯片的主流。

然而GPU畢竟只是圖形處理器，不是專門用于AI深度學(xué)習(xí)的芯片，自然存在不足，比如在執(zhí)行AI應(yīng)用時(shí)，其并行結(jié)構(gòu)的性能無(wú)法充分發(fā)揮，導(dǎo)致能耗高。與此同時(shí)，AI技術(shù)的應(yīng)用日益增長(zhǎng)，在教育、醫(yī)療、無(wú)人駕駛等領(lǐng)域都能看到AI的身影。然而GPU芯片過(guò)高的能耗無(wú)法滿足產(chǎn)業(yè)的需求，因此取而代之的是FPGA芯片，和ASIC芯片。

那么這兩種芯片的技術(shù)特點(diǎn)分別是什么呢？又有什么代表性的產(chǎn)品呢？

“萬(wàn)能芯片”FPGA

FPGA（Field-Programmable Gate Array），即“現(xiàn)場(chǎng)可編程門陣列”，是在PAL、GAL、CPLD等可編程器件的基礎(chǔ)上進(jìn)一步發(fā)展的產(chǎn)物。

圖 Xilinx的Spartan系列FPGA芯片

FPGA可以被理解為“萬(wàn)能芯片”。用戶通過(guò)燒入FPGA配置文件，來(lái)定義這些門電路以及存儲(chǔ)器之間的連線，用硬件描述語(yǔ)言（HDL）對(duì)FPGA的硬件電路進(jìn)行設(shè)計(jì)。每完成一次燒錄，F(xiàn)PGA內(nèi)部的硬件電路就有了確定的連接方式，具有了一定的功能，輸入的數(shù)據(jù)只需要依次經(jīng)過(guò)各個(gè)門電路，就可以得到輸出結(jié)果。用大白話說(shuō)，“萬(wàn)能芯片”就是你需要它有哪些功能、它就能有哪些功能的芯片。

盡管叫“萬(wàn)能芯片”，F(xiàn)PGA也不是沒有缺陷。正因?yàn)镕PGA的結(jié)構(gòu)具有較高靈活性，量產(chǎn)中單塊芯片的成本也比ASIC芯片高，并且在性能上，F(xiàn)PGA芯片的速度和能耗相比ASIC芯片也做出了妥協(xié)。

也就是說(shuō)，“萬(wàn)能芯片”雖然是個(gè)多面手，但它的性能比不上ASIC芯片，價(jià)格也比ASIC芯片高。

但是在芯片需求還未成規(guī)模、深度學(xué)習(xí)算法需要不斷迭代改進(jìn)的情況下，具備可重構(gòu)特性的FPGA芯片適應(yīng)性更強(qiáng)。因此用FPGA來(lái)實(shí)現(xiàn)半定制人工智能芯片，毫無(wú)疑問(wèn)是保險(xiǎn)的選擇。

目前，F(xiàn)PGA芯片市場(chǎng)被美國(guó)廠商Xilinx和Altera瓜分。據(jù)國(guó)外媒體Marketwatch的統(tǒng)計(jì)，前者占全球市場(chǎng)份額50%、后者約占35%，兩家廠商霸占了85%的市場(chǎng)份額，專利6000多項(xiàng)，毫無(wú)疑問(wèn)是行業(yè)里的兩座大山。

Xilinx的FPGA芯片從低端到高端，分為四個(gè)系列，分別是Spartan、Artix、Kintex、Vertex，芯片工藝也從45到16納米不等。芯片工藝水平越高，芯片越小。其中Spartan和Artix主要針對(duì)民用市場(chǎng)，應(yīng)用包括無(wú)人駕駛、智能家居等；Kintex和Vertex主要針對(duì)軍用市場(chǎng)，應(yīng)用包括國(guó)防、航空航天等。

再說(shuō)說(shuō)Xilinx的老對(duì)手Altera。Altera的主流FPGA芯片分為兩大類，一種側(cè)重低成本應(yīng)用，容量中等，性能可以滿足一般的應(yīng)用需求，如Cyclone和MAX系列；還有一種側(cè)重于高性能應(yīng)用，容量大，性能能滿足各類高端應(yīng)用，如Startix和Arria系列。Altera的FPGA芯片主要應(yīng)用在消費(fèi)電子、無(wú)線通信、軍事航空等領(lǐng)域。

專用集成電路ASIC

在AI產(chǎn)業(yè)應(yīng)用大規(guī)模興起之前，使用FPGA這類適合并行計(jì)算的通用芯片來(lái)實(shí)現(xiàn)加速，可以避免研發(fā)ASIC這種定制芯片的高投入和風(fēng)險(xiǎn)。

但就像我們剛才說(shuō)到的，由于通用芯片的設(shè)計(jì)初衷并非專門針對(duì)深度學(xué)習(xí)，因此FPGA難免存在性能、功耗等方面的瓶頸。隨著人工智能應(yīng)用規(guī)模的擴(kuò)大，這類問(wèn)題將日益突出。換句話說(shuō)，我們對(duì)人工智能所有的美好設(shè)想，都需要芯片追上人工智能迅速發(fā)展的步伐。如果芯片跟不上，就會(huì)成為人工智能發(fā)展的瓶頸。

所以，隨著近幾年人工智能算法和應(yīng)用領(lǐng)域的快速發(fā)展，以及研發(fā)上的成果和工藝上的逐漸成熟，ASIC芯片正在成為人工智能計(jì)算芯片發(fā)展的主流。

ASIC芯片是針對(duì)特定需求而定制的專用芯片。雖然犧牲了通用性，但ASIC無(wú)論是在性能、功耗還是體積上，都比FPGA和GPU芯片有優(yōu)勢(shì)，特別是在需要芯片同時(shí)具備高性能、低功耗、小體積的移動(dòng)端設(shè)備上，比如手機(jī)。

但是，因?yàn)橥ㄓ眯缘?，ASIC芯片的高研發(fā)成本也可能會(huì)帶來(lái)高風(fēng)險(xiǎn)。然而如果考慮市場(chǎng)因素，ASIC芯片其實(shí)是行業(yè)的發(fā)展大趨勢(shì)。

為什么這么說(shuō)呢？因?yàn)閺姆?wù)器、計(jì)算機(jī)到無(wú)人駕駛汽車、無(wú)人機(jī)，再到智能家居的各類家電，海量的設(shè)備需要引入人工智能計(jì)算能力和感知交互能力。出于對(duì)實(shí)時(shí)性的要求，以及訓(xùn)練數(shù)據(jù)隱私等考慮，這些能力不可能完全依賴云端，必須要有本地的軟硬件基礎(chǔ)平臺(tái)支撐。而ASIC芯片高性能、低功耗、小體積的特點(diǎn)恰好能滿足這些需求。

ASIC芯片市場(chǎng)百家爭(zhēng)鳴

2016年，英偉達(dá)發(fā)布了專門用于加速AI計(jì)算的Tesla P100芯片，并且在2017年升級(jí)為Tesla V100。在訓(xùn)練超大型神經(jīng)網(wǎng)絡(luò)模型時(shí)，Tesla V100可為深度學(xué)習(xí)相關(guān)的模型訓(xùn)練和推斷應(yīng)用提供高達(dá)125萬(wàn)億次每秒的張量計(jì)算（張量計(jì)算是AI深度學(xué)習(xí)中最常用到的計(jì)算）。然而在最高性能模式下，Tesla V100的功耗達(dá)到300W，雖然性能強(qiáng)勁，但也毫無(wú)疑問(wèn)是顆“核彈”，因?yàn)樘M(fèi)電了。

圖 英偉達(dá)Tesla V100芯片

同樣在2016年，谷歌發(fā)布了加速深度學(xué)習(xí)的TPU（Tensor Processing Unit）芯片，并且之后升級(jí)為TPU 2.0和TPU 3.0。與英偉達(dá)的芯片不同，谷歌的TPU芯片設(shè)置在云端，并且“只租不賣”，服務(wù)按小時(shí)收費(fèi)。不過(guò)谷歌TPU的性能也十分強(qiáng)大，算力達(dá)到180萬(wàn)億次每秒，并且功耗只有200w。

圖 谷歌TPU芯片

關(guān)于各自AI芯片的性能，谷歌CEOSundar Pichai和英偉達(dá)CEO黃仁勛之前還在網(wǎng)上產(chǎn)生過(guò)爭(zhēng)論。別看兩位大佬為自家產(chǎn)品撐腰，爭(zhēng)得不可開交，實(shí)際上不少網(wǎng)友指出，這兩款產(chǎn)品沒必要“硬做比較”，因?yàn)橐粋€(gè)是在云端，一個(gè)是在終端。

除了大公司，初創(chuàng)企業(yè)也在激烈競(jìng)爭(zhēng)ASIC芯片市場(chǎng)。那么初創(chuàng)企業(yè)在行業(yè)中該如何生存呢？對(duì)此，AI芯片初創(chuàng)企業(yè)Novumind的中國(guó)區(qū)CEO周斌告訴小探：創(chuàng)新是初創(chuàng)企業(yè)的核心競(jìng)爭(zhēng)力。

2017年，NovuMind推出了第一款自主設(shè)計(jì)的AI芯片：NovuTensor。這款芯片使用原生張量處理器（Native Tensor Processor）作為內(nèi)核構(gòu)架，這種內(nèi)核架構(gòu)由NovuMind自主研發(fā)，并在短短一年內(nèi)獲得美國(guó)專利。此外，NovuTensor芯片采用不同的異構(gòu)計(jì)算模式來(lái)應(yīng)對(duì)不同AI應(yīng)用領(lǐng)域的三維張量計(jì)算。2018年下半年，Novumind剛推出了新一代NovuTensor芯片，這款芯片在做到15萬(wàn)億次計(jì)算每秒的同時(shí)，全芯片功耗控制在約15W，效率極高。

圖 Novumind的NovuTensor芯片

盡管NovuTensor芯片的紙面算力不如英偉達(dá)的芯片，但是其計(jì)算延遲和功耗卻低得多，因此適合邊緣端AI計(jì)算，也就是服務(wù)于物聯(lián)網(wǎng)。雖然大家都在追求高算力，但實(shí)際上不是所有芯片都需要高算力的。比如用在手機(jī)、智能眼鏡上的芯片，雖然也對(duì)算力有一定要求，但更需要的是低能耗，否則你的手機(jī)、智能眼鏡等產(chǎn)品，用幾下就沒電了。并且據(jù)EE Times的報(bào)道，在運(yùn)行ResNet-18、ResNet-34、ResNet70、VGG16等業(yè)界標(biāo)準(zhǔn)神經(jīng)網(wǎng)絡(luò)推理時(shí)，NovuTensor芯片的吞吐量和延遲都要優(yōu)于英偉達(dá)的另一款高端芯片Xavier。

圖 神經(jīng)元結(jié)構(gòu)

結(jié)合Novumind 現(xiàn)階段的成功，我們不難看出：在云端市場(chǎng)目前被英偉達(dá)、谷歌等巨頭公司霸占，終端應(yīng)用芯片群雄逐鹿的情形下，專注技術(shù)創(chuàng)新，在關(guān)鍵指標(biāo)上大幅領(lǐng)先所有競(jìng)爭(zhēng)對(duì)手，或許是AI芯片初創(chuàng)企業(yè)的生存之道。

類腦芯片

如文章開頭所說(shuō)，目前所有電腦，包括以上談到的所有芯片，都基于馮·諾依曼架構(gòu)。

然而這種架構(gòu)并非十全十美。將CPU與內(nèi)存分開的設(shè)計(jì)，反而會(huì)導(dǎo)致所謂的馮·諾伊曼瓶頸（von Neumann bottleneck）：CPU與內(nèi)存之間的資料傳輸率，與內(nèi)存的容量和CPU的工作效率相比都非常小，因此當(dāng)CPU需要在巨大的資料上執(zhí)行一些簡(jiǎn)單指令時(shí)，資料傳輸率就成了整體效率非常嚴(yán)重的限制。

既然要研制人工智能芯片，那么有的專家就回歸問(wèn)題本身，開始模仿人腦的結(jié)構(gòu)。

人腦內(nèi)有上千億個(gè)神經(jīng)元，而且每個(gè)神經(jīng)元都通過(guò)成千上萬(wàn)個(gè)突觸與其他神經(jīng)元相連，形成超級(jí)龐大的神經(jīng)元回路，以分布式和并發(fā)式的方式傳導(dǎo)信號(hào)，相當(dāng)于超大規(guī)模的并行計(jì)算，因此算力極強(qiáng)。人腦的另一個(gè)特點(diǎn)是，不是大腦的每個(gè)部分都一直在工作，從而整體能耗很低。

這種類腦芯片跟傳統(tǒng)的馮·諾依曼架構(gòu)不同，它的內(nèi)存、CPU和通信部件是完全集成在一起，把數(shù)字處理器當(dāng)作神經(jīng)元，把內(nèi)存作為突觸。除此之外，在類腦芯片上，信息的處理完全在本地進(jìn)行，而且由于本地處理的數(shù)據(jù)量并不大，傳統(tǒng)計(jì)算機(jī)內(nèi)存與CPU之間的瓶頸不復(fù)存在了。同時(shí)，神經(jīng)元只要接收到其他神經(jīng)元發(fā)過(guò)來(lái)的脈沖，這些神經(jīng)元就會(huì)同時(shí)做動(dòng)作，因此神經(jīng)元之間可以方便快捷地相互溝通。

在類腦芯片的研發(fā)上，IBM是行業(yè)內(nèi)的先行者。2014年IBM發(fā)布了TrueNorth類腦芯片，這款芯片在直徑只有幾厘米的方寸空間里，集成了4096個(gè)內(nèi)核、100萬(wàn)個(gè)“神經(jīng)元”和2.56億個(gè)“突觸”，能耗只有不到70毫瓦，可謂是高集成、低功耗的完美演繹。

圖 裝有16個(gè)TrueNorth芯片的DARPA SyNAPSE主板

那么這款芯片的實(shí)戰(zhàn)表現(xiàn)如何呢？IBM研究小組曾經(jīng)利用做過(guò)DARPA的NeoVision2 Tower數(shù)據(jù)集做過(guò)演示。它能以30幀每秒速度，實(shí)時(shí)識(shí)別出街景視頻中的人、自行車、公交車、卡車等，準(zhǔn)確率達(dá)到了80%。相比之下，一臺(tái)筆記本編程完成同樣的任務(wù)用時(shí)要慢100倍，能耗卻是IBM 芯片的1 萬(wàn)倍。

然而目前類腦芯片研制的挑戰(zhàn)之一，是在硬件層面上模仿人腦中的神經(jīng)突觸，換而言之就是設(shè)計(jì)完美的人造突觸。

在現(xiàn)有的類腦芯片中，通常用施加電壓的方式來(lái)模擬神經(jīng)元中的信息傳輸。但存在的問(wèn)題是，由于大多數(shù)由非晶材料制成的人造突觸中，離子通過(guò)的路徑有無(wú)限種可能，難以預(yù)測(cè)離子究竟走哪一條路，造成不同神經(jīng)元電流輸出的差異。

針對(duì)這個(gè)問(wèn)題，今年麻省理工的研究團(tuán)隊(duì)制造了一種類腦芯片，其中的人造突觸由硅鍺制成，每個(gè)突觸約25納米。對(duì)每個(gè)突觸施加電壓時(shí)，所有突觸都表現(xiàn)出幾乎相同的離子流，突觸之間的差異約為4%。與無(wú)定形材料制成的突觸相比，其性能更為一致。

即便如此，類腦芯片距離人腦也還有相當(dāng)大的距離，畢竟人腦里的神經(jīng)元個(gè)數(shù)有上千億個(gè)，而現(xiàn)在最先進(jìn)的類腦芯片中的神經(jīng)元也只有幾百萬(wàn)個(gè)，連人腦的萬(wàn)分之一都不到。因此這類芯片的研究，離成為市場(chǎng)上可以大規(guī)模廣泛使用的成熟技術(shù)，還有很長(zhǎng)的路要走，但是長(zhǎng)期來(lái)看類腦芯片有可能會(huì)帶來(lái)計(jì)算體系的革命。