光速運(yùn)算的突破,將為人工智能帶來哪些可能互聯(lián)網(wǎng)+
計算成了AI的難題,“光”會帶來希望
文 | 顏璇 | 智能相對論(ID:aixdlun)
1956年,“人工智能”這一概念被首次提出,自此以后,歷經(jīng)六十多年沉浮至今,人工智能一共經(jīng)歷了兩次浪潮。
第一次浪潮基于“if- then”結(jié)構(gòu),建立在人工設(shè)定的形式邏輯基礎(chǔ)上;第二次浪潮則是我們現(xiàn)在比較常見的,基于大數(shù)據(jù)驅(qū)動,借助統(tǒng)計學(xué)方法、模擬神經(jīng)網(wǎng)絡(luò)等來實現(xiàn)計算機(jī)的自主學(xué)習(xí)。
從這兩波浪潮的轉(zhuǎn)變中,我們發(fā)現(xiàn),AI的本質(zhì)就是計算,算法控制著數(shù)據(jù)的流動并實現(xiàn)所謂的“智能”。計算,無疑是人工智能發(fā)展中最為重要的一環(huán)。而現(xiàn)在,人工智能的計算走到哪里了呢?
光速運(yùn)算,解決AI訓(xùn)練的成本難題
近日,OpenAI對不同時期最大型的AI試驗所消耗的計算量進(jìn)行了調(diào)查分析。結(jié)果發(fā)現(xiàn),跟6年前相比,AI訓(xùn)練所需的計算量整整增長了30倍,相當(dāng)于每3.5月就翻番。
圖為AI訓(xùn)練所需的計算量(單位千億次浮點(diǎn)運(yùn)算)
圖片來源:OpenAI分析報告
計算量不斷增加,其實并不是一件壞事,因為這代表著AI 的能力也在與日俱增,但是,計算力的提升也讓AI的訓(xùn)練成本不斷增加。拿目前大家都知道的AlphaGo Zero舉例,這是目前最大規(guī)模的AI實驗,其成本可能是1000萬美元。如果試驗計算量持續(xù)增長,其成本每1.1-1.4年就會增加一個數(shù)量級。按照這個趨勢,在5-6年的時間內(nèi),這個實驗的成本將達(dá)到2000萬美元。
除非存在有一些非常強(qiáng)大的AI技術(shù)能帶來大規(guī)模的經(jīng)濟(jì)回報,否則,要想維持AI的計算趨勢,保證下一個“阿爾法狗”能被“喂養(yǎng)”出來,經(jīng)濟(jì)產(chǎn)出就要以每年一個數(shù)量級的速度來增長。這還只是就目前的情況而言,誰也無法保證AI計算趨勢在未來不會上漲得更快。
所以,目前擺在企業(yè)和政府面前的難題是,如何加快AI運(yùn)算速度,滿足人工智能研究中日益增長的計算量。
談起速度,目前宇宙中最快的速度是光速,光的傳播速度是 30 萬公里每秒,如果可以讓AI的深度神經(jīng)網(wǎng)絡(luò)中的信號以光速傳播,運(yùn)算速度是否也能相應(yīng)提高呢?
近日,來自加州大學(xué)洛杉磯分校(UCLA)的研究人員利用 3D 打印技術(shù)打印出了固態(tài)的神經(jīng)網(wǎng)絡(luò),并且利用層級傳播的光衍射來執(zhí)行計算,并達(dá)到了圖像識別手寫數(shù)字的效果。
圖為衍射深度神經(jīng)網(wǎng)絡(luò)(D^2NN)架構(gòu)
圖片來源:《science》
用光來執(zhí)行運(yùn)算其實與機(jī)器學(xué)習(xí)的經(jīng)典算法之一——線性回歸算法有著某種天然的合契,線性回歸一般是根據(jù)連續(xù)變量來估計實際數(shù)值,而光的振幅、相位都屬于可以調(diào)整的變量,這也是AI光速運(yùn)算與傳統(tǒng)計算機(jī)電路中電場傳播所區(qū)別的地方。該項技術(shù)的發(fā)展,相信能為AI計算成本的不斷降低和量產(chǎn)化目標(biāo)帶來助力。
用光執(zhí)行運(yùn)算,意味著什么?
隨著技術(shù)落地,當(dāng)光速運(yùn)算技術(shù)被真正應(yīng)用,會對人工智能有哪些改變呢?智能相對論(ID:aixdlun)分析師顏璇認(rèn)為,其在以下兩個方面會有較大突破。
如果說人類是AI的“上帝”, 那么人類給AI的只是“生命”組合的規(guī)則,而真正的演化卻是由AI自己完成的。
在初始階段,AI的認(rèn)知是十分有限的,它在不斷地試錯中尋求最佳結(jié)果,從而涌現(xiàn)出某種程度的智能。從人類的角度來講,我們在AI認(rèn)知的過程中是缺席的,在深度學(xué)習(xí)的框架下,我們“知其然而不知其所以然”,這就是著名的“黑匣子”問題。
AI預(yù)測你將在50年后死亡,你卻不知道它運(yùn)作的原理;無人駕駛的汽車撞上公路旁的護(hù)欄,你也不知道問題究竟出在哪里,只能送回原廠,修改全盤的算法。
讓AI擁有了光,“黑匣子”的問題或許就能迎刃而解了。要知道,AI運(yùn)算雖然是看不見摸不著的數(shù)字,但光的衍射卻是實實在在的物理現(xiàn)象,如果將模型的預(yù)測過程固化為物理表示,就可以清楚地觀察到人工智能運(yùn)算的過程。
在用光執(zhí)行運(yùn)算的實驗中,UCLA 的研究人員研發(fā)出了一個 3D 打印 AI 分析系統(tǒng)。這一系統(tǒng)可以通過光線的衍射來分析人工智能。研究人員也表示,通過改變相位和振幅,人工智能中每個“神經(jīng)元”都將是可調(diào)的。
2. AI 的“養(yǎng)成”游戲:強(qiáng)人工智能的開啟
強(qiáng)人工智能(有知覺和自我意識,且能推理和解決問題的智能機(jī)器)究竟能否實現(xiàn)?
有人預(yù)測,在21世紀(jì)內(nèi)將出現(xiàn)能夠與人類智能水平相當(dāng)?shù)腁I。而這種預(yù)測的立場來源于一種建立在還原論基礎(chǔ)上的計算主,其基本觀點(diǎn)是認(rèn)為物理世界、生命過程甚至人類心智都是算法可計算的。
人類的大腦就像一臺計算機(jī)在運(yùn)作,只要能夠模擬出人類大腦的計算規(guī)則,我們就能夠建立至少與人類水平相當(dāng)?shù)闹悄軝C(jī)器。當(dāng)然了,這里面暗藏一個假設(shè),即人類的全部意識均是大腦的計算產(chǎn)物。
如何創(chuàng)造出一個強(qiáng)人工智能, 我們或許就可以從人腦的計算量入手。這里有一個自然的假設(shè),就是如果我們創(chuàng)造出一個AI,從零歲起就能夠有足夠的計算能力去模擬人類大腦運(yùn)行18年,并以足夠細(xì)的顆粒度去捕捉大腦的智力表現(xiàn),這個AI能否像一位18歲的成年人一樣解決問題?
而這個計算量有多大呢?模擬大腦一秒鐘所需的每秒峰值速度(FLOPS,也稱作“每秒浮點(diǎn)運(yùn)算次數(shù)”)有很多測算,比如AI Impact收集的數(shù)據(jù)得出的中位數(shù)是1018 FLOPS,范圍在3×10^13FLOPS與1×10^25FLOPS之間。運(yùn)行這樣的模擬18年相當(dāng)于700萬Petaflop。
而AI技術(shù)不斷發(fā)展,其顆粒度只會更加細(xì)微,計算量也會更加大。如果能用光執(zhí)行運(yùn)算,無疑是為這一暢想提供了一項可行的技術(shù)。
光速運(yùn)算的“硬傷”
用光來執(zhí)行運(yùn)算固然是革新了神經(jīng)網(wǎng)絡(luò)的計算方式,但是,這種方法本身還是有著一些問題。
首先,在上文提到的實驗中,光的運(yùn)算是建立在固化的神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上,因此,當(dāng)深度學(xué)習(xí)已經(jīng)完成訓(xùn)練,并且將所有參數(shù)的值都確定下來,繼而利用3D打印技術(shù)進(jìn)行固化,打印出的神經(jīng)網(wǎng)絡(luò)就不能再被編程。
其次,打造一個能實現(xiàn)按需處理任務(wù)的超高精度衍射板是非常困難的,在解決了計算訓(xùn)練成本的難題時,很難說這個新技術(shù)不會帶來硬件研發(fā)的成本難題。除了制作工藝外,還有硬件安裝和環(huán)境穩(wěn)定性的難題。
誠然,新技術(shù)的應(yīng)用仍需要一段時間,用光來執(zhí)行運(yùn)算究竟能否滿足高速增長的AI計算趨勢,還需要我們積極探索。
隨著計算問題的解決,人工智能也必將取得長足發(fā)展。
【完】
智能相對論(微信id:aixdlun):深挖人工智能這口井,評出咸淡,講出黑白,道出vb深淺。重點(diǎn)關(guān)注領(lǐng)域:AI+醫(yī)療、機(jī)器人、智能駕駛、AI+硬件、物聯(lián)網(wǎng)、AI+金融、AI+安全、AR/VR、開發(fā)者以及背后的芯片、算法、人機(jī)交互等。
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范,任何轉(zhuǎn)載的稿件都會明確標(biāo)注作者和來源;
2.TMT觀察網(wǎng)的原創(chuàng)文章,請轉(zhuǎn)載時務(wù)必注明文章作者和"來源:TMT觀察網(wǎng)",不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任;
3.作者投稿可能會經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。