TMT观察网_独特视角观察TMT行业

“AI可能是人類文明史上最重要的事件，它要么是一件最好的事，要么是最糟的。”物理學(xué)家斯蒂芬·霍金這句聽起來模棱兩可的話里隱藏著一個事實信息——我們對AI的未來充滿未知。人們一面對AI時代的生活有著種種美好設(shè)想，一面又出于對未知的恐懼對AI的發(fā)展做著最壞的打算。恰如狄更斯的名句：“這是最好的時代，也是最壞的時代。”

一面是海水一面是火焰

未來已來，而你卻不是未來的一部分，那會怎樣？我們不妨將這個問題延展開來，“AI帶來的安全挑戰(zhàn)已經(jīng)擺在面前，而我們手中卻沒有應(yīng)對的武器，那會怎樣？”

一面是海水一面是火焰。面對新的時代更迭，BAT正基于自身資源優(yōu)勢制定應(yīng)對方案。與阿里在金融、電商場景，騰訊在社交、游戲領(lǐng)域的豐富數(shù)據(jù)不同的是，百度搜索涵蓋的是用戶的金融、電商、游戲、生活等各種需求，數(shù)據(jù)類型最為全面，用戶畫像更加精準(zhǔn)。對于AI，百度的方向更為明確。目前，AI技術(shù)幾乎已經(jīng)貫穿至百度旗下所有業(yè)務(wù)，從無人駕駛到語音搜索，從IOT安全到全球視野下的黑產(chǎn)全鏈，“All in AI”的百度顯然比任何企業(yè)都更清楚AI意味著什么。如果無法保證AI的安全性，后果難以想象。

事實上，如果我們無法建立起可靠的AI安全生態(tài)體系，可能遭遇一場噩夢的又何止于企業(yè)呢？對我們每個普通人而言，AI時代的夢想與夢魘僅有一墻之隔。

夢想與夢魘僅一墻之隔

人類的天性似乎是樂觀的，否則便無法解釋人們在面對AI這一充滿不確定性的技術(shù)時還能夠滿懷憧憬的做出種種美好設(shè)想。人們迫不及待的想要坐上無人駕駛的汽車，想要用機器人將自己從大量的重復(fù)勞動中解脫出來，甚至試圖以將記憶存儲至芯片的方式獲得某種意義上的永生。但在科技公司致力于使用AI技術(shù)改善人類生活的同時，在沒有陽光的黑暗里，一些不法分子正把AI當(dāng)做作惡的工具。

在去年11月舉辦的GeekPwn極棒破解大會現(xiàn)場，百度安全實驗室的研究員只用一張打印的A4紙晃了晃，就成功破解了某安卓智能手機的人臉識別認(rèn)證系統(tǒng)，虹膜和指紋也相繼被破解。試想，如果這套破解技術(shù)和方式掌握在不法分子手中，結(jié)果會怎樣？騰訊安全科恩實驗室也曾多次在無物理接觸的環(huán)境下破解無人駕駛汽車特斯拉，這項技術(shù)如果掌握在黑客手中，后果也不堪設(shè)想。

技術(shù)是中立無罪的，但人類的善與惡卻在技術(shù)身上得到體現(xiàn)。AI承載著人類的美好夢想，但也可能成為作惡的工具，帶來不可挽回的夢魘。夢想與夢魘之間僅有一墻之隔。

去年11月6日，百度安全牽頭成立AI智能終端安全生態(tài)聯(lián)盟，這是國內(nèi)第一個開放的致力于AI生態(tài)安全的聯(lián)盟組織。AI時代的來臨，企業(yè)遇到的安全問題是系統(tǒng)性的，這要求安全生態(tài)的各個環(huán)節(jié)不能像過去一樣彼此孤立存在。百度首席安全科學(xué)家、百度安全實驗室負責(zé)人韋韜不久前也明確表示：“安全生態(tài)的碎片化導(dǎo)致安全成本急劇上升，需要安全生態(tài)各個環(huán)節(jié)協(xié)力合作。”在百度牽頭成立的AI全生態(tài)聯(lián)盟中，終端廠商、高校專家、科研機構(gòu)甚至存在競爭關(guān)系安全廠商，都在聯(lián)盟成員的范圍內(nèi)，這種開放程度是史無前例的。

從競爭思維走向開放思維，這是一次有著標(biāo)志性意義的思維模式轉(zhuǎn)變。而促成這種轉(zhuǎn)變的是大家共同面對的問題——AI安全。就仿佛科幻小說中，當(dāng)人類在遭受外星文明的攻擊時便會自然而然地放下國與國、人與人間的利益爭奪，結(jié)成命運共同體。因為所有人都清楚，這事關(guān)人類的文明。而AI之于人類顯然也是兩種文明的碰撞。

AI時代的人類文明工程

漫長的人類歷史中有過許多改變?nèi)祟愇拿鬟M程的工程，萬里長城促進了民族、經(jīng)濟與文化的融合，巴拿馬大運河架起連接大西洋和太平洋的“世界橋梁”，阿波羅登月計劃讓人類對宇宙以及我們自身有了全新的認(rèn)識......正是有了這些偉大的工程才有了今天的人類文明，而今天，正如霍金所言，AI可能是人類文明史最重要的事件，它有可能將人類帶入全新的文明，也有可能讓人類文明毀于一旦。

將視野放到人類文明的高度來看，AI安全生態(tài)建設(shè)正是AI時代一項重要的文明工程，這項工程很大程度上決定著人類的未來。因為，唯有搭建起AI安全生態(tài)才能最大限度降低由AI帶來的安全風(fēng)險，反之，不可控的風(fēng)險將會對人類文明帶來毀滅性的打擊。

科幻作家劉慈欣在《三體》中創(chuàng)造一個概念叫“降維攻擊”，高維度的AI文明是否會對人類文明發(fā)起降維攻擊，目前還是個未知數(shù)，但并不能排除這種可能性。在AI面前，人類是命運的共同體。今天我們之所以能夠神情自若地探討AI安全生態(tài)的問題，原因是AI給了我們討論這一問題的時間和機會，我們應(yīng)該慶幸還擁有充足的預(yù)案時間。

資源的爭奪和競爭曾經(jīng)推動了人類文明的進程，但在新的文明之下人類是時候放下競爭結(jié)成聯(lián)盟了。AI安全生態(tài)是一個龐大的系統(tǒng)化的工程，任何企業(yè)和個體都不可能憑借一己之力完成，這也是百度AI生態(tài)安全聯(lián)盟等安全聯(lián)盟和組織成立的價值所在。

AI時代究竟是一個最好的時代，還是最壞的時代，我們無法給出準(zhǔn)確答案，但值得慶幸的是我們在做了最壞打算的同時也已經(jīng)開始為最好做出努力。1月19日，百度安全將舉辦一場聚焦AI安全的BSRC年度盛典，這場盛典也是目前國內(nèi)規(guī)模最大的“白帽子”碰頭，AI會不會往霍金所擔(dān)憂的方向發(fā)展？在這場盛典上，我們或許能找到一個答案。