TMT观察网_独特视角观察TMT行业

我們這一代人對于童年的記憶，多少都會有掐著點看父母什么時候回家，然后火速關掉電腦的經歷，有些人可能還要把電腦上的蕾絲罩布形狀復原。或者是偷偷通過電話充值Q幣裝飾QQ空間，在月底父母看著電話費單困惑時裝作一臉無辜。如果是男孩子，可能還會有偷偷去網吧的經歷。

這些小小的刺激，基本都建立在家長對于娛樂的嚴格管制上，上網、網游、網戀都被視作洪水猛獸。其實今天回頭看看，和中國互聯網一起野蠻生長的一代人，與互聯網相伴的路徑還真的有點驚險。當脫離了少年心氣，才會覺得當初唾手可得的色情暴力不當內容，對于兒童和青少年來說其實是并不合適的。

其實政府組織早就意識到了這一問題，2008年，原來的信息產業部、今天的工信部，公開向社會征集綠色上網過濾軟件。在原本的設想中，綠色上網幾乎算是一種分級制度，預裝在個人電腦中，為青少年和兒童過濾不良信息和圖片——但這并不影響成年人如何使用網絡。

這次招標為我們帶來的，是一次近乎鬧劇的失敗的兒童網絡保護行動，和至今仍然無法解決的兒童網絡安全問題。

一個失敗的起點：

綠壩鬧劇始末

綠壩，是這一切的開始。

在工信部公開招標后，中標的分別是北京大正語言知識處理科技有限公司和鄭州金惠計算機系統工程有限公司兩家企業，金惠提供“金惠堵截黃色圖像及不良信息專家系統”，也就是圖像上的識別和攔截，而北京大正提供語言文字上的識別。雙方合作，研發了“綠壩·花季護航”這款過濾軟件。

工信部花費了4170萬元，購買了綠壩一年的使用權，提供給網民免費下載和使用到2010年5月。并下發了《關于計算機預裝綠色上網過濾軟件的通知》，要求09年7月之后我國境內生產銷售的個人計算機必須預裝綠壩。

但很快強制安裝綠壩的行為就遭到了巨大的反彈，其中最主要的原因，是綠壩自己不夠爭氣。

很多使用者表示，綠壩的圖像過濾基本就是個笑話。只要是以黃色為主（此處指的是向日葵一樣的黃色）、摻雜黑色的圖片都會被過濾掉，導致打開綠壩之后連地圖都看不了。即使關閉綠壩，也會和一些日常管理軟件產生沖突。例如北京很多中小學校因為安裝了綠壩，連學籍管理、評價等軟件都不能正常打開，只好把批量安裝的綠壩批量卸載。

除了不夠好用之外，綠壩是否會侵犯個人隱私、是否會影響計算機安全，具體攔截哪些網站有沒有公開透明的標準、是否會影響信息自由和商業自由等等，都是人們懷疑的問題。

很快在2009年6月30日，《通知》上規定強制安裝綠壩的前一天，信部新聞發言人稱由于“一些企業提出工作量大、時間倉促、準備不足,根據實際情況,可以推遲預裝綠壩軟件。這款價值4000萬/年的項目終于不了了之，并且逐漸被人們遺忘。

錯誤的時間和錯誤的技術

綠壩失敗的原因究竟是什么？

即使拋開鄭州金惠和北京正大兩家企業中標的公平性，光從技術角度來看，綠壩的失敗也是必然。

先從鄭州金惠說起，鄭州金惠所提供的技術名為“金惠堵截黃色圖像及不良信息專家系統”，所謂專家系統就是人工智能的一個研究分支，將某一領域的人類專家知識和經驗大量錄入計算機，以實現讓計算機模擬人類推理、判斷的過程。

人類信息實在太過豐富，誰來判斷信息的準確專業、誰來錄入信息，都是無法解決的巨大問題。所以專家系統大多被應用在極細分的領域，比如某一種蟲子可能會對某一種農作物造成的損失等等。

顯然，專家系統是不適用于識別色情圖片這樣極為泛化的問題的，從表現來看，金惠也沒能建立出一個足夠強大的鑒黃專家系統。

再看北京正大，北京正大提出了一套概念層次網絡（Hierarchical Network of Concepts）理論，指出“把人腦認知結構分為局部和全局兩類聯想脈絡”，“建立自然語言的表述和處理模式，使計算機能夠模擬人腦的語言感知功能”。北京正大自己的說法雖然云里霧里，但我們仍然可以捕捉到“模仿人腦”這個關鍵詞。北京正大提出的模仿人腦，很可能是應用類似今天深度學習的方式，像大腦一樣通過視覺、聽覺傳感提取邊緣特征再進行高級分類。

但我們已經知道，深度學習依賴的是量級極大的數據和算力。就拿2012年谷歌啟動的谷歌大腦項目來說，利用了16000個CPU進行并行計算才讓機器能夠識別出貓的圖片。

在2008年的中國，我們很難相信哪一家企業有能力處理如此繁重的計算任務，綠壩的失敗也就不足為奇了。

總之如果聚焦于技術，綠壩失敗的本質來自技術水平本身的限制和算力、數據等硬性條件的不足。其實這種失敗也不僅僅出現在中國，例如幾年前印尼也推出了一款名為Internet Positif的網絡信息過濾服務。和綠壩一樣，不光推廣起來很困難，還同樣遭遇了被萌化擬人的命運。

（上圖分別為印尼綠壩娘和我國的綠壩娘）

兒童網絡安全的今天，

不僅僅是拒絕色情暴力

如今距離綠壩橫空出世已經有十年之久，在從綠壩娘身上取得短暫的勝利之后，我們卻發現兒童網絡安全的問題要比我們想象中嚴重的多。

如果說綠壩效果太差是因為技術不到位，那么我們今天的AI技術已經完全足夠應對圖像和文字的識別。但是今天的兒童網絡安全，面臨的早已不僅僅是1024或在漂流瓶里丟自己敏感部位照片的怪蜀黍。

近幾年以來，兒童網絡安全問題有著以下兩個明顯的變化趨勢。

一、 線下問題逐漸向線上轉化

以往兒童網絡安全只需讓未成年人遠離色情、暴力等等不當信息，但如今隨著互聯網普及，很多發生在現實中的問題也開始向線上轉移陣地。比如網絡霸凌就是一個全球普遍的問題，廣州市青年文化宮曾經調查得出，六成受訪青少年既是網絡霸凌者也是受害者。其他的還有在兒童網游中通過道具誘惑兒童，進行猥褻行為等等。兒童網絡安全問題正在越發多樣化，很難僅僅依靠識別技術解決。

二、 有害內容形態模糊化和隱秘化

以往的有害內容通常一眼就能被人類識破，但如今的有害內容甚至連家長自己都看不出來。就像前一陣的兒童邪典片一樣，借用兒童最常接觸的內容潛移默化的傳達信息，如果家長不往深處想，可能都不覺得這些內容有些什么不對勁，更何況是AI了。或者像藍鯨游戲一樣，通過微信群、QQ群工具小范圍傳播組織活動，活動的參與者還會注重信息的保護不向外傳播。如何在保護隱私的前提下發現并防止類似狀況發生，是目前有待解決的大問題。

不過今天的我們，也在用更新的方式保護兒童網絡安全。

首先，我們已經放棄了政府牽頭、一套軟件全國用這種吃力不討好的方式。而是當BAT、TMD等等巨頭已經收攏了大部分互聯網流量時，把壓力轉移到企業身上，讓企業們各施所長進行內容監管。

并且更新的技術手段也在快速進入兒童網絡安全保護領域。像美國初創企業Securly就通過云端向中小學提供網絡過濾服務，利用NLP識別文字所表達的情緒，當發現兒童青少年的有自殺傾向時及時向父母發短信提醒。

加上相關法律法規走向規范，在凈網行動的影響下，成年人都很難找到“不當內容”，更別提孩子們了。

我們或許應該承認，綠壩的初衷是好的、是必要的，甚至在它體現出的些許分級模式出行中，相對給予了成年人一些自由。可惜技術的不到位和民眾們強烈的反感，讓綠壩和分級模式一同走入了墳墓，我們最終選擇了更加粗放的解決方式，將所有觸網人群一同保護起來。

但即便如此，不斷變化兒童網絡安全問題還是沒有得到很好的解決。十年之后，仍在起點。