TMT观察网_独特视角观察TMT行业

一鳴網8月6日前沿觀察：（謝東霞關注人工智能、物聯網）上周，蘋果股價盤中突破204.83美元，市值達到1萬億美元。作為當今全球最會賺錢，現金儲備最多的公司，國內的廣大果粉們卻陷入垃圾短信的圍剿。

很多蘋果用戶反應iMessages的垃圾短信越來越多，舉報也不起作用，每天都要收到三四條賭場、博彩廣告，開發票廣告、貸款之類的內容。7月31日，央視新聞也點名批評了蘋果的信息管理。

面對iMessages越來越嚴重的垃圾信息困擾，蘋果相關負責人透露，正在跟國內的電信企業接觸，并探索其他可采取的方法來減輕垃圾信息帶來的困擾。包括采用更先進的機器學習模型識別垃圾信息，以及推出更多的工具來阻止惡意發件賬號。

AI反垃圾的建立

在此時，一個AI All in的時代，人工智能幫我們做的事越來越多了，這次蘋果公司想用人工智能保護用戶不受垃圾信息的侵擾，需要怎樣的機器學習模型呢？

1.保持反饋最小化并盡可能延遲反饋，確保攻擊者在探查你的系統時得到盡可能少的收獲。

2.限制攻擊者對你的系統執行測試的頻率，有效降低他們設計有害有效負載的速度。

3.結合各種檢測機制，增加攻擊者繞過整個系統的難度。使用集成學習將基于聲譽的檢測方法、人工智能分類器、檢測規則和異常檢測等不同類型的檢測方法結合起來，提高了系統的魯棒性，因為不良行為者不得不同時制作避免所有這些機制的有效載荷。

AI反垃圾的優勢

人工智能在垃圾消息防御方面的應用早有先例，去年Instagram的工程師，將標記為垃圾評論或非垃圾評論的數據的輸入deep text，訓練基于帖子內容本身以及其他因素來辨認負面評論的人工智能，其嘗試使用九種不同的語言來檢測垃圾郵件或冒犯性的評論。試圖幫助 Instagram 成為一個讓用戶舒服表達自己的平臺，不被攻擊或冒犯。

為了國內網民免遭大量垃圾郵件、垃圾短信、騷擾電話等網絡垃圾的轟炸，網易在2016年發布了易盾智能反垃圾云服務。依托網易反垃圾海量特征樣本庫，使用人工智能、大數據分析技術，對用戶存儲在對象存儲上的圖片數據進行高效甄別，并對涉及廣告、色情、違禁、暴恐等垃圾類型的圖片數據進行嫌疑程度的判斷，同時為用戶提供準確便捷的檢測結果展示平臺。比起企業自建內容審核體系，網易易盾能幫企業降低80%的運營成本。

AI反垃圾的局限

不過機器學習模型仍存在一定的局限性。Instagram判斷評論具有冒犯性的方式，是通過機器給每一條評論進行0到1風的評級，分數越高，評論內容越惡劣。到達一定限度后，評論就會被抹除。不過在Instagram的系統中就會存在1%的誤報比例，這就意味著機器刪除的評論中，有1%是用戶實際可以接受的。

機器學習依舊會在內置規則的影響下具有一定的局限性，文本分析公司Luminoso的首席科學家Rob Speer基于詞嵌入理論創建過一套算法，試圖分析文本內容的傾向性。他用人們對于餐廳的評價作為語料進行測試卻得到了意料之外的結果：人們墨西哥餐館評價很低，而事實情況則是墨西哥餐廳頗受歡迎。后來Rob Speer通過數據發現系統從網頁上學到了墨西哥一詞，而在互聯網上，墨西哥一詞往往與“非法”等負面詞匯相關聯，對于算法來說，這意味著一些負面的東西。

雖然人工智能不能達到人們心中的理想效果，對文本內容的評價有時會有偏差，對于一些模棱兩可的內容難以判斷，但也足夠拯救國內果粉們被垃圾短信轟炸的慘況，希望蘋果能盡快實施反垃圾的措施。