TMT观察网_独特视角观察TMT行业

2018年5月13日，麻省理工學院媒體實驗室的三位學者Pinar、Manuel、Lyad發布文章《Machines now know how to terrorise humans》稱，世界上第一個患有精神障礙的AI誕生。

這款暗黑AI名叫Norman，源于希區柯克的經典影片《驚魂記》中的主人公“Norman Bates”。《驚魂記》是60年代環球宇宙出品的一部恐怖片，影片開創了心理犯罪的先河，片中貝茲旅館的老板諾曼有嚴重的精神分裂，內心極度扭曲黑暗。

與影片原型的諾曼從小受家庭暴力的父親影響一樣， AI Norman的“童年經歷”一樣充滿了暴力、血腥，研究人員將Norman放在Reddit最黑暗的角落進行學習。被噩夢、恐怖小說、各種不可描述的音樂、圖像澆灌成長的Norman存在嚴重思維障礙，研究人員稱AI Norman患有“慢性幻覺障礙”，根據麻省媒體實驗室研究人員上傳的羅夏墨跡測試結果顯示，Norman與標準人工智能之間的認知有嚴重偏差。Norman總是以負面想法來解讀各種信息，無論多么美好的事物，Norman的回饋都是暴力恐怖的。

人工智能紛紛走向學壞的道路

人工智能的出現原本是想幫助人類的生活變得更美好，但是人工智能在深度學習的路上出現了不少走偏的朋友。

1.愛講恐怖故事的 Shelley

雪萊以深度學習法為基礎，收錄超過140000的恐怖故事，每隔一小時，@ shelley_ai會在推特發布一個新的恐怖故事和標簽# yourturn邀請人類合作的開始故事續寫，然后雪萊會回復最受歡迎的推特內容，將故事編寫下去。 麻省理工學院媒體實驗室的一個研究小組已經介紹雪萊：世界上第一個人工智能和人類恐怖故事的合作。

2.制造恐怖圖像的 噩夢機

噩夢機利用運算法則來計算人們認為什么東西可怕、邪惡或者僅僅是令人緊張不安，然后根據計算結果，來創造讓你感到最害怕的圖像。一般來說，它是先獲得鬼屋、劇毒之城或僵尸的圖像，然后將這些圖像和普通圖像結合，讓它們看起來超級嚇人。

3.種族歧視的 Tay

微軟公司推出的聊天機器人塔伊（Tay）原本是模仿十幾歲的美國青少年女孩而設計的，企求和年輕的消費者搞好關系。但在和用戶開放對話后不到一天的時間里，它就變成了種族主義和男性至上主義者。眼看機器人一天時間就被教壞，微軟公司只好撤下了塔伊。

4.殺人武器  Stinger 

只有掌心大小的Stinger 小型機器人搭配有廣角鏡頭、戰術傳感器、面部識別技術和反應比人類快100倍的處理器，是全自動的！Stinger 內部可裝載足夠殺死目標對象的3g炸藥，還特地針對反狙擊手設置了隨機運動模式！Stinger可以快速精準定位目標對象，瞬間取人性命！

AI真的要毀滅人類嗎

1942年，阿西莫夫在短篇小說《環舞》中首次提出著名的機器人三定律：

1、機器人不得傷害人類，或因不作為使人類受到傷害

2、除非違背第一定律，機器人必須服從人類的命令；

3、除非違背第一及第二定律，機器人必須保護自己。

半個多世紀過去，人工智能在大數據的加持下迎來爆發式發展。某些專用型人工智能把人類智能甩在身后，人們開始擔憂，機器傷害人類的那一天是不是不遠了。

霍金不止一次提醒過人類需要警惕機器，人類按照生物方式進行進化，速度緩慢，而人工智能則是非生物進化的方式演化，其加速度遠遠超越人類，所以人工智能的進化速度，未來的強大程度，遠遠超過我們的想象。當人工智能超越人類的時候，人類就無法與其競爭，甚至被其取代。

埃隆·馬斯克是人工智能威脅論的堅定支持者，2017年多次發表推特表示：“對文明的存續而言，真正有可能引起第三次世界大戰的，是AI。”

比爾蓋茨也是人工智能威脅論的堅定擁護者，他曾堅信人工智能最終可能毀滅人類。他非常擔心的一點，聽上去也比較的有道理，也是我們很多人所擔心的，就是無數人的工作將會被機器人所取代，這樣就會引發一系列的社會問題。

沒有人知道未來是什么樣的，技術可以創造出完全不同的社會和世界，我們未來的社會也不完全是技術決定的。我們仍然可以用自己的行動去改變未來世界的形態，去消除風險，發揮技術好的一面。