TMT观察网_独特视角观察TMT行业

北京時間2月23日早間消息，一份由26名專家聯合撰寫的報告，對人工智能技術的潛在威脅發出警告。他們認為，這項技術可能在未來5到10年催生新型網絡犯罪、實體攻擊和政治顛覆。

這份100頁的報告標題為《人工智能的惡意用途：預測、預防和緩解》（The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation），參與撰寫的專家來自14家不同的機構和組織，包括牛津大學、劍橋大學和埃隆?馬斯克（Elon Musk）的OpenAI等。

作者在其中詳細闡述了人工智能可能在未來幾年做出哪些令人們普遍反感的事情。由于人工智能在很多方面的能力都遠超人類，所以該報告認為，這種技術現在會幫助敵對國家、犯罪分子和恐怖分子展開精準而高效的攻擊，不僅能夠擴大范圍，還可以提高效率。

該報告寫道：“隨著人工智能越來越強大，越來越普及，我們預計人工智能系統的廣泛應用將導致現有威脅的擴大，還會引發新的威脅，甚至改變典型的威脅特征。”他們還警告稱，由于人工智能可以擴大規模，并減輕人類的負擔，所以攻擊成本也會大幅降低。類似地，由于可以借助這種系統來完成人類通常難以完成的任務，所以也有可能出現新的攻擊。

具體來說，該報告認為，與自動攻擊、釣魚、語音合成、數據中毒有關的網絡攻擊將會增多。無人機以及全自動和半自動駕駛系統的出現也會構成新的風險，包括多輛無人駕駛汽車故意撞擊，使用數千架無人機協同攻擊，把商用無人機變成人臉識別刺客，控制關鍵基礎設施以索要贖金。在政治方面，人工智能還可以用于左右民眾觀點，形成高度精準的宣傳，傳播虛假但卻可信的文章和視頻。人工智能還能在私有和公共空間催生更好的監控技術。

為了緩解這些威脅，該報告給出了5點建議：

- 人工智能和機器學習研究人員應該承認其研究成果是雙刃劍。

- 政策制定者應該與技術人員密切合作，調查、預防和緩解人工智能可能的惡意使用方式。

- 應該向電腦安全等其他高風險技術領域學習一些方法，將其應用于人工智能領域。

- 應該在這些領域優先形成規范和道德框架。

- 討論這些挑戰時所涵蓋的利益相關者和專家范圍應該擴大。

除此之外，報告作者還認為，應該“重新思考”網絡安全，并對制度化和技術性解決方案展開投資。他們還表示，開發者應該形成“責任文化”，考慮數據共享和開放性所帶來的力量。

不過，也有人認為報告作者夸大了我們面臨的威脅。網絡安全公司High-Tech Bridge CEO伊拉?克羅琴科（Ilia Kolochenko）認為應該明確區分強人工智能和日常所說的人工智能，前者的確可以取代人類大腦。他表示，犯罪分子已經使用簡單的機器學習算法來提升攻擊效率，但這些措施之所以能夠成功，是因為基礎安全性不足以及組織內部的疏忽所致。機器學習只是扮演了“輔助加速器”的角色。

他還補充道，人工智能還可以用于更加高效地對抗網絡攻擊。另外，人工智能技術的發展往往需要展開長期的高額投入，這是“黑帽黑客”通常無法承擔的。因此，他不認為數字領域會因此面臨實質性的風險和革命――至少5年內不會。