TMT观察网_独特视角观察TMT行业

7月31日，ISC.AI 2024數字安全峰會在北京國家會中心順利召開。峰會以“打造安全大模型，引領安全行業革命”為主題，呼吁行業以大模型重塑安全體系，守護數字經濟穩健發展。大會匯聚了多位院士專家，以及360、華為、微軟等國內外企業領袖，深入剖析人工智能技術發展帶來的安全挑戰與解決方案，共同探索安全大模型驅動數字安全發展新路徑。

人工智能安全問題不容忽視

亟需產研攜手共探新解法

人工智能技術的廣泛應用正推動著各行各業轉型升級，同時為安全行業的發展注入了強勁動力。中國工程院院士吳世忠在主題演講中，從生成式人工智能安全研究的總體態勢和技術熱點角度進行了深入分析。他表示，由AI技術帶來的新型安全問題已成為現實，安全行業將迅速邁進AI驅動的新時代。然而，大模型安全研究可以說剛剛開始。無論是安全研究還是安全產業，都必須緊跟科技進步和應用創新，才能服務好發展，保障好發展。

“當前，AI應用系統安全責任與風險嚴重失衡”，中國工程院院士，國家數字交換系統工程技術研究中心(NDSC)主任鄔江興在主題演講中強調了當前AI系統面臨的窘境。他提出，基于內生安全架構可發現或糾正AI應用系統安全問題，AI應用系統中必須包含必要多樣性和相對正確公理的內生安全構造，在不可信的過程中找到相對可信的結果。智能時代需要選擇正確的技術路徑，實現更安全的AI應用系統。

尋找“明星場景”

加速安全大模型實踐應用

隨著人工智能技術的飛速發展，所有行業和產品都在被重塑，安全行業同樣面臨著一場革命。360集團創始人，ISC大會主席周鴻祎在《打造安全大模型，引領安全行業革命》的主題演講中指出，用AI重塑安全的本質是讓安全做到“自動駕駛”，360首推安全大模型，對購買360標準產品的用戶免費提供大模型標準能力，實現大模型普惠和安全行業新質生產力變革。

作為國內唯一兼具數字安全能力和AI技術雙重優勢的廠商，360基于深厚的全棧大模型底層技術、世界上規模最大的安全知識庫、亞洲最大的高級安全專家團隊和多領域全覆蓋強實戰的安全場景能力，打造了國內首個安全大模型“360安全大模型”，并在終端、安全運營、安全服務等諸多業務場景落地實踐。目前360全線安全產品已集成安全大模型能力，并對所有購買360標準產品的用戶免費提供大模型標準能力。

當前，人工智能跨越式發展，技術創新加速迭代，業界主流模型從千億稠密到萬億稀疏，并逐步走向百萬級超長序列和多模態。華為副總裁，ISP與互聯網系統部總裁岳坤在演講中表示，如何在智能時代的早期保證相應的服務能力和服務水平，將是首批的智能應用面臨的核心挑戰之一。他強調，提升安全水平是保障智能化服務能力和服務水平的關鍵，而原生是人工智能時代最大的安全。華為今年發布了昇騰原生計劃，將投入專項資金，以技術+商業驅動生態繁榮，為客戶打造更加匹配場景需求的方案，加速AI模型的應用。

平衡AI治理與賦能

共話“安全+AI”融合發展新路徑

隨著生成式人工智能驅動AI發展進入新階段，AI治理隨之也變成了一個突出問題。先進計算與關鍵軟件（信創）海河實驗室主任，中國新一代人工智能發展戰略研究院執行院長龔克在演講中指出，AI治理應遵循有利發展、為人服務和基于倫理三點原則，要清楚認識到技術自身的不足，以及人對于AI技術的惡用、濫用、誤用等風險。他強調，防止AI“作惡”要建立明確的倫理標準、提高透明度和問責制、完善法律法規、內置安全機制等。此外，要堅持開放創新，在信創基礎上發展安全可控的AI生態。

隨后，在由IDC中國副總裁鐘振山主持的“安全大模型引領數字安全新升級”圓桌對話上，教育部高等學校網絡空間安全專業教學指導委員會秘書長封化民，360數字安全集團副總裁余凱，統信軟件副總裁萬慧星，微軟大中華區安全與合規業務產品市場負責人李亮，圍繞大模型技術對于安全行業的影響、大模型在安全領域應用的主要優勢和障礙以及小模型的應用價值等話題，發表了各自觀點。

一直以來，ISC致力于搭建“政產學研用”的國際交流平臺。ISC.AI 2024數字安全峰會上，來自國內外的專家學者和企業精英共同探討了安全與大模型技術融合的前沿議題，不僅為數字安全創新發展提供了寶貴的啟示，更推動了數字安全技術的跨越式發展，引領我們邁向一個更加智能、安全、和諧的數字新時代。