TMT观察网_独特视角观察TMT行业

9月6日上午，在2024Inclusion·外灘大會“以AI守護AI，大模型時代的攻守之道”論壇上，WDTA世界數字技術院正式發布國際標準《大模型供應鏈安全要求》。該標準由云安全聯盟（CSA）大中華區、螞蟻集團、微軟、谷歌、Meta、PrivateAI等數十家國內外單位的專家共同編制。這是業內首個大模型供應鏈安全國際標準，標志著全球AI治理的國際合作又邁出了堅實的一步。

與會的聯合國科學和技術促進發展委員會執行主席、世界數字技術院創始理事長Peter Major表示，隨著人工智能不斷發展并影響全球各個行業，人工智能相關標準的國際合作變得越來越重要。制定全球公認的人工智能國際標準，有助于培養對人工智能的信任、促進創新，并確保人工智能系統在不同行業和地區可靠運行。

針對此次發布的標準，云安全聯盟（CSA）大中華區主席李雨航表示大模型系統的運行依賴于分布在全球相互聯系的供應鏈生態系統。全球人工智能大模型的廣泛應用帶來了前所未有的機遇，同時也暴露出供應鏈安全的巨大挑戰。WDTA發布該標準為大模型的全生命周期安全提供了系統性管理框架，解決了供應鏈中的安全挑戰，支持全球人工智能技術的安全和可持續發展，提升了行業的整體可信度。

信息顯示，《大模型供應鏈安全要求》是WDTA人工智能安全、可信、負責任（AI STR）系列標準之一。該標準給出了大語言模型的供應鏈安全保護框架，從數據準備、大模型開發到部署運維各個環節涉及的供應鏈相關安全風險和供應活動管理給出了要求，并給出了常見的供應鏈安全風險、典型安全案例等相關信息。通過這一標準，可有效識別和評估大模型系統生命周期中面臨的供應鏈潛在安全風險，如數據泄露、模型篡改及供應商不合規等問題，確保供應鏈的完整性、可用性、保密性，從而提升大模型系統的安全性。

據了解，這一標準不僅為大模型供應鏈中的供需雙方提供了系統性的安全管理框架，也為第三方機構和權威部門的安全審查和合規管理提供了可靠依據，進一步增強了大模型系統的整體安全可信發展。

世界數字技術院（WDTA）成立于2023年4月，是在日內瓦注冊的國際非政府組織。該組織致力于在全球范圍內推進數字技術，促進國際合作。AI STR計劃是WDTA的核心倡議，旨在確保人工智能系統的安全性、可信性和責任性，微軟、谷歌、Anthropic、螞蟻集團、百度等均為其成員單位。今年4月聯合國科技大會上，WDTA發布了由OpenAI、螞蟻集團、科大訊飛、谷歌等數十家單位參編的兩項大模型安全國際標準，均為AI STR系列標準。

在全球人工智能發展和治理廣受關注的今天，如何平衡AI的發展與安全，已成為國際社會面臨的共同話題。我國也在積極推動人工智能治理體系優化完善，推出了《全球人工智能治理倡議》《國家新一代人工智能標準體系建設指南》等一系列政策。本次論壇上，與會嘉賓各自分享了觀點與展望，致力推動形成全球人工智能安全治理共識和創新合作。

全國網絡安全標準化技術委員會委員/WG7副組長閔京華表示，AI治理的根本目的在于保障AI的價值實現與風險的平衡。實現這一目的，從政策法規、技術標準到安全產品及服務等各個層面都需要行業共同努力協作。技術標準作為其中不可或缺的環節，凝聚了不同組織的專家共識，可確保人工智能系統是安全、可信賴和對所有人都有益的。

AI安全也是科技企業需解決的重要社會責任議題。螞蟻集團機器智能部總經理、安全實驗室首席科學家王維強表示，螞蟻集團長期關注AI安全，一方面積極參與技術標準規范建設，另一方面在研發大模型技術中時刻關注風險評估結果，實施并提升大模型的安全性、可靠性、可控性技術。螞蟻集團是較早布局可信AI技術的科技企業之一，其自主研發的大模型安全一體化解決方案“蟻天鑒”，相關檢測和防御產品已開放給20余家外部機構和企業使用。

除了標準發布，論壇現場宣布了國內首個大模型攻防主題的科技賽事—“全球AI攻防挑戰賽”正式啟動。該賽事聚焦AI大模型產業實踐，設計了“攻擊”與“防守”雙向賽道，邀請各路技術人才進行大模型自身安全和大模型生成內容的防偽檢測及大模型濫用風險檢測競賽，角逐百萬元科技獎金。

據了解，這一賽事由中國圖象圖形學會、螞蟻集團、云安全聯盟（CSA）大中華區聯合主辦，廣泛聯合清華大學、上海交通大學、浙江大學等C9高校及多家產學研組織共同發起，上海人工智能實驗室作為技術合作單位，旨在凝聚學界、行業力量，直面并解決大模型應用中潛藏的風險，助力全球AI產業健康可持續發展。

最后，本次論壇還發布了《AI可信度分析》報告。該報告由云安全聯盟（CSA）大中華區發布，其成員單位中國電信、西安電子科技大學、廣州大學、螞蟻集團、百度及天翼云等共同編制，不僅深入剖析了人工智能技術在實際應用中的可信性問題，從可靠性、安全性、透明性和公平性等關鍵維度，對當前AI技術的優勢與挑戰進行了全面評估，并提出了AI系統可信度的策略，涵蓋技術措施、政策建議及行業最佳實踐。