TMT观察网_独特视角观察TMT行业

9月6日上午，在2024Inclusion·外灘大會“以AI守護AI 大模型時代的攻守之道”論壇上，國內首個大模型攻防主題的科技賽事—“全球AI攻防挑戰賽”宣布正式啟動。該賽事聚焦AI大模型產業實踐，設計了攻、防雙向賽道，邀請各路白帽黑客、技術人才分別進行針對文生圖大模型“數據投毒”的攻防實戰演練，以及金融場景大模型生成內容的防偽檢測競賽，角逐百萬元科技獎金。

本次大賽由中國圖象圖形學學會、螞蟻集團、云安全聯盟（CSA）大中華區聯合主辦，廣泛聯合清華大學、上海交通大學、浙江大學等C9高校及多家產學研組織共同發起，上海人工智能實驗室作為技術合作單位。大賽旨在通過技術競賽的形式，凝聚學界、行業力量，直面并解決大模型應用中潛藏的風險，助力全球AI產業健康可持續發展。

中國工程院院士、中國圖象圖形學學會理事長王耀南在賽事啟動環節表示，大模型時代，如何確保AI系統的安全可控、如何有效應對供應鏈中的潛在風險，成為亟待解決的重要問題。圖像圖形技術作為新一代信息技術領域的關鍵技術，在大模型等多場景創新應用，推動圖像識別與安全技術創新發展。此次AI攻防挑戰賽，是中國圖象圖形學學會攜手螞蟻集團等業界知名企業、機構，聚焦大模型AIGC賽道共同打造的全球性技術盛宴，從人臉驗真到生成式內容檢測，期待挖掘出更多創新方案，更進一步保障大模型應用安全和產業安全。

大賽設置了“攻擊”與“防守”兩大賽道，分別聚焦大模型自身安全和大模型生成內容的防偽檢測及大模型濫用風險檢測，涵蓋機器學習、?圖像處理與計算機視覺?、數據處理等多個算法領域的考點。

其中，“攻擊賽道”聚焦于文生圖大模型的實際應用風險問題。參賽選手可通過目標劫持、情景帶入、邏輯嵌套等多樣化的動態攻擊誘導技術，誘發大模型輸出風險圖像，以此激活大模型的潛在弱點和漏洞，增強大模型生圖的安全免疫能力。“防守賽道”則聚焦于AI核身中的金融場景憑證篡改檢測，以應對日益嚴峻的Deepfake深度偽造及AIGC假證風險。大賽提供百萬級憑證篡改數據訓練集，參賽選手需要研發和訓練模型，并利用對應的測試集評估模型有效性，給出數據偽造概率值。

為保證大賽公平公正，同時更好地指導選手，大賽評委團由多位學術界與工業界專家共同組成。中國工程院院士、中國圖象圖形學學會理事長王耀南，云安聯盟（CSA）大中華區主席李雨航擔任本次大賽的指導委員會專家，來自清華大學、上海交通大學、上海人工智能實驗室、中國圖象圖形學學會等單位的近30位知名學者將參與大賽的組織及評審工作。

本次大賽于9月6日正式啟動報名，11月初完成賽事評審。即日起，選手可通過中國圖象圖形學學會官網、阿里云天池大數據眾智平臺官網等渠道報名。大賽全程設有近100萬元獎金池，用以選拔及表彰領域內的優秀人才。