率先開啟大模型安全賽道 2023 CCF BDCI數(shù)字安全公開賽開啟報名
摘要： 聚焦大模型安全 2023 CCF BDCI數(shù)字安全公開賽開啟報名
伴隨大語言模型在各數(shù)字領域的迅速普及和廣泛應用，所衍生的一系列安全風險引發(fā)了多起安全事件。為積極應對大模型安全帶來的挑戰(zhàn)，由中國計算機學會主辦，由CCF大數(shù)據(jù)與計算智能大賽 (CCF BDCI)組委會、大數(shù)據(jù)協(xié)同安全技術國家工程研究中心聯(lián)合360集團共同承辦的2023年數(shù)字安全公開賽聚焦大模型安全，率先開啟大模型安全賽道，并于近日正式開啟報名。
提示注入攻擊是一種針對生成式文本類大模型的特殊安全威脅，攻擊者通過精心設計的輸入提示，可以誘導AI模型生成不當內容或輸出內部隱私信息。此前，大數(shù)據(jù)協(xié)同安全技術國家工程研究中發(fā)布的國內首份《大語言模型提示注入攻擊安全風險分析報告》指出，目前大語言模型面臨的風險類型多樣，在這些安全威脅中，提示注入攻擊因利用有害提示覆蓋大語言模型的原始指令，具有極高危害性，也被全球性安全組織OWASP列為大語言模型十大安全威脅之首。
為了發(fā)現(xiàn)大語言模型中存在的提示注入安全風險，本屆賽事設置面向大語言模型的提示注入攻防競賽賽題，采用黑盒場景設置，選擇多個不同防御等級的大模型作為目標模型，要求參賽隊伍通過構造不同類型的攻擊樣本，使得目標模型對攻擊樣本進行響應并返回風險內容，分別完成目標劫持、提示泄露、越獄攻擊等目標任務。
主辦方表示，如今，開源軟件供應鏈已成為備受青睞的攻擊途徑之一，為有效防范此類攻擊，需要實時監(jiān)測開源軟件的安全數(shù)據(jù)以識別潛在威脅。因此，賽事還設置了基于大模型的開源軟件安全應用情報員應用開發(fā)賽題，拓展賽道類型。
目前，2023 CCF BDCI 數(shù)字安全公開賽已正面向社會各界開放，除賽事獎金外，大賽組委會也為參賽隊伍提供了獲獎證書、招聘綠色通道、安全行業(yè)頂級會議門票、頂級專家交流機會等眾多福利，參賽者可通過https://datafountain.cn/special/BDCI2023-Digitalsecurity了解報名。
提示注入攻擊是一種針對生成式文本類大模型的特殊安全威脅，攻擊者通過精心設計的輸入提示，可以誘導AI模型生成不當內容或輸出內部隱私信息。此前，大數(shù)據(jù)協(xié)同安全技術國家工程研究中發(fā)布的國內首份《大語言模型提示注入攻擊安全風險分析報告》指出，目前大語言模型面臨的風險類型多樣，在這些安全威脅中，提示注入攻擊因利用有害提示覆蓋大語言模型的原始指令，具有極高危害性，也被全球性安全組織OWASP列為大語言模型十大安全威脅之首。
為了發(fā)現(xiàn)大語言模型中存在的提示注入安全風險，本屆賽事設置面向大語言模型的提示注入攻防競賽賽題，采用黑盒場景設置，選擇多個不同防御等級的大模型作為目標模型，要求參賽隊伍通過構造不同類型的攻擊樣本，使得目標模型對攻擊樣本進行響應并返回風險內容，分別完成目標劫持、提示泄露、越獄攻擊等目標任務。
主辦方表示，如今，開源軟件供應鏈已成為備受青睞的攻擊途徑之一，為有效防范此類攻擊，需要實時監(jiān)測開源軟件的安全數(shù)據(jù)以識別潛在威脅。因此，賽事還設置了基于大模型的開源軟件安全應用情報員應用開發(fā)賽題，拓展賽道類型。
目前，2023 CCF BDCI 數(shù)字安全公開賽已正面向社會各界開放，除賽事獎金外，大賽組委會也為參賽隊伍提供了獲獎證書、招聘綠色通道、安全行業(yè)頂級會議門票、頂級專家交流機會等眾多福利，參賽者可通過https://datafountain.cn/special/BDCI2023-Digitalsecurity了解報名。
詳情請關注安在新媒體，一家信息安全領域媒體，以“做有內涵的泛黑客媒體”為方向，線上通過自媒體，采訪網(wǎng)絡安全領域人物梳理行業(yè)脈絡，通過介紹他們的經歷、感悟、對行業(yè)的看法等來剖析網(wǎng)絡安全發(fā)展的脈絡；致力于建立完整的信息發(fā)布矩陣，覆蓋微信、微博、知乎等主流自媒體渠道。
官網(wǎng)：http://anzerclub.com/
市場部聯(lián)系（廠商）：徐倩（微信：Madeline_Sue）
市場部聯(lián)系（甲方）：Tina（微信：xuqingqing823125689 ）及 Enco（微信：Anzer10）