攻擊、爬蟲、數(shù)據(jù)泄露？大模型應(yīng)用安全落地的生存指南
摘要： 本期《安全記》欄目圍繞“大模型應(yīng)用安全防護”主題展開探討
AI大模型創(chuàng)新與應(yīng)用風(fēng)起云涌，有機構(gòu)預(yù)測2025年將涌現(xiàn)5億個 ToB 和 ToC 的AI應(yīng)用，加速滲透到金融、制造、政務(wù)等千行百業(yè)，推動生產(chǎn)效率與業(yè)務(wù)模式的深刻變革。但大模型的規(guī)?；瘧?yīng)用也給企業(yè)帶來了包括數(shù)據(jù)安全、內(nèi)容合規(guī)、系統(tǒng)穩(wěn)定性在內(nèi)的復(fù)雜風(fēng)險。
基于此，本期《安全記》欄目圍繞“大模型應(yīng)用安全防護”主題展開探討，首次邀請到了阿里云智能集團研究院院長穆飛擔(dān)任主持人，特邀阿里云通義大模型業(yè)務(wù)總經(jīng)理徐棟、阿里云安全產(chǎn)品負責(zé)人祝建躍作為嘉賓，共同就大模型應(yīng)用面臨的風(fēng)險、防護方案等方面展開探討，結(jié)合阿里云和客戶的供需雙方實踐經(jīng)驗，深入淺出地解構(gòu)大模型應(yīng)用安全挑戰(zhàn)的應(yīng)對路徑與技術(shù)趨勢。
本文基于訪談嘉賓觀點進行提煉，完整版內(nèi)容請點擊下方視頻。
AI大模型應(yīng)用存在大量安全風(fēng)險
訪談中徐棟表示，在大模型應(yīng)用場景下的安全問題主要有三類：
♦ 以數(shù)據(jù)安全為代表的傳統(tǒng)安全問題依舊存在。
♦ 部分大模型在線服務(wù)類企業(yè)更加關(guān)注內(nèi)容安全問題。
♦ 對系統(tǒng)穩(wěn)定性提出了更高要求，面對海量流量時確保平穩(wěn)可靠。
祝建躍則進一步從技術(shù)角度闡述了上述安全風(fēng)險出現(xiàn)的原因。他表示傳統(tǒng)的經(jīng)典安全問題，比如DDoS攻擊等，在大模型場景下依然存在。但同時大模型應(yīng)用場景下，其獨特的服務(wù)形態(tài)還帶來了新興安全風(fēng)險，例如算力環(huán)境安全、大模型API安全等，需要企業(yè)額外關(guān)注。
面對日益嚴峻的安全風(fēng)險，祝建躍表示，大模型應(yīng)用場景下存在安全木桶理論，任何一塊短板的出現(xiàn)都可能帶來嚴重安全事故。
因此，大模型應(yīng)用需具備全棧防御思維：
♦ 安全防護流程上
要建立起事前治理、事中防護和事后響應(yīng)的安全閉環(huán)。
♦ 在安全防護路徑上
針對邊界層、系統(tǒng)層和應(yīng)用環(huán)境建立起多層次防護體系。
阿里云安全團隊也在基于大模型應(yīng)用場景更新迭代防護方案，例如阿里云安全中心可對PAI、靈駿等Severless高性能GPU計算實例提供運行時的威脅檢測，阻斷工作負載中的惡意進程，特別是對于挖礦類的進程能快速識別并自動隔離，保障大模型應(yīng)用的穩(wěn)定性。
徐棟則從企業(yè)的視角分享了大模型應(yīng)用安全的實踐。他表示，大模型應(yīng)用相比于傳統(tǒng)互聯(lián)網(wǎng)應(yīng)用有一定的區(qū)別，其知識庫可能更加簡潔直白，為此阿里云針對性推出“本地知識庫+云端模型”的安全架構(gòu)來滿足用戶訴求：既可以享受在云上調(diào)用最好、最領(lǐng)先的模型，又兼顧安全可控的體驗。
祝建躍表示阿里云作為同時提供云計算與大模型服務(wù)的領(lǐng)先廠商，在云安全和大模型安全領(lǐng)域有著深厚的技術(shù)積累，以及豐富的安全實戰(zhàn)經(jīng)驗，深刻理解企業(yè)業(yè)務(wù)效率和安全的平衡。例如推出了基于大模型的AI助手，幫助用戶更好地了解和處置告警。
同時將安全能力深度融入云原生架構(gòu)之中，具備云的天然優(yōu)勢，將包括彈性、高可用、規(guī)?；荣x予安全。最終為用戶打造一個統(tǒng)一的云計算與大模型應(yīng)用的安全防護體系，通過統(tǒng)一運營平臺實現(xiàn)“構(gòu)建-部署-運行”全生命周期安全管理，減少人為配置錯誤。
徐棟認為阿里云通義大模型依托于“百煉”模型服務(wù)平臺，已經(jīng)有大量用戶使用，積累了豐富且成熟的經(jīng)驗。因為采取開源策略，所以阿里云在模型原生安全方面投入了大量的資源進行強化，并且未來還會持續(xù)提升。此外在模型對外提供服務(wù)時，阿里云自帶安全圍欄，幫助用戶及時調(diào)整內(nèi)容策略，讓用戶有更多的時間對業(yè)務(wù)進行優(yōu)化，無需擔(dān)心安全問題。
祝建躍表示，未來阿里云將進一步強化安全與AI的“雙向賦能”。在大模型應(yīng)用安全防護方面：
♦ 讓用戶更加方便、一體化地使用阿里云的安全能力；
♦ 對云安全中心AI-SPM的能力進行升級，給予用戶更全面的安全態(tài)勢管理；
♦ 針對企業(yè)高需求防護場景，包括防爬蟲、防DDoS攻擊、安全隔離等產(chǎn)品功能進行升級（Security for AI）。
同時阿里云也將利用大模型全面提升安全能力（AI for Security），例如在內(nèi)容安全領(lǐng)域?qū)崿F(xiàn)“用模型打敗模型”；在威脅檢測及自動化響應(yīng)方面去做更多的能力提升。
徐棟也表示，AI時代大量的風(fēng)險來源于文本，因此通義大模型將在不久之后，針對非IT層面的內(nèi)容安全進行一次大的升級，圍繞業(yè)務(wù)安全讓傳統(tǒng)小模型升級為大模型或大的風(fēng)控智能體。
阿里云安全
國際領(lǐng)先的云安全解決方案提供方，零信任SASE、數(shù)據(jù)安全、流量安全等8大安全域百余項核心能力，助力百行百業(yè)在云上構(gòu)建生于云架構(gòu)，具備高度一體化、智能化、自我進化特征的原生安全保護體系。
阿里云安全能力獲權(quán)威機構(gòu)認可：在2023年Forrester《基礎(chǔ)設(shè)施即服務(wù)平臺原生安全Wave™》報告中，阿里云榮升強勁表現(xiàn)者象限，容器安全等標準中獲得最高分；在IDC《中國公有云網(wǎng)絡(luò)安全即服務(wù)市場份額，2022》報告中，阿里云市場份額位居第一；在Gartner®發(fā)布的網(wǎng)絡(luò)防火墻魔力象限《Magic Quadrant™ for Network Firewalls，2022》中，阿里云連續(xù)2年進入“挑戰(zhàn)者”象限。
云原生安全技術(shù)的引領(lǐng)探索和實踐者，通過安全能力與云緊耦合，實現(xiàn)雙向技術(shù)的變革式突破，安全能效數(shù)倍提升，高彈高可用、穩(wěn)定與協(xié)同；云服務(wù)內(nèi)置天然免疫基因，與用戶一起共同守護云上數(shù)字原生世界安全。
基于此，本期《安全記》欄目圍繞“大模型應(yīng)用安全防護”主題展開探討，首次邀請到了阿里云智能集團研究院院長穆飛擔(dān)任主持人，特邀阿里云通義大模型業(yè)務(wù)總經(jīng)理徐棟、阿里云安全產(chǎn)品負責(zé)人祝建躍作為嘉賓，共同就大模型應(yīng)用面臨的風(fēng)險、防護方案等方面展開探討，結(jié)合阿里云和客戶的供需雙方實踐經(jīng)驗，深入淺出地解構(gòu)大模型應(yīng)用安全挑戰(zhàn)的應(yīng)對路徑與技術(shù)趨勢。
本文基于訪談嘉賓觀點進行提煉，完整版內(nèi)容請點擊下方視頻。
AI大模型應(yīng)用存在大量安全風(fēng)險
訪談中徐棟表示，在大模型應(yīng)用場景下的安全問題主要有三類：
♦ 以數(shù)據(jù)安全為代表的傳統(tǒng)安全問題依舊存在。
♦ 部分大模型在線服務(wù)類企業(yè)更加關(guān)注內(nèi)容安全問題。
♦ 對系統(tǒng)穩(wěn)定性提出了更高要求，面對海量流量時確保平穩(wěn)可靠。
祝建躍則進一步從技術(shù)角度闡述了上述安全風(fēng)險出現(xiàn)的原因。他表示傳統(tǒng)的經(jīng)典安全問題，比如DDoS攻擊等，在大模型場景下依然存在。但同時大模型應(yīng)用場景下，其獨特的服務(wù)形態(tài)還帶來了新興安全風(fēng)險，例如算力環(huán)境安全、大模型API安全等，需要企業(yè)額外關(guān)注。
大模型應(yīng)用“全棧防御”實踐
面對日益嚴峻的安全風(fēng)險，祝建躍表示，大模型應(yīng)用場景下存在安全木桶理論，任何一塊短板的出現(xiàn)都可能帶來嚴重安全事故。
因此，大模型應(yīng)用需具備全棧防御思維：
♦ 安全防護流程上
要建立起事前治理、事中防護和事后響應(yīng)的安全閉環(huán)。
♦ 在安全防護路徑上
針對邊界層、系統(tǒng)層和應(yīng)用環(huán)境建立起多層次防護體系。
阿里云安全團隊也在基于大模型應(yīng)用場景更新迭代防護方案，例如阿里云安全中心可對PAI、靈駿等Severless高性能GPU計算實例提供運行時的威脅檢測，阻斷工作負載中的惡意進程，特別是對于挖礦類的進程能快速識別并自動隔離，保障大模型應(yīng)用的穩(wěn)定性。
徐棟則從企業(yè)的視角分享了大模型應(yīng)用安全的實踐。他表示，大模型應(yīng)用相比于傳統(tǒng)互聯(lián)網(wǎng)應(yīng)用有一定的區(qū)別，其知識庫可能更加簡潔直白，為此阿里云針對性推出“本地知識庫+云端模型”的安全架構(gòu)來滿足用戶訴求：既可以享受在云上調(diào)用最好、最領(lǐng)先的模型，又兼顧安全可控的體驗。
阿里云AI大模型應(yīng)用安全的優(yōu)勢
祝建躍表示阿里云作為同時提供云計算與大模型服務(wù)的領(lǐng)先廠商，在云安全和大模型安全領(lǐng)域有著深厚的技術(shù)積累，以及豐富的安全實戰(zhàn)經(jīng)驗，深刻理解企業(yè)業(yè)務(wù)效率和安全的平衡。例如推出了基于大模型的AI助手，幫助用戶更好地了解和處置告警。
同時將安全能力深度融入云原生架構(gòu)之中，具備云的天然優(yōu)勢，將包括彈性、高可用、規(guī)?；荣x予安全。最終為用戶打造一個統(tǒng)一的云計算與大模型應(yīng)用的安全防護體系，通過統(tǒng)一運營平臺實現(xiàn)“構(gòu)建-部署-運行”全生命周期安全管理，減少人為配置錯誤。
徐棟認為阿里云通義大模型依托于“百煉”模型服務(wù)平臺，已經(jīng)有大量用戶使用，積累了豐富且成熟的經(jīng)驗。因為采取開源策略，所以阿里云在模型原生安全方面投入了大量的資源進行強化，并且未來還會持續(xù)提升。此外在模型對外提供服務(wù)時，阿里云自帶安全圍欄，幫助用戶及時調(diào)整內(nèi)容策略，讓用戶有更多的時間對業(yè)務(wù)進行優(yōu)化，無需擔(dān)心安全問題。
針對大模型應(yīng)用
是否會有全新的安全產(chǎn)品形態(tài)出現(xiàn)？
是否會有全新的安全產(chǎn)品形態(tài)出現(xiàn)？
祝建躍表示，未來阿里云將進一步強化安全與AI的“雙向賦能”。在大模型應(yīng)用安全防護方面：
♦ 讓用戶更加方便、一體化地使用阿里云的安全能力；
♦ 對云安全中心AI-SPM的能力進行升級，給予用戶更全面的安全態(tài)勢管理；
♦ 針對企業(yè)高需求防護場景，包括防爬蟲、防DDoS攻擊、安全隔離等產(chǎn)品功能進行升級（Security for AI）。
同時阿里云也將利用大模型全面提升安全能力（AI for Security），例如在內(nèi)容安全領(lǐng)域?qū)崿F(xiàn)“用模型打敗模型”；在威脅檢測及自動化響應(yīng)方面去做更多的能力提升。
徐棟也表示，AI時代大量的風(fēng)險來源于文本，因此通義大模型將在不久之后，針對非IT層面的內(nèi)容安全進行一次大的升級，圍繞業(yè)務(wù)安全讓傳統(tǒng)小模型升級為大模型或大的風(fēng)控智能體。
阿里云安全
國際領(lǐng)先的云安全解決方案提供方，零信任SASE、數(shù)據(jù)安全、流量安全等8大安全域百余項核心能力，助力百行百業(yè)在云上構(gòu)建生于云架構(gòu)，具備高度一體化、智能化、自我進化特征的原生安全保護體系。
阿里云安全能力獲權(quán)威機構(gòu)認可：在2023年Forrester《基礎(chǔ)設(shè)施即服務(wù)平臺原生安全Wave™》報告中，阿里云榮升強勁表現(xiàn)者象限，容器安全等標準中獲得最高分；在IDC《中國公有云網(wǎng)絡(luò)安全即服務(wù)市場份額，2022》報告中，阿里云市場份額位居第一；在Gartner®發(fā)布的網(wǎng)絡(luò)防火墻魔力象限《Magic Quadrant™ for Network Firewalls，2022》中，阿里云連續(xù)2年進入“挑戰(zhàn)者”象限。
云原生安全技術(shù)的引領(lǐng)探索和實踐者，通過安全能力與云緊耦合，實現(xiàn)雙向技術(shù)的變革式突破，安全能效數(shù)倍提升，高彈高可用、穩(wěn)定與協(xié)同；云服務(wù)內(nèi)置天然免疫基因，與用戶一起共同守護云上數(shù)字原生世界安全。