隨著人工智能技術(shù)的飛速發(fā)展，大模型已成為推動各行業(yè)創(chuàng)新的關(guān)鍵力量。然而，大模型在帶來巨大機遇的同時，也為企業(yè)帶來了新的安全挑戰(zhàn)。

國務(wù)院《新一代人工智能發(fā)展規(guī)劃》明確提出“在大力發(fā)展人工智能的同時，必須高度重視可能帶來的安全風(fēng)險挑戰(zhàn)，加強前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險，確保人工智能的安全、可靠、可控發(fā)展”，并要求到2025年“初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評估和管控能力”。

沙丘智庫將“大模型+安全”分為大模型安全治理和大模型賦能安全相輔相成的兩個方面：

· 大模型安全治理是保障大模型健康、合規(guī)發(fā)展的基礎(chǔ)，涵蓋了從數(shù)據(jù)處理、模型訓(xùn)練到模型部署和應(yīng)用等各個環(huán)節(jié)的安全問題；

· 大模型賦能安全則是利用大模型等先進AI技術(shù)，為安全領(lǐng)域提供新的解決方案和思路。

只有在確保大模型自身安全的前提下，才能更好地發(fā)揮其賦能安全的作用；而大模型賦能安全的成功應(yīng)用，又進一步證明了大模型安全治理的重要性和有效性。

因此，沙丘智庫《2025年“大模型+安全”最佳實踐報告》從大模型安全治理和大模型賦能安全這兩個方面出發(fā)，深入研究企業(yè)應(yīng)如何確保大模型安全性，同時利用其強大的能力來增強安全防護，并系統(tǒng)分析和總結(jié)當前的最佳實踐，為企業(yè)安全領(lǐng)域的決策者和實踐者提供參考。

完整報告：沙丘智庫《2025年“大模型+安全”最佳實踐報告》（50頁PDF）

01大模型安全治理

隨著大模型技術(shù)應(yīng)用的逐漸深入，企業(yè)高度重視大模型安全，大部分企業(yè)都已開始采取大模型安全治理措施。Gartner近期的調(diào)研結(jié)果顯示，80%以上的企業(yè)都實施了針對生成式AI或智能體的安全控制，其中數(shù)據(jù)安全和應(yīng)用安全是當前企業(yè)最重視的兩大領(lǐng)域。

數(shù)據(jù)是企業(yè)數(shù)字化發(fā)展的基石，數(shù)據(jù)的安全問題貫穿采集、訓(xùn)練、應(yīng)用等全生命周期。大模型應(yīng)用的爆炸式增長使企業(yè)面臨的數(shù)據(jù)泄露和監(jiān)管合規(guī)性風(fēng)險成倍增加，數(shù)據(jù)安全在大模型安全領(lǐng)域的重要性不斷提升。

當前，企業(yè)針對大模型采取的數(shù)據(jù)安全控制手段主要包括數(shù)據(jù)防泄漏、數(shù)據(jù)訪問治理、數(shù)據(jù)發(fā)現(xiàn)與分類分級、AI防火墻/網(wǎng)關(guān)、數(shù)據(jù)安全態(tài)勢管理、合成數(shù)據(jù)。

管理大模型應(yīng)用安全風(fēng)險的一個有效方式是利用大模型安全護欄。大模型安全護欄是一種保護機制，通過在最終用戶和大模型之間形成保護層，監(jiān)督和管理用戶輸入和模型輸出，從而確保大模型的行為符合預(yù)期，減少不期望的輸出，保護用戶和模型的安全。

當應(yīng)用于大模型輸入時，安全護欄會根據(jù)預(yù)設(shè)的規(guī)則和標準評估輸入內(nèi)容是否有效或無效；同樣的過程也適用于大模型輸出，安全護欄會檢查模型輸出是否符合要求。

02大模型賦能安全

大模型賦能安全，是人工智能技術(shù)與安全領(lǐng)域深度融合的必然趨勢。一方面，大模型在安全領(lǐng)域的應(yīng)用為企業(yè)安全團隊工作效率和準確率的提升帶來了期望；另一方面，傳統(tǒng)安全廠商基于海量高質(zhì)量安全數(shù)據(jù)推出安全領(lǐng)域垂域大模型，幫助企業(yè)更好利用大模型解決原有安全場景難以解決的問題。

大模型賦能安全的主要應(yīng)用方向為大模型賦能網(wǎng)絡(luò)安全、大模型賦能數(shù)據(jù)安全、大模型賦能內(nèi)容，其中網(wǎng)絡(luò)安全是當前大模型應(yīng)用場景最廣泛的領(lǐng)域，尤其是在安全運營方向，大模型顯著提高了傳統(tǒng)安全防御體系的運營能力。