近來,DeepSeek遭到黑客持續(xù)攻擊,側(cè)面反映出國產(chǎn)大模型面臨的安全困境。
不可否認(rèn),以DeepSeek為代表的中國開源大模型的崛起,不僅降低了大模型訓(xùn)練和部署的成本,加速了人工智能技術(shù)的普及,也打破了技術(shù)封鎖與商業(yè)壁壘的雙重禁錮,推動(dòng)人工智能行業(yè)走向更加開放的新時(shí)代。但是,如同一把雙刃劍,作為開源大模型,DeepSeek同樣需要面對(duì)所有開源軟件共同的安全挑戰(zhàn):由于源代碼開放,開源軟件的安全問題比閉源軟件更加復(fù)雜,攻擊者可以自由查看、修改源代碼,進(jìn)而引發(fā)潛在的安全漏洞。
這并非杞人憂天,DeepSeek的遭遇就證實(shí)了這個(gè)規(guī)律:一方面,來自外部的網(wǎng)絡(luò)攻擊持續(xù)時(shí)間長、破壞力大、手段多、變化快;另一方面,在部署和應(yīng)用中發(fā)現(xiàn)的漏洞,暴露出多種安全風(fēng)險(xiǎn)。
有鑒于此,2025開年以來,各家安全公司嚴(yán)陣以待,紛紛探索新路徑、新范式,以筑牢網(wǎng)絡(luò)安全防線,為國產(chǎn)大模型保駕護(hù)航。
比如,亞信安全與亞信科技近日聯(lián)合發(fā)布的大模型安全解決方案,其思路可以歸納為“以人工智能護(hù)航人工智能”,不僅融合了亞信科技大模型產(chǎn)品在重點(diǎn)行業(yè)領(lǐng)域的豐富實(shí)踐經(jīng)驗(yàn),而且依托亞信安全在大模型安全領(lǐng)域的研究成果和技術(shù)實(shí)力,打造了兼具實(shí)戰(zhàn)需求和大模型發(fā)展要求的安全解決方案,由云安全防護(hù)系統(tǒng)、大模型安全網(wǎng)關(guān)、終端數(shù)據(jù)防護(hù)系統(tǒng)、AI應(yīng)用風(fēng)險(xiǎn)防護(hù)系統(tǒng)四大系統(tǒng)提供防護(hù),為大模型建立起覆蓋基礎(chǔ)層、模型層、工具層和AI應(yīng)用層的四層縱深防護(hù)。與此同時(shí),該方案還提供兩項(xiàng)專業(yè)服務(wù),即人工智能風(fēng)險(xiǎn)評(píng)測和人工智能安全服務(wù),定期進(jìn)行風(fēng)險(xiǎn)評(píng)測評(píng)估,護(hù)航大模型及應(yīng)用安全。
今后,隨著越來越多應(yīng)用場景的落地,國產(chǎn)大模型仍將面臨層出不窮的新風(fēng)險(xiǎn)。大模型安全不應(yīng)該只是“亡羊補(bǔ)牢”,更應(yīng)該未雨綢繆,重構(gòu)安全體系。
對(duì)此,多位受訪專家表示,應(yīng)重視大模型在安全架構(gòu)、漏洞響應(yīng)、數(shù)據(jù)合規(guī)等方面的“系統(tǒng)性短板”,從多個(gè)層面入手,綜合運(yùn)用多種手段,打造全方位、多層次的安全防護(hù)網(wǎng)絡(luò),尤其是要建設(shè)大模型的“原生安全”能力。
更為重要的是,大模型在安全領(lǐng)域的應(yīng)用潛力巨大,憑借其卓越的推理能力、定制化的訓(xùn)練方式和開源特性,能夠有效提升各種安全任務(wù)的執(zhí)行效率和準(zhǔn)確性。因此,探索大模型在安全領(lǐng)域的創(chuàng)新應(yīng)用、以大模型治理大模型安全問題成為重要方向。
業(yè)界已經(jīng)形成共識(shí),大模型是一個(gè)覆蓋多行業(yè)的交叉生態(tài)系統(tǒng),大模型安全風(fēng)險(xiǎn)的綜合治理不僅僅只是技術(shù)問題,需要政府、企業(yè)、科研機(jī)構(gòu)等多方力量參與其中,群策群力,夯實(shí)國產(chǎn)大模型發(fā)展的基礎(chǔ),打開思路為人工智能產(chǎn)業(yè)保駕護(hù)航。(吳蔚)