數(shù)字化浪潮中，大模型作為新質(zhì)生產(chǎn)力的代表成為新一輪工業(yè)革命的核心引擎。然而，隨之而來(lái)的安全挑戰(zhàn)也日益凸顯，急需有效的大模型安全防護(hù)實(shí)踐總結(jié)、體系化的安全框架、解決方案以及能力支撐。
在3月20日舉辦的360安全大模型3.0發(fā)布會(huì)上，360數(shù)字安全集團(tuán)重磅發(fā)布大語(yǔ)言模型安全防護(hù)方案，展示了360在該領(lǐng)域的最佳實(shí)踐、理論創(chuàng)新、系統(tǒng)化框架方案和核心能力成果。
一、解決大模型安全問(wèn)題亟需全新戰(zhàn)法
在數(shù)字中國(guó)建設(shè)和全球數(shù)字化轉(zhuǎn)型的浪潮下，大模型技術(shù)由于其令人耳目一新的強(qiáng)大智能化能力，正在被快速應(yīng)用于千行百業(yè)，成為新質(zhì)生產(chǎn)力的代表。然而，大模型的全新特性也帶來(lái)的前所未有的安全挑戰(zhàn)，既存在傳統(tǒng)上的網(wǎng)絡(luò)與數(shù)據(jù)安全，又新出現(xiàn)了內(nèi)容可信、模型失控和和合規(guī)向善等多方面的安全挑戰(zhàn)。
“這些安全挑戰(zhàn)，只有傳統(tǒng)的網(wǎng)絡(luò)安全與部分?jǐn)?shù)據(jù)安全問(wèn)題可以用傳統(tǒng)的安全方法解決，其它以語(yǔ)料和內(nèi)容為核心的安全問(wèn)題都源于大模型自身特性。因此，不做大模型的傳統(tǒng)安全企業(yè)，無(wú)法深刻洞察大模型自身安全特性所帶來(lái)的內(nèi)容安全問(wèn)題，也就無(wú)法構(gòu)建大模型原生安全能力。”360數(shù)字安全集團(tuán)副總裁李博表示。
解決大模型問(wèn)題首先需要頂層邏輯與方法論。360率先提出了大模型的安全四原則：可靠、可信、向善、可控，旨在從頂層設(shè)計(jì)上全面保障大模型的安全。為了實(shí)現(xiàn)這些原則，360又進(jìn)一步提出了一套核心戰(zhàn)法，包括建立“網(wǎng)絡(luò)與數(shù)據(jù)安全與大模型自身安全”的雙輪驅(qū)動(dòng)體系，堅(jiān)持以內(nèi)容安全為核心，在大模型內(nèi)部?jī)?nèi)置原生安全機(jī)制，采用“小模型”的技術(shù)思路保障大模型安全的技術(shù)路線，同時(shí)構(gòu)建大模型安全實(shí)戰(zhàn)對(duì)抗評(píng)估體系對(duì)打模型安全實(shí)戰(zhàn)能力進(jìn)行評(píng)估，并進(jìn)一步構(gòu)建以服務(wù)運(yùn)營(yíng)為核心的大模型安全持續(xù)治理體系等。
二、360提出大模型安全解決方案，構(gòu)筑大模型安全底座
大模型安全戰(zhàn)法的落地需要足夠的硬核安全能力支撐。360基于大模型領(lǐng)域的實(shí)踐，提出了大模型安全能力體系框架（AISF框架）。這個(gè)框架將大模型安全能力分為兩部分，一是傳統(tǒng)網(wǎng)絡(luò)與數(shù)據(jù)安全能力，二是需要嵌入到大模型內(nèi)部，以解決大模型內(nèi)容可信、合規(guī)向善為目標(biāo)的大模型原生安全能力。
為了將360大模型安全的核心能力輸出給千行百業(yè)，360提出了“雙輪驅(qū)動(dòng)”的大模型安全解決方案框架。在框架中，一方面，利用360安全云圍繞“數(shù)據(jù)、探針、平臺(tái)、專家、AI”這五個(gè)核心要素，在網(wǎng)絡(luò)與數(shù)據(jù)安全層面對(duì)打模型進(jìn)行全面防護(hù)；另一方面，通過(guò)“360大模型原生安全能力增強(qiáng)包”解決大模型在內(nèi)容可信、合規(guī)向善、模型可控上存在的安全問(wèn)題，并利用360獨(dú)有的大模型安全評(píng)估系統(tǒng)，對(duì)大模型的安全能力進(jìn)行實(shí)戰(zhàn)評(píng)估。
▲“雙輪驅(qū)動(dòng)”的360大模型安全解決方案
這套360大模型安全解決方案可以平移、復(fù)制給有需求的行業(yè)客戶與合作伙伴和，并以標(biāo)準(zhǔn)化的能力產(chǎn)品方式對(duì)其他大模型企業(yè)進(jìn)行安全賦能，確保360的大模型安全成果與積累發(fā)揮最大價(jià)值。
三、360引領(lǐng)大模型安全實(shí)踐，助力企業(yè)“數(shù)轉(zhuǎn)智改”
只有躬身入局才能攻克大模型安全難題。憑借安全和大模型雙重能力，360的大模型創(chuàng)新能力不僅得到了政府機(jī)構(gòu)的認(rèn)可與贊譽(yù)，更在多個(gè)行業(yè)中實(shí)現(xiàn)了落地應(yīng)用，展示了其實(shí)際應(yīng)用價(jià)值。
在與某金融機(jī)構(gòu)合作中，360利用私有大模型為其部署了多套AI生產(chǎn)力工具，從企業(yè)入職培訓(xùn)、合規(guī)文檔編寫、電銷意向判斷，到催收分案、系統(tǒng)告警提示等，同時(shí)在大模型內(nèi)部集成了360大模型安全解決方案，在幫助該企業(yè)降本增效的同時(shí)，確保了大模型的安全。
此外，360大模型安全解決方案還在政務(wù)、稅務(wù)、醫(yī)療等多個(gè)重點(diǎn)行業(yè)完成了落地，為這些行業(yè)的數(shù)字化轉(zhuǎn)型提供了堅(jiān)實(shí)的安全保障。
隨著數(shù)字化時(shí)代的快速推進(jìn)，大模型技術(shù)的安全問(wèn)題將變得愈發(fā)重要。360大模型安全解決方案的成功實(shí)踐，不僅為行業(yè)樹立了大模型安全建設(shè)的典范，更為整個(gè)行業(yè)的安全發(fā)展指明了方向。未來(lái)，360將繼續(xù)引領(lǐng)大模型安全領(lǐng)域的發(fā)展，為構(gòu)建更加安全、可靠的數(shù)字化世界貢獻(xiàn)力量。
