AIGC的深入發(fā)展和快速普及，打開了智能世界廣袤的想象空間，但在技術(shù)成果涌現(xiàn)之際，隨之而來的模型安全、數(shù)據(jù)安全、內(nèi)容安全問題也日益凸顯，如何應(yīng)對AIGC引發(fā)攻防范式轉(zhuǎn)化的新趨勢，如何規(guī)避數(shù)據(jù)和隱私泄露風(fēng)險，有效保障內(nèi)容生成的安全合規(guī)，正成為擺在行業(yè)面前的切實難題。

近日，在紫光股份旗下新華三集團2024媒體與分析師溝通會上，新華三集團高級副總裁、新華三信息安全技術(shù)有限公司總裁孫松兒接受多家媒體專訪，深入分享了新華三主動安全3.0在全面智能化升級、創(chuàng)新場景新范式以及全面國產(chǎn)化三大維度的能力進化，為強化AIGC數(shù)據(jù)安全治理，落實AIGC應(yīng)用規(guī)范，推動業(yè)務(wù)安全防護帶來了全新的解題思路。

新華三集團高級副總裁新華三信息安全技術(shù)有限公司總裁孫松兒

安全×AI 提升安全能力正向循環(huán)

對于AIGC為代表的大模型技術(shù)及其應(yīng)用而言，發(fā)展和安全是一體兩翼的統(tǒng)一整體，必須統(tǒng)籌規(guī)劃、同步推進。孫松兒表示，新華三集團安全視角下的AIGC是基于“主動安全”理念，首先滿足大模型應(yīng)用的安全新需求，同時將AIGC作為新工具、新能力，賦能安全能力的提升，即“安全是保障AIGC實戰(zhàn)的核心基石，AIGC是提升安全能力的最佳手段”。為實現(xiàn)AIGC發(fā)展與安全能力提升的正向循環(huán)，基于靈犀大模型的AI能力，新華三重磅打造靈犀助手，為安全體系建設(shè)、運營效率提升、業(yè)務(wù)持續(xù)發(fā)展注入更深層次的智能，并提出大模型安全合規(guī)與防護新思路——以靈犀衛(wèi)士實現(xiàn)大模型安全防護，以靈犀助手實現(xiàn)大模型賦能安全。

大模型自身的安全防護，貫穿從訓(xùn)練階段到運行階段的全過程，需要解決垂直領(lǐng)域大模型訓(xùn)練難點、大模型環(huán)境網(wǎng)絡(luò)攻擊風(fēng)險以及大模型生成內(nèi)容合規(guī)風(fēng)險等諸多難題。其中，內(nèi)容安全合規(guī)是大模型發(fā)展的第一要務(wù)，國家網(wǎng)信辦發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》中，著重強調(diào)了安全合規(guī)的重要性。面對AIGC內(nèi)容安全要求，孫松兒認(rèn)為應(yīng)從輸入側(cè)、模型側(cè)、輸出側(cè)三個層面著手，對違規(guī)信息進行過濾和規(guī)避。為此，新華三集團構(gòu)建了完整的AIGC內(nèi)容安全防護體系，通過Prompt審核與改寫、生成內(nèi)容過濾、紅線知識庫等方式，靈犀衛(wèi)士可監(jiān)測用戶輸入和生成內(nèi)容，識別各類違規(guī)風(fēng)險，全面保障內(nèi)容合規(guī)，整體內(nèi)容風(fēng)險可下降近80%。   

在大模型賦能安全方面，孫松兒指出，安全大模型正在引發(fā)“效率革命”，為安全運營帶來跨越式提升。以大模型技術(shù)打造的靈犀助手，現(xiàn)已全面內(nèi)嵌到安全產(chǎn)品、管理平臺及各類運營運維工具中，通過安全使能平臺打通大模型和業(yè)務(wù)場景，在攻擊研判、資產(chǎn)梳理、合規(guī)檢查、智能預(yù)測等方面實現(xiàn)全方位的運營效率提升。比如在失陷事件研判中，通過AIGC輔助分析，研判效率可提升50%，在風(fēng)險響應(yīng)處置中，AIGC可根據(jù)訓(xùn)練經(jīng)驗直接給出準(zhǔn)確的處置建議，快速生成處置報告，實現(xiàn)風(fēng)險處置的事半功倍，讓人力從繁雜的基礎(chǔ)工作中解放出來。

打造場景化新范式 賦能網(wǎng)絡(luò)安全場景化落地

從技術(shù)研發(fā)到實際應(yīng)用，網(wǎng)絡(luò)安全如何跨越實驗室與產(chǎn)業(yè)鏈的鴻溝，在具體行業(yè)和場景中實現(xiàn)價值的實質(zhì)性提升，是當(dāng)前行業(yè)關(guān)注的焦點。對此，孫松兒表示，當(dāng)下垂直行業(yè)的安全需求差異較大，需要建立場景化思維捕捉不同行業(yè)的實際安全需求，構(gòu)建基于客戶業(yè)務(wù)本身的場景化新范式。

在場景化探索方面，新華三集團深耕車聯(lián)網(wǎng)、數(shù)字政府、運營商等重點行業(yè)場景，為多場景業(yè)務(wù)打造按需交付的算網(wǎng)安融合解決方案，通過構(gòu)建分布式安全資源池，借助SRv6彈性可編程、性能可度量、隔離有保障的優(yōu)勢，實現(xiàn)網(wǎng)絡(luò)與安全服務(wù)的端到端業(yè)務(wù)鏈打通與安全編排，保障數(shù)據(jù)和業(yè)務(wù)的安全穩(wěn)定運行。在車聯(lián)網(wǎng)安全領(lǐng)域，新華三面向車路協(xié)同、車聯(lián)網(wǎng)運營以及車聯(lián)網(wǎng)人才培養(yǎng)場景，打造車聯(lián)網(wǎng)安全解決方案，全面保障車聯(lián)網(wǎng)端側(cè)、路側(cè)及云端安全。而圍繞數(shù)據(jù)流轉(zhuǎn)的全生命周期，新華三打造了基于AI的數(shù)據(jù)安全治理與運營平臺，以大模型技術(shù)賦能數(shù)據(jù)分類分級、數(shù)據(jù)動態(tài)圖譜及數(shù)據(jù)安全管理，實現(xiàn)數(shù)據(jù)流通的可感、可知、可管、可控。  

全面國產(chǎn)化 樹立國產(chǎn)化安全新標(biāo)桿

此外，新華三集團全面深化安全產(chǎn)品體系及國產(chǎn)化布局，推出業(yè)內(nèi)首個內(nèi)嵌AIGC的旗艦防火墻產(chǎn)品，打造全面支持國產(chǎn)化的安全運營中心、數(shù)據(jù)安全治理中心以及云安全平臺，樹立國產(chǎn)化安全能力新標(biāo)桿，40+安全原子能力全面適配國產(chǎn)化，包括主流的國產(chǎn)化操作系統(tǒng)及軟硬件，全面保障終端、邊界、應(yīng)用以及數(shù)據(jù)安全。   

作為新質(zhì)生產(chǎn)力的代表，AIGC是新一輪產(chǎn)業(yè)變革的核心引擎，網(wǎng)絡(luò)安全則是護航AIGC行穩(wěn)致遠(yuǎn)的基石底座。作為網(wǎng)絡(luò)安全領(lǐng)域的領(lǐng)軍企業(yè)，新華三集團將秉持“精耕務(wù)實，為時代賦智慧”的理念，持續(xù)推進“安全×AI”的技術(shù)創(chuàng)新和場景化應(yīng)用，以網(wǎng)絡(luò)安全和AIGC的雙向賦能，助力百行百業(yè)在數(shù)字化轉(zhuǎn)型之路上鏗鏘前行。