近日，2025年國(guó)家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全企業(yè)家座談會(huì)在昆明滇池國(guó)際會(huì)展中心舉行。中央網(wǎng)信辦有關(guān)司局負(fù)責(zé)同志以及36家企業(yè)50余位代表參會(huì)。

會(huì)議由中央網(wǎng)信辦副主任、國(guó)家網(wǎng)信辦副主任楊建文主持，他指出，當(dāng)前，隨著數(shù)字經(jīng)濟(jì)與實(shí)體經(jīng)濟(jì)深度融合，網(wǎng)絡(luò)安全需求正從“合規(guī)驅(qū)動(dòng)”向“風(fēng)險(xiǎn)驅(qū)動(dòng)”加速轉(zhuǎn)型，這不僅是產(chǎn)業(yè)發(fā)展的核心方向，更是應(yīng)對(duì)復(fù)雜網(wǎng)絡(luò)環(huán)境的必然選擇，需要“三方聯(lián)動(dòng)、共同發(fā)力”。會(huì)上，商湯科技、百度、中國(guó)聯(lián)通、中電科、中電子等16家等各領(lǐng)域代表企業(yè)，圍繞“轉(zhuǎn)型關(guān)鍵要素”“破解行業(yè)內(nèi)卷”“助力企業(yè)出?！比笞h題，就網(wǎng)絡(luò)安全產(chǎn)業(yè)高質(zhì)量發(fā)展建言獻(xiàn)策。

作為人工智能企業(yè)代表，商湯科技聯(lián)合創(chuàng)始人、執(zhí)行董事、執(zhí)行副總裁楊帆結(jié)合AI技術(shù)現(xiàn)狀與企業(yè)實(shí)踐，圍繞人工智能帶來(lái)的新型安全挑戰(zhàn)，提出風(fēng)險(xiǎn)驅(qū)動(dòng)的治理思路與合作倡議。

楊帆表示，隨著人工智能、大數(shù)據(jù)等新技術(shù)快速發(fā)展，網(wǎng)絡(luò)安全工作已進(jìn)入從"合規(guī)驅(qū)動(dòng)"轉(zhuǎn)向"風(fēng)險(xiǎn)驅(qū)動(dòng)"的關(guān)鍵階段。以大模型為例，其生成內(nèi)容的價(jià)值對(duì)齊、輸出穩(wěn)定性等新型風(fēng)險(xiǎn)，對(duì)傳統(tǒng)基于規(guī)則的安全治理體系提出了挑戰(zhàn)。他認(rèn)為，面對(duì)不斷演進(jìn)的威脅形式，傳統(tǒng)技術(shù)、工具和標(biāo)準(zhǔn)難以對(duì)相關(guān)安全任務(wù)進(jìn)行持續(xù)、動(dòng)態(tài)的監(jiān)測(cè)與管控，必須持續(xù)更新迭代網(wǎng)絡(luò)安全工作的方式和機(jī)制。

在AI安全實(shí)踐方面，楊帆分享了商湯的多層次探索。例如，在模型訓(xùn)練階段從數(shù)據(jù)治理入手，訓(xùn)練初期進(jìn)行數(shù)據(jù)層面的干預(yù)，并綜合運(yùn)用多種手段形成協(xié)同機(jī)制；輸出端引入“小模型或人工二次核驗(yàn)”進(jìn)行迭代與調(diào)整。而面向全球的數(shù)據(jù)跨境流動(dòng)問(wèn)題，商湯針對(duì)不同合規(guī)要求、文化背景和價(jià)值體系，逐步在實(shí)操層面探索出高效、可落地的機(jī)制。

基于上述實(shí)踐，楊帆提出兩項(xiàng)具體建議：首先，針對(duì)新技術(shù)帶來(lái)的安全挑戰(zhàn)，建議推動(dòng)建立持續(xù)迭代、動(dòng)態(tài)更新的安全防護(hù)治理體系。無(wú)論是大模型治理還是數(shù)據(jù)跨境，均宜將復(fù)雜問(wèn)題拆解為若干具體問(wèn)題，優(yōu)先突破局部難點(diǎn)，形成標(biāo)桿案例，再逐步推廣實(shí)施。其次，建議由網(wǎng)信部門(mén)牽頭，推動(dòng)建立行業(yè)共通機(jī)制，實(shí)現(xiàn)持續(xù)、快速的技術(shù)更新與驗(yàn)證，以更好地應(yīng)對(duì)不斷演進(jìn)的新技術(shù)挑戰(zhàn)。

隨著新一輪科技革命和產(chǎn)業(yè)變革加速演進(jìn)，新一代信息技術(shù)加速迭代，數(shù)字經(jīng)濟(jì)和實(shí)體經(jīng)濟(jì)深度融合，網(wǎng)絡(luò)空間對(duì)國(guó)家經(jīng)濟(jì)發(fā)展和安全的戰(zhàn)略意義實(shí)現(xiàn)全局性提升，網(wǎng)絡(luò)安全全局性影響、基礎(chǔ)性支撐的關(guān)鍵地位和重要作用日益突出。

作為領(lǐng)先的人工智能企業(yè)，商湯科技將積極發(fā)揮帶動(dòng)示范作用，深度推動(dòng)AI技術(shù)創(chuàng)新與網(wǎng)絡(luò)安全保障深度融合，為數(shù)字中國(guó)建設(shè)筑牢安全底座，助力推進(jìn)國(guó)家網(wǎng)絡(luò)安全體系和能力現(xiàn)代化，以高水平安全保障高質(zhì)量發(fā)展。