新京報(bào)貝殼財(cái)經(jīng)訊（記者羅亦丹）11月21日，在烏鎮(zhèn)峰會(huì)網(wǎng)絡(luò)安全技術(shù)發(fā)展與國(guó)際合作論壇上，全國(guó)政協(xié)委員、全國(guó)工商聯(lián)副主席、奇安信集團(tuán)董事長(zhǎng)齊向東表示，人工智能發(fā)揮出什么樣的作用，關(guān)鍵還是看使用的人。針對(duì)AI黑箱化、黑產(chǎn)化、武器化這三重危機(jī)，齊向東提出應(yīng)通過(guò)多維度體系化防護(hù)、“鑒偽”“防偽”技術(shù)、AI提升安全能力三大策略來(lái)化解。

他具體解釋稱，第一個(gè)策略是結(jié)合大模型基礎(chǔ)運(yùn)行環(huán)境、訓(xùn)練環(huán)境、API接口以及數(shù)據(jù)安全進(jìn)行多維度、體系化防護(hù)。大模型生命周期的每個(gè)環(huán)節(jié)都存在大量不確定性，無(wú)論是數(shù)據(jù)安全、算法開(kāi)發(fā)和模型安全、內(nèi)容還是應(yīng)用安全等方面，都要做到合規(guī)。

第二個(gè)策略是用“鑒偽”、“防偽”技術(shù)有效遏制深度偽造。針對(duì)正在野蠻生長(zhǎng)的生成式偽造語(yǔ)音技術(shù)、生成式偽造視頻技術(shù)，應(yīng)該盡快發(fā)展相關(guān)檢測(cè)技術(shù)。

第三個(gè)策略是用安全大模型反哺安全能力大提升。建立體系化的安全防護(hù)系統(tǒng)，是AI安全大模型驅(qū)動(dòng)安全的重要前提。奇安信的內(nèi)生安全體系，把網(wǎng)絡(luò)安全設(shè)備和業(yè)務(wù)流轉(zhuǎn)、不同層次的信息系統(tǒng)有機(jī)結(jié)合起來(lái)，做到安全能力的無(wú)死角，確保多道網(wǎng)絡(luò)安全防線有效協(xié)同，實(shí)現(xiàn)從宏觀管控到微觀檢測(cè)的全面防護(hù)。

“有了高效的安全治理，AI才有未來(lái)?！饼R向東表示，奇安信將運(yùn)用好技術(shù)優(yōu)勢(shì)，為AI安全治理貢獻(xiàn)更多安全廠商的力量，努力為全社會(huì)營(yíng)造更加和諧、更加繁榮的未來(lái)。

編輯 韋英姿

校對(duì) 趙琳