近期，中國香港警方披露了一起AI（人工智能）“多人換臉”詐騙案，涉案金額高達(dá)2億港元。一家跨國公司香港分部的職員，受邀參加總部首席財(cái)務(wù)官發(fā)起的多人視頻會(huì)議，并按照要求轉(zhuǎn)賬多次，將2億港元轉(zhuǎn)賬到5個(gè)銀行賬戶內(nèi)，其后向總部查詢方知受騙。警方調(diào)查得知，這起案件所謂的視頻會(huì)議中，只有受害者一人為“真人”，其余全部是經(jīng)過AI換臉后的詐騙人員。

文生視頻模型Sora的橫空出世進(jìn)一步推動(dòng)人工智能技術(shù)快速發(fā)展，其是否會(huì)讓AI換臉詐騙的門檻變得越來越低？

記者就此采訪中國網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專委會(huì)專家、天融信科技集團(tuán)副總裁薛智慧，他表示：“隨著Sora生成視頻的質(zhì)量和逼真度提高，確實(shí)可能進(jìn)一步催生AI換臉等詐騙行為。社會(huì)各界需要提高警覺，采取有效措施來識(shí)別和防范這類詐騙行為，包括發(fā)展更先進(jìn)的檢測工具和技術(shù)、加強(qiáng)對公眾的網(wǎng)絡(luò)安全教育以及通過法律和倫理規(guī)范來限制和監(jiān)管這類技術(shù)的使用?！?/p>

記者了解到，天融信、深信服、佳緣科技、啟明星辰、安恒信息、三六零、綠盟科技、奇安信等多家A股上市公司，均在網(wǎng)絡(luò)安全方面加碼布局。

拆解AI換臉詐騙原理

據(jù)了解，AI換臉技術(shù)能夠?qū)⒁粋€(gè)人的面部替換成另一個(gè)人的面部，堪稱現(xiàn)代網(wǎng)絡(luò)“易容術(shù)”。這一技術(shù)可能被不法分子利用，進(jìn)行詐騙、誹謗或其他惡意活動(dòng)。

薛智慧向《證券日報(bào)》記者拆解了AI換臉詐騙的原理，他表示：“AI換臉詐騙可概括為兩大部分。第一部分是畫面處理，先利用深度學(xué)習(xí)算法精準(zhǔn)地識(shí)別視頻中的人臉圖像，提取出如眼睛、鼻子、嘴巴等關(guān)鍵面部特征，再基于這些特征，實(shí)現(xiàn)視頻中人臉與目標(biāo)人臉的對齊，隨后將目標(biāo)人臉覆蓋、融合到視頻中的人臉上，達(dá)到換臉效果，最后借助原始輸入視頻的背景或者利用其他技術(shù)虛構(gòu)的渲染背景，得到最終的輸出畫面；第二部分是聲音處理，借助AI換聲，來模擬目標(biāo)人物的聲音，用于詐騙的視頻、直播等?！?/p>

“面對肉眼越來越難以分辨真假的偽造視頻，在技術(shù)層面，可以運(yùn)用人工智能對抗技術(shù)、數(shù)字水印技術(shù)、身份認(rèn)證等技術(shù)來應(yīng)對?！毖χ腔郾硎?，“具體來看，可以通過不斷改進(jìn)和提升的人工智能對抗技術(shù)來檢測和識(shí)別虛假的、構(gòu)造的圖像、音視頻、文本等內(nèi)容，也可以應(yīng)用數(shù)字水印技術(shù)，將數(shù)字水印嵌入到采集的圖像、音視頻數(shù)據(jù)中，這樣系統(tǒng)在播放時(shí)就能通過水印技術(shù)來驗(yàn)證數(shù)據(jù)的真實(shí)性。在一些需要身份驗(yàn)證、轉(zhuǎn)賬匯款等特殊場景，可以采用多因子認(rèn)證，比如生物特征、二次密碼等技術(shù)，用以檢測和識(shí)別虛假偽造的信息。”

記者了解到，針對AI換臉等，天融信等多家上市公司深入研究其原理，以推動(dòng)自身技術(shù)、產(chǎn)品及服務(wù)的升級，更好地應(yīng)對新技術(shù)可能帶來的網(wǎng)絡(luò)安全隱患。

網(wǎng)絡(luò)安全受關(guān)注

Sora對于網(wǎng)絡(luò)安全行業(yè)的發(fā)展是把“雙刃劍”?？品降弥菐煅芯控?fù)責(zé)人張新原向《證券日報(bào)》記者表示：“一方面，Sora的誕生可能催生新的安全漏洞和攻擊手段，給網(wǎng)絡(luò)安全行業(yè)帶來新的挑戰(zhàn)。同時(shí)，視頻生成技術(shù)處理的數(shù)據(jù)往往涉及個(gè)人隱私，如果處理不當(dāng)或遭受攻擊，可能導(dǎo)致嚴(yán)重的隱私泄露事件。這些都將令網(wǎng)絡(luò)安全防護(hù)成本增加。另一方面，Sora帶來網(wǎng)絡(luò)安全需求，將推動(dòng)行業(yè)的發(fā)展和創(chuàng)新?！?/p>

與此同時(shí)，人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用也越來越廣泛。記者了解到，深信服、奇安信、安恒信息、天融信等10余家公司已經(jīng)發(fā)布“人工智能+網(wǎng)絡(luò)安全”產(chǎn)品，今年這些產(chǎn)品有望進(jìn)一步鋪開。其中，天融信推出了融入AI技術(shù)的防火墻、天問大模型等多款創(chuàng)新型產(chǎn)品。深信服則發(fā)布國內(nèi)首個(gè)企業(yè)級安全GPT云端大模型技術(shù)應(yīng)用——深信服安全GPT，這款自主開發(fā)的大模型可以自動(dòng)分析用戶安全現(xiàn)狀，生成處置建議，同時(shí)可以實(shí)現(xiàn)對話式智能交互，提高用戶體驗(yàn)，降低對運(yùn)營人員的專業(yè)要求。

北京社科院副研究員王鵬在接受《證券日報(bào)》記者采訪時(shí)表示：“根據(jù)相關(guān)數(shù)據(jù)顯示，我國網(wǎng)絡(luò)安全市場規(guī)模已連續(xù)多年保持高速增長。產(chǎn)業(yè)鏈方面，我國已形成了包括硬件設(shè)備、軟件產(chǎn)品、安全服務(wù)、安全集成等在內(nèi)的完整產(chǎn)業(yè)鏈。技術(shù)方面，我國網(wǎng)絡(luò)安全產(chǎn)業(yè)在防火墻、入侵檢測、病毒防護(hù)等傳統(tǒng)安全領(lǐng)域已具備較強(qiáng)實(shí)力，同時(shí)在云計(jì)算、大數(shù)據(jù)、物聯(lián)網(wǎng)等新興技術(shù)領(lǐng)域的安全防護(hù)能力也在不斷提升。未來要繼續(xù)推動(dòng)網(wǎng)絡(luò)安全產(chǎn)業(yè)的創(chuàng)新發(fā)展?！?/p>