AI生成違法違規(guī)內(nèi)容、AI換臉詐騙、AI錯(cuò)誤信息誹謗、AI侵權(quán)……如何應(yīng)對(duì)AIGC時(shí)代的內(nèi)容安全風(fēng)險(xiǎn)？

6月19日，騰訊云披露行業(yè)大模型方案進(jìn)展，正式公布MaaS（Model-as-a-Service）能力全景圖，助力企業(yè)打造專(zhuān)屬的行業(yè)大模型。在安全保障方面，騰訊云在問(wèn)題側(cè)、模型側(cè)、答案?jìng)?cè)三個(gè)層面進(jìn)行敏感信息過(guò)濾和規(guī)避。同時(shí)，依托騰訊二十余年的安全經(jīng)驗(yàn)和天御大數(shù)據(jù)能力，提供AIGC全鏈路內(nèi)容安全解決方案，確保大模型可信、可靠、可用。

AIGC帶來(lái)豐富創(chuàng)造力的同時(shí)，也帶來(lái)了全新的內(nèi)容安全挑戰(zhàn)。相對(duì)過(guò)去以PGC、UGC為主的內(nèi)容，AIGC時(shí)代的內(nèi)容安全內(nèi)涵與外延均有顯著變化。今年4月，國(guó)家網(wǎng)信辦發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》在黃暴政恐違禁、防止歧視、版權(quán)保護(hù)、虛假信息防范、個(gè)人隱私保護(hù)等方面均有明確要求。

據(jù)了解，騰訊安全AIGC全鏈路內(nèi)容安全解決方案，提供包含審校服務(wù)、安全專(zhuān)家服務(wù)、機(jī)器審核服務(wù)、版權(quán)保護(hù)服務(wù)四大能力板塊，覆蓋AIGC類(lèi)應(yīng)用從模型訓(xùn)練到內(nèi)容生成再到事后運(yùn)營(yíng)全過(guò)程的內(nèi)容安全建設(shè)。

AIGC內(nèi)容安全新挑戰(zhàn)不僅體現(xiàn)在“天文級(jí)”的數(shù)據(jù)體量，處理的內(nèi)容也更加復(fù)雜。以模型階段為例，除了典型的特征標(biāo)注外，對(duì)標(biāo)注文本的通順度、邏輯性、連貫性也有較高要求。在內(nèi)容生成階段，新型AI偽造、虛假、違背倫理、不適內(nèi)容、未成年人等違規(guī)內(nèi)容，以及AI問(wèn)答產(chǎn)生專(zhuān)業(yè)性內(nèi)容，都超出傳統(tǒng)內(nèi)容風(fēng)控的范疇。

騰訊安全依托過(guò)去20多年的安全運(yùn)營(yíng)經(jīng)驗(yàn)，積累了萬(wàn)億級(jí)的違規(guī)樣本以及十幾種定制識(shí)別服務(wù)，可以結(jié)合行業(yè)場(chǎng)景，為企業(yè)的內(nèi)容安全建設(shè)“量體裁衣”。此外，騰訊安全天御風(fēng)控還和對(duì)象存儲(chǔ)、云直播、云點(diǎn)播、實(shí)時(shí)音視頻等云上工具打通，企業(yè)在云上一次接入，即可完成全套內(nèi)容安全審核，大幅提升效率。

AIGC的快速發(fā)展也引發(fā)了黑灰產(chǎn)的新一輪的攻擊，利用AI換臉、批量生成版權(quán)內(nèi)容套現(xiàn)獲利。對(duì)此，騰訊安全做了專(zhuān)項(xiàng)優(yōu)化，在AIGC引發(fā)的版權(quán)保護(hù)難題上，騰訊安全基于版權(quán)資產(chǎn)統(tǒng)一ID庫(kù)，助力企業(yè)進(jìn)行版權(quán)原創(chuàng)性篩查；此外，騰訊安全還提供“檢測(cè)、比對(duì)、維權(quán)”的全鏈路版權(quán)保護(hù)服務(wù)。騰訊安全從2019年9月起，對(duì)B站平臺(tái)上UP主上傳的原創(chuàng)視頻進(jìn)行版權(quán)監(jiān)測(cè)服務(wù)，累計(jì)監(jiān)測(cè)作品500余萬(wàn)部，累計(jì)發(fā)現(xiàn)侵權(quán)鏈接近3000萬(wàn)條，發(fā)起維權(quán)近百萬(wàn)次，維權(quán)成功率達(dá)98%。

目前，騰訊安全在AIGC內(nèi)容安全領(lǐng)域已有多個(gè)場(chǎng)景實(shí)踐落地，為生產(chǎn)文生文、文生圖、醫(yī)療級(jí)視頻內(nèi)容、長(zhǎng)小說(shuō)文本等類(lèi)型內(nèi)容的企業(yè)提供內(nèi)容安全服務(wù)，護(hù)航生成式人工智能健康發(fā)展。

關(guān)鍵詞：