AI生成內(nèi)容可以檢測!準(zhǔn)確率超90%
國內(nèi)首個AI生成內(nèi)容檢測工具——AIGC-X官網(wǎng)截圖。
人民網(wǎng)北京3月1日電 (記者申佳平)從AI繪畫、AI作曲到虛擬人,再到近期爆火的ChatGPT, 伴隨人工智能生成內(nèi)容(AIGC)技術(shù)發(fā)展加速,內(nèi)容生產(chǎn)方式迎來巨大變革。與此同時,在不斷“生長”的互聯(lián)網(wǎng)內(nèi)容世界,找到一把明晰虛實、分辨真假的技術(shù)標(biāo)尺,也成為關(guān)乎行業(yè)長遠(yuǎn)健康發(fā)展的關(guān)鍵。
今日,AIGC-X正式開始全網(wǎng)公測。據(jù)悉,這是由人民日報社主管、依托人民網(wǎng)建設(shè)的傳播內(nèi)容認(rèn)知全國重點實驗室,中國科學(xué)技術(shù)大學(xué),合肥綜合性國家科學(xué)中心人工智能研究院聯(lián)合推出的國內(nèi)首個AI生成內(nèi)容檢測工具。試用入口為http://aigcx.people.cn/AIGC-X。
據(jù)介紹,AIGC-X可快速區(qū)分機(jī)器生成文本與人工生成文本,目前對中文文本檢測的準(zhǔn)確率已超過90%。
傳播內(nèi)容認(rèn)知全國重點實驗室首席科學(xué)家張勇東表示,因具有對話咨詢、文章寫作、內(nèi)容潤色等廣泛的應(yīng)用場景,以ChatGPT為代表的AIGC技術(shù)迎來發(fā)展新階段。隨之而來的倫理規(guī)范、內(nèi)容侵權(quán)、信息造假等風(fēng)險挑戰(zhàn)同樣不容忽視,迫切需要推出針對性的檢測產(chǎn)品,提升對內(nèi)容生產(chǎn)新范式的監(jiān)管治理技術(shù)能力。
他介紹,通過采用算法融合與知識驅(qū)動的人工智能框架,使用深度建模來捕捉困惑度、突現(xiàn)頻次等隱式特征,AIGC-X可對AI技術(shù)生成的假新聞、內(nèi)容抄襲、垃圾郵件進(jìn)行檢測,在內(nèi)容版權(quán)、網(wǎng)絡(luò)釣魚、虛假信息和學(xué)術(shù)造假檢測等內(nèi)容安全、內(nèi)容風(fēng)控方面有廣闊的應(yīng)用前景。未來,AIGC-X還會擴(kuò)展為對人工智能生成文本、圖像乃至視頻的通用智能識別模型。
“AIGC迫切需要適當(dāng)?shù)囊龑?dǎo)和規(guī)范。”傳播內(nèi)容認(rèn)知全國重點實驗室研究員靳國慶特別強(qiáng)調(diào),要重視防范AIGC在虛假信息、學(xué)術(shù)造假、網(wǎng)絡(luò)釣魚等灰色領(lǐng)域的濫用。“AIGC-X將推動AI風(fēng)險管理、安全評測技術(shù)的發(fā)展,為建立安全可控的AIGC生態(tài)提供技術(shù)支撐。”
據(jù)介紹,在此次發(fā)布AIGC-X之前,傳播內(nèi)容認(rèn)知全國重點實驗室已推出基于人工智能開發(fā)的“智曉助”和“白澤”兩個內(nèi)容風(fēng)控系統(tǒng),并在百余家機(jī)構(gòu)使用。專注于內(nèi)容風(fēng)控業(yè)務(wù)的人民網(wǎng)信息技術(shù)公司已基于AIGC-X開發(fā)了“捕獲AIGC”產(chǎn)品,通過“人民審校”微信公眾號對外發(fā)布。
工業(yè)和信息化部公布的數(shù)據(jù)顯示,我國AI核心產(chǎn)業(yè)規(guī)模目前已超過4000億元,企業(yè)數(shù)量接近4000家,帶動相關(guān)產(chǎn)業(yè)規(guī)模超數(shù)萬億元,并將持續(xù)快速增加。行業(yè)專家預(yù)測,作為數(shù)字經(jīng)濟(jì)和實體經(jīng)濟(jì)深度融合的新模式,AIGC將在賦能產(chǎn)業(yè)創(chuàng)新發(fā)展方面大有作為。
張勇東表示,“AIGC-X不是一個靜態(tài)的技術(shù),而是隨著AIGC的發(fā)展而發(fā)展的。”目前受限于時間和資源,AIGC-X對非常規(guī)問題和場景的支持還有待完善。例如,AIGC-X目前只支持中文內(nèi)容的檢測,對英文的支持有待提高;還需要進(jìn)一步完善對圖像、音視頻等內(nèi)容的檢測能力,支持全媒體的內(nèi)容檢測,為AIGC的健康發(fā)展保駕護(hù)航。