近日,演員溫崢嶸的分身同時出現(xiàn)在多個直播間,身著不同服裝帶貨,神態(tài)自然、語氣逼真,幾可亂真。事實上,這些所謂的直播皆由AI偽造。不法商家盜用舊素材或利用AI換臉技術(shù),生成虛假視頻進行帶貨。主持人李梓萌、奧運冠軍、專家教授等公眾人物也多次被AI克隆,成為推銷劣質(zhì)產(chǎn)品的代言人。
今年9月施行的《人工智能生成合成內(nèi)容標識辦法》,原本意在通過強制標識讓AI內(nèi)容自證身份,防止虛假與誤導(dǎo)。然而在現(xiàn)實中,不法商家輕易規(guī)避監(jiān)管,將標識藏于角落、縮小字體、甚至通過算法去標識化處理,讓普通消費者難以辨別真?zhèn)巍?/p>
對受害者而言,AI造假的維權(quán)過程異常艱難。要證明內(nèi)容為AI生成,不僅需要專業(yè)取證技術(shù),還要面對漫長的司法流程。而在案件審理期間,侵權(quán)視頻可能早已廣泛擴散,形成“先傷害后追責”的困局。
破解AI造假困局,需要三方面合力,首先是監(jiān)管層應(yīng)提升執(zhí)法技術(shù)水平,強化AI內(nèi)容識別和追蹤手段,加大違法懲處力度;其次是平臺要承擔更多主體責任,構(gòu)建從生成、審核到追責的全鏈條防護體系;同時公眾也需提升媒介素養(yǎng),學(xué)會辨識AI內(nèi)容,減少誤信誤傳。
只有當技術(shù)被制度約束、平臺自覺履責、公眾理性參與,AI才能真正成為推動社會進步的力量,而非造假的利刃。(文/薛景爍)