|
最近，某演員遭遇“AI盜播”，在同一時間“現(xiàn)身”多個直播間帶貨。該演員向自己的“分身”提出質(zhì)疑，還被拉黑了。此事再度引發(fā)公眾對AI（人工智能）的討論。
近年來，生成式AI飛速發(fā)展，曾經(jīng)需要一定專業(yè)技能才能完成的視頻制作，如今可以輕松完成。但技術(shù)被一些人濫用，也帶來一系列亂象：有消費(fèi)者偽造“買家秀”騙取退款，社交平臺出現(xiàn)大量虛假明星合影，詐騙分子偽造音視頻“圍獵”老年人……AI原本是表達(dá)創(chuàng)意、提高工作效率的好幫手，如今卻有淪為造假工具的危險，這一現(xiàn)象必須引起警惕。
9月份開始施行的《人工智能生成合成內(nèi)容標(biāo)識辦法》明確，人工智能生成合成內(nèi)容標(biāo)識包括顯式標(biāo)識和隱式標(biāo)識。顯式標(biāo)識是以文字、聲音等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識，當(dāng)AI內(nèi)容具有迷惑性甚至誤導(dǎo)性時，顯著的標(biāo)識能夠幫助用戶迅速作出判斷、辨別虛假信息；隱式標(biāo)識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的標(biāo)識，在追溯偽造內(nèi)容來源、維護(hù)被侵權(quán)人合法權(quán)益方面具有重要意義。
《標(biāo)識辦法》施行以來，各大平臺紛紛響應(yīng)，出臺各類細(xì)則確保AI內(nèi)容亮明身份，邁出了AI內(nèi)容治理的關(guān)鍵一步。但目前仍有部分AI內(nèi)容未添加任何標(biāo)識，對觀眾形成誤導(dǎo)。進(jìn)一步遏制AI造假亂象，還需構(gòu)建多層次的治理體系。
比如，強(qiáng)化法律保障，進(jìn)一步明確AI造假的處罰標(biāo)準(zhǔn)，厘清服務(wù)提供者、平臺、用戶三方責(zé)任，覆蓋多種造假情形；加強(qiáng)監(jiān)管力度，針對各類AI造假行為開展專項(xiàng)治理工作，建立多部門協(xié)同聯(lián)動的監(jiān)管體系，形成打擊合力；升級技術(shù)手段，提升高精度檢測能力，精準(zhǔn)識別造假內(nèi)容。
演員被“分身”只是一記警鐘。技術(shù)迅猛發(fā)展，治理必須跟上。只有規(guī)則、監(jiān)管、技術(shù)同步“打補(bǔ)丁”，才能有效減少AI造假，降低公眾上當(dāng)受騙的風(fēng)險。
原標(biāo)題：生成式AI不能淪為造假工具
文章來源：http://www.ce.cn/cysc/newmain/yc/jsxw/202511/t20251121_2593003.shtml
|
