盧越

企業(yè)直播間內(nèi)，央視知名主持人“出鏡”推薦某款“深海多烯魚(yú)油”，直播間展板上標(biāo)注著“適合頭暈頭痛、手麻腳麻、記憶下降人群”等用語(yǔ)，但該產(chǎn)品實(shí)際執(zhí)行標(biāo)準(zhǔn)為糖果，不具備疾病治療功能，且視頻中的主持人形象其實(shí)是利用AI技術(shù)偽造生成——據(jù)央視財(cái)經(jīng)報(bào)道，近日，北京市場(chǎng)監(jiān)管部門(mén)查處了首例利用AI技術(shù)進(jìn)行虛假?gòu)V告宣傳的案件。

商家因?qū)κ称?、保健品等進(jìn)行虛假宣傳被行政處罰的事件并不少見(jiàn)，而在上述案件中，涉案虛假?gòu)V告披上了AI外衣，迷惑性更強(qiáng)——當(dāng)看到熟悉的知名主持人“親自”推薦具有神奇功效的產(chǎn)品，語(yǔ)氣、動(dòng)作甚至表情都與真人無(wú)異，消費(fèi)者極易輕信，從而導(dǎo)致權(quán)益受損。

近來(lái)，利用AI技術(shù)冒充專(zhuān)家、企業(yè)家、明星等公眾人物“躺槍”虛假?gòu)V告宣傳的新型違法行為屢屢引發(fā)關(guān)注。此前，“AI靳東”通過(guò)短視頻平臺(tái)誘騙中老年女性轉(zhuǎn)賬投資，多名被告人因犯詐騙罪獲刑；奧運(yùn)冠軍全紅嬋等人被AI仿冒用于帶貨“增高藥”、土雞蛋，多人受騙；前段時(shí)間，利用AI“復(fù)活”已故茶界泰斗張?zhí)旄椴杵蟆按浴笔录?，引發(fā)廣泛爭(zhēng)議……

技術(shù)被濫用的背后，其現(xiàn)實(shí)原因不容忽視。一方面，AI技術(shù)門(mén)檻的降低，拉低了虛假視頻制作的成本，如今在一些手機(jī)APP上，“一鍵換臉”輕而易舉，依托語(yǔ)音大模型技術(shù)，十幾秒就能“克隆”他人聲音。另一方面，以假亂真的AI視頻自帶流量，能快速吸引用戶(hù)點(diǎn)擊，從而形成“造假—傳播—變現(xiàn)—繼續(xù)造假”的惡性循環(huán)。

濫用AI技術(shù)不僅侵犯他人合法權(quán)益，擾亂市場(chǎng)秩序，更沖擊社會(huì)的信任基礎(chǔ)，對(duì)這一現(xiàn)象須持續(xù)加強(qiáng)關(guān)注，采取有效監(jiān)管。

當(dāng)前，相關(guān)部門(mén)已出臺(tái)一系列治理舉措，如今年中央網(wǎng)信辦部署開(kāi)展的“清朗·整治AI技術(shù)濫用”專(zhuān)項(xiàng)行動(dòng)中，就包括重點(diǎn)治理利用AI假冒他人實(shí)施侵權(quán)違法行為；北京市市場(chǎng)監(jiān)管系統(tǒng)也在廣告市場(chǎng)秩序?qū)ｍ?xiàng)整治中，重點(diǎn)關(guān)注AI生成虛假違法廣告等新業(yè)態(tài)風(fēng)險(xiǎn)。

長(zhǎng)遠(yuǎn)看，防范AI技術(shù)濫用不能止于個(gè)案查處，還須打出組合拳。面對(duì)新技術(shù)發(fā)展帶來(lái)的新情況、新問(wèn)題，立法有待進(jìn)一步完善，執(zhí)法部門(mén)也要與時(shí)俱進(jìn)。不久前開(kāi)始施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》已經(jīng)要求所有AI生成的文字、圖片、視頻等內(nèi)容都要添加顯式標(biāo)識(shí)“亮明身份”。而對(duì)于哪些內(nèi)容可以合成、哪些不能，技術(shù)提供方、平臺(tái)審核方、內(nèi)容發(fā)布方的責(zé)任如何界定等，還需法律法規(guī)進(jìn)一步劃定邊界。監(jiān)管部門(mén)則需打破部門(mén)壁壘，加強(qiáng)協(xié)作，對(duì)AI虛假?gòu)V告精準(zhǔn)打擊。

此外，平臺(tái)方作為信息傳播的重要載體，應(yīng)切實(shí)擔(dān)起主體責(zé)任，加強(qiáng)內(nèi)容審核，有效識(shí)別、攔截虛假?gòu)V告，暢通舉報(bào)渠道。今年以來(lái)，一些頭部平臺(tái)已開(kāi)始試點(diǎn)“AI內(nèi)容溯源系統(tǒng)”，研發(fā)能捕捉AI換臉時(shí)眼球轉(zhuǎn)動(dòng)細(xì)微異常的“光流特征識(shí)別技術(shù)”。消費(fèi)者面對(duì)網(wǎng)上未經(jīng)核實(shí)的“名人推薦”，也不妨多審慎少輕信，維護(hù)好自身合法權(quán)益。

只有多方協(xié)同，凝聚共治之力，才能讓AI在法治的軌道上釋放技術(shù)向善的力量，讓公眾在清朗、有序、健康的網(wǎng)絡(luò)數(shù)字生態(tài)中，享受技術(shù)進(jìn)步帶來(lái)的美好生活。