本刊記者 崔曉萌
“同一演員同時出現(xiàn)在三個直播間，利用一個紅衣頸膜推薦官，合成何追一個白衣美妝顧問，行騙還有一個素顏生活博主。利用一個主播同一時間用相似的合成何追話術推薦著不同品牌的產(chǎn)品……”北京消費者鐘女士稱，這個演員挺出名的行騙，最近經(jīng)常刷到她帶貨，利用當時覺得這演員怎么什么廣告都接。合成何追
沒想到，因為多個直播間出現(xiàn)她的利用帶貨形象，該演員也很無奈。合成何追她還曾在假冒自己的行騙直播間質(zhì)問：“你是我，那我是利用誰？”沒想到立馬被拉黑……
據(jù)了解，目前不少商家截取明星過往素材，合成何追經(jīng)摳圖換臉合成虛假直播，行騙卻無任何AI生成標注，這類內(nèi)容在直播平臺不算少見。
今年4月，上述演員就曾發(fā)布打假視頻，稱自己“僅一個官方直播賬號”，引發(fā)粉絲舉報潮，有粉絲一天之內(nèi)就舉報了18個偽造直播間。
如今這類利用AI深度合成技術行騙的案例越來越多。此前有江西老人要貸款200萬元給AI合成的“靳東”拍戲，港星黃百鳴的AI“分身”被用來推銷藥膏。央視此前曝光的仿冒全紅嬋帶貨事件中，虛假視頻銷量超4.7萬件，雖然其家人早已聲明未授權，侵權內(nèi)容仍屢禁不止。
“無論從什么方面來講，這都是一個違法侵權的行為?！敝袊ù髮W傳播法研究中心副主任朱巍接受本刊記者采訪時表示，使用AI換臉技術進行直播帶貨是典型的深度合成行為。從被編輯者的角度講，這種行為侵犯了被編輯者的人格權，屬于違法和違規(guī)行為；從廣告法和消費者權益保護法等角度來看，這種行為還涉及虛假宣傳和欺詐消費者的問題，可能觸發(fā)退一賠三的法律責任；從市場公平競爭的角度來看，這種行為違反了《反不正當競爭法》的相關規(guī)定。
他還提示，“平臺方在發(fā)現(xiàn)此類侵權行為后應及時下架相關內(nèi)容，并對發(fā)布者采取禁言、封禁等措施，否則可能承擔連帶責任?！?/p>
確實不少網(wǎng)友認為，這類AI騙術在直播平臺大行其道，平臺有不可推卸的責任。據(jù)悉，抖音今年已封禁千余個AI仿冒賬號，并將線索移交監(jiān)管部門。但業(yè)內(nèi)人士指出，部分平臺仍存在“審核滯后”問題。
朱巍表示，平臺對發(fā)布的內(nèi)容負有審核責任，但具體審核標準因內(nèi)容形式（如短視頻、廣告、直播）而異。侵權行為可能涉及多個主體（如MCN機構、商家），需從賬號注冊者到實際控制人全面追責。
具有迷惑性的新騙局屢禁不止，普通消費者該如何鑒別？業(yè)內(nèi)人士也給出了一些方法：基于AI技術去識別AI內(nèi)容是最快的方式。也有消費者也在蹲直播間的過程總結出一些經(jīng)驗：“真實直播能實時互動，AI分身只會循環(huán)話術?！?/p>
北京中銀律師事務所陳川川律師接受本刊記者采訪時介紹，消費者首先要注意看平臺標識和發(fā)布者信息，其次觀看直播過程中要觀察視頻細節(jié)、核實商品信息，并警惕“全網(wǎng)最低價”等話術。發(fā)現(xiàn)疑似AI侵權或詐騙時，立即保存證據(jù)（截圖、錄屏），向平臺投訴舉報，必要時尋求法律援助。
實際上，對于此類亂象，監(jiān)管層也在加快補位。9月1日施行的《人工智能生成合成內(nèi)容標識辦法》要求，AI生成內(nèi)容必須主動標注，惡意隱匿將受嚴懲。多地市場監(jiān)管部門已展開專項行動。
朱巍認為，目前對AI深度學習的相關法律已經(jīng)制定，關鍵在于多方協(xié)同落實。
在強化法律執(zhí)行方面，他提出了三點建議：首先，要建立起信用監(jiān)管機制，對頻繁違規(guī)的MCN機構及其關聯(lián)賬號實施連帶責任追究。其次，主體責任應延伸至AI技術提供方平臺，從源頭控制未標記內(nèi)容的生成。第三，社交平臺需提升技術防控能力，主動攔截違規(guī)信息發(fā)布。
“AI時代要有火眼金睛，但不能把火眼金睛的責任交給老百姓?！敝煳》Q。
相關文章
精彩導讀
熱門資訊
關注我們
