北京協(xié)和醫(yī)院臨床營養(yǎng)科主任 于康：我?guī)缀跆焯焓盏胶门笥押透鞣N有我聯(lián)系方式的仿冒仿冒人給我發(fā)來的消息，有質(zhì)疑，名人還有提醒，營銷有被經(jīng)常有的思議一句話就是“這是你嗎？”“這是于康嗎？”我一看這完全是我的形象，聲音相似度完全超乎了我的相似象想象?，F(xiàn)在技術能達到這個層級，度超一方面覺得不可思議，乎想另外一方面覺得有一點后背發(fā)涼，仿冒仿冒挺可怕的名人。

盜用形象 科普失真 帶貨亂象危害不淺

科普視頻中，營銷有被商家不僅盜用于康教授的思議形象，其介紹的相似象營養(yǎng)知識，也是度超毫無依據(jù)，沒有得到科學驗證。乎想

北京協(xié)和醫(yī)院臨床營養(yǎng)科主任 于康：他借我的仿冒仿冒嘴說出來的話，好像是有一定公信力，但是他利用這一點，兜售很多包括但不限于那些錯誤商品、廣告還有錯誤的信息，這些信息老百姓一旦信，到外頭一放大，這個影響就不是對我個人的影響，那是對千千萬萬受眾的影響。

于康教授更為擔憂的是，視頻里的錯誤信息，會讓營養(yǎng)學界長期以來的科普努力，付諸東流。

北京協(xié)和醫(yī)院臨床營養(yǎng)科主任 于康：由于這些東西的影響，大家出現(xiàn)了一些混淆，甚至可以說，一些過去那些錯誤認知出現(xiàn)了反流或加重，這點比對我個人影響還要壞。

利用AI技術生成假視頻

醫(yī)院醫(yī)生深受其害

記者注意到，這些短視頻都來自一些自媒體賬號，除了出現(xiàn)于康教授形象，還有一個共同特點是使用虛擬背景。

不僅于康教授有這樣的困擾，北京協(xié)和醫(yī)院臨床營養(yǎng)科馬方教授也遭遇了同樣的情況。在一個平臺網(wǎng)店的鏈接里，視頻里的“馬教授”分享了自己的減肥經(jīng)歷。

據(jù)北京協(xié)和醫(yī)院介紹，不少知名專家被AI換臉，用于“養(yǎng)生”“瘦身”等虛假宣傳，甚至還有不法商家利用AI生成假醫(yī)生，打著北京協(xié)和醫(yī)院的旗號，銷售各類商品，誤導消費者。醫(yī)院、醫(yī)生深受其害。

北京協(xié)和醫(yī)院臨床營養(yǎng)科主任 于康：相當多網(wǎng)站并不是以真正推廣營養(yǎng)，而是以擴大所謂宣傳，增加售賣他的產(chǎn)品。他之所以用我的形象，是因為我在大家的心目中，在科學營養(yǎng)傳播方面信譽比較好，我們講實話、講證據(jù)、講科學，所以老百姓比較信，他利用這一點，大家就容易上當受騙。

AI仿冒著名主持人

直播間虛假營銷

隨著AI仿冒視頻的泛濫，司法部門和監(jiān)管部門已查處多起案件。記者在調(diào)查中了解到，多位公眾人物的形象被擅自用于商業(yè)推廣。

今年年初，北京市海淀區(qū)市場監(jiān)管局接到消費者舉報，一直播間宣稱一款魚油產(chǎn)品具有醫(yī)療功效。該賬號發(fā)布的短視頻中，出現(xiàn)了中央廣播電視總臺主持人李梓萌的形象。

記者注意到，發(fā)布仿冒主持人李梓萌短視頻的賬號名為“廣州白云深海魚油工廠”，擁有粉絲80多萬。進入直播間后記者看到，這款魚油售價59.9元三瓶，頁面顯示已售出17.7萬單。

北京市海淀區(qū)市場監(jiān)管局海淀街道市監(jiān)所科員 李欣容：它的執(zhí)行標準屬于糖果，包裝上面也并沒有像保健品的小藍帽標識，并不屬于藥品，并沒有獲得藥品的批準。直播間或者短視頻當中，對普通的食品宣傳有醫(yī)療治療功能，或者說使用醫(yī)療用語，肯定是違法的。

北京市海淀區(qū)市場監(jiān)管部門經(jīng)過向中央廣播電視總臺核實，最終確認，總臺主持人李梓萌從未代言這款魚油產(chǎn)品，也未授權(quán)使用其形象進行宣傳。

北京市海淀區(qū)市場監(jiān)管局海淀街道市監(jiān)所科員 李欣容：最后當事人承認，這個短視頻當中的李梓萌形象，是他們的員工在網(wǎng)絡上搜集李梓萌播報過的新聞片段，通過AI技術擅自把這些新聞片段進行剪輯加工，最終合成了這個虛構(gòu)的推薦視頻。

AI偽造名主持人帶火

半月手藝6萬余元

市場監(jiān)管人員調(diào)取銷售記錄后發(fā)現(xiàn)，在這條短視頻上線后的半個月里，商家借助短視頻鏈接，累計銷售魚油1100余單，銷售額達6萬余元。

北京市海淀區(qū)市場監(jiān)管局海淀街道市監(jiān)所科員 李欣容：短視頻當中擅自使用AI技術，去對李梓萌這種知名主持人的形象進行剪輯加工，這個行為是構(gòu)成了發(fā)布虛假廣告，違反了《中華人民共和國廣告法》第二十八條的規(guī)定，最后綜合他的違法情節(jié)，以及其他的一些裁量情形，最終我局對他作出罰款20萬元的行政處罰決定。

記者調(diào)查發(fā)現(xiàn)，利用AI技術違規(guī)營銷現(xiàn)象越來越多，關鍵原因是相關工具非常容易獲取。而且，無論是換臉還是擬聲，操作起來都十分簡便。繼續(xù)來看記者的調(diào)查。

記者發(fā)現(xiàn)，各大手機應用商店均充斥著大量換臉App或小程序，大都可以免費使用。記者隨機選取了一個App，僅需上傳自己幾張人臉照片，就能將目標視頻中的知名專家換成自己的面容。

除了換臉、擬聲，有的App還能提供AI對口型、AI文生視頻、AI電商等各種功能。記者體驗了其中的“文生視頻”功能：在對話框中輸入關鍵詞：北京協(xié)和醫(yī)院，女醫(yī)生，在診室坐在桌子前，向患者介紹病情，不到30秒時間就生成了一段女醫(yī)生形象的短視頻，還可以選擇“不添加AI生成字樣”。隨后記者輸入減肥產(chǎn)品效果文案，選擇“主播配音”，就生成了一條“北京協(xié)和醫(yī)院女醫(yī)生推廣減肥產(chǎn)品的”營銷視頻。

中央財經(jīng)大學法學院教授 劉雙舟：利用AI生成技術，生成營銷內(nèi)容上面違法，主要表現(xiàn)是虛假宣傳，生成一些不切實際的文本圖片，而且不加AI的標識，這樣給消費者公眾會帶來誤導。

AI仿冒名人帶貨，傳播虛假信息，不僅傷害被仿冒者個人名譽，侵害消費者權(quán)益，也嚴重破壞市場生態(tài)。各界正積極探索解決方案，以應對這一業(yè)態(tài)帶來的新問題，但治理過程中仍面臨不小挑戰(zhàn)。

目前，AI仿冒相關維權(quán)難度極大，技術鑒定、證據(jù)固定以及溯源追責等環(huán)節(jié)，面臨不小的阻力。

北京市海淀區(qū)市場監(jiān)管局海淀街道市監(jiān)所副所長 史建穎：AI深度偽造視頻鑒別難度大，成本高，肉眼難以識別，需要專業(yè)技術支持，而此類侵權(quán)違法行為造假成本低。另一方面是大量AI合成偽造視頻涌現(xiàn)在電商平臺，權(quán)利人自身不知情或知情后維權(quán)周期長，程序復雜，部分權(quán)利人選擇放棄維權(quán)或配合度較低。

深受AI仿冒侵擾的專家表示，杜絕AI仿冒亂象，需通過制度設計，強化保護力度。

北京協(xié)和醫(yī)院臨床營養(yǎng)科主任 于康：覺得很痛心，但是也沒辦法，我只能通過各種努力去個體化宣傳澄清，但是我發(fā)現(xiàn)這種個體化宣傳，比起這種傷害性欺騙來，簡直是九牛一毛，一點作用都沒有。所以我覺得需要靠國家層級的制度的保護，這個保護的既是專家個人，也是專家群體，更是整個社會的良知，叫作正本清源。一個對科學素養(yǎng)的保護和一個對真正知識的尊重和維護，一旦發(fā)現(xiàn)有這種問題的時候，我們必須及時采取相關措施，否則的話，AI帶給大家的負面影響，可能比正面的還要大，這是相當讓人覺得很難受的一個地方。

監(jiān)管新規(guī)

AI內(nèi)容必須加標識

《人工智能生成合成內(nèi)容標識辦法》在9月1日已經(jīng)正式實施，明確要求：利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息，必須依法添加相應的聲明標識。

中央財經(jīng)大學法學院教授 劉雙舟：這個文件出來以后就明確要求AI生成的和合成的內(nèi)容要加標識，應該加兩個方面的標識。一方面是顯性的標識，就是公眾能夠通過內(nèi)容的標識能夠判斷出來，這是AI生成的內(nèi)容。還有一些隱性的標識，對元數(shù)據(jù)上要加，要標明數(shù)據(jù)的來源、用途和誰生成的。

記者調(diào)查發(fā)現(xiàn)，部分人工AI合成視頻當中，發(fā)布者要么使用不顯眼的字體，要么隱藏在畫面邊角，有的二次發(fā)布者甚至隱匿標識。

中央財經(jīng)大學法學院教授 劉雙舟：國家是有政策專門鼓勵AI技術應用，但前提是要規(guī)范使用，不能夠違規(guī)使用。目前來看關于AI技術營銷中濫用如何治理，不是一個部門能夠解決問題的，我個人觀點是，應該多部門聯(lián)合或者我們叫社會共治?？梢猿雠_AI生成技術監(jiān)管的一個指南，統(tǒng)一執(zhí)法部門認識和標準。

平臺應加強AI生成內(nèi)容審查責任

專家表示，各社交平臺作為AI生成視頻發(fā)布主要渠道，應在平臺規(guī)則、內(nèi)容審查等方面進一步完善相關措施。

中央財經(jīng)大學法學院教授 劉雙舟：平臺應該建立AI生成內(nèi)容的一個審核機制，加強對AI生成內(nèi)容的審核，比如說對逃避AI標識的內(nèi)容，比如下架限流可以采取這樣一些措施。

從冒用專家“帶貨”，到假冒知名主持人“薦方”，AI仿冒名人營銷亂象暴露出技術被濫用的風險。

AI處理圖文信息

存隱私泄露風險

近期，網(wǎng)信部門重拳處置一批違規(guī)賬號，同時督促平臺集中整治，已累計清理8700余條違規(guī)信息、處置11000多個違規(guī)賬號。

網(wǎng)信部門表示，將繼續(xù)壓實網(wǎng)站平臺主體責任，對利用AI仿冒公眾人物開展直播營銷問題保持高壓嚴管態(tài)勢，對惡意營銷賬號，發(fā)現(xiàn)一批、處置一批、曝光一批。

隨著大模型在各行業(yè)深度應用，其安全風險呈現(xiàn)出復合化特征。網(wǎng)絡專家指出，AI大模型安全涵蓋數(shù)據(jù)、基礎設施與模型本身三大層面，其中個人使用中的數(shù)據(jù)安全風險尤為突出?？此坪唵蔚膱D片、文字信息等內(nèi)容通過AI處理，就可能泄露個人身份信息、人際關系等敏感內(nèi)容。

網(wǎng)絡安全專家 李虎：可能只是上傳了一張合照，我覺得就是通過AI來幫我美化一下或者加一項特殊處理。但是其實有可能就暴露了，因為照片上傳之后，它其實可以通過人像識別技術把人的身份提取出來，然后通過人物的關系，比如親密程度，可能猜測是什么人物關系，是朋友關系還是家人關系諸如此類的，然后這些數(shù)據(jù)都被提取出來之后又可能被進一步利用，比如被詐騙分子拿來利用。

連接不明來源Wi-Fi

當心信息泄露

除了AI大模型使用帶來的數(shù)據(jù)安全外，公共場合不明來源Wi-Fi的不當連接也會造成敏感信息泄露。

網(wǎng)絡安全專家 王媛媛：這種免費沒有密碼的Wi-Fi連接，不法分子可能會利用漏洞去架設一個偽基站，誘導大家進行連接，連接之后有可能會截取你的個人信息。

網(wǎng)絡安全專家介紹，只要有人接入了不法分子偽裝的Wi-Fi，在使用手機等電子設備時的一些操作都可能被截取，其中包括輸入用戶名、密碼等個人隱私信息都會被竊取。

網(wǎng)絡安全專家建議，個人用戶要加強安全意識，優(yōu)先選擇合規(guī)大模型平臺與正規(guī)渠道安裝應用；另外，連接Wi-Fi時要警惕無密碼熱點，避免落入釣魚陷阱。那么，我們在日常上網(wǎng)時還有哪些注意事項，防止個人隱私信息泄露呢？

不曬自己的火車票、飛機票登機牌、車牌

發(fā)布含有個人信息的火車票、飛機票、登機牌、車牌等票證，可能會被另有圖謀的陌生人獲取，從而導致個人隱私泄露；

不曬自己的證件照片

身份證、護照、駕駛證、結(jié)婚證等證件中，都包含重要的個人隱私，不要隨意在網(wǎng)上發(fā)布；

不曬自己的位置信息

盡量不要發(fā)自己的定位信息，這些信息容易暴露真實個人住址，有可能帶來不必要的麻煩和風險；

不曬老人和孩子的信息

避免發(fā)布老人和孩子的照片及姓名，以防不法分子利用這些信息進行違法活動，建議以分組的形式分享給親人看。

技術創(chuàng)新必須以誠信為底線，只有讓AI在法治軌道上運行，才能凈化網(wǎng)絡生態(tài)和市場生態(tài)，真正服務社會。

（原標題：每周質(zhì)量報告丨傳播虛假信息 侵害消費者權(quán)益 總臺曝光“AI仿冒名人”營銷亂象）