聲明:本文來自于（ID:ykqsd.com）授權轉載發(fā)布。

幾塊錢就能輕松模仿。

“被騙了！沒想到視頻切片里的‘專家推薦語’居然是AI偽造出來的?！?0后小高憤怒地將自己購買的減肥產(chǎn)品扔進了垃圾桶。

小高向記者表示，自己之所以心動，是被《國醫(yī)少年志》視頻切片里的推薦內(nèi)容吸引，但后來發(fā)現(xiàn)這些內(nèi)容經(jīng)不起考驗。“我以為有專家背書的商品一定靠譜，結果發(fā)現(xiàn)這些推薦語居然是AI生成，根本不是專家本人說過的話?！?/p>

隨著《一路繁花》《國醫(yī)少年志》等節(jié)目的走紅，減肥和養(yǎng)生的話題越來越受歡迎。然而，短視頻平臺上許多節(jié)目切片都開始走樣，借著類似節(jié)目的熱度，開始進行變味營銷，甚至宣稱“絕對有效”。

實際上，這些視頻切片大多都是移花接木，看似是節(jié)目的片段，但專家推薦語、字幕等細節(jié)都是商家借助AI技術進行篡改，以達到植入品牌和進行帶貨的目的。

“部分商家和視頻主抓住消費者追求健康的心理，利用‘權威’‘專業(yè)’等噱頭讓消費者誤以為這些產(chǎn)品有效，結果卻上當受騙?！睆氖码娚坦ぷ鞫嗄甑氖Y凌告訴《新京報貝殼財經(jīng)記者》，如今短視頻平臺上充斥著大量類似切片，甚至還有商家通過修改名人語音進行商品帶貨的現(xiàn)象?！斑@樣做的結果，不僅讓人名受騙，節(jié)目IP也被造假，消費者權益也在不知不覺中受到影響，唯一受益的只有那些惡意植入的品牌。”

視頻切片內(nèi)容中，同一場景會被植入多個品牌。圖片截取。

在視頻切片中添加“明星代言”臺詞。

因為身體肥胖，小高經(jīng)常上網(wǎng)尋找各種減肥方法和藥物。一天，他在短視頻平臺看到《國醫(yī)少年志》的節(jié)目，其中中醫(yī)專家介紹如何通過白蘿卜、山楂干、紅棗等食材泡水來控制體重，并特意推薦了一款名為“蔻敘堂丁香膏”的減肥產(chǎn)品。

“資深中醫(yī)在視頻里肯定會說‘早晚各一次，一個多月后肚子就平了’，再加上節(jié)目的IP效應和多位明星的背書，效果肯定不會差?！毙膭拥男「弋敿丛陔娚唐脚_搜索品牌名，花費20多元下了一單。使用幾天后，他發(fā)現(xiàn)減肥效果遠沒有視頻宣傳的那么明顯，體重完全沒有變化。

和小高有著類似經(jīng)歷的，還有00后女孩張伊。她告訴貝殼財經(jīng)記者，自己也是在刷綜藝節(jié)目《一路繁花》的短視頻切片時，被劉曉慶在聚會時所提及的商品"種草"，但真正體驗后發(fā)現(xiàn)沒有任何效果。

貝殼財經(jīng)記者調查發(fā)現(xiàn)，類似視頻切片在短視頻平臺中比比皆是，看上去不一定靠譜。近段時間，《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目中健康養(yǎng)生類知識通過短視頻傳播，被一眾消費者所追捧，也讓他們成為部分商家收割的對象。

貝殼財經(jīng)記者在短視頻平臺上搜索發(fā)現(xiàn)，不少非節(jié)目官方所發(fā)布的切片里夾藏大量"網(wǎng)紅貨"，視頻主通過AI技術更換專家語音和字幕，將涉及體重管理、祛濕等保健類商品經(jīng)過包裝成功實現(xiàn)"名人帶貨"。

以《國醫(yī)少年志》一期節(jié)目中專家介紹如何有效改善大腿過粗為例。原視頻中專家推薦蘋果、生姜、紅棗等食品通過水煮飲用的方式起到提升代謝作用，但在部分視頻切片里，專家的話直接被篡改，特意加了"資藥堂（的赤菊膏）就很不錯"的短短一句話。

移花接木的招數(shù)也出現(xiàn)在《一路繁花》的視頻切片中。劉曉慶在聚餐時吃魚的片段，一款名為"詩諾千君貼"的商品被植入，并在字幕中顯示"提高代謝水平"、"年輕人可以試試"，同樣實現(xiàn)明星帶貨的效果。

劉曉慶在聚餐時吃魚的片段，被一款名為"詩諾千君貼"的商品植入。截圖

AI悄然篡改視頻內(nèi)容，模糊了視頻真假的邊界，也迷惑了不少消費者。貝殼財經(jīng)記者注意到，上當?shù)木W(wǎng)友在社交平臺上吐槽"純智商稅"、"節(jié)目組推銷劣質商品"等，質疑產(chǎn)品的同時也將矛頭直指節(jié)目組。

對此，《國醫(yī)少年志》官方發(fā)文表示，部分社交媒體上營銷賬號未經(jīng)授權擅自剪輯節(jié)目圖片、視頻實施產(chǎn)品推廣行為，歪曲了節(jié)目內(nèi)容。節(jié)目組從未授權任何第三方賬號利用節(jié)目內(nèi)容宣傳相關的任何產(chǎn)品，"任何非我司官方賬號或非節(jié)目原片所發(fā)布的我司及與我司合作生產(chǎn)相關產(chǎn)品的信息均為虛假信息。"

AI變聲"零門檻"，僅需幾元可隨意模仿

一個節(jié)目片段就能假冒名人帶貨，再次暴露了AI合成聲音濫用的問題。

一位從事電商行業(yè)的蔣凌表示，這些商品通過AI技術篡改了臺詞和字幕，以"專業(yè)""權威"等詞匯讓消費者誤以為信息準確，從而陷入銷售陷阱。

近日，貝殼財經(jīng)記者在短視頻平臺上以"AI克隆聲音"為關鍵詞檢索，發(fā)現(xiàn)了大量涉及AI合成聲音的視頻內(nèi)容。其中，一條名為"10秒鐘克隆任何聲音"的視頻解釋稱，AI技術可以通過調整聲音使其模仿孫悟空、曹操、哪吒等不同角色的聲音。

隨著人工智能技術的普及，AI生成聲音的技術門檻大幅降低，甚至一些開源軟件和平臺可以讓普通用戶無需專業(yè)知識即可輕松操作。

貝殼財經(jīng)記者在多個社交平臺上搜索，發(fā)現(xiàn)了多個提供AI合成聲音軟件的廣告和下載渠道，這些軟件的價格僅需幾元到數(shù)十元。許多廣告中都打著"隨意模仿明星語音""一句話生成任意聲音"等吸引眼球的旗號。

為了調查相關問題，貝殼財經(jīng)記者下載了一款在GitHub上開源的聲音克隆軟件。在體驗過程中，記者上傳了一段由自己播報的3分鐘錄音，在AI模型的訓練后成功得到了這一聲音的模型文件。隨后，只需輸入任意文字，軟件就能生成相應的聲音內(nèi)容。

檢查發(fā)現(xiàn)，AI生成的聲音不僅能夠模仿說話的語氣和語調，連說話時的吐字習慣也能準確模仿。對于較短的語句，AI生成的聲音難以分辨真假；但對較長的語句，生成效果則會略顯粗糙。不過，通過多次生成并挑選較好的語句，AI生成的聲音仍然能夠達到以假亂真的效果。

社交平臺上的許多公眾人物聲音已經(jīng)被AI復制，其中"如何模仿雷軍說話""讓明星給你播新聞"等視頻內(nèi)容層出不窮。

貝殼財經(jīng)記者注意到，這些AI合成聲音軟件的操作流程頗為簡單，用戶只需要對著鏡頭錄制一段話，AI技術就能將這段話轉化為某位名人聲音。值得注意的是，這些軟件在錄入名人聲音時沒有任何授權證明，這意味著這些名人根本不知道自己的聲音已被未經(jīng)授權地使用。

實際上，此前已有利用軟件修改明星靳東聲音與"粉絲"進行互動的案例，曾因詐騙老人近百萬元而引發(fā)關注。此外，還有利用AI模仿國家傳染病醫(yī)學中心主任張文宏的聲音進行吐槽的事件，也曾引發(fā)社會關注。

一位在AI領域工作的從業(yè)者表示，AI能夠克隆聲音是基于其能夠通過深度學習算法從聲音樣本中提取頻率、音色、聲調等關鍵特征，并將這些特征進行合成。例如，在《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目中，品牌植入正是通過類似技術實現(xiàn)的。

無論是網(wǎng)友將AI合成人聲用于惡作劇以博取流量，還是通過仿生技術復制名人聲音進行帶貨，都會對聲音的"原住民"及其消費者造成負面影響。這些發(fā)布者雖然能獲取流量曝光和廣告收益，但也存在假借身份傳播虛假信息，最終達到詐騙的目的。上述人士表示。

今年兩會期間，全國人大代表、小米集團創(chuàng)始人雷軍建議加強對"AI換臉擬聲"違法行為的治理，并表示自己也曾是這一技術的受害者。

隱形的營銷手段以及真假難辨的劇情設定，使得對AI技術不熟悉的中老年群體難以識別真假，從而成為了這些營銷活動的受害者。

在接受采訪時，多位電商從業(yè)者指出，這類商家主要面向追求身體健康的人群，其中以中老年群體為主。他們通過塑造權威專家形象發(fā)布健康養(yǎng)生類內(nèi)容，以吸引目標消費者的關注。最終，商家采用視頻流量分成和櫥窗帶貨的模式實現(xiàn)盈利。

一位網(wǎng)友感嘆稱，家中長輩對于AI技術并不了解，容易相信視頻中的專家推薦和健康養(yǎng)生內(nèi)容。即便家人多次解釋視頻內(nèi)容可能是偽造的，長輩依然固執(zhí)地認為沒有受到欺騙。這種情況對老年人來說，簡直就是"降維打擊"。

在類似商品中，還存在產(chǎn)品資質存疑、廠商身份不明的問題。貝殼財經(jīng)記者注意到，一款由AI語音植入的益生菌產(chǎn)品，在商城頁面上出現(xiàn)了多款宣傳內(nèi)容幾乎一致的商品，但生產(chǎn)廠商卻各不相同，消費者難以判斷真?zhèn)巍?/p>

消費者在觀看視頻進行下單時往往屬于沖動消費，這種行為更多源于對明星藝人身份和專業(yè)人士背書的信任。然而，消費者對商品的實際效果、品質優(yōu)劣以及是否適合自己等情況卻并不清楚。蔣凌告訴貝殼財經(jīng)記者，商家選擇類似傳播渠道無疑比花錢打廣告更高效，成本也更低。當消費者意識到問題時，商家已經(jīng)完成了快速傳播、收割變現(xiàn)、甚至注銷跑路的營銷閉環(huán)。

不論是對中老年人還是年輕網(wǎng)友而言，AI合成語音相較于早前的AI換臉視頻更難分辨真假。稍有不慎，就可能成為 targets。

2024年4月，北京互聯(lián)網(wǎng)法院發(fā)布全國首例"AI聲音侵權案"，法院明確指出在具備可識別性前提下，自然人聲音權益受到侵害時，AI生成聲音同樣受法律保護。法院認為，未經(jīng)權利人許可，擅自使用或許可他人使用的錄音制品中的聲音，均構成侵權。

在今年的兩會期間，全國人大代表、小米集團創(chuàng)始人雷軍建議加強對"AI換臉擬聲"違法行為的治理，并表示自己也曾是這一技術的受害者。

貝殼財經(jīng)記者了解到，此前短視頻平臺上曾出現(xiàn)大量"雷軍AI配音"的惡搞視頻，涵蓋交通擁堵、調休安排、游戲娛樂等多個熱門話題。雷軍在兩會期間對此表示，"一開始我還覺得這是網(wǎng)民喜聞樂見的一種方式，但隨著內(nèi)容越來越多，網(wǎng)友們也都在投訴。"對此，他呼吁盡快出臺相關治理措施。

同樣，全國政協(xié)委員靳東也對AI換臉技術引發(fā)的詐騙問題進行了回應，他表示"一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質非常惡劣，希望能建立更好的規(guī)則"。

專業(yè)機構河南澤槿律師事務所主任付建告訴貝殼財經(jīng)記者，AI技術被濫用冒用他人聲音的行為屬于違法行為。根據(jù)《中華人民共和國民法典》，對自然人聲音的保護應參照適用肖像權保護的相關規(guī)定。同時，商家利用AI篡改專家說辭進行直播賣貨，既侵犯了專家聲音的人格權益，也可能損害其名譽權及肖像權。此外，這種行為還涉及虛假廣告宣傳。如果所售商品實際效果不佳，還可能構成消費者欺詐，違反《反不正當競爭法》和《消費者權益保護法》的相關規(guī)定，消費者可能面臨罰款、吊銷營業(yè)執(zhí)照等行政責任，以及民事賠償責任，情節(jié)嚴重的還可能觸犯刑事犯罪。

付建補充道："平臺有權依據(jù)《互聯(lián)網(wǎng)信息服務管理辦法》《電子商務法》以及平臺規(guī)則履行監(jiān)管義務，對違法商家采取封禁賬號、限流等處理措施。如果未及時采取合理措施導致?lián)p害擴大的，需對擴大部分內(nèi)容與不法商家承擔連帶責任。"

本文由新京報貝殼財經(jīng)記者覃澈編輯，王進雨校對，付春愔審核。