王順聽從對(duì)接人員的安排，在家中用攝像頭對(duì)準(zhǔn)電子鐘。右圖為數(shù)字人主播在直播間里的畫面。 受訪者供圖2023年4月，胡永林參加招商會(huì)，宣講人不斷講述數(shù)字人直播的市場(chǎng)前景。 受訪者供圖短視頻平臺(tái)上關(guān)于“數(shù)字人主播”的宣傳，其中多數(shù)為數(shù)字人軟件商家在引流。短視頻平臺(tái)截圖數(shù)字人軟件公司的對(duì)接人員告訴王順，他們的數(shù)字人軟件可以在所有主流平臺(tái)上直播。 受訪者供圖

“歡迎用戶2176來(lái)到咱們的直播間?！?/p>

王順的數(shù)字人“主播”正在“直播”。識(shí)別到有用戶進(jìn)入，身穿白色裙子、黑色口罩特效遮住了半張臉的“主播”，生硬、機(jī)械地念出這句歡迎詞。

這是12月初，王順花費(fèi)1980元購(gòu)買的數(shù)字人主播，這曾是他眼中的新風(fēng)口。在他的設(shè)想中，這位省心省力的“主播”可以24小時(shí)不停播，隨時(shí)回答直播間觀眾的提問(wèn)，銷售商品為自己帶來(lái)利潤(rùn)。

“實(shí)際上聽起來(lái)像商場(chǎng)里的樓層指引機(jī)器人。”幾乎是在開播后，王順就意識(shí)到自己可能被騙了，直播間的畫質(zhì)模糊，看不清“主播”的表情?！爸鞑ァ钡膭?dòng)作和產(chǎn)品介紹話術(shù)不斷重復(fù)，不僅語(yǔ)調(diào)單一、缺乏節(jié)奏感，也無(wú)法直接與觀眾互動(dòng)。

伴隨著人工智能的興起，數(shù)字人直播帶貨也一時(shí)成為風(fēng)口。但新京報(bào)記者調(diào)查發(fā)現(xiàn)，該新興行業(yè)目前魚龍混雜。

有軟件商對(duì)數(shù)字人直播效果及能產(chǎn)生的盈利夸大其詞，用戶花高價(jià)買入后發(fā)現(xiàn)效果不盡如人意，還會(huì)被平臺(tái)監(jiān)測(cè)到“非實(shí)時(shí)直播內(nèi)容”或低質(zhì)量?jī)?nèi)容封禁，售后無(wú)門；有不法分子盜用他人的身份信息進(jìn)行數(shù)字人制作；也有人以數(shù)字人直播為噱頭，招募聯(lián)合運(yùn)營(yíng)商聲稱可以分傭，實(shí)則冒充平臺(tái)認(rèn)可的有分傭資質(zhì)的第三方服務(wù)商；更有數(shù)字人推廣者采用傳銷的模式，發(fā)展下級(jí)代理獲取利潤(rùn)，可能存在非法集資、詐騙、非法傳銷等刑事風(fēng)險(xiǎn)。

張家港公安局曾針對(duì)“AI數(shù)字人直播教學(xué)”發(fā)布風(fēng)險(xiǎn)提示，不法分子以“AI數(shù)字人直播教學(xué)”為由實(shí)施詐騙，不少群眾因此上當(dāng)受騙。警方提示，廣大群眾要謹(jǐn)慎辨別真?zhèn)?，以防上?dāng)受騙。

新京報(bào)記者李聰

“24小時(shí)自動(dòng)直播”

王順是個(gè)業(yè)余主播。他的主業(yè)是婚紗攝影相關(guān)工作，副業(yè)運(yùn)營(yíng)著一家電商店鋪，銷售戒指、手鏈等飾品。每天晚上下班后他會(huì)直播兩個(gè)小時(shí)，觀看人數(shù)從幾十人到百人不等，平均每天能有三百元左右的銷售額。

有限的成交量令王順時(shí)常思考如何能給直播間引流。今年以來(lái)，他看到社交平臺(tái)上關(guān)于數(shù)字人直播的宣傳鋪天蓋地，“24小時(shí)自動(dòng)直播”“一位全天候工作的數(shù)字助手”“你在睡覺，數(shù)字人給你掙錢”。起初他半信半疑，但宣傳中的效果又讓他隱隱心動(dòng)。

12月初，他在刷短視頻時(shí)偶然點(diǎn)贊了一個(gè)介紹數(shù)字人的視頻，馬上有人私信他，希望向他詳細(xì)介紹產(chǎn)品。在對(duì)方發(fā)送的多個(gè)案例里，王順看到數(shù)字人主播的表現(xiàn)堪稱完美，不僅有流暢的表達(dá)、精準(zhǔn)的介紹、自然的停頓，還有微笑等面部神情和眼神交流，以及低頭看資料等豐富的動(dòng)作。

最吸引王順的是“1980元就能獲得軟件永久使用權(quán)”。銷售人員表示，“價(jià)格真不高，別說(shuō)永遠(yuǎn)使用，就算你用一年，一天才幾塊錢?！彼麄儚?qiáng)調(diào)自己是正規(guī)軟件公司，后期不會(huì)有任何隱形消費(fèi)，有一對(duì)一搭建指導(dǎo)，開播后還會(huì)陪跑一年，隨時(shí)有老師能聯(lián)系。另外，對(duì)方還提到，等王順學(xué)會(huì)這套系統(tǒng)后，可以賣數(shù)字人直播軟件賺錢。

當(dāng)王順問(wèn)到能在哪些平臺(tái)使用以及是否有封號(hào)的風(fēng)險(xiǎn)時(shí)，對(duì)方回復(fù)“目前所有的主流直播平臺(tái)都可以播，賬號(hào)封禁、不能使用的，我們公司目前一例都沒有?！痹跊]有先試用、也沒有查詢這家公司資質(zhì)的情況下，王順?biāo)斓馗读隋X。

付費(fèi)后，對(duì)接人員通過(guò)遠(yuǎn)程控制王順的電腦開始搭建直播間。先是在數(shù)字人軟件內(nèi)置的通用數(shù)字人模型中選擇形象和聲音，將王順提供的產(chǎn)品介紹文案導(dǎo)入，并設(shè)置直播間的虛擬背景圖片。王順則聽從對(duì)接人員的安排，在家中掛起一塊綠布，桌上擺好電子鐘，再打開對(duì)著電子鐘和綠布的高清攝像頭。

王順的數(shù)字人主播“上崗”了。直播間里能看到，“主播”站在直播間，使用黑色口罩特效遮住半張臉，身后有一株插花作為裝飾，背景為王順賬號(hào)的名稱，左下角播放著工匠制作飾品的視頻。而電子鐘則被放置在畫面的右下角落里。

對(duì)接人員告訴他，使用口罩特效是為了避免系統(tǒng)監(jiān)測(cè)到口型不自然，直播半小時(shí)后監(jiān)測(cè)不到就可以摘了；利用綠幕技術(shù)將電子鐘與數(shù)字人直播場(chǎng)景融合，也是為增加直播間的真實(shí)感。目的都是為了開播初期讓平臺(tái)監(jiān)測(cè)不到是數(shù)字人在直播。

然而，王順看到，自己的這位“主播”跟對(duì)方之前發(fā)送的案例差距很大。還來(lái)不及考慮數(shù)字人軟件“貨不對(duì)板”的問(wèn)題，王順要出門上班，留“主播”在家自己播。

到達(dá)辦公室后，王順用手機(jī)查看直播發(fā)現(xiàn)，開播將近一小時(shí)，除了自己和對(duì)接人員，直播間里幾乎沒有一個(gè)觀眾，后半段直播間人數(shù)為0，連對(duì)接人員都不在了。同事們觀看后也說(shuō)那是一眼就能看出僵硬、沒有表情的假人，還沒有王順自己播得好。

最終，王順主動(dòng)結(jié)束了這場(chǎng)直播。在開播的一個(gè)半小時(shí)里，主播的口罩特效一直沒能去掉，這場(chǎng)直播不僅沒有帶來(lái)收益，而且?guī)缀鯚o(wú)人停留在他的直播間。

感覺上當(dāng)?shù)耐蹴樔フ覍?duì)接人員退款，對(duì)方則稱還可以慢慢優(yōu)化。反復(fù)交涉無(wú)果后，對(duì)方不再回復(fù)王順的信息。

多個(gè)平臺(tái)認(rèn)定數(shù)字人質(zhì)量低、內(nèi)容單一

于捷是一家頭部數(shù)字人服務(wù)商的產(chǎn)品運(yùn)營(yíng)，這家公司目前只從事TOB（面向企業(yè)）的產(chǎn)品定制服務(wù)。她介紹，在公司訂購(gòu)數(shù)字人的客戶分為兩類，一類是用于本地生活服務(wù)，銷售餐飲券、門票等，希望達(dá)成24小時(shí)直播；另一類是用于企業(yè)宣傳。

“內(nèi)容豐富度單一”，于捷認(rèn)為，這是數(shù)字人直播目前無(wú)法解決的缺陷。

比如前期坐著錄制的數(shù)字人，在直播時(shí)不可能突然站起來(lái)跟消費(fèi)者聊幾句。無(wú)論給的文案多豐富，只要長(zhǎng)時(shí)間循環(huán)播放就會(huì)造成重復(fù)，進(jìn)而被平臺(tái)判定為低質(zhì)量?jī)?nèi)容或互動(dòng)不足，這也是一些直播間容易被封掉的原因。對(duì)于不長(zhǎng)時(shí)間停留在直播間的人來(lái)說(shuō)，可能很難區(qū)別出不同。“但數(shù)字人直播的邏輯是前一個(gè)循環(huán)接下一個(gè)循環(huán)，中間一定會(huì)有不自然的動(dòng)作銜接?！?/p>

她提到，直播中的交互，是運(yùn)營(yíng)人員提前準(zhǔn)備題庫(kù)，觸發(fā)關(guān)鍵詞后，直接從題庫(kù)里選取答案，讓數(shù)字人念出來(lái)，題庫(kù)中沒有的內(nèi)容，數(shù)字人也說(shuō)不出來(lái)，真正具備自動(dòng)對(duì)話功能的數(shù)字人很少。

除了自身技術(shù)的問(wèn)題，各大互聯(lián)網(wǎng)平臺(tái)對(duì)數(shù)字人直播的態(tài)度呈現(xiàn)出明顯的分化。“不同電商平臺(tái)在數(shù)字人直播帶貨上呈現(xiàn)出不同的態(tài)度，其實(shí)反映了他們?cè)谏鷳B(tài)建設(shè)上不同的戰(zhàn)略和發(fā)展方向?！彪娮由虅?wù)交易技術(shù)國(guó)家工程實(shí)驗(yàn)室研究員趙振營(yíng)在接受《中國(guó)經(jīng)營(yíng)報(bào)》記者采訪時(shí)提到。

比如在部分電商平臺(tái)上隨處可見數(shù)字人直播，而一些平臺(tái)則規(guī)定，直播過(guò)程中使用非實(shí)時(shí)直播內(nèi)容或道具代替真實(shí)直播的行為都是“非真實(shí)直播”，屬于“低質(zhì)量?jī)?nèi)容”，使用插件、AI等工具生成虛擬形象進(jìn)行直播是典型的違規(guī)行為。

多個(gè)平臺(tái)將數(shù)字人歸結(jié)于低質(zhì)量單一的內(nèi)容，于捷表示認(rèn)可。她表示，只要平臺(tái)想封，使用者就完全沒有辦法，只能換號(hào)，或者等封禁時(shí)間過(guò)了再重新開播。

于捷總結(jié)，以內(nèi)容為導(dǎo)向的平臺(tái)出于維護(hù)社區(qū)優(yōu)質(zhì)內(nèi)容的導(dǎo)向會(huì)加以限制，而電商等以賣貨為導(dǎo)向的平臺(tái)則更注重成交量，相對(duì)寬松。

也因此，和平臺(tái)斗智斗勇，想方設(shè)法避免直播時(shí)被封號(hào)，是數(shù)字人產(chǎn)品運(yùn)營(yíng)的重要工作。于捷介紹，他們會(huì)針對(duì)每一個(gè)平臺(tái)制作精細(xì)化的防風(fēng)控手冊(cè)。形式上可以在直播間配置中多開幾個(gè)攝像頭和麥克風(fēng)，盡管這些攝像頭沒有實(shí)際畫面，可以放在直播畫面最下端，把虛擬主播放在最上面，以達(dá)到欺騙平臺(tái)監(jiān)測(cè)系統(tǒng)有實(shí)際開播的作用。內(nèi)容方面則會(huì)使用人工智能生成大量不一樣的話術(shù)。

至于數(shù)字人直播帶來(lái)的收益，于捷提到，像銷售美食套餐沒什么特別的影響，但只要是需要主播加持的帶貨，銷量就比較慘淡。

一位女裝主播闞闞也認(rèn)同這樣的說(shuō)法。早在2022年，闞闞就考察過(guò)數(shù)字人直播，她除了好奇，也在思考自己是否有被替代的可能性，當(dāng)時(shí)的數(shù)字人市場(chǎng)價(jià)格混亂，從數(shù)萬(wàn)元到千元不等，她沒敢投入。直到今年上半年，闞闞花費(fèi)2000元購(gòu)買了朋友推薦的一款軟件，她只運(yùn)用在短視頻創(chuàng)作中代替自己出鏡幾秒鐘，新鮮兩個(gè)月后，現(xiàn)在已經(jīng)棄用。

她直言，直播間里引流本身就很難，真人在直播中又哭又鬧都沒有流量，用一個(gè)毫無(wú)感情的假人更沒有流量。在她看來(lái)，直播帶貨是“人貨場(chǎng)”缺一不可，“如果數(shù)字人直播都有流量，那屬于貨帶人，換個(gè)動(dòng)物來(lái)也行?！?/p>

風(fēng)口下的收割

即便在業(yè)內(nèi)人士看來(lái)，數(shù)字人技術(shù)和應(yīng)用層面撕裂，普通商家很難從中獲利，但數(shù)字人市場(chǎng)在近幾年已成風(fēng)口。根據(jù)艾媒咨詢數(shù)據(jù)顯示，2022年，該行業(yè)的市場(chǎng)規(guī)模已達(dá)到120.8億元，預(yù)計(jì)到2025年，虛擬數(shù)字人的核心市場(chǎng)規(guī)模將達(dá)到480.6億元。

新京報(bào)記者發(fā)現(xiàn)，當(dāng)前數(shù)字人產(chǎn)業(yè)鏈中，中小商家似乎成為了被收割的對(duì)象，銷售軟件的公司則借此機(jī)會(huì)獲得豐厚的收益。更有甚者，利用“數(shù)字人”的概念進(jìn)行詐騙。

家住鄭州的胡永林一度也覺得自己能夠站上風(fēng)口。

2023年4月底，胡永林收到一通自稱是某平臺(tái)合作商的電話，邀請(qǐng)他參加一個(gè)關(guān)于數(shù)字人直播的招商會(huì)。招商會(huì)離家很近，他出于好奇便去了現(xiàn)場(chǎng)。這場(chǎng)會(huì)議介紹的是位于廣州的一家科技公司，胡永林看到，大約300人參與，多為商務(wù)人士。

在招商會(huì)上，胡永林聽到一樁看似很合理的生意：與這家公司合作，以第三方服務(wù)商的身份，向本地餐飲等生活服務(wù)的商家銷售數(shù)字人直播軟件，并協(xié)助商家入駐該平臺(tái)，搭建數(shù)字人直播間銷售團(tuán)購(gòu)券。此后商家每核銷一張團(tuán)購(gòu)券，自己都能分到傭金，另外邀請(qǐng)新商家入駐還有額外的獎(jiǎng)金。

換句話說(shuō)，成為這家科技公司的代理商，在線下銷售數(shù)字人直播軟件，并讓商家利用數(shù)字人直播銷售團(tuán)購(gòu)券，就能從中賺取傭金?！吧碳屹嶎櫩偷腻X，你躺賺商家的錢。”

胡永林記得，招商會(huì)上不斷講述其他城市的成功案例，其中一張PPT上寫著，有聯(lián)營(yíng)商在3個(gè)月內(nèi)拿到36萬(wàn)元利潤(rùn)。

胡永林坦言，豐厚的利潤(rùn)吸引了他，對(duì)方又稱自己是某平臺(tái)的合作伙伴。他當(dāng)時(shí)并沒有深入了解數(shù)字人直播，只是直覺上認(rèn)為這套模式行得通，因此當(dāng)場(chǎng)繳納6萬(wàn)元成為鄭州市的城市聯(lián)營(yíng)商。

當(dāng)項(xiàng)目開始落地，胡永林一邊去談意向商戶，收集商家的基礎(chǔ)信息、團(tuán)購(gòu)套餐、推薦話術(shù)等資料，一邊在官方直播間學(xué)習(xí)運(yùn)營(yíng)。

大約一周后，胡永林意識(shí)到，這樁生意有個(gè)致命缺陷：分傭是建立在第三方服務(wù)商的身份上，而這家科技公司并無(wú)資質(zhì)，也并不是某平臺(tái)的合作伙伴。新京報(bào)記者查詢發(fā)現(xiàn)，某平臺(tái)官方規(guī)定，能夠參與來(lái)客分傭的只有達(dá)人和服務(wù)商。

平臺(tái)政策也讓胡永林意識(shí)到數(shù)字人直播這條路似乎行不通。胡永林簽完合同的第二個(gè)月，2023年5月，某平臺(tái)黑板報(bào)發(fā)布“關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議”“關(guān)于虛擬主播的平臺(tái)公約暨倡議”。業(yè)內(nèi)認(rèn)為這是某平臺(tái)將進(jìn)一步加大對(duì)AI生成式內(nèi)容的管控。

要求退費(fèi)無(wú)果的胡永林，迅速收集了相關(guān)證據(jù)，提起民事訴訟。2023年11月，在法院調(diào)解下，胡永林拿回了大部分錢。

胡永林的經(jīng)歷不是個(gè)例。新京報(bào)記者在黑貓投訴平臺(tái)看到，截至12月18日，關(guān)于“數(shù)字人”的投訴高達(dá)5212條。其中包括夸大宣傳、貨不對(duì)板、卷款跑路等，還有消費(fèi)者購(gòu)買數(shù)字人直播專用設(shè)備，到手后發(fā)現(xiàn)實(shí)為裝了數(shù)字人直播軟件的手機(jī)等。

廣泛招收代理，也成為數(shù)字人軟件代理商的生財(cái)之道。

新京報(bào)記者以消費(fèi)者身份咨詢多家數(shù)字人軟件供應(yīng)商，其中一家表示，只要繳納8680元成為代理，可享受所有產(chǎn)品2折拿貨優(yōu)惠，原價(jià)4000元的數(shù)字人系統(tǒng)拿貨只需要800元，銷售兩套就可以回本?！袄麧?rùn)很可觀，以后賣的都是你賺的?！?/p>

這些服務(wù)商對(duì)風(fēng)險(xiǎn)閉口不談，對(duì)于封號(hào)及售后問(wèn)題，一位工作人員表示無(wú)法保證平臺(tái)在政策方面沒有變動(dòng)，如果有變動(dòng)也不屬于公司產(chǎn)品單個(gè)問(wèn)題，是屬于行業(yè)問(wèn)題。而在工作人員的朋友圈，每天都在發(fā)布成交截圖。

如何規(guī)范市場(chǎng)

意識(shí)到數(shù)字人直播并沒有自己想象得靠譜，王順決定還是自己上播。他在社交媒體上發(fā)布了自己的經(jīng)歷，有多位同在一家公司購(gòu)買數(shù)字人服務(wù)的用戶與他聯(lián)系。其中一位用戶向他表示，后續(xù)即便是經(jīng)過(guò)優(yōu)化和調(diào)整，直播間還是會(huì)因包含非實(shí)時(shí)直播的內(nèi)容或影響用戶體驗(yàn)等違反平臺(tái)規(guī)則被封。王順開始報(bào)案并準(zhǔn)備維權(quán)。

湖南通程律師事務(wù)所的裴一霖律師曾接到多起關(guān)于數(shù)字人直播的咨詢。她經(jīng)常遇到的情況是，銷售方在賣出數(shù)字人產(chǎn)品后便無(wú)法聯(lián)系。她提到，這種行為可能涉嫌刑事責(zé)任，比如銷售方通過(guò)虛構(gòu)事實(shí)或誘導(dǎo)，讓消費(fèi)者基于錯(cuò)誤的判斷或認(rèn)識(shí)購(gòu)買產(chǎn)品，這構(gòu)成了基于錯(cuò)誤認(rèn)識(shí)的財(cái)產(chǎn)處分行為，是典型的詐騙。面對(duì)這種情況，消費(fèi)者應(yīng)立即向公安機(jī)關(guān)報(bào)案，并可同時(shí)向直播平臺(tái)提出投訴。

但裴一霖坦言，現(xiàn)實(shí)中這類產(chǎn)品通常設(shè)置的購(gòu)買金額為2999、2888等，導(dǎo)致后續(xù)消費(fèi)者在報(bào)案時(shí)或因被騙金額沒有達(dá)到3000元的立案標(biāo)準(zhǔn)而不被立案；想通過(guò)民事訴訟解決時(shí)也會(huì)因?yàn)檎也坏奖桓嫘畔⒍鵁o(wú)法立案。裴一霖建議，在購(gòu)買這類數(shù)字人服務(wù)時(shí)一定要簽訂合同，要銷售方提供公司的經(jīng)營(yíng)許可證等，以防后續(xù)出現(xiàn)各類糾紛。

12月16日，新京報(bào)記者在裁判文書網(wǎng)以“數(shù)字人直播”為關(guān)鍵詞檢索發(fā)現(xiàn)，相關(guān)判決書在2024年有明顯增加，多起案例涉及數(shù)字人直播技術(shù)在實(shí)際應(yīng)用中遇到的問(wèn)題，導(dǎo)致合同目的無(wú)法實(shí)現(xiàn)，商家要求解除合同并退款。

其中有法院認(rèn)為平臺(tái)禁播等外部因素導(dǎo)致合同目的無(wú)法實(shí)現(xiàn)，支持解除合同，判決部分退款；也有法院因雙方在合同中約定提供的是技術(shù)系統(tǒng)而非直播產(chǎn)品，判定軟件銷售公司對(duì)購(gòu)買方在直播過(guò)程中出現(xiàn)封號(hào)和違規(guī)情況不負(fù)責(zé)，駁回原告的請(qǐng)求。

裴一霖也提到，數(shù)字人系統(tǒng)作為一種新興產(chǎn)品，在交付上確實(shí)需要有一定的標(biāo)準(zhǔn)。這些標(biāo)準(zhǔn)應(yīng)包括產(chǎn)品的功能、技術(shù)實(shí)現(xiàn)、服務(wù)內(nèi)容等細(xì)節(jié)，以及確保服務(wù)提供機(jī)構(gòu)在法律上的合規(guī)性。

她表示，如果是直播平臺(tái)的規(guī)則導(dǎo)致合同無(wú)法履行，這通常不被視為不可抗力。如果技術(shù)提供方在合同中聲明不對(duì)違規(guī)情況負(fù)責(zé)，這種免責(zé)聲明可能在一定程度上有效，但并不能免除其所有責(zé)任。特別是當(dāng)技術(shù)提供方的產(chǎn)品存在質(zhì)量問(wèn)題或虛假宣傳等導(dǎo)致用戶違規(guī)時(shí)，免責(zé)聲明不能成為其逃避責(zé)任的借口。

除了因數(shù)字人直播軟件買賣帶來(lái)的合同糾紛，因數(shù)字人直播產(chǎn)生的其他亂象也引發(fā)業(yè)內(nèi)人士的擔(dān)憂。

張家港公安局曾針對(duì)“AI數(shù)字人直播教學(xué)”發(fā)布風(fēng)險(xiǎn)提示，不法分子以“AI數(shù)字人直播教學(xué)”為由實(shí)施詐騙，不少群眾因此上當(dāng)受騙。警方提示，不法分子通過(guò)在各大社交媒體應(yīng)用上通過(guò)冒充主播或發(fā)布短視頻等手法進(jìn)行引流，精準(zhǔn)把握受害人想通過(guò)躺平賺大錢的投機(jī)心理，通過(guò)承諾低成本、高回報(bào)等誘人利益，滿足受害者快速致富、追求成功的自尊心和欲望，成功致使受害人落入詐騙圈套。

更嚴(yán)重的是，依托于人工智能和機(jī)器學(xué)習(xí)的“深度偽造”，引發(fā)了更廣泛的社會(huì)和法律問(wèn)題。身處數(shù)字人行業(yè)，于捷提到，數(shù)字人合成由口型驅(qū)動(dòng)的，僅僅只需要一小段視頻就可以克隆。近日，知名傳染病學(xué)專家“張文宏”深夜帶貨蛋白棒引發(fā)關(guān)注。據(jù)媒體報(bào)道，有自媒體賬號(hào)利用AI深度合成“張文宏”帶貨視頻，張文宏稱這樣的賣貨賬號(hào)不止一個(gè)，且一直不斷在變，多次向平臺(tái)投訴但屢禁不絕。

裴一霖表示，法律本就有滯后性，但也具有穩(wěn)定性。她建議，可以通過(guò)立法明確數(shù)字人直播的法律地位、責(zé)任主體和監(jiān)管要求等。此外，還需加強(qiáng)行業(yè)自律，例如電商平臺(tái)在法律框架內(nèi)自行完善有關(guān)規(guī)則，推動(dòng)數(shù)字人直播帶貨的規(guī)范化發(fā)展，也有助于解決現(xiàn)有問(wèn)題。

相關(guān)政策也正在完善中。為了防止深度偽造技術(shù)和數(shù)字人技術(shù)的無(wú)序?yàn)E用，9月24日，浙江省市場(chǎng)監(jiān)管局發(fā)布《浙江省網(wǎng)絡(luò)直播營(yíng)銷行為規(guī)范指引》，首次對(duì)AI數(shù)字人直播進(jìn)行規(guī)范。

《指引》列明了30條經(jīng)營(yíng)者合規(guī)要求，明確禁止通過(guò)虛假內(nèi)容誘導(dǎo)消費(fèi)者進(jìn)入直播間，未經(jīng)授權(quán)不得使用或偽造他人聲音、肖像制作引流廣告，同時(shí)要求在使用可能導(dǎo)致公眾混淆的AI數(shù)字人時(shí)，必須進(jìn)行顯著標(biāo)識(shí)，明顯區(qū)分于自然人名義或形象，不得隱匿AI數(shù)字人標(biāo)識(shí)，以維護(hù)直播營(yíng)銷秩序和消費(fèi)者權(quán)益。

在采訪的最后，于捷提到自己在工作中的矛盾心態(tài)：不管如何宣傳，目前的數(shù)字人直播也沒有辦法取代真人直播，除非能夠打破技術(shù)壁壘，而那需要多久尚未可知。

（文中王順、胡永林、于捷、闞闞均為化名）