您當前的位置 :首頁 > 新聞 > 國內(nèi)國際
投稿

“AI換臉”詐騙防不勝防?要用“法”打敗“魔法”!

2023-05-24 16:16:37 來源:央視新聞微信公眾號(ID:cctvnewscenter)綜合中國之聲 作者: 點擊圖片瀏覽下一頁

點開直播間乍一看,賣貨的竟是當紅女星。再定睛一看,“明星”其實是使用人工智能(AI)實時換臉技術(shù)的普通主播。他們冒充明星藝人,只為增加賣點,助力賣貨……lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

近期,“AI換臉”的應(yīng)用范圍越來越廣,但存在濫用之嫌,甚至有人利用AI換臉實施犯罪,例如偽造不雅視頻、換臉詐騙等。前不久,就有一男子因AI“偷臉”,10分鐘被騙430萬元。lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

如此以假亂真,讓人防不勝防。“AI換臉”的法律邊界在哪?普通人又該如何防范?lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

近日,內(nèi)蒙古包頭警方發(fā)布一起利用AI實施電信詐騙的典型案例。lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

來自福建的郭先生是一家科技公司的法人代表。今年4月,他的好友突然通過微信視頻聯(lián)系他,稱自己的朋友在外地競標,需要430萬元保證金,想借用郭先生公司的賬戶走賬。lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

基于對好友的信任,加上已經(jīng)視頻聊天“核實”了身份,郭先生在10分鐘內(nèi),先后分兩筆把430萬元轉(zhuǎn)到了對方的銀行賬戶上。lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

事后,郭先生撥打好友電話才得知被騙,原來騙子通過AI換臉和擬聲技術(shù),佯裝好友對其實施詐騙。“當時是給我打了視頻的,我在視頻中也確認了面孔和聲音,所以才放松了戒備。”郭先生事后說。lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

除了佯裝“熟人臉”實施詐騙,AI換臉還可能出現(xiàn)在直播帶貨中。最近,   網(wǎng)上   出現(xiàn)了一些“換臉直播”教程,教程發(fā)布者聲稱實時變臉軟件可以幫助用戶輕松“變臉”,極大地助力引流賣貨。  lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

在一個展示換臉直播效果的視頻中,使用者把名為“成龍”的模型載入相關(guān)軟件后,攝像頭前的人在直播畫面中就有了與成龍相似的五官,但臉型和發(fā)型還保持原樣。  lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

記者發(fā)現(xiàn),使用者歪頭或變換表情時,五官動效切換得自然順滑,只有手掌從臉前劃過時,出現(xiàn)了比較明顯的破綻。  lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

圖片lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

△發(fā)布者展示換臉為“成龍”的實時效果和軟件界面(視頻截圖)  lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

北京岳成律師事務(wù)所高級合伙人岳屾山表示,換臉直播用于公開傳播可能涉嫌侵犯相關(guān)明星藝人的肖像權(quán)。如果涉及直播帶貨等商業(yè)行為,會成為加重情節(jié)。  lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

岳屾山解釋,只要未經(jīng)肖像權(quán)人同意,在直播中通過技術(shù)手段把自己的臉換成了明星的臉,就是對明星肖像的侵權(quán)。根據(jù)不同情況,承擔的后果可能不同。即便只是娛樂,不涉及盈利行為,也屬于侵權(quán)。如果把明星肖像用于帶貨直播,屬于是商業(yè)行為,在賠償數(shù)額上一定會給予考慮。如果主觀惡性、過錯程度比較大,且因此獲利,賠償數(shù)額可能會更高。  lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

記者注意到,一些使用換臉技術(shù)的直播并不會直接提到相關(guān)明星藝人的名字,但也不會主動聲明或者否認。岳屾山認為,該行為涉嫌欺詐或是虛假宣傳,讓公眾誤以為就是明星在帶貨。如果貨品本身質(zhì)量不好,或者主播在帶貨過程中說的話或行為導(dǎo)致公眾對被換臉的明星產(chǎn)生負面評價,明星可以主張名譽權(quán)的侵權(quán)責任。  lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

為規(guī)范人工智能發(fā)展,去年12月,《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》正式發(fā)布,明確了合成數(shù)據(jù)和技術(shù)管理規(guī)范。其中提到:深度合成服務(wù)提供者對使用其服務(wù)生成或編輯的信息內(nèi)容,應(yīng)當添加不影響使用的標識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的,應(yīng)當進行顯著標識,避免公眾混淆或者誤認。lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

近期,也有平臺和企業(yè)發(fā)布了“關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議”,明確禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容,包括但不限于肖像權(quán)、知識產(chǎn)權(quán)等,一經(jīng)發(fā)現(xiàn),平臺將嚴格處罰。lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

圖片lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

對于個人而言,除了在形形色色的“明星臉”中保持清醒,避免陷入虛假宣傳,更重要的是面對花樣翻新的AI詐騙,必須保持防范意識。   lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

保護信息,提高警惕。不要輕易透露自己的身份證、銀行卡、驗證碼等信息,不要輕易提供人臉、指紋等個人生物信息給他人,不過度公開或分享動圖、視頻等;lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

多重驗證,確認身份。如果有人自稱“熟人”“領(lǐng)導(dǎo)”等通過社交軟件、短信以各種理由誘導(dǎo)匯款,或涉及網(wǎng)絡(luò)轉(zhuǎn)賬交易行為時,務(wù)必通過電話、見面等多途徑核驗對方身份,不要未經(jīng)核實隨意轉(zhuǎn)賬匯款;lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

如不慎被騙或遇可疑情形,請注意保護證據(jù),并立即撥打96110報警。lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

“短短10分鐘,被騙430萬元”“換臉冒充當紅女星帶貨,賺得盆滿缽溢”……這種“換臉”術(shù)和擬聲術(shù),讓人防不勝防。如此種種,無不說明換臉術(shù)的濫用,已經(jīng)對公共利益構(gòu)成威脅。lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

整治AI換臉,當用“法”打敗“魔法”。lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

這個法,是方法、辦法的法。有人說,防騙最有效的一招就是不信,無論對方怎么“換”、怎么變、怎么翻著花樣騙,就是“不聽不信不轉(zhuǎn)賬”。最關(guān)鍵的是,優(yōu)化“打法”,升級高招,用更有效的方法“破防”。“魔高一尺,道高一丈”,面對騙子的新招數(shù),我們的反詐術(shù)、防騙方法更要優(yōu)化,總結(jié)出富有成效的好方法,并做好宣傳普及,構(gòu)筑反詐防騙的全民陣線。lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

這個法,也是法規(guī)、法律的法。此前,一款主打AI換臉的App很火,“只需一張照片,演遍天下好戲”。但很快,在監(jiān)管部門約談后,這款A(yù)pp下架,原因很簡單,如此換臉侵犯了公民的肖像權(quán)。去年12月,《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》發(fā)布,對人臉生成、替換、操控,合成人聲、仿聲等都有明確約束。顯然,隨著制度設(shè)計更精準,相關(guān)立法更健全,AI換臉空間將越來越逼仄。lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

AI換臉術(shù)濫用,也促使大家思考一個深層次問題。新技術(shù)不斷面世,帶給了人們便利,但可能被居心叵測之徒非法利用。人們固然不能因噎廢食,但也不能忽略它的雙刃劍效應(yīng)。如果缺乏應(yīng)有規(guī)束,AI換臉則可能打開潘多拉魔盒。因勢利導(dǎo),使其趨利避害,這是我們要全力做到的。lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

 lVm福鼎新聞網(wǎng)|今日福鼎|福鼎新聞信息權(quán)威發(fā)布平臺

文章來源:央視新聞微信公眾號(ID:cctvnewscenter)綜合中國之聲 責任編輯:葉鑫
版權(quán)聲明:
?凡注明來源為“福鼎新聞網(wǎng)”的所有文字、圖片、音視頻、美術(shù)設(shè)計和程序等作品,版權(quán)均屬福鼎新聞網(wǎng)所有。未經(jīng)本網(wǎng)書面授權(quán),不得進行一切形式的下載、轉(zhuǎn)載或建立鏡像。
?凡注明為其它來源的信息,均轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點和對其真實性負責。
不良信息舉報中心 新聞熱線:0593-7856234 技術(shù)服務(wù):0593-7998976 網(wǎng)上投稿
關(guān)于本站 | 廣告服務(wù) | 免責申明 | 招聘信息 | 聯(lián)系我們
福鼎新聞網(wǎng) 版權(quán)所有 Copyright(C)2008-2020