羊城晚報記者 詹淑真

　　近日，“AI復活親人”的話題成為社會關注熱點。知名音樂人包小柏運用AI技術“復活”已去世的女兒、男子用AI“復活”病故父親哄高齡奶奶等案例，讓不少網友直呼“這才是AI存在的意義”。但隨著越來越多人用AI“復活”逝去的喬任梁、李玟、高以翔等公眾人物時，也引發了諸多爭議。盡管AI“復活”親人為人們提供了情感慰藉的渠道，但其背后隱藏著隱私泄露、侵權、詐騙等諸多風險。羊城晚報記者注意到，網上關于AI“復活”的生意已有不少，價位從幾元到幾萬元不等，如何看待“AI復活親人”已成產業鏈？其背后有哪些法律風險？相關法律或者管理應如何跟上？普通人又該如何防范AI詐騙風險？

　　一搜一大片 AI“復活”成產業鏈？

　　在當下，用AI復活親人的案例越來越多。一些個人或機構甚至以此為賣點，形成相應的灰色產業鏈。

　　3月18日，羊城晚報記者以“AI復活”的關鍵詞在多個社交平臺和購物軟件上嘗試搜索，發現能輕易地搜索到諸多相關店鋪。比如在淘寶上，就有商家提供讓老照片動起來開口說話、聲音及形象再現、實現語音互動、真人復刻等差異化服務，標價幾元到幾萬元不等。一家店鋪的AI制作流程顯示需要五個步驟，分別是溝通用戶需求、提供照片及聲音、策劃逝者文案、等待制作、發貨驗收。

　　在小紅書上，有不少標有從事“AI復活親人”相關內容的賬號。一個簡介標著“專注AI造夢、AI數字人定制、聲音克隆、AI‘復活’親人視頻、明碼標價”等信息的博主，吸引了三萬多名粉絲。該店提供的AI數字人視頻定制套餐介紹中，價格從99元到1499元。這名博主發布了多條AI視頻，其中一條“用AI克隆技術將去世奶奶‘復活’了”的視頻，盡管畫面單一、AI復制的痕跡較為明顯，但底下也有人詢問如何收費、是否收徒等問題。

　　此外，社交平臺上還有不少人傳授“AI復活親人”的教程，以此賺取流量、賣課程、招收學徒等。

　　“用AI技術簡單‘復活’親人并不難，只要有開源的技術就可以了。當然也需要訓練模型的機器，以及一些時間投入。但想要實現逼真的效果，還是很有挑戰性的。”計算機專業的王先生告訴記者。

　　被騙2億港元！ “AI換臉”詐騙不斷

　　用“AI復活”一搜一大片，“AI換臉”這么容易，也讓人不得不擔心由此可能帶來的詐騙風險。

　　羊城晚報記者注意到，在社交和購物平臺上，有的商家就特別標識，讓照片“開口說話”的AI數字人制作，可以用自己照片，也可以用別人照片。

　　實際上，AI技術應用門檻越來越低，近期多起“AI換臉”詐騙案例，就凸顯了AI技術快速發展背后隱藏的風險。其中，香港警方近期披露的一起多人“AI換臉”詐騙案就令人咋舌，涉案金額高達2億港元。該案件中，一家跨國公司香港分部的職員受邀參加總部首席財務官發起的“多人視頻會議”，并按照要求先后轉賬多次。沒想到，其他“參會人員”都是經過“AI換臉”后的詐騙人員。

　　這也讓更多人意識到，當前，使用AI的深偽技術能達到高還原度的換臉效果，再結合語音偽造技術，就能做到“造人”。種種案件的發生，意味著AI詐騙距離我們并不遙遠。

　　有業內人士就提醒，當用戶將逝去親人的相關信息轉發給商家進行“復活”的時候，也可能讓各種隱私信息被非法收集、交易和利用，并形成相關的黑灰產業鏈。

　　有人用AI“復活”行騙 商家或平臺是否要擔責？

　　人們在享受AI技術紅利的同時，應有所警惕和預判。科技的發展應該在保護個人權益、維護社會法治和確保倫理底線的前提下進行。“AI復活”技術的推廣需要更多的監督和規范，從而防止技術被濫用的情況。

　　如何看待“AI復活親人”相關照片或視頻成為產業鏈？其中會有哪些法律風險？

　　廣東國鼎律師事務所高級合伙人廖建勛律師在接受羊城晚報記者采訪時表示：“AI復活產業鏈的形成，其中一個風險在于涉嫌侵犯死者的人格權。死者的肖像權和名譽權也是受法律保護的。如果未經死者家屬的同意，使用死者的肖像權來進行復活。在這種情況下，死者的家屬可以提起相應的民事訴訟，要求相關的行為人承擔民事責任。另外一個風險在于，有些人可能會刻意利用AI復活人像來進行詐騙活動。”

　　商家如果對死者進行“AI復活”，需要親人提供相關關系證明嗎？復活后的圖像或視頻，是否應加掛AI生成LOGO？對此，廖建勛提到，如果商家要從事類似的商業活動，首先需要行為人提供跟死者相關的親屬關系的基本證明材料。如果沒有親屬證明材料，使用了逝者的肖像，有可能構成侵權。“我們認為，如果在一些平臺去展示這些視頻，或者是使用這個視頻，應當在上面進行顯著的標示，告訴人們這是屬于AI人像。”

　　如果有犯罪分子利用“AI復活某人”行騙乃至犯罪，商家是否需要負責任？平臺有無管理責任？

　　“根據消費者權益保護法第44條規定和電子商務法的相關規定，如果商家明知道某些經營者是利用這種生成的AI人像在做經營活動，或是有可能從事犯罪活動，而不加制止、不采取相應措施的話，那么相關平臺需要承擔相應的民事連帶責任。因此，對于平臺而言，對利用AI生成的人像、復活的人像進行展示、宣傳或者經營活動，它要盡到合理管理的注意義務。”廖建勛說道。

　　AI技術快速發展 法治建設該如何跟上？

　　那么，該如何識別視頻是否由AI技術生成？

　　對于這一問題，計算機專業的王先生告訴記者：“能否識別AI生成的內容，也是業界關注的。”他表示，比如比較常用的一種辦法是利用GAN（生成對抗神經網絡）進行異常檢測。GAN檢測算法通過訓練一個分類器來區分真實圖像和合成圖像，這有助于辨別AI生成的圖片或視頻。此外也可以通過視頻時序一致性檢測、數字特征分析、多模態分析等方式提高檢測的準確性。“現在的情形，其實有點類似博弈——一方想要以假亂真，另一方需要練就火眼金睛。”王先生說道。

　　廖建勛坦言，相對技術的快速發展，法律總是有一定的滯后性。“就目前而言，我們國家法律包括民法典的頒布，相應刑法的相關規定，對這方面民事活動的規范，相對比較完善。對于新技術而言，我們認為需要平臺去履行監管義務，利用好技術為廣大人民群眾服務，而不能成為滋生犯罪的溫床。同時，相關部門要對這類知識應用加大宣傳，引導人們合理合法利用技術。”

　　現階段，利用AI人像進行詐騙活動的案例越來越多，普通人該如何防范詐騙風險？廖建勛建議，普通人碰到用視頻進行詐騙活動的情景，涉及錢財，或是銀行卡密碼的情況下，一定要高度警惕。可以通過針對人像，進行一些特別問題的設置，來辨別這到底是AI人像，還是真實人像。

　　新聞背景

　　AI“復活”引爭議

　　近日，“父親希望AI復活喬任梁視頻盡快下架”登上微博熱搜。針對兒子肖像被侵權使用一事，喬任梁父親表示，不能接受，希望對方盡快下架，“他們未征求我們同意，是我侄女刷到視頻發給我的，這是在揭傷疤”。

　　在相關話題的評論區，有網友表示“這確實對至親之人是一種傷害和冒犯了”，也有人提到“為了博點流量，也真是不擇手段啊，都拿逝者搞上事情了”。此外，關于“AI技術會觸及倫理道德邏輯，正在穿透法律底線，在犯法的邊緣試探。支持制作者向逝去者家屬公開道歉 并支付賠償”“有人打著溫情的名義，趁機做起AI推廣、收費服務……AI技術被濫用，那些違規者不付出代價就離譜！這塊兒空白什么時候補上？”等評論也獲得了諸多點贊。

　　在“你接受用AI復活親人嗎”的話題下，江歌媽媽明確表達了自己的立場：“不接受！不接受！不接受！如果能‘復活’，也僅限于我親自來做這件事！”“你們不懂我們，又憑什么為我們（我與女兒）作決定！”

　　記者注意到，對于“AI復活”親人，有些人表示歡迎態度，也有不少人較為謹慎。接受記者采訪的賈女士就表示：“不能接受。首先，除了涉及肖像權、隱私權等法律風險，我覺得從生命倫理的角度也是不可接受的。接受AI復活技術，也就意味著我們不接受死亡本身。但正視、接受死亡應該是每個人都必須學會的一課，只有敬畏死亡及其帶來的痛苦，我們才有可能更敬畏生命、敬畏當下的生活。”

　　事實上，“AI復活”引發的爭議才剛展開，比如在倫理道德方面，逝者是否應該被“復活”就發人深思。有人認為，基于數據和算法生成的虛擬形象，可能加劇人們對于生死的模糊認知，導致一些人對死亡產生不切實際的幻想。此外，人們應當如何對待被“復活”的親人？他們能擁有自主的意識嗎？怎樣的交流才是“健康”的狀態？這一切又該如何向前發展？“AI復活親人”引發的一系列爭議，仍需要時間做出解答。