只要在APP中上傳一張照片，你想變成哪個(gè)明星，就能變成哪個(gè)明星。聽起來很夢(mèng)幻，但卻觸手可及。近日，一款名為“ZAO”的AI換臉APP在朋友圈刷屏。根據(jù)官方的介紹，利用AI技術(shù)，用戶可以在ZAO軟件上使用自己的照片替換影視劇或者小視頻中的人物，從而生成以自己為主角的視頻。ZAO的口號(hào)為“僅需一張照片，出演天下好戲”。AI換臉效果在視頻中幾乎可以“以假亂真”，一時(shí)間不少網(wǎng)友發(fā)現(xiàn)自己的朋友圈被各種“自己與明星飆戲”的短視頻所刷屏，也吸引了大量網(wǎng)友嘗鮮。其火爆程度從ZAO官方助手在8月30日夜間發(fā)布微博可見一斑：“這個(gè)月花700萬租的服務(wù)器，今晚已經(jīng)消耗1/3了。”

一

但ZAO在走紅的同時(shí)，也引發(fā)了不小的爭議，其用戶協(xié)議不僅讓ZAO可免費(fèi)使用并修改用戶的肖像，還可以將它任意授權(quán)給自己想授權(quán)的第三方，甚至當(dāng)作信息進(jìn)行販賣。這使得大眾對(duì)于AI換臉技術(shù)所帶來的個(gè)人信息泄露風(fēng)險(xiǎn)產(chǎn)生了擔(dān)憂。

9月3日，針對(duì)媒體公開報(bào)道和用戶曝光的“ZAO”APP用戶隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風(fēng)險(xiǎn)等網(wǎng)絡(luò)數(shù)據(jù)安全問題，工業(yè)和信息化部網(wǎng)絡(luò)安全管理局對(duì)其背后的北京陌陌科技有限公司相關(guān)負(fù)責(zé)人進(jìn)行了問詢約談，要求其嚴(yán)格按照國家法律法規(guī)以及相關(guān)主管部門要求，組織開展自查整改，依法依規(guī)收集使用用戶個(gè)人信息，規(guī)范協(xié)議條款，強(qiáng)化網(wǎng)絡(luò)數(shù)據(jù)和用戶個(gè)人信息安全保護(hù)。微信等平臺(tái)也對(duì)ZAO的分享鏈接屏蔽，提示理由為“網(wǎng)頁存在安全風(fēng)險(xiǎn)，被多人投訴”。隨后，因用戶協(xié)議涉嫌過度收集用戶信息及隱私安全爭議，AI換臉軟件ZAO火速發(fā)布致歉聲明，將自己再次送上了微博熱搜。

二

面對(duì)種種爭議和ZAO的道歉，相關(guān)話題也隨即沖上熱搜榜，但由此引發(fā)的隱私保護(hù)爭議和反思并未平息。

AI換臉的背后，其實(shí)也遠(yuǎn)不止泄露公眾隱私這么簡單，技術(shù)被不法分子濫用將會(huì)是AI換臉軟件最大的風(fēng)險(xiǎn)之一。據(jù)資料顯示，早在2017年，國外一位ID為“deepfakes”的網(wǎng)友，利用業(yè)余時(shí)間創(chuàng)造了一個(gè)AI換臉?biāo)惴�，并在國外風(fēng)靡過一段時(shí)間。但“deepfakes”的算法很快被一些人用于明星和色情行業(yè)，許多公眾人物成為受害者，最終在飽受外界爭議的情況下被封殺。

近日，澎湃新聞就報(bào)道了在二手交易平臺(tái)閑魚APP上發(fā)現(xiàn)，有多位賣家通過AI換臉技術(shù)制作出當(dāng)紅女明星的不雅視頻，進(jìn)行售賣的現(xiàn)象。這不僅侵害了被換臉的當(dāng)紅女星的肖像權(quán)，可能構(gòu)成侮辱罪，還對(duì)我國打擊色情產(chǎn)業(yè)工作造成了極其惡劣的負(fù)面影響。

三

對(duì)于新技術(shù)、新事物從來不一刀切，這是我國改革開放以來，“摸著石頭過河”的政府對(duì)于創(chuàng)新給予最大限度的寬容，但AI換臉也讓人們看到了人工智能從“深度學(xué)習(xí)”到“深度偽造”的“作惡”速度如此之快。

當(dāng)然，我們也不能因?yàn)锳I換臉存在，就否定人工智能的技術(shù)進(jìn)步和社會(huì)發(fā)展趨勢(shì)，畢竟技術(shù)進(jìn)步對(duì)于社會(huì)進(jìn)步的意義本身是無可厚非的。但技術(shù)的使用需要底線，這一底線就是不能違背最基本的公序良俗。任何創(chuàng)新也只有在技術(shù)、市場(chǎng)、規(guī)則和法律之間，找到平衡點(diǎn)，趨利避害，才能維持其自身的合理發(fā)展，維持用戶的使用熱度，為技術(shù)注入靈魂，推動(dòng)社會(huì)進(jìn)步發(fā)展。

彭茂洋