甘孜日報 2019年09月12日
近日，一款基于人工智能技術(shù)的“換臉”APP走紅網(wǎng)絡(luò )。使用者只要上傳自己的高清照片，即可將本人面孔與大量影視片段中的明星面孔置換。既可以自己過(guò)明星癮，又可與心愛(ài)偶像“同框”出演，大量年輕用戶(hù)選擇將自己面孔上傳網(wǎng)絡(luò )，“換臉”娛樂(lè )。記者發(fā)現，如此“換臉”，用戶(hù)面部生物特征信息被盜或失控的“丟臉”風(fēng)險不小。該款APP用戶(hù)協(xié)議中載明：用戶(hù)一旦上傳自己的照片進(jìn)行視頻“換臉”，將在全球范圍內完全免費、不可撤銷(xiāo)地將包括人臉照片在內的肖像資料授權給該公司和其關(guān)聯(lián)公司。雖然此后相關(guān)企業(yè)在輿論壓力下，對其用戶(hù)協(xié)議進(jìn)行了部分修改，但風(fēng)險依然存在。
風(fēng)險一“丟臉”能導致“丟錢(qián)”
當前，大部分銀行等金融機構開(kāi)設了人臉識別登陸APP功能。“刷臉”支付甚至是遠程簽約等場(chǎng)景也越來(lái)越多見(jiàn)。如果用戶(hù)的“臉”不安全，“錢(qián)”也將面臨莫大風(fēng)險。
企業(yè)通過(guò)用戶(hù)協(xié)議等手段取得的用戶(hù)面部識別信息面臨被泄露風(fēng)險。據記者了解，今年2月，國內某面部識別公司的數據庫發(fā)生信息安全事故，數百萬(wàn)條個(gè)人信息被泄露；8月，歐洲一家公司發(fā)生大規模信息泄露事件，數百萬(wàn)人面部識別信息被泄露……公眾面部信息被濫用風(fēng)險增大。
記者在一些知名網(wǎng)購平臺輸入“人臉面具”“硅膠頭套”等關(guān)鍵詞，發(fā)現有不少商戶(hù)出售“人臉頭套式面具”，其中一些甚至可以按客戶(hù)提供照片定制。記者獲知，通過(guò)3D打印等技術(shù)，“人臉面具”可以獲得較高仿真度，且面部識別數據越詳實(shí)仿真度越高，對以面部識別信息作為密碼賬戶(hù)的突破力就越強。此前已有人使用3D打印面具通過(guò)某知名網(wǎng)絡(luò )支付平臺面部驗證。
“貿然將自己的清晰正面照上傳并授權他人進(jìn)行存儲或另作他用，關(guān)乎‘錢(qián)袋子’安全。”中央財經(jīng)大學(xué)金融法研究所所長(cháng)黃震認為，目前法律對“AI換臉技術(shù)”規范不足，因此保護好自己的面部信息在當下十分必要。他建議，有關(guān)部門(mén)應加快推廣相關(guān)技術(shù)規范落地應用。
記者從多家已啟用人臉識別功能的金融機構處了解到：當前金融機構設置的人臉識別安全等級高于智能手機相關(guān)功能，但由于不少交易場(chǎng)景中識別標準并不統一，因此風(fēng)險仍在。多名專(zhuān)家建議，用戶(hù)將面部識別設置為財產(chǎn)賬戶(hù)密碼時(shí)，應同時(shí)設置其他驗證辦法，減小風(fēng)險。
風(fēng)險二“丟臉”能導致“丟清白”
當前，“換臉”技術(shù)被用在一些涉嫌違法犯罪領(lǐng)域的情況已不少見(jiàn)。記者發(fā)現一些網(wǎng)站用“AI換臉”“換臉視頻”等方式提供用知名藝人“面孔”“嫁接”出的視頻。這些視頻往往涉嫌色情淫穢，且難辨真假。另外，記者在QQ群和百度貼吧中以“換臉”和“換臉視頻”為關(guān)鍵詞檢索發(fā)現，有不少社交群組打著(zhù)“技術(shù)交流”幌子兜售此類(lèi)“明星換臉”視頻。
知情人告訴記者，除販賣(mài)“換臉”非法音視頻產(chǎn)品牟利外，一些不法分子還利用手中掌握的貸款人人臉信息，以此類(lèi)技術(shù)進(jìn)行非法催收活動(dòng)，直接侵害貸款人人格權、名譽(yù)權，甚至滋生出敲詐勒索等其他嚴重犯罪活動(dòng)。
北京師范大學(xué)網(wǎng)絡(luò )法治國際中心執行主任吳沈括認為，AI“換臉”法律風(fēng)險點(diǎn)多，從現實(shí)案例看，名譽(yù)侵權是高發(fā)問(wèn)題。尤其是惡意拼接制作侮辱性、污蔑性視圖素材或者予以非法傳播、利用的，將對受害人造成的傷害難以及時(shí)發(fā)覺(jué)且極難有效救濟，需要有關(guān)部門(mén)高度關(guān)注、積極預防。他建議，由于該領(lǐng)域技術(shù)性強，相關(guān)企業(yè)眾多，規模大小不一，應強化職能部門(mén)監管力度，杜絕選擇性事后執法，建立全行業(yè)全流程公平監管，依法嚴懲違法違規主體，打造穩定、良性的可預期市場(chǎng)環(huán)境。
風(fēng)險三“丟臉”能導致“被貸款”
有過(guò)網(wǎng)貸申請經(jīng)歷的人對于“點(diǎn)點(diǎn)頭”“搖搖頭”“張張嘴”之類(lèi)的動(dòng)作也許并不陌生。借貸者在錄入身份信息后，網(wǎng)貸機構會(huì )對申請人進(jìn)行“活體檢測”，以確保放款對象為本人，把關(guān)借貸安全。但記者發(fā)現，一些基于相關(guān)技術(shù)的修圖APP能夠“起死回生”，讓靜態(tài)面部照片模仿生物活體“動(dòng)”起來(lái)。
記者使用一款知名修圖軟件，載入一張包含人物面孔的照片后使用其“3D塑顏”的功能，圖片中的人物便能按記者需要完成“上下點(diǎn)頭”和“左右搖頭”等“動(dòng)作”。
在另一款宣傳語(yǔ)為“讓你的照片活過(guò)來(lái)”的APP中，只要載入一張包含人物面孔的照片，就可以一鍵讓照片中的人物“開(kāi)口說(shuō)話(huà)”。記者發(fā)現，使用者還能利用該APP決定說(shuō)話(huà)內容，并可對錄入聲音進(jìn)行聲線(xiàn)處理，調整音色音調，視聽(tīng)感覺(jué)十分逼真。
有業(yè)內人士告訴記者，目前不少網(wǎng)貸機構進(jìn)行“活體檢測”時(shí)仍使用人工審核或技術(shù)含量偏低的機器審核，一旦公眾的面部識別信息被不法分子掌握，用這些黑科技“活”過(guò)來(lái)的面孔，很可能以假亂真，讓不知情者“被網(wǎng)貸”背上巨額債務(wù)。此前“3·15”晚會(huì )上就有人演示用“活”照片成功突破某款手機的“刷臉”登陸系統。記者還發(fā)現，在蘋(píng)果和安卓手機商店中有不少利用AI“換臉”類(lèi)APP供人挑選。
中國信息安全研究院副院長(cháng)左曉棟認為，隨著(zhù)AI“換臉”使用場(chǎng)景更豐富，行業(yè)和監管部門(mén)應當研發(fā)相應的“反換臉”檢測技術(shù)，來(lái)篩選相關(guān)視頻是否由“換臉術(shù)”完成。他建議，要加快建立人工智能算法的安全評估制度，對不同場(chǎng)景下AI“換臉”技術(shù)進(jìn)行評估，解決相關(guān)技術(shù)濫用問(wèn)題。據新華社
記者體驗
40多款人臉APP “霸王”條款屢見(jiàn)不鮮
一夜之間，換臉軟件火了，火到服務(wù)器都扛不住了。在2019世界人工智能大會(huì )上，已經(jīng)有專(zhuān)家指出，人工智能應及時(shí)系上“安全帶”。為了進(jìn)一步印證類(lèi)似的人臉App安全性，記者體驗了40多款涉及人臉信息識別的App，發(fā)現不少問(wèn)題。
記者上傳了一張網(wǎng)絡(luò )照片，并進(jìn)行視頻制作。在等待了1分鐘后，視頻生成。記者選用的替換視頻是瑪麗蓮·夢(mèng)露的幾段影視作品。替換的視頻中，女孩的五官和視頻中的瑪麗蓮·夢(mèng)露融合在一起，表情也很自然。“這個(gè)月花700萬(wàn)租的服務(wù)器，今晚已經(jīng)消耗1/3了。”8月31日晚間，ZAO官方微博發(fā)出這樣一句感嘆。然而，即便如此，這款軟件仍然無(wú)法應對海量用戶(hù)需求。一時(shí)間，“ZAO崩了”迅速成為微博熱點(diǎn)話(huà)題。
記者實(shí)測發(fā)現，8月31日20時(shí)，在平臺上傳照片并點(diǎn)擊“造視頻”，頁(yè)面顯示的是：當前制造任務(wù)已滿(mǎn)，無(wú)法制造；23時(shí)30分，記者用另一個(gè)賬號登錄后，平臺顯示“當前服務(wù)器制造量過(guò)大，請稍后再試。”與此同時(shí)，ZAO在蘋(píng)果手機App Store的免費App排行榜中已經(jīng)飆升至第二名。
次日早上7時(shí)，記者再次嘗試，發(fā)現平臺運行恢復正常。可上午10時(shí)，記者制作視頻時(shí)，服務(wù)器再次顯示“繁忙”，又回歸“累崩”狀態(tài)。
涉及人臉信息識別的App不光有ZAO，記者體驗了40多款涉及人臉信息識別的App后發(fā)現，與ZAO類(lèi)似的“霸王”條款屢見(jiàn)不鮮。這些App中，沒(méi)有一款在注冊登錄頁(yè)有勾選按鈕，都是通過(guò)手機號或者微信等社交媒體賬號注冊。著(zhù)急登陸并試玩用戶(hù)，可能并不清楚一閃而過(guò)的注冊頁(yè)面后，自己接受了哪些“霸王條款”，注冊之后用戶(hù)必須同意授權提供設備信息等權限，才可繼續使用。并且，其中僅有不到10款App的《用戶(hù)協(xié)議》，在協(xié)議開(kāi)頭就人臉信息的收集和使用規范做出特別提示，并在用戶(hù)協(xié)議里設置了有關(guān)人臉信息的條款。
記者還發(fā)現，數十款換臉類(lèi)App根本沒(méi)有《用戶(hù)協(xié)議》和《隱私政策》。
北京晚報
最新消息
