移動(dòng)端


當(dāng)前位置：興旺寶>資訊首頁(yè)> 技術(shù)前沿
閱讀排行 更多
企業(yè)直播 更多
推薦展會(huì) 更多

人臉識(shí)別是AI技術(shù)落地的濫用？

2021-01-08 10:42:52來(lái)源：人工智能實(shí)驗(yàn)室 閱讀量：121 評(píng)論

分享：

　　疫情后，“AI+”成為時(shí)代主旋律。然而，在隱秘的角落，由AI所引發(fā)的安全風(fēng)險(xiǎn)和“黑灰產(chǎn)”問(wèn)題正與日俱增。尤其是人臉識(shí)別，作為AI技術(shù)落地廣泛的場(chǎng)景之一，所面臨的安全、倫理和道德等挑戰(zhàn)愈發(fā)嚴(yán)峻。
 
　　經(jīng)過(guò)近些年的快速發(fā)展，人臉識(shí)別已和智能硬件解鎖、支付，以及公共服務(wù)等身份驗(yàn)證直接綁定在一起。因面部信息的性，以及作為個(gè)人隱私中敏感、重要的組成部分，一旦出現(xiàn)問(wèn)題，將會(huì)對(duì)個(gè)人隱私、公共安全造成巨大威脅，故對(duì)技術(shù)的安全要求和標(biāo)準(zhǔn)相對(duì)更高。
 
　　2017年，一位名為deepfakes的網(wǎng)友將電影中演員的臉替換成好萊塢女星，并將合成視頻在Reddit網(wǎng)站上發(fā)布，引發(fā)熱議，遭到大眾對(duì)技術(shù)濫用的質(zhì)疑。這也為AI“換臉”技術(shù)吸引了一波關(guān)注，DeepFake(深度偽造或深度合成)就此成為該技術(shù)的代名詞，同名算法也在Github上開(kāi)源，導(dǎo)致合成視頻片段大量涌現(xiàn)。
 
　　無(wú)*偶，2019年國(guó)內(nèi)AI換臉工具“ZAO-逢臉造戲”APP。上傳一張照片，就能把諸多明星塑造的角色換成自己的臉，漫威系列的“緋紅女巫”，《泰坦尼克號(hào)》中小李子扮演的“杰克”，或是《喜劇》里的“柳飄飄”。
 
　　只需幾秒，便可跨越AI換臉的高難技術(shù)門(mén)檻，實(shí)現(xiàn)和偶像互動(dòng)飆戲的美夢(mèng)，如APP宣傳語(yǔ)所說(shuō)，“只需一張照片，出演天下好戲”，很難不讓人心動(dòng)。
 
　　DeepFake技術(shù)濫用，引發(fā)擔(dān)憂，也為人臉識(shí)別技術(shù)的應(yīng)用推廣帶來(lái)了巨大風(fēng)險(xiǎn)。據(jù)稱(chēng)，2019年底，硅谷人工智能公司Kneron曾使用DeepFake技術(shù)成功欺騙了支付寶和微信支付，并且順利通過(guò)機(jī)嘗火車(chē)站等自助終端檢驗(yàn)！
 
　　為此，各國(guó)紛紛加強(qiáng)了監(jiān)管措施，譬如，美國(guó)政府公布了《禁止惡意深度偽造法案》、《2019年深度偽造責(zé)任法案》、《2019年深度偽造報(bào)告法案》，旨在通過(guò)限制DeepFake合成技術(shù)，打擊虛假信息的傳播。
 
　　不過(guò)，凡事都有兩面性。盡管早期的Deepfake以*搞、炫技為主要目的，但發(fā)展著發(fā)展著，就被別有用心的群體盯上，以假亂真地制作名人視頻，引發(fā)誤會(huì)。
 
　　對(duì)此，微軟出手打造了視頻鑒真工具，可以讓經(jīng)由Deepfake處理的偽造視頻原形畢露。鑒真工具可進(jìn)行逐幀分析，以驗(yàn)證圖像有無(wú)存在篡改。工具中基于Azure的組件還允許視頻創(chuàng)作者對(duì)圖像添加數(shù)字散列和證書(shū)。隨著AI算法的精進(jìn)，工具不可避免地要被淘汰。
 
　　技術(shù)是中立的，也是雙向發(fā)展的，不會(huì)因?yàn)閼峙嘛L(fēng)險(xiǎn)而停滯不前。對(duì)深度偽造的內(nèi)容不能一竿子打死，很多深度偽造的合成媒體內(nèi)容具有存在的正當(dāng)性，而對(duì)影響安全、公共安全、政治的虛假信息才需要加強(qiáng)監(jiān)管和規(guī)制。
 
　　我們應(yīng)當(dāng)正確看待深度偽造的功能，監(jiān)督引導(dǎo)其正確規(guī)范使用，而深度偽造只是人工智能的其中很小的一個(gè)分支，不能代表人工智能，而深度偽造使用者是人，其本身是無(wú)對(duì)錯(cuò)。對(duì)于愈加復(fù)雜的信息網(wǎng)絡(luò)，閉門(mén)造車(chē)，自掃門(mén)前雪的方式顯然是不經(jīng)濟(jì)的，引導(dǎo)AI對(duì)抗技術(shù)的商業(yè)化落地，是加強(qiáng)網(wǎng)絡(luò)安全的重要途徑之一，也是促進(jìn)AI技術(shù)應(yīng)用和推廣的安全保障。
 
　　原標(biāo)題：人臉識(shí)別是AI技術(shù)落地的濫用？
版權(quán)與免責(zé)聲明：1.凡本網(wǎng)注明“來(lái)源：興旺寶裝備總站”的所有作品，均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-興旺寶合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明“來(lái)源：興旺寶裝備總站”。違反上述聲明者，本網(wǎng)將追究其相關(guān)法律責(zé)任。 2.本網(wǎng)轉(zhuǎn)載并注明自其它來(lái)源（非興旺寶裝備總站）的作品，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)或和對(duì)其真實(shí)性負(fù)責(zé)，不承擔(dān)此類(lèi)作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。其他媒體、網(wǎng)站或個(gè)人從本網(wǎng)轉(zhuǎn)載時(shí)，必須保留本網(wǎng)注明的作品第一來(lái)源，并自負(fù)版權(quán)等法律責(zé)任。 3.如涉及作品內(nèi)容、版權(quán)等問(wèn)題，請(qǐng)?jiān)谧髌钒l(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系，否則視為放棄相關(guān)權(quán)利。
我來(lái)評(píng)論

昵稱(chēng) 驗(yàn)證碼

文明上網(wǎng)，理性發(fā)言。（您還可以輸入200個(gè)字符)

所有評(píng)論僅代表網(wǎng)友意見(jiàn)，與本站立場(chǎng)無(wú)關(guān)

    相關(guān)新聞