移動端


當(dāng)前位置：興旺寶>資訊首頁> 技術(shù)前沿

人臉識別是AI技術(shù)落地的濫用？

2021-01-08 10:42:52來源：人工智能實驗室 閱讀量：94 評論

分享：

導(dǎo)讀：人臉識別，作為AI技術(shù)落地廣泛的場景之一，所面臨的安全、倫理和道德等挑戰(zhàn)愈發(fā)嚴(yán)峻。

　　疫情后，“AI+”成為時代主旋律。然而，在隱秘的角落，由AI所引發(fā)的安全風(fēng)險和“黑灰產(chǎn)”問題正與日俱增。尤其是人臉識別，作為AI技術(shù)落地廣泛的場景之一，所面臨的安全、倫理和道德等挑戰(zhàn)愈發(fā)嚴(yán)峻。
 
　　經(jīng)過近些年的快速發(fā)展，人臉識別已和智能硬件解鎖、支付，以及公共服務(wù)等身份驗證直接綁定在一起。因面部信息的性，以及作為個人隱私中敏感、重要的組成部分，一旦出現(xiàn)問題，將會對個人隱私、公共安全造成巨大威脅，故對技術(shù)的安全要求和標(biāo)準(zhǔn)相對更高。
 
　　2017年，一位名為deepfakes的網(wǎng)友將電影中演員的臉替換成好萊塢女星，并將合成視頻在Reddit網(wǎng)站上發(fā)布，引發(fā)熱議，遭到大眾對技術(shù)濫用的質(zhì)疑。這也為AI“換臉”技術(shù)吸引了一波關(guān)注，DeepFake(深度偽造或深度合成)就此成為該技術(shù)的代名詞，同名算法也在Github上開源，導(dǎo)致合成視頻片段大量涌現(xiàn)。
 
　　無*偶，2019年國內(nèi)AI換臉工具“ZAO-逢臉造戲”APP。上傳一張照片，就能把諸多明星塑造的角色換成自己的臉，漫威系列的“緋紅女巫”，《泰坦尼克號》中小李子扮演的“杰克”，或是《喜劇》里的“柳飄飄”。
 
　　只需幾秒，便可跨越AI換臉的高難技術(shù)門檻，實現(xiàn)和偶像互動飆戲的美夢，如APP宣傳語所說，“只需一張照片，出演天下好戲”，很難不讓人心動。
 
　　DeepFake技術(shù)濫用，引發(fā)擔(dān)憂，也為人臉識別技術(shù)的應(yīng)用推廣帶來了巨大風(fēng)險。據(jù)稱，2019年底，硅谷人工智能公司Kneron曾使用DeepFake技術(shù)成功欺騙了支付寶和微信支付，并且順利通過機嘗火車站等自助終端檢驗！
 
　　為此，各國紛紛加強了監(jiān)管措施，譬如，美國政府公布了《禁止惡意深度偽造法案》、《2019年深度偽造責(zé)任法案》、《2019年深度偽造報告法案》，旨在通過限制DeepFake合成技術(shù)，打擊虛假信息的傳播。
 
　　不過，凡事都有兩面性。盡管早期的Deepfake以*搞、炫技為主要目的，但發(fā)展著發(fā)展著，就被別有用心的群體盯上，以假亂真地制作名人視頻，引發(fā)誤會。
 
　　對此，微軟出手打造了視頻鑒真工具，可以讓經(jīng)由Deepfake處理的偽造視頻原形畢露。鑒真工具可進行逐幀分析，以驗證圖像有無存在篡改。工具中基于Azure的組件還允許視頻創(chuàng)作者對圖像添加數(shù)字散列和證書。隨著AI算法的精進，工具不可避免地要被淘汰。
 
　　技術(shù)是中立的，也是雙向發(fā)展的，不會因為懼怕風(fēng)險而停滯不前。對深度偽造的內(nèi)容不能一竿子打死，很多深度偽造的合成媒體內(nèi)容具有存在的正當(dāng)性，而對影響安全、公共安全、政治的虛假信息才需要加強監(jiān)管和規(guī)制。
 
　　我們應(yīng)當(dāng)正確看待深度偽造的功能，監(jiān)督引導(dǎo)其正確規(guī)范使用，而深度偽造只是人工智能的其中很小的一個分支，不能代表人工智能，而深度偽造使用者是人，其本身是無對錯。對于愈加復(fù)雜的信息網(wǎng)絡(luò)，閉門造車，自掃門前雪的方式顯然是不經(jīng)濟的，引導(dǎo)AI對抗技術(shù)的商業(yè)化落地，是加強網(wǎng)絡(luò)安全的重要途徑之一，也是促進AI技術(shù)應(yīng)用和推廣的安全保障。
 
　　原標(biāo)題：人臉識別是AI技術(shù)落地的濫用？
版權(quán)與免責(zé)聲明：1.凡本網(wǎng)注明“來源：興旺寶裝備總站”的所有作品，均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-興旺寶合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明“來源：興旺寶裝備總站”。違反上述聲明者，本網(wǎng)將追究其相關(guān)法律責(zé)任。 2.本網(wǎng)轉(zhuǎn)載并注明自其它來源（非興旺寶裝備總站）的作品，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點或和對其真實性負(fù)責(zé)，不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。其他媒體、網(wǎng)站或個人從本網(wǎng)轉(zhuǎn)載時，必須保留本網(wǎng)注明的作品第一來源，并自負(fù)版權(quán)等法律責(zé)任。 3.如涉及作品內(nèi)容、版權(quán)等問題，請在作品發(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系，否則視為放棄相關(guān)權(quán)利。
我來評論

昵稱 驗證碼

文明上網(wǎng)，理性發(fā)言。（您還可以輸入200個字符)

所有評論僅代表網(wǎng)友意見，與本站立場無關(guān)

    相關(guān)新聞

    • 隱藏在眼睛里的市場，虹膜識別喜迎百億藍(lán)海！

      隨著人工智能不斷走熱，生物識別技術(shù)備受關(guān)注。尤其是2020年以來，在疫情無接觸因素影響下，生物識別技術(shù)更是成為生產(chǎn)生活防疫關(guān)鍵。
      2021-12-30 09:17:19    234
      生物識別

    • 《親愛的》原型已找到 淺談背后的人臉識別技術(shù)

      對于人臉識別技術(shù)，我們還是應(yīng)該抱有一定希望的，相信隨著新興技術(shù)不斷升級，法律法規(guī)不斷強化，人臉識別技術(shù)會“帶”更多「親愛的」小孩回家。
      2021-12-22 09:20:03    265
      人臉識別生物識別

    • “國檢”來了！人臉識別系統(tǒng)安全首批測評開啟

      隨著人工智能技術(shù)近年來的爆發(fā)式發(fā)展，人臉識別已逐漸成為人們生活中的“標(biāo)配”，刷臉支付、刷臉打卡、刷臉開門……在給生活帶來便利的同時，其自身的安全性問題也給用戶帶來擔(dān)憂和不安。
      2021-11-26 09:51:51    273
      生物識別