Deepfake利用生成對抗網絡(GAN)強大的圖像生成能力,可以將任意的現有圖像和視頻組合并疊加到源圖像和視頻上,它可以記錄一個人面部的細節。經過多年的發展,Deepfake技術已經可以進行實時換臉,并且毫無違和感。
不過,在視頻時, Deepfakes 難以為面部動態表情制作高置信度動畫,視頻中的要么就從不眨眼,或者眨眼過于頻繁或不自然。而且音頻與假人圖像也會配合的不夠自然。
所以這種視頻持續10秒就會讓人懷疑,面試全程時間會比較長,更加容易露出破綻。
科學技術的進步和變革是一把雙刃劍。人工智能技術雖然為我們提供了海量的便利,但同時也可能帶來的安全、倫理、隱私等一系列問題。人工智能發展的本質是通過算法、算力和數據去解決完全信息和結構化環境下的確定性問題。在這個數據支撐的時代,人工智能面臨諸多的安全風險。
人工智能不可避免地會引入網絡連接,人工智能技術本身也能夠提升網絡攻擊的智能化水平,進而進行數據智能竊取和數據勒索攻擊或者自動生成大量虛假威脅情報,對分析系統實施攻擊。