(相關資料圖)

7月10日，DeepFake，一種能生成特定人物照片、視頻及音頻的AI模型，因其生成的信息能輕松繞過各種企業機構的識別系統，引發了許多黑產活動。如何更精準地辨識DeepFake生成的內容，成為了當前的難題。 加拿大滑鐵盧大學的兩名研究人員AndreKassis與UrsHengartner研發出了一款新型語音DeepFake軟件，該軟件使用機器學習技術，只需5分鐘的人聲錄音，就能模擬出極其逼真的人聲，成功欺騙語音認證系統的概率高達99%。在語音認證注冊過程中，系統會要求用戶重復一個特定的短語或句子，并根據用戶的聲音提取聲紋（語音指紋）存儲在服務器。當用戶嘗試進行身份驗證時，系統將提示用戶說出不同的短語，并將提取的特征與系統中存儲的語音指紋進行比較，以確定是否應授予訪問權限。 對于這款新型語音DeepFake軟件，其他安全研究人員也開始采取應對措施，例如某公司的研究人員嘗試檢查語音樣本，以判斷樣本的真實性。然而，Kassis與Hengartner卻找到了一種方法，可以辨識并自動移除合成語音中的AI特征段落，使系統無法區分。 另一方面，專門開發語音身份認證安全機制的Pindrop認為，這一機制并不穩妥。他們指出，雖然攻擊方可以移除生成的語音片段中具有AI特征的段落，但防守方可以從多角度判斷音頻文段的真實性，例如檢測IP地址、要求提供特定的語音信息等，因此依然可以檢測出使用DeepFake的攻擊者。 然而，Pindrop的研究人員同時指出，現有用來對抗Deepfake語音的系統存在許多缺陷，打造安全系統的唯一方式是像黑客一樣思考。他們建議，那些只依賴語音進行身份認證的企業，應該部署額外的認證措施，以防止企業受到詐騙，導致經濟損失。