在2024 CES上,McAfee Corp.發布了其人工智能驅動的深度偽造音頻檢測技術——Project Mockingbird,旨在抵御日益猖獗的網絡犯罪分子所采用的新型威脅手段。這些犯罪者利用高度逼真的人工智能生成音頻進行詐騙、盜取個人信息和資產,并通過偽造聲音實施網絡欺凌及操控公眾人物形象。
隨著生成式人工智能工具的日益精進與易用性提升,網絡犯罪世界得以輕易炮制出以假亂真的騙局,如模擬家庭成員求救的語音信息或篡改新聞播報、名人訪談等,以拼接虛假音頻改變原始話語內容,使視聽混淆,真相難辨。在此背景下,McAfee實驗室憑借其創新精神與深厚的安全情報積累,打造了這款人工智能模型,專門訓練用于鑒別AI生成音頻的真實性。
McAfee的“Project Mockingbird”技術巧妙地整合了基于AI的上下文分析、行為特征識別以及分類檢測模型,能夠在視頻中精準定位并識別可能由AI生成的音頻片段。目前,該技術的準確度已高達90%,對惡意制造的“廉價偽造”或深度偽造內容具有偵測與防護能力。
首席技術官Steve Grobman闡述道:“憑借McAfee最新研發的人工智能檢測功能,我們賦予客戶一個精確度超過90%的強大工具,助其深入理解數字世界,評估內容真實性。就好比天氣預報中70%的降雨概率指導你規劃日;顒右粯,我們的技術為你提供洞察能力,讓你能在判斷內容真偽時做出明智決策!
他進一步強調:“這項人工智能檢測技術的應用場景廣泛多元,在當前充斥著AI生成詐騙與虛假信息的時代,對于消費者而言其價值無比珍貴。通過McAfee的深度偽造音頻檢測技術,我們將鑒別真實與偽造的能力直接交到消費者手中,使其能夠從容避開諸如假冒名人發布限時贈品的‘廉價偽造’陷阱,以及確保觀看有關總統候選人的視頻時能即刻識別其為真還是被AI出于惡意而合成。這無疑將人工智能時代的安全防護推向全新高度。我們的目標是助力用戶在面對人工智能驅動的新世界時,能夠清晰明了、自信滿滿地辨識其中微妙差別,全面保護他們的在線隱私、身份安全及福祉!
|