6月9日至10日，在上證指數一度站上3400點的當口，多位財經博主的自媒體賬號遭遇“貍貓換太子”。
有賬號被盜后發布疑似為股市“殺豬盤”引流的廣告，有賬號被盜后開始冒充號主本人和粉絲“一對一”私聊，將粉絲引向詐騙陷阱。
據被盜號者自述，其賬號所屬的企業被偽造的“人臉識別”授權更換了法人，之后再通過法人權限取得了賬號控制權，才有了之后的一系列疑似詐騙舉動。
“代過人臉識別”已經成為一條隱秘的黑灰產產業鏈。多名黑灰產從業者都表示可以代過人臉驗證，價格在560元到1400元不等。
螞蟻集團AI核身安全高級專家崔征兩表示，目前人臉識別被攻破一般有兩種情況，一種是人臉呈現突破風險，也就是通過假臉（3D頭模，面具、高清屏等）惡意攻擊刷臉并成功完成人臉驗證，尤其是3D頭模、高清屏類高端手法；另一種是人臉注入突破風險，通過技術注入手法攻擊刷臉并成功完成人臉驗證，“AIGC發展迅猛，AI換臉改變了攻擊內容的生成方式，被黑灰產利用，為各行業帶來了非常大的挑戰。”
浙江墾丁律師事務所主任律師張延來表示，盜號并群發詐騙信息涉及非法侵入計算機信息系統罪、詐騙罪、侵犯公民個人信息罪。而要堵住這一詐騙“漏洞”，建議引入多重認證機制，以及為企業關鍵信息變更設置“高風險提醒”機制。
560元“包過”人臉識別
通過更換法人更改自媒體賬號控制權成新型詐騙方式
“早上8點左右，我名下的小號突然開始大量群發詐騙信息。”“臨近半夜12點多的時候發現被盜號了，盜號的人發了類似給股市殺豬盤引流的廣告。”
6月10日晚間，“遠方青木”“表舅是養基大戶”等自媒體發文揭露其名下賬號突然遭遇盜號。其中“遠方青木”在文中詳述了其名下小號（粉絲約60萬）被盜始末，表示盜號者通過人臉識別的方式在6月3日讓賬號所在企業的原法人“授權”更換了新法人，最終在6月10日凌晨1點左右重置了賬號密碼，并在8點左右群發了詐騙信息。
在這一流程中，最關鍵的更換法人信息的系統如此容易“被攻破”嗎？
一名黑灰產從業者表示“可以通過工商人臉驗證，收費560元，先款后做。”對于提出的疑問“如果過不了怎么辦？”對方表示“包過！”另一名黑灰產從業者則表示可以采用擔保交易通過工商人臉識別系統，其采用擔保交易，收費200USDT（一種掛鉤美元的虛擬幣）。還有人報價5000元兜售“可以通過工商人臉識別的技術”。
一些黑灰產從業者甚至在宣傳中明確指出了具體的地方政務系統，包括浙里辦、豫事辦、海易辦等，并表示“基本（攻破）政務都沒問題”。
而在其展示的一個通過人臉驗證的演示視頻中，生成出的人臉在極短的時間內可以做出諸如“搖頭”“張嘴”“眨眼”等動作。而在重復兩次人臉識別后，該虛擬人臉恰好“對上”了人臉識別系統要求的“搖頭”指令，成功通過人臉測試。
黑灰產平臺發布的廣告以及“過人臉”測試視頻。
有熟悉財稅行業的人士表示，上述黑灰產已經形成一個成熟的產業鏈，“你甚至能在一些財稅所里找到寫有‘解決工商變更法人股東失聯處理’的廣告。”
之前此類變更的目的更多表現在不知情者“被法人”，以及代領營業執照等行為上，而在本次的案例中，通過更換法人更改自媒體賬號控制權成了一個新穎的詐騙方式。有網友在6月11日表示，“我關注的很多財經號都發了類似信息，主要是引導下載新的App。”
崔征兩告表示，黑灰產通過不法手段獲得包括人臉和證件等用戶信息，進一步地，通過AIGC算法生成一段符合驗證要求的真人活體臉的圖片和視頻，視頻里包含簡單的認證動作，比如張嘴搖頭等。生成符合驗證的視頻后，攻擊者通過攻破手機系統，劫持攝像頭或者控制人臉鏈路的方式，直接注入人臉系統中突破人臉驗證。身份類證件，如身份證以及營業執照等，都可以通過類似的方式進行突破。
可見，此類詐騙手法涉及公眾號賬號主體公司股東、法人的身份信息泄露，攻破人臉識別系統，以及找到法人頂替者三塊“灰色地帶”，而且已經有了成熟的產業鏈。
“繞過或破解了政務系統的人臉識別驗證流程，本質上屬于非法侵入或操控國家機關計算機系統，觸及非法侵入計算機信息系統罪；向公眾群發詐騙信息，誘騙他人轉賬或支付，涉嫌構成詐騙罪；非法收集、使用、買賣企業法人的人臉信息、身份證信息、聯系方式等個人信息，則也可能觸犯《中華人民共和國刑法》第二百五十三條侵犯公民個人信息罪。”張延來表示。
深度偽造算法與安全防御算法相互博弈
專家：人臉識別驗證機制過于單一 建議引入多重認證機制
網絡安全研究專家、北京漢華飛天信安科技有限公司總經理彭根表示，這類事件的發生主要是由于AI技術使得虛擬“人臉”越來越真實，“現在我們的人臉識別技術在和AI做對抗，識別真偽越來越難，堵住這樣的漏洞只能依靠技術升級。”
國家網信辦此前發布的《人臉識別技術應用安全管理規定（試行）（征求意見稿）》明確，人臉識別技術使用者應當每年對圖像采集設備、個人身份識別設備的安全性和可能存在的風險進行檢測評估，并根據檢測評估情況改進安全策略，調整置信度閾值，采取有效措施保護圖像采集設備、個人身份識別設備免受攻擊、侵入、干擾和破壞。
螞蟻數科安全總監王磊表示，黑產團伙往往通過非法渠道購買公民隱私信息（如身份證號、人臉照片），用AI生成虛假人臉活體視頻、劫持攝像頭篡改采集內容，來達到欺騙平臺（如進行賬戶盜用）的目的，“螞蟻數科在服務外部機構身份安全的實戰中發現，某些機構遭遇Deepfake（深度偽造）攻擊濃度超千分之3，且黑產團伙持續保持活躍。”
在王磊看來，深度偽造算法與安全防御算法，是一個相互博弈的過程，“我們建議網絡平臺建立具備實時安全對抗能力的人臉識別系統，及時采集新型攻擊手段，人臉識別的模型需要高效更新反制手段。此外，網絡平臺需要有完善的業務風控策略，從注冊、登錄、業務開通或支付等環節多層次監控，警惕異地登錄、設備更換等異常行為。”
6月13日，有平臺方表示下一步也在考慮升級相關的技術驗證手段，以遏制黑灰產。
除了技術升級外，增加除了人臉識別外的多重防控系統以及在政務平臺設置“高風險提醒機制”也是可供選擇的解決手段。
崔征兩表示，應對人臉識別風險，一般的防護措施是建立多重防控體系。其中包括：首先，對手機和鏈路的加固與防控，防止或者檢測到攻擊者對設備和鏈路的攻擊；其次，研發應對deepfake的能力，應對deepfake攻擊；同時，進行多因子的校驗，人臉之外，可以增加短信、當時網絡環境、是否為本人常用設備等手段多重驗證；最后，人臉識別的安全防控不是單一的算法，而是一套嚴謹周密、持續演進的防御系統，因此需要建立基于人的行為偏好等數據的多維風控體系。
奇安信集團行業安全研究中心主任裴智勇表示，人臉和指紋都屬于生物識別的范疇，它們都具有可以復制的特點，但在網絡驗證中，它們并不是一個特別安全的密鑰，“我們在實驗中發現，雖然使用電腦生成的3D圖像，跟真人對比有很大失真，但這種圖像是專門針對某個人臉識別系統做的，識別系統需要什么數值，圖像反饋出相應的數值，就能騙過人臉識別的系統。”他建議，使用人臉識別技術應加入其他的驗證手段進行輔助，比如常見的短信驗證、電話驗證或大數據驗證，這樣相對更安全。
張延來也表示，人臉識別驗證機制過于單一，建議引入多重認證機制，如結合動態短信驗證碼+人臉識別+歷史設備登錄行為等。
他還建議，企業關鍵信息變更可設置“高風險提醒”機制，“所有與賬號綁定的企業主體在工商層面如有重大變更（法人、股東、對公電話等），應通過短信、App彈窗等渠道提醒現有企業成員及平臺方；網絡平臺在系統檢測到‘企業主體發生重大變更’且存在異常可能時，可以啟動人工審核機制。”
（來源：新京報）
掃一掃分享本頁
