生成式人工智能技術(下文簡稱“生成式AI技術”)的廣泛應用給很多行業帶來了新的市場增長引爆點，但同時，也帶來了偽造賬戶、傳播虛假信息、數據安全等風險。其中，企業最需要關注、防范的風險之一，就是詐騙分子利用生成式AI技術進行深度內容偽造從而實施的新型詐騙(下文簡稱“AI欺詐”)。

全球反洗錢合規和數字身份驗證技術服務商、人工智能企業ADVANCE.AI副總裁崔琦曾指出：“計算機圖像、語音合成等前沿AI技術的快速發展，降低了不法分子盜取、偽造用戶人臉圖像、語音等身份信息進行欺詐的技術門檻，為全球網絡安全埋下了一個重要隱患。”

而對于用戶數量眾多的社交、直播、跨境電商、游戲等在線服務企業，嚴防新型AI欺詐更是需要提上業務管理的日程，因為這些在線服務企業，不僅已經是生成式AI內容傳播的主要渠道，更是成為了被欺詐分子覬覦的“欺詐資源”。

ADVANCE.AI副總裁崔琦表示： “嚴防AI欺詐，各類提供在線服務的企業不僅要確保各項業務的合規運營，還要加強對AI技術應用的自治管理。比如，通過在用戶注冊、登錄環節部署合理的數字化身份欺詐風險防范策略;在業務運營中設置異常用戶行為報告制度;均能夠助力有效識別具有危害性的生成式AI內容，包括但不限于虛假賬戶、偽造產品圖片、惡意輿論等。如果已知有相關風險內容存在時，各類在線服務企業要通過打標簽、權限降級、關停、刪除賬戶等手段積極干預調整。”

01企業加強AI技術應用自治管理的必要性

必要原因一AI欺詐不分地域，正在全球范圍爆發。

詐騙分子常利用AI技術生成的虛假視頻、圖片或聲音，冒充被害人的某個領導、朋友、親戚等熟人身份進行欺詐，因仿真度過高，混淆性極強，導致普通用戶難以分辨，且經常實施遠程詐騙，使得這種欺詐行為在當下的欺詐成功率竟接近100%，給公眾財產安全、信息安全、甚至人身安全都帶來了嚴重威脅。

讓我們了解兩個發生在海外國家的AI欺詐典型案例：

案例一：根據網絡公開信息的講述，詐騙分子通過AI技術偽造了一位德國公司高管的音頻片段，并利用這段偽造的音頻，聯系了該公司在英國分公司的CEO，要求其安排員工給一個匈牙利的賬戶匯款24.3萬美元，欺詐分子利用這段偽造的音頻給英國分公司負責人前后致電了3次電話均未被當事人發覺異常。

案例二：根據海外媒體的報道，詐騙分子通過AI技術偽造了一位美國小孩在異地遭遇困境的聲音和場景，并利用這段偽造音頻聯系了小孩的母親，在確認這位母親已上當且認為自己小孩遇險后，詐騙分子開始勒索，警告這位母親不允許報警，并提出了要給付100萬美元的贖金要求。

必要原因二 針對企業的自動化欺詐顯著增多，防不勝防。

欺詐分子會利用生成式AI技術大規模創建新的身份和賬戶，用虛假賬戶代表獨特的“人”，然后利用這些虛假賬戶發布有關個人、團體或組織的虛假信息、制造惡劣輿論、或冒充他人獲取未經授權的權限，進一步實施犯罪行為。

當下，通過惡意機器人進行的自動化網絡欺詐和攻擊正在顯著增多，表現出來的攻擊趨勢包括:

節假日或特定活動事件發生前后的自動化攻擊顯著增加。

來自移動端設備的惡意請求正在增加。

惡意機器人流量在全網在線流量中的比例增長迅速。

必要原因三 僅有少量國家已針對生成式AI的應用發布監管細則，大多數國家尚未公布專門針對AI技術發展的規制性文件。

面對生成式AI模型的激增和可能帶來的風險，雖然大部分國家的監管部門都已經在啟動監管探索，但當下，僅有少數國家完成了相關監管立法。

然而，AI欺詐具有全球化、跨地域、易于遠程實施等特點，不同地區監管力度和監管方式不一致的客觀情況，極易被欺詐分子所利用，導致欺詐行為難以被問責或被害人的損失難以追討。

因此，嚴防AI欺詐，企業加強自治管理的必要性意義更加凸顯：一方面，在外部監管不確定性較強、不同國家監管現狀差異性較大的情況下，企業能夠通過嚴格的自治管理，切實保障用戶權益和服務運營的穩定性;另一方面，也可以向監管部門傳遞積極的信號，告知監管部門企業可以通過自治的方式有效控制新技術的應用風險，這將有利于數字經濟行業整體的穩定發展。

02 一站式數字身份驗證和風險管理解決方案助力企業自治管理

在企業加強欺詐防范能力的自治管理策略上，ADVANCE.AI推薦可部署的數字化策略包括：

第一, 可以在用戶注冊、登錄環節部署活體檢測和人臉比對等身份驗證工具，可以防范利用偽造身份、虛假身份進行在線欺詐的不法分子。

第二，定制化部署風險評估模型，比如通過用戶的手機號、聯系人手機號、常用郵箱賬戶、常用社交媒體賬戶、IP地址等維度做聚集性關聯分析(若歷史數據足夠可發展關系網絡等)，實時攔截異常注冊或登錄申請，可以防范虛假賬號生成。

而根據社交、直播、跨境電商、游戲等在線服務企業運營海外市場的實際需求和欺詐防范痛點，ADVANCE.AI特別推出了“星鑒”數字身份驗證與風險管理解決方案——這是一套端對端、一站式、可定制化的數字化解決方案，集成了數字身份驗證、無感知風險管理、反洗錢合規三大解決方案業務體系，能夠幫助容易面臨高欺詐風險的企業和金融機構，輕松管理全球用戶、防范欺詐風險、落實反洗錢監管要求、合規管理用戶數據，尤其適合需要開拓東南亞、拉丁美洲、非洲等新興國家市場的企業或金融機構進行選擇。

“星鑒”數字身份驗證與風險管理解決方案部署流程

ADVANCE.AI的“星鑒”解決方案包含的生物識別、人臉比對功能，人像識別精準率超過99%，并特別針對東南亞、拉丁美洲、非洲等地區的用戶使用習慣進行了優化，識別不受當地用戶低配手機攝像頭或驗證環境光照條件的影響，且能夠控制識別響應時速在1秒以內。

同時，ADVANCE.AI的生物識別技術還對用戶戴著帽子、眼鏡或化妝之后進行人臉識別時的驗證效果進行了優化。

ADVANCE.AI的“星鑒”解決方案還包含了活體檢測功能，可以識別部分通過AI工具生成的人臉圖像或視頻，助力防范新型的“AI欺詐”。

目前，ADVANCE.AI的技術服務已助力全球超過700家金融機構和企業提升了其在用戶登錄、注冊環節的身份驗證操作體驗，提高了審核精準度和業務運營的效率和安全，身份驗證產品的API日均調用量達到400萬次，年調用量已接近近20億次。

關于ADVANCE.AI

ADVANCE.AI成立于2016年，是領先的人工智能公司，提供數字轉型、反欺詐和流程自動化等解決方案，已成功服務全球超700家知名企業客戶，聚焦服務行業和領域包括銀行、金融服務、金融科技、支付、零售、電商、物聯網、出行以及共享經濟;總部位于新加坡，并在全球如印尼、印度、菲律賓、馬來西亞和越南等國設有本地客戶支持團隊;隸屬Advance Intelligence Group，其業務覆蓋12個市場，擁有1500名員工，旗下企業和消費者業務共服務超過700家企業客戶、10萬家商戶和2000萬消費者。

免責聲明：市場有風險，選擇需謹慎！此文僅供參考，不作買賣依據。

關鍵詞：