AI詐騙全國爆發(fā)，奇安信：技術監(jiān)管雙管齊下守住安全紅線
摘要： AI詐騙430萬登上熱搜第一，奇安信提供深偽鑒別技術遏制詐騙
最近，#AI詐騙正在全國爆發(fā)#的話題沖上微博熱搜第一，引發(fā)了網(wǎng)友廣泛關注。
據(jù)“平安包頭”微信公眾號消息，近日，包頭市公安局電信網(wǎng)絡犯罪偵查局發(fā)布一起使用智能AI技術進行電信詐騙 的案件，福州市某科技公司法人代表郭先生10分鐘內被騙430萬元 。該騙子通過智能AI換臉和擬聲技術 ，佯裝好友對他實施了詐騙。
另據(jù)湖北網(wǎng)警巡查執(zhí)法5月6日消息，AI技術正在改變詐騙模式，新騙局來襲后，詐騙成功率竟接近100%。
AI詐騙猖獗已久，深偽鑒別技術成為遏制武器
前兩年，中年婦女迷戀短視頻平臺上的“假靳東”事件，讓人記憶猶新。隨著技術的發(fā)展，不法分子已經(jīng)可以通過深度合成AI技術,進行變聲、變臉的“深度偽造”，讓“假靳東”們更加逼真，難以辨別真假，進行新型詐騙。合肥警方在“凈網(wǎng)2021”專項行動中打掉一個利用深度合成技術進行犯罪的團伙，不法分子把一張照片輸入軟件，只要數(shù)十秒就能生成人臉動態(tài)視頻，能做“張嘴、眨眼、搖頭”等指令性動作，還能實時念數(shù)字，這一個團伙就掌握了十幾個G的人臉數(shù)據(jù),為黑灰產(chǎn)業(yè)鏈提供注冊手機卡等技術支撐。
去年3月，俄烏沖突不久，一則烏克蘭總統(tǒng)澤連斯基宣布投降的AI“深度偽造”視頻，出現(xiàn)在社交媒體平臺，隨后被瘋傳，造成嚴重影響。
對此，奇安信人工智能研究院負責人表示，目前流行的AI詐騙常用手法，主要分為兩大類：第一種是聲音合成的語音詐騙，國外某公司公布的最新報告顯示，基于人工智能（AI）的語音詐騙日益猖獗，在接到詐騙電話的群體中，77% 的人會導致經(jīng)濟損失；第二類就是AI換臉，就是騙子在視頻通話中利用AI換臉，騙取信任。在此基礎之上，現(xiàn)在的技術已經(jīng)可以演進為兩種方式的多模態(tài)融合，并可能成為未來的主流AI詐騙方式。
該負責人認為，相對于單純的聲音合成，融合了視頻合成（如AI換臉）+音頻合成的新型詐騙模式，更易取得對方信任，成功率更高、危害更大。因為騙子用AI技術換臉，可以偽裝成任何人，再通過視頻方式進行信息確認。但同時，人臉識別的鑒別門檻更高、難度更大，從技術角度，更難防范。
據(jù)介紹，深度偽造技術泛指用AI的方法偽造圖像/視頻、語音、文本的技術，但目前影響最廣泛的還是人臉圖像/視頻合成的技術，其中最具代表性的兩個方向即人臉重演偽造和人臉替換偽造。尤其是深度偽造技術的迅速發(fā)展，在帶來娛樂性的同時，也為經(jīng)濟犯罪、軍事欺騙、甚至恐怖主義行動等提供了新工具，給政治安全、經(jīng)濟安全、社會安全等領域帶來了諸多風險。在這樣的情形下，深偽鑒別也在如火如荼地發(fā)展中。
為此，奇安信通過在人工智能安全領域的多年不斷投入，基于自身積累海量知識和大數(shù)據(jù)，在深度偽造、深度鑒偽等技術取得了突破進展，已經(jīng)能夠準確識別數(shù)十種前沿偽造技術生成的虛假視頻，可以成為防止AI換臉詐騙等人工智能生成虛假信息的有力武器。
AI技術濫用亟待強化監(jiān)管落地
AI詐騙橫行，技術固然重要，但法律法規(guī)的強力監(jiān)管，更是必不可少。目前，國內相關部門及企業(yè)，已經(jīng)高度重視AI技術濫用導致的風險，并推出了監(jiān)管措施。
去年12月，國家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，明確了合成數(shù)據(jù)和技術管理規(guī)范。其中提到：深度合成服務提供者對使用其服務生成或編輯的信息內容，應當添加不影響使用的標識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。
4月初，國家網(wǎng)信辦起草了《生成式人工智能服務管理辦法（征求意見稿）》，向社會公開征求意見，旨在促進生成式人工智能技術健康發(fā)展和規(guī)范應用
不久前，抖音平臺發(fā)布了“關于人工智能生成內容的平臺規(guī)范暨行業(yè)倡議”，明確禁止利用生成式人工智能技術創(chuàng)作、發(fā)布侵權內容，包括但不限于肖像權、知識產(chǎn)權等，一經(jīng)發(fā)現(xiàn)，平臺將嚴格處罰。
奇安信安全專家表示，網(wǎng)絡不安全，生活不踏實，人工智能勢不可擋，解決人工智能安全難題的最好辦法，還是需要技術和監(jiān)管雙管齊下。目前，奇安信正在基于AI技術和自身積累的海量安全知識和數(shù)據(jù)，訓練奇安信專有的類ChatGPT安全大模型。預計將廣泛應用于安全產(chǎn)品開發(fā)、威脅檢測、漏洞挖掘、安全運營及自動化、攻防對抗、反病毒、威脅情報分析和運營、涉網(wǎng)犯罪分析等領域。
據(jù)“平安包頭”微信公眾號消息，近日，包頭市公安局電信網(wǎng)絡犯罪偵查局發(fā)布一起使用智能AI技術進行電信詐騙 的案件，福州市某科技公司法人代表郭先生10分鐘內被騙430萬元 。該騙子通過智能AI換臉和擬聲技術 ，佯裝好友對他實施了詐騙。
另據(jù)湖北網(wǎng)警巡查執(zhí)法5月6日消息，AI技術正在改變詐騙模式，新騙局來襲后，詐騙成功率竟接近100%。
AI詐騙猖獗已久，深偽鑒別技術成為遏制武器
前兩年，中年婦女迷戀短視頻平臺上的“假靳東”事件，讓人記憶猶新。隨著技術的發(fā)展，不法分子已經(jīng)可以通過深度合成AI技術,進行變聲、變臉的“深度偽造”，讓“假靳東”們更加逼真，難以辨別真假，進行新型詐騙。合肥警方在“凈網(wǎng)2021”專項行動中打掉一個利用深度合成技術進行犯罪的團伙，不法分子把一張照片輸入軟件，只要數(shù)十秒就能生成人臉動態(tài)視頻，能做“張嘴、眨眼、搖頭”等指令性動作，還能實時念數(shù)字，這一個團伙就掌握了十幾個G的人臉數(shù)據(jù),為黑灰產(chǎn)業(yè)鏈提供注冊手機卡等技術支撐。
去年3月，俄烏沖突不久，一則烏克蘭總統(tǒng)澤連斯基宣布投降的AI“深度偽造”視頻，出現(xiàn)在社交媒體平臺，隨后被瘋傳，造成嚴重影響。
對此，奇安信人工智能研究院負責人表示，目前流行的AI詐騙常用手法，主要分為兩大類：第一種是聲音合成的語音詐騙，國外某公司公布的最新報告顯示，基于人工智能（AI）的語音詐騙日益猖獗，在接到詐騙電話的群體中，77% 的人會導致經(jīng)濟損失；第二類就是AI換臉，就是騙子在視頻通話中利用AI換臉，騙取信任。在此基礎之上，現(xiàn)在的技術已經(jīng)可以演進為兩種方式的多模態(tài)融合，并可能成為未來的主流AI詐騙方式。
該負責人認為，相對于單純的聲音合成，融合了視頻合成（如AI換臉）+音頻合成的新型詐騙模式，更易取得對方信任，成功率更高、危害更大。因為騙子用AI技術換臉，可以偽裝成任何人，再通過視頻方式進行信息確認。但同時，人臉識別的鑒別門檻更高、難度更大，從技術角度，更難防范。
據(jù)介紹，深度偽造技術泛指用AI的方法偽造圖像/視頻、語音、文本的技術，但目前影響最廣泛的還是人臉圖像/視頻合成的技術，其中最具代表性的兩個方向即人臉重演偽造和人臉替換偽造。尤其是深度偽造技術的迅速發(fā)展，在帶來娛樂性的同時，也為經(jīng)濟犯罪、軍事欺騙、甚至恐怖主義行動等提供了新工具，給政治安全、經(jīng)濟安全、社會安全等領域帶來了諸多風險。在這樣的情形下，深偽鑒別也在如火如荼地發(fā)展中。
AI技術濫用亟待強化監(jiān)管落地
AI詐騙橫行，技術固然重要，但法律法規(guī)的強力監(jiān)管，更是必不可少。目前，國內相關部門及企業(yè)，已經(jīng)高度重視AI技術濫用導致的風險，并推出了監(jiān)管措施。
去年12月，國家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，明確了合成數(shù)據(jù)和技術管理規(guī)范。其中提到：深度合成服務提供者對使用其服務生成或編輯的信息內容，應當添加不影響使用的標識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。
4月初，國家網(wǎng)信辦起草了《生成式人工智能服務管理辦法（征求意見稿）》，向社會公開征求意見，旨在促進生成式人工智能技術健康發(fā)展和規(guī)范應用
不久前，抖音平臺發(fā)布了“關于人工智能生成內容的平臺規(guī)范暨行業(yè)倡議”，明確禁止利用生成式人工智能技術創(chuàng)作、發(fā)布侵權內容，包括但不限于肖像權、知識產(chǎn)權等，一經(jīng)發(fā)現(xiàn)，平臺將嚴格處罰。
奇安信安全專家表示，網(wǎng)絡不安全，生活不踏實，人工智能勢不可擋，解決人工智能安全難題的最好辦法，還是需要技術和監(jiān)管雙管齊下。目前，奇安信正在基于AI技術和自身積累的海量安全知識和數(shù)據(jù)，訓練奇安信專有的類ChatGPT安全大模型。預計將廣泛應用于安全產(chǎn)品開發(fā)、威脅檢測、漏洞挖掘、安全運營及自動化、攻防對抗、反病毒、威脅情報分析和運營、涉網(wǎng)犯罪分析等領域。
詳情請關注安在新媒體，一家信息安全領域媒體，以“做有內涵的泛黑客媒體”為方向，線上通過自媒體，采訪網(wǎng)絡安全領域人物梳理行業(yè)脈絡，通過介紹他們的經(jīng)歷、感悟、對行業(yè)的看法等來剖析網(wǎng)絡安全發(fā)展的脈絡；致力于建立完整的信息發(fā)布矩陣，覆蓋微信、微博、知乎等主流自媒體渠道。
官網(wǎng)：http://anzerclub.com/
市場部聯(lián)系（廠商）：徐倩（微信：Madeline_Sue）
市場部聯(lián)系（甲方）：Tina（微信：xuqingqing823125689 ）及 Enco（微信：Anzer10）