人工智能對(duì)電信網(wǎng)絡(luò)詐騙治理的影響

前言：想要寫出一篇引人入勝的文章？我們特意為您整理了人工智能對(duì)電信網(wǎng)絡(luò)詐騙治理的影響范文，希望能給你帶來靈感和參考，敬請(qǐng)閱讀。

摘要:人工智能技術(shù)快速發(fā)展為推進(jìn)電信網(wǎng)絡(luò)詐騙治理智能化、精準(zhǔn)化提供了新機(jī)遇，同時(shí)也被詐騙分子惡意利用給治理工作帶來新挑戰(zhàn)。系統(tǒng)梳理人工智能技術(shù)在電信網(wǎng)絡(luò)詐騙治理工作中的應(yīng)用實(shí)踐，剖析其不當(dāng)使用為治理工作帶來的風(fēng)險(xiǎn)挑戰(zhàn)，在總結(jié)國(guó)內(nèi)外治理措施基礎(chǔ)上，研究提出思路建議。

關(guān)鍵詞:人工智能;電信網(wǎng)絡(luò);詐騙治理

1引言

在電信網(wǎng)絡(luò)詐騙治理領(lǐng)域，人工智能技術(shù)“雙刃劍”效應(yīng)明顯，治理與詐騙技術(shù)對(duì)抗日趨激烈。一方面，人工智能技術(shù)不斷促進(jìn)治理能力提升。一些機(jī)構(gòu)和企業(yè)積極利用大數(shù)據(jù)分析、機(jī)器學(xué)習(xí)等人工智能技術(shù)開展詐騙治理和風(fēng)險(xiǎn)防控工作，技術(shù)識(shí)別準(zhǔn)確度更高、監(jiān)測(cè)攔截實(shí)時(shí)性更強(qiáng)、防護(hù)覆蓋面更大，有效降低了詐騙風(fēng)險(xiǎn)與危害。另一方面，人工智能技術(shù)被惡意利用帶來風(fēng)險(xiǎn)隱患。詐騙分子積極利用人工智能技術(shù)精準(zhǔn)篩選受騙者、精心設(shè)計(jì)詐騙腳本、偽造高仿真詐騙信息，使得詐騙呈現(xiàn)成本低、花樣新、波及廣等特點(diǎn)，隱蔽性、復(fù)雜性、迷惑性增加，引起社會(huì)的關(guān)注和擔(dān)憂。

2人工智能給電信網(wǎng)絡(luò)詐騙治理帶來的機(jī)遇與挑戰(zhàn)

2．1機(jī)遇大數(shù)據(jù)分析、機(jī)器學(xué)習(xí)、知識(shí)圖譜等人工智能技術(shù)已被廣泛應(yīng)用于電信網(wǎng)絡(luò)詐騙電話檢測(cè)、惡意網(wǎng)址攔截等場(chǎng)景中，有效降低人力支出，快速發(fā)現(xiàn)疑似詐騙行為，極大地提高了詐騙治理工作的效率和質(zhì)量［1-3］。

2.1.1詐騙電話檢測(cè)利用大數(shù)據(jù)分析、模式識(shí)別等技術(shù)進(jìn)行全天候詐騙電話檢測(cè)，對(duì)海量通信數(shù)據(jù)進(jìn)行預(yù)處理、多維融合、分析研判、交叉比對(duì)和模式識(shí)別。例如，中國(guó)電信“天翼藍(lán)盾”反詐平臺(tái)，針對(duì)“手機(jī)黑卡”大規(guī)模大范圍提前預(yù)警的難題，對(duì)網(wǎng)絡(luò)前后端融合數(shù)據(jù)智能分析，實(shí)現(xiàn)預(yù)付費(fèi)卡在詐騙重點(diǎn)區(qū)域漫游動(dòng)態(tài)監(jiān)測(cè)、數(shù)據(jù)分析并快速處置高危涉詐號(hào)碼。

2.1.2惡意網(wǎng)址攔截基于數(shù)據(jù)樣本庫(kù)，利用機(jī)器學(xué)習(xí)算法和大數(shù)據(jù)平臺(tái)對(duì)海量網(wǎng)址進(jìn)行特征比對(duì)檢測(cè)、頁面相似度分析，發(fā)現(xiàn)攔截疑似涉詐網(wǎng)址。例如，騰訊安全云庫(kù)建立實(shí)時(shí)更新的網(wǎng)址黑白樣本庫(kù)，根據(jù)不同的應(yīng)用場(chǎng)景不斷調(diào)整和適配算法，最終選取準(zhǔn)確率高的機(jī)器學(xué)習(xí)模型，在保證及時(shí)性的同時(shí)，也能達(dá)到較好的識(shí)別準(zhǔn)確率。

2.1.3詐騙信息審核通過對(duì)已知詐騙信息的不斷學(xué)習(xí)，結(jié)合自然語言處理、計(jì)算機(jī)視覺和語音識(shí)別等技術(shù)，可以實(shí)時(shí)分析并判斷信息的可靠性，及早識(shí)別出涉詐或偽造內(nèi)容。例如，360應(yīng)龍綜合反詐平臺(tái)對(duì)疑似詐騙的文本、圖片、賬號(hào)等信息進(jìn)行識(shí)別分類，在單省份一天能有效識(shí)別攔截虛假涉詐信息近70萬條。

2.1.4受害者發(fā)現(xiàn)預(yù)警基于涉詐號(hào)碼黑灰名單庫(kù)等信息，人工智能模型算法能夠?qū)τ脩舻漠悇?dòng)情況進(jìn)行快速分析處理，進(jìn)而以自動(dòng)外呼、發(fā)送預(yù)警短信、閃信等方式向疑似受害用戶進(jìn)行及時(shí)提示提醒。例如，阿里錢盾反詐公益平臺(tái)不斷更新迭代預(yù)警模型，形成自動(dòng)化的詐騙行為和受害用戶的及時(shí)發(fā)現(xiàn)預(yù)警能力。

2.1.5詐騙團(tuán)伙研判分析基于知識(shí)圖譜和分類聚類算法，詐騙團(tuán)伙識(shí)別模型能夠?qū)㈦x散的單點(diǎn)舉報(bào)聚類成可疑詐騙團(tuán)伙。例如，中國(guó)移動(dòng)基于隨機(jī)森林算法開發(fā)涉詐人群精準(zhǔn)識(shí)別系統(tǒng)，對(duì)高危用戶、販卡用戶、異常終端、異常區(qū)域進(jìn)行識(shí)別，形成涉詐人群、手法、終端、區(qū)域、事件和拓展特征的精準(zhǔn)畫像識(shí)別，有效提高了詐騙重點(diǎn)地區(qū)的技術(shù)防范能力。

2．2挑戰(zhàn)

電信網(wǎng)絡(luò)詐騙活動(dòng)包含精準(zhǔn)信息獲取、詐騙腳本設(shè)計(jì)、通信聯(lián)絡(luò)誘導(dǎo)、資金支付轉(zhuǎn)移4個(gè)關(guān)鍵環(huán)節(jié)。人工智能技術(shù)在4個(gè)環(huán)節(jié)均被詐騙分子惡意利用，加劇了電信網(wǎng)絡(luò)詐騙向精準(zhǔn)化、擬人化、自動(dòng)化方向蔓延發(fā)展［3，4］。

2.2.1在“精準(zhǔn)信息獲取”環(huán)節(jié)，人工智能加劇隱私泄露風(fēng)險(xiǎn)詐騙分子利用智能惡意軟件等隱蔽竊取聊天記錄、家庭關(guān)系等敏感信息。基于人工智能技術(shù)的熱門應(yīng)用增加了用戶生物特征信息泄露風(fēng)險(xiǎn)，越來越多的語音交互產(chǎn)品讓聲紋更容易被收集。例如，換臉、換聲應(yīng)用軟件需要用戶在使用時(shí)提供面部特征等核心信息，一旦泄露或?yàn)E用將不可逆且?guī)順O大風(fēng)險(xiǎn)。

2.2.2在“詐騙腳本設(shè)計(jì)”環(huán)節(jié)，人工智能被用于設(shè)計(jì)定制化腳本、精準(zhǔn)選取受害人通過對(duì)特定人群的行為特征的訓(xùn)練學(xué)習(xí)，人工智能系統(tǒng)可生產(chǎn)出千萬個(gè)定制化的詐騙腳本。以俗稱“殺豬盤”的交友賭博類詐騙為例，詐騙分子通過智能分析公眾信息，根據(jù)騙術(shù)對(duì)人群進(jìn)行篩選，精準(zhǔn)選取金融、社交等目標(biāo)人群，提高詐騙成功率。

2.2.3在“通訊聯(lián)絡(luò)誘導(dǎo)”環(huán)節(jié)，人工智能使聯(lián)絡(luò)更加隱蔽，信息傳播更快智能化的電信網(wǎng)絡(luò)詐騙技術(shù)設(shè)備不斷出現(xiàn)，智能群呼設(shè)備可遠(yuǎn)程操控、機(jī)卡分離實(shí)現(xiàn)詐騙呼叫異地落地。智能聊天機(jī)器人可同時(shí)操控幾十個(gè)通信端口，在微信、婚戀網(wǎng)站中仿冒成美女聊天交友，批量談戀愛，進(jìn)而實(shí)施詐騙;換臉、換聲產(chǎn)品可信度高、迷惑性強(qiáng)，2019年英國(guó)曝出騙子利用人工智能語音模仿軟件冒充某能源公司高層，騙取子公司CEO22萬歐元。

2.2.4在“資金支付轉(zhuǎn)移”環(huán)節(jié)，人工智能帶來盜刷盜用等風(fēng)險(xiǎn)智能語音支付、智能理財(cái)機(jī)器人、人臉支付、無感支付、刷臉取款等在實(shí)現(xiàn)金融服務(wù)的智能化同時(shí)也帶來冒刷等風(fēng)險(xiǎn)。例如，不法分子通過獲取的用戶面部特征、虹膜、聲紋、指紋等生物特征信息，冒充用戶身份盜刷、盜用他人賬戶資金。

3人工智能背景下的國(guó)內(nèi)外詐騙治理主要舉措

包含中國(guó)在內(nèi)的世界主要國(guó)家和地區(qū)從深化個(gè)人信息保護(hù)、提升技術(shù)防范能力、強(qiáng)化企業(yè)履責(zé)自律、加強(qiáng)警示宣傳教育等方面著手，遏制人工智能詐騙活動(dòng)的泛濫蔓延［5，6］。

3．1注重立法先行，強(qiáng)化法律制度保障

3.1.1制定專門法律法規(guī)或政策文件加強(qiáng)個(gè)人信息保護(hù)是人工智能詐騙源頭治理的關(guān)鍵，全球已有上百個(gè)國(guó)家制定了個(gè)人信息保護(hù)法律。歐盟《通用數(shù)據(jù)保護(hù)條例》明確未取得數(shù)據(jù)主體同意，不得使用用戶畫像。美國(guó)國(guó)會(huì)提出《深度偽造責(zé)任法案》和《2019年深度偽造報(bào)告法案》等法律草案防范深度偽造技術(shù)濫用風(fēng)險(xiǎn)。我國(guó)高度重視個(gè)人信息保護(hù)、電話實(shí)名制在詐騙治理中的作用，《網(wǎng)絡(luò)安全法》等法律法規(guī)以及工業(yè)和信息化部、公安部、人民銀行等部門在政策文件明確了個(gè)人信息保護(hù)和實(shí)名登記等相關(guān)要求。

3.1.2加大違法行為懲處力度歐盟、美國(guó)、澳大利亞、英國(guó)等國(guó)家和地區(qū)均在立法中規(guī)定了“數(shù)據(jù)泄露通知”，明確民事處罰等級(jí)和金額。美國(guó)聯(lián)邦議員提出《2018年惡意偽造禁令法案》，規(guī)定制作深度偽造內(nèi)容引發(fā)犯罪和侵權(quán)行為的個(gè)人，以及明知內(nèi)容為深度偽造還繼續(xù)分發(fā)的平臺(tái)，可處以罰款和/或長(zhǎng)達(dá)兩年的監(jiān)禁。我國(guó)工業(yè)和信息化部部、公安部等政府部門堅(jiān)持綜合施策，工業(yè)和信息化部對(duì)重點(diǎn)地區(qū)和問題企業(yè)通報(bào)查處，針對(duì)移動(dòng)軟件數(shù)據(jù)安全問題進(jìn)行問詢約談，公安機(jī)關(guān)重拳打擊電信網(wǎng)絡(luò)詐騙犯罪。

3．2強(qiáng)化技術(shù)手段，提升識(shí)別攔截能力

3.2.1政府主動(dòng)出擊，研制開發(fā)詐騙音視頻攔截工具美國(guó)國(guó)防部研發(fā)出全球首款“反換臉”人工智能刑偵工具，能夠高效、準(zhǔn)確地自動(dòng)檢測(cè)出被修改過的圖片和利用深度偽造技術(shù)生成的視頻。工業(yè)和信息化部、公安部等積極構(gòu)建詐騙治理技術(shù)體系，聯(lián)合企業(yè)推進(jìn)基于人工智能技術(shù)的詐騙電話、短信識(shí)別攔截以及涉詐網(wǎng)站識(shí)別攔截等技術(shù)的實(shí)際應(yīng)用落地。

3.2.2各方積極響應(yīng)，開發(fā)音視頻造假檢測(cè)技術(shù)聯(lián)合國(guó)區(qū)域間犯罪與司法研究所、美國(guó)賽門鐵克等公司研究檢測(cè)虛假音視頻技術(shù)。臉書與微軟及麻省理工等大學(xué)合作，發(fā)起了“假視頻檢測(cè)挑戰(zhàn)”活動(dòng)，旨在利用人工智能技術(shù)更好地甄別深度偽造和合成內(nèi)容，開發(fā)對(duì)抗深度偽造技術(shù)濫用的方法和工具。我國(guó)互聯(lián)網(wǎng)企業(yè)和研究機(jī)構(gòu)等也積極開展對(duì)換臉換聲、合成語音詐騙等技術(shù)的研究和檢測(cè)。

3．3強(qiáng)化企業(yè)履責(zé)，加大對(duì)關(guān)鍵環(huán)節(jié)管控

3.3.1聚力詐騙資金轉(zhuǎn)賬管理2019年，英國(guó)政府聯(lián)合銀行業(yè)界等《授權(quán)推送付款(APP)詐騙自律守則》，規(guī)定金融機(jī)構(gòu)未能達(dá)到要求導(dǎo)致客戶遭受APP詐騙，則需對(duì)客戶損失賠償，巴克萊銀行、匯豐銀行等8家機(jī)構(gòu)加入。我國(guó)銀監(jiān)會(huì)多次下發(fā)銀行業(yè)打擊治理電信網(wǎng)絡(luò)新型違法犯罪文件，要求各銀行強(qiáng)化銀行卡業(yè)務(wù)規(guī)范管理，堅(jiān)決遏制違規(guī)代開卡、亂開卡、批量開卡等行為;建立對(duì)于涉案賬戶緊急止付和快速凍結(jié)等能力，最大限度挽回社會(huì)公眾的財(cái)產(chǎn)損失。

3.3.2攜手自動(dòng)呼叫檢測(cè)攔截2019年，美國(guó)AT＆T和Comcast聯(lián)合開展安全驗(yàn)證，實(shí)現(xiàn)機(jī)器人電話的自動(dòng)檢測(cè)與警示。我國(guó)基礎(chǔ)企業(yè)、安全廠商等在精準(zhǔn)服務(wù)上著力，通過匯總分析詐騙樣本模板、關(guān)鍵特征等信息，不斷加大對(duì)涉及人工智能的電信網(wǎng)絡(luò)詐騙信息的識(shí)別、預(yù)警和攔截。互聯(lián)網(wǎng)企業(yè)積極應(yīng)用語音識(shí)別、語言理解等人工智能技術(shù)打擊詐騙。

3．4加強(qiáng)警示教育，提升民眾防范意識(shí)

2018年，以色列國(guó)家網(wǎng)絡(luò)管理局提醒公眾詐騙分子可能利用人工智能技術(shù)模仿管理層，命令員工進(jìn)行資金轉(zhuǎn)移等。澳大利亞稅務(wù)局提醒公眾有不法分子冒充政府機(jī)構(gòu)并要求被害人使用比特幣或其他加密貨幣支付子虛烏有的稅費(fèi)。我國(guó)工業(yè)和信息化部、公安部、人民銀行等部門緊跟詐騙新形勢(shì)新特點(diǎn)，聚焦人工智能詐騙重點(diǎn)地區(qū)、易受害人群，在電信營(yíng)業(yè)廳、銀行等重要場(chǎng)所組織連續(xù)播放詐騙提醒宣傳材料，在銀行轉(zhuǎn)款、辦理電信業(yè)務(wù)等關(guān)鍵環(huán)節(jié)強(qiáng)化身份驗(yàn)證和詐騙提醒，有效提升了防范意識(shí)。

4應(yīng)對(duì)思路

當(dāng)前我國(guó)在電信網(wǎng)絡(luò)詐騙治理工作上取得了明顯成效，但是面對(duì)人工智能時(shí)代電信網(wǎng)絡(luò)詐騙的高隱蔽性、高危害性等特點(diǎn)，當(dāng)前治理工作仍然存在著一定的問題與短板:法律法規(guī)尚需完善、管理范圍仍需延伸、技術(shù)反制能力亟待提高、社會(huì)宣傳引導(dǎo)仍需加強(qiáng)、協(xié)同精準(zhǔn)治理力度有待強(qiáng)化等。需堅(jiān)持發(fā)展與治理并重的思路，發(fā)揮法律、監(jiān)管、技術(shù)、宣傳、協(xié)同多方面綜合治理能力，有效應(yīng)對(duì)人工智能時(shí)代下的電信網(wǎng)絡(luò)詐騙的治理問題，切實(shí)維護(hù)人民群眾財(cái)產(chǎn)安全和利益。

4．1明晰治理思路，堅(jiān)持發(fā)展與安全并舉

4.1.1堅(jiān)持促進(jìn)發(fā)展和依法管理相統(tǒng)一既要大力培養(yǎng)人工智能等新技術(shù)在治理電信網(wǎng)絡(luò)詐騙方面的應(yīng)用，又要積極利用法律、監(jiān)管等方式引導(dǎo)人工智能技術(shù)應(yīng)用規(guī)范發(fā)展，降低技術(shù)濫用風(fēng)險(xiǎn)，在發(fā)展中探索解決部分問題。

4.1.2堅(jiān)持安全可控和開放創(chuàng)新并重深化人工智能背景下電信網(wǎng)絡(luò)詐騙治理研究，及時(shí)掌握相關(guān)風(fēng)險(xiǎn)，提升技術(shù)防范能力，搭建詐騙協(xié)同治理創(chuàng)新平臺(tái)，推進(jìn)社會(huì)共治。

4．2完善法律法規(guī)，加強(qiáng)制度保障

在立法層面，著力推進(jìn)人工智能及數(shù)據(jù)安全專項(xiàng)立法，對(duì)數(shù)據(jù)非法采集、個(gè)人敏感信息交易、深度偽造等行為進(jìn)行規(guī)制，明確不同主體責(zé)任，為電信網(wǎng)絡(luò)詐騙治理提供基本法律依據(jù)。在執(zhí)法層面，加強(qiáng)調(diào)查取證、快速聯(lián)動(dòng)和執(zhí)法懲戒，特別是對(duì)實(shí)施網(wǎng)絡(luò)詐騙的個(gè)人和平臺(tái)以及數(shù)據(jù)過度采集、技術(shù)資源濫用、偽造仿冒他人等行為加大執(zhí)法懲戒力度。

4．3壓實(shí)主體責(zé)任，強(qiáng)化風(fēng)險(xiǎn)防控

在落實(shí)責(zé)任方面，通過監(jiān)督檢查、技術(shù)監(jiān)測(cè)、社會(huì)監(jiān)督、企業(yè)信用管理等多種方式引導(dǎo)相關(guān)單位切實(shí)落實(shí)詐騙治理主體責(zé)任，對(duì)責(zé)任落實(shí)不到位的加大整治處罰力度。在風(fēng)險(xiǎn)防控方面，針對(duì)人工智能相關(guān)技術(shù)業(yè)務(wù)定期開展涉詐風(fēng)險(xiǎn)安全評(píng)估，建立完善人工智能產(chǎn)品、應(yīng)用和服務(wù)涉詐風(fēng)險(xiǎn)的檢測(cè)方法和評(píng)估指標(biāo)體系，對(duì)涉詐高風(fēng)險(xiǎn)技術(shù)或業(yè)務(wù)實(shí)施重點(diǎn)管理，防止技術(shù)濫用。

4．4開展創(chuàng)新研究，提升技術(shù)能力

在創(chuàng)新研究方面，以基金引導(dǎo)和政策鼓勵(lì)等方式，推動(dòng)產(chǎn)學(xué)研積極探索利用人工智能等新技術(shù)解決電信網(wǎng)絡(luò)詐騙治理的重點(diǎn)難點(diǎn)問題，加快突破深度偽造仿冒研判、智能群呼設(shè)備識(shí)別等技術(shù)瓶頸。在技術(shù)應(yīng)用方面，匯聚資源形成反詐大數(shù)據(jù)中心，推動(dòng)大數(shù)據(jù)分析、智能監(jiān)測(cè)預(yù)警等人工智能技術(shù)在現(xiàn)有反詐系統(tǒng)中的應(yīng)用，提升技術(shù)反制的自動(dòng)化、精準(zhǔn)化和及時(shí)性。

4．5加強(qiáng)宣傳引導(dǎo)，推進(jìn)社會(huì)共治

在宣傳引導(dǎo)方面，充分利用線上線下各類渠道進(jìn)行詐騙風(fēng)險(xiǎn)提示，開展詐騙防范技術(shù)大賽，推廣應(yīng)用優(yōu)秀創(chuàng)新示范案例，尤其加強(qiáng)對(duì)學(xué)生、老人等重點(diǎn)人群的針對(duì)性宣傳教育。在社會(huì)共治方面，構(gòu)建各部門深度協(xié)同的詐騙綜合治理體系，完善跨行業(yè)、跨部門、跨地區(qū)的信息共享、綜合研判和聯(lián)防聯(lián)控機(jī)制，健全國(guó)際詐騙預(yù)警、防范及聯(lián)合懲處機(jī)制。共同提升基于人工智能的電信網(wǎng)絡(luò)詐騙發(fā)現(xiàn)識(shí)別、打擊治理的能力。

5結(jié)束語

隨著電信網(wǎng)絡(luò)詐騙治理工作的不斷推進(jìn)，攻防對(duì)抗逐步升級(jí)，詐騙手法不斷向智能化、精準(zhǔn)化發(fā)展，新問題、新情況不斷出現(xiàn)，治理工作艱巨性、復(fù)雜性日益突出。人工智能技術(shù)為電信網(wǎng)絡(luò)詐騙治理開辟了以“智”提“治”的新格局，為促進(jìn)治理體系和治理能力現(xiàn)代化提供新動(dòng)能，但也逐漸成為被詐騙分子惡意利用實(shí)施精準(zhǔn)詐騙的新利器，為詐騙治理工作帶來新挑戰(zhàn)和新風(fēng)險(xiǎn)。應(yīng)主動(dòng)把握機(jī)遇，積極應(yīng)對(duì)挑戰(zhàn)，堅(jiān)持促進(jìn)發(fā)展和依法治理相統(tǒng)一，綜合施策，智慧賦能，開創(chuàng)面向人工智能時(shí)代的電信網(wǎng)絡(luò)詐騙治理工作新局面。

參考文獻(xiàn)

［1］中國(guó)信息通信研究院.電信網(wǎng)絡(luò)詐騙治理與人工智能應(yīng)用白皮書［R］，2019.

［2］李佳，張娜.電信網(wǎng)絡(luò)詐騙治理研究［J］.中國(guó)信息安全，2019(9):74-77.

［3］中國(guó)信息通信研究院.防范治理電信網(wǎng)絡(luò)詐騙創(chuàng)新實(shí)踐實(shí)發(fā)項(xiàng)目應(yīng)用匯編［R］，2019.

［4］婁永濤，唐祥.大數(shù)據(jù)時(shí)代電信網(wǎng)絡(luò)詐騙犯罪的防控反思［J］.重慶理工大學(xué)學(xué)報(bào)(社會(huì)科學(xué))，2020，34(3):121-128.

［5］蔣巍.人工智能時(shí)代的電信詐騙防治探析［J］.理論觀察，2019(11):124-126.

［6］中國(guó)信息通信研究院.信息通信行業(yè)防范打擊通訊信息詐騙白皮書［R］，2018.

［7］魏亮，崔現(xiàn)東.信息通信行業(yè)電信網(wǎng)絡(luò)詐騙防范治理體系分析［J］.中國(guó)信息安全，2019(9):62-65.

作者：魏薇 尚鐵力 周帥 單位：中國(guó)信息通信研究院安全研究所