作者：暂无
来源：《检察风云》 2020年第3期
文/中国信息通信研究院
近年来，我国电信网络活动猖獗，已成为影响人民众安全感和幸福感的一大社会公害。
技术创新是一把双刃剑，人工智能技术在不断促进防范治理技术发展和进步的同时，也开始被分子所利用，带来了一定程度的风险隐患。特别是随着基于人工智能的“深度伪造”、聊控等手法的传播和应用，这些风险被进一步集聚、放大，引起了社会各界的关注。
机遇与挑战
随着云计算、大数据、移动互联网的不断发展，人工智能进入到了一个全新的发展阶段：基础算力不断增强，核心算法不断突破，应用场景不断丰富，成为引领创新发展的战略性技术。人工智能技术的蓬勃发展带来了强大的产业拉动效应，不断加速传统产业的数字化、智能化进程，驱动产业优化升级和生产力快速提升，在推进社会进步、经济发展、人民生活质量提高等方面产生了深远的影响。
社会发展简史
同时，人工智能技术的发展也为电信网络治理工作带来了积极影响：随着以大数据分析、机器学习、模式识别、知识图谱为代表的人工智能技术的部署应用，电信网络技术防范系统的识别准确度更高、监测拦截实时性更强、防护覆盖面更大，为治理工作的不断推进提供了强大动力，有效降低了电信网络带来的风险与危害。
结合电信网络治理实践，目前人工智能技术在电话检测、恶意网址拦截、文本识别、风险预警等场景下已经有深入的应用及探索。
无人直升机
人工智能在推动防范治理工作不断前进的同时，也开始被不法分子用来实施。当电信网络用上人工智能，往往会扩大的危害广度和深度，给防范治理工作带来一定的风险与挑战。
电信网络实施的四个主要环节。一般来讲，电信网络活动可以归结为精准信息获取、脚本设计、通信联络诱导、资金支付转移四个关键环节。在精准信息获取环节，分子主要非法窃取或购买社会上各行各业泄露的个人信息，包括身份证信息、电话号码、家庭地址，以及网络账号和密码、银行账号和密码等信息。目前看，个人信息泄露是精准的根源。在脚本设计环节，分子模拟真实的经济社会活动场景，精心设计各种脚本，如近期高发的、兼职刷单、冒充网购客服、冒充公检法等案件。在通信联络诱导环节，分子通过电话、短信、互联网等通信渠道联络受害人，利用之前设计的脚本与获取的受害人个人信息，骗取受害人信任进而
实施。在资金支付转移环节，分子引导受害人通过银行转账、网上支付等方式向其指定账户转款，再经由预先设计的分赃销赃渠道快速从指定账户中转移受害人资金。
事实证明，通过利用人工智能技术，实施者在精准信息获取、脚本设计、通信联络诱导、资金支付转移等方面的能力都有了很大的提高。这也为治理电信带来了新的挑战。网刃
治理人工智能的经验
近年来，人工智能技术为防范打击电信网络工作开辟了以“智”图“治”的治理新格局，为促进国家治理体系和治理能力现代化增添了新动能，但同时也逐渐成为分子实施精准的“新利器”，为治理工作带来新挑战新风险。为做好治理工作，各国政府纷纷布局，瞄准精准实施主要环节、关键要素，统筹推进治理工作有序稳妥进行。
从国际上看，换脸换声、自动刷单等一系列利用人工智能技术的新型模式进入人们的视线，成为当前电信网络治理的痛点难点。为防范治理这种新型电信网络，世界主要国家和地区纷纷从深化个人信息保护、提升技术防范能力、强化企业守法自律、加强警示宣传教育等方面着手，开展推进打击防范治理工作，遏制人工智能活动的泛滥蔓延。
基于人工智能的电信网络凭借其新颖的形式、精准的脚本、逼真的伪造音视频，让人
防不胜防，已经严重影响了社会稳定和众幸福感。为有效遏制基于人工智能的新型电信网络产生蔓延，及时铲除此类活动滋生的土壤，我国信息通信行业积极开展了行业源头治理工作：工业和信息化部作为国务院打击治理电信网络新型违法犯罪工作部际联席会议工作单位和行业主管部门，全面贯彻党中央、国务院有关决策部署，在工信部网安局指导下，信息通信行业相关企业单位深入落实主体责任，纵深推进防范治理工作，形成了全链条多层次的治理格局。
加权几何平均数 在工信部的统筹部署和全行业的共同努力下，信息通信行业电信网络源头治理和综合治理不断向前推进，已经取得了阶段性的明显效果。但是面对人工智能时代电信网络的高隐蔽性、高危害性等特点，我国防范治理工作仍然存在着一定的难点与问题，法律法规尚需完善、行业管理范围仍需延伸、技术反制能力亟待提高、社会宣传引导和协同治理的力度和程度还有进一步强化和提升空间。
存在的问题支撑架设计
在法律法规方面。随着人工智能技术在电信网络领域的不断应用，不法分子实施的精准性、迷惑性、隐蔽性大大加强，直接导致公安和检察机关的侦查打击难度进一步加大，人工智治理工作所面临的“侦查破案难、电子证据调取难、认定处理难”等一系列问题更加突出。同时，电信网络已经呈现出明显的链条化、平台化作案特征。例如上游黑产提供各种基于人工智能技术的专用设备工具、算法，为下游电信网络源源不断地提供技术支持，危害巨大。在这个产业链中，不法
分子利用互联网以提供服务的方式分工配合，使得案件发生时，位于上游的不法分子完全可以以自己不知情来规避法律风险。这种法律依据的不明确及其导致的上游犯罪节点定责难，是当前电信网络治理不能回避的一个重要问题。
在行业管理方面。目前以举报通报、现场检查、年度考核等多种形式构建组成的防范电信网络的企业责任落实督导体系在电信行业已经比较完善和细化，但是在人工智能技术和业务快速发展的互联网等相关领域的督导执行力度仍相对较弱。此外，数据隐私泄露是“精准”的源头之一。虽然现有的用户个人信息保护、数据安全等行业管理基础性制度已经具备,但在具体的企业责任落实方面，特别是对人工智能应用在数据采集、传输、存储、使用、共享等各环节的隐私保护、数据安全等方面的监督落实力度仍需加强。最后，对当前涉诈风险较大的基于人工智能的呼（GoIP、SIMBANK）网关类设备的监管政策和管理方式仍需确定。
在技术利用方面。人工智能技术被不当利用的门槛不断降低。在软件和算法方面，当前大量被不当利用的人工智能技术均以开源方式对外公开发布，不法分子可以通过互联网开源社区直接获取源代码并进行修改使用。在硬件设备方面，GoIP设备以其远程化、智能化的特点，成为不法分子实施、逃避追查的重要方式。此外，基于人工智能的仿冒和识别技术发展不均衡。相较于深度伪造应用的快速发展，仿冒识别技术研发难度更高，且受限于仿冒数据集样本不足等多种原因，其发展速度相对较慢。最后，针对人工智能为防范治理工作带来的新风险，已有技术平台和策略应对能力尚显不足，在
对电信网络实现事前有效防范和事中事后精准溯源等方面还需探索。
在宣传引导方面。关于电信网络风险提示等的相关宣传内容仍需增加。目前面向大众的反诈宣传提醒以较为传统的电信网络手法为主，基于人工智能的的方式方法和应对策略等相关宣传内容较少，一定程度上造成社会普通民众尤其是学生、老人等重点人对此类的特点认知和防范意识不足。此外，关于个人信息安全保护的宣传力度尚需加强。当前很多用户对人工智能时代个人隐私泄露的危害仍然认识不够，面对一些应用的霸王隐私条款，往往选择以隐私换取效率和方便。
在协同治理方面。随着电信网络治理逐步进入“深水区”，过往基于单一数据源建立的相关技术防范系统，已不能形成良好的协同效应，治理效果逐步减弱。相关部门与企业、行业组织虽然建立了高效的会商和联动处置机制，但在跨行业、跨部门数据融合共享方面尚不充分，各治理主体的反诈系统仍相对分散，难以对各方数据进行及时的综合分析，一定程度上制约了整体治理效能的持续提升。此外，部分企业自律意识不足，在用户不知情的情况下，过度收集或使用个人信息。最后，跨国协同合作仍需加强。人工智能技术的应用使分子实施远程精准的能力越来越强。为增强隐蔽性，降低风险，大量团伙越来越倾向于聚集在实施。跨国、跨境电信网络的识别、拦截、追踪和定责必须在国际协同合作的框架下解决，在已有基础上进一步推动国际各方协同治理已经成为我国电信网络治理需要解决的重要问题。
编辑：张程 3567672799@qq
豫公网安备41160202000603
站长QQ:729038198
关于我们
投诉建议