据悉，为防范和打击“AI换脸”犯罪，全国公安机关联合国家重点实验室等单位，开展人脸识别与活体检测技术安全测评，覆盖即时通信、网络直播、网络社交、电商平台、金融支付等重点App，及时发现人脸识别验证系统存在的风险隐患，通报运营主体升级安全保护措施和人脸识别算法，不给不法分子可乘之机。

5月6日下午，江西省鹰潭市余江区人民法院公开宣判全国首例“AI游戏外挂”案，依法对被告人王某合以提供侵入、非法控制计算机信息系统程序、工具罪判处有期徒刑三年，缓刑五年。宣判后，王某合表示服从判决，不上诉。

2023年9月，最高人民法院、最高人民检察院、公安部联合发布《关于依法惩治网络暴力违法犯罪的指导意见》，明确对“利用‘深度合成’等生成式人工智能技术发布违法信息”的情形予以从重处罚。

崔俊杰建议，要坚持以科学适度的治理方式和治理手段回应技术发展和社会变迁，针对AI犯罪特点，相关部门需及时推动相关法律的立改废释纂，以良法促善治，提高依法治理水平；加大全链条打击力度，强化各部门协同配合，加强大数据法律监督模型应用，善于从中发现重点监督线索和社会治理存在的难点问题，实现精准监督、有效监督，在确保行业良性健康发展的基础上实现精准治理。(本报记者 杜洋)

“一键去衣”究竟是怎样的一种技术？记者了解到，这项技术并不是真的“去衣”，而是在图片的基础上，通过AI自行运算使用相关的淫秽图像素材对图片进行重绘，和“AI换脸”“AI变声”一样，属于利用AI深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。

4月23日，全国首例AI生成声音人格权侵权案在北京互联网法院一审开庭宣判，法院认定被告方使用原告声音、开发涉案AI文本转语音产品未获得合法授权，构成侵权，赔偿原告各项损失25万元，并书面赔礼道歉。

与此同时，各地通过多种形式的宣传教育，帮助群众更加清晰认识到AI技术被利用或滥用所带来的法律风险，增强了大家对AI犯罪的防范意识。

ayx爱游戏app全站4月12日，公安部公布10起打击整治网络谣言违法犯罪典型案例，其中4起典型案例涉及使用人工智能(以下简称AI)技术编造虚假信息；4月23日，北京互联网法院一审开庭宣判AI生成声音人格权侵权案……

2024年以来，浙江省杭州市临平区借助“反诈智能AI宣防外呼系统”，自动识别、分析和预警潜在的诈骗风险，并以电话语音形式向市民发送提醒信息，不仅大幅提升工作效能，也切实提高了市民对诈骗风险的警觉性，降低了诈骗案件的发生率。

此外，全国公安机关去年依托“净网”专项行动组织专项会战，严打泄露身份证照片等图像信息的犯罪源头，破获利用AI技术“换脸”进行诈骗犯罪案件79起，抓获犯罪嫌疑人515名，有效遏制了该类犯罪势头。

“政法机关立足主责主业，发挥职能作用，全力打击治理AI犯罪，防范不法分子利用或滥用AI技术侵犯公民权利、危害公共安全，保证AI技术始终沿着正确的轨道向前发展。”首都师范大学政法学院法律系副教授崔俊杰对《法治日报》记者说。

白某某通过境外的网站发布广告，在某社交软件上贩卖深度伪造淫秽图片近7000张，获利一万多元。目前白某某已被提起公诉。

“随着AI技术的快速迭代，对其被不法分子利用或滥用进行防治提出了更高要求。如AI犯罪行为更为隐蔽和复杂，证据收集难度大。”崔俊杰说，因此，如何更好地防治AI犯罪，对内容生成平台、行业监管部门乃至政法机关等各方都提出了挑战。

今年4月，安徽省合肥市警方通过中央媒体在关于“AI软件成造谣工具”节目中揭秘谣言制作过程，让网民更直观地加深了对AI造谣的认识，起到了较好的宣传效果。

近年来，随着AI技术的快速发展，越来越多的人在工作生活中开始享受到该技术所带来的全新体验，但伴随而来的是，利用或滥用AI技术从事违法犯罪的活动(以下简称AI犯罪)日益增多。

经审理查明：王某合通过制作出售“AI外挂”的方式牟利，2022年，其先后联系万某至、张某(另案处理)等人编写“AI外挂”程序。至案发，王某合非法获利共计629万余元。

2023年6月，原是北京一家互联网公司技术员的白某某，在境外的社交媒体上接触到了“一键去衣”的AI技术，便动起了歪心思。

记者了解到，在依法打击AI犯罪的过程中，政法机关深挖这一违法犯罪的规律特点，坚持以打开路、打防并举、源头治理、综合施策，会同相关部门单位深入推进行业治理、综合治理，压实主体责任，强化行业监督，堵住监管漏洞，全力挤压相关违法犯罪活动空间，加速完善常态化治理机制，切实提高其违法成本。

6月25日，江苏省张家港市人民检察院向市人民法院就一起敲诈勒索、诈骗案件提起公诉。据悉，犯罪嫌疑人所在的境内团伙通过虚拟定位、AI技术合成照片等方式，在交友软件上将自己包装成在外国的中国女留学生，随后以谈恋爱等名义，向在国外的留学生索取钱财。目前已查实该团伙敲诈勒索、诈骗50余人，涉案金额达100余万元。

自最高检去年11月发布《检察机关打击治理电信网络诈骗及其关联犯罪工作情况(2023年)》后，各地检察机关按照相关要求，加大对侵犯公民个人信息尤其是非法获取人脸、声纹等敏感信息、利用AI等前沿技术伪造人脸、声纹以及获取其他信息犯罪的打击力度。

在崔俊杰看来，AI技术标准化程度低、可定制性强、应用场景广泛，不法分子作案手法越发多样，导致AI犯罪不断衍生升级，如不及时进行打击治理，会给网络安全，甚至广大群众的生命财产安全带来严峻挑战。

“电诈犯罪团伙能够通过AI技术‘换脸’‘变声’，甚至是‘动态换脸’，增加了传统犯罪活动的危害性，还产生了新型的违法行为，如使用AI‘绘画’技术生成的绘画作品可能会对他人著作权造成侵权。”崔俊杰表示，当前AI技术已被不法分子使用于网络钓鱼、深度伪造、绕过身份检查、“越狱”式服务、人肉搜索和监视五个方面，进一步降低了犯罪的门槛。

据悉，该程序可对多款游戏的画面数据进行未授权获取，对游戏中处理的鼠标数据指令进行未授权修改，造成玩家在玩游戏时，不用操作就可以“自动瞄准”“自动开枪”，干扰了游戏的正常运行环境，属于破坏性程序。