本报讯 （记者 倪参丹 通讯员 陈晓锋） ChatGPT等人工智能技术飞速发展，一些不法分子利用其进行违法犯罪活动，给网络安全带来了严峻挑战。近期，区公安分局破获多起涉人工智能案件。

　　6月，上虞网安民警在网上巡查时，发现有网民发布了关于上虞工业园区发生火灾的视频，浏览量在短时间内迅速上升。视频中，工业园区内火势猛烈，整个园区被浓烟覆盖，现场不时传出爆炸声，场面惊心动魄。

　　民警核查发现，视频中的建筑、森林大火场景，并非该工业园区真实场景，且疑似源自其他视频。经分析，民警判断该视频是利用ChatGPT等人工智能合成技术，将网络上多段不同视频剪辑拼接而成。警方马上锁定某网络科技公司员工有较大作案嫌疑，立刻赴该公司所在地抓获包括汤某在内的3名犯罪嫌疑人。

　　“犯罪嫌疑人首先在网上搜集热门话题，通过ChatGPT自动生成脚本，在网上抓取相关视频片段，然后利用AI软件合成完整视频，最后配上音乐、字幕。不到1分钟，一段虚假视频便新鲜出炉。”区公安分局网安大队民警介绍，为获得流量、博人眼球，自5月以来，该团伙不断利用AI技术制作虚假视频、散布谣言，在网上发布未经核实的虚假视频达3000多个。

　　随着人脸识别技术越来越普及，一些不法分子开始利用“AI换脸”等技术实施盗窃、诈骗等犯罪。

　　“我的APP好像被黑了！”4月13日，市民朱女士到辖区派出所报案，称有人登录某APP，擅自下载自己公司的电子营业执照。接警后，区公安分局网络安全保卫大队迅速展开侦查，很快确认曾某某有重大作案嫌疑。

　　原来，犯罪嫌疑人曾某某利用手机号码注册账号，并通过朱女士的姓名、身份证号等信息进行实名认证，然后利用人脸识别进行绑定，最终成功登录账号进行作案。

　　“曾某某通过网购店铺引流，利用‘客户’提供的人脸照片，通过专业AI软件制作合成人脸动图并登录各类APP，非法获取相关信息。”民警介绍。

　　“每次交易价格不等，只是觉得这样挣钱比较容易，没想到已经触犯到了法律。”曾某某悔不当初。据了解，曾某某共制作动态人脸1000多个，获利9万多元。目前，曾某某已被采取刑事强制措施，案件正在办理中。

　　“操作简单、可定制性强、应用场景广泛，人工智能技术降低了链条式犯罪的难度，被不法分子利用后危害性极大。”区公安分局相关负责人说，对人工智能技术产生的新应用、新业态，公安机关将坚守价值引领与技术纠错并行，保护人工智能技术健康发展的同时，防范打击利用人工智能技术侵犯公民权利、危害公共安全的新型案件，全力保障网络空间安全。