通过AI换脸和拟声技术，10分钟骗430万元；AI虚拟人在聊天中筛选出受害者，人工接力实施诈骗……近期，多起宣称利用AI技术实施诈骗的案件引发了公众的担忧。

“新华视点”记者近日与公安部门核实确认，关于“AI诈骗全国爆发”的消息不实，目前这类诈骗案件发生的比例很低。但是公安机关已经注意到这种新的犯罪手法，将加大力度与相关部门合作，开展技术反制和宣传防范措施。

专家表示，随着AI技术的加速发展，由于使用边界不清晰，涉及诈骗风险正在积聚，需要高度警惕。

近日，内蒙古包头警方通报了一起利用AI实施诈骗的案件，一位福州公司的法人代表在10分钟内被骗取了430万元。据通报，骗子通过AI换脸和拟声技术，佯装熟人实施了诈骗行为。

这起案件曝光后，许多报道提醒人们要警惕“AI诈骗潮”的到来，并且曝光了多起类似的案件。比如江苏常州的小刘被骗子冒充其同学发语音、打视频电话，小刘在看到“真人”后信以为真，将6000元借给了骗子。

那么，“AI诈骗潮”到底是否真的来了呢？

记者调查了解到，从技术上来说，AI确实可以进行换脸和拟音，但想要利用它进行“广撒网”式的诈骗，需要具备许多条件。

公安部专家库的一位民警告诉记者，这类诈骗要成功必须要做到：收集被换脸对象的个人身份信息、大量人脸图片和语音素材，并通过AI生成以假乱真的音视频；窃取被换脸对象的信任。

他认为：“相关报道对一些案件的典型细节描述不够准确，AI涉诈案件仍然不常见。”他说，成熟的类型化诈骗犯罪往往具有在全国多地集中爆发的特点，但是目前还没有出现规模化的AI诈骗案件发生。

公安机关的判断是，目前网上关于“AI换脸换声诈骗在全国爆发”的传言是不实的，全国范围内这类案件发生的数量不到10起，但这种趋势值得高度关注。

AI技术进入了快速迭代期，涉诈犯罪风险正在积聚。

香港科技大学（广州）协理副校长、人工智能学域主任熊辉表示：“当前AI技术发展来到螺旋式上升的拐点，未来几年技术迭代将会按月计算。”

根据工信部的信息显示，随着AI技术的快速发展，合成技术的门槛不断降低，渐渐向低算力、小样本学习方向发展，只需要手机终端即可完成，对算力和数据的要求明显降低。同时，随着AI大模型的技术支持，合成技术正逐步发展到全身和3D合成，效果更加逼真。

国家开发投资集团特级专家、厦门美亚柏科AI研发中心总经理赵建强表示，AI技术正在迅速渗透到网络诈骗、虚假信息、色情等领域。比如在一些网络平台上，假冒明星、公众人物生成视频和图像，吸引网民。此外，AI技术也可能被用来规模化地实施违法犯罪，比如批量、自动维护网络账号，发送虚假信息，模拟人工在线聊天等。

网络上出现了许多关于AI换脸的教程。在国内一款知名App上输入“换