生成式AI技术，如GPT-4等强大的语言模型的广泛普及，已经逐步开展应用。这种对未来技术的期待之余，不得不面对AI技术可能被滥用的风险，甚至已经有一些犯罪分子已开始巧妙地利用AI技术进行电信诈骗。
当下最积极学习的除了学生，就是骗子了，随着人工智能的迅猛发展，诈骗团伙的诈骗手段也越来越科技化。
近日，两起利用AI换脸实施诈骗的案例引发关注。福州市某科技公司法人代表郭先生10分钟内被人用AI换脸诈骗430万元；5月25日，某诈骗分子使用了一段9秒钟的智能AI换脸视频，佯装“熟人”，导致何先生被诈骗245万。
随着AI技术的进步，AI换脸的门槛确实也越来越低。“以前AI换脸还需要一两百张图片，现在不同角度的照片，一般5到8张就可以生成很不错的模型了。”
人工智能兴起，我们正处于寻找最佳应用场景与商业落地的关键期。如果不能妥善解决相关的安全和隐私问题，也许会对人工智能的前景产生负面影响，形成对AI发展的压力。
AI诈骗：为何成功率极高？
AI诈骗者能够逐步训练出能够模拟人类行为和语言的AI，甚至能制作出极为逼真的虚假视频或音频。这些伪造的内容极度真实，让识别真假变得异常困难，从而大大提高了诈骗者的欺骗效果。
数字化社会，每个人都在生成大量的数字化信息，诈骗者可以通过大数据分析来获取被诈骗对象的行为习惯。因为诈骗者往往拥有比受害者更多的信息和技术资源，信息和技术的不对称性，无疑成为了AI诈骗的一大优势。
AI诈骗与传统诈骗相比，成本更低
AI技术的发展，改变了许多领域的工作方式。还深刻地改变了诈骗的形态，使得电信诈骗更加难以防范。并且AI诈骗具有高度自动化的特点，经过适当训练的AI模型能够在无人工干预的情况下自动运行。
GitHub等开源社区上，有开源使用的AI换脸软件等等，很多相关的技术社区、论坛、贴吧，有大量小白入门系列教程，价格甚至只要几块钱。
魔法打败魔法，发掘技术的价值
AI技术显然已成为诈骗的主要战场，人们在社交平台上进行大量的在线活动和社交互动，为诈骗者提供了丰富的目标选择和信息来源，一旦被识别出来，他们往往已经骗取了大量财富，并逃之夭夭。
正如同一把锤子可以用来建房子也可以用来破坏房子，AI技术为社交平台带来更好的用户体验，本身是一件好事，关键在于借助机器学习等先进技术，如何使用。显然，骗子们比普通人更用心钻研，更早意识到技术的价值。
面对AI技术滥用风险，如何整治AI诈骗，防止AI作恶？
关键在一个“法”字。这个“法”既包括科学技术方法的应用，也包括刚性治理的法律法规。
在科学技术方面，打击电信网络诈骗的科技装备发展迅速。此类装备不仅能鉴定利用传统伪造手段篡改的影像，而且对利用深度伪造技术进行了换脸、美颜、生成人脸、同图或异图复制篡改的影像也能够进行鉴定，可以为公安、司法行业提供技术支持。
而在法律法规方面，2022年12月，《互联网信息服务深度合成管理规定》发布，对人脸生成、替换、操控，合成人声、仿声等都进行了明确约束。该项规定发布实施后，此前一款主打AI换脸的App在被监管部门约谈后进行下架处理，处理原因为“如此换脸侵犯了公民的肖像权”。
及时掌握网络安全态势 尽在傻蛋网络安全监测系统
本文来源:互联网
如涉及侵权，请及时与我们联系，我们会在第一时间删除或处理侵权内容。
电话：400-869-9193 负责人：张明
工商执照