“AI诈骗”折射技术失控风险 安全监管还需提速-环球微资讯

近日，多起利用“AI换脸”等技术实施诈骗的案例发生，“AI诈骗”随之成为焦点。

包头警方发布一起利用人工智能（AI）实施电信诈骗的典型案例显示，福州市某科技公司法人代表郭先生10分钟内被骗430万元。据悉，郭先生的好友突然通过微信视频联系他，称自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。

【资料图】

值得注意的是，骗子并没有使用仿真的好友微信添加郭先生为好友，而是直接用好友微信发起视频聊天，这也是郭先生被骗的原因之一。骗子极有可能通过技术手段盗用了郭先生好友的微信。幸运的是，接到报警后，福州、包头两地警银迅速启动止付机制，成功止付拦截336.84万元，但仍有93.16万元被转移，目前正在全力追缴中。

在这起案例中，骗子同时使用了“AI换脸”“AI换声”，拦截微信号等多重技术，让骗局真假难辨。

从之前的AI模拟声音，到如今人脸、声音全AI替代，"AI诈骗让人越来越难以防范。这也说明，随着AI技术日趋强大，一旦被不法分子利用，其社会危害性更大。

这就需要国家对于AI安全管理加快完善。一方面，AI技术再先进，也需要公众隐私“大数据”喂养。比如，在上述案例中，郭先生好友可能在某种情况下，导致其人脸识别信息泄露，被骗子所用。

联想到近年来日趋普遍的人脸识别（支付）、指纹支付，以及近日推出的刷掌支付，都关系到公众生物特征信息，一旦因服务提供者管理不当，造成相关信息大规模泄露，未来就会有更多的“郭先生”朋友，在不知不觉中自身生物特征及其他隐私外泄，并让不知情的“郭先生”面临诈骗风险。

因此，对于个人隐私信息的保护还需提速。虽然，我国近年来陆续推出《个人信息保护法》《个人信息安全规范》《数据安全法》等法律法规，对公众包括生物特征在内的各类隐私数据加强保护。但是，徒法不足以自行。由于我国大量新技术应用速度快，相关技术研发及服务提供平台是否具备了足够的用户数据安全保障能力，包括相关投入、管理的到位，在遭遇类似黑客袭击时应急体系的完善程度等，都令人存疑。

政府相关部门应加快督促企业履责，推动相关法律法规所规定的配套建设落地。目前，中国已经成长为全球第二大网络安全支出国家，网络安全市场进入快速发展期。但在整体IT投入中的占比相对于全球平均水平还有较大提升空间。这就需要政府通过严格执法，倒逼企业持续扩大数据安全投入力度，弥补原有缺口。对于严重不作为、导致数据大规模泄露的企业，加大问责力度，提高其违法成本。

另一方面，政府也要推动企业、研究机构联手研发，“以技术反制技术”。正如国外开发出可以迅速判定使用ChatGPT作弊的AI监控技术。

于普通公众而言，也要提升个人防护意识。网络上流传的“AI换脸”“AI换声”活动，不要轻易参与，对于指纹支付、刷掌支付等新兴支付方式也要谨慎使用，最大限度守住隐私边界。

套用一句话，在技术面前，不是人人平等。相比于组织化、专业化的诈骗团伙，公众个体的自我防护能力偏弱，更需要执法机构、企业等专业化机构织密保护网。有关部门应同步推动国家数据安全体系投入，同时鼓励更多专业安全服务企业针对AI技术发展趋势，自主开发相关产品，防止未来AI安全体系被卡脖子。

唯有如此，通过政企协作、共融发展，逐步提升我国安全体系建设水平，为公众提供更可靠的服务，从而更好防范利用AI技术作恶的骗子，方能让人们更好享受技术进步带来的福祉，这也有助于中国安全产业更高质量的发展。

（文章来源：新京报）

标签：