人工智能模糊现实与虚构界限的能力，为网络犯罪分子提供了一种低成本且高效的技术。

被誉为数字取证权威的加州大学伯克利分校教授汉尼·法里德表示，他无法将人工智能生成的音频和视频与真实的区分开来。

法里德指出，普通人辨别AI语音的准确率约为60%，这无异于掷硬币。

全球诈骗损失达到4420亿美元

根据国际刑警组织发布的《全球金融诈骗威胁评估》报告，到2025年，全球金融诈骗损失已达到4420亿美元。该机构将总体风险水平评为“高”，并预计在未来3到5年内这一情况将严重上升。

在美国，联邦调查局下属的互联网犯罪投诉中心在其年度报告中记录的网络犯罪损失为209亿美元。FBI在该报告史上首次将人工智能相关的投诉单列为独立的犯罪类别，并记录了超过2.2万起此类投诉，这些投诉报告的损失总额超过8.93亿美元。

在英国，要求受害者亲自汇款的诈骗类型增长了19%，损失额上升至5.764亿英镑。

声音克隆和深度伪造诈骗如何运作？

在现有技术条件下，从社交媒体视频、播客或电话答录留言中截取3秒的语音样本，就足以进行声音克隆。

人工智能代理正在使诈骗自动化

诈骗活动的产业化已通过能够在无人干预下规划并执行任务的人工智能代理进入了新阶段。据称，AI支持的诈骗比传统手法的盈利高出4.5倍。

这些系统会从失败的尝试中吸取教训，更新模型，并在下一次尝试中调整策略。