关于2026年人工智能产生的欺诈模式的分析参考 - 语音克隆,合成内容,个性化诈骗,以及这种技术所要求的检测范式转变。
2025年是首次显示可测量的人工智能对消费者欺诈效率的影响的一年,数据显示,检测信号在2022年至2023年间可靠地工作了:
依赖于表面级内容质量的检测机制(语法说法,尴尬的表达式,品牌模板不匹配)随着生成人工智能工具的成熟而失去了预测价值。
这不是2030年的问题,而是当前的运营现实,影响到2025年至2026年的欺诈结果。
| 检测信号 | 第202章 效率 | 2025 有效性 | 侵蚀的原因 |
|---|---|---|---|
| “语法错误作为信号” | 高 | 低(大多过时) | AI 生成流动副本 |
| “恶意语法检测” | 高 | 低 | AI 匹配母语模式 |
| 标签名称:Brand Template Mismatch | 适度 | 低 | AI准确地复制视觉品牌身份 |
| 《怀疑的问候》 | 适度 | 低 | AI可在大规模范围内实现个性化 |
| “反向图像搜索验证” | 高 | 低 | 合成照片击败逆搜索 |
| 语音熟悉(“我会认出声音”) | 高 | 低 | 来自社交媒体样本的语音克隆 |
| “电子邮件模板识别” | 适度 | 低 | AI 通过每项活动生成新模板 |
| “URL检查” | 高 | 高(仍在工作) | 不能在结构上被打败 |
| “独立验证(直接打开应用程序)” | 高 | 高(仍在工作) | 不能在结构上被打败 |
| “支付方式评估” | 高 | 高 | 不能在结构上被打败 |
模型很清楚:依赖内容质量评估的检测信号已经严重侵蚀,依赖结构验证的检测信号(URL准确性,独立渠道验证,付款方法分析)仍然有效,因为它们不依赖检测人工智能产生的内容质量。
2025年对消费者欺诈的最具影响力的人工智能发展是可访问的语音克隆的成熟,以前需要大量技术专业知识的工具现在是消费者可以访问的,从有限的音频样本中产生令人信服的语音克隆。
在2025年欺诈模式中观察到的运营影响:
| 模式 | 第2022章 损失 | 第2025章 损失 | 改变 |
|---|---|---|---|
| 幼儿假装骗局 | $3,200 | $9,000+ | +181% |
| 银行诈骗“调查员”呼吁 | $1,800 | $4,800 | +167% |
| “Boss”紧急电线请求(BEC) | $8,400 | $32,000 | +281% |
| 技术支持骗局 | $1,395 | $1,395 | 没有变化 |
损失增长的差异反映了人工智能如何影响不同的欺诈模式。语音克隆为欺诈提供了最大的有效性提升,其中语音熟悉作为防御信号(外孙伪装,执行伪装)。
语音克隆操作是如何工作的:
建立合法紧急联系人知道的预先安排的短语 - 并且语音克隆无法在没有事先妥协的情况下产生 - 提供了一个结构性验证机制,人工智能无法打败。
浪漫诈骗操作,特别是猪肉屠宰,已经被人工智能生成的视觉内容所改变,该模式对照片验证的结构依赖受到严重侵蚀:
| 检测方法 | 早期有效性 | 后期有效性 |
|---|---|---|
| 反向图像搜索 个人资料图片 | 高 | 低(合成照片击败搜索) |
| “自拍验证”请求 | 适度 | 低(AI生成验证照片) |
| 视频聊天拒绝作为红旗 | 高 | 高(仍在工作) |
| 图像不一致分析 | 适度 | 低(AI保持视觉一致性) |
| 背景细节验证 | 适度 | 低(AI生成可信背景) |
| 模式识别(操作脚本) | 高 | 高(仍然工作 - 结构性) |
合成内容侵蚀特别影响了基于照片的验证 - 消费者最容易获得的验证方法. 仍然有效的模式(视频聊天阻力,操作脚本识别,财务请求模式)需要技术复杂性或熟悉大多数消费者没有的欺诈模式。
浪漫骗局系统地将人工智能生成的内容纳入其基础设施,猪肉屠宰化合物据报道维护了人工智能生成的个人资料照片库,可以部署在多个同时操作中,而不会有重叠风险。
也许最具经济效益的AI影响是大规模和有针对性的诈骗之间的成本壁垒的崩溃,此前每个目标都需要进行研究投资的个性化已经在大规模分布规模上变得可行。
2025年的钓鱼活动展示了人工智能个性化技术:
| 个性化类型 | 按目标预付费 | 目标后成本 |
|---|---|---|
| 参考接收者的雇主 | ~$2-10(手动研究) | ~$0.001(AI扫描) |
| 参考最近的采购 | ~$5-20(数据经纪人购买) | ~0.005美元(组合数据源) |
| 参考收件人的家庭成员 | ~ $3-15 (手动研究) | ~0.002美元(社交媒体分析) |
| 参考具体的本地背景 | ~$5-25(手动研究) | ~$0.005(定位意识AI) |
| 个性化写作风格/音调 | ~$50-200(手写) | ~$0.01(AI 生成) |
此前,针对性钓鱼只是针对高价值目标(高管,富有个人,公司账户)有意义,其中研究投资是由提取潜力证明的。
结果:“嗨,约翰,你最近的亚马逊订单 #ABC123已经发货”在数以百万计的收件箱中同时到达,每个收件人都有个性化的细节,这些细节打败了通用内容检测。
除了直接欺诈之外,人工智能已经改变了支持欺诈的生态系统 - 特别是提供欺诈操作信誉基础设施的合成审查经济。
2025年的估计表明,在主要平台(Trustpilot、谷歌评论、亚马逊、Yelp)的新评论的30%至40%可能是合成的,而在2022年的估计是10%至15%。
这些平台已经实现了不同成功的检测系统,Trustpilot报告在2025年删除了约2700万个合成评论(比2024年增加47%)亚马逊报告了类似的删除规模化,但删除延迟生产 - 合成内容通常在检测之前存活数周或数月。
对消费者“检查评论”的防御实践的影响:这种做法保留了价值,但产生了比历史上更少的保护。
对抗人工智能增强的欺诈仍然有效 - 以及没有 - 揭示了所需的防御性范式转变:
| 防御类型 | 接近 | AI 抵抗 |
|---|---|---|
| URL字符对字符的验证 | 结构性(需要精确的匹配) | 强大 |
| 直接开启官方应用程序(不是通过链接) | 基于频道 | 强大 |
| 支付方式评估(FCBA保护) | 结构性(法律框架) | 强大 |
| 家庭代码为紧急电话 | 预先安排的秘密 | 强大 |
| 操作模式识别 | 知识基础 | 适度 |
| 独立身份验证 | 基于频道 | 适度 |
| 发送域名验证 | 结构性 | 强大 |
| 内容质量评估 | 主观 | 软弱(侵蚀) |
| 语音 / 照片熟悉 | 传感器 | 弱者 |
| 反向图像搜索 | 算法 | 弱(合成含量) |
| 阅读评论 | 基于模式 | 弱(合成评论) |
抗人工智能的防御功能有一个共同点:它们不依赖于检测人工智能生成的内容,它们验证了人工智能无法战胜的结构元素(URL准确性,支付框架,预先安排的秘密),无论内容的复杂性如何。
这代表了消费者需要采用的实际范式:从内容质量(人工智能击败)的怀疑主义转向结构性验证(人工智能无法击败)。
几种与人工智能相关的欺诈模式可能会在2026年加剧:
语音克隆将成为实时对话。 2025年语音克隆需要预先生成的样本,2026年技术允许实时对话语音生成,这意味着语操作可以使用克隆的声音维持动态的对话,而不仅仅是播放预先生成的样本。
合成身份内容将与真实内容变得不可区分。 人工智能生成的个人资料照片和真实照片之间的视觉质量差距几乎被缩小,其余的区别特征(微妙的面部不一致,照明模式)正在成为非专家观察者无法检测的。
跨模式AI一体化将成熟。 结合人工智能生成的文本、语音、照片和视频的操作将变得更加常见,单一的欺诈操作可以在电子邮件、SMS、语音通话和视频聊天中保持一致的多模式身份,从而打败消费者在渠道之间发现不一致的能力。
检测系统将努力保持步伐。 平台级检测(Gmail的钓鱼过滤、Trustpilot的合成审查检测等)将有所改善,但人工智能内容的生产可能会更快地改善。
“AI欺诈检测”市场将继续增长。 消费者保护工具声称基于人工智能的欺诈检测将蔓延,真正的有效性将有所不同 - 有些将起作用,许多将主要是营销。
总分析得出结论:人工智能增强的欺诈代表了消费者欺诈环境的结构性转变,而不是边际演变。二十年来运作的检测范式比部署替代防御方式更快变得过时。
基于内容的检测效率从2022年的76%下降到2025年的53%。具体影响包括:消除语法和语法说话,语音克隆允许说服性欺诈呼叫,合成个人资料照片击败反图像搜索,人工智能生成的营销副本击败模板识别,以及大规模个性化击败通用内容检测。
语音克隆生成具有说服力的特定个人的音频样本,使用人工智能工具,训练在相对较小的实际声音样本上。 诈骗者从公开可用的内容(TikTok视频,播客,语音邮件问候,家庭视频)中收集音频,以生成伪装样本。 该技术已经改变了孙子伪装诈骗(平均损失从2022年至2025年之间增长到9000美元),银行欺诈调查人员的呼叫 (+167%),以及商业电子邮件妥协中的执行伪装 (+281%)。
家庭代码单词是最可靠的结构性防御。建立合法紧急联系人知道的预安排的短语 - 一个特定的单词或短语。任何真正的家庭紧急呼叫都可以确认代码单词;语音克隆无法在没有事先妥协的情况下产生它们。
是的 — 广泛地. 猪屠宰操作和其他浪漫骗局基础设施经常使用人工智能生成的个人资料照片来击败反图像搜索验证。 传统的“反搜索照片”防御实践已经大大受到侵蚀。 操作维护了人工智能生成的照片库,可以部署在多个同时操作中,而不会有重叠风险。 仍然有效的浪漫骗局检测模式是操作性的(脚本识别,视频聊天抵抗,财务请求模式)而不是视觉的。
传统的基于内容的检测(类型,尴尬的表达式,品牌模板不匹配)随着人工智能的改进而失去了预测价值。 可靠的检测方法仍然有效:验证发件人的确切电子邮件地址(不仅显示名称)字符为字符,在点击之前跳过链接预览目标URL,永远不要通过电子邮件链接输入凭证 - 直接打开官方应用程序或网站。
人工智能之前,个性化钓鱼需要每个目标进行研究投资 - 只有对高价值的目标来说,这在经济上是可行的。人工智能已经将个性化成本从每目标的2美元至25美元降低到实际上为零。大规模钓鱼和有针对性的钓鱼之间的经济壁垒崩溃了。
评论保留了一些防御价值,但提供的保护比历史上更少。2025年的估计表明,在主要平台上新评论的30%到40%可能是合成评论,比2022年的10%到10%增加。Trustpilot在2025年删除了2700万个合成评论(比2024年增加47%)。
那些不依赖于检测AI内容质量的防御措施仍然有效:URL字符对字符的验证,直接打开官方应用程序而不是通过链接,支付方法评估(公平信用计费法的收费权利),紧急呼叫的家庭代码单词,发送域验证和操作模式识别。
是的 - 支付方式保护在结构层面上运行,人工智能无法击败。 信用卡根据公平信用计费法提供负债权,最多对未经授权的费用负有50美元的责任。 无论欺诈企图有多复杂,法律框架都起作用 - 一旦欺诈被识别出来,回报机制适用。
几种模式可能会加剧:语音克隆将成为实时对话(当前的技术允许动态对话,而不仅仅是预先生成的样本),合成身份内容将变得与真实的跨模式AI集成不可区分,将允许运营在电子邮件,SMS,语音和视频上保持一致的多模式身份,检测系统可能会延迟生产。
有效性在很大程度上有所不同。专注于结构性验证的工具(URL准确性、发送域检查、付款方法评估)往往比声称直接检测人工智能生成的内容的工具更有效(这是一个根本上困难的问题)。
从基于内容的怀疑主义转向结构性验证. 工作了二十年的检测范式 - “发现坏内容” - 随着AI击败内容质量评估而变得过时。 替换范式侧重于验证结构性元素:准确匹配字符的URL,具有强大的消费者保护的付款方法,直接而不是通过链接打开的官方应用程序,以及预先安排的验证机制(家庭代码词)。