那个叫露丝·卡德的人听起来像她的孙子布兰登。所以当他说他在监狱里，没有钱包和手机，需要现金保释时，卡德赶紧尽她所能帮助他。
“这绝对是一种……恐惧的感觉，”她说。“我们现在必须帮助他。”
73岁的卡德和她75岁的丈夫格雷格·格雷斯冲到萨斯喀彻温省里贾纳的银行，取走了每日最高限额3000加元(约合2207美元)。他们急忙去第二家分行取钱。但一位银行经理把他们拉进了他的办公室:卡德回忆说，另一位顾客也接到了类似的电话，得知那个准确得可怕的声音是伪造的。打电话的人可能不是他们的孙子。
这时他们意识到自己被骗了。
卡德在接受《华盛顿邮报》(The Washington Post)采访时说:“我们被吸引住了。”“我们确信我们是在和布兰登谈话。”
随着美国冒充诈骗案件的增多，卡德的遭遇反映了一种令人不安的趋势。科技使坏人模仿声音变得更容易、更便宜，让人们(通常是老年人)相信他们的亲人处于危难之中。美国联邦贸易委员会的数据显示，2022年，冒名顶替诈骗是美国第二大最受欢迎的诈骗行为，有超过3.6万份报告显示，有人被那些假装是朋友和家人的人诈骗。联邦贸易委员会官员表示，其中超过5100起事故是通过电话发生的，损失超过1100万美元。
人工智能的进步增加了一个可怕的新层面，让坏人只需几句话的音频样本就能复制出声音。在人工智能的支持下，大量廉价的在线工具可以将音频文件翻译成声音的副本，让骗子可以让它“说出”他们键入的任何内容。
专家表示，联邦监管机构、执法部门和法院都没有能力遏制这种迅速发展的骗局。大多数受害者几乎没有线索可以确定犯罪者，警方也很难追踪来自世界各地骗子的电话和资金。而且几乎没有法律先例让法院追究使用这些工具的公司的责任。
“这太可怕了，”加州大学伯克利分校(University of California at Berkeley)数字取证教授哈尼·法里德(Hany Farid)说。“这是一场完美风暴……拥有制造混乱所需的所有要素。”
虽然冒名顶替诈骗有很多种形式，但本质上都是一样的:骗子冒充值得信赖的人——孩子、情人或朋友——并说服受害者给他们寄钱，因为他们正处于困境。
但人工生成的语音技术使这个诡计更有说服力。受害者报告说，当听到亲人身处险境时，他们会有发自内心的恐惧。
这是生成式人工智能(generative artificial intelligence)最近兴起的负面影响。生成式人工智能支持基于输入数据创建文本、图像或声音的软件。数学和计算能力的进步改善了此类软件的训练机制，促使一大批公司推出栩栩如生的聊天机器人、图像生成器和语音生成器。
法里德说，人工智能语音生成软件会分析一个人的声音独特之处——包括年龄、性别和口音——并在庞大的声音数据库中搜索，找到相似的声音并预测模式。
他补充说，它可以重新创造一个人的音高、音色和个人声音，从而创造出类似的整体效果。法里德说，它需要一个简短的音频样本，从YouTube、播客、广告、TikTok、Instagram或Facebook视频等地方截取。
“两年前，甚至一年前，克隆一个人的声音需要大量音频，”法里德说。“现在，如果你有一个Facebook主页，或者你录制了一段TikTok视频，你的声音在上面播放了30秒，人们就可以克隆你的声音。”
成立于2022年的人工智能语音合成初创公司ElevenLabs等公司，通过文本转语音工具将短语音样本转化为合成生成的声音。根据网站的说法，ElevenLabs软件可以免费使用，也可以每月花费5美元到330美元不等，价格越高，用户就能生成更多音频。
ElevenLabs因其工具被批评而成为新闻热点，该工具被用来复制名人说他们从未做过的事情的声音，比如艾玛·沃特森错误地背诵了阿道夫·希特勒的《我的奋斗》中的段落。ElevenLabs没有回复置评请求，但该公司在推特上表示，他们正在采取安全措施来防止滥用，包括禁止免费用户创建自定义声音，并推出一款工具来检测人工智能生成的音频。
但这样的保障措施对本杰明·珀金(Benjamin Perkin)这样的受害者来说为时已晚，他年迈的父母在一次语音诈骗中损失了数千美元。
他的声音克隆噩梦始于他的父母接到一个自称是律师的电话，说他们的儿子在一场车祸中杀死了一名美国外交官。珀金在监狱里，需要钱支付法律费用。
律师给39岁的珀金打电话，珀金说他爱他们，感激他们，需要钱。几个小时后，律师再次打电话给珀金的父母，说他们的儿子在当天晚些时候开庭前需要21000美元(15449美元)。
珀金的父母后来告诉他，这个电话似乎不寻常，但他们无法摆脱与儿子真正交谈的感觉。
那个声音听起来“很近，让我的父母真的相信他们在和我说话，”他说。他们惊慌失措地跑到几家银行取钱，通过比特币终端把钱汇给了律师。
那天晚上，当真正的珀金打电话给他的父母临时登记入住时，他们很困惑。
目前还不清楚骗子从哪里得到了他的声音，尽管Perkin在YouTube上发布了关于他雪地摩托爱好的视频。珀金说，这家人已经向加拿大联邦当局提交了一份警方报告，但这并没有把钱拿回来。
“钱没了，”他说。“没有保险。再也回不来了。这是走了。”
联邦贸易委员会营销实践部门助理主任威尔·马克森(Will Maxson)表示，追踪语音诈骗者可能“特别困难”，因为他们可能使用世界任何地方的电话，甚至很难确定哪个机构对特定案件有管辖权。
马克森敦促人们保持警惕。他说，如果你所爱的人告诉你他们需要钱，把电话搁置，试着单独给你的家人打电话。如果一个可疑的电话来自一个家庭成员的号码，要明白这也是可以欺骗的。他补充说，永远不要用礼品卡付款，因为很难追踪，而且要警惕任何索要现金的要求。
身份盗窃资源中心(Identity Theft Resource Center)的首席执行官伊娃·贝拉斯克斯(Eva Velasquez)表示，执法部门很难追踪语音克隆窃贼。贝拉斯克斯在圣地亚哥地方检察官办公室工作了21年，调查消费者欺诈，他说警察局可能没有足够的资金和人员来资助一个专门追踪欺诈的部门。
她说，较大的部门必须将资源分流到可以解决的案件上。语音诈骗的受害者可能没有太多信息可以提供给警方进行调查，这使得官员们很难投入太多时间或人力，尤其是对于较小的损失。
“如果你没有任何关于它的信息，”她说。“他们从哪里开始?”
法里德说，如果人工智能公司生产的产品造成伤害，法院应该让他们承担责任。最高法院法官尼尔·m·戈萨奇(Neil M. Gorsuch)等法学家在今年2月表示，保护社交网络免受诉讼的法律保护可能不适用于人工智能创造的作品。
对于卡德来说，这次经历让她更加警惕。去年，她与当地报纸《里贾纳领袖邮报》(Regina Leader-Post)交谈，提醒人们警惕这些骗局。因为她没有丢钱，所以她没有报警。
她说，最重要的是，她感到尴尬。
“这不是一个很有说服力的故事，”她说。“但为了说服我们，它不必比现在更好。”
