首页 > 资讯 > 科技 > 正文
2023-08-09 20:58

人工智能社交媒体视频描绘了失踪、死亡的孩子讲述他们的故事

这些都是世界上最引人注目的涉及儿童的刑事案件。这些虐待、绑架、酷刑和谋杀的故事长期困扰着这些罪行发生的国家。

现在,一些内容创作者正在使用人工智能来重现这些死亡或失踪儿童的形象,赋予他们“声音”来讲述发生在他们身上的令人不安的细节。专家表示,虽然人工智能的技术进步带来了创造性的机会,但它们也有可能带来错误信息,冒犯受害者的亲人。一些创作者辩称,他们的帖子是一种提高意识的新方式。

“你好,我叫詹姆斯·巴尔杰(James Bulger),”TikTok上的一段视频中的图片说。这段视频模仿的是1993年在母亲买杂货时被绑架的2岁英国男孩。

“如果我妈妈向右转,我今天可能还活着。不幸的是,她向左转了,”孩子般的声音说道,并引用了詹姆斯的母亲曾经说过的她最大的遗憾之一:如果她向右拐,她就会看到她的儿子被两个10岁的孩子带走,后来他们折磨并杀害了他。

虽然抖音已经删除了詹姆斯讲述他在英格兰柯克比被绑架和死亡的多个视频,但仍有许多视频可以在YouTube上观看。

詹姆斯的母亲丹尼斯·费格斯告诉《每日镜报》,这些帖子“令人作呕”。

“一个孩子已经不在这里了,他被残忍地从我们身边带走,用他的脸和动着的嘴来表达,这是无法用语言表达的,”她告诉报纸。

玛德琳·麦肯失踪案的新嫌疑人,她的失踪一直困扰着英国

TikTok的一名发言人称,有关詹姆斯的内容“令人不安”,并表示平台上“没有容身之地”。巴尼·胡珀在给《华盛顿邮报》的一封电子邮件中说:“我们的社区指南明确规定,我们不允许含有年轻人肖像的合成媒体。”“我们会继续删除我们发现的这类内容。”

TikTok的指导方针表示,人工智能的进步“可能会使区分事实和虚构变得更加困难,同时带来社会和个人风险”,并要求分享展示真实场景的合成或操纵媒体的用户包括一份免责声明,指出内容不真实。周一,YouTube没有立即回复就其指导方针置评的请求。

牛津互联网研究所(Oxford Internet Institute)的传播学研究员菲利克斯·m·西蒙(Felix M. Simon)说,他相信这篇文章中提到的视频是用“一种或几种人工智能工具”制作的,但无法确切说出是哪种软件。

他在一封电子邮件中说,“它们似乎是用某种形式的人工智能工具制作的,带有一些廉价人工智能视频的典型特征”,比如动画或漫画式的美学和抛光的皮肤。

病人被告知他们的声音会消失。他们求助于人工智能来拯救他们。

据《镜报》报道,詹姆斯·巴尔杰母亲的丈夫斯图尔特·费格斯说,在他联系了一位创作者,要求他们删除他们的视频后,他收到了回复:“我们无意冒犯任何人。我们制作这些视频只是为了确保此类事件不会再发生在任何人身上。请继续支持和分享我的页面,以传播意识。”

尽管TikTok试图删除这类视频,但平台上仍然可以找到许多视频,其中一些视频的浏览量高达数百万。

“我叫玛德琳·贝丝·麦肯,”另一段视频中,一个孩子般的声音说道,视频中显示的是2007年从葡萄牙度假胜地失踪的3岁英国女孩的照片。“我仍然下落不明。”《华盛顿邮报》看到的那段TikTok视频在TikTok删除之前已经被观看了数万次。该账号的所有者在视频旁边写道,这是一次“沉浸式叙事”的尝试。

另一段视频是安妮·弗兰克(Anne Frank)为婴儿服装做广告,然后讨论大屠杀的恐怖。“你还在寻找漂亮的、自己设计的婴儿服装吗?那就去我个人介绍里的链接,让你自己大吃一惊吧,“那个留着棕色齐肩长发的年轻女孩”用德语说。“现在我要给你们讲安妮·弗兰克的故事。”

在同一账号的另一段视频中,同样是德语,一个金发、满脸伤痕的男孩出现,讲述了彼得·康纳利(Peter Connelly)的故事,他在英国也被称为“小P”。这个17个月大的孩子在遭受母亲和男友几个月的身体虐待后于2007年去世。

关于彼得短暂生命的视频附带了一个触发警告,可能会引起痛苦,但没有根据平台的要求,包括视频被修改或人工智能生成的免责声明。当《华盛顿邮报》联系该账号的所有者时,他拒绝置评。

该平台上另一个来自不同账号的视频讲述了Gabriel Fernández的故事,这名来自加州的8岁男孩遭到母亲和男友的致命折磨。他于2013年去世。“当我开始进入一所新学校时,老师向社会服务部门报告说我身上有瘀伤。我问她,当我妈妈用皮带打我时,流血是否正常,”一个自称加布里埃尔的男孩在视频中说道,该视频在TikTok上的观看次数超过了2500万次。

研究人员西蒙表示,由于人工智能的功能越来越多,应用程序变得更便宜、更容易使用,制作这样的视频变得越来越容易。

虽然人工智能的进步使得软件可以精确地模仿甚至克隆人的声音,但这些视频中孩子般的声音似乎是电脑生成的,而不是基于受害者的真实声音。例如,《华盛顿邮报》看到的一段玛德琳的视频中,她的声音带有美国口音。

加州一名8岁儿童被虐致死,他的社工是否有责任?

西蒙警告说,这些视频——通常伴随着戏剧性或悲伤的音乐,或者展示伤疤和血迹斑斑的孩子——“有可能再次给失去亲人的人造成创伤。”

他说:“在许多社会和文化中,人们普遍认为死者应该得到有尊严的对待,并享有一定的权利。”“在我看来,这类视频可能在两个方面违反了这一原则。首先,他们盗用死者的人格,无视或无视他们可能的意愿。其次,他们可能会侵犯死者亲属认为的他们的尊严。”

研究发现,在社交媒体上,情感内容往往会带来更高的参与度,这可以增加内容被分享的可能性。在这些视频的评论区,许多观众对这些年轻的受害者表示敬意,而其他人则批评创作者利用这些受害者来施加影响力。

制作历史视频的tiktok用户科里·布拉德福德(Cory Bradford)拥有近100万粉丝,他说,虽然他通常避免在自己的帖子中使用人工智能,但那些使用人工智能的人可能会试图提高参与度,尤其是在一个受众倾向于年轻人的平台上。他说:“我怀疑那些使用人工智能制作这些娱乐节目的人这样做是为了引起人们的震惊和敬畏,从而产生高浏览量。”

加州大学伯克利分校(University of California at Berkeley)的数字取证教授哈尼·法里德(Hany Farid)也指出,被操纵的媒体正在推动用户参与,可能是因为它“病态而耸人听闻”。法里德说,孩子们的图像属于“深度伪造的一般类别,现在更常被称为生成人工智能。”

布拉德福德说,TikTok上“肯定”有对历史视频的需求,当然也有人工智能讲述这些故事的地方。

他说,重现真实历史图像的技术还没有“完全到位”,并补充说:“我认为,只要人工智能还这么不现实,就会有人说这太令人毛骨悚然了。”

但布拉德福德说:“它正在实现这一目标。”“很快就会到了。我们都必须应对由此带来的后果。”