清明节前夕热议:AI“复活”亲人火爆,如何避免技术被滥用?

2024-11-19 08:39

Hi 陌生人你好!

繁体
存储网页

清明节到来前夕,我赶赴建国门,在《北京新闻广播·新闻天天谈》做客了一期节目,讨论当下备受关注的AI“复活”亲人相关话题。

不久前,音乐人包小柏通过AI技术“复活”了病逝的女儿,这一举动引起了广泛的社会关注和深刻的伦理思考。同时,也让AI“复活”逝者这种相对小众的互联网服务,走到了大众面前。

甚至,有人将复活逝者做成了规模化的服务。来自江苏的一位90后小伙张泽伟,由他成立的“超级头脑”团队,已经用AI成功帮助600多个家庭“复活”亲人。在电商平台,AI“复活”的商品更是层出不穷,标价从几元到几万元不等。

然而,正如我们所探讨的,AI“复活”逝者不仅仅是一个技术问题,更是一个复杂的伦理问题。在科技的推动下,我们能够突破生死的界限,让逝去的人以另一种形式“活”在我们的世界中。但这种做法是否恰当?它是否会扰乱我们对生死的认知?是否会对我们的情感造成更深层次的伤害?

这些问题没有标准的答案,因为它们涉及到每个人内心深处的价值观和情感体验。

与此同时,技术是双向的,它可以在帮助人类社会进步的同时,也会成为不法分子实施不法侵害的利器。前段时间,可能大家都刷到过一个细思极恐的短视频。就是有一个母亲和自己的女儿进行远程视频通话,这时候女儿突然回来了,而视频里的那个“女儿”还不断催促母亲快点打钱。请试想,如果不是女儿及时回来,这个母亲可能已经被骗了。

在当天的节目中,我和主持人对谈了很多观点和思考,今天分享出来(成文时进行了补充完善),供大家参考。

1、从技术角度来看,“AI复活”“数字永生”是如何实现的?“AI复活”逝去的人,目前有哪些形式?

丁道师:其实在去年此时,我们就讨论过的“AI复活亲人”的话题。当时,还觉得这项技术很新奇,我们讨论时还羡慕美国的大模型,展望中国啥时候出现这种民间可以使用的黑科技。

现在,中国有了200多家面向市场的大模型公司,相关技术已经一日千里了,类似“AI图片动态呈现”“AI语音生产”“图片生成”等产品早已经遍地开发。

从技术角度来看,“AI复活”“数字永生”很容易实现,我指的是目前我们所看到的各种案例,不是真正的像好莱坞大片中的那种永生和复活。简单来说,就是将人的生前的图片和声音、视频以及行为特征等“投喂”给ai,让AI学习,就可以迅速实现。

在具体实践中,这种AI数字人主要依赖深度学习、自然语言处理等技术。首先,收集目标人物的图片、声音等数据,发送给AI模型。这些模型学习模拟人物特征和行为,如面部表情、语音特征等。然后,利用3D建模或图像处理技术构建数字人形象。设计交互方式,使其能响应用户指令,涉及语音识别、手势识别等。最后,将数字人部署到网站、应用等平台。

比如使用百度飞桨的深度学习开发平台,使用“有手就行”这项服务,给系统投喂大量你的声音素材,就能使用你自己的声音做语音合成,句子越多,效果越好。至于让静态的图片动起来,尤其是嘴巴动起来,就更简单了,很多AI工具都可以实现。

值得一提的是,目前“AI复活”逝去的人或者AI数字人,还比较初级和简单。还不能模仿人的思维习惯和意识、特征等核心指标。

至于有哪些形式,除了虚拟数字形象,还有聊起机器人,比如科大讯飞星火大模型,就可以和死去几百年几千年的历史名人聊天。还有全息投影,比如几年前邓丽君的复活,引发关注。当然,淘宝上几块钱的那种数字化复活,是噱头罢了。

2、“AI复活”这项技术的市场需求会越来越大吗?您持“赞成”还是“反对”的态度?

丁道师:其实“复活”死去的亲人或者说“复活”想念的人,在几千年的历史上,一直是很多中国人最朴素的一个愿望。我想起来宋代的大文学家、大政治家王安石,王安石特别崇拜杜甫,有一次王安石去缅怀杜甫,看到了杜甫的画像,忍不住失声痛哭,泪流满面,王安石说我就希望杜甫能够起死回生,那该有多好啊,我就能够追随左右了。

回到我们今天的社会,即便有各种技术限制,也有各种伦理道德的争议,但从现实情况来看,“AI复活”大有市场,且呈现出高速发展的态势。

我的总体看法是,在不侵犯他人肖像权和隐私权,并且保障使用者知情权的前提下,我肯定是支持的。

举个例子,在电影《美国队长3》中,钢铁侠耗资6.11亿美元,打造了一个与去世亲人可以相见并且互动的虚拟模型项目,骗过了麻省理工学院所有学生。钢铁侠在虚拟世界中可以反复的和父母相聚,因此一定程度上治愈了失去双亲的内心创伤。

之前韩国也有一个案例,有一位失去孩子的母亲,通过AI数字化复活技术,再加上VR虚拟现实眼镜,和已故的孩子“重逢”,也一定程度上治愈了她内心的伤痛。

3、AI“复活”逝者的技术限制,会随着技术迭代,很快被打破吗?AI“复活”逝者对生者来说,究竟是心理疗愈,还是起了反作用?

丁道师:苹果公司的Apple Vision大家知道吧,这个硬件将来如果能和大模型联动起来,有望进一步实现以假乱真的生活场景。

当然,科技的发展本身就是双刃剑,任何一项技术都有两面性。

前面我们提了AI复活亲人好的一方面,不好的一方面也有。对于另一些人来说,AI“复活”逝者可能会产生反作用。首先,这种技术并不能真正复活已故的人,只是一种模拟和幻觉。当生者意识到这一点时,他们可能会感到更加失望和沮丧。其次,过度依赖这种技术可能会阻碍生者接受现实和走出悲伤的过程。如果生者一直沉浸在模拟的互动中,他们可能会无法摆脱对逝者的依赖,导致心理健康问题。

4、这项技术被更多人掌握,背后存在哪些风险?有哪些方式可以降低风险?

丁道师:去年我就提到过,要警惕AI数字人这种技术被不法分子使用,尤其要警惕被电信诈骗分子使用。

前段时间,可能大家都刷到过一个细思极恐的短视频。就是有一个母亲和自己的女儿进行远程视频通话,这时候女儿突然回来了,而视频里的那个“女儿”还不断催促母亲快点打钱。请试想,如果不是女儿及时回来,这个母亲可能已经被骗了。

为了防范这种风险,我们需要采取一系列措施。首先,要加强技术研发和监管,提高AI数字人的安全性和可控性。其次,要加强对相关应用的审核和监管,确保它们符合法律法规和道德标准。此外,还需要加强公众的安全意识和教育,让人们了解这种技术的风险,并学会如何防范电信诈骗等违法犯罪活动。

5、怎么能看“数字永生计划”?对于未来可能出现的数字世界和数字人,我们需要做什么准备?

丁道师:说起这个话题,我想起之前和我一起做客咱们节目的另外一位嘉宾,刘兴亮老师。刘兴亮经常做的一件事情就是,他真人在全国各地出差,他的数字人不停地输出视频节目。后来,他做了好几个数字人,一个人就可以完成之前几个人干的工作了。

对于未来可能出现的数字世界和数字人,关于这股浪潮,任何人都抵挡不住,不管我们是否欢迎,一定会滚滚而来。并且在未来短短几年内,数字人的技术就会发展到一种新的高度。

我们需要做的就是一方面去接受它,一方面出台各种法规保障它的可控发展。 对了,就在最近,联合国通过了首个AI决议,这项决议汇集全球智慧,为人工智能治理确立了全球共识,国内主流媒体认为该决议具有里程碑意义。这个决议出台的背景,其实就是如何更好地实现人工智能治理体系构建,让它更好地服务于人类社会。

更新于:2天前