小伙用AI“复活”奶奶引争议 科技边界在哪里(图)

上海00后用AI“复活”奶奶引发巨大争议：科技的边界在哪里。(图片来源：视频截图)

上海00后小伙用AI“复活”奶奶，还原其生前的音容笑貌，却引发巨大争议，人们在思考：科技的边界到底在哪里? 相关消息成为大陆热搜。

上海00

随着AI技术和数字虚拟人技术的无限制发展，让已故的亲人变成虚拟的数字人继续和我们交谈不再是科幻小说中的虚假故事情节。

4月10日小伙用AI“复活”奶奶引发巨大争议的话题冲上大陆热搜。视频中，一位小伙用AI技术“复活”已故的奶奶，并且还和“奶奶”进行了视频通话。在科学技术手段的加持下，这位“奶奶”除了表情略微僵硬外，声音和语气都十分自然。

对此，有网友表示看哭了，思念起了已故的亲人；有网友惊叹于如今科学技术的发达；还有网友认为，所谓的“奶奶”只不过是一段冰冷的代码，没有太多实际意义；更有网友担心这套AI技术被用于非法用途……

日前，B站UP主吴伍六就用Midjounrney、ChatGPT和D-ID等最新的AI技术“复活”了他刚刚去世的奶奶。

网友看后纷纷表示，恐怖谷。

吴伍六在他最新的一期视频中，为我们还原了“复活”奶奶的整个过程。

首先是头像。要想生成逼真的对话，那么一个栩栩如生的AI头像是必不可少的。

吴伍六选择了当下主流的AI绘画软件Midjourney，并上传了一张自己的照片。最终，他选择了下面这张作为头像，并继续优化。

奶奶的头像也是一样，AI根据上传的图片与文字描述生成了一些选择，而UP主再根据脑海中的回忆挑选一张最逼真的。

之后再如法炮制，用文字细化某些面部特征。比如皱纹、眼眸、发型和神态。

下一步是音频。这一步的素材基本来自于过去的电话录音、录像视频或者微信语音。而UP主将过去奶奶的电话音频上传给了AI。

并用音频编辑软件AU进行调整。调整的方向主要集中在降噪、人声增强等等。

然后将更加清晰的音频样本切割成若干秒的短句，方便进行标注。

最后将处理好的音频打包放入语音合成系统中去。

利用语音合成系统，UP主就可以尝试输入文本转语音了。

现在，基本的素材都齐全了。接下来就是最关键的一步——生成虚拟数字人。

通过D-ID，用户可以生成数字虚拟人，并和他们展开交流。

网站上奶奶的形象栩栩如生，音频也完美还原了奶奶的湖北“乡音”。搭配上右侧拉家常一般的聊天内容，宛如和奶奶面对面视频通话一样。

值得注意的是，奶奶的这些“回复”是UP主借助时下大热的ChatGPT生成的。他告诉ChatGPT，“我很想我的奶奶，你能不能模仿她的口吻来和我交谈？”

“人类将成为操纵的电子玩偶.....”

据大陆媒体报导，UP主吴伍六告诉记者，用AI“复活”奶奶，是因为自己不能接受奶奶的突然离去，“就短短的半个月时间，头几天还在和奶奶聊未来，过几天奶奶就只能简单交流了，后几天就被推进ICU(重症监护病房)见不到了，最后奶奶就成了盒子里的一把灰了……”小亮说，这一切来得太突然了，相当长一段时间内，自己都不相信奶奶离开了。

“处理完奶奶后事后，我还会习惯性地去拨打奶奶的电话，但那头再无人回应了。”吴伍六从小由奶奶带大，与奶奶的感情很深，“以前我遇到事都会和奶奶说，现在我也不知道和谁说了。”

吴伍六平时从事AI工作，因此他想到了用AI“复活”奶奶。他介绍，以目前AI的技术水平，只要样本足够多，面容、声音、语气这些都可以达到相似度90%以上。小亮直言自己运用了包含ChatGPT在内的最新工具。

“但目前AI在思维模式上只能达到50%，”吴伍六说，这件事情本质上就是要求AI当演员，相貌声音它都能模仿得非常好，但就目前的科学水平来说，它还无法模仿一个人的灵魂。“我和‘奶奶’只能简单沟通，说复杂的话，它就理解不了了。”

吴伍六“复活”奶奶的视频很快引起了网友们的激烈争论，有网友表示理解并支持小亮，也有网友认为，没必要把已故亲人做成AI，感觉像被操纵的电子玩偶.....

网友认为，所谓的“奶奶”只不过是一串冰冷的代码，并没有太多实际意义。

“不喜欢这样，‘亲人’感觉就是被操纵的电子玩偶，你想让它怎么说就怎么说。”“这种精神寄讬不过是在自欺欺人地弥补遗憾罢了。”更有网友担心这种技术被用在不法用途上，“以后有人借钱，视频确认都不好使了。”

人工智能“教父”谈AI可能消灭人类：并非不可想像

在国外，“与逝者聊天”的相关服务近年来已经形成了一条产业链。例如依托于GPT-3的Project December服务，仅需用户支付10美元便可创建属于自己的聊天机器人，让它扮演你最熟悉的那个人陪伴在你的身边；收费标准更贵一些的HereAfter AI则可以记录人们的生活故事，并以此为基础打造独属于你的虚拟形象。

以负责“逻辑思维”能力的ChatGPT为例，归根结底，这样的AI工具只是语言模型，并没有主观上的思考能力，去世亲人的神态也好、习性也罢，目前的AI尚且无法理解，更何况，这背后涉及的道德伦理问题，就连微软这样的大公司也不敢贸然涉足。

据福克斯新闻报导，被称为“人工智能（AI）教父”的计算机科学家杰弗里．辛顿表示，人工智能可能发展到对人类构成威胁的地步，这“并非不可想像”。

这位计算机科学家本周接受了哥伦比亚广播公司新闻的采访，讨论了他对人工智能发展的预测。他将人工智能的发明比作电力或车轮。

在谷歌和多伦多大学工作的辛顿表示，通用人工智能的发展速度比人们想像的要快。通用人工智能是具有多种预期和非预期目的的人工智能，包括语音识别、回答问题和翻译。

“直到最近，我还认为我们需要20到50年的时间才能拥有通用人工智能。现在我认为可能需要20年或更短的时间，”辛顿预测道。当被问及人工智能“消灭人类”的可能性时，辛顿说，“我认为这并非不可想像。我只想说这些。”

通用人工智能是指智能代理学习人类可以完成的任何智力任务的潜在能力。它尚未开发出来，计算机科学家仍在研究它是否可行。

辛顿表示，计算机最终获得创造想法以改进自身的能力是合理的。

“这是一个问题，对吧。我们必须认真考虑如何控制它，”辛顿说道。

但这位计算机科学家警告说，人工智能的许多最严重后果不会在不久的将来实现。

“我认为人们现在担心这些问题是非常合理的，即使它不会在未来一两年内发生，”辛顿说，“但人们应该考虑这些问题。”

辛顿发表评论之际，人工智能软件越来越受欢迎。OpenAI的ChatGPT是最近发布的人工智能聊天机器人，它能够创作歌曲、创建内容甚至编写代码，令用户震惊。

“我们在这里必须小心，”OpenAI首席执行官山姆．奥特曼在本月早些时候谈到他的公司的创建时说，“我认为人们应该为我们对此有点害怕而感到高兴。”