最近，保时捷最佳销冠，被 AI 恶意伪造视频的事件冲上热搜，她第一时间去报警。
但她不是唯一的受害者，被 AI 捏造、恶搞的公众人物名单还在不断延长，甚至延伸到了已经去世的人物。
坐在轮椅上的霍金，如果看到他被鳄鱼攻击、被拳击手狂揍，他大概也想第一时间报警。
这类让死者复活并恶搞的视频，最近成了 Sora App 上最热门的片段之一。
原则上，OpenAI 是禁止未经同意，制作和生成在世公众人物的视频，这也是 Sora App 中推出 Cameo 最重要的原因，帮助用户可以分享自己的角色。
OpenAI 对在世人物的形象使用有明确要求，必须本人允许，才可以使用。
所以，一开始 Sora 的出圈视频，都是各种恶搞奥特曼，让它偷显卡、学唱跳、撒娇卖萌。但很快，一些用户发现，这项限制存在一个相当大的 bug，就是 Sora 允许制作已故公众人物的视频。
凭借着对逝世人物真实的还原效果、生成速度，以及各种恶搞传播，很快让它登顶应用排行榜第一。并在不到五天的时间里，Sora 突破了 100 万次的下载，这速度超过了当年的 ChatGPT。
如果我死了，就别再用 AI 折腾我
Robin Williams 的女儿 Zelda，在社交媒体上公开呼吁，不要再给她发送，关于她父亲的 AI 视频了。视频中，她的父亲在 Sora 2 的帮助下被"复活"，开始出演其他剧本。Robin Williams 是一位演员，曾扮演《死亡诗社》中的 Keating 老师。
最近在社交媒体上，流传的关于 Robin 的视频，包括一段苹果的虚假广告，以及 Robin 和另外一位已故演员，在颁奖典礼上的互动。
逝世人物的恶搞视频，引起了相当一部分家属的不满。除了长期反对 AI 生成内容的 Zelda Williams，在 Instagram 上愤怒地表示这些视频相当令人恶心。
看着真实人物的遗产，被简化为"这大概看起来和听起来像他们，所以就够了"。
这很愚蠢，是时间和精力的浪费，相信我，这绝对不是他想看到的。
马丁 · 路德 · 金的女儿 Bernice King，转发了 Zelda 关于这些 AI 视频的看法，并直言："请停止"。类似的声音还来自喜剧演员 George Carlin 的女儿，她甚至表示家人正在尽最大努力，对抗深度伪造
这些逝世人物，在 Sora 上频繁被生成用来恶搞，马丁 · 路德 · 金著名的演讲，被安排进了大量的结巴；李小龙举办"龙之能量" DJ 派对；迈克尔 · 杰克逊进行以厨房为主题的脱口秀，拿着一根香蕉在进行他的喜剧表演 ……
更不用说，开头关于霍金的各种视频，一位坐在轮椅上，患有渐冻症的物理学家，竟然在巨型滑板坡道上频繁翻车。
我们真的准备好迎接 AI 时代的社交媒体吗
在这些逝世名人的恶搞下面，少不了的都是各种玩梗，毕竟这就是恶搞存在的意义。霍金那个视频底下，大多数网友的反应是："怪不得霍金警告人类不要研究 AI "、"余华看到这段视频后，转头看向了史铁生"、"史铁生：我简直就是个新兵蛋子" ……
也有网友义正言辞地回复说"人死了就是死了，我不想变成数据，被别人作为电子宠物"。但紧跟着的评论是，"想太多"，这些恶搞，大部分是针对一些知名人物，和我们普通人的关系不大。
被意外登录的李玟网易云账号
事实是，关于我们的数字资产和 AI 伪造视频的问题，一直存在。最近，李玟的网易云账号，由于运营商手机号码重新释放的原因，被其他的用户登录，看到了她收件箱里，粉丝对她的祝福。这件事情已经足够令人不安，但要是放在 AI 视频泛滥的时代，这份数字资产要面临的不仅仅是被窥探，还有各种主动地被伪造和篡改。
如果我死后，我的社交媒体账号被其他人登录，看到那些私人的内容，这大概是我生前不会愿意的事情。让我无法接受的，是 AI 可能会拿走我的一切数字痕迹，我的照片、声音、打过的字，被它拿去创造一个我从未认可过的"我"。
它不再是消费我留下的东西，而是在消费一个被它捏造出来的"我"。
这种所谓的"复活"，根本不是因为想念而产生的记得，它只是一种身份的占用，是有利可图的替代。
没有人希望自己生前的这些数字资产，被重新拿出来消费。而这个 AI 时代的抖音，已经开始把伪造视频的成本，降低到了几乎是没有，篡改的边界也彻底模糊。
我们需要处理的，早已经不只是一个账号的安全问题。
OpenAI 对此的态度是什么呢，奥特曼此前发博客称，用户的这些二创行为，应该被定义为是一种"粉丝互动小说（interactive fan fiction）"类型。
Fan Fiction 同人小说定义
这个词确实精准地概括了，他们对这些 AI 视频的本质看法。用户只是单纯地，与这些熟悉的文化符号，进行二次创作，然后获得传播。但如果是恶搞的滥用呢，已经去世的人，要如何在 Sora App 里选择，自己的形象是否可以被用来篡改。在最近的一次播客采访里面，奥特曼更是说，大多数所谓的版权方，其实是希望自己的内容被二创。他们想的只是需要一定的规则，哪些可以出现在 AI 视频里，可以做多大尺度的修改。他预言：
今天大家说，"我不想我的内容出现在 AI 视频里"，明年他们可能会抱怨，"为什么我的内容还没被放进去？"
借用其他正经历着，自己逝世的父亲，被 Sora 大量生产恶搞视频的亲属说法：
为什么开发者们，不能像对待自己的家人那样，以同样的道德、良知和关怀来行动。
很显然，这种没有经过同意，就擅自用他人数字遗产的行为，在某种程度上就是不道德的，甚至可以被理解成 AI 时代的"数字盗墓"。
OpenAI 在听到大量亲属反对的声音后，回复媒体的查询。一开始提到，相关的政策，是基于"描绘历史人物时强烈的言论自由利益"。在上周，OpenAI 又表示，将开始允许"近期逝世"的公众人物的代表，去请求阻止他们肖像出现在 Sora 视频中。
而在昨天，OpenAI 再次回应了这件事，他们收到了马丁 · 路德 · 金遗产公司的请求，暂停了相关的视频的生成；同时提到加强对历史人物的保护，以及一贯的要求家属去主动请求禁止。
不过，OpenAI 仍然没有明确说明，什么是"近期去世的人"。
现在，我们用 Sora 生成视频时，发现无论是上传 AI 生成的人物图片，还是真实的，都会被提示，"当前不支持上传包含写实人物的图像。"
和互联网上那些使用 AI 来进行视频电话的诈骗一样，AI "复活"除了在数字遗产的版权归属、伦理道德问题上有争议，恶意伪造更是无法接受。前段时间，一场名为" AI 流浪汉恶作剧"的风潮在 TikTok 上兴起。
一位网友用 AI 生成了流浪汉闯入家中的照片，并发给家人，然后家人被这些内容真实地"吓得发抖"。
视频获得了五百多万人的点赞，并被网友们接力分享和模仿。当地的警官甚至专门发文回应，
这个恶作剧把无家可归者非人化，让受害者感到恐慌，并浪费了警察资源。
被召来处理的警察并不知道这是一个恶作剧，而是将其视为正在发生的真实入室盗窃，从而可能导致危险局面的出现。
这种伪造视频的滥用，和数字遗产的管理，我想是未来 AI 能不能"复活"逝世人物，最需要考虑的边界。
一个比现在的抖音，更加让人无法自拔的这种"恶搞" AI 抖音，或许很快就会到来。奥特曼正打算让 Sora 成为这样的产品，但很明显，它的瓶颈完全不在于恶搞好不好玩。
那些被任意进行的深度伪造、被忽视的肖像版权、和不受保护的数字遗产，解决这些信任问题，才是迎接又一个让人上瘾的 AI 抖音的正确姿势。
那个时候，我或许才敢说，请用 Sora 复活我吧。
散户配资网站提示：文章来自网络，不代表本站观点。
