关于知识产权 知识产权培训 知识产权外联 部门知识产权 知识产权和热点议题 特定领域知识产权 专利和技术信息 商标信息 工业品外观设计信息 地理标志信息 植物品种信息(UPOV) 知识产权法律、条约和判决 知识产权资源 知识产权报告 专利保护 商标保护 工业品外观设计保护 地理标志保护 植物品种保护(UPOV) 知识产权争议解决 知识产权局业务解决方案 知识产权服务缴费 谈判与决策 发展合作 创新支持 公私伙伴关系 组织简介 与产权组织合作 问责制 专利 商标 工业品外观设计 地理标志 版权 商业秘密 WIPO学院 讲习班和研讨会 世界知识产权日 WIPO杂志 宣传 案例研究和成功故事 知识产权新闻 产权组织奖 企业 高校 土著人民 司法机构 遗传资源、传统知识和传统文化表现形式 经济学 性别平等 全球卫生 气候变化 竞争政策 可持续发展目标 执法 前沿技术 移动应用 体育 旅游 PATENTSCOPE 专利分析 国际专利分类 ARDI - 研究促进创新 ASPI - 专业化专利信息 全球品牌数据库 马德里监视器 Article 6ter Express数据库 尼斯分类 维也纳分类 全球外观设计数据库 国际外观设计公报 Hague Express数据库 洛迦诺分类 Lisbon Express数据库 全球品牌数据库地理标志信息 PLUTO植物品种数据库 GENIE数据库 产权组织管理的条约 WIPO Lex - 知识产权法律、条约和判决 产权组织标准 知识产权统计 WIPO Pearl(术语) 产权组织出版物 国家知识产权概况 产权组织知识中心 产权组织技术趋势 全球创新指数 世界知识产权报告 PCT - 国际专利体系 ePCT 布达佩斯 - 国际微生物保藏体系 马德里 - 国际商标体系 eMadrid eMadrid参考 第六条之三(徽章、旗帜、国徽) 海牙 - 国际外观设计体系 eHague 里斯本 - 国际地理标志体系 eLisbon UPOV PRISMA 调解 仲裁 专家裁决 域名争议 检索和审查集中式接入(CASE) 数字查询服务(DAS) WIPO Pay 产权组织往来账户 产权组织各大会 常设委员会 会议日历 产权组织正式文件 发展议程 技术援助 知识产权培训机构 COVID-19支持 国家知识产权战略 政策和立法咨询 合作枢纽 技术与创新支持中心(TISC) 技术转移 发明人援助计划(IAP) WIPO GREEN 产权组织的PAT-INFORMED 无障碍图书联合会 产权组织服务创作者 WIPO ALERT 成员国 观察员 总干事 部门活动 驻外办事处 职位空缺 采购 成果和预算 财务报告 监督

人工智能:娱乐业中的深度伪造

2022年6月

韦贾伊·拉拉、阿迪纳·米特拉尼扎克·哈内德,泛伟律师事务所,美国纽约及圣莫尼卡

自从第一部《终结者》电影上映以来就一直有各种机器人接管世界的故事演绎。现在我们位于变化的起点,技术——具体而言即人工智能——将导致娱乐和媒体行业的自我颠覆。

“深度伪造”这一术语指的是一种基于人工智能的媒体合成技术。这样的技术可以将人脸特征叠加在他人身上,同时或仅伪造声音,形成如同成人的体验。(图:©MIT/Halsey Burgund)

从传统娱乐到游戏,我们探讨了深度伪造技术的欺骗性日益提高,大众接触这一技术愈加方便,以及掌握这种技术对娱乐和媒体生态系统的影响程度等问题。

何为“深度伪造”,有何意义?

“深度伪造”这一术语指的是一种基于人工智能的媒体合成技术。这样的技术可以将人脸特征叠加在他人身上,同时或仅伪造声音,形成如同真人的体验。演员瓦尔·基尔默的独特嗓音在2015年因喉癌而消失,但Sonantic的深度伪造技术最近让基尔默得以“说话”。(这位演员的儿子再次听到父亲“声音”时不禁落泪)。

深度伪造也用于克服语言障碍,英国足球名将大卫·贝克汉姆参加的消灭疟疾活动中就有这样的例子。活动中,深度伪造让贝克汉姆能够用九种不同语言发表演说。有时,深度伪造纯粹用于娱乐,例如在这个艺术装置作品中,用户可以与萨尔瓦多·达利自拍“超现实”合影。

视频:深度伪造也用于克服语言障碍,英国足球名将大卫·贝克汉姆参加的消灭疟疾活动中就有这样的例子,他通过深度伪造技术用九种不同语言发表演说

利用深度伪造提升艺人技能

深度伪造的商业应用目前既涉及雇用负责模仿的“深度伪造演员”,也涉及自身形象被用于模仿表演“包装”(即相关内容所描绘的面容或外表)的人员。如果所谓的形象包装属于知名人物,这可能会节省名人原本需要在拍摄现场花费的时间;相关工作可以转由深度伪造演员承担。此外,网红借助这种技术可以为数百或数千人分别定制信息,而无须真正录制每一条信息。

深度伪造技术这种新颖的应用并没有从根本上改变艺人协议的性质或者获取艺人必要授权的做法——但确实引发了谈判双方必须认真考虑的新问题。例如,关于控制对艺人肖像权的使用,谈判的时候总是极其详尽,但艺人授权协议或合同一般不可能考虑到使用肖像权作为形象包装的权利,这种形象包装可用于创造几乎无限量的深度伪造逼真作品。此外,精神权利相关条款将需要谨慎措辞,考虑艺人也许无法控制的深度伪造表演是否可以作为触发合同终止的理由。艺人工会可能也必须更具体地考虑未来在行业谈判中如何对待这项技术。

最后,还有一个有争议的问题,即整体而言这项技术带给艺人的是帮助还是伤害。从积极的一面来看,演员得以在世界各地的广告或电子商务网站上出镜(无须前往演播室、学习新语言或改善口音),工作范围拓宽可以提升能力。例如,Synthesia最近在说唱歌手兼创业人Snoop Dogg出演的两部广告片中采用这种做法。原始广告片非常成功,因此Synthesia的子公司希望使用同样的广告,但要换掉品牌和名称。Synthesia公司并未重新拍摄,而是使用深度伪造技术改变Snoop Dogg的口型动作,配合新广告中的子公司名称。

另一方面,深度造假技术的普及可能会导致非名人演员被取代,就业岗位消失或行业雇用艺人出演的方式发生变化。如果雇用名气相对较低的人扮演名人效率更高且有其他优势,那么这些演员自身出名或“被发现”的机会就会更少。这或许会造就一批永远无法获得名人地位或是利用自己的名气和形象盈利的深度伪造演员。

2020年,麻省理工学院高级虚拟技术中心启动新的数字化叙事项目,向公众展示深度造假技术及其高度欺骗性。在一名深度伪造演员的帮助下,中心团队完成了一件“彻底”深度伪造作品(伪造音频和视频),内容为美国总统尼克松宣读1969年为阿波罗11号机组无法返回地球的情况撰写的备用讲稿。(图:©MIT/Halsey Burgund)

在数字内容中融入深度伪造的名人形象

有人还在社交媒体平台上利用深度伪造的名人形象,进一步凸显这种底层技术的普遍性(以及准确性)。2021年初,一位比利时数字人工智能艺术家与汤姆·克鲁斯的模仿者合作,在@deeptomcruise这个TikTok账号上制作出非常逼真的“汤姆·克鲁斯”视频。这些视频中的“汤姆·克鲁斯”做出一些古怪举止,从零售店摔倒后讲苏联笑话从事工业清洁服务等等,吸引了数十万次浏览。此外,去年TikTok上一段致敬其歌曲《西瓜糖》的视频中,深度伪造的哈里·斯泰尔斯索要草莓,瞬间走红。

如果个人或企业想制作深度伪造名人的媒体内容,应与律师一起认真考虑适用法律是否允许这一做法。要研究发布此类内容的一些关键法律依据,例如相关内容是否属于受保护的言论自由(如戏仿),名人的公开权是否已进入公共领域,以及面对版权侵权索赔是否可辩称合理使用。否则,与所有其他案例一样,如此使用艺人形象可能需要征求同意。

研究适用法律

在美国,深度造假面临的法律环境一直在迅速变化。个人或企业应当研究最近一些州专门针对合成媒体和数字伪造媒体出台的法律。

例如,2020年11月,纽约颁布了一项法律,表演者去世后40年内明令禁止在视听内容中使用“这位已故表演者的数字复制形象”,前提是使用复制形象“可能让公众误以为形象经过授权”。这可能意味着某些情况禁止使用深度伪造,例如关于安东尼·布尔丹的纪录片《Roadrunner》。该片导演为了在布尔丹死后完成影片制作,利用深度伪造技术生成三句让主角“声音复活”的台词,引起争议,而这位名厨的遗孀奥塔维亚·布尔丹声称她并未授权这一做法。

在政治领域,2019年9月德克萨斯州颁布一项法律,禁止在选举前30天内传播旨在伤害候选人或影响选民基础的欺骗性“深度伪造视频”。一个月后,加利福尼亚州通过一项类似法律,但明确指出禁止期限为选举前60天内。此外,播放深度伪造视频的平台也需要考虑与欺诈指控有关的合规问题。

深度伪造有时用于娱乐。“真人达利”是美国佛罗里达的达利博物馆举办的人工智能体验展览。展出的几个互动显示屏上会出现利用机器学习创造的现代版达利形象。观众甚至可以与这位大师自拍“超现实”合影。(图:Courtesy of the Dalí Museum in St. Petersburg, Florida, USA)

利用深度伪造增强电子游戏角色

游戏行业也是深度伪造会颠覆的天然舞台,特别是在数字化身方面。许多游戏的关键前提条件是玩家扮演某个角色,如《星球大战》中的天行者卢克或莱娅公主。但游戏体验若要更加身临其境,就不仅仅是用游戏手柄控制卢克或莱娅,而是还能让数字化身跟踪你的面部动作和口型——深度伪造技术正在实现这种体验。此外,通过深度伪造生成的合成语音,可以让你的声音听起来像卢克或莱娅,这有时会带来意想不到的正面效果。例如,这些所谓的“声音皮肤”允许女同性恋者、男同性恋者、双性恋者与跨性别者等性少数群体(LGBT+人士)改变他们在游戏中的声音,从而使游戏体验更加愉悦——鉴于反诽谤联盟2020年的统计数据显示超过一半的语音聊天用户在游戏中受到骚扰,37%的性少数群体玩家因其性取向而受到骚扰,这也属于意料之中。

随着深度伪造继续渗透到数字媒体的各个方面,想要利用这种底层技术的个人和企业将不得不提前全面考虑现有合同约定,掌握适用于这个问题的法律。

当然,像这样的通用技术也有可能被滥用,比如为了经济利益利用这种技术冒充诈骗,或者采用欺诈行为登录用声音识别的系统。而深度伪造技术将影响非玩家角色(NPC)以及玩家的化身。令人叫绝的GPT‑3等自然语言生成模型结合游戏深度伪造,将导致非玩家角色拥有与玩家化身进行对话的无限能力,实现同步的面部动作和口型令人信服,无须遵循特定脚本。电子游戏开发人员需要分析与相关角色和故事剧情内容所有者签订的现有授权协议,以确定是否准许使用深度伪造。

其他潜在收益

除上述使用深度造假的经济效益外,深度伪造的底层技术还可用于数字媒体社会公益活动。以一部HBO纪录片为例,该片详细介绍了面临处决危险的性少数群体活动家被迫隐姓埋名的生活。为了掩护这些活动家的身份,这部纪录片使用了深度伪造包装,导演在片中呈现的只是包装后的人物形象,用作包装的这些性少数群体活动家生活在不会因性取向而面临死亡威胁的国家。深度伪造技术还用于为数百万依靠合成语音交流的人士创造独特的定制声音

未来的现实考虑

随着深度伪造继续渗透到数字媒体的各个方面,想要利用这种底层技术的个人和企业将不得不提前全面考虑现有合同约定,掌握适用于这个问题的法律。此外,签订艺人协议的人员应仔细审查涉及公开权的相关条款,以确保在结合人工智能技术的情况下自己能充分掌控此类权利的利用方式。如果处理时经过深思熟虑,深度伪造技术的发展和使用在商业和社会层面都能发挥良好的作用。

《WIPO杂志》旨在增进公众对知识产权和产权组织工作的理解,并非产权组织的官方文件。本出版物中所用的名称及材料的呈现方式,不意味着产权组织对于任何国家、领土或地区或其当局的法律地位,或者对于其边界或边界线的划分,表示任何意见。 本出版物不反映成员国或产权组织秘书处的观点。 提及具体公司或具体厂商的产品,不意味着它们得到产权组织的认可或推荐,认为其优于未被提及的其他类似性质的公司或产品。