人工知能: エンターテインメント業界におけるディープフェイク

2022年6月

Vejay Lalla氏、Adine Mitrani氏Zach Harned氏、Fenwick、ニューヨークおよびサンタモニカ、米国

映画「ターミネーター」の第1作目が公開されて以来、ロボットによる世界征服が描かれてきました。現在は、テクノロジー、具体的には人工知能 (AI) によるエンターテインメントとメディア業界の破壊的創造 (ディスラプション) が始まりつつあります。

「ディープフェイク」とは、メディアを合成する人工知能ベースの技術です。例えば、人の容貌を他の人物の体に重ね合わせたり、音を操作したりして、人間のリアルな体験を作り出します。(写真: ©MIT/Halsey Burgund)

従来のエンターテインメントからゲームまで、ディープフェイク技術はどのようにして精緻化し、広く利用されるようになったのでしょうか。この技術の利用はエンターテインメントおよびメディア業界にどのような影響を及ぼすでしょうか。

「ディープフェイク」とは何か。その重要性とは

「ディープフェイク」とは、メディアを合成する人工知能ベースの技術です。例えば、人の容貌を他の人物の体に重ね合わせたり、音を操作したりして、人間のリアルな体験を作り出します。俳優のVal Kilmer氏は2015年に咽喉癌で特徴ある声を失いましたが、Sonantic社のディープフェイク技術を使用して、最近「話す」ことができるようになりました。(Kilmer氏の息子は、父親の「声」を再び聞いて涙を流しました。)

ディープフェイクは、言語の壁を取り除くのにも使われています。イングランドの偉大なサッカー選手デイビッド・ベッカム氏のマラリア撲滅キャンペーンでは、Beckham氏はディープフェイクを利用してメッセージを9つの言語で伝えることができました。ディープフェイクは、単純に楽しむために使われることもあります。例えば、このアート・インスタレーションでは、画家のサルバドール・ダリと「シュールな」自撮り画像を撮ることができます。

ビデオ: ディープフェイクは、イングランドの偉大なサッカー選手デイビッド・ベッカム氏のマラリア撲滅キャンペーンなどで、言語の壁を取り除くのに使われています。ベッカム氏はディープフェイク技術を利用してメッセージを9つの言語で伝えることができました。

ディープフェイクを活用したタレントのスキルセット向上

一般にディープフェイクを商業利用する場合、ベースとなる演技のために、「ディープフェイク俳優」と、自身の肖像を「ラッパー (wrapper) 」 (コンテンツで表現される顔や肖像) として使用する人物を雇います。 ラッパーが有名人である場合は、その人物が撮影セットで過ごす時間は短くて済むかもしれません。ディープフェイク俳優に負担がシフトします。また、ディープフェイク技術を利用することでインフルエンサーは、実際にメッセージを1件ずつ録音することなく、数十万人にパーソナライズしたメッセージを作成できます。

上記のようなディープフェイク技術の新しい利用法は、タレントとの契約やタレントからの必要な権利取得の性質を根本的に変えるものではありませんが、新しい論点が発生するため、交渉の両当事者は慎重に検討する必要があります。例えば、タレントの肖像権使用の管理については、必ず詳細に交渉が行われますが、肖像権をラッパーとして使用し、実物そっくりのディープフェイクを潜在的に無限に生み出す権利は、タレントのリリースまたは契約でほとんど想定されていません。さらに、著作者人格権に関する条項では、 (タレントによるコントロールが効かない可能性がある) ディープフェイクのパフォーマンスが、タレントとの契約打ち切りの根拠となり得るかなるかどうかという論点も踏まえた慎重な草案が必要です。タレント組合も、この技術を業界における今後の交渉でどのように取り扱うかについて、より具体的に検討する必要があります。

また、この技術はタレントにとって全体としてプラスとなるかマイナスとなるか、という未解決の問題があります。プラス面としては、俳優が (スタジオに足を運ぶことなく、新しい言語の習得や発音の練習に取り組むことなく) 世界中でコマーシャルやeコマースのウェブサイトに登場できるようになることは、大きなメリットと考えられます。例えばSynthesia社は最近、ラップ歌手で起業家でもあるSnoop Dogg氏が出演する2本のコマーシャルでこれを実現しました。最初のコマーシャルが大成功を収めたので、同社の子会社は、このコマーシャルをブランディングと名前を変えて使いたいと考えました。Synthesia社は再度撮影を行う代わりに、新しいコマーシャルでは、ディープフェイク技術を利用してSnoop Dogg氏の口の動きを子会社の社名に合うように変えました。

一方で、ディープフェイクが広く利用されるようになると、名の知られていない俳優のポジションが奪われる可能性があり、雇用が喪失するか、あるいはエンターテインメント業界によるタレントの雇用方法が変化する可能性があります。あまり名の知られていない俳優を、有名人を演じてもらうために雇う方が効率が良くなり、そのような需要が高まることになれば、こうした俳優自身が有名になったり「発掘される」可能性は減ります。そうなると、決して有名になれず、自分の名前と肖像を収益化することもできないディープフェイク俳優の層が生まれる可能性があります。

2020年、マサチューセッツ工科大学 (MIT) のCenter for Advanced Virtualityは、ディープフェイクを一般の人々に紹介し、ディープフェイクがいかに精緻になり得るかを示すために、新しいデジタル・ストーリーテリング・プロジェクトを立ち上げました。同チームはディープフェイク俳優の力を借りて、1969年にアポロ11号の乗務員が地球に帰還できなかった場合に備えて本当に用意されていたスピーチを米国のニクソン大統領が読み上げ悲報を伝える「完全な」ディープフェイク (操作された音声と画像) を作りました。(写真: ©MIT/Halsey Burgund)

著名人のディープフェイクをデジタルコンテンツに組み込む

個人も著名人のディープフェイクをソーシャルメディア・プラットフォーム上で利用しており、基盤技術の浸透性 (および精度の高さ) がますます注目されています。2021年初めに、ベルギーのデジタルAIアーティストがTom Cruise氏の物まねタレントと協力し、@deeptomcruiseというTikTokのアカウントで「トム・クルーズ」の非常にリアルな動画を公開しました。動画では「トム・クルーズ」が小売店で転倒してソビエト連邦のジョークを言ったり業務用清掃サービスをしたりするなど、一風変わった行動を取り、数十万回再生されました。さらに、歌手のHarry Styles氏のディープフェイクが、彼の歌Watermelon Sugar」に合わせた音楽詩の中でもっとイチゴが食べたいと要求する動画は、昨年TikTokで瞬く間に広まりました。

個人または企業がメディアコンテンツ用に著名人のディープフェイクを作りたいと考えた場合、適用法の下で認められるかどうか、弁護士と慎重に検討する必要があります。そうしたコンテンツを投稿するには、そのコンテンツが表現の自由で保護されるクラス (パロディなど) か、その著名人のパブリシティ権はパブリックドメインに入っているか、著作権侵害の主張に対するフェアユースの抗弁があるかなど、いくつかの重要な法的根拠を検討する必要があります。そうでなければ、他のクラスと同じように、この状況でのタレントの肖像権使用に同意が必要になるでしょう。

適用法の検討

米国では、ディープフェイクをめぐる法的環境は急速に変化しています。個人または企業は、特に合成メディアおよびデジタル操作されたメディアを取り扱う最新の州法に注意を払う必要があります。

例えば2020年11月に、ニューヨーク州は「他界している実演家のデジタル・レプリカ」を音声動画コンテンツで使用することを、かかる使用が「許可されていると公衆が欺かれる可能性がある」場合に、実演家の死後40年間、明示的に禁止する法律を制定しました。これにより、Anthony Bourdain氏のドキュメンタリー映画Roadrunner」などの事例で、ディープフェイクの使用が禁止される可能性があります。この映画のディレクターは、Bourdain氏の死後に作品を完成させるために、同氏の未亡人Ottavia Bourdain氏が許可していないにもかかわらず、ディープフェイク技術を利用して3箇所のセリフを同氏の「声で再現」したことで議論を呼びました

政治の最前線では、2019年9月にテキサス州が、候補者を中傷したり選挙結果に影響を与えたりする目的で有権者を欺く「ディープフェイク動画」を配信することを、選挙前の30日間禁止する法律を制定しました。その翌月、カリフォルニア州も類似の法を可決しましたが、争点となっていた期間は、選挙前60日間としました。さらに、ディープフェイクをホストするプラットフォームも、詐欺の主張に関してコンプライアンス上の懸念に注意を払う必要があるでしょう。

ディープフェイクは楽しむために利用されることもあります。Dali Livesは、米国フロリダ州のダリ美術館で行われている画期的なAI体験です。機械学習を利用して製作した現代のダリの肖像が、インタラクティブなスクリーンに映し出されます。美術館を訪れた人は、ダリと「シュールな」自撮り画像を撮ることもできます。(写真: 米国フロリダ州セント・ピーターズバーグ、ダリ美術館提供)

ディープフェイクによるビデオゲーム・キャラクターの拡張

ゲーム業界でも、特にアバターなど、ディープフェイクによる破壊的創造が生じています。多くのゲームは、スターウォーズのルーク・スカイウォーカーやレイア姫などのキャラクターの役割をプレーヤーが引き受けることを前提としています。しかし、より没入感のあるゲーム体験では、単にゲームパッドでルークやレイアをコントロールするだけでなく、アバターにあなたの顔と口の動きを追跡させます。これを実現しているのがディープフェイク技術です。さらに、ディープフェイクが生成する合成音声によって、あなたの声をルークやレイアに似せることも可能です。これは予想外のプラスの結果をもたらすこともあります。例えば、いわゆる「ボイススキン」によってLGBT+の人たちはゲーム内の声を変えることができ、より快適なゲームプレイが楽しめるようになっています。この事実は、音声チャット・ユーザーの半数以上がゲームプレイ中に嫌がらせを受け、LGBT+のプレーヤーの37%が性的指向を理由に嫌がらせを受けているという名誉棄損防止同盟の2020年の統計を考えれば、当然と言えるでしょう。

ディープフェイクがデジタル・メディアのさまざまな側面に広がる中、基盤技術を利用しようとする個人や企業は前もって既存の契約内容を検討し、このトピックに関する適用法に目を通す必要があるでしょう。

このような汎用技術は、 経済的利益を得るための詐称や音声認証システムへの不正ログインなど、不正に利用される可能性もあります。ディープフェイク技術は、ノンプレーヤー・キャラクター (NPC) にもあなた自身のアバターにも影響を及ぼすでしょう。優れた自然言語生成モデル (GPT‑3など) ゲームのディープフェイクを組み合わせることで、NPCは、特定のスクリプトに従う必要なく、精緻に合成された顔と口の動きであなたのアバターと無限に会話できるようになります。ビデオゲームの開発者は、このようなキャラクターとストーリー・アークのコンテンツ・オーナーとの現行のライセンス契約を分析し、ディープフェイクの使用が認められるかどうか判断する必要があるでしょう。

その他の主な利点

上述したディープフェイクを使用することの経済的メリットに加え、基盤技術をデジタルメディアで社会的利益のために利用することもできます。例えば、あるHBOのドキュメンタリーは、命の危険にさらされながら隠れて生活することを余儀なくされているLGBTQ+アクティビストたちの生活を詳細に描いています。アクティビストたちのプライバシー保護のために、このドキュメンタリーはディープフェイクのラッパーを使用し、ディレクターはラッパーのみをレビューしました。このラッパーもまたLGBTQ+アクティビストですが、性的指向による命の危険にさらされていない国に居住しています。ディープフェイクは、合成音声を利用して意思疎通を図っている数百万人の人々のためにユニークなカスタムメイドの声を作る際にも使用されています。

今後の実際的な検討事項

ディープフェイクがデジタルメディアのさまざまな側面に広がる中、基盤技術を利用しようとする個人や企業は前もって既存の契約内容を検討し、このトピックに関する適用法に目を通す必要があるでしょう。また、タレント契約を締結する個人は、パブリシティ権に関する条件を慎重に検討し、パブリシティ権がAI技術と共に使用される方法を十分コントロールできるようにする必要があります。注意深く対応すれば、ディープフェイクの発達と利用を活かして、ビジネスと社会に利益をもたらすことができるでしょう。

WIPO Magazineは知的財産権およびWIPOの活動への一般の理解を広めることを意図しているもので、WIPOの公的文書ではありません。本書で用いられている表記および記述は、国・領土・地域もしくは当局の法的地位、または国・地域の境界に関してWIPOの見解を示すものではありません。本書は、WIPO加盟国またはWIPO事務局の見解を反映するものではありません。特定の企業またはメーカーの製品に関する記述は、記述されていない類似企業または製品に優先して、WIPOがそれらを推奨していることを意図するものではありません。