ディープフェイクと偽情報 : より信頼性の高いインターネットを構築するための新しい技術標準

Coalition for Content Provenance and Authenticity (C2PA) は、偽情報に対抗するためのテクノロジーの開発を目的としています。同グループは、数か月にわたり非公開で迅速に作業を進めてきました。そして先日、一般向けに仕様書のドラフトを公開しました。この仕様書は、世界中で生み出され、消費されるメディアコンテンツの出所とその進化の過程を容易に追跡できるようにするためのシステムを設計したものです。

このドラフトは、何か月もかけて練られてきた壮大なアイデアを表現したものです。具体的には、メディアコンテンツがどのように操作されているかをテクノロジーによって明らかにすることで、誤情報の拡散に対抗し、誰もがメディアコンテンツを利用または共有する際に、より賢明な判断を下せるようにすることを目指しています。この種のテクノロジーが偽情報に対抗するための有力なツールとなるためには、早期にフィードバックを得ることが極めて重要です。

Fastly は、より信頼できるインターネットの構築に力を注いでいます。そこで、このミッションを推進するため、他のメディアやインターネット団体とともに、Fastly もこの公開仕様書のドラフト作成に参加しました。

以下では、誤情報に関する問題点と C2PA が推奨するテクノロジーの役割を簡単に説明した上で、この取り組みに参加する方法についてご説明します。幸い、すでにいくつかのツールがリリースされているので、このテクノロジーを自ら試してみたい方はぜひお試しください。

誤情報が生まれる背景

誤情報とは不正確な情報のことで、人を欺く意図があるかどうかを問いません。もっとも、それにはいくつかの派生タイプがあり、定義も進化しています。偽情報とは、誤情報の中でも、意図的に人を欺くことを目的としたものを指します。「フェイクニュース」と呼ばれるものがありますが、これは、ニュースメディアの形式を模倣しているものの、意図は異なります。

この種の誤情報による被害を測定し、抑制するのは容易ではありません。この問題に対処するには、監視、連携可能なプラットフォームによる悪用防止、法の執行などが重要な役割を果たします。

誤情報による被害を抑えるための有効な手段の一つが、メディアリテラシーの向上です。メディアリテラシーとは、一言で言えば個人がメディアコンテンツを批判的に評価するのを可能にするプラクティスです。例えば、メディアコンテンツの作者や、その作成に使用された手法を特定することなどが挙げられます。

C2PA が推奨するシステムの仕組み

そこで、C2PA が推奨するシステムのようなテクノロジーの出番です。C2PA のシステムにより、メディア資産の変更履歴に関する認証されたデータを明らかにすることが可能になります。このアイデアでは、携帯電話のカメラやフォトエディター、お気に入りのエッジ・コンピューティング・プラットフォームなど、あらゆる種類のメディアツールによってこの履歴を更新し、検証することが可能になります。メディア資産がエンドユーザーに配信されると、エンドユーザーはそのメディアコンテンツの暗号化された履歴を確認して、この履歴情報をもとにメディアコンテンツの正確さや正当性を判断することができます。

C2PA システムの構成要素 (公開ドラフト v0.7 より)

C2PA のシステムに対応するツールは、メディアリテラシーの判断に役立つ情報をキャプチャして提示します。最終的に C2PA が目指しているのは、これらの情報を適切なタイミングでユーザーに提供することです。適切なタイミングとは例えば、「メディアリテラシーに基づく素早い判断」(Twitter のフィードを迅速に手際よくスクロールする際など) が必要な場合です。リツイートするかどうかを決める前に、動画がこれまでにどのように変更されたか (さらに、誰が変更したか)、履歴をすべて見ることができることを想像してみてください。

RFC の重要性

ご想像の通り (あるいは既にご存知の通り)、この取り組みは容易ではありません。

複数の技術的な問題が伴います。C2PA のシステムをサポートしない編集や配信のツールチェーンと編集履歴に関するメタデータの相互運用を支援するなど、取り組みやすいものもあれば、C2PA を採用する企業が利用するさまざまな ID プロバイダーのサポートなど、広範囲に及ぶものもあります。

しかし、最終的に C2PA が提案しているのは、実際の人々と実際の危害に対処するための連携されたシステムです。このようなシステムの場合、機能性や情報セキュリティなどの典型的なシステム設計上の懸念が高まるだけでなく、プライバシーや被害の最小化などの問題についても特別な配慮が必要となります。例えば、実名ポリシーはメディアコンテンツの信頼性を判断するのに有用ですが、個人をリスクにさらす可能性があり、そのリスクには身体的危害が及ぶリスクも含まれます。では、このような悪影響を最小限に抑えるために、C2PA のシステムをどのように設計すべきでしょうか。

C2PA のようなシステムの設計において、誤情報の拡散によって影響を受ける個人にもたらすメリットを最大化し、被害を最小化するためには、多様な意見を取り入れることが極めて重要です。つまり、あらゆる方々からの意見を考慮する必要があります。技術的なものも、そうでないものも含めて、皆さんのご意見がこの種のテクノロジーの形成に役立ちます。

一緒にこの問題に取り組みましょう

私たちはこの問題から目を逸らすべきではありません。誤情報の被害は改善されるどころか悪化するかもしれません。誤情報の不用意な拡散、ディープフェイクなど善悪両方の目的で使用可能なデュアルユーステクノロジーの進歩、明らかな偽情報キャンペーンなどの報告が相次いでいます。誤情報の拡散を止めるのは不可能のように思えるかもしれません。しかし諦めることはありません。技術者であり、クリティカルシンキングに長けた私たちにできることがあるのではないでしょうか。コンテンツの出所を追跡する技術は万能ではなく課題もありますが、可能性も秘めています。

この問題の解決にご興味のある方は、C2PA の仕様書をご確認の上、ご意見をお聞かせください。