Deepfakes und Desinformation: Wie neue technische Standards ein vertrauenswürdigeres Internet schaffen

Die Coalition for Content Provenance and Authenticity (C2PA) entwickelt Technologien zur Bekämpfung von Desinformation. Die Gruppe hat monatelang hinter verschlossenen Türen gearbeitet und vor kurzem einen Entwurf für eine Spezifikation veröffentlicht, die es einfacher machen soll, Ursprung und Entwicklung der Medien nachzuvollziehen, die wir alle erstellen und konsumieren. 

Der Entwurf steht für eine große Idee, an der viele Monate gearbeitet wurde: dass Technologie Fehlinformationen bekämpfen kann, indem sie aufzeigt, wie Medien manipuliert wurden. So können wir klügere Entscheidungen darüber treffen, wie wir Medien konsumieren und teilen. Entscheidend ist ein frühzeitiges Feedback, denn nur so kann gewährleistet werden, dass diese Art von Technologie eine positive Kraft im Kampf gegen Desinformation ist.

Wir bei Fastly haben es uns zum Ziel gemacht, unseren Kunden die Zügel in die Hand zu geben, damit sie ein vertrauenswürdigeres Internet schaffen können. Zusammen mit anderen Medien- und Internet-Organisationen haben wir dazu beigetragen, den Entwurf dieser Spezifikation zu veröffentlichen, um dieses Ziel zu unterstützen.

In diesem Blogpost erhalten Sie einen kurzen Überblick über das Thema, die Rolle von C2PA-Tech und wie Sie mitmachen können.Passenderweise gibt es auch schon einige Tools, mit denen Sie diese Technologie selbst ausprobieren können.

Was sind Fehlinformationen eigentlich?

Fehlinformationen sind ungenaue Informationen, egal, ob sie zur Täuschung dienen sollen oder nicht. Es gibt jedoch einige Unterarten, und es kristallisieren sich ein paar Definitionen heraus.Desinformation ist eine Untergruppe von Fehlinformationen, die gezielt irreführend ist. Als „Fake News“ werden Fehlinformationen bezeichnet, die zwar wie Nachrichtenmedien aussehen, es aber nicht sind.

Den Schaden, den diese Art Fehlinformation verursacht, zu messen und zu begrenzen, ist eine Herausforderung. Überwachung, Zusammenarbeit bei der Bekämpfung des Missbrauchs von Plattformen, Strafverfolgung und mehr spielen eine wichtige Rolle bei der Bewältigung dieses Problems.

Ein wirksames Instrument zur Begrenzung des Schadens, der durch Fehlinformationen verursacht wird, ist Medienkompetenz. Kurz gesagt sind dies die Praktiken, die es uns als Individuen ermöglichen, Medien kritisch zu bewerten. Zum Beispiel die Identifizierung von Autoren eines Mediums und der Methoden, die für die Erstellung verwendet wurden.

Wie C2PA hilft

Hier kommt eine Technologie wie die C2PA ins Spiel.C2PA spezifiziert einen authentifizierten Änderungsverlauf an einem Media Asset. Die Idee dahinter ist, diesen Verlauf dann mit Medien-Tools aller Art, sei es mit der Kamera Ihres Mobiltelefons oder einem Fotobearbeitungsprogramm oder Ihrer bevorzugten Edge-Computing-Plattform aktualisieren und validieren zu können. Der Endnutzer erhält diesen kryptografisch gebundenen Verlauf der Medien, die er konsumiert, und kann ihn einsehen (oder hören oder berühren) und diese Informationen nutzen, um damit einzuschätzen, ob die vom jeweiligen Medium gebotenen Informationen wahrheitsgemäß und legitim sind.

Elemente der C2PA (aus dem öffentlichen Entwurf v0.7)

C2PA-fähige Tools erfassen und präsentieren Informationen, die bekannt dafür sind, eine Entscheidungshilfe für Medienkompetenz zu sein.Im Endeffekt soll C2PA dazu dienen, Nutzern diese Informationen genau dann zur Verfügung zu stellen, wenn sie sie brauchen, zum Beispiel, wenn man „schnelle Medienkompetenz-Entscheidungen“ treffen muss (also etwa, wenn Sie kurz Ihren Twitter-Feed überfliegen). Stellen Sie sich vor, Sie bekommen einen vollständigen Überblick darüber, wie ein Video geändert wurde (und von wem), bevor Sie beschließen, es zu retweeten.

Ein wichtiger RFC

Sie können sich wahrscheinlich schon denken (oder wissen bereits), dass es sich hierbei eine knifflige Angelegenheit handelt.

Zum einen ist sie technisch nicht leicht umzusetzen. Zum anderen gibt es überschaubare Aufgaben, wie die Unterstützung der Interoperabilität von Provenance-Metadaten mit C2PA-unwissenden Bearbeitungs- und Bereitstellungs-Toolchains. Und dann gibt es da noch weitreichende Maßnahmen, wie die Unterstützung der unzähligen Identitätsanbieter, die von C2PA-Teilnehmern genutzt werden könnten.

Letztlich schlägt die C2PA aber ein föderales System vor, das sich mit echten Menschen und echten Schäden befasst. Dies kann dazu führen, dass typische Aspekte der Systementwicklung wie Funktion und Informationssicherheit in den Vordergrund rücken. Aber auch Themen wie Datenschutz und Schadensminimierung müssen besonders berücksichtigt werden. Eine Klarnamenrichtlinie kann beispielsweise für die Auseinandersetzung mit Medien nützlich sein, birgt aber auch Risiken für Einzelpersonen, einschließlich die Gefahr körperlicher Schäden. Wie müssen C2PA-Technologien also konzipiert sein, um solche negativen Auswirkungen zu minimieren?

Um den Nutzen von Systemen wie C2PA zu maximieren und den Schaden für die von der Verbreitung von Fehlinformationen betroffenen Personen zu minimieren, sind vielfältige Beiträge entscheidend.Das bedeutet, jeder von uns muss seinen oder ihren Beitrag leisten.Ihr Input – ob technischer oder nichttechnischer Art – kann dazu beitragen, wie diese Art von Technologie funktioniert.

Jetzt sind wir am Zug 

Machen wir uns nichts vor: es kann sein, dass das Problem mit den Fehlinformationen schlimmer wird, bevor es besser wird. Berichte über die unbeabsichtigte Verbreitung von Fehlinformationen, über Fortschritte bei Dual-Use-Technologien (Technologien, die sich positiv wie negativ verwenden lassen) wie Deepfakes und über gezielte Desinformationskampagnen häufen sich. Das Ganze mag vielleicht manchmal hoffnungslos erscheinen. Aber das ist es nicht. Wir als Technologen und kritische Denker können vielleicht helfen. Technologie zur Herkunftssicherung von Inhalten ist zwar ganz sicher kein Allheilmittel und es gibt natürlich Herausforderungen, aber es gibt auch Potenzial. 

Möchten auch Sie Ihren Beitrag zur Lösung dieses Problems leisten? Dann werfen Sie einen Blick auf die C2PA-Spezifikation an und lassen Sie uns wissen, was Sie davon halten!