Ultrafalsos y desinformación: una Internet más fiable gracias a la publicación de nuevas normas técnicas

La Coalition for Content Provenance and Authenticity (C2PA) desarrolla tecnologías que luchan contra la desinformación. Tras meses enclaustrado trabajando sin descanso, este grupo hizo público recientemente un borrador de especificación. Su objetivo: simplificar el rastreo del origen y la evolución de los contenidos multimedia que todos generamos y consumimos. 

El borrador es el fruto de una idea central que lleva meses germinando: la tecnología puede luchar contra la desinformación exponiendo las técnicas de manipulación de los contenidos multimedia. De este modo, la sociedad podrá tomar decisiones mejor fundadas sobre cómo estos se consumen y se comparten. Recopilar opiniones desde un buen principio es vital para garantizar que esta clase de tecnología sea una fuerza positiva en la lucha contra la desinformación.

En Fastly, tenemos el compromiso de ayudar a nuestros clientes a forjar una Internet más fiable. Con este objetivo como referencia, hemos colaborado en la redacción de este borrador de especificación junto con otras empresas de contenidos multimedia y organizaciones dedicadas a la Red.

En esta entrada explicaré a grandes rasgos cuál es el problema, el papel que desempeña la tecnología C2PA y tu posible participación. Si te interesa probar esta tecnología, por una feliz coincidencia ya han surgido algunas herramientas.

Antecedentes de la información errónea

La información errónea son datos inexactos, sin importar si el fin de la inexactitud es o no manipular. Sin embargo, han surgido diversos subtipos y las definiciones no dejan de evolucionar. La desinformación es un tipo de información errónea cuya naturaleza es engañar de forma deliberada. Los bulos, o noticias falsas, se consideran parte de la información errónea; imitan el formato de los medios de comunicación, pero su finalidad no es la misma.

Evaluar y limitar los perjuicios que ocasionan estas variedades de información errónea es todo un reto. Para ello, podemos contar con organismos de supervisión, las fuerzas de seguridad y plataformas colaborativas dedicadas a combatir información maliciosa, entre otros.

Una herramienta que limita con eficacia los perjuicios que provoca la información errónea es la alfabetización mediática. Se trata, en líneas generales, de prácticas que enseñan a la ciudadanía a evaluar los medios de comunicación con ojo crítico; por ejemplo, a identificar a los autores de una información determinada y las técnicas empleadas para elaborarla.

Cómo contribuye la C2PA

Es en este punto donde entra en juego la tecnología C2PA. C2PA elabora la especificación de un historial autenticado que recoge los cambios que se han realizado en un activo multimedia. El propósito es que herramientas multimedia de todo tipo —cámaras de teléfonos móviles, editores de fotos o plataformas de edge computing— puedan actualizar y validar este historial. Una vez que el activo se distribuye al usuario final, este podrá ver (o escuchar o tocar) el historial, cohesionado con medios criptográficos, del contenido multimedia que consume. Además, podrá utilizar esta información para sacar conclusiones sobre la exactitud y la legitimidad de dicho contenido.

Elementos de la C2PA (según la versión 0.7 del borrador publicado)

Las herramientas que tienen la C2PA activada recopilan y presentan información de dominio público a modo de ayuda en la toma de decisiones de alfabetización mediática. En última instancia, lo que pretende esta tecnología es poner dicha información a disposición de los usuarios siguiendo criterios lógicos y en el momento oportuno. Algo parecido a cuando tomas «decisiones rápidas de alfabetización mediática» (o sea, cuando vas pasando las publicaciones de Twitter). Imagina que pudieras acceder al listado completo de todas las modificaciones realizadas en un vídeo (y de quiénes las hicieron) antes de decidir si lo retuiteas o no.

Una RFC relevante

Como supondrás (o ya sabrás), este problema conlleva varias dificultades.

Hay escollos técnicos; algunos manejables, como facilitar la interoperabilidad de los metadatos de procedencia con cadenas de herramientas de edición y distribución no compatibles con C2PA; y otros de gran alcance, como dar soporte a los incontables proveedores de identidad a los que podrían recurrir quienes adopten la C2PA.

En el fondo, sin embargo, lo que la C2PA propone es un sistema federado que lidia con personas reales y perjuicios reales. Aunque esta propuesta posiblemente ponga en el candelero preocupaciones habituales del diseño de sistemas, como la funcionalidad y la seguridad de la información, también exige que se preste especial atención a problemas como la privacidad y la minimización de perjuicios. Por ejemplo, piensa que una normativa de uso de nombres reales, aunque podría ser útil al razonar acerca de contenidos multimedia, podría exponer a las personas a riesgos, incluidos riesgos para su integridad física. Por tanto, la pregunta es: ¿De qué forma conviene diseñar la tecnología C2PA para minimizar impactos negativos como estos?

Lograr contribuciones variadas acerca del diseño de sistemas como la tecnología C2PA es vital para maximizar las ventajas —y minimizar los perjuicios— que estos pueden aportar a quienes no están inmunizados frente a la proliferación de la información errónea. Es decir, a todo el mundo. Tu contribución, ya sea técnica o genérica, puede ayudarnos a modelar el funcionamiento de este tipo de tecnologías.

Está en nuestras manos 

No nos engañemos; es probable que la influencia que ejerce la información errónea siga extendiéndose antes de que encontremos un antídoto: no paran de salir noticias sobre la difusión de información errónea, el avance de la tecnología de uso dual como los ultrafalsos (deepfakes) y la aparición de incisivas campañas de desinformación. Puede parecer un problema sin solución, pero no es así. Es posible que nosotros, tecnólogos e intelectuales críticos, podamos echar una mano. Aunque la tecnología de procedencia de contenido no sea el remedio de todos los males —de hecho, se enfrenta a problemas propios que debe resolver—, su potencial es indudable. 

Si te interesa contribuir a solucionar este problema, echa un vistazo a la especificación C2PA y dinos qué te parece.