La Universidad Carlos III de Madrid (UC3M) participa en el proyecto europeo SOLARIS para analizar los riesgos políticos asociados a los contenidos multimedia creados mediante Inteligencia Artificial (IA). El objetivo es plantear innovaciones regulatorias al respecto desde el ámbito del Derecho para luchar contra las noticias falsas y la desinformación creada con esta tecnología. "La realidad no avanza tan rápido como la inteligencia artificial", avisa Antonio Estella de Noriega, uno de los investigadores de la UC3M involucrados en el proyecto.
Las Generative Adversarial Networks (GANs) son una clase de modelos de IA capaces de crear contenidos multimedia, de audio y video, que se asemejan a la realidad. El reto principal que plantean estas tecnologías está relacionado con los llamados deepfakes (falsificaciones profundas), imágenes o vídeos falsos que simulan hechos reales con extrema precisión. En la hemeroteca reciente, por ejemplo, la imagen del Papa Francisco con un abrigo Balenciaga que luego se demostró que era falsa. "Esta tecnología plantea una amenaza política urgente, porque ya se están utilizando para difundir noticias falsas y desinformación", afirma Estella de Noriega.
SOLARIS busca reaccionar ante esta problemática de dos maneras. Por un lado, se analizarán los riesgos políticos asociados con estas tecnologías para prevenir posibles implicaciones negativas para las democracias de la UE. Y como resultado, se establecerán innovaciones regulatorias para detectar y mitigar los riesgos de los deepfakes. Por otro, se evaluarán las oportunidades que plantean las GANs para revitalizar el compromiso democrático de los ciudadanos.
En el marco de SOLARIS se desarrollarán tres estudios de caso. El primero tiene como objetivo comprender los aspectos psicológicos de la confiabilidad percibida de las GANs a través de un experimento controlado en condiciones de laboratorio. El segundo, simula la circulación de contenidos amenazantes de GANs en redes sociales para detectar riesgos y diseñar estrategias de mitigación. El tercero, crea contenidos GAN basados en valores para aumentar la conciencia sobre temas democráticos globales clave (como por ejemplo, el cambio climático, la dimensión de género o la migración).
[Te puede interesar: Combatir la desinformación a golpe de videojuego]
La UC3M se encargará enfocará sus esfuerzos en la parte regulatoria de esta IA, cada vez más avanzada y que genera ciertos peligros a las democracias. "Lo que podamos estar regulando hoy seguramente no nos valga para dentro de seis meses. Por ello debemos llevar un seguimiento continuo", dice Estella de Noriega. La universidad ha anticipado que hará una propuesta de normas jurídicas en este ámbito. "El mayor reto es precisamente lo rápido que se están produciendo los cambios. Por su propia naturaleza, el Derecho lo que hace es trabajar sobre una determinada imagen congelada de la realidad y, en términos generales, la IA lleva la delantera", sostiene el investigador.
No obstante, las GANs también constituyen una oportunidad para mejorar la conciencia democrática y expandir la ciudadanía activa e inclusiva. "Se pueden utilizar para hacer el bien y tener usos positivos en el ámbito periodístico, histórico o jurídico, por ejemplo", añade el profesor. Todo ello se verá de aquí a 2026, año en que el proyecto llegará a su fin tras una inversión de tres millones de euros por el Programa de Investigación e Innovación Horizonte Europa.
