El evento es organizado por la Federación Española de Sociología (FES), donde la docente asistirá como ponente y moderadora de la sesión “Desinformación y conocimiento de calidad”.
En el marco del XVI Congreso Español de Sociología, la Dra. Asja Fior (PUCP) junto con la Dra. Virginia Linares Rodríguez (Universidad Complutense de Madrid) moderan la sesión “Desinformación y conocimiento de calidad” de la temática del Grupo de Trabajo 24 “Sociología de la Comunicación y del Lenguaje”.
En esta sesión, la docente del Departamento de Comunicaciones en coautoría con el profesor Sebastiano Nucera (Università degli Studi di Messina) realizarán la ponencia titulada “La paradoja de la IA: deepfakes, memética y el colapso de la seguridad epistémica”.
La ponencia detalla que la inteligencia artificial (IA) generativa ha marcado el panorama informativo, principalmente en el uso en la producción, la difusión y la legitimación de las narrativas conspirativas en los ecosistemas digitales.
Debido a este impacto, la investigación integra perspectivas provenientes de la sociología, la semiótica, las comunicaciones, la psicología cognitiva, los estudios de plataformas y las neurociencias para analizar cómo la automatización y la escalabilidad de los deepfakes desencadenan dinámicas atribuibles a lo que la literatura reciente denomina el “Generative AI Paradox”.
Este concepto explica que la erosión de la verdad, la confianza institucional y la verificación de la información se debe a la reducción de costes de producción de desinformación de los medios sintéticos, lo que ha permitido su carácter omnipresente e indistinguible de la realidad y generando que la sociedad se vuelve incapaz de auditarlos.
Esta paradoja provoca un fallo del mercado de la información, haciendo que el coste de la verificación resulte prohibitivo y desplazando el eje de los criterios comunitarios de “verdad” hacia parámetros puramente subjetivos y emocionales, lo que evidencia la compleja ambivalencia de la IA con respecto a la estabilidad democrática.
“El colapso de la autoridad documental favorece intrínsecamente las narrativas conspirativas históricamente arraigadas, amenazando en última instancia la deliberación democrática. Consideramos que esta coyuntura impulsa a la investigación a centrarse no solo en la moderación, sino también en la problemática de la “seguridad epistémica” en su sentido amplio”, detalla la Dra. Asja Fior.
Entre los hallazgos de este estudio se demuestra la constatación de los daños institucionales sistémicos. Los casos del aumento de la exposición a deepfakes de relevancia política genera desconfianza hacia los gobiernos, cuyos efectos de los medios sintéticos son más marcados en ecosistemas mediáticos polarizados (como Estados Unidos) que en sistemas centralizados (como Singapur). Estos efectos dependen en gran medida del tejido sociopolítico preexistente, aunque la educación formal y las capacidades cognitivas actúan como fuertes moderadores.
Asimismo, también se revela un inesperado potencial curativo de la propia IA. La profesora Asja Fior menciona el estudio de Costello et al. (2024), el cual es un ejemplo de que el uso de modelos generativos avanzados en diálogos personalizados es capaz de refutar analíticamente las pruebas subjetivas esgrimidas por los creyentes de las narraciones conspiracionistas, reduciendo sus creencias en un 20 % de media de forma duradera (hasta dos meses de seguimiento) y disminuyendo la propensión general al conspiracionismo.
Por otro lado, la investigación pone de manifiesto que el poder engañoso y desmesurado de la IA no puede contenerse únicamente con soluciones tecnológicas de detección; la defensa del consenso democrático en la era de la posverdad requiere actualizaciones urgentes en la gobernanza digital, normativas éticas estrictas y nuevos programas de alfabetización mediática.
Finalmente, para la Dra. Asja Fior, su participación por tercera vez en el Congreso de la FES le genera una gran ilusión, porque en esta ocasión tendrá la oportunidad de moderar la sesión del Grupo de Trabajo 24 “Sociología de la Comunicación y del Lenguaje”.
