El PP ha publicado un vídeo que clona la imagen y la voz de Zapatero y de otras personas vinculadas al PSOE para hacerles pronunciar confesiones ficticias. Aunque incluye un aviso de inteligencia artificial y se presenta como crítica política, este contexto puede desaparecer cuando el contenido se recorta y se comparte. Esto puede hacer pasar la ficción por una declaración real.
El 29 de noviembre votaremos. Hasta entonces, discutiremos sobre candidatos, pactos y programas, pero también nos jugaremos algo menos visible: la posibilidad de tener una conversación pública que nos permita decidir con criterio. Podemos organizar unas elecciones impecables y llegar a las urnas después de una campaña en la que cueste distinguir los hechos de las invenciones. La salud democrática también depende de las condiciones en las que nos formamos una opinión.
La influencia de la IA sobre el voto, sin embargo, puede ser menos visible y más peligrosa que un vídeo falso. Un elector puede pedirle que compare programas, explique una propuesta fiscal o aclare las consecuencias de un pacto. Son usos que pueden facilitar la participación. Pero es la tecnología la que decide qué es relevante y qué información omite. Además, la manera en que presenta esta información no es neutral; su objetivo es complacer al cliente, no informar a un ciudadano. De este modo, es muy fácil que acabemos delegando el criterio político sin preguntarnos desde qué marco se nos responde ni qué sesgos lleva implícitos.
Un estudio publicado en Nature observó, en experimentos controlados, que las conversaciones con chatbots diseñados para defender candidatos podían modificar las preferencias declaradas de los participantes. Algunos argumentos contenían información incorrecta, y esto acredita una capacidad de persuasión que conviene tomarse en serio. El problema es que esto puede ocurrir también en conversaciones aparentemente informativas, cuando creemos que solo nos están ayudando a entender.
Un estudio publicado en Nature observó que las conversaciones con chatbots diseñados para defender candidatos podían modificar las preferencias declaradas de los participantes
Esta influencia nos lleva a los propietarios, un puñado de tecnobros no muy entusiastas de la democracia, que gestionan empresas que controlan herramientas cada vez más potentes para intervenir en nuestra información, nuestros argumentos y las decisiones políticas. Es decir, controlan herramientas con una gran capacidad para influir en la conversación pública, precisamente uno de los pilares fundamentales de la democracia.
Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, intervinieron el 23 de septiembre ante el Consejo de Seguridad de la ONU para defender que las decisiones importantes sobre la IA deben tomarse mediante procesos democráticos, y no solo en los laboratorios de Silicon Valley. Pero si nos fijamos en lo que hacen, lo que pretenden es capturar a los reguladores y adaptar las normas a los intereses de la industria. Reclamar control democrático mientras se trabaja para secuestrarlo es, sin duda, una manera bastante creativa de entender la democracia.
Los directivos tienen incentivos comerciales para preservar secretos, proteger su ventaja y evitar controles que les resten poder. Esta tensión no desaparece porque reclamen regulación o propongan auditorías. La transparencia que necesitamos es precisamente la que permita cuestionarles, contrastar sus afirmaciones y exigirles responsabilidades.
Las advertencias apocalípticas completan la paradoja. Aparecen a la vez como fabricantes, profetas de la catástrofe y salvadores. La investigación de los riesgos es necesaria; convertir sus pronósticos en actos de fe nos impide discutirlos. Mientras tanto, la alarma puede reforzar la venta: nos invita a adoptar precipitadamente una tecnología presentada como sobrehumana para no quedar atrás. La dependencia acaba pareciendo una condición inevitable del progreso.
Los beneficios de la IA son reales, también para mejorar la toma de decisiones en el ámbito público. Precisamente por eso, hay que poder gobernar sus usos. En esta precampaña, los partidos utilizan la IA para elaborar y difundir mensajes, pero, paradójicamente, no explican lo suficiente cómo piensan gobernarla ni cómo quieren incorporarla a las administraciones públicas. Deberían explicar cómo la utilizan y asumir la responsabilidad de los contenidos que difunden, pero también concretar qué tareas quieren automatizar, con qué garantías y cómo podremos discutir las decisiones que se deriven de ello.
En esta precampaña, los partidos utilizan la IA para elaborar y difundir mensajes, pero, paradójicamente, no explican lo suficiente cómo piensan gobernarla ni cómo quieren incorporarla a las administraciones públicas
Alfabetizar a la ciudadanía es imprescindible e implica entender esta tecnología, aprender a utilizar las herramientas y contrastar sus respuestas. Pero no podemos cargar sobre cada elector el trabajo de verificar todo aquello que partidos y plataformas ponen en circulación. Las instituciones y los partidos deben preservar las condiciones de una conversación pública practicable. Una democracia necesita ciudadanos capaces de formarse una opinión, discrepar y exigir explicaciones. Agotar esta capacidad obligándoles a averiguar constantemente qué ha pasado de verdad también es una manera de deteriorarla.
Si aceptamos que unos tecnoseñores feudales decidan qué debemos temer, a quién debemos votar, qué respuestas son válidas y qué podemos imaginar, habrán ganado sin presentarse a las elecciones. Y además les habremos pagado la suscripción.
