Cómo manipular unas elecciones democráticas mediante el uso de la inteligencia artificial

La manipulación de elecciones democráticas mediante inteligencia artificial (IA) es un tema sensible que requiere un análisis cuidadoso, ya que combina avances tecnológicos con cuestiones éticas y democráticas. La IA ofrece herramientas poderosas que, si bien pueden usarse para mejorar la comunicación política y la participación ciudadana, también pueden ser explotadas para distorsionar procesos electorales. Este artículo explora cómo la IA puede ser utilizada para manipular elecciones democráticas, los métodos específicos empleados, los riesgos asociados y las medidas para mitigar estos peligros. Es importante destacar que este análisis se presenta con fines informativos, para fomentar la conciencia y la prevención, no para promover tales prácticas.

1. Recopilación y análisis masivo de datos

La base de cualquier estrategia de manipulación electoral con IA es la recopilación masiva de datos sobre los votantes. La IA puede procesar grandes volúmenes de información de fuentes como redes sociales (por ejemplo, publicaciones en X), historiales de búsqueda, registros públicos, compras en línea y hasta datos biométricos. Algoritmos de aprendizaje automático analizan estos datos para crear perfiles detallados de los votantes, identificando sus preferencias, temores, sesgos y comportamientos probables.

Método de manipulación:

• Microsegmentación: La IA permite dividir a los votantes en grupos específicos según características demográficas, ideológicas o psicológicas. Por ejemplo, un algoritmo puede identificar a votantes indecisos en un distrito clave y determinar qué temas (economía, migración, cambio climático) influyen más en sus decisiones.
• Modelos predictivos: La IA puede predecir cómo es probable que vote una persona basándose en su historial en línea. Esto permite a los actores maliciosos enfocar recursos en persuadir a votantes clave, ignorando aquellos que ya están decididos.

Caso documentado: En diciembre de 2019, la FTC concluyó que Cambridge Analytica obtuvo mediante prácticas engañosas datos de decenas de millones de usuarios de Facebook para elaborar perfiles y dirigir mensajes electorales. La resolución permite documentar el problema de privacidad y el uso previsto de los datos. No permite deducir por sí sola cuántos votos cambiaron ni atribuir a la empresa el resultado de una elección o del Brexit.

2. Personalización de mensajes y microtargeting

Una vez que se han identificado los perfiles de los votantes, la IA permite personalizar mensajes a un nivel hipergranular, una técnica conocida como microtargeting. Los mensajes se diseñan para apelar a las emociones, valores o temores específicos de cada grupo o incluso de individuos concretos.

Método de manipulación:

• Mensajes contradictorios: Un actor político podría enviar mensajes opuestos a diferentes grupos para maximizar su apoyo, sin que estos grupos se percaten. Por ejemplo, prometer políticas proteccionistas a trabajadores industriales y libre comercio a empresarios, creando una narrativa incoherente pero efectiva.
• Manipulación emocional: Los modelos de procesamiento del lenguaje natural (NLP) pueden generar textos que exploten emociones como el miedo o la ira. Por ejemplo, un anuncio podría enfatizar una crisis migratoria para votantes con tendencias conservadoras, mientras que otro podría destacar la igualdad social para audiencias progresistas.
• Automatización de contenido: Bots impulsados por IA pueden inundar redes sociales con mensajes personalizados, amplificando narrativas específicas. Estos bots son capaces de simular interacciones humanas, respondiendo a comentarios o generando publicaciones que parecen auténticas.

Riesgo: Esta personalización puede polarizar a los votantes, reforzar cámaras de eco y erosionar el debate público, ya que los ciudadanos reciben información sesgada diseñada para manipular sus decisiones.

3. Desinformación y contenido falso

La IA ha facilitado la creación y difusión de desinformación a una escala sin precedentes. Herramientas como los deepfakes (videos falsos generados por IA) y los generadores de texto avanzados pueden producir contenido engañoso que parece auténtico.

Método de manipulación:

• Deepfakes: Un video falso que muestre a un candidato diciendo algo escandaloso o comprometedor puede viralizarse rápidamente, dañando su reputación. Por ejemplo, un deepfake podría mostrar a un político admitiendo corrupción o insultando a un grupo demográfico, incluso si nunca ocurrió.
• Noticias falsas automatizadas: Modelos de IA como los basados en GPT pueden generar artículos, titulares o publicaciones en redes sociales que parezcan creíbles pero contengan información falsa. Estos contenidos pueden difundirse masivamente a través de bots o cuentas falsas.
• Amplificación algorítmica: Los algoritmos de las plataformas de redes sociales, diseñados para maximizar el engagement, pueden amplificar contenido falso o polarizante, ya que tiende a generar más reacciones emocionales. Los actores maliciosos pueden explotar esto para dar mayor alcance a su desinformación.

Caso documentado: En 2024, la FCC anunció una multa de seis millones de dólares contra Steve Kramer por llamadas automatizadas ilegales en New Hampshire que empleaban una voz generada con IA para imitar a Joe Biden. Se trata de un ejemplo documentado de suplantación mediante audio sintético. La existencia de esas llamadas no demuestra por sí sola que alteraran el resultado electoral.

4. Manipulación de la percepción pública

La IA puede moldear la percepción pública al controlar la narrativa en línea. Esto incluye no solo la difusión de mensajes, sino también la supresión de información contraria.

Método de manipulación:

• Censura algorítmica: Los actores pueden usar bots para reportar masivamente contenido de sus oponentes en redes sociales, logrando que sea eliminado o restringido por los algoritmos de moderación.
• Tendencias manipuladas: La IA puede generar publicaciones masivas para hacer que ciertos temas o hashtags aparezcan como tendencias en plataformas como X, creando la ilusión de un apoyo masivo a un candidato o idea.
• Guerra psicológica: La IA puede identificar puntos de división social (por ejemplo, raza, religión o economía) y amplificarlos mediante campañas coordinadas que generen conflicto y desconfianza en las instituciones democráticas.

Riesgo: Estas tácticas pueden desestabilizar la confianza en el proceso electoral, haciendo que los votantes cuestionen la legitimidad de los resultados o se sientan desmotivados para participar.

5. Automatización de campañas y bots

Los bots impulsados por IA son una herramienta clave para manipular elecciones. Estos programas pueden operar a gran escala, interactuando con votantes, difundiendo propaganda y suprimiendo voces disidentes.

Método de manipulación:

• Inundación de redes sociales: Los bots pueden publicar miles de mensajes por minuto, dominando la conversación en línea y ahogando las voces de los oponentes.
• Simulación de apoyo popular: Los bots pueden crear cuentas falsas que parezcan ciudadanos reales, compartiendo contenido favorable a un candidato o atacando a sus rivales.
• Interferencias en debates: Los bots pueden interrumpir discusiones en línea, desviando la atención de temas importantes o deslegitimando a los críticos.

Estudio documentado: En su investigación de 2016 publicada en First Monday, Alessandro Bessi y Emilio Ferrara estimaron que los bots generaban aproximadamente una quinta parte de la conversación electoral analizada en Twitter. El dato corresponde a la muestra y al método del estudio, no a toda la conversación política. Tampoco equivale a una medición de votos modificados ni demuestra que todas esas cuentas fueran operadas desde el extranjero. Un bot automatizado no es necesariamente un sistema de IA generativa.

6. Riesgos éticos y democráticos

El uso de la IA para manipular elecciones plantea serios riesgos para la democracia:

• Erosión de la confianza: La proliferación de desinformación y deepfakes puede hacer que los votantes desconfíen de toda la información, debilitando la base de una democracia informada.
• Desigualdad de recursos: Los actores con acceso a herramientas de IA avanzadas (partidos ricos o países con grandes recursos tecnológicos) tienen una ventaja desproporcionada, lo que puede marginar a candidatos o partidos más pequeños.
• Pérdida de autenticidad: La automatización de mensajes y la personalización extrema pueden reducir el discurso político a una competencia de algoritmos, alejando a los votantes de un debate genuino.

7. Medidas para prevenir la manipulación

Para contrarrestar estos riesgos, es crucial implementar estrategias preventivas:

• Regulaciones estrictas: Los gobiernos deben establecer leyes que exijan transparencia en el uso de IA en campañas políticas, incluyendo la divulgación de datos utilizados y la identificación de contenido generado por IA.
• Verificación de contenido: Las plataformas de redes sociales deben invertir en tecnologías de detección de deepfakes y desinformación, así como en equipos humanos de moderación.
• Alfabetización digital: Educar a los votantes sobre cómo identificar desinformación y entender el uso de sus datos es esencial para empoderarlos frente a la manipulación.
• Auditorías independientes: Los procesos electorales deben ser supervisados por organismos independientes que evalúen el uso de IA y garanticen la integridad de las campañas.
• Colaboración internacional: Dado que la manipulación puede provenir de actores extranjeros, los países deben cooperar para detectar y sancionar interferencias transnacionales.

Echémonos a temblar!!!!

La inteligencia artificial ofrece herramientas poderosas que pueden ser explotadas para manipular elecciones democráticas, desde la segmentación de votantes hasta la creación de desinformación y la automatización de propaganda. Si bien estas tácticas pueden ser efectivas para influir en la opinión pública, representan una amenaza significativa para la integridad de la democracia. La clave para contrarrestar estos riesgos radica en la combinación de regulaciones robustas, avances tecnológicos para detectar manipulación y una ciudadanía informada. Solo mediante un esfuerzo colectivo entre gobiernos, plataformas tecnológicas y votantes se puede garantizar que la IA se utilice para fortalecer, y no para socavar, los procesos democráticos. La vigilancia y la transparencia son esenciales en un mundo donde la tecnología evoluciona más rápido que las normas que la regulan.

Como complemento a este análisis de riesgos, la guía para verificar bulos electorales en España ofrece comprobaciones prácticas para audios, vídeos, capturas y mensajes reenviados.