En el mundo actual, conectado digitalmente, los mensajes políticos y la desinformación son cada vez más sofisticados. Las campañas políticas y los esfuerzos de desinformación, sobre todo los bien financiados, tienen un impacto significativo en la sociedad. Históricamente han explotado los puntos de vista políticos e ideológicos para sintonizar con la gente, convencerla de que actúe o incluso atraerla a una estafa.
Es probable que las tecnologías de IA generativa, como los grandes modelos lingüísticos (LLM) y los grandes modelos de imágenes, transformen este campo. La IA generativa ofrece herramientas para crear contenidos sofisticados y personalizados a gran escala, lo que antes era difícil y requería mucho trabajo. Con estas capacidades, el riesgo que plantean los actores maliciosos puede alcanzar nuevos niveles.
Ya hemos observado a varios actores que abusan de la IA generativa como parte de campañas de fraude en curso, incluido el uso de textos generativos para enviar mensajes a las víctimas de estafas, imágenes generadas por IA para crear redes sociales engañosas, y vídeos y voces «deepfake» creados por IA para facilitar la ingeniería social de las víctimas. Estas mismas herramientas se han utilizado como parte de campañas de desinformación y fraude político en las redes sociales.
Dada la relevancia de estos temas de cara a las elecciones en curso en todo el mundo, comprender el efecto de las nuevas tecnologías en la desinformación política es especialmente importante. En este análisis, exploramos una de las mayores amenazas derivadas del uso malicioso de la IA generativa: la desinformación por encargo. Si alguien incluye desinformación deliberada en un correo electrónico masivo, las personas que no estén de acuerdo se alejarán de la campaña. Pero en el método que exploramos en nuestra investigación, la desinformación solo se añade al correo electrónico cuando es probable que esa persona concreta esté de acuerdo con ella. Esta posibilidad puede cambiar completamente la escala de propagación de los mensajes de desinformación.
En la investigación que documentamos en este informe, intentamos descubrir métodos potenciales por los que los adversarios podrían aplicar herramientas de IA generativa para realizar cambios impactantes en la esfera política. Estos métodos utilizan las actuales tecnologías de IA generativa de forma que puedan ser ejecutados a muy bajo coste por una amplia gama de actores potenciales que deseen influir en la política a pequeña o gran escala.
Leer el artículo completo .