Sophos X-Ops suele centrarse en cómo pueden utilizarse las tecnologías de inteligencia artificial para mejorar la ciberseguridad. Pero para una presentación en la AI Village de DEF CON el sábado 12 de agosto, Ben Gelman y Younghoo Lee, de SophosAI, darán un giro hacia el lado oscuro, demostrando cómo la IA generativa puede utilizarse para automatizar la creación de campañas maliciosas, para robar las credenciales de los usuarios y otra información personal.
Como señalan Gelman y Lee en su resumen de la charla, la generación de texto con modelos grandes de lenguaje (LLM) (como ChatGPT de OpenAI, Bard de Google y Llama 2 de Meta), la IA del habla (como WaveNet de Google) y las tecnologías generativas de imágenes (como DALL-E, Stable Diffusion y Midjourney) han hecho posible crear “un nuevo nivel de contenido diverso y sintetizado que puede engañar a una escala sin precedentes”. Ya se ha observado que los ciberdelincuentes utilizan los LLM como parte de su conjunto de herramientas, para generar texto en conversaciones con las víctimas en las que el dominio de la lengua del objetivo puede ser una barrera, pero los LLM también pueden utilizarse para generar otros contenidos, incluyendo no solo texto, sino código para sitios web. Combinada con las capacidades de creación de imágenes y audio de otras herramientas de IA generativa, es posible utilizar la IA para generar campañas enteras de estafa que difuminen la frontera entre realidad y ficción.
Gelman y Lee presentarán una prueba de concepto para orquestar automáticamente campañas de estafa de robo de credenciales, utilizando la IA para crear código, texto, imágenes y audio para construir docenas de sitios web, catálogos de productos, testimonios y anuncios en las redes sociales. También hablarán de cómo han disminuido las barreras de entrada para los delincuentes con un conocimiento mínimo de la IA, y de la escala de automatización que puede lograrse con las herramientas de IA, así como de las limitaciones de las herramientas que siguen requiriendo la intervención humana para completar estas tareas.
La charla, titulada The Sinister Synergy of Advanced AI: Automatically Orchestrating Large-Scale Scam Campaigns with Large Generative Models, tendrá lugar a las 13:30, hora del Pacífico (PT), en la AI Village del Foro César.
