En noviembre de 2023, Sophos X-Ops publicó una investigación que exploraba las actitudes de los actores de amenazas hacia la IA generativa, centrándose en los debates de foros seleccionados de ciberdelincuencia. Aunque observamos una cantidad limitada de innovación y aspiraciones en estos debates, también hubo mucho escepticismo.
Dado el ritmo al que evoluciona la IA generativa, pensamos en echar un vistazo para ver si algo había cambiado en el último año.
Observamos que parece haber habido un pequeño cambio, al menos en los foros que investigamos; un puñado de actores de amenazas están empezando a incorporar la IA generativa en sus herramientas. Esto se aplica principalmente al spam, a la inteligencia de código abierto (OSINT) y, en menor medida, a la ingeniería social (aunque vale la pena señalar que los grupos de ciberdelincuencia de habla china que llevan a cabo campañas de fraude «sha zhu pan» hacen un uso frecuente de la IA, especialmente para generar texto e imágenes).
Sin embargo, como antes, muchos actores de amenazas en foros de ciberdelincuencia siguen siendo escépticos sobre la IA. Las discusiones sobre ella son limitadas en número, en comparación con temas «tradicionales» como el malware y el acceso como servicio. Muchas publicaciones se centran en jailbreaks y prompts, que se comparten comúnmente en redes sociales y otros sitios.
Solo vimos unos pocos intentos primitivos y de baja calidad de desarrollar malware, herramientas de ataque y exploits, que en algunos casos dieron lugar a críticas de otros usuarios, disputas y acusaciones de estafa (consulta nuestra serie de cuatro partes sobre el extraño ecosistema de ciberdelincuentes que se estafan entre sí).
Hubo algunas pruebas de ideas innovadoras, pero eran puramente aspiracionales; era más común compartir enlaces a herramientas de investigación legítimas y repositorios de GitHub. Como descubrimos el año pasado, algunos usuarios también están utilizando la IA para automatizar tareas rutinarias, pero el consenso parece ser que la mayoría no confía en ella para nada más complejo.
Curiosamente, también observamos que los ciberdelincuentes adoptan la IA generativa para usarla en los propios foros, para crear publicaciones y para actividades extracurriculares no relacionadas con la seguridad. En un caso, un actor de amenazas confesó haber hablado con un GPT todos los días durante casi dos años, en un intento de ayudarlo a lidiar con su soledad.
Puedes leer el artículo completo en inglés haciendo clic aquí.