En la conferencia Virus Bulletin 2024 que se celebra esta semana en Dublín (Irlanda), el científico principal de datos de Sophos, Younghoo Lee, presentará una ponencia sobre la investigación de SophosAI para aplicar la inteligencia artificial de grandes modelos lingüísticos (LLM) al complejo problema de la clasificación del correo electrónico y el contenido web. La ponencia de Lee detallará el uso de la IA «multimodal», que utiliza modelos para examinar tanto el texto como las imágenes del correo electrónico y el contenido web para clasificar el contenido como benigno, no deseado o dañino.
En su ponencia «IA multimodal: el sexto sentido para la ciberdefensa», Lee explica que los adversarios pueden utilizar la IA generativa para crear correos electrónicos y sitios web de phishing convincentes, como demostró la investigación «Scampaign» de SophosAI publicada el año pasado. Además, los enfoques tradicionales de aprendizaje automático para la detección de phishing y spam, construidos con conjuntos de entrenamiento de contenidos maliciosos y no deseados («spam») existentes, podrían pasar por alto nuevas técnicas que no coinciden con los patrones existentes.
Sin embargo, la misma tecnología que SophosAI examinó como fuente potencial de correo electrónico y contenido web maliciosos puede utilizarse también para detectar ese tipo de contenido, así como para clasificar nuevos sitios web que no tienen datos de reputación existentes. Mediante el uso de IA multimodal que examina todos los aspectos del contenido utilizando LLM (modelos entrenados en conjuntos de datos masivos de contenido de Internet) para analizar las cabeceras de los correos electrónicos, el contenido, los logotipos y las imágenes, es posible reconocer correos electrónicos de phishing nuevos y no vistos anteriormente y otros contenidos maliciosos o no deseados, incluso sin datos de entrenamiento específicos.
La presentación de Lee tendrá lugar el viernes 4 de octubre a las 11.30, hora local. Tras la presentación se publicará un artículo completo sobre la investigación.