cybersecurite
Produits et Services PRODUITS & SERVICES

Au-delà de l’engouement : la réalité de l’IA dans le domaine de la cybersécurité

Des informations pratiques fournies par 400 responsables informatiques, ainsi que des conseils concrets pour améliorer vos résultats commerciaux.

L’IA est fortement intégrée à la cybersécurité. Assistez à n’importe quel événement, conférence, ou salon professionnel sur la cybersécurité et vous verrez que l’IA est invariablement le principal objectif en matière de cyberdéfense. Les fournisseurs de cybersécurité de tous horizons mettent un point d’honneur à souligner que leurs produits et services incluent l’IA. En fin de compte, le secteur de la cybersécurité envoie un message clair selon lequel l’IA fait partie intégrante de toute cyberdéfense efficace.

Avec un tel niveau d’universalité, il est facile de partir du principe que l’IA est la réponse idéale et qu’elle donnera toujours les meilleurs résultats en matière de cybersécurité. La réalité, bien entendu, n’est pas aussi évidente.

Ce rapport explore l’utilisation de l’IA dans le domaine de la cybersécurité, avec un accent particulier mis sur l’IA Générative (GenAI). Il fournit des informations sur l’adoption de l’IA, les avantages attendus et les niveaux de sensibilisation aux risques, sur la base des résultats d’une enquête indépendante et agnostique menée auprès de 400 responsables informatiques/cybersécurité travaillant dans des petites et moyennes entreprises (50 à 3 000 employés). Cette étude révèle également l’existence d’un angle mort majeur au niveau de l’utilisation de l’IA dans les cyberdéfenses.

Les résultats de cette enquête offrent un benchmark concret aux entreprises qui cherchent à passer en revue et  à analyser leurs stratégies de cyberdéfense. Il propose également un rappel rapide des risques associés à l’IA pour aider les organisations à tirer parti de cette dernière en toute sécurité afin d’améliorer leur posture de cybersécurité.

Terminologie de l’IA

L’IA est un acronyme qui décrit une gamme de capacités susceptibles de soutenir et d’accélérer la cybersécurité de plusieurs manières différentes. Deux approches IA couramment utilisées en cybersécurité sont : les modèles Deep Learning et IA Générative.

  • Les modèles Deep Learning (Deep Learning/DL) UTILISENT des apprentissages pour effectuer des tâches. Par exemple, des modèles DL correctement entraînés peuvent identifier si un fichier est malveillant ou bien inoffensif en une fraction de seconde, et ce sans jamais avoir vu ce fichier auparavant.
  • Les modèles IA Générative (Generative AI/GenAI) assimilent les entrées et les utilisent pour CRÉER (générer) du nouveau contenu. Par exemple, pour accélérer les opérations de sécurité, GenAI peut créer un résumé à jour en langage naturel de l’activité des menaces et recommander les prochaines étapes à suivre par l’analyste.

L’IA n’est pas “universelle” et les modèles varient considérablement en taille.

  • Les modèles massifs, tels que Microsoft Copilot et Google Gemini, sont de grands modèles de langage (LLM) entraînés sur un ensemble très complet de données qui peuvent effectuer un large éventail de tâches.
  • Les petits modèles sont généralement conçus et entraînés sur un ensemble de données très spécifiques pour effectuer une seule tâche, comme détecter des URL ou des exécutables malveillants.

cybersecurite

Adoption de l’IA pour la cybersécurité

L’enquête révèle que l’IA est déjà largement intégrée dans l’infrastructure de cybersécurité de la plupart des entreprises, 98% d’entre elles déclarant l’utiliser déjà dans certains cas :

cybersecurite

Votre organisation utilise-t-elle actuellement des technologies IA dans le cadre de ses cyberdéfenses ? (n=400)

L’adoption de l’IA est susceptible de devenir quasi universelle assez rapidement, les capacités de l’IA figurant désormais sur la liste des exigences de 99% (arrondi) des organisations lors de la sélection d’une plateforme de cybersécurité :

cybersecurite

Quelle est l’importance des capacités IA lors de la sélection d’une plateforme de cybersécurité ? (n=400)

Avec ce niveau d’adoption et d’utilisation future, comprendre les risques et les mitigations associées à l’IA en matière de cybersécurité est une priorité pour les entreprises de toutes tailles, quels que soient leurs secteurs d’activité.

Les attentes au niveau de GenAI

La prolifération des messages concernant GenAI dans le domaine de la cybersécurité ainsi que dans la vie professionnelle et personnelle des utilisateurs a généré des attentes élevées concernant la manière avec laquelle cette technologie pouvait améliorer les résultats de cybersécurité. L’enquête a révélé le principal avantage que les entreprises souhaitent voir en matière de capacités GenAI intégrées aux outils de cybersécurité, comme indiqué ci-dessous.

cybersecurite

Quels avantages, le cas échéant, souhaitez-vous que les capacités d’IA générative intégrées aux outils de cybersécurité vous apportent ? Réponses classées en première position (n = 400)

Le large éventail de réponses révèle qu’il n’y a pas d’avantage unique et remarquable attendu concernant GenAI en matière de cybersécurité. Parallèlement, les gains souhaités le plus couramment concernent l’amélioration de la cyberprotection ou des performances de l’entreprise (tant financières qu’opérationnelles). Les données suggèrent également que l’intégration des capacités GenAI dans les solutions de cybersécurité offre une sérénité et l’assurance qu’une organisation soit informée des dernières capacités en matière de protection.

La réduction des risques de burnout des employés, visible en bas du classement, suggère que les entreprises sont moins conscientes ou moins préoccupées par le potentiel de GenAI pour soutenir les utilisateurs. Face à la pénurie de personnel en charge de la cybersécurité, la réduction des risques de départ est un domaine important où  l’IA peut aider.

Les avantages attendus concernant GenAI changent avec la taille de l’entreprise

L’avantage N°1 attendu concernant l’intégration de GenAI dans les outils de cybersécurité varie à mesure que la taille des entreprises augmente, reflétant ainsi probablement leurs différents défis.

cybersecurite

Quels avantages, le cas échéant, souhaitez-vous que les capacités d’IA générative intégrées aux outils de cybersécurité vous apportent ? Réponses classées en première position (n = 400)

Bien que la réduction des risques de burnout des employés soit globalement associée à un pourcentage faible, elle constitue le principal gain attendu par les petites entreprises comptant entre 50 et 99 employés. Cette tendance peut être due au fait que l’impact de l’absence des employés touche de manière disproportionnée les petites entreprises qui sont moins susceptibles de disposer d’autres employés capables d’intervenir et de lancer les actions.

À l’inverse, soulignant leur besoin de rigueur financière stricte, les entreprises comptant entre 100 et 249 employés donnent la priorité à un meilleur retour sur investissement en matière de cybersécurité. Les grandes entreprises comptant entre 1 000 et 3 000 employés apprécient le plus une meilleure protection contre les cybermenaces.

Sensibilisation aux risques liés à l’IA

Si l’IA apporte de nombreux avantages, comme toutes les capacités technologiques, elle présente également un certain nombre de risques. L’enquête a révélé différents niveaux de sensibilisation à ces pièges potentiels.

Risque en matière de défense : une IA de mauvaise qualité et mal déployée

L’amélioration de la protection contre les cybermenaces figurant en tête de liste des avantages attendus au niveau de GenAI, il est clair que la réduction des risques de cybersécurité est un facteur important lié à l’adoption de solutions de défense basées sur l’IA.

Cependant, des modèles IA de mauvaise qualité et mal déployé peuvent par inadvertance introduire des risques considérables en matière de cybersécurité, et l’adage “garbage in, garbage out” est particulièrement pertinent pour l’IA. La création de modèles IA efficaces pour la cybersécurité nécessite une compréhension approfondie des menaces et de l’IA.

Les entreprises sont largement conscientes du risque d’une IA mal développée et déployée dans les solutions de cybersécurité. La grande majorité (89%) des professionnels IT/cybersécurité interrogés se disent préoccupés par de potentielles failles dans les capacités IA générative au sein des outils de cybersécurité qui pourraient nuire à leur entreprise, 43% se disant extrêmement inquiets et 46% plutôt inquiets.

cybersecurite

Concernant l’utilisation de l’IA dans les solutions de cybersécurité, dans quelle mesure êtes-vous préoccupé par le risque de failles dans les capacités IA générative au sein des outils de cybersécurité qui pourraient nuire à votre entreprise ? n=(400)

Il n’est donc pas surprenant que 99% (arrondi) des organisations déclarent que lorsqu’elles évaluent les capacités GenAI dans les solutions de cybersécurité, elles évaluent la qualité des processus et des contrôles de cybersécurité utilisés dans le développement de GenAI : 73% déclarent évaluer pleinement la qualité des processus et contrôles de cybersécurité et 27% déclarent évaluer partiellement la qualité des processus et contrôles de cybersécurité.

cybersecurite

Lors de l’évaluation des capacités en matière d’IA générative dans les solutions de cybersécurité, votre entreprise évalue-t-elle la qualité des processus et des contrôles de cybersécurité utilisés dans le développement de l’IA générative ? (n=390)

Même si le pourcentage élevé de personnes déclarant mener une évaluation complète peut paraître encourageant à première vue, il suggère en réalité que de nombreuses organisations sont exposées à un angle mort majeur dans ce domaine.

L’évaluation des processus et des contrôles utilisés pour développer les capacités GenAI nécessite de la transparence de la part du fournisseur et un degré raisonnable de connaissances en matière d’IA de la part de l’évaluateur. Malheureusement, les deux sont rares. Les fournisseurs de solutions rendent rarement facilement accessibles l’intégralité de leurs processus de déploiement et de développement de GenAI, et les équipes IT ont souvent une connaissance limitée des bonnes pratiques en matière de développement de l’IA. Pour de nombreuses entreprises, ce résultat suggère qu’elles “ne savent pas ce qu’elles ne savent pas“.

Risque financier : retour sur investissement faible

Comme vu précédemment, l’amélioration du retour sur investissement (ROI) en matière de cybersécurité figure également en tête de liste des avantages que les entreprises cherchent à obtenir grâce à GenAI.

Les capacités GenAI de haute qualité présentes dans les solutions de cybersécurité sont coûteuses à développer et à maintenir. Les responsables informatiques/cybersécurité des entreprises de toutes tailles sont attentifs aux conséquences de ces dépenses en matière de développement, 80% d’entre eux déclarant qu’ils pensent que GenAI augmentera considérablement le coût de leurs produits de cybersécurité.

Malgré ces risques d’augmentation des prix, la plupart des entreprises considèrent GenAI comme un moyen de réduire leurs dépenses globales en matière de cybersécurité, avec 87% des personnes interrogées se disant convaincues que les coûts de GenAI dans les outils de cybersécurité seront entièrement compensés par les économies qu’elle génèrera.

En approfondissant, nous constatons que la confiance dans l’obtention d’un retour sur investissement positif augmente avec le chiffre d’affaires annuel. En effet, les plus grandes entreprises (500 millions de dollars et plus) étant 48% plus susceptibles, que les plus petites entreprises, d’être d’accord ou tout à fait d’accord avec le fait que les coûts de l’IA générative dans les outils de cybersécurité soient entièrement compensés par les économies que GenAI génèrera (moins de 10 millions de dollars).

cybersecurite

Concernant le coût des capacités IA générative, dans quelle mesure êtes-vous d’accord ou en désaccord avec les déclarations suivantes au sein de votre entreprise : les coûts de l’IA générative dans les outils de cybersécurité seront entièrement compensés par les économies qu’elle génèrera. Tout à fait d’accord, D’accord. (n=400)

En parallèle, les entreprises reconnaissent que la quantification de ces coûts constitue un défi. Les dépenses liées à GenAI sont généralement intégrées au prix global des produits et services de cybersécurité, rendant ainsi difficile l’identification du montant que les entreprises dépensent avec l’utilisation de GenAI pour la cybersécurité. Reflétant ce manque de visibilité, 75% conviennent que ces coûts sont difficiles à mesurer (39% tout à fait d’accord, 36% plutôt d’accord).

D’une manière générale, les difficultés liées à la quantification des coûts augmentent également avec le chiffre d’affaires : les entreprises dont le chiffre d’affaires annuel dépasse 500 millions de dollars sont 40% plus susceptibles de trouver les coûts difficiles à quantifier que celles dont le chiffre d’affaires est inférieur à 10 millions de dollars. Cette variation est probablement due en partie à la propension des grandes entreprises à disposer d’infrastructures IT/cybersécurité plus complexes et plus étendues.

cybersecurite

Concernant le coût des capacités IA générative, dans quelle mesure êtes-vous d’accord ou en désaccord avec les déclarations suivantes au sein de votre entreprise : les coûts des capacités IA générative disponibles dans les produits de cybersécurité sont difficiles à mesurer. Tout à fait d’accord, D’accord. (n=400).

Sans reporting efficace, les entreprises risquent de ne pas obtenir le retour sur investissement souhaité en matière d’IA pour la cybersécurité ou, pire encore, d’orienter vers l’IA des investissements qui auraient pu être utilisés plus efficacement ailleurs.

Risque opérationnel : dépendance excessive à l’IA

La nature omniprésente de l’IA fait qu’il est facile de se reposer trop facilement sur celle-ci, de supposer qu’elle est toujours correcte et de tenir pour acquis que l’IA peut accomplir certaines tâches mieux que les opérateurs humains. Heureusement, la plupart des entreprises sont conscientes et préoccupées par les conséquences sur la cybersécurité d’une dépendance excessive à l’IA :

  • 84% sont préoccupés par la pression qui en résulte pour réduire l’effectif des professionnels en cybersécurité (42% extrêmement préoccupés, 41 % plutôt préoccupés).
  • 87% sont préoccupés par le manque de responsabilité en matière de cybersécurité qui en résulte (37% extrêmement préoccupés, 50% plutôt préoccupés).

Ces préoccupations sont largement ressenties, avec des pourcentages constamment élevés signalés par les personnes interrogées dans tous les segments et dans tous les secteurs, quelles que soient leurs tailles.

Recommandations

Même si l’IA comporte des risques, avec une approche réfléchie, les entreprises peuvent les gérer et tirer parti de l’IA en toute sécurité pour améliorer leurs cyberdéfenses et leurs résultats commerciaux globaux.

Les recommandations constituent un point de départ pour aider les entreprises à mitiger les risques exposés dans ce rapport.

Demandez aux fournisseurs comment ils développent leurs capacités IA :

  • Données d’entraînement : quelle est la qualité, la quantité et la source des données sur lesquelles les modèles sont entraînés ? De meilleurs données d’entrée conduisent à de meilleurs résultats.
  • Équipe de développement : découvrez les personnes agissant derrière les modèles. Quel niveau d’expertise en IA ont-elles ? Dans quelle mesure connaissent-elles les menaces, les comportements des adversaires et les opérations de sécurité ?
  • Ingénierie et processus de déploiement des produits : quelles étapes le fournisseur suit-il lors du développement et du déploiement des fonctionnalités IA dans ses solutions ? Quels contrôles et vérifications sont en place ?

Des décisions en matière d’investissement IA à prendre de manière rigoureuse

  • Fixez-vous des objectifs : soyez clair, précis sur les résultats que vous souhaitez que l’IA vous fournisse.
  • Quantifiez les avantages : comprenez à quel point les investissements en IA feront une différence.
  • Priorisez les investissements : l’IA peut aider de plusieurs manières différentes ; certains auront un plus grand impact que d’autres. Identifiez les indicateurs importants pour votre organisation : économies financières, impact sur la rétention du personnel, réduction de l’exposition, etc., et comparez le classement des différentes options.
  • Mesurez l’impact : assurez-vous de bien voir comment les performances réelles sont liées aux attentes initiales. Utilisez les informations pour effectuer les ajustements nécessaires.

Appréhendez l’IA avec une vision axée sur l’humain

  • Conservez la vue globale : l’IA n’est qu’un élément de la boîte à outils de cyberdéfense. Utilisez-la, mais ayez conscience que la responsabilité en matière de cybersécurité est en fin de compte une responsabilité humaine.
  • Ne remplacez pas, mais accélérez plutôt : concentrez-vous sur la manière avec laquelle l’IA peut aider votre personnel en prenant en charge de nombreuses tâches d’opérations de sécurité répétitives de bas niveau et en fournissant des informations guidées.

À propos de l’enquête

Sophos a chargé Vanson Bourne, cabinet d’études indépendant, d’interroger 400 décideurs en matière de sécurité IT dans des entreprises comptant entre 50 et 3 000 employés en novembre 2024. Toutes les personnes interrogées travaillaient dans le secteur privé ou caritatif/à but non lucratif et utilisent actuellement des solutions de sécurité endpoint provenant de 19 éditeurs et de 14 fournisseurs MDR différents.

Les cyberdéfenses de Sophos basées sur l’IA

Sophos repousse les limites de la cybersécurité assistée par l’IA depuis près d’une décennie. Les technologies de l’IA et l’expertise humaine en matière de cybersécurité s’allient pour bloquer le plus large éventail de menaces, partout où elles se trouvent. Les capacités IA sont intégrées dans tous les produits et services Sophos et fournies par la plus grande plateforme AI-Native du secteur. Pour en savoir plus sur les cyberdéfenses basées sur l’IA de Sophos, visitez www.sophos.com/ai.

Billet inspiré de Beyond the hype: The business reality of AI for cybersecurity, sur le Blog Sophos.

Qu’en pensez-vous ? Laissez un commentaire.

Your email address will not be published. Required fields are marked *