Comment l'IA générative en entreprise amplifie le risque de ransomware - et comment le contenir

Selon une analyse de l’Acronis Threat Research Unit, les attaquants utilisent désormais l’IA pour automatiser leurs campagnes de ransomware, rendant les cyberattaques plus rapides et plus efficaces. Pendant ce temps, les entreprises déploient des assistants et agents IA qui, mal configurés, peuvent offrir aux cybercriminels un accès accéléré aux données sensibles. Comment concilier productivité et sécurité face à cette double menace ? Cet article explore les mécanismes par lesquels l’IA générative amplifie le risque de ransomware et détaille les contrôles essentiels pour protéger votre organisation.

L’IA générative : un amplificateur de menace, pas une menace entièrement nouvelle

L’IA générative ne crée pas un type de ransomware totalement inédit. En revanche, elle amplifie considérablement les techniques que les attaquants utilisent déjà, en particulier lors des phases de reconnaissance, d’abus d’identifiants et de vol de données. Comprendre où l’IA modifie la surface d’attaque devient un élément crucial de la cyber-résilience des entreprises.

Deux modèles de menace à distinguer

Les discussions sur l’IA et les ransomwares mélangent souvent deux situations différentes :

1. Les attaquants qui utilisent l’IA pour améliorer leurs opérations. Les groupes criminels s’appuient de plus en plus sur l’IA pour générer des e-mails de phishing, écrire du code malveillant, automatiser la reconnaissance, analyser les informations volées et rationaliser l’extorsion. L’IA leur permet de travailler plus rapidement et à plus grande échelle, sans changer fondamentalement le déroulement des campagnes de ransomware.
2. Les organisations qui déploient l’IA en entreprise. Les assistants et agents IA sont de plus en plus connectés à des référentiels de documents, des plateformes de collaboration, des applications SaaS et des bases de connaissances internes. Si les attaquants compromettent les identités ou les autorisations associées à ces systèmes, l’IA peut accélérer leur capacité à localiser des informations sensibles, à naviguer dans les systèmes connectés et à abuser des accès légitimes.

Ces deux tendances se produisent simultanément. Alors que les attaquants deviennent plus efficaces grâce à l’IA, les organisations doivent s’assurer que leurs propres déploiements d’IA n’élargissent pas involontairement la surface d’attaque.

« L’IA ne crée pas un nouveau type de menace de ransomware. Elle amplifie les techniques que les attaquants utilisent déjà, en particulier lors de la reconnaissance, de l’abus d’identifiants et du vol de données. » - Santiago Pontiroli, Acronis Threat Research Unit

Où l’IA d’entreprise crée une nouvelle exposition

Toutes les applications d’IA ne présentent pas le même niveau de risque. Les assistants IA récupèrent principalement des informations ou génèrent du contenu en réponse à des prompts. Les agents IA vont plus loin en interagissant avec les applications métier, en invoquant des API et en effectuant des actions au nom d’un utilisateur.

Plus une application a d’autonomie et d’autorisations, plus l’impact potentiel est élevé si son identité associée est compromise.

Le problème central : l’autorité déléguée

Les campagnes de ransomware modernes commencent généralement par l’exploitation de vulnérabilités, le compromis d’identifiants ou l’abus d’accès tiers de confiance. Les attaquants effectuent ensuite une reconnaissance, escaladent les privilèges, identifient les données de valeur et les exfiltrent avant de décider de chiffrer les systèmes, d’extorquer les victimes, ou les deux.

Microsoft rapporte analyser environ 38 millions de détections de risques liés à l’identité chaque jour, soulignant à quel point les attaques d’identité sont devenues centrales. La Cloud Security Alliance a également documenté des campagnes de phishing par code d’appareil OAuth à grande échelle ciblant les utilisateurs de Microsoft 365.

Comment le compromis d’identité transforme l’IA en accélérateur d’attaque

Ces attaques sont importantes pour l’IA d’entreprise car les assistants et agents IA héritent des identités et des autorisations déléguées sous lesquelles ils opèrent. Lorsque les attaquants compromettent ces identités, ils peuvent également accéder aux services IA, aux données d’entreprise et aux applications connectées disponibles via les mêmes autorisations.

Un assistant IA connecté à la connaissance d’entreprise peut réduire considérablement l’effort nécessaire pour localiser des informations sensibles. Plutôt que de rechercher manuellement dans des centaines de dossiers, un attaquant disposant d’identifiants légitimes pourrait demander à un assistant IA d’identifier la documentation de sauvegarde, les procédures administratives, les informations clients ou les dossiers financiers.

De même, si un agent IA a l’autorisation d’envoyer des e-mails, d’exporter des fichiers ou d’invoquer des outils métier connectés, les attaquants qui compromettent son identité pourraient potentiellement abuser de ces capacités pour accélérer le vol de données ou des actions non autorisées. Le risque sous-jacent est l’accès excessif, pas l’IA elle-même.

L’injection de prompts : une vulnérabilité spécifique

L’injection de prompts est une vulnérabilité spécifique à la couche applicative de l’IA, mais elle ne constitue qu’une partie du risque plus large créé par des autorisations excessives, des intégrations non sécurisées et une supervision insuffisante. Des instructions malveillantes intégrées dans des documents, des e-mails ou du contenu web peuvent influencer le comportement de l’IA lorsqu’elles sont récupérées par des applications d’entreprise.

L’impact dépend en grande partie des autorisations accordées au système d’IA. C’est pourquoi les recommandations de sécurité d’organisations comme l’OWASP mettent l’accent sur des contrôles en couches, le moindre privilège et l’approbation humaine pour les actions à haut risque, plutôt que de se fier uniquement au filtrage des prompts.

L’IA rend déjà la cybercriminalité plus efficace

Les preuves montrent que l’IA rend la cybercriminalité existante plus rapide plutôt que de changer fondamentalement le fonctionnement des attaques. Le rapport Acronis Cyberthreats H2 2025 documente plusieurs exemples d’IA soutenant différentes étapes des opérations cyber :

• Le groupe menace GTG-2002 a utilisé l’IA pour générer et déboguer des scripts, faciliter la récolte d’identifiants, analyser les informations volées et personnaliser les communications d’extorsion, permettant à des équipes d’attaque relativement petites de passer à l’échelle.
• L’opération de ransomware GLOBAL GROUP a introduit un chatbot IA pour automatiser les négociations de rançon après le compromis. Bien que le chatbot n’ait pas modifié la chaîne d’infection du ransomware, il a permis aux opérateurs de gérer plus de victimes simultanément tout en réservant les négociateurs humains pour les cas complexes.
• Les chercheurs d’Anthropic ont documenté un groupe parrainé par l’État chinois utilisant l’IA agentique pour exécuter une grande partie d’une campagne de cyberespionnage, y compris la reconnaissance, la recherche de vulnérabilités, la récolte d’identifiants et la collecte de données.

Parallèlement, les opérateurs de ransomware-as-a-service font de plus en plus la publicité de l’automatisation assistée par l’IA pour le contournement de la défense et l’efficacité opérationnelle. Ces publicités signalent comment les opérateurs de ransomware positionnent l’IA et où ils attendent des gains d’efficacité, bien que les affirmations individuelles sur les capacités puissent ne pas être vérifiées de manière indépendante.

Pris ensemble, ces exemples montrent que l’IA fonctionne principalement comme un multiplicateur de force opérationnelle plutôt que de créer des techniques d’attaque entièrement nouvelles.

Six contrôles pour réduire l’exposition aux ransomware amplifiés par l’IA

Les organisations n’ont pas besoin de remplacer leur stratégie de sécurité existante pour l’IA d’entreprise. Cependant, elles doivent l’étendre avec une gouvernance, des contrôles d’accès et une surveillance spécifiques à l’IA. Les experts en sécurité d’Acronis conseillent aux organisations d’étendre les pratiques existantes de gouvernance, d’identité et de protection des données pour couvrir les applications et les flux de travail d’IA en :

1. Maintenir un inventaire des applications, modèles et intégrations d’IA approuvés et non autorisés. Chaque flux de travail d’IA doit avoir un propriétaire défini, un objectif métier et une classification de risque appropriée.
2. Accorder un accès au moindre privilège aux utilisateurs, applications d’IA, comptes de service et API. Examinez régulièrement les autorisations déléguées, révoquez les identifiants inutilisés et limitez l’accès de l’IA aux seuls systèmes et informations nécessaires à chaque tâche.
3. Appliquer des contrôles au trafic et aux mouvements de données liés à l’IA. Utilisez les capacités de Secure Web Gateway, CASB et DLP pour découvrir les services d’IA, restreindre l’accès aux outils non autorisés et empêcher le téléchargement ou le transfert d’informations sensibles.
4. Surveiller et auditer l’activité de l’IA. Corrélez l’utilisation des applications d’IA, les événements d’identité, l’accès aux données, les exportations et les actions des agents avec la télémétrie des endpoints, SaaS et cloud dans les systèmes SIEM ou XDR. Maintenez des pistes d’audit montrant quel utilisateur ou compte de service a initié une action, quelles ressources ont été consultées et si une approbation était requise.
5. Se préparer au confinement et à la récupération. Les équipes de sécurité doivent être capables de révoquer les jetons compromis, de désactiver les intégrations affectées et de suspendre les flux de travail d’IA lorsqu’une activité malveillante est détectée. Les sauvegardes immuables et les procédures de récupération testées restent essentielles pour restaurer les opérations après des attaques destructrices, bien qu’elles ne puissent pas inverser le vol de données ou éliminer le risque d’extorsion.
6. Mettre en œuvre une autorisation humaine ou basée sur des politiques pour les actions à haut risque, telles que les exportations en masse, les modifications administratives, les communications externes et l’exécution de code. L’OWASP recommande explicitement le moindre privilège et l’approbation humaine pour les opérations privilégiées.

Tableau comparatif : Assistants IA vs Agents IA

Étapes actionnables pour étendre la cyber-résilience à l’IA d’entreprise

L’IA d’entreprise continuera de se développer car les avantages métier sont évidents. Le défi est de s’assurer que les gains de productivité ne se fassent pas au détriment de la sécurité.

1. Évaluer les risques liés à l’IA

Identifiez tous les déploiements d’IA dans votre organisation, y compris les shadow AI (outils non approuvés utilisés par les employés). Classez chaque application en fonction de son niveau d’accès aux données et de son autonomie.

2. Renforcer la gouvernance des identités

Appliquez le principe du moindre privilège à tous les comptes de service et identités associés à l’IA. Utilisez des solutions de gestion des accès à privilèges (PAM) pour contrôler et auditer les actions des agents IA.

3. Mettre en place une surveillance continue

Intégrez la télémétrie des applications d’IA dans vos systèmes SIEM ou XDR. Corrélez les événements d’identité, les accès aux données et les actions des agents pour détecter les comportements anormaux.

« La plupart des organisations ne réalisent pas à quel point leurs déploiements d’IA sont exposés. Un agent IA avec des autorisations excessives peut être une porte dérobée pour un attaquant. » - Expert en sécurité Acronis

4. Préparer des procédures de réponse aux incidents

Documentez les étapes pour révoquer les accès IA compromis, désactiver les intégrations et suspendre les workflows. Testez régulièrement ces procédures.

5. Former les équipes

Sensibilisez les utilisateurs aux risques spécifiques de l’IA, comme l’injection de prompts et l’importance de ne pas partager d’informations sensibles avec des assistants non approuvés.

Conclusion : Intégrer l’IA dans votre stratégie de cyber-résilience

L’IA générative en entreprise n’est pas une menace entièrement nouvelle, mais elle amplifie considérablement les risques existants, en particulier ceux liés aux ransomwares. En comprenant comment l’IA peut être utilisée comme accélérateur d’attaque par les cybercriminels, les organisations peuvent mettre en place des contrôles efficaces pour réduire leur exposition.

L’approche la plus efficace consiste à intégrer l’IA dans les stratégies existantes de gestion des identités, de protection des données et de réponse aux incidents, plutôt que de la traiter comme un domaine de sécurité distinct. Évaluez les contrôles de sécurité de l’IA en fonction de leur capacité à s’intégrer à votre gouvernance et à vos opérations de sécurité existantes, tout en offrant une visibilité sur l’utilisation, les autorisations et les violations de politiques de l’IA.

En combinant une gouvernance solide avec des pratiques de cybersécurité établies, les organisations seront mieux positionnées pour réduire le risque de ransomware tout en profitant des avantages de productivité de l’IA. La clé est d’agir maintenant, avant que les attaquants n’exploitent ces nouvelles vulnérabilités à grande échelle.