En tant que service numérique innovant, performant et flexible, l’IA générative est progressivement intégrée à l’éventail d’outils et de services auxquels sont susceptibles de recourir les attaquants informatiques quel que soit leur profil. Des modèles d’IA générative sont ainsi utilisées et/ou détournées à différentes étapes d’une attaque informatique pour effectuer du profilage de victime, concevoir du contenu à des fins d’ingénierie sociale ou encore développer des programmes malveillants. Cependant, leur utilisation par des acteurs malveillants dépend du niveau de compétences et des objectifs poursuivis. Pour les acteurs les plus avancés, l’IA générative représente un outil de gain de performance et de passage à l’échelle tandis que pour les acteurs moins expérimentés, elle représente davantage un outil d’apprentissage. Pour l’heure, aucun système d’IA générative n’a été en mesure de mener de manière autonome toutes les étapes d’une attaque informatique.
Si les systèmes d’IA générative sont utilisés comme facilitateurs d’attaques informatiques, ils en sont également la cible. Les systèmes de LLM sont ainsi susceptibles d’être victime d’empoisonnement de modèles à des fins d’altération de données ou de désinformation. Ils peuvent également être ciblés à des fins de compromission de chaine logicielle ou d’exfiltration de données, illustrant une nouvelle fois l’adaptabilité des attaquants aux nouveaux usages numériques dans un contexte professionnel.
Télécharger le rapport : L’intelligence artificielle générative face aux attaques informatiques
