Les risques liés à l'IA connaîtront la plus forte augmentation de couverture d'audit en 2024, la GenAI créent des risques nouveaux et accrus pour la sécurité des données, selon Gartner

L'enquête Gartner montre que les risques liés à l'IA connaîtront la plus forte augmentation de couverture d'audit en 2024. En effet, les responsables de l'audit interne s'attendent à ce que la couverture d'audit des risques liés à l'IA augmente à mesure que les organisations s'empressent d'adopter la technologie.

La croissance et l'adoption rapides de l'IA générative (GenAI) ont entraîné une course à la couverture d'audit des risques potentiels découlant de l'utilisation de la technologie, selon une enquête de Gartner, Inc.

"Alors que les organisations augmentent leur utilisation des nouvelles technologies d'IA, de nombreux auditeurs internes cherchent à étendre leur couverture dans ce domaine ", a déclaré Thomas Teravainen, spécialiste de la recherche au sein de la pratique Gartner for Legal, Risk & Compliance Leaders. "Les organisations sont confrontées à toute une série de risques liés à l'IA, depuis les défaillances de contrôle et les résultats non fiables jusqu'aux cybermenaces avancées. La moitié des six principaux risques pour lesquels la couverture d'audit a le plus augmenté sont liés à l'IA."

Gartner a interrogé 102 responsables de l'audit interne (CAE) en août 2023 pour évaluer l'importance de fournir une assurance sur 35 risques. Les six risques présentant les plus fortes augmentations potentielles de la couverture d'audit sont la gestion du changement stratégique, la diversité, l'équité et l'inclusion, la culture organisationnelle, les cybermenaces liées à l'IA, les défaillances de contrôle de l'IA et les résultats non fiables des modèles d'IA.

Nom : 1.png
Affichages : 3924
Taille : 42,9 Ko
Augmentations potentielles les plus importantes de la couverture d'audit


Des écarts de confiance importants pour les risques liés à l'IA

"Le résultat le plus frappant de ces données est sans doute le manque de confiance des auditeurs internes dans leur capacité à assurer une surveillance efficace des risques liés à l'IA ", a déclaré M. Teravainen. "Pas plus de 11 % des personnes interrogées qui considèrent l'un des trois principaux risques liés à l'IA comme très important se disent très confiantes dans leur capacité à fournir une assurance à ce sujet."

Les applications GenAI accessibles au public, ainsi que celles développées en interne, créent des risques nouveaux et accrus pour la sécurité des données et des informations, la protection de la vie privée, la protection de la propriété intellectuelle et la violation des droits d'auteur, ainsi que pour la confiance et la fiabilité des résultats. La prolifération de la GenAI fait de l'amélioration de la couverture des résultats non fiables des modèles d'IA (par exemple, les informations biaisées ou inexactes et les hallucinations des modèles d'IA) une priorité pour protéger l'organisation d'une atteinte à sa réputation ou d'une action en justice potentielle.

"Avec un tel éventail de risques potentiels provenant de l'ensemble de l'entreprise, il est facile de comprendre pourquoi les auditeurs ne sont pas confiants dans leur capacité à appliquer l'assurance", a déclaré Teravainen. "Cependant, comme les PDG et les directeurs financiers considèrent l'IA comme la technologie qui aura l'impact le plus important sur leur organisation au cours des trois prochaines années, les lacunes persistantes en matière de confiance compromettront la capacité des CAE à répondre aux attentes des parties prenantes."


Source : Gartner

Et vous ?

Pensez-vous que cette enquête est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

L'IA générative est devenue un risque émergent pour les entreprises selon une enquête Gartner

Les entreprises perdent des millions chaque année à cause de modèles d'IA peu performants, construits à partir de données inexactes ou de mauvaise qualité, conduisant à de mauvaises décisions

Gartner identifie les 10 principales tendances technologiques stratégiques pour 2024. Les responsables informatiques sont dans une position unique pour établir stratégiquement une feuille de route