Discussion :

[Annonces]

Après le Shadow IT vient le Shadow AI : 50 % des salariés utilisent ChatGPT et d’autres outils d'IA génératives non autorisés
au dépend de la sécurité des données, selon un rapport

Rapport après rapport, un constat s’impose : l’usage massif mais clandestin de l’IA générative en entreprise n’est plus un phénomène isolé, mais un mode de fonctionnement devenu quasi-normatif. Selon The AI Tightrope de Harmonic Security, plus de 50 % des employés utilisent des outils d’IA générative sans approbation, créant une forme de « Shadow AI » (en référence au « Shadow IT ») aussi invisible que potentiellement dangereuse. Cette utilisation clandestine contourne les politiques internes, échappe à toute surveillance et implique souvent le transfert de données sensibles via des comptes Gmail personnels, hors de tout cadre de conformité.

L’avènement de ChatGPT, Copilot, Claude et autres Gemini a démocratisé l’accès à des intelligences artificielles puissantes. Résultat : des millions de salariés ont désormais la possibilité de générer, résumer, traduire ou reformuler des contenus professionnels en quelques secondes. L’adoption de l’IA générative en entreprise a donc explosé au premier trimestre 2025, stimulée par les promesses de productivité et la pression concurrentielle.

Cependant, une analyse de Harmonic Security portant sur plus de 176 000 requêtes et des milliers de fichiers envoyés par un échantillon de 8 000 utilisateurs révèle des risques en pleine évolution.

Bien que l’exposition globale de données sensibles ait légèrement diminué, la nature des données exposées a changé vers des catégories à plus fort impact, ce qui exige des contrôles plus poussés que la simple visibilité.

Mais selon Harmonic Security, 50 % des employés utilisent ces outils sans l’aval de leur entreprise, voire à travers des moyens contournés (comptes Gmail personnels, proxies, plateformes gratuites). Cette pratique est désormais désignée comme « Shadow AI », par analogie avec le « Shadow IT » qui désignait autrefois les outils logiciels installés sans validation du service informatique.

Voici les principaux constats dressés par le rapport :

• L'omniprésence du Shadow AI :
  
  • en moyenne, les entreprises utilisent 254 applications IA, souvent non gérées.
  • 45,4 % des données sensibles ont été soumises depuis des comptes personnels, principalement Gmail (57,9 %), ce qui montre que la majorité des usages échappe à l’IT.
• Fausse impression de sécurité : les requêtes sensibles sont passées de 8,5 % à 6,7 %… Mais cette baisse masque une redistribution des risques bien plus préoccupante.
• ChatGPT écrase la concurrence : il concentre 79,1 % de toutes les données sensibles envoyées. Et 21 % de ces données l’ont été via la version gratuite, hors de tout cadre de gouvernance.
• Percée des apps chinoises : 7 % des utilisateurs ont accédé à des IA chinoises comme DeepSeek, Manus, Ernie Bot, Qwen Chat, Baidu Chat… Ces outils posent des problèmes de conservation et de réutilisation des données.
• Glissement vers des données critiques :
  
  • Les données juridiques et financières ont doublé (30,8 %),
  • Le code sensible a presque doublé (10,1 %),
  • Les données clients (27,8 %) et employés (14,3 %) ont reculé.

En clair, l’IA s’infiltre désormais au cœur des fonctions à forte valeur ajoutée, ce qui accroît massivement le risque de fuites à fort impact.

Un risque souvent sous-estimé par les utilisateurs

Ces usages ne sont pas nécessairement malveillants. Dans la majorité des cas, les employés agissent par souci d’efficacité, pour gagner du temps dans la rédaction de mails, le traitement de documents, la génération de contenu ou le support client. Mais ce pragmatisme du terrain se heurte à une réalité plus inquiétante : 69 % des utilisateurs n’ont reçu aucune formation sur les risques liés à l’IA.

Ignorant les implications réglementaires (RGPD, secret professionnel, confidentialité), beaucoup pensent – à tort – qu’il suffit de ne pas donner de noms pour éviter les problèmes.

En vérité, même un simple contenu texte contenant des instructions internes, des éléments contractuels ou des données métiers peut constituer un actif sensible, notamment lorsqu’il est soumis à une IA dont les politiques de conservation ou de réutilisation ne sont pas transparentes.

La ruée vers l’IA générative

Le premier trimestre 2025 a marqué l’entrée de l’IA générative (GenAI) au cœur des opérations d’entreprise. Cette adoption rapide mêle opportunités colossales et risques souvent sous-estimés.

• Plus de 75 % des entreprises utilisent désormais l’IA, selon McKinsey.
• Le potentiel de productivité est estimé à 4 400 milliards $.
• Le marché devrait croître de près de 40 % en 2025.

Selon une enquête de McKinsey, 74 % des PDG admettent qu’ils pourraient perdre leur poste dans les deux ans s’ils ne livrent pas de résultats concrets grâce à l’IA

Tobi Lütke, PDG de Shopify, a même imposé l’IA comme norme interne : Les équipes doivent prouver qu’une tâche ne peut pas être automatisée avant d’envisager un recrutement. L’IA est considérée comme un multiplicateur de productivité x100.

Mais cette pression peut inciter à prendre des raccourcis risqués si les outils officiels sont jugés insuffisants.

L’explosion de la Shadow AI

Même les entreprises qui tentent de restreindre l’usage de l’IA rencontrent un obstacle majeur : la Shadow AI.

• 68 % des utilisateurs de ChatGPT le cachent à leur hiérarchie
• Près de la moitié refuserait de cesser même si l’outil était interdit
• Les employés trouvent l’IA trop attrayante pour y renoncer, même sans licence approuvée

Il faut dire que ce n'est pas vraiment une surprise. Une enquête précédente de Salesforce parvenait aux mêmes conclusions : selon elle, de nombreux utilisateurs d'IA générative sur le lieu de travail exploitent la technologie sans formation, conseil ou approbation de leur employeur. Dans son rapport Generative AI Snapshot Research Series, The Promises and Pitfalls of AI at Work, Salesforce a indiqué que 55 % des travailleurs ont utilisé des outils d'IA générative non approuvés au travail, et 40 % des utilisateurs d'IA générative sur le lieu de travail ont utilisé des outils interdits au travail, de nombreux travailleurs reconnaissant encore que l'utilisation éthique et sûre de l'IA générative passe par l'adoption de programmes approuvés par l'entreprise.

L'enquête menée par Salesforce auprès de plus de 14 000 travailleurs issus de diverses entreprises situées en Amérique du Nord, en Europe, en Amérique latine et au Moyen-Orient a révélé qu'en dépit des promesses que l'IA générative offre aux travailleurs et aux employeurs, l'absence de politiques clairement définies et de mécanismes d'application conçus pour contrôler son utilisation peut exposer leur entreprise à des risques opérationnels, juridiques et réglementaires.

Bring Your Own AI : l’ombre d’une adoption sauvage

ChatGPT domine les usages, mais le tableau est bien plus éclaté :

• Les entreprises utilisent en moyenne 254 applications IA différentes, ou apps avec IA intégrée.
• Cela reflète une phase de tests massifs mais aussi un débordement incontrôlé des solutions SaaS.
• 45,4 % des requêtes contenant des données sensibles proviennent de comptes personnels (et non professionnels). Parmi eux, Gmail représente 57,9 % des adresses utilisées.

Résultat : la commodité prend le pas sur la sécurité et la gouvernance d’entreprise.

Fait inattendu : les fichiers image représentent 68,3 % des fichiers uploadés vers ChatGPT.

Explication probable : des employés ont créé des portraits de collègues à la sauce Ghibli.

Les autres types de fichiers fréquemment envoyés :

• PDF : 13,4 %
• DOCX : 5,46 %
• XLSX : 4,90 %
• CSV : 3,17 %
• PPTX : 1,45 %

Côté vidéo : très faible utilisation

• MP4 : 0,18 %
• QuickTime (.mov) : 0,01 %

L’essor des applications IA chinoises

En 2025, le paysage de l’IA en Chine a connu une accélération fulgurante, marquée par l’arrivée de plusieurs chatbots avancés en compétition directe avec leurs équivalents occidentaux.

Les principales plateformes IA chinoises dans le rapport sont :

• Baidu Chat et Ernie Bot (Baidu) : amélioration continue de la compréhension du langage et intégration croissante en entreprise.
• DeepSeek : apprécié pour ses modèles open-source puissants, qui séduisent chercheurs et développeurs.
• Kimi Moonshot : mis en lumière pour sa capacité à traiter de longs contextes, idéal pour documents complexes et raisonnement approfondi.
• Manus (MiniMax) : se concentre sur la conversation polyvalente.
• Qwen Chat (Alibaba) : conçu pour la productivité et le travail intellectuel.

Ensemble, ces outils témoignent d’un maturité rapide de l’écosystème IA chinois, qui rivalise désormais avec les géants occidentaux dans les usages pro et grand public.

Usage réel en entreprise

7 % des utilisateurs de l’échantillon étudié ont eu recours à ces plateformes chinoises. Cela représente 565 utilisateurs sur 8 000.

Inquiétudes majeures pour la sécurité

Les responsables cybersécurité s’inquiètent déjà des fuites de données sensibles vers ces outils. En Chine, l’État peut demander à tout moment l’accès aux données collectées. Toute donnée partagée avec DeepSeek doit être considérée comme potentiellement récupérable par le Parti communiste chinois.

La mutation des fuites de données sensibles

En comparant les deux périodes, on observe une légère baisse du volume global de données sensibles exposées, mais surtout un bouleversement dans la nature des données compromises, ce qui modifie profondément le profil de risque des entreprises.

Tendance globale : Le taux de requêtes sensibles est passé de 8,5 % à 6,7 %. Cette baisse ne doit pas être perçue comme rassurante : Elle pourrait refléter une meilleure sensibilisation… ou simplement des limites dans la détection.

Type de donnée	Premier trimestre 2024	Premier trimestre 2025	Évolution
Juridique & Finance	14,9 %	30,8 %	+ 15,9 points
Code sensible	5,6 %	10,1 %	+ 4,5 points
Données clients	45,8 %	27,8 %	- 18 points
Données employés	26,8 %	14,3 %	-12,5 points
Données personnelles	-	14,8 %	explicitement mesuré au premier trimestre 2025
Sécurité	6,9 %	2,1 %	- 4,8 points

Où vont les données sensibles ?

L’analyse montre une concentration massive des fuites de données vers ChatGPT, en particulier vers sa version gratuite, échappant à tout cadre de gouvernance sécurisé.

Données sensibles envoyées par plateforme :

• ChatGPT (OpenAI) : 79,1 % des données sensibles, dont 21 % (2 479 requêtes) ont transité par la version gratuite, non encadrée
• Claude (Anthropic)
• Gemini (Google)
• Copilot (Microsoft)
• Perplexity AI

Répartition par type de données sensibles

Les données les plus exposées aux IA sont classées en six catégories :

• Données clients
• Données employés
• Données juridiques et financières
• Données de sécurité
• Code sensible
• Clés d’accès ou de configuration (source code + access keys)

La quasi-totalité de ces types de données sont principalement exposés via ChatGPT, ce qui renforce son rôle central dans les risques liés à l’IA en entreprise.

Vers un point de rupture ?

La généralisation du Shadow AI n’est plus marginale : elle est devenue structurelle.

« C’est comme si chaque collaborateur disposait d’un assistant personnel externe, non audité, connecté à des serveurs étrangers, et sans aucun engagement de confidentialité réel », résume un expert en cybersécurité interrogé par Harmonic.

Les DSI, CISO et responsables de la conformité se retrouvent face à un dilemme :

• Bloquer l’accès à ces outils, au risque de générer de la frustration, de l’inefficacité et d’encourager des pratiques encore plus cachées.
• Encadrer l’usage, en créant une zone d’expérimentation surveillée, mais cela suppose d’investir dans des outils, des formations et une gouvernance souple.

Quelles stratégies pour reprendre le contrôle ?

Le rapport propose plusieurs pistes pour concilier innovation et sécurité :

1. Visibilité proactive

Mettre en place des outils de détection des interactions avec les plateformes d’IA, en analysant les flux réseau, les connexions SaaS et les comportements utilisateurs.

2. Formation ciblée

Intégrer des modules pédagogiques sur les bonnes pratiques IA dans les parcours d’onboarding et les plans de formation annuels. Exemple : quels types de données ne jamais transmettre à une IA externe ? Quelles alternatives validées utiliser ?

3. Catalogue d’outils d’IA approuvés

Établir une “marketplace” interne regroupant les IA validées, avec leurs usages autorisés, leurs limites et les conditions de traitement des données.

4. Politiques dynamiques

Plutôt que d’interdire en bloc, adopter une approche granulaire : autoriser certains usages (réécriture, traduction) mais interdire l’upload de fichiers RH, juridiques ou commerciaux.

Conclusion : bâtir une culture de l’IA maîtrisée

La frontière entre usage personnel et professionnel s’estompe. Les collaborateurs n’attendent plus l’approbation pour intégrer l’IA dans leur quotidien. Ils veulent de la vitesse, de la simplicité, de l’autonomie.

Mais cette autonomie doit être canalisée. L’IA ne doit pas devenir un angle mort de la stratégie numérique, ni un cheval de Troie pour les fuites d’information.

Le défi de demain ne sera pas de contrôler l’IA, mais de gouverner son usage. Avec des outils de visibilité, des lignes directrices claires et une pédagogie adaptée, l’entreprise peut transformer cette menace en levier de compétitivité durable.

Source : rapport Harmonic Security

Et vous ?

Vous arrive-t-il également d'utiliser l'IA au travail ? De quel chatbot vous servez-vous ? Est-il autorisé ou non ? Y a-t-il des limites dans les échanges que vous pouvez avoir avec lui ? Si oui, lesquelles (type de documents partagés, type d'information renseignée, etc.) ?

Peut-on encore protéger les données sensibles si les employés les soumettent volontairement à des IA tierces hors de tout contrôle ?

L’usage d’IA développées en Chine ou en Russie dans des contextes professionnels occidentaux doit-il être interdit par défaut ? Pourquoi ?

Est-il acceptable qu’un salarié transmette des éléments professionnels à un chatbot IA sachant que les prompts peuvent être conservés ?

L’interdiction totale des outils d’IA générative non validés freine-t-elle l’innovation ou protège-t-elle réellement l’entreprise ?

Comment définir une “bonne pratique IA” quand les outils évoluent plus vite que les chartes internes ?

Est-il plus dangereux de bloquer l’IA (et créer une frustration) ou de la laisser se répandre sans encadrement ?

Voir aussi :

Que se passe-t-il lorsque des employés utilisent un logiciel qui n'a pas été approuvé ? Quelques conseils face aux enjeux du Shadow IT

La moitié des employés utilisent la GenAI au travail pour des activités complexes alors que seulement 41 % des entreprises évaluent activement la GenAI ou en ont fait une priorité, selon Betterworks

Plus de deux tiers des salariés soutiennent l'IA générative pour améliorer le travail. La technologie leur permettrait d'économiser cinq heures par semaine en moyenne, selon une enquête de Salesforce

[kain_tn]

Vous arrive-t-il également d'utiliser l'IA au travail ? De quel chatbot vous servez-vous ? Est-il autorisé ou non ? Y a-t-il des limites dans les échanges que vous pouvez avoir avec lui ? Si oui, lesquelles (type de documents partagés, type d'information renseignée, etc.) ?

Non. Je ne me suis pas foulé à me former pour utiliser un outil défaillant.

Peut-on encore protéger les données sensibles si les employés les soumettent volontairement à des IA tierces hors de tout contrôle ?

Clairement pas. C'est un comportement à risque, et il devrait être passible de sanctions au sein d'une entreprise, à partir du moment où il est fait sans le consentement de la direction.

L’usage d’IA développées en Chine ou en Russie dans des contextes professionnels occidentaux doit-il être interdit par défaut ? Pourquoi ?

Pourquoi? En quoi sont-elles moins sûres qu'une IA américaine? Sommes-nous américains? Trump et Musk sont-ils au pouvoir chez nous?

Est-il acceptable qu’un salarié transmette des éléments professionnels à un chatbot IA sachant que les prompts peuvent être conservés ?

Uniquement si la direction de l'entreprise en a décidé ainsi.

L’interdiction totale des outils d’IA générative non validés freine-t-elle l’innovation ou protège-t-elle réellement l’entreprise ?

L'innovation de qui? À qui appartiennent ces outils? Qui se fait de l'argent dessus? Comment peut-on parler d'innovation, lorsque le code généré est aussi médiocre une fois que l'on sort des sentiers battus (comprendre une fois qu'on demande au bot d'innover réellement, justement)?

Comment définir une “bonne pratique IA” quand les outils évoluent plus vite que les chartes internes ?

Aucune idée. C'est un peu comme le fait d'autoriser les smartphones en entreprise (donc des appareils photo et caméras) mais de rester très rigide sur certaines opérations de copier/coller, par exemple. Ces chartes internes sont déjà dépassées depuis belle lurette. La seule chose qui pourrait fonctionner serait de former les employés et de récompenser au mérite.

Est-il plus dangereux de bloquer l’IA (et créer une frustration) ou de la laisser se répandre sans encadrement ?

Une frustration... Carrément...
Si les gens sont frustrés de ne pas pouvoir utiliser d'IA, peut-être qu'ils devraient juste aller chercher un autre boulot... Ou arrêter de travailler.

[Anthony]

Les employés utilisent de plus en plus l'IA fantôme pour rédiger des e-mails, analyser des données ou résumer des réunions, mais prétendent ne pas le faire, ce qui soulève des problèmes de sécurité

Un nombre croissant de travailleurs s'appuient discrètement sur l'« intelligence artificielle (IA) fantôme » (ou Shadow AI) pour accomplir des tâches quotidiennes telles que la rédaction d'e-mails, l'analyse de données ou le résumé de réunions, mais prétendent ne pas le faire par crainte d'être jugés. Un étude récente de l'agence de marketing OutreachX a révélé que près de la moitié des employés de bureau américains hésitent à divulguer leur utilisation de l'IA à leurs supérieurs, invoquant des préoccupations liées à la sécurité de l'emploi et à la perception de leurs compétences. La situation soulève cependant des inquiétudes en matière de sécurité.

Ces révélations viennent conforter les conclusions d'un précédent rapport d'Harmonic Security indiquant que plus de 50 % des salariés utilisent des outils d'IA génératives non autorisés, mettant ainsi en péril la sécurité des données et créant une forme de « Shadow AI » aussi invisible que potentiellement dangereuse.

Pour rappel, le terme Shadow AI (ou IA fantôme) désigne l'utilisation, par des employés ou des départements, d'outils et d'applications d'IA sans l'approbation ou la supervision du service informatique de l'organisation. Ce phénomène s'inscrit dans la continuité du Shadow IT et reflète la tendance croissante à recourir à des solutions technologiques non validées officiellement pour répondre rapidement à des besoins professionnels spécifiques.

Selon les nouvelles données fournies par l'agence de marketing OutreachX, 52 % des travailleurs américains s'inquiètent de la manière dont l'IA sera utilisée sur leur lieu de travail à l'avenir et 48 % des employés de bureau déclarent qu'ils seraient mal à l'aise de dire à leur responsable qu'ils ont utilisé l'IA pour des tâches courantes.

Les principales raisons invoquées pour dissimuler l'utilisation de l'IA sont la crainte de passer pour des tricheurs, des paresseux ou des employés moins compétents, ainsi que le manque de clarté des règles relatives à l'utilisation de l'IA sur le lieu de travail. 45 % des travailleurs déclarent avoir utilisé l'IA sans en informer leur supérieur hiérarchique, et 25 % admettent avoir exagéré leurs compétences en matière d'IA, un classique de la gestion de l'image sous pression. En outre, 27 % déclarent ressentir un sentiment d'imposture lié à l'IA, tandis que 30 % cachent son utilisation par crainte de perdre leur emploi.

Tout cela comporte bien sûr des risques réels : 46 % des personnes interrogées admettent avoir téléchargé des données sensibles de leur entreprise vers des outils publics, tandis que 44 % utilisent sciemment l'IA de manière non autorisée. Sans gouvernance et sans habilitation claires, les investissements se dispersent entre des outils fantômes, des flux de travail fragmentés et des retouches évitables, ce qui peut entraîner des pertes de productivité et d'efficacité se chiffrant en millions de dollars.

Pour résoudre ce problème, OutreachX indique qu'il faut un changement culturel où la divulgation est normalisée, les employés ajoutant une note « AI assist » pour indiquer comment l'IA a été utilisée dans une tâche particulière. Les entreprises doivent également fournir des outils approuvés, définir les données et les cas d'utilisation autorisés, restreindre les copier-coller à partir de systèmes sensibles vers des modèles publics et conserver les journaux de prompts/résultats lorsque cela est approprié.

La formation est également essentielle, les employés qui suivent une formation sur l'IA étant jusqu'à 19 fois plus susceptibles de signaler des gains de productivité. Les utilisateurs réguliers de l'IA sont également beaucoup plus susceptibles de faire état d'une forte productivité, d'une grande concentration et d'une grande satisfaction professionnelle.

Le rapport souligne que « ce qui se passe dans de nombreux bureaux n'est pas lié à la fragilité des employés ou à l'engouement pour la technologie. Il s'agit plutôt d'une question d'organisation. Tant que les employés penseront que le fait de reconnaître leur utilisation de l'IA nuira à leur réputation ou déclenchera une surveillance accrue, ils opteront par défaut pour la discrétion. Cette discrétion augmente les erreurs, affaiblit la surveillance et sape le rendement des initiatives en matière d'IA. Les organisations qui codifient la divulgation, sanctionnent les outils sûrs, enseignent l'évaluation, fournissent des conseils en cours de route, attribuent la propriété et présentent l'IA comme une aide peuvent transformer l'anxiété en compétence et faire passer la « honte de l'IA » à un flux de travail standard et vérifiable. »

Les conclusions de cette étude d'OutreachX coïncident avec une croissance annuelle explosive de 3 000 % de l'utilisation de l'IA par les entreprises, mettant en lumière à la fois son adoption rapide et les risques de sécurité liés à son utilisation. D'après un récent rapport de Zscaler sur la sécurité de l'IA, ChatGPT apparaît comme l'application d'IA/ML la plus utilisée. Cependant, il s'agit également de l'outil le plus bloqué en raison des préoccupations croissantes des entreprises concernant l'exposition des données sensibles et l'utilisation non autorisée. Parmi les autres applications fréquemment bloquées figurent Grammarly, Microsoft Copilot, QuillBot et Wordtune, qui témoignent d'une large utilisation de l'IA pour la création de contenu et l'amélioration de la productivité.

Source : Etude de l'agence de marketing OutreachX

Et vous ?

Quelle lecture faites-vous de cette situation ?
Trouvez-vous les conclusions de cette étude d'OutreachX crédibles ou pertinentes ?

Voir aussi :

Seulement 58 % des salariés français déclarent avoir déjà utilisé l'IA au travail, tout en redoutant l'obsolescence de leur métiers, contre 66 à 73 % chez leurs voisins européens

L'utilisation de l'IA au travail a presque doublé au cours des deux dernières années, et les employés affirment qu'il est très probable que l'automatisation, les robots ou l'IA éliminent leur emploi

Les salariés veulent l'IA au travail et n'attendront pas que les entreprises les rattrapent, car pour eux l'IA place la barre plus haut et brise leur plafond de carrière, d'après Microsoft

[Anselme45]

A tous les "neuneu avec le QI d'une huître":

Toutes les données, je dis bien toutes les données, transmises à une IA sont enregistrées par l'IA!!!

Officiellement pour son apprentissage et officieusement... Mais il n'y a évidemment pas de "officieusement"... Ce ne sont pas les services de renseignement américains ou chinois ou les GAFAM elles-mêmes qui s'abaisseraient à utiliser les flux de données qui leur sont fournis béatement par des hordes de décérébrés à travers le monde entier!

Pour info, certains éditeurs de progiciel commence à s'en rendre compte. Exemple avec Embarcadero qui commercialise des logiciels de programmation. Après avoir vanté l'introduction de l'IA dans leur dernière version, ils ont transmis un avertissement via mail aux utilisateurs du style "Si vous avez à traiter des données sensibles, n'utilisez nos logiciels munis d'IA que sur un poste de travail non-connecté à internet"!!!

Un petit avertissement qui pourra très certainement leur éviter de devoir verser des millions à des utilisateurs qui pourraient porter plainte contre eux aux USA dans le cadre d'une "class action".