81 % des personnes interrogées s'inquiètent de la sécurité de ChatGPT

**Jade Emy** · 03/07/2023, 17h11

81 % des utilisateurs se méfient de ChatGPT et s'inquiètent de sa sécurité et de sa sûreté, et 63 % ne font pas confiance aux informations produites par cet outil d'IA générative, selon Malwarebytes

Alors que les outils d'IA générative continuent de faire parler d'eux, la sécurité et la fiabilité des informations produites suscitent de plus en plus d'inquiétudes, notamment ChatGPT.

Selon cette nouvelle enquête, la plupart des gens ne font pas confiance à ChatGPT et s'inquiètent de sa sécurité et de sa sûreté. L'étude montre que 81 % des personnes interrogées sont préoccupées par les risques liés à la sécurité et à la sûreté.

L'enquête menée auprès des abonnés au courrier électronique de Malwarebytes, six mois après le lancement de ChatGPT, montre que la fiabilité des informations est également un problème, 63 % des personnes interrogées ne faisant pas confiance aux informations produites par ChatGPT. En outre, 52 % d'entre eux estiment que le développement de la plateforme devrait être interrompu pour permettre un ajustement de la réglementation.

Nom : 1.PNG
Affichages : 791
Taille : 57,9 Ko

La fiabilité des informations suscite aussi des inquiétudes. Seuls 12 % des répondants sont d'accord avec l'affirmation "les informations produites par ChatGPT sont fiables", tandis que 55 % ne sont pas d'accord avec cette affirmation. 51 % des personnes interrogées doutent que les outils d'IA puissent améliorer la sécurité sur internet.

Mark Stockley, évangéliste en cybersécurité chez Malwarebytes, déclare :

"La révolution de l'IA s'accélère depuis très longtemps, et de nombreuses applications spécifiques et étroites ont connu un énorme succès sans susciter ce genre de méfiance. Chez Malwarebytes, l'apprentissage automatique (Machine Learning) et l'IA sont utilisés depuis des années pour améliorer l'efficacité, identifier les logiciels malveillants et améliorer les performances globales de nombreuses technologies. Cependant, le sentiment du public à l'égard de ChatGPT est bien différent et l'incertitude quant à la manière dont ChatGPT changera nos vies est aggravée par le caractère mystérieux de son mode de fonctionnement."

Source : Malwarebytes

Et vous ?

Quel est votre avis sur le sujet ?

Cette enquête est elle crédible ou pertinente ?

Faut-il vraiment s'inquiéter de la sécurité et la fiabilité de ChatGPT ?

Voir aussi :

ChatGPT est peut-être l'application grand public à la croissance la plus rapide de l'histoire d'Internet
Atteignant 100 millions d'utilisateurs en un peu plus de 2 mois, selon un rapport d'UBS

Une enquête révèle que certaines entreprises remplacent déjà les travailleurs par ChatGPT, malgré les avertissements selon lesquels il ne faut pas s'y fier pour "quoi que ce soit d'important"

Lyon : ChatGPT utilisé par la moitié des élèves de Master d'un professeur pour rédiger leurs devoirs.
« Cette pratique m'inquiète. Elle pose un véritable problème d'intégration des savoirs »

Invité · 04/07/2023, 14h12

Que dire.....

Et bien, j'en ai beaucoup ri.

Pour des sujets divers et non pragmatiques

Pas que je me méfie de GPT, mais on se rend vite compte qu'il a tendance à énoncer ce que l'on veut entendre, de reformuler nos arguments, .... Bref, il n'est pas contrariant
J'avais parfois l'impression de discuter avec le personnage du film "Rain man"
Je trouve qu'il ne passe pas si bien que ça le test de Turing, ou alors si on prend comme référence une personne qui a des petits problèmes psychologiques.

Pour les sujets pragmatiques

Pour la génération de code, là aussi, ce n'est pas très fiable et dans le genre "je persiste dans l'erreur".....
Pour des informations historiques ou autres, il mélange un peu tout et a une forte tendance à raconter n'importe quoi !
Pour les formules mathématiques (en physique), je ne comprends toujours pas pourquoi il n'y arrive pas (c'est pourtant de la logique ). Il mélange les notions, ... On a beau le corriger, il dit qu'il en tient compte et ressort les même erreurs à la première occasion.

Bref, je n'utilise pas chat GPT comme encyclopédie !

Par contre, tout ce qui est reformulation de texte, là il est très bon et s'en sort plutôt bien en traduction.

Il faut aussi distinguer chatGPT de sa version Microsoft, qui a tendance à citer ses sources (même si parfois, les sources citées n'ont rien à voir avec le sujet).

Bref, je m'en sers parfois pour la rédaction et pour débroussailler le terrain, ou pour de la compréhension de texte.

Pour le reste, je doute fortement de ses capacités.

**totozor** · 04/07/2023, 15h34

Envoyé par Ehma

Je trouve qu'il ne passe pas si bien que ça le test de Turing, ou alors si on prend comme référence une personne qui a des petits problèmes psychologiques.

C'est pour moi la partie la plus marquante, tout le monde dit qu'on ne sait pas faire la différence mais après lui avoir posé 4 questions j'étais capable d'identifier une de ses réponses.

Le moment où je me fait avoir est pour les politiques d'entreprise etc où le texte est aussi creux quand c'est écrit par des humains (en général ils s'y mettent à plusieurs) que quand c'est écrit par chatGPT.

Invité · 04/07/2023, 16h06

Envoyé par totozor

Le moment où je me fait avoir est pour les politiques d'entreprise etc où le texte est aussi creux quand c'est écrit par des humains (en général ils s'y mettent à plusieurs) que quand c'est écrit par chatGPT.

Oui, c'est tout à fait ça et ça le fait !

Entre collègue on s'envoie parfois des textes élogieux fait par chat GPT, c'est à pleurer de rire !

**Jade Emy** · 14/11/2023, 17h44

89 % des organisations considèrent les outils d'IA générative tels que ChatGPT comme un risque potentiel pour la sécurité, alors que 95 % d'entre elles les utilisent déjà au sein de leur entreprise.

Les organisations se tournent vers l'IA générative (GenAI) malgré les inquiétudes en matière de sécurité. Une nouvelle enquête menée auprès de plus de 900 décideurs informatiques mondiaux montre que si 89 % des organisations considèrent les outils d'IA générative tels que ChatGPT comme un risque potentiel pour la sécurité, 95 % d'entre elles les utilisent déjà sous une forme ou une autre au sein de leur entreprise.

L'étude pour Zscaler, réalisée par Sapio Research, révèle également que 23 % des entreprises utilisant la GenAI ne surveillent pas du tout leur utilisation, et que 33 % n'ont pas encore mis en œuvre de mesures de sécurité supplémentaires liées à la GenAI, bien qu'un grand nombre d'entre elles l'aient inscrite sur leur feuille de route.

La situation est particulièrement prononcée dans les petites entreprises (500-999 employés), où le même pourcentage d'organisations utilise des outils GenAI (95 %), mais où 94 % d'entre elles reconnaissent les risques liés à cette utilisation.

Nom : 1.png
Affichages : 702
Taille : 584,5 Ko

"Les outils de GenAI, dont ChatGPT et d'autres, sont extrêmement prometteurs pour les entreprises en termes de rapidité, d'innovation et d'efficacité", déclare Sanjay Kalra, vice-président de la gestion des produits chez Zscaler. " Cependant, avec l'ambiguïté actuelle entourant leurs mesures de sécurité, à peine 39 % des organisations perçoivent leur adoption comme une opportunité plutôt que comme une menace. Cela met non seulement en péril l'intégrité des données de leur entreprise et de leurs clients, mais gaspille également leur énorme potentiel."

Il est intéressant de noter que ce ne sont pas les employés qui semblent être la force motrice de l'intérêt actuel pour l'IA et de son utilisation : seuls 5 % des répondants affirment que cela provient des employés. Au contraire, 59 % des personnes interrogées affirment que l'utilisation de l'IA est directement impulsée par les équipes informatiques.

"Le fait que les équipes informatiques soient à la barre devrait rassurer les chefs d'entreprise", ajoute Kalra. "Cela signifie que l'équipe dirigeante a le pouvoir de tempérer stratégiquement le rythme d'adoption de la GenAI et d'établir une emprise ferme sur ses mesures de sécurité, avant que sa prévalence au sein de leur organisation ne progresse davantage. Cependant, il est essentiel de reconnaître que la fenêtre pour parvenir à une gouvernance sécurisée diminue rapidement."

Source : Zscaler

Et vous ?

Pensez-vous que cette étude est crédible ou pertinente ?

Quel est votre avis sur le sujet ?

Voir aussi :

81 % des utilisateurs se méfient de ChatGPT et s'inquiètent de sa sécurité et de sa sûreté, et 63 % ne font pas confiance aux informations produites par cet outil d'IA générative, selon Malwarebytes

72 % des responsables informatiques pensent que leur organisation utilisera davantage l'IA, 62 % déclarent qu'ils constatent une augmentation des investissements dans les ChatBot telles que ChatGPT

Les employés utilisent secrètement ChatGPT, ce qui pose des risques pour les entreprises. L'utilisation non contrôlée de l'IA générative, une bombe à retardement pour les sociétés

**totozor** · 15/11/2023, 07h47

L'IA générative est à la fois un danger et une opportunité pour les entreprise (comme à peu près toute innovation technologique), elle permet d'accélérer facilement certaines tâches à faible valeur ajoutée mais amène aussi un risque de perte de données/compétences/connaissances.

Et le risque est d'autant plus réel chez les afficionados de la techno, un de nos responsable a essayé de mettre un document confidentiel en lecture de ChatGPT pour montrer sa puissance. Ca a surtout montrer la puissance de nos politiques de confidentialité

**Jade Emy** · 19/01/2024, 20h09

64 % des chefs d'entreprise estiment que l'IA générative posera des problèmes de cybersécurité, mais il semble que les avantages l'emportent sur les inconvénients, selon une enquête de PwC.

Une enquête récente menée par PwC révèle que 64 % des chefs d'entreprise estiment que l'IA générative posera des problèmes de cybersécurité dans un avenir plus ou moins proche. Mais ils sont également conscients des avantages de l'IA générative, 64 % des répondants déclarant que leurs employés feraient preuve d'une plus grande efficacité.

Il semble que toutes les entreprises technologiques essaient de tirer parti de l'IA alors qu'elle n'en est encore qu'à un stade relativement précoce de son processus de développement. Malgré cela, il suffit de dire que l'IA générative a le potentiel de causer d'énormes dégâts, même si tous les éléments ont été pris en compte.

Lors de son enquête, PwC a demandé à 4 700 cadres du monde entier ce qu'ils pensaient de l'IA. Il s'avère que 64 % d'entre eux sont d'avis qu'elle pourrait causer d'importantes atteintes à la cybersécurité dans un avenir plus ou moins proche. Toutefois, il convient de mentionner que nombre d'entre eux étaient également conscients des avantages de l'IA générative.

Nom : 1.PNG
Affichages : 4894
Taille : 38,6 Ko

58 % des cadres qui ont participé à cette enquête ont déclaré que l'IA générative améliorera la qualité de leurs produits par rapport à ce qui aurait été le cas autrement. 70 % ont indiqué que l'utilisation de cette technologie de pointe modifierait sensiblement la manière dont leur entreprise crée et maintient la valeur à long terme.

L'avantage le plus communément admis est peut-être celui de la productivité des travailleurs. 64 % des répondants à l'enquête ont déclaré que leurs employés feraient preuve d'une plus grande efficacité, car c'est le genre de chose qui pourrait potentiellement aboutir à une IA générative qui les aiderait dans diverses tâches. 60 % ont également déclaré que leur propre productivité allait probablement augmenter.

Sur l'ensemble des chefs d'entreprise qui ont répondu aux questions de ce sondage, seuls 3 % ont estimé que l'IA générative nuirait aux résultats. 44 % sont d'avis contraire, affirmant qu'ils s'attendent à ce que la technologie augmente leurs bénéfices au cours de l'année à venir. Toutefois, 63 % s'inquiètent de la désinformation et 55 % reconnaissent leurs craintes quant à l'influence négative que l'IA générique pourrait avoir sur leur réputation à l'avenir. Il est essentiel de tenir compte des risques, mais il semble que les avantages l'emportent sur les inconvénients selon les PDG.