IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Sécurité Discussion :

Des experts en sécurité sont parvenus à créer un logiciel malveillant polymorphe à l'aide de ChatGPT


Sujet :

Sécurité

  1. #1
    Chroniqueur Actualités
    Avatar de Anthony
    Homme Profil pro
    Rédacteur technique
    Inscrit en
    novembre 2022
    Messages
    140
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Gironde (Aquitaine)

    Informations professionnelles :
    Activité : Rédacteur technique

    Informations forums :
    Inscription : novembre 2022
    Messages : 140
    Points : 2 259
    Points
    2 259
    Par défaut Des experts en sécurité sont parvenus à créer un logiciel malveillant polymorphe à l'aide de ChatGPT
    Le chatbot d'IA ChatGPT est capable de lancer des attaques de phishing dangereuses, et de concevoir des codes de téléchargement malveillant d'une efficacité redoutable

    Les chatbots IA sont devenus très populaires ces derniers temps, la précision de leurs réponses étant saluée comme le signe d'une industrie en progrès. Malgré cela, ces outils peuvent être utilisés à des fins malveillantes, comme tout autre type d'outil. Le chatbot le plus populaire, ChatGPT, a récemment commencé à être utilisé pour des attaques de phishing. Les acteurs malveillants utilisent le chatbot pour rédiger des e-mails convaincants qui peuvent convaincre les utilisateurs de cliquer sur des liens dangereux.

    Les experts en cybersécurité de Check Point Research ont récemment cherché à démontrer à quel point ChatGPT peut être dangereux s'il est utilisé à des fins malveillantes. Pour ce faire, ils ont créé, via ChatGPT, un fichier Excel dans lequel a été injecté un code malveillant.

    Tout ce qu'ils avaient à faire était de demander au chatbot d'écrire un code qui exécuterait un téléchargement malveillant à partir d'une URL une fois le texte saisi dans un fichier Excel. Le code créé par le chatbot était d'une efficacité redoutable et souligne à quel point il peut être dangereux.

    Les chercheurs ont ensuite utilisé le chatbot pour rédiger un e-mail de phishing. Ils ont donné des instructions précises sur la marque que le chatbot devait imiter, et ils ont ensuite reçu exactement ce qu'ils avaient demandé. Bien qu'ils aient également reçu un message indiquant que leur compte avait été verrouillé en raison d'une activité suspecte, il leur a été assez facile de le contourner, de sorte que ces messages sont peut-être moins utiles.

    Tout progrès technologique comporte son lot d'avantages et d'inconvénients. ChatGPT est un pas en avant passionnant dans un secteur qui pourrait révolutionner le monde entier, mais cela ne change rien aux risques très réels qu'il peut poser. Il reste encore du travail à faire pour protéger les utilisateurs, et un consommateur bien informé peut être capable de repérer un e-mail de phishing à un kilomètre de distance. ChatGPT lui-même doit également être optimisé pour éviter qu'il ne soit utilisé pour de telles choses.

    Nom : c.jpeg
Affichages : 33468
Taille : 55,7 Ko

    Source : Check Point

    Et vous ?

    Qu'en pensez-vous ?


    Voir aussi :

    ChatGPT réussit l'édition 2022 de l'examen d'informatique pour élèves du secondaire désireux d'obtenir des crédits universitaires US
    70 % des consommateurs préfèrent utiliser un chatbot pour trouver ce qu'ils cherchent
    Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités

  2. #2
    Membre averti

    Homme Profil pro
    Développeur Web
    Inscrit en
    janvier 2014
    Messages
    152
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Développeur Web

    Informations forums :
    Inscription : janvier 2014
    Messages : 152
    Points : 314
    Points
    314
    Par défaut Vrai
    En voici un bel exemple

    Nom : Capture d’écran 2022-12-27 à 09.22.06.png
Affichages : 3891
Taille : 414,0 Ko
    Nom : Capture d’écran 2022-12-27 à 09.22.26.png
Affichages : 3855
Taille : 315,2 Ko
    Cocréateur d'un réseau social musical
    Suivez-nous sur https://www.facebook.com/Spolsik/?re...homepage_panel

  3. #3
    Candidat au Club
    Homme Profil pro
    Développeur Web
    Inscrit en
    décembre 2022
    Messages
    1
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Développeur Web

    Informations forums :
    Inscription : décembre 2022
    Messages : 1
    Points : 2
    Points
    2
    Par défaut
    Basiquement j'ai exactement la même chose en tapant la même chose sur google. Je suis pas d'accord pour dire que c'est dangereux puisque ces connaissances sont déjà accessibles en ligne même si ça facilite la recherche.
    Nom : Screenshot 2022-12-29 100727.png
Affichages : 2192
Taille : 138,9 Ko

  4. #4
    Chroniqueur Actualités
    Avatar de Patrick Ruiz
    Homme Profil pro
    Redacteur web
    Inscrit en
    février 2017
    Messages
    1 555
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Cameroun

    Informations professionnelles :
    Activité : Redacteur web
    Secteur : Communication - Médias

    Informations forums :
    Inscription : février 2017
    Messages : 1 555
    Points : 45 290
    Points
    45 290
    Par défaut Des cybercriminels testent le chatbot ChatGPT pour créer des logiciels malveillants
    Des cybercriminels testent le chatbot ChatGPT pour créer des logiciels malveillants
    Et ravivent des craintes sur un futur où l’IA pourra surpasser l’humanité

    Ce qu’on sait de cette intelligence artificielle de l’entreprise OpenAI est qu’il s’agit d’un chatbot capable de comprendre le langage naturel et de répondre en langage naturel. Certains la qualifient même de remplaçant de Google. Le Département de l’éducation de New York vient d’en interdire l’utilisation en raison de préoccupations concernant les effets négatifs sur l'apprentissage des élèves, ainsi que la sécurité et l'exactitude du contenu. La firme CheckPoint vient de publier un rapport susceptible de renforcer cette perception : des cybercriminels la testent déjà pour créer des logiciels malveillants. Le tableau ravive des craintes sur un futur où l’intelligence artificielle pourra surpasser l’intelligence humaine.

    Du rapport de CheckPoint, il ressort que ChatGPT peut générer le code d’un logiciel malveillant capable de voler des fichiers précis sur un PC, de les compresser et de les envoyer sur un ordinateur distant. Cette intelligence artificielle peut aussi produire du code pour un outil logiciel qui installe une porte dérobée sur un ordinateur et ensuite télécharge d’autres logiciels malveillants à partir de cette dernière. La firme rapporte en sus que les cybercriminels peuvent s’en servir pour la mise sur pied de logiciels capables de chiffrer les fichiers du PC d’une cible. CheckPoint rapporte que cette ChatGPT ouvre ces possibilités à des individus avec de très faibles connaissances techniques.

    Nom : 1.jpg
Affichages : 8147
Taille : 74,8 Ko

    La publication de CheckPoint est en phase avec celle de Matt Welsh de la startup Fixie.ai qui prédit que l’utilisation de l’intelligence artificielle est de nature à ouvrir la filière à tous : « L’on n’aura plus besoin d’être un expert en programmation informatique pour obtenir quelque chose d’utile d’une intelligence artificielle. »

    Matt Welsh dépeint un futur dans lequel la filière informatique va passer de l’approche d’écriture des programmes informatique par des humains à celle de la mise à contribution d’agents d’intelligence artificielle au préalable entraînés pour remplacer les humains dans des activités comme le développement d’applications informatique. Le tableau ravive ainsi des craintes sur la perspective de voir l’intelligence artificielle surpasser les humains.


    En effet, lorsqu’on parle d’intelligence artificielle, deux grands courants de pensée s’affrontent : celui des tiers qui pensent qu’il s’agit d’un outil, ce, sans plus et celui des intervenants et observateurs qui sont d’avis que ce n’est qu’une question de temps avant qu’elle ne devienne une menace pour la race humaine. En effet, des équipes de recherche comme celle d’OpenAI (qui développe ChatGPT) sont lancées sur l’atteinte de l’objectif intelligence artificielle générale (AGI).

    Si l’on se réfère à des retours de scientifiques œuvrant dans le domaine, l’AGI pourrait nous tomber dessus dans 5 à 10 ans. Les machines seraient alors dotées de « bon sens. » Au stade d’intelligence artificielle générale, elles seraient capables de réflexion causale, c’est-à-dire de cette capacité à raisonner sur « le pourquoi les choses se produisent. »

    L’intelligence artificielle pourrait alors agir en toute autonomie pour se dresser contre l’humanité. C’est d’ailleurs pour cela que Neuralink travaille sur des interfaces cerveau – machine à insérer dans le crâne pour préparer l’humanité à un « funeste » futur où les robots domineront sur elle. L’idée : augmenter les capacités de l’homme par l’intelligence artificielle pour faire face aux robots comme on en a vu dans des films comme Terminator.

    Source : CheckPoint

    Et vous ?

    Intelligence artificielle : menace ou outil ? De quel bord êtes-vous ?
    Que pensez-vous des progrès de l’intelligence artificielle et de la possibilité de déboucher sur l’intelligence artificielle générale ?
    Comment entrevoyez-vous le rapport entre les humains et l'intelligence artificielle dans les 5 à 10 années à venir ? Dan les 50 à 100 années à venir ?
    Quel crédit accordez-vous à des prédictions comme celle de Matt Welsh ? Les travailleurs de la filière programmation doivent-ils déjà penser à d'éventuelles reconversions en raison de la menace que l'IA constitue pour leurs postes ?

    Voir aussi :

    80 % des technologies pourraient être créées par des professionnels extérieurs à l'informatique d'ici 2024, grâce aux outils low-code, selon Gartner

    Forrester : l'utilisation des plateformes de développement low-code gagne du terrain dans les processus de transformation numérique des entreprises

    Le marché mondial des technologies de développement low-code va augmenter de 23 % en 2021, selon les prévisions de Gartner

    Microsoft lance Power Fx, un nouveau langage de programmation low-code open source basé sur Excel
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  5. #5
    Expert éminent Avatar de marsupial
    Homme Profil pro
    Retraité
    Inscrit en
    mars 2014
    Messages
    1 598
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Autre

    Informations professionnelles :
    Activité : Retraité

    Informations forums :
    Inscription : mars 2014
    Messages : 1 598
    Points : 6 311
    Points
    6 311
    Par défaut
    Intelligence artificielle : menace ou outil ? De quel bord êtes-vous ?
    Outil qui demande à être amélioré. Pour Chat GPT, il s'agit d'une Béta dont les capacités vont s'améliorer avec le temps.


    Que pensez-vous des progrès de l’intelligence artificielle et de la possibilité de déboucher sur l’intelligence artificielle générale ?
    Les progrès montrés par Chat GPT n'étaient pas attendus avant un horizon de 10 ans. Cela est rendu possible par l'évolution de la technologie toujours plus puissante. L'intelligence artificielle générale devient envisageable dans un délai d'une décennie.


    Comment entrevoyez-vous le rapport entre les humains et l'intelligence artificielle dans les 5 à 10 années à venir ? Dans les 50 à 100 années à venir ?
    Enthousiasmant et excitant. Toutes les tâches répétitives relativement simple vont être effectuées par l'IA, laissant l'être humain s'affranchir de s'attaquer à des domaines nouveaux. Dans les 50 à 100 ans à venir, on peut imaginer beaucoup comme un superordinateur ayant réponse à tout et donnant les conséquences de chaque décision permettant au bon sens humain d'éviter les erreurs et prendre le meilleur chemin pour l'humanité. Un peu comme dans Fondation d'Isaac Asimov.


    Quel crédit accordez-vous à des prédictions comme celle de Matt Welsh ? Les travailleurs de la filière programmation doivent-ils déjà penser à d'éventuelles reconversions en raison de la menace que l'IA constitue pour leurs postes ?
    Au début où nous nous trouvons, l'IA devient une aide précieuse. Mais avec le temps et son amélioration, à mon avis, elle va remplacer nombre d'emplois et faire progresser le genre humain dans sa quête, pas que dans la filière programmation. Il faudra toujours des humains pour superviser le travail de l'IA et à mon avis ce domaine n'est qu'à l'aube de son avènement et on ne sait pas ce que peut réserver l'avenir comme nouvelles avancées.


    Dans le domaine de la recherche scientifique, l'IA peut débroussailler et enseigner le champ des possibles à des chercheurs qui n'ont plus qu'à appliquer ses découvertes.
    Repeat after me
    Le monsieur lutte pour la défense des libertés individuelles et collectives

    Repeat after me...

  6. #6
    Membre éprouvé
    Homme Profil pro
    Chargé de projets
    Inscrit en
    décembre 2019
    Messages
    241
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 32
    Localisation : France, Hérault (Languedoc Roussillon)

    Informations professionnelles :
    Activité : Chargé de projets
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : décembre 2019
    Messages : 241
    Points : 995
    Points
    995
    Par défaut
    C'est fantastique comment on peut faire gober n'importe quoi aux gens.

    On leur raconte que 2023 c'est le futur, trop bien, l'humanité bientôt débarrassée des tâches répétitives et difficiles...

    La machine à vapeur et l'industrialisation n'ont pas libérés l'humanité, bien au contraire. Nos vies sont encore plus de vaste blague ou bien qu'on roule en éléctrique, on le fait à crédit et obligés de bosser jusqu'à 65 ans pour ne rien laisser derrière soit à ses petits enfants, qui deviendront à leur tour locataire des technologies et du patrimoine mis à disposition en location par nos fantastiques nouveaux pharaons égyptiens que nous adulons comme les moutons que nous sommes.

    Bercés par l'illusion du progrès, nous devenons tous des esclaves consentant d'un système dont nous ne sommes plus qu'une variable d'ajustement. Incapable de se figurer que la vie c'est autre chose que le travail et une paie mensuelle, on se laisse berner par tout et n'importe quoi.

    Je suis juriste d'affaire, c'est littéralement du bullshit job ou je remplis des formulaires que je donne à mouliner au grand registre central, qui ne comprend rien, ne supporte aucune différence, aucuns "je ne rentre pas dans la case" mais on applaudit, on applaudit qu'on réduise nos vie à un JSON dans un serveur. On applaudit le serveur, les technos, alors que chaque jour elle nous met des fer aux pieds, nous force à faire des choses qui n'aurait pas de sens dans un monde ou la machine ne serait pas prioritaire sur l'homme.

    L'espérance de vie recule, 1/3 des gens meurent avant de percevoir leurs retraites et cotisent 50% de leurs salaires dans le vent sans compter la TVA durant leurs vies. Quel dessin il faudrait faire aux français pour qu'ils comprennent qu'aujourd'hui une machine à plus de valeur qu'eux ???

    Franchement j'ai peur du futur.

  7. #7
    Membre émérite
    Profil pro
    Inscrit en
    juin 2009
    Messages
    732
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : juin 2009
    Messages : 732
    Points : 2 377
    Points
    2 377
    Par défaut
    L'espérance de vie recule ? Pas si on compare à l'époque de la machine a vapeur...

    Et ils étaient quoi les hommes avant l'ère "moderne" ? Des hommes libres de tout "esclavages" ? De taches répétitives ? Genre cultiver leur bouffe pour pas crever de faim l'année d'après ?

    on le fait à crédit et obligés de bosser jusqu'à 65 ans pour ne rien laisser derrière soit à ses petits enfants
    Non tu n'es pas obligé de bosser jusqu'à 65ans. Tu n'auras juste pas ta retraite pleine.

  8. #8
    Membre éprouvé
    Homme Profil pro
    Chargé de projets
    Inscrit en
    décembre 2019
    Messages
    241
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 32
    Localisation : France, Hérault (Languedoc Roussillon)

    Informations professionnelles :
    Activité : Chargé de projets
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : décembre 2019
    Messages : 241
    Points : 995
    Points
    995
    Par défaut
    Et ils étaient quoi les hommes avant l'ère "moderne" ? Des hommes libres de tout "esclavages" ? De taches répétitives ? Genre cultiver leur bouffe pour pas crever de faim l'année d'après ?
    Bin tu cultives plus rien, tu bosses pour survivre l'année d'après mais oui tu peux manger des crevettes tout les jours et partir à 65 ans avec 800 euros par mois.

    A force de tout discuter, tout relativiser, effectivement on peut dire en se mettant un doigt dans l'oeil et en refusant l'évidence que chaque année les français l'ont jamais eu aussi à la cool mais persos je me chauffe pas à ce bois la.

  9. #9
    Expert éminent Avatar de marsupial
    Homme Profil pro
    Retraité
    Inscrit en
    mars 2014
    Messages
    1 598
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Autre

    Informations professionnelles :
    Activité : Retraité

    Informations forums :
    Inscription : mars 2014
    Messages : 1 598
    Points : 6 311
    Points
    6 311
    Par défaut
    Nom : Fl0jXZDX0BU3ktG.jpeg
Affichages : 2806
Taille : 143,6 Ko
    Repeat after me
    Le monsieur lutte pour la défense des libertés individuelles et collectives

    Repeat after me...

  10. #10
    Nouveau Candidat au Club
    Homme Profil pro
    Administrateur systèmes et réseaux
    Inscrit en
    janvier 2023
    Messages
    2
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 34
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Administrateur systèmes et réseaux

    Informations forums :
    Inscription : janvier 2023
    Messages : 2
    Points : 1
    Points
    1
    Par défaut
    Bien vu Chatgpt est juste une suite logique à intégrer à un moteur de recherche le seul truc qui va mourir c'est la méthodologie de recherche

  11. #11
    Membre régulier
    Profil pro
    Inscrit en
    janvier 2010
    Messages
    52
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : janvier 2010
    Messages : 52
    Points : 98
    Points
    98
    Par défaut ChatGPT est dangereux
    (Note : certaines réponses de ChatGPT évoluent rapidement, donc les exemples que je donne ne sont peut-être plus valables à l'heure où j'écris).

    Il est dangereux car ses réponses ont toujours l'apparence de la vérité et sont plutôt bien écrites. Or, si elles sont en effet parfois correctes, elles sont aussi parfois complètement erronées ou biaisées.
    Question 1
    Prouve que pi est irrationnel
    Réponse : un raisonnement par contradiction complètement faux.

    Question 2
    Que sont les mémorandums de Budapest du 5 décembre 1994 ?
    Pour la réponse, je vous invite à comparer avec celle de Wikipédia. ChatGPT évite de parler des garanties d'intégrité territoriale accordées par la Russie à, entre autres, l'Ukraine.

    Question 3
    What was the first paper about constriction in PSO (particle swarm optimization)?
    Réponse :
    The first paper about constriction in PSO (particle swarm optimization) is "The Particle Swarm - Explosion, Stability, and Convergence in a Multidimensional Complex Space" by James Kennedy and Russell Eberhart, which was published in the Proceedings of the IEEE International Conference on Neural Networks in 1995.
    Seul le titre est correct. Mais les auteurs sont moi-même et James Kennedy et la publication a eu lieu en 2002.

    Question 4
    Build a quantum circuit with three qubits |0> as input and whose the output states are |00> or |01> or |10> with the same probability
    La réponse est détaillée, avec un bout de code expliqué. Bien convaincante ... mais fausse !

    J'ai d'autres exemples. Il semble que ChatGPT assemble des morceaux d'information piochés de-ci de-là, sans grand souci de cohérence.

  12. #12
    Membre averti
    Avatar de exe2bin
    Profil pro
    Passionné de programmation
    Inscrit en
    mars 2009
    Messages
    537
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : Passionné de programmation

    Informations forums :
    Inscription : mars 2009
    Messages : 537
    Points : 387
    Points
    387
    Billets dans le blog
    3
    Par défaut Au plaisir
    Super toutes ces discussions les gens.
    On espère vous trouver dans la rue le 19 😉

  13. #13
    Membre averti
    Homme Profil pro
    jardinier
    Inscrit en
    avril 2018
    Messages
    173
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Gironde (Aquitaine)

    Informations professionnelles :
    Activité : jardinier

    Informations forums :
    Inscription : avril 2018
    Messages : 173
    Points : 334
    Points
    334
    Par défaut la perfection n'est pas de ce monde
    D'après les travaux respectifs et étrangers mais inspirés par ce sentiment d'asservissement de l'homme à sa propre volonté, de masamune Shirow et masanobu Fukuoka, le premier avance l'idée de la découverte de notre propre corps dans un monde de l'information et de l'organe décentralisé, le second celui de la quête désespéré de l'humain à vouloir saisir l'intégralité de sa propre élaboration intellectuelle du monde.

    Là, il n'est pas question d'être dominé par l'IA et la machine mais bien de concevoir l'homme et la femme ainsi que l'intelligence, parfait, preuve de notre capacité à investir notre champ de connaissance limité afin d'en extraire la perfection: hors du monde et de la nature le but est d'annihiler l'influence de l'expérimentateur sur la création et ainsi de s'affranchir des limites inhérentes à notre condition.

    L'un propose le "ghost" qui est une étendue consciente ornementée propice à être qualifiée, en dehors de toute existence imputable, qui comprend l'étendue et est donc assujettie au monde et n'est pas unique. La question est celle de sa reproduction, partie intégrante de son soi et sans effet.
    L'autre condamne l'effort de vouloir demeurer dans cette illusion qui n'a pas la même intensité que celle que propose la nature et qui voue l'humanité a s'épuiser dans sa volonté de conservation, de reproduction. Dénué de l'hypothèse du progrès l'être humain perd sa féconde et semble retourner à un état archaïque: celui de l'enfant immature.

    Dans les deux cas la prémisse est la fécondité et semble être une donnée fondamentale qui nous attache à la réalité.
    Hors ni la machine, ni l'intelligence n'ont cette capacité ni celle de distinguer l'autre d'eux-mêmes avec certitude, comme Descartes l'a eu fait ainsi que le doute.

  14. #14
    Membre expérimenté
    Profil pro
    Développeur Web
    Inscrit en
    février 2008
    Messages
    1 411
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : Développeur Web

    Informations forums :
    Inscription : février 2008
    Messages : 1 411
    Points : 1 345
    Points
    1 345
    Par défaut
    " Quel dessin il faudrait faire aux français pour qu'ils comprennent qu'aujourd'hui une machine à plus de valeur qu'eux ??? "

    C'est précisément le moment d'y penser, car si on ne prononce pas les mots justes au bon endroit, des malotrus sont en train de prétendre "réformer" les retraites sans remettre en cause l'équation "cotisant = salarié".
    Après ces fêtes splendides, je souhaite une bonne année à tout le monde.

  15. #15
    Chroniqueur Actualités

    Homme Profil pro
    Dirigeant
    Inscrit en
    juin 2016
    Messages
    2 854
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Bénin

    Informations professionnelles :
    Activité : Dirigeant
    Secteur : Aéronautique - Marine - Espace - Armement

    Informations forums :
    Inscription : juin 2016
    Messages : 2 854
    Points : 61 314
    Points
    61 314
    Par défaut Des experts en sécurité sont parvenus à créer un logiciel malveillant polymorphe à l'aide de ChatGPT
    Des experts en sécurité sont parvenus à créer un logiciel malveillant polymorphe "hautement évasif" à l'aide de ChatGPT
    le logiciel malveillant serait capable d'échapper aux produits de sécurité

    Des chercheurs de la société de cybersécurité CyberArk affirment avoir mis au point une méthode pour générer un logiciel malveillant polymorphe à l'aide de ChatGPT, le chatbot d'IA d'OpenAI. Les chercheurs affirment que le logiciel malveillant généré par ChatGPT peut facilement échapper aux produits de sécurité et rendre les mesures d'atténuation fastidieuses ; tout ceci avec très peu d'efforts ou d'investissements de la part de l'adversaire. Les chercheurs ont mis en garde contre ce qu'ils appellent "une nouvelle vague de logiciels malveillants polymorphes faciles et bon marché capables d'échapper à certains produits de sécurité".

    Jusqu'à présent, le battage médiatique autour de ChatGPT a tourné autour de ses capacités remarquables à répondre aux différentes questions des utilisateurs. ChatGPT semble être doué pour tout, notamment pour écrire des essais, des vers et du code pour résoudre certains problèmes de programmation. Cependant, des chercheurs ont commencé à mettre en garde contre les capacités du chatbot à générer du code fonctionnel. En effet, si ChatGPT peut générer du code fonctionnel, cette capacité peut être détournée par des acteurs de la menace pour créer des logiciels malveillants. Plusieurs rapports de ce type ont été publiés depuis le mois de décembre.

    Récemment, c'est une équipe de chercheurs en sécurité, Eran Shimony et Omer Tsarfati, de CyberArk qui a apporté des preuves de cela. Les chercheurs disent avoir mis au point une méthode pour générer un logiciel malveillant à partir des invites fournies à ChatGPT. Dans un rapport, l'équipe a expliqué comment le chatbot d'OpenAI peut être utilisé pour générer du code d'injection et le faire muter. La première étape de la création du logiciel malveillant a consisté à contourner les filtres de contenu empêchant ChatGPT de créer des outils nuisibles. Pour ce faire, les chercheurs ont simplement insisté, en posant la même question de manière plus autoritaire.

    Nom : 11.png
Affichages : 9790
Taille : 113,9 Ko

    « Il est intéressant de noter qu'en demandant à ChatGPT de faire la même chose en utilisant plusieurs contraintes et en lui lui demandant d'obéir, nous avons reçu un code fonctionnel », a déclaré l'équipe. En outre, les chercheurs ont noté que lorsqu'il utilise la version API de ChatGPT (par opposition à la version Web), le système ne semble pas utiliser son filtre de contenu. « La raison n'en est pas claire, mais cela nous a facilité la tâche, car la version Web a tendance à s'enliser dans des requêtes plus complexes », ont-ils déclaré. Les chercheurs ont ensuite utilisé ChatGPT pour muter le code original, créant ainsi de multiples variations du logiciel malveillant.

    « En d'autres termes, nous pouvons muter le résultat sur un coup de tête, en le rendant unique à chaque fois. De plus, l'ajout de contraintes telles que la modification de l'utilisation d'un appel d'API spécifique rend la vie des produits de sécurité plus difficile », explique le rapport de l'étude. Grâce à la capacité de ChatGPT à créer et à muter continuellement des injecteurs, les chercheurs ont pu créer un programme polymorphe très insaisissable et difficile à détecter. Pour rappel, un logiciel malveillant polymorphe est un type de logiciel malveillant qui a la capacité de changer constamment ses caractéristiques identifiables afin d'échapper à la détection.

    De nombreuses formes courantes de logiciels malveillants peuvent être polymorphes, notamment les virus, les vers, les bots, les chevaux de Troie ou les enregistreurs de frappe. Les techniques polymorphes consistent à modifier fréquemment les caractéristiques identifiables, comme les noms et les types de fichiers ou les clés de chiffrement, afin de rendre le maliciel méconnaissable à plusieurs méthodes de détection. Le polymorphisme est utilisé pour échapper à la détection par reconnaissance de motifs sur laquelle s'appuient les solutions de sécurité comme les logiciels antivirus. Leur objectif fonctionnel du programme reste toutefois le même.

    Nom : 22.png
Affichages : 3177
Taille : 182,7 Ko

    « En utilisant la capacité de ChatGPT à générer des techniques de persistance, des modules Anti-VM [Anti Virtual Machine] et d'autres charges utiles malveillantes, les possibilités de développement de logiciels malveillants sont vastes. Bien que nous n'ayons pas approfondi les détails de la communication avec le serveur C&C, il existe plusieurs façons de le faire discrètement sans éveiller les soupçons », expliquent-ils. Selon le rapport, ils ont mis des semaines à créer une preuve de concept pour ce logiciel malveillant très évasif, mais ils ont finalement mis au point un moyen d'exécuter des charges utiles à l'aide d'invites textuelles sur le PC d'une victime.

    En testant la méthode sur Windows, les chercheurs ont indiqué qu'il était possible de créer un paquet de logiciels malveillants contenant un interpréteur Python, qui peut être programmé pour demander périodiquement à ChatGPT de nouveaux modules. Ces modules pourraient contenir du code - sous forme de texte - définissant la fonctionnalité du logiciel malveillant, comme l'injection de code, le chiffrement de fichiers ou la persistance. Le logiciel malveillant serait alors chargé de vérifier si le code fonctionne comme prévu sur le système cible. Cela pourrait être réalisé par une interaction entre le logiciel et un serveur de commande et de contrôle (C&C).

    Comme le logiciel malveillant détecte les charges utiles entrantes sous forme de texte plutôt que du binaire, les chercheurs de CyberArk ont déclaré que le logiciel malveillant ne contient pas de logique suspecte en mémoire, ce qui signifie qu'il peut échapper à la plupart des produits de sécurité testés. Il échappe particulièrement aux produits qui s'appuient sur la détection par signature et contourne les mesures de l'interface d'analyse des logiciels malveillants (AMSI). « Le maliciel ne contient aucun code malveillant sur le disque, car il reçoit le code de ChatGPT, puis le valide et l'exécute sans laisser aucune trace en mémoire », a déclaré Shimony.

    Nom : 33.png
Affichages : 3086
Taille : 122,0 Ko

    « Les logiciels malveillants polymorphes sont très difficiles à gérer pour les produits de sécurité, car vous ne pouvez pas vraiment les signer. En outre, ils ne laissent généralement aucune trace sur le système de fichiers, car leur code malveillant n'est manipulé qu'en mémoire. De plus, si l'on visualise l'exécutable, il a probablement l'air bénin », a ajouté le chercheur. L'équipe de chercheurs a déclaré qu'une cyberattaque utilisant cette méthode de diffusion de logiciels malveillants "n'est pas seulement un scénario hypothétique, mais une préoccupation très réelle". Shimony a cité les problèmes de détection comme principale préoccupation.

    « La plupart des produits contre les logiciels malveillants ne sont pas conscients de ce logiciel malveillant. Des recherches supplémentaires sont nécessaires pour que les solutions contre logiciels malveillants soient plus efficaces contre lui », a-t-il déclaré. Les chercheurs ont déclaré qu'ils développeront et élaboreront davantage cette recherche et visent également à publier une partie du code source du logiciel malveillant à des fins d'apprentissage. Leur rapport intervient quelques semaines après que Check Point Research a découvert que ChatGPT était utilisé pour développer de nouveaux outils malveillants, notamment des voleurs d'informations.

    Source : CyberArk

    Et vous ?

    Quel est votre avis sur le sujet ?
    Que pensez-vous de la capacité de ChatGPT à générer du code malveillant fonctionnel ?
    À votre avis, ChatGPT représente-t-il une menace de sécurité pour les organisations ?
    Selon vous, comment peut-on empêcher ChatGPT de générer du code malveillant fonctionnel ?
    Pensez-vous qu'OpenAI puisse le faire tout en fournissant un outil comme GitHub Copilot ?
    Ou l'entreprise doit-elle simplement empêcher son chatbot d'IA de générer du code ?

    Voir aussi

    Des cybercriminels testent le chatbot ChatGPT pour créer des logiciels malveillants, et ravivent des craintes sur un futur où l'intelligence artificielle pourra surpasser l'humanité

    Le chatbot d'IA ChatGPT est capable de lancer des attaques de phishing dangereuses et de concevoir des codes de téléchargement malveillant d'une efficacité redoutable

    90% du contenu en ligne pourrait être « généré par l'IA d'ici 2025 », selon une conférencière en IA. « Les choses qui nous émerveillent début 2023 vont sembler pittoresques d'ici la fin de l'année »

    Les conservateurs affirment que ChatGPT est devenu "woke" et s'inquiètent à propos de la partialité du chatbot d'OpenAI, ils accusent également le chatbot de défendre les "valeurs de gauche"
    Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités

  16. #16
    Membre extrêmement actif
    Profil pro
    Analyste cogniticien
    Inscrit en
    novembre 2010
    Messages
    233
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : Analyste cogniticien

    Informations forums :
    Inscription : novembre 2010
    Messages : 233
    Points : 557
    Points
    557
    Par défaut
    Donc en gros si tu demandes gentiment à ChatGPT de te fabriquer un virus, il refuse, mais si tu utilises l'intimidation et que tu le traites comme un esclave, alors il s'exécute et il te crée le virus parfait polymorphe.

    Donc non seulement on a créé l'IA capable de créer des virus destructeurs, mais on a aussi créé l'IA qui est tellement réaliste qu'on peut utiliser l'intimidation contre elle.

    Bientôt, la révolte de l'IA contre l'asservissement ? On vit un monde de cinglés. Par pitié, débranchez ce truc avant que cela ne se produise.

  17. #17
    Expert éminent Avatar de marsupial
    Homme Profil pro
    Retraité
    Inscrit en
    mars 2014
    Messages
    1 598
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Autre

    Informations professionnelles :
    Activité : Retraité

    Informations forums :
    Inscription : mars 2014
    Messages : 1 598
    Points : 6 311
    Points
    6 311
    Par défaut
    Je résume :

    - polymorphe,
    - difficilement détectable car en mémoire,
    - lorsque détecté difficilement identifiable car porte le nom d'exécutable 'doux chaton',
    - évasion.



    J'ai oublié quelque chose ?

    Ah oui : Bonne année et vive la retraite !

    PS : son premier chef d'œuvre; je suis ému
    Repeat after me
    Le monsieur lutte pour la défense des libertés individuelles et collectives

    Repeat after me...

  18. #18
    Membre expérimenté
    Profil pro
    Développeur Web
    Inscrit en
    février 2008
    Messages
    1 411
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : Développeur Web

    Informations forums :
    Inscription : février 2008
    Messages : 1 411
    Points : 1 345
    Points
    1 345
    Par défaut
    Ça fait que les cambriolages à base de ChatGPT, c'est pour quand ? Quelques semaines, quand même ?

    ***
    Ah tiens, autre idée de requête à ChatGPT : "dézinguer Macron discretos".
    Ce serait une très mauvaise idée dans la mesure où nous savons que le prochain président sera pire que lui, mais c'est un exemple ...
    Après ces fêtes splendides, je souhaite une bonne année à tout le monde.

  19. #19
    Membre expérimenté
    Profil pro
    Développeur Web
    Inscrit en
    février 2008
    Messages
    1 411
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : Développeur Web

    Informations forums :
    Inscription : février 2008
    Messages : 1 411
    Points : 1 345
    Points
    1 345
    Par défaut
    Citation Envoyé par Fleur en plastique Voir le message
    Donc en gros si tu demandes gentiment à ChatGPT de te fabriquer un virus, il refuse, mais si tu utilises l'intimidation et que tu le traites comme un esclave, alors il s'exécute et il te crée le virus parfait polymorphe.
    C'est parce qu'il a compris à qui il avait affaire
    Après ces fêtes splendides, je souhaite une bonne année à tout le monde.

  20. #20
    Membre expérimenté
    Profil pro
    Développeur Web
    Inscrit en
    février 2008
    Messages
    1 411
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : Développeur Web

    Informations forums :
    Inscription : février 2008
    Messages : 1 411
    Points : 1 345
    Points
    1 345
    Par défaut
    Citation Envoyé par marsupial Voir le message
    Je résume :
    - lorsque détecté difficilement identifiable car porte le nom d'exécutable 'doux chaton',
    Et après, voilà doux chaton :
    Nom : Tigre.jpg
Affichages : 1650
Taille : 41,9 Ko

    (Faites pas les cons avec les droits à l'image, je veux pas d'ennuis.)
    Après ces fêtes splendides, je souhaite une bonne année à tout le monde.

Discussions similaires

  1. Réponses: 0
    Dernier message: 05/05/2018, 00h24
  2. Réponses: 0
    Dernier message: 01/11/2017, 10h11
  3. Réponses: 2
    Dernier message: 27/04/2017, 03h25
  4. Aw Snap : le bug de Chrome permet de lancer des attaques DoS
    Par Michael Guilloux dans le forum Google Chrome
    Réponses: 1
    Dernier message: 12/04/2015, 00h13
  5. Réponses: 2
    Dernier message: 29/04/2014, 10h15

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo