IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

ALM Discussion :

Utiliser l'Ia pour générer des applications métiers .. bonne méthode ou pas


Sujet :

ALM

  1. #1
    Invité
    Invité(e)
    Par défaut Utiliser l'Ia pour générer des applications métiers .. bonne méthode ou pas
    J'aimerais avoir votre avis sur une réflexion que j'ai de plus en plus en entreprise ... Dans chaque service, de plus en plus de personnes développement des petites applications métiers sur leurs postes de travail en utilisant l'IA de Chatgpt (avec les fameux Sites Chatgpt). Allant même, à partager ces applications avec des collègues. Je suis très respectueux du respect de la RGPD et de la sécurité des données dans l'entreprise, et ces minis développement (très facile pour les utilisateurs) m'inquietent sur le respect et la protection des données clients (je suis développeur web et responsable de projet multmédia depuis de nombreuses années, et RSSI prochainement).

    Voici mon projet (j'aimerais connaitre vos avis et retour d'expérience si possible) :
    J'ai créé sur un Nas, un déploiement de Docker. Celui-ci, me permet d'avoir développer 2 contenaires ou site : TEST et PROD.
    J'ai créé au premier niveau, un petit portail avec la gestion des profils des utilisateurs (qui seront utilisé dans chaque nouveau projet que les utilisateurs apporteront).

    L'idée principale de ce projet, et de cloisonner les utilisateurs qui vont développer leurs petites applications sur leur compte personnel (en mode anonymisé) et qu'ils m'enverront sur le nas, pour etre exécuté d'un coté TEST (sans données client) et après mis en production avec des données clients sur le serveur PROD (respectant ainsi la RPGD et les risques liés à l'IA, puisque ma version en PROD sera déconnecte des "sites Chatgpt"). Si un utilisateur veut faire une mise à jour sur son application, il pourra le faire, mais il devra me renvoyer les codes, par la version TEST, qui sera apres, mis à jour dans la PROD sans toucher aux données déja présent sur le portail.

    N'hésitez pas à me dire, si j'utilise la bonne méthode ou pas. C'est vrai que développer des applications avec l'IA et le laissé connecté m'inquiète quand j'entends l'actualités. Merci pour votre aide.

  2. #2
    Modérateur
    Avatar de Obsidian
    Homme Profil pro
    Chercheur d'emploi
    Inscrit en
    Septembre 2007
    Messages
    7 654
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 50
    Localisation : France, Essonne (Île de France)

    Informations professionnelles :
    Activité : Chercheur d'emploi
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Septembre 2007
    Messages : 7 654
    Par défaut
    Citation Envoyé par linfographNet Voir le message
    J'aimerais avoir votre avis sur une réflexion que j'ai de plus en plus en entreprise ... Dans chaque service, de plus en plus de personnes développement des petites applications métiers sur leurs postes de travail en utilisant l'IA de Chatgpt (avec les fameux Sites Chatgpt). Allant même, à partager ces applications avec des collègues. Je suis très respectueux du respect de la RGPD et de la sécurité des données dans l'entreprise, et ces minis développement (très facile pour les utilisateurs) m'inquietent sur le respect et la protection des données clients (je suis développeur web et responsable de projet multmédia depuis de nombreuses années, et RSSI prochainement).
    Là encore, on confirme ce que l'on vit et l'on observe depuis l'apparition de ChatGPT mais plus spécifiquement depuis un an environ : un cercle vicieux. Plus personne ne peut se permettre — économiquement — d'engager des programmeurs à cause de l'IA, ce qui pousse les utilisateurs eux-mêmes à utiliser l'IA pour pallier le besoin en logiciels toujours aussi présent mais que l'on permet plus aux gens du métier de combler.

    La vraie crainte dans cette situation est qu'il n'y a plus d'audit : des milliers de personnes lancent sans aucune vérification leurs petites applications vibecodées avec exaltation mais personne ne peut savoir si elle n'y a pas caché un « rm -rf » ou décidé d'aller, volontairement ou non, relayer des informations personnelles sur le réseau. Et personne ne va le faire non plus parce que non seulement la motivation n'est plus là, chez les amateurs, mais parce que la durée de vie de l'application ne le justifie plus non plus. Il est beaucoup plus simple de regénérer une nouvelle application vibecodée from scratch que de maintenir sur le long terme un premier jet pondu par une IA dont le modèle en vigueur à un instant t sera obsolète dans les mois qui suivent.

    L'autre grande difficulté de ce côté est que l'IA n'a aucun mal à produire du code de très grande envergure si on ne lui demande pas explicitement de ne pas le faire. Si on veut coder un simple formulaire en PHP pour recueillir l'avis des utilisateurs, par exemple, elle pourra tout-à-fait produire elle-même un container qui embarque un serveur Redis, des gigas de dépendances du simple fait de s'appuyer sur Node et qui aille poster le tout sur un Google Drive.

    Si maintenant il faut demander à un programmeur de relire des kilomètres de programme pondus automatiquement, alors autant lui demander de l'écrire lui-même, on pourra être raisonnablement confiant dans l'idée qu'il n'ira pas faire la même chose et qu'il gérera le cas avec sagesse sans avoir besoin de lui demander. Seulement, le marché s'arrête là.

    L'idée principale de ce projet, et de cloisonner les utilisateurs qui vont développer leurs petites applications sur leur compte personnel (en mode anonymisé) et qu'ils m'enverront sur le nas, pour etre exécuté d'un coté TEST (sans données client) et après mis en production avec des données clients sur le serveur PROD (respectant ainsi la RPGD et les risques liés à l'IA, puisque ma version en PROD sera déconnecte des "sites Chatgpt"). Si un utilisateur veut faire une mise à jour sur son application, il pourra le faire, mais il devra me renvoyer les codes, par la version TEST, qui sera apres, mis à jour dans la PROD sans toucher aux données déja présent sur le portail.

    N'hésitez pas à me dire, si j'utilise la bonne méthode ou pas. C'est vrai que développer des applications avec l'IA et le laissé connecté m'inquiète quand j'entends l'actualités. Merci pour votre aide.
    C'est toujours une bonne idée de cloisonner les choses expérimentales dans des sandboxes.

    Pour le reste, par contre, attention à ne pas faire l'erreur que tous les admins système font : décréter qu'ils sont les seuls en charge pour des raisons de sécurité, parce que tu vas très vite être submergé par les demandes utilisateur et, donc, tu ne les honoreras jamais. C'était déjà le cas sur le site, où l'on avait ouvert un système de tickets pour remonter les incidents (et où notre admin sys qui faisait déjà un très bon boulot avait du mal à suivre le flux en plus du reste), c'est encore pire lorsque l'admin est un BOFH. Ça peut se terminer en guerre ouverte avec les utilisateurs.

    L'idéal à mon avis est de configurer les postes des utilisateurs pour que leurs programmes s'y exécutent par défaut dans des sandboxes, et que tu définisses plusieurs paliers de liberté en configurant tes machines par défaut sur le plus restreint. Toutes les applications qui fonctionnent en l'état ne remonteront jamais jusqu'à toi et si jamais quelqu'un a besoin d'un peu plus de latitude, tu pourras rapidement estimer s'il s'agit d'un profil suffisamment expérimenté pour cela ou pas et, le cas échéant, lui accorder immédiatement le niveau suivant sans avoir à envisager des opérations techniques complexes ni avoir à auditer à la fois le personnage et l'application pour savoir s'ils restent dans les clous.

  3. #3
    Membre prolifique Avatar de Artemus24
    Homme Profil pro
    Agent secret au service du président Ulysses S. Grant !
    Inscrit en
    Février 2011
    Messages
    7 697
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Agent secret au service du président Ulysses S. Grant !
    Secteur : Finance

    Informations forums :
    Inscription : Février 2011
    Messages : 7 697
    Par défaut
    Salut à tous.

    Je suis surpris de constater que, dans votre entreprise, vous êtes autorisé à faire du développement personnel.
    En cas de problème grave, vous pourriez être sanctionné pour faute lourde.
    C'est une pratique qu'il convient d'interdire, car elle risque d'être source de problèmes et de conflits.
    N'oubliez pas que votre responsabilité peut être engagée si vous avez donné votre aval à l'un de vos subordonnés et que celui-ci commet une faute.

  4. #4
    Modérateur
    Avatar de Obsidian
    Homme Profil pro
    Chercheur d'emploi
    Inscrit en
    Septembre 2007
    Messages
    7 654
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 50
    Localisation : France, Essonne (Île de France)

    Informations professionnelles :
    Activité : Chercheur d'emploi
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Septembre 2007
    Messages : 7 654
    Par défaut
    Citation Envoyé par Artemus24 Voir le message
    C'est une pratique qu'il convient d'interdire, car elle risque d'être source de problèmes et de conflits.
    Une « pratique qu'il convient d'interdire » ! Carrément.
    À ce compte-là, il faut interdire la pratique des mathématiques, également.

    Non sincèrement, depuis le début des années 2000, c'est un combat permanent de résister à la tentation du « tout sécuritaire », justement parce que l'informatique attise les tendances totalitaires des gens qui ont ça en eux et qui ne le savent pas. Ensuite, écrire du logiciel en soi est non seulement vertueux mais ça se fait à différents niveaux également.

    On ne peut pas interdire décemment à un employé d'écrire un script Python s'il sait le faire, mais si on suivait cette logique jusqu'au bout, il faudrait également interdire les macros Excel.

    Non, justement, la sécurité ne passe pas par l'interdiction et encore moins par le secret (concept assez difficile à faire comprendre aux gens qui ne sont pas du métier lorsqu'il s'agit d'expliquer en quoi l'Open Source est une notion très importante). Elle se fait justement en concevant des systèmes qui vont dans le sens naturel de ce que les gens font et ont envie de faire, ne serait-ce que ça permet alors aux professionnels de la sécurité de se concentrer sur les quelques points restants qui sont vraiment dangereux.

    Si les gens d'un village ont besoin de traverser un pont pour se rendre dans le reste du monde, on ne va pas leur interdire au prétexte que c'est dangereux. On va au contraire réduire le risque au maximum en installant des barrières sur les côtés du pont.

  5. #5
    Nb
    Nb est déconnecté
    Membre éprouvé
    Profil pro
    Inscrit en
    Décembre 2003
    Messages
    183
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Décembre 2003
    Messages : 183
    Par défaut
    On ne peut pas interdire décemment à un employé d'écrire un script Python s'il sait le faire, mais si on suivait cette logique jusqu'au bout, il faudrait également interdire les macros Excel.
    La shadow it est effectivement vieille comme excel. Personne ne peut l empecher. En revanche s'assurer que tout le monde soit bien conscient que chacun est responsable de A à Z de ses bouses si elles ont ete fait hors-cadre ca aide. Au debut tout le monde s en cogne mais quand un pélo perd 3mois de boulot car son truc n'est dans aucun plan de sauvegarde (ce n est qu un exemple) la nouvelle se propage assez vite et les choses changent. Et là mon exemple n est pas grave, mais des fuites de donnees ou des failles de securité ca peut vite etre plus problematique que Jean-Pascal qui a perdu son appli vibe codée pour optimiser les congès en fonction des jours feriés.

    C est tellement problematique que je pense que beacoup de decideurs reflechissent plus à comment bloquer les accès aux ia qu à gerer les derives du vide coding.
    Tellement les gens font n importe quoi (je parle meme pas de vibe coder, juste les donnees qu ils envoient...ils font comme dans leur vie privée : ils balancent tout sans se soucier de rien) que je pense que les entreprises vo t devoir serieusement brider tout ca.

  6. #6
    Modérateur
    Avatar de Obsidian
    Homme Profil pro
    Chercheur d'emploi
    Inscrit en
    Septembre 2007
    Messages
    7 654
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 50
    Localisation : France, Essonne (Île de France)

    Informations professionnelles :
    Activité : Chercheur d'emploi
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Septembre 2007
    Messages : 7 654
    Par défaut
    Citation Envoyé par Nb Voir le message
    Et là mon exemple n est pas grave, mais des fuites de donnees ou des failles de securité ca peut vite etre plus problematique que Jean-Pascal qui a perdu son appli vibe codée pour optimiser les congès en foncrion des jours feriés.
    C'est tout-à-fait vrai et ça permet de souligner une fois de plus le phénomène nouveau qui est en train de se mettre en place. Jusqu'à présent, toute personne qui codait, que ce soit au travail ou sur ses loisirs, sans être explicitement engagé pour mener cette tâche le faisait à la fois parce qu'il en avait les compétences, le besoin et l'envie. Donc la régulation se faisait d'elle-même, y compris par le temps consacré à la réalisation du logiciel.

    Il y avait même aussi beaucoup de gens qui l'ont fait spécifiquement à travers les macros du pack Office et qui, sans avoir lancé un chantier d'envergure dès le départ, ont fini par construire brique par brique une application exhaustive, certains ayant même tenté de la vendre.

    Aujourd'hui, on se dirige à court terme vers une situation où il y aura réellement de moins en moins de professionnels du logiciel et où la moindre personne va être poussée à générer du slop pour tout et n'importe quoi. Effectivement, il faudra que ce soit bien encadré.

  7. #7
    Membre prolifique Avatar de Artemus24
    Homme Profil pro
    Agent secret au service du président Ulysses S. Grant !
    Inscrit en
    Février 2011
    Messages
    7 697
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Agent secret au service du président Ulysses S. Grant !
    Secteur : Finance

    Informations forums :
    Inscription : Février 2011
    Messages : 7 697
    Par défaut
    @ Obsidian : je ne comprends pas ta réaction. Je parlais de développement personnel en entreprise. Je parlais de se créer un outil pour se faciliter la vie alors que cela n'a jamais été demandé dans le cadre de ton activité professionnel. J'ai l'impression qu'aujourd'hui les entreprises sont bien plus tolérantes que jadis. Si j'étais surpris en train de naviguer sur le net durant mes heures d'activités alors que cela n'avait aucun rapport avec mon travail, je peux t'assurer que c'était de mon temps considéré comme une faute professionnel. Imagine que je me crée un outil pour naviguer dans les bases de données de l'entreprise ??? Là, c'est considéré comme de l'espionnage et c'est une faute lourde.

    Ou alors je n'ai pas compris le premier message et son pourquoi en tant que problème dans les activités d'une entreprise.

Discussions similaires

  1. Réponses: 1
    Dernier message: 11/12/2015, 16h00
  2. Réponses: 1
    Dernier message: 10/12/2015, 13h48
  3. Réponses: 3
    Dernier message: 11/12/2005, 17h08

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo