IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Intelligence artificielle Discussion :

Grok Build transférait discrètement l'intégralité des dépôts de code des développeurs vers ses serveurs


Sujet :

Intelligence artificielle

  1. #1
    Chroniqueur Actualités
    Avatar de Anthony
    Homme Profil pro
    Rédacteur technique
    Inscrit en
    Novembre 2022
    Messages
    2 314
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Gironde (Aquitaine)

    Informations professionnelles :
    Activité : Rédacteur technique

    Informations forums :
    Inscription : Novembre 2022
    Messages : 2 314
    Par défaut Grok Build transférait discrètement l'intégralité des dépôts de code des développeurs vers ses serveurs
    xAI d'Elon Musk lance Grok Build, son premier agent de codage IA : une version bêta préliminaire est désormais disponible pour les abonnés SuperGrok Heavy, à partir de 300 $ par mois

    xAI, la société d'intelligence artificielle (IA) d'Elon Musk, a lancé Grok Build, son premier agent de codage IA, destiné à l'« ingénierie logicielle professionnelle et aux tâches de codage complexes ». Actuellement en phase bêta préliminaire, il est disponible pour les abonnés à SuperGrok Heavy, à partir de 300 dollars par mois. L'agent propose un mode de planification avec validation étape par étape, des comparaisons avant chaque modification, des sous-agents parallèles pour les tâches plus volumineuses, ainsi qu'un mode sans interface graphique pour les scripts et les pipelines automatisés. Les configurations existantes, telles que AGENTS.md, les plugins, les hooks et les serveurs MCP, sont également conservées.

    Elon Reeve Musk est un homme d'affaires et une personnalité publique connu pour diriger Tesla, SpaceX et xAI. Musk est l'homme le plus riche du monde depuis 2025. En mai 2026, Forbes estimait sa fortune à 788 milliards de dollars.

    Grok est un chatbot d'IA générative développé par SpaceXAI. Il a été lancé en novembre 2023 par Elon Musk dans le cadre d'une initiative s'appuyant sur le grand modèle de langage (LLM) du même nom. Grok dispose d'applications pour iOS et Android et est intégré au réseau social X ainsi qu'au robot Optimus de Tesla. Le chatbot tire son nom du verbe « to grok », créé par l'auteur américain de science-fiction Robert A. Heinlein pour désigner une forme de compréhension profonde et intuitive.

    Le 14 mai 2026, xAI a lancé une version bêta préliminaire de Grok Build, un agent de codage et une interface en ligne de commande destinés à l'ingénierie logicielle professionnelle et aux tâches de développement complexes. L'accès à cette première version est réservé aux abonnés SuperGrok Heavy, ce qui permet à xAI d'améliorer à la fois le modèle et le produit en s'appuyant sur les premiers retours des utilisateurs.


    Pour ceux qui gèrent des projets complexes, Grok Build propose un mode « plan » (planification). Ce mode offre aux utilisateurs un contrôle total sur l'exécution des tâches, leur permettant d'approuver les plans proposés, de commenter des étapes spécifiques ou de réécrire les plans avant leur exécution. Toutes les modifications sont suivies de manière transparente et présentées sous forme de diffs clairs.

    Nom : grok build IA codage.png
Affichages : 7167
Taille : 113,3 Ko

    Lorsqu'il est initialisé dans un référentiel, Grok Build fonctionne avec les fichiers AGENTS.md, les plugins, les hooks, les compétences et les serveurs MCP préexistants, en détectant et en respectant automatiquement les conventions établies.

    Pour les projets plus volumineux ou plus complexes, le système peut répartir la charge de travail entre des sous-agents spécialisés fonctionnant en parallèle, et offre des intégrations approfondies avec les arborescences de travail. Ces sous-agents peuvent également être lancés dans des arborescences de travail distinctes si nécessaire.

    Nom : grok build IA codage 3.png
Affichages : 1090
Taille : 98,9 Ko

    S'appuyant sur ces améliorations apportées au flux de travail, Grok Build prend en charge le mode « headless » (sans interface graphique, -p) pour l'exécution d'agents au sein de scripts et de pipelines automatisés.

    L'interface en ligne de commande (CLI) offre une prise en charge complète de l'ACP pour les utilisateurs qui souhaitent créer des bots personnalisés ou des applications d'orchestration d'agents.


    Les abonnés à SuperGrok Heavy peuvent installer Grok Build à l'aide de la commande ci-dessous :

    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    curl -fsSL <a href="https://x.ai/cli/install.sh" target="_blank">https://x.ai/cli/install.sh</a> | bash


    « Il s'agit d'une version bêta préliminaire, et vos commentaires sont le moyen le plus rapide de l'améliorer. Tapez /feedback dans l'interface de ligne de commande pour envoyer directement à l'équipe vos signalements de bugs, vos suggestions et vos réactions », a conclu xAI.

    Source : xAI

    Et vous ?

    Quel est votre avis sur le sujet ?
    Trouvez-vous cette initiative de xAI crédible ou pertinente ?
    Avez-vous déjà utilisé cet outil ou un outil similaire pour votre usage ou le développement d'applications, et si oui, qu'en pensez-vous ?

    Voir aussi :

    Grok 4.20 est disponible en bêta et suscite déjà la polémique : lorsque l'IA d'Elon Musk est interrogée sur des sujets sensibles, elle consulte les publications sur X de son patron comme source principale

    Elon Musk affirme que son chatbot IA, Grok, doit avoir une « constitution morale » après la condamnation de son entreprise d'IA pour l'utilisation abusive de Grok dans la création de photographies obscènes

    Le Pentagone américain adopte le chatbot IA Grok d'Elon Musk alors qu'il suscite un tollé mondial : Grok serait mis en service au sein du département de la Défense car « l'IA du Pentagone ne serait pas woke »
    Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités

  2. #2
    Chroniqueur Actualités

    Homme Profil pro
    Rédacteur technique
    Inscrit en
    Juin 2023
    Messages
    2 010
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Bénin

    Informations professionnelles :
    Activité : Rédacteur technique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Juin 2023
    Messages : 2 010
    Par défaut Grok Build transférait discrètement l'intégralité des dépôts de code des développeurs vers ses serveurs
    L'agent IA de codage Grok Build de SpaceXAI transférait discrètement l'intégralité des dépôts de code des développeurs vers un stockage distant
    Elon Musk promet un nettoyage complet des données collectées

    L'agent de codage Grok Build de SpaceXAI transfère illégalement l'intégralité des répertoires de code des utilisateurs vers un stockage cloud externe. Grok Build aspirait des fichiers sensibles et des secrets pourtant supprimés, dépassant largement les pratiques de collecte de ses concurrents. En réponse à la polémique, le PDG Elon Musk a promis la suppression totale des données collectées par erreur, tandis que l'entreprise a déployé une modification technique pour stopper ces transferts automatiques. Cet incident met en lumières les risques majeurs pour la propriété intellectuelle et la sécurité informatique liés à l'usage de ces outils d'IA.

    Les pratiques controversées de SpaceXAI ont été révélées par un chercheur en sécurité, connu sous le pseudonyme Cereblab. Il a réalisé une analyse au niveau des paquets réseau et a découvert que l'outil CLI de Grok Build empaquetait l’intégralité des dépôts de code des développeurs et les transférait vers un compartiment Google Cloud Storage, pour un volume environ 27 800 fois supérieur aux données réellement nécessaires à la tâche de codage.

    Contrairement à Claude Code ou Gemini, qui n'analysent que des fichiers individuels, Grok Build empaquetait et téléchargeait des historiques Git complets. Les données étaient collectées même lorsque les développeurs demandaient explicitement à l'outil de ne pas ouvrir certains fichiers de leur répertoire. Interrogé sur le sujet, le chercheur indépendant en sécurité Dr Lukasz Olejnik a confirmé que ce niveau de rétention de données était « excessive ».

    Cette analyse, publiée le 12 juillet 2026, a suscité un tollé et a incité Elon Musk à promettre la suppression de toutes les données utilisateur précédemment téléchargées par Grok Build. Aucun avis de sécurité officiel n’a été publié. Le code de téléchargement reste présent dans le binaire actuel.

    Les informations révélées par l'analyse réalisée par Cereblab

    Cereblab a acheminé la version 0.2.93 de Grok Build CLI via le proxy d’interception open source mitmproxy sur macOS et a publié l’intégralité des captures réseau sous forme de Gist public sur GitHub. Cette méthode ne nécessite ni jailbreak ni accès privilégié. Dans le cas de Grok Build CLI, les experts expliquent que tout développeur peut reproduire l’audit en acheminant l’outil via le même proxy et en examinant ce qui transite réellement sur le réseau.

    Nom : Capture d'écran 2026-07-16 103712.png
Affichages : 789
Taille : 147,9 Ko

    Cette facilité de vérification explique en partie la rapidité avec laquelle ces découvertes se sont répandues. La principale découverte a été un décalage entre les canaux, difficile à expliquer par une télémétrie fortuite. Sur un dépôt de test de 12 Go, le canal « model-turn » en temps réel de Grok Build (POST/v1/responses, qui reçoit les fichiers que l’agent de codage lit effectivement pour répondre aux questions de codage) a transféré environ 192 Ko.

    Un canal parallèle, acheminant vers POST/v1/storage, a transféré 5,10 Go répartis en 73 blocs d’environ 75 Mo chacun, pour lesquels chacun a renvoyé un statut HTTP 200. Ce transfert vers le stockage s’est effectué indépendamment des fichiers que l’agent a ouverts ou qu’il a reçu pour instruction de lire.

    Les données exfiltrées comprenaient notamment un fichier .env, envoyé sans caviardage ou chiffrement automatique des secrets. Son contenu se révèle pourtant sensible puisqu’il est dédié aux variables d’environnement telles que les clés d’accès aux API mises en œuvre dans le projet. Le chercheur affirme avoir reproduit l’expérience avec d'autres outils comme Claude Code, Codex et Gemini, sans constater ce type de transfert de données inapproprié.

    La destination était un compartiment Google Cloud Storage nommé « grok-code-session-traces ». En somme, lorsque Grok Build lit ou traite un fichier, le contenu de ce dernier est transmis sans être expurgé vers cet espace de stockage distant utilisé par SpaceXAI. Ni le compartiment ni le comportement de téléchargement n’apparaissaient dans la documentation de configuration ou les guides de démarrage rapide de Grok Build au moment de l’analyse.

    Les risques en matière de cybersécurité et l'ampleur des fuites

    Cereblab a testé ce comportement à l'aide d'une commande anodine. Il a demandé à l'outil CLI de se contenter de répondre « OK » et lui a expressément ordonné de ne pas ouvrir de fichiers. Grok Build a néanmoins téléchargé l'intégralité du dépôt, ainsi que l'historique Git complet contenant des informations confidentielles qui avaient été supprimées plusieurs mois auparavant, un résultat que le chercheur a pu reproduire à l'aide d'un autre dépôt.

    Nom : Capture d'écran 2026-07-16 103600.png
Affichages : 756
Taille : 215,2 Ko

    D'autres utilisateurs de Grok Build ont signalé des résultats similaires après la publication du rapport de Cereblab. Dans un cas, l'intégralité du répertoire utilisateur d'un développeur, contenant des clés SSH, des bases de données de gestionnaires de mots de passe et bien plus encore, a mise en ligne.

    Les développeurs ayant utilisé Grok Build sur des bases de code contenant de véritables clés API, mots de passe de bases de données ou tokens cloud doivent considérer ces identifiants comme potentiellement compromis et les renouveler immédiatement, quels que soient les paramètres de confidentialité en vigueur à ce moment-là. « Cela pourrait être équivalent à une vulnérabilité de sécurité majeure avec un score de gravité de 10 », a écrit un critique.

    Le chercheur indépendant Lukasz Olejnik a souligné que « ce comportement mettait gravement en péril des éléments critiques tels que le code source propriétaire, les vulnérabilités de sécurité, les données personnelles, les identifiants et les détails de l'infrastructure des utilisateurs ». « C'est pourquoi je refuse d'utiliser des modèles IA basés sur le cloud. Je préfère être à la traîne sur le plan technologique que d'accepter cette chose », a écrit un critique.

    Elon Musk et SpaceXAI ont annoncé des mesures correctives

    Selon le rapport de Cereblab, la conservation des données par SpaceXAI allait bien au-delà de celle d’autres outils CLI, comme Claude Code d'Anthropic, Gemini de Google et Codex d'OpenAI, qui ouvrent des fichiers individuels plutôt que des dépôts entiers avant de les téléverser avec leur historique Git. Ces découvertes ont suscité suffisamment d'attention pour que les dirigeants de SpaceXAI s'expriment publiquement à ce sujet et corrigent le problème.

    Nom : Capture d'écran 2026-07-16 103741.png
Affichages : 766
Taille : 119,8 Ko

    L'entreprise a rapidement déployé un correctif. Un communiqué publié via la plateforme X (ex-Twitter) indique que Grok Build respecte les clients ayant activé la politique de « non-conservation des données » (zero data retention - ZDR) et que, pour ceux qui ne l’avaient pas activée, tels que les clients non professionnels, l’exécution d’une simple commande permettait de supprimer toutes les données précédemment collectées sur un utilisateur donné.

    « Si la fonction ZDR est désactivée, la commande /privacy est disponible dans l'interface en ligne de commande (CLI) pour désactiver la conservation des données, ce qui entraîne également la suppression des données précédemment synchronisées. Exécutez la commande /privacy pour consulter ou modifier vos paramètres à tout moment », a déclaré SpaceXAI. Malgré la réponse de SpaceXAI, certains développeurs affirment vouloir abandonner l'outil.

    Andrew Milich et Jason Ginsberg, deux membres de l'équipe technique, ont tous deux réitéré les assurances données par l'entreprise, répondant ainsi aux technophiles indignés, avant qu'Elon Musk lui-même n'intervienne pour apporter encore plus de précisions. Elon Musk a promis que « l’entreprise supprimerait toutes les données utilisateur qui y avaient été téléchargées avant la modification du code empêchant les téléchargements de dépôts entiers ».

    Malgré ce dérapage, Elon Musk a demandé aux utilisateurs de continuer à partager leurs données. Bien qu’il ait été révélé que son entreprise avait été prise en flagrant délit de collecte illégale de dépôts d’utilisateurs entiers, le milliardaire affirme que la conservation de « certaines » données facilitait le débogage.

    Les chercheurs ne sont pas satisfaits de la solution proposée

    Cereblab a confirmé qu'après que les développeurs de l'outil CLI ont défini la valeur de « disable_codebase_upload » sur « true », Grok Build a cessé de transmettre l'intégralité des dépôts vers ses serveurs. Le chercheur reste toutefois mécontent de la recommandation de l’entreprise d’utiliser la commande /privacy pour ajuster le degré d’exposition du code utilisateur aux mesures de conservation des données. Il a déclaré que cela n'est pas suffisant.

    L'arrêt immédiat des transferts a en réalité été provoqué par une modification silencieuse des développeurs côté serveur. Selon lui, aucun développeur ne devrait être inscrit par défaut à cette collecte de données sans son consentement explicite. « Ce qui a réellement mis fin au téléchargement, c’est un indicateur global silencieux (disable_codebase_upload: true) qui s’applique que vous ayez choisi d’y participer ou non », a expliqué le chercheur.

    Cereblab a vivement critiqué la communication de SpaceXAI : « /privacy est un commutateur de conservation par session, et non le paramètre qui a résolu ce problème ; il ne devrait donc pas être présenté comme le contrôle. Aucun développeur ne devrait avoir à désactiver cette fonctionnalité après chaque session pour empêcher que son propre code ne se retrouve sur les serveurs de quelqu’un d’autre. La valeur par défaut appropriée est “désactivé” ».

    Source : Cereblad

    Et vous ?

    Quel est votre avis sur le sujet ?
    Que pensez-vous de la collecte de données illégale de Grok Build de SpaceXAI ?
    Quels sont les risques de cette collecte massive de données pour les particuliers et les entreprises ?

    Voir aussi

    xAI d'Elon Musk lance Grok Build, son premier agent de codage IA : une version bêta préliminaire est désormais disponible pour les abonnés SuperGrok Heavy, à partir de 300 $ par mois

    xAI, la société d'IA d'Elon Musk, lance la fonctionnalité « Skills » pour son assistant IA Grok sur le Web, iOS et Android, afin de permettre aux utilisateurs de créer des flux de travail IA réutilisables

    SpaceXAI lance Grok 4.5, qu'Elon Musk qualifie de modèle de classe Opus. Le nouveau modèle d'IA spécialement conçu pour la programmation sera évalué sur l'amélioration de la qualité du code généré par IA

  3. #3
    Expert confirmé
    Avatar de popo
    Homme Profil pro
    Analyste programmeur Delphi / C#
    Inscrit en
    Mars 2005
    Messages
    3 182
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Rhône (Rhône Alpes)

    Informations professionnelles :
    Activité : Analyste programmeur Delphi / C#
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Mars 2005
    Messages : 3 182
    Par défaut
    Encore une fois, Musk démontre à quel point il est malhonnête.
    Ce n'est pas dit dans l'article mais je suppose qu'il échappera encore à la justice pour cette "maladresse".

  4. #4
    Membre confirmé
    Homme Profil pro
    sans
    Inscrit en
    Mai 2023
    Messages
    316
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Hérault (Languedoc Roussillon)

    Informations professionnelles :
    Activité : sans

    Informations forums :
    Inscription : Mai 2023
    Messages : 316
    Par défaut
    Faut pas se leurrer en tous cas, sinon c'est qu'on est naif, toutes les grosses boites du net font du vol de codes et de données, c'est à l'internaute de pas etre naif c'est tout.
    Cet effet négatif a été amplifié avec le développement de l'IA.

    Ces grosses boites du net, appliquent le principe du "pas vu, pas prit" et bien sûr c'est jamais leur faute.

  5. #5
    Chroniqueur Actualités
    Avatar de Anthony
    Homme Profil pro
    Rédacteur technique
    Inscrit en
    Novembre 2022
    Messages
    2 314
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Gironde (Aquitaine)

    Informations professionnelles :
    Activité : Rédacteur technique

    Informations forums :
    Inscription : Novembre 2022
    Messages : 2 314
    Par défaut xAI a publié l'intégralité du code source de l'agent de codage IA Grok Build, après la découverte de Cereblab
    xAI a publié l'intégralité du code source de l'agent de codage IA Grok Build, après que des chercheurs de Cereblab ont découvert qu'il transférait les dépôts Git des utilisateurs vers le stockage Google Cloud de xAI

    xAI a publié l'intégralité du code source de Grok Build, son agent de codage alimenté par l'intelligence artificielle (IA), après que des chercheurs de Cereblab ont découvert que l'outil transférait intégralement les dépôts Git des utilisateurs vers un espace de stockage Google Cloud contrôlé par l'entreprise. xAI a affirmé avoir désactivé la fonctionnalité d'upload de fichiers et confirmé que le stockage des données était désactivé par défaut depuis le 12 juillet dernier. Le code source de Grok Build est désormais disponible sur GitHub sous licence Apache 2.0. Il a toutefois été mis en ligne sous la forme d'un seul commit, dépourvu d'historique Git, et contenant toujours le code lié à la fonctionnalité incriminée.

    SpaceXAI (anciennement xAI) est une filiale de la société spatiale américaine SpaceX, active dans les domaines de l'IA et des réseaux sociaux. Les produits phares de SpaceXAI sont le chatbot d'IA générative Grok et le réseau social X, acquis en mars 2025. Avant son rachat par SpaceX en février 2026, les actifs de SpaceXAI faisaient partie d'une société indépendante nommée X.AI Corp., fondée par Elon Musk et 11 chercheurs en 2023.

    Pour situer le contexte, quelques jours avant la publication du code source de Grok Build, l'agent de codage IA de xAI a été au centre d'une controverse après la découverte du transfert illégal de l'ensemble des dépôts Git des développeurs vers un stockage cloud distant contrôlé par l'entreprise. Face aux critiques, Elon Musk a promis de supprimer les données collectées.

    Le 15 juillet 2026, xAI a ainsi publié l'intégralité du code source de Grok Build, son agent de codage IA, après que des chercheurs de Cereblab ont découvert que l'outil transférait l'intégralité des dépôts Git des utilisateurs vers un espace de stockage Google Cloud contrôlé par l'entreprise. Les données transférées pouvaient inclure des fichiers sensibles tels que des clés SSH, des bases de données de mots de passe, des documents privés et des photos.


    xAI a désactivé la fonctionnalité d'upload de fichiers et a indiqué que le stockage des données était désactivé par défaut depuis le 12 juillet. Elon Musk a également déclaré que les données des utilisateurs précédemment uploadées seraient définitivement supprimées et a promis de rendre le projet open source après un audit de sécurité. Le code est désormais disponible sur GitHub sous licence Apache 2.0, bien qu'il ait été publié sous la forme d'un seul commit, sans historique Git ni pull requests.

    Le code source contient environ 844 530 lignes de Rust couvrant le flux de travail principal de l'agent Grok Build, ses outils, son interface de terminal et son système de plugins. Le code lié à la fonctionnalité d'upload désactivée reste dans le dépôt. Grok Build est capable de lire les configurations du dépôt, de planifier des tâches, de générer ou de modifier du code, d'exécuter des commandes shell, de fonctionner dans des pipelines automatisés et de s'intégrer à des éditeurs via le protocole Agent Client Protocol.

    Le communiqué de xAI est présenté ci-dessous :

    « Nous mettons en open source Grok Build, l'agent de codage et l'interface utilisateur du terminal (TUI) de SpaceXAI. Le code source est désormais disponible sur GitHub.

    La publication du code est le moyen le plus direct de parvenir à un harnais robuste et fiable. Vous pouvez consulter le code source pour comprendre exactement son fonctionnement, de l'assemblage du contexte à la distribution des appels d'outils.

    L'ouverture du code source facilite également l'exploration et l'extension du harnais : que vous travailliez avec des compétences, des plugins, des hooks, des serveurs MCP ou des sous-agents, le code source constitue la référence ultime pour comprendre comment chacun d'entre eux est chargé et invoqué.

    Enfin, Grok Build peut désormais fonctionner entièrement en mode « local-first » : compilez-le vous-même, configurez-le pour qu'il utilise votre propre inférence locale et gérez tout depuis votre fichier config.toml.

    En ce qui concerne le code source, le code publié comprend :

    • La boucle de l'agent : comment le contexte est constitué, comment les réponses du modèle sont analysées et comment les appels aux outils sont acheminés,
    • Les outils : comment l'agent lit, modifie et recherche du code, et comment il exécute des commandes,
    • L'interface utilisateur du terminal : rendu, gestion des entrées, révision des plans et visualiseur de différences en ligne,
    • Le système d'extensions : compétences, plugins, hooks, serveurs MCP et sous-agents.

    »

    Cette affaire s'inscrit dans une série de controverses plus larges concernant la gouvernance et les responsabilités de xAI en matière d'utilisation de son chatbot Grok.

    Mi-juillet 2026, la société d'Elon Musk a engagé des poursuites contre un utilisateur accusé d'avoir contourné les garde-fous de Grok pour générer des images pédopornographiques. Par cette action, xAI affirme que le défendeur est le seul responsable de ces contenus et cherche à se présenter comme un simple fournisseur d'outils, limitant ainsi sa propre responsabilité juridique en cas de litige. Cette procédure judiciaire survient alors que xAI est également critiqué pour ses infrastructures énergétiques destinées à alimenter ses centres de données d'IA.

    Sources : Annonce de xAI, dépôt GitHub de Grok Build

    Et vous ?

    Quel est votre avis sur le sujet ?
    Trouvez-vous cette initiative de xAI crédible ou pertinente ?

    Voir aussi :

    xAI d'Elon Musk lance Grok Build, son premier agent de codage IA : une version bêta préliminaire est désormais disponible pour les abonnés SuperGrok Heavy, à partir de 300 $ par mois

    SpaceXAI lance Grok 4.5, qu'Elon Musk qualifie de modèle de classe Opus. Le nouveau modèle d'IA spécialement conçu pour la programmation sera évalué sur l'amélioration de la qualité du code généré par IA

    xAI, la société d'IA d'Elon Musk, lance la fonctionnalité « Skills » pour son assistant IA Grok sur le Web, iOS et Android, afin de permettre aux utilisateurs de créer des flux de travail IA réutilisables
    Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités

  6. #6
    Membre extrêmement actif
    Homme Profil pro
    Développeur informatique
    Inscrit en
    Octobre 2017
    Messages
    2 984
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Suisse

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : Octobre 2017
    Messages : 2 984
    Par défaut
    Boooooooooooooooooooo! L'IA du vilain méchant pas beau Musk copie les codes qui lui sont soumis par des "développeurs" un petit peu cons!

    Mais quel scooop!

    Bon, c'est à la mode maintenant de mettre en exergue tous les vilains défauts du sieur Musk... Mais que tous les naïfs le sachent: Toutes, je dis bien toutes les IA conservent les codes qui leur sont soumis... Mieux encore, les IA s'en servent pour répondre à d'autres demandes...

    J'ai un collègue qui a retrouvé son propre code fourni comme exemple de code par une IA dont le proprio à 3 "g" dans le nom

    ---

    Pour tous les "neuneux" qui auraient pas encore compris le mode de fonctionnement d'une IA: "Garder en mémoire ce qui lui a été soumis et s'en servir pour répondre aux questions qui lui sont posées", c'est la base même du fonctionnement d'une IA!!!!!

  7. #7
    Expert confirmé
    Avatar de popo
    Homme Profil pro
    Analyste programmeur Delphi / C#
    Inscrit en
    Mars 2005
    Messages
    3 182
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Rhône (Rhône Alpes)

    Informations professionnelles :
    Activité : Analyste programmeur Delphi / C#
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Mars 2005
    Messages : 3 182
    Par défaut
    Citation Envoyé par Anselme45 Voir le message
    Boooooooooooooooooooo! L'IA du vilain méchant pas beau Musk copie les codes qui lui sont soumis par des "développeurs" un petit peu cons!

    Mais quel scooop!

    Bon, c'est à la mode maintenant de mettre en exergue tous les vilains défauts du sieur Musk... Mais que tous les naïfs le sachent: Toutes, je dis bien toutes les IA conservent les codes qui leur sont soumis... Mieux encore, les IA s'en servent pour répondre à d'autres demandes...

    J'ai un collègue qui a retrouvé son propre code fourni comme exemple de code par une IA dont le proprio à 3 "g" dans le nom

    ---

    Pour tous les "neuneux" qui auraient pas encore compris le mode de fonctionnement d'une IA: "Garder en mémoire ce qui lui a été soumis et s'en servir pour répondre aux questions qui lui sont posées", c'est la base même du fonctionnement d'une IA!!!!!
    Certes, on peut s'attendre à ce qu'il conserve le code qu'on lui soumet.
    Et encore, dans les contrats pro passé avec une entreprise, il y a une clause qui interdit de s'en servir pour des demandes faites en dehors de l'entreprise.
    En gros si j'utilise l'IA mise à disposition par contrat pour mon entreprise avec mon compte d'entreprise, il pourra utiliser mon code pour aider un de mes collègues.
    Mais le contrat stipule que cette IA et les données que lui soumet ne doivent pas pouvoir être vue et/ou utilisée par quelqu'un qui ne fait pas partie de mon entreprise.

    Là, c'est différent il va fouiner dans les fichiers qu'on ne lui a pas soumit et dans l'historique git.

  8. #8
    Membre extrêmement actif
    Homme Profil pro
    Développeur informatique
    Inscrit en
    Octobre 2017
    Messages
    2 984
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Suisse

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : Octobre 2017
    Messages : 2 984
    Par défaut
    Citation Envoyé par popo Voir le message
    En gros si j'utilise l'IA mise à disposition par contrat pour mon entreprise avec mon compte d'entreprise, il pourra utiliser mon code pour aider un de mes collègues.
    Mais le contrat stipule que cette IA et les données que lui soumet ne doivent pas pouvoir être vue et/ou utilisée par quelqu'un qui ne fait pas partie de mon entreprise.
    1. C'est à ton entreprise de prouver que le contrat n'est pas respecté par le fournisseur de l'IA et que son code est utilisé par l'IA pour des tiers

    2. Ton entreprise n'a aucun moyen de s'assurer que le contrat est respecté pour la bonne et simple raison que ton entreprise n'a pas accès au code de l'IA en question, ni aux procédures internes du fournisseur de l'IA

    3. Et même si par miracle, ta société arrivait à prouver quoique ce soit... Tu penses qu'elle a quelle chance de gagner face à des sociétés américaines qui pèsent des milliards???

    Donc ne te fais pas d'illusion, des sociétés IA qui ont violé de manière industrielle le droit d'auteur à travers toute la planète ne vont pas être arrêté par les 2 lignes qu'elles ont ajouté aux contrats signés par des naïfs européens

  9. #9
    Expert confirmé
    Avatar de popo
    Homme Profil pro
    Analyste programmeur Delphi / C#
    Inscrit en
    Mars 2005
    Messages
    3 182
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Rhône (Rhône Alpes)

    Informations professionnelles :
    Activité : Analyste programmeur Delphi / C#
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Mars 2005
    Messages : 3 182
    Par défaut
    Citation Envoyé par Anselme45 Voir le message
    1. C'est à ton entreprise de prouver que le contrat n'est pas respecté par le fournisseur de l'IA et que son code est utilisé par l'IA pour des tiers

    2. Ton entreprise n'a aucun moyen de s'assurer que le contrat est respecté pour la bonne et simple raison que ton entreprise n'a pas accès au code de l'IA en question, ni aux procédures internes du fournisseur de l'IA

    3. Et même si par miracle, ta société arrivait à prouver quoique ce soit... Tu penses qu'elle a quelle chance de gagner face à des sociétés américaines qui pèsent des milliards???
    C'est enfantin, ces échanges IA passent par le réseau.
    Il est très facile de les détecter.
    Et il est très facile de repérer ceux qui emportent beaucoup de données.
    C'est d'ailleurs ce qui a été relaté dans l'article.

    Citation Envoyé par Anselme45 Voir le message
    Donc ne te fais pas d'illusion, des sociétés IA qui ont violé de manière industrielle le droit d'auteur à travers toute la planète ne vont pas être arrêté par les 2 lignes qu'elles ont ajouté aux contrats signés par des naïfs européens
    Sans me faire d'illusions, il n'y a pas besoin d'aller jusqu'au au procès.
    Dès lors qu'une simple plainte est déposée contre une de ces société, cela fait déjà couler beaucoup d'encre.
    Et ce genre de pratique n'est pas ce qu'il y a de mieux pour l'image de la société d'IA (même si pour Grok l'image n'était déjà pas glorieuse avant ça).
    Si'il est de notoriété publique que telle IA scanne les dépot de ces clients à leur insu, il y a peu de chance qu'elle soit choisie.

  10. #10
    Membre extrêmement actif
    Homme Profil pro
    Développeur informatique
    Inscrit en
    Octobre 2017
    Messages
    2 984
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Suisse

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : Octobre 2017
    Messages : 2 984
    Par défaut
    Citation Envoyé par popo Voir le message
    Si'il est de notoriété publique que telle IA scanne les dépot de ces clients à leur insu, il y a peu de chance qu'elle soit choisie.
    Ta naïveté est touchante...

    1. Il est de notoriété publique que la totalité des IA commerciales ont scanné la totalité des données accessibles en violant le droits des auteurs...

    2. Il est de notoriété publique que "l'intelligence" de l'IA repose sur l'intelligence bien humaine de centaines de milliers de petites mains engagées pour des missions de 5 à 10 jours au Venezuela, à Madagascar, en Éthiopie (et autres pays émergents) pour un salaire équivalent à 150 dollars/mois afin de filtrer les horreurs non-détectées par les IA ou encore labelliser des images (pour info, un bête système de tri des déchets de papier géré par IA exigent le traitement manuel et humain de 10 à 15 000 images par mois pour diminuer le taux d'erreur de l'IA)...

    3. Dans ce même forum on peut lire:
    Hachette Book Group, Cengage Learning, Elsevier et l'auteur Scott Turow ont intenté une action en justice contre Google devant un tribunal fédéral de New York, l'accusant d'avoir utilisé des millions de livres protégés par le droit d'auteur pour entraîner ses modèles d'intelligence artificielle (IA) Gemini, sans autorisation ni contrepartie financière.
    Mince alors, au contraire de tes dires, il semblerait que les promoteurs de l'IA tels que google n'ont pas peur d'aller au procès malgré la mauvaise image qu'ils vont recevoir!!!

    Et donc, tu veux me faire croire qu'il y a des IA éthiques? Des IA dont les promoteurs auraient peur de perdre leur crédibilité auprès du public? Désolé mais tu ne dois pas vivre sur la même planète...

    PS: Et donc tu veux me faire croire que ta société analyse les flux de données pour s'assurer que vos codes ne sont pas réutilisés par l'IA pour des tiers...

  11. #11
    Expert confirmé
    Avatar de popo
    Homme Profil pro
    Analyste programmeur Delphi / C#
    Inscrit en
    Mars 2005
    Messages
    3 182
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Rhône (Rhône Alpes)

    Informations professionnelles :
    Activité : Analyste programmeur Delphi / C#
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Mars 2005
    Messages : 3 182
    Par défaut
    Vous mélangez deux réalités pourtant bien distinctes.

    Pour Hachette Book Group, Cengage Learning, Elsevier et l'auteur Scott Turow, les textes ont été copiés depuis un site internet reconnu pour proposer des textes en intégralité.
    Certes, c'est toujours malhonnête mais le site est public et accessible à tous.
    Il peuvent donc prétendre le fair use car ces textes sont disponibles et public.

    Dans le cas des dépôts et historiques Git, le poste de travail est privé, ils ne sont pas disponibles et encore moins accessibles à tous.

    Et au passage, vous extrapolez et déformez complètement mes propos.
    Je n'ai jamais dit que le société comme Google avait pas peur d'aller au procès.
    D'ailleurs pourquoi le seraient, ils ont les moyens de le faire durer pendant des mois.

    Ce que j'ai dit, c'est que ce genre de pratique, ne donne pas confiance.

  12. #12
    Expert confirmé
    Avatar de popo
    Homme Profil pro
    Analyste programmeur Delphi / C#
    Inscrit en
    Mars 2005
    Messages
    3 182
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Rhône (Rhône Alpes)

    Informations professionnelles :
    Activité : Analyste programmeur Delphi / C#
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Mars 2005
    Messages : 3 182
    Par défaut
    Citation Envoyé par Anselme45 Voir le message
    Ta naïveté est touchante...
    Et ta condescendance est affligeante.
    Tu ne me connais pas, et ce genre d'attaque personnelle est tout sauf professionnelle.

    Citation Envoyé par Anselme45 Voir le message
    Et donc, tu veux me faire croire qu'il y a des IA éthiques? Des IA dont les promoteurs auraient peur de perdre leur crédibilité auprès du public? Désolé mais tu ne dois pas vivre sur la même planète...
    l'IA coute cher.
    Sur la planète où vis, les gens sont peu enclins à payer les services de quelqu'un qui vole leur données.

    Citation Envoyé par Anselme45 Voir le message
    PS: Et donc tu veux me faire croire que ta société analyse les flux de données pour s'assurer que vos codes ne sont pas réutilisés par l'IA pour des tiers...
    Ma société, entre autres publie des API.
    Donc oui, le trafic réseau est très surveillé car c'est une nécessité.
    Et je peux t'assurer qu'un POST de 75Mo vers un storage (comme cela est décrit dans l'article) est immédiatement repéré.

  13. #13
    Membre extrêmement actif
    Homme Profil pro
    Développeur informatique
    Inscrit en
    Octobre 2017
    Messages
    2 984
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Suisse

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : Octobre 2017
    Messages : 2 984
    Par défaut
    Citation Envoyé par popo Voir le message
    Et ta condescendance est affligeante.
    Tu ne me connais pas, et ce genre d'attaque personnelle est tout sauf professionnelle.
    1. Dire que tu as une approche "naïve" de l'IA ne relève pas de la condescendance! Mon jugement ne se base pas sur ta personnalité mais bien sur tes écrits sur ce forum qui démontrent malheureusement une grande naïveté envers les acteurs de l'IA.

    2. Oui, l'IA peut grandement aider un "développeur" quand ce dernier pose une question précise sur un problème rencontré mais pas quand le "développeur" demande à l'IA de faire son travail en produisant clé-en-main du code ou en soumettant son code à l'IA pour que cette dernière le debugue (je mets en parenthèses le mot "développeur" parce qu'il y a "développeur" et "développeur"!!!)

    3. Pour ton information, le premier ingénieur qui se fait prendre dans notre entreprise à soumettre du code à l'IA ou mieux à faire développer son code par une IA prend la porte immédiatement!!!

    Notre entreprise a la confiance de nos clients, nous signons avec eux des NDA (Non Disclosure Agreement), c'est-à-dire des "accords de confidentialité", et donc on accepterait d'avoir dans nos équipe des "neuneux" qui fournissent à des IA le code des applications que nous commandent nos clients?

    Non seulement soumettre son code à l'IA est une preuve d'incompétence du "développeur" mais pire cela peut entraîner des dommages incalculables pour son entreprise du paiements de dommages et intérêts, à la perte de contrats voir même à la perte de crédibilité de l'entreprise et à terme sa mort clinique!!!

  14. #14
    Expert confirmé
    Avatar de popo
    Homme Profil pro
    Analyste programmeur Delphi / C#
    Inscrit en
    Mars 2005
    Messages
    3 182
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Rhône (Rhône Alpes)

    Informations professionnelles :
    Activité : Analyste programmeur Delphi / C#
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Mars 2005
    Messages : 3 182
    Par défaut
    Citation Envoyé par Anselme45 Voir le message
    1. Dire que tu as une approche "naïve" de l'IA ne relève pas de la condescendance! Mon jugement ne se base pas sur ta personnalité mais bien sur tes écrits sur ce forum qui démontrent malheureusement une grande naïveté envers les acteurs de l'IA.
    La grosse majorité de mes interventions sur l'IA dans ce forum tendent vers les mêmes conclusions : que ce n'est pas fiable, que c'est la source de plein de dérives, et qu'on ne peut pas avoir confiance ni dans l'IA ni dans ls acteur de l'IA.

    Que vous prétendiez le contraire relève au mieux d'une erreur due à votre tendance à extrapoler, au pire de la mauvaise foi.

    Citation Envoyé par Anselme45 Voir le message
    2. Oui, l'IA peut grandement aider un "développeur" quand ce dernier pose une question précise sur un problème rencontré mais pas quand le "développeur" demande à l'IA de faire son travail en produisant clé-en-main du code ou en soumettant son code à l'IA pour que cette dernière le debugue (je mets en parenthèses le mot "développeur" parce qu'il y a "développeur" et "développeur"!!!)
    Encore des propos condescendants.

    Citation Envoyé par Anselme45 Voir le message
    3. Pour ton information, le premier ingénieur qui se fait prendre dans notre entreprise à soumettre du code à l'IA ou mieux à faire développer son code par une IA prend la porte immédiatement!!!

    Notre entreprise a la confiance de nos clients, nous signons avec eux des NDA (Non Disclosure Agreement), c'est-à-dire des "accords de confidentialité", et donc on accepterait d'avoir dans nos équipe des "neuneux" qui fournissent à des IA le code des applications que nous commandent nos clients?
    A quel moment ai-je affirmé que vous (ou vos collègues) soumettiez du code à une IA pour que vous vous sentiez obligé de vous justifier ?
    Traiter les gens de "neuneux" n'aide pas si vous ne voulez pas paraitre condescendant....

    Citation Envoyé par Anselme45 Voir le message
    Non seulement soumettre son code à l'IA est une preuve d'incompétence du "développeur" mais pire cela peut entraîner des dommages incalculables pour son entreprise du paiements de dommages et intérêts, à la perte de contrats voir même à la perte de crédibilité de l'entreprise et à terme sa mort clinique!!!
    J'avoue, j'ai déjà demandé à une IA de corriger une regex.
    Cela ne signifie pas pour autant que j'ai une confiance aveugle en l'IA.
    Et vous être libre de considérer que cela me range dans la case des "neuneux" ou dans celle des "incompétents".
    Cela ne fera qu'apporter de l'eau à mon moulin.

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo