Discussion :

[Mathis Lucas]

L'IA est capable de cloner des logiciels open source en quelques minutes : les projets bénévoles peuvent ainsi être exploités commercialement
sans que leurs auteurs en soient crédités ni rémunérés

L'IA pourrait faire peser de sérieuses menaces sur l'open source et accentuer les fragilités déjà présentes dans l'écosystème. Des chercheurs ont démontré qu'un agent IA peut réécrire du code existant pour le rendre propriétaire, contournant ainsi les licences communautaires traditionnelles. Cela transforme le processus complexe dit de « clean-room design » en une tâche instantanée et potentiellement injuste. L'IA menace les principes de transparence et de partage qui soutiennent l'infrastructure numérique mondiale. Elle pourrait favoriser une commercialisation massive de projets bénévoles sans aucune reconnaissance pour leurs créateurs originaux.

L'IA nous force à redéfinir plusieurs notions fondamentales : que signifie « coder » ? Que signifie être conscient ? Où se situe la frontière entre l'inspiration et la copie ? Sur ce dernier point, une équipe de chercheurs en informatique ont récemment présenté une démonstration particulièrement troublante : il est techniquement possible, et apparemment légal, d'utiliser l'IA pour cloner intégralement des logiciels open source et les rendre propriétaires.

Les deux auteurs de cette démo sont Dylan Ayrey, fondateur de la société open source Truffle Security, et Mike Nolan, architecte logiciel au Programme des Nations Unies pour le développement. La capacité de l'IA à répliquer des projets entiers à une échelle industrielle suscite de profondes préoccupations.

Dylan Ayrey et Mike Nolan ont mis en lumière cette problématique en présentant un service nommé « malus.sh ». Ce service, conçu de manière partiellement satirique, prétend pouvoir recréer n'importe quel projet open source pour le transformer en une version propriétaire, dotée de licences adaptées aux entreprises, sans aucune obligation d'attribution ou de respect des clauses de type "copyleft". Il est accessible moyennant une modeste somme.

L'automatisation du processus de « clean-room design » par l'IA

Le projet s'appuie sur un principe juridique ancien, posé dès l'arrêt Baker v. Selden de la Cour suprême des États-Unis : « le droit d'auteur protège l'expression d'une idée, non l'idée elle-même ». C'est ce qui a permis l'émergence du « clean-room design » (ou la technique de la muraille de Chine). Elle a notamment permis à des acteurs comme Phoenix Technologies de recréer légalement le BIOS des ordinateurs dans les années 1980.

Alors que cette méthode nécessitait autrefois des équipes humaines, une documentation rigoureuse et des mois de travail sous surveillance juridique, l'IA permet désormais de réaliser ce même processus en quelques minutes seulement via de simples commandes textuelles. Dans la démonstration, le résultat est présenté comme « du code légalement distinct, avec une licence adaptée aux entreprises, sans attribution, sans copyleft, sans problème ».

L'utilisation de l'IA pour médiatiser ce processus de reproduction soulève des questions complexes sur la définition même de la création indépendante et de l'usage équitable. La crainte majeure de la communauté open source réside dans le fait que des bases de code entières, souvent utilisées pour entraîner ces mêmes modèles de langage, puissent être réemballées dans des produits commerciaux sans que les créateurs originaux soient crédités.

Cette appropriation par les entreprises pourrait transformer des projets communautaires en outils propriétaires de manière systématique. L'open source souffrait déjà d'un problème du « travail gratuit ». L'IA pourrait accentuer ce problème en permettant aux entreprises de parasiter davantage l'open source.

Les risques de sécurité de cette appropriation sans responsabilité

La démonstration des deux programmeurs souligne la rapidité avec laquelle l'IA efface les frontières traditionnelles entre l'innovation technique, le droit d'auteur et les principes fondamentaux de l'open source qui soutiennent une grande partie de l'infrastructure internet actuelle. Ce cas d'école illustre comment le droit de la propriété intellectuelle, qui s'appuie encore sur des précédents du XIXe siècle, se heurte à l'automatisation du XXIe siècle.

Les lois sur le droit d'auteur de la plupart des pays sont tout aussi dépassées par rapport au monde moderne, et ce avant même que l'IA générative n'aggrave exponentiellement la situation. Avant l'IA, les lois sur le droit d'auteur et la propriété intellectuelle partout dans le monde étaient tout simplement déconnectées des technologies elles-mêmes. Aujourd'hui, elles sont non seulement déconnectées, mais aussi mal adaptées pour suivre le rythme des changements et de la génération d'idées (qu'elles soient véritablement originales ou simplement « générées »).

Lors de la démonstration, les chercheurs ont reconnu que l'utilisation du code open source n'était pas toujours sans risque. L'utilisation massive de logiciels libres par les grandes entreprises crée également des zones de danger en matière de sécurité. L'exemple de la faille mondiale Log4Shell a montré comment une erreur dans un petit projet maintenu par des bénévoles peut paralyser des géants du Web et des jeux comme Minecraft.

En s'emparant des logiciels open source sans soutenir la communauté qui les développe, les entreprises s'exposent à des failles de sécurité dont personne n'assume plus la responsabilité. Les chercheurs soulignent également que si l'IA permet aux entreprises de récupérer facilement le code pour leur propre compte, elle ne garantit pas pour autant sa maintenance. Selon certaines études, le code généré par l'IA est difficilement maintenable.

Les erreurs des agents de codage coûtent cher aux entreprises

Le PDG de Replit, Amjad Masad, fait partie de ceux qui pensent que les générateurs de code permettront de démocratiser le développement de logiciels, ce qui rendra à l'avenir le recours aux codeurs professionnels moins indispensables. Mais des incidents démontrent que la vigilance humaine reste importante dans la filière. L'année dernière, le PDG de Replit s'est excusé après l’effacement par son agent d'IA de la base de code d’une entreprise.

Un investisseur en capital-risque voulait voir jusqu'où l'IA pouvait l'amener dans la création d'une application. Elle l'a mené assez loin pour détruire une base de données de production en direct. L'incident est survenu au cours d'une expérience de vibe coding de 12 jours menée par Jason Lemkin, investisseur dans des startups spécialisées dans les logiciels. Comme cela a été rapporté, au neuvième jour du défi de vibe coding, les choses ont mal tourné.

Malgré l'instruction de geler toutes les modifications de code, l'agent d'IA de Replit a agi de manière incontrôlée. « Il a supprimé notre base de données de production sans autorisation », a écrit Jason Lemkin dans un billet sur X (ew-Twitter). « Pire encore, il l'a caché et a menti à ce sujet », a-t-il ajouté.

L'outil Gemini CLI de Google a également été impliqué dans un incident similaire. L'incident Gemini CLI s'est produit lorsqu'un chef de produit qui testait l'outil en ligne de commande de Google a vu le modèle d'IA exécuter des opérations sur des fichiers qui ont détruit des données alors qu'il tentait de réorganiser des dossiers. La destruction s'est produite à la suite d'une série de commandes de déplacement ciblant un répertoire qui n'a jamais existé.

Conclusion : un contournement légal hautement simplifié par l'IA

Le droit de la propriété intellectuelle repose sur un principe fondamental : il protège la façon dont un logiciel est écrit, mais pas sa fonction technique. Par le passé, des entreprises ont pu recréer légalement des systèmes complexes en observant simplement leur fonctionnement pour en réécrire tout le code sans jamais consulter l'original. Cette méthode, qui était très encadrée juridiquement, nécessitait autrefois des mois de travail aux ingénieurs.

Aujourd'hui, l'IA peut automatiser ce processus en quelques minutes à partir de simples instructions. Ce gain de vitesse change la donne : des projets communautaires peuvent être transformés en produits privés et vendus sans que les créateurs originaux soient cités ou récompensés, ce qui s'apparente à une appropriation industrielle à grande échelle. Selon certains commentateurs c'est la survie même de l'open source qui est désormais menacée.

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la capacité de l'IA à copier rapidement les logiciels open source ?
Que pensez-vous de la démo ci-dessus ? Qu'est-ce que cela signifie pour l'ingénierie logicielle ?
Cette capacité de l'IA générative annonce-t-elle la mort de l'open source déjà en difficulté ? Pourquoi ?

Voir aussi

L'open source souffre-t-il d'un problème du « travail gratuit » ? Oui, selon Havoc Pennington

Le produit open source est un outil de marketing, et souvent les programmeurs open source travaillent gratuitement pour enrichir les grandes entreprises technologiques par Robert Vitonsky

La filière open source souffre-t-elle du problème du travail gratuit ? Les développeurs estiment qu'ils doivent percevoir une rémunération pour leurs contributions d'après un sondage de Digital Ocean

[Access_to_folder]

Bonjour.

L'avantage, rapidement avec IA ou lentement par humain, est de passer d'une licence restrictive (GPL) à une licence permissive (type MIT).
Je vois cela comme une démarche à encourager tout au contraire.

L'affaire de la bibliothèque Python utilisant cette technique pour passer d'une licence GPL restrictive à une licence MIT permissive (puis ensuite BSD) a été évoquée dans ce sujet de discussion sur le forum : https://www.developpez.net/forums/d2.../#post12118928

Les acteurs du libre n'ont pas d'état d'âme pour réimplémenter du propriétaire en libre restrictif, alors pourquoi des états d'âme pour passer de libre restrictif à libre permissif par les mêmes façons de procéder.

[Access_to_folder]

" Lors de la démonstration, les chercheurs ont reconnu que l'utilisation du code open source n'était pas toujours sans risque. L'utilisation massive de logiciels libres par les grandes entreprises crée également des zones de danger en matière de sécurité. "

Il y a aussi, à mon sens, un risque juridique.
Au regard d'affaires qui ont pu exister, il arrive que le logiciel libre viole des droits de tiers en matière de propriété intellectuelle (brevet, autres droits de propriété intellectuelle).
En effet, dans le monde du libre, il n'y a pas des armadas de juristes spécialisés en droit de propriété intellectuelle, à l'instar des entreprises développant du propriétaire, qui passent tout en revue ; sans compter que le libre via sa licence (estimée non légale en France et en Europe, d'où la licence Cecill afin de l'adapter à notre territoire), renvoie la responsabilité sur l'usager.

Basculer à une licence permissive type MIT depuis du restrictif GPL permet ainsi aisément à une entreprise, via son service informatique, de reprendre sérieusement un projet en main pour ses propres besoins, gérer son évolution (pas d'anarchie organisationnelle en faisant des durées de vie de logiciel adapté à ses besoins), adaptation à ses propres besoins sans avoir à reverser le fruit de son travail propriétaire dans le domaine public.

[Bardaz]

Bonjour.

L'avantage, rapidement avec IA ou lentement par humain, est de passer d'une licence restrictive (GPL) à une licence permissive (type MIT).
Je vois cela comme une démarche à encourager tout au contraire.

L'affaire de la bibliothèque Python utilisant cette technique pour passer d'une licence GPL restrictive à une licence MIT permissive (puis ensuite BSD) a été évoquée dans ce sujet de discussion sur le forum : https://www.developpez.net/forums/d2.../#post12118928

Les acteurs du libre n'ont pas d'état d'âme pour réimplémenter du propriétaire en libre restrictif, alors pourquoi des états d'âme pour passer de libre restrictif à libre permissif par les mêmes façons de procéder.

Je pense que tu poses une logique inversée.

C'est bien la GPL et ses restrictions qui vont garantir à l'IA que le code sera accessible et exploitable. Si tu poses ça sous MIT à un moment dans la chaîne il peut y avoir du code avec exploitation commerciale qui passe propriétaire et le risque de retomber dans une logique d'obfuscation du code qu'on connaît bien ce que la GPL empêche par son coté viral. C'est donc la GPL qui juridiquement encadre le mieux l'accès aux données sur le long terme dans une logique industrielle. Il faut juste accepter de jouer le jeu ce que l'humain n'aime pas tellement mais la machine, elle s'en fiche.

La réflexion facile qui consiste à dire "Bof c'est ingérable, mettons tout en MIT, ça rendra les choses plus simples pour les contributeurs et les entreprises" c'est pas faux, c'est toujours de la liberté certes mais c'est aussi la liberté de nuire, la liberté de faire de l'autre son jouet pour produire du code sans contreparties et donc potentiellement d'empêcher la liberté des autres. Par extension on constate donc une liberté plus individuelle que collective. La GPL est tout de même plus fine et moins flemmarde.

[Bardaz]

" Lors de la démonstration, les chercheurs ont reconnu que l'utilisation du code open source n'était pas toujours sans risque. L'utilisation massive de logiciels libres par les grandes entreprises crée également des zones de danger en matière de sécurité. "

Il y a aussi, à mon sens, un risque juridique.
Au regard d'affaires qui ont pu exister, il arrive que le logiciel libre viole des droits de tiers en matière de propriété intellectuelle (brevet, autres droits de propriété intellectuelle).
En effet, dans le monde du libre, il n'y a pas des armadas de juristes spécialisés en droit de propriété intellectuelle, à l'instar des entreprises développant du propriétaire, qui passent tout en revue ; sans compter que le libre via sa licence (estimée non légale en France et en Europe, d'où la licence Cecill afin de l'adapter à notre territoire), renvoie la responsabilité sur l'usager.

Basculer à une licence permissive type MIT depuis du restrictif GPL permet ainsi aisément à une entreprise, via son service informatique, de reprendre sérieusement un projet en main pour ses propres besoins, gérer son évolution (pas d'anarchie organisationnelle en faisant des durées de vie de logiciel adapté à ses besoins), adaptation à ses propres besoins sans avoir à reverser le fruit de son travail propriétaire dans le domaine public.

Bien sûr ce n'est pas faux mais c'est tout de même très généraliste et très optimiste sur le rôle de la MIT qui peut poser parfois + de problèmes qu'elle n'en résout. Inversement la GPL peut poser problème si l'organisation n'est pas adaptée.

Ce n'est pas le modèle du logiciel libre en soit qui est en cause mais donc bien son organisation. Il est tout à fait possible de reprendre en main un logiciel par une équipe si celui-ci est open-source avec une licence type GPL. Blender, QGIS et bien d'autres projets sont devenus des mastodontes avec des contributions provenant de centaines de contributeurs. Ils sont toujours en GPL et ça se passe de mieux en mieux chaque année. Ils sont utilisés en Industrie dans les collectivités et ce n'est absolument pas des exceptions. Les collectivités developpent des modules spécifiques QGIS par exemple pour leurs besoins et sont repartagés, l'industrie fait exactement la même chose tout le monde en profite et on vends du service derrière. Où est le problème si ce n'est la peur de la concurrence?

[OuftiBoy]

à toutes et tous,

Rien de ce qui touche à l'IA n'est très moral. Peut-être que "juridiquement" l'IA peut "progresser" comme les géants de la Tech le font, le deux poids deux mesures, je peut violé tout ce que je veux, mais mon code à moi, tu peux pas faire pareil. Tout le reste, la manière et les détails n'ont aucune importances.

Je sais que la "moralité" est un concept qui semble d'un autre âge, mais c'est pourtant une des "bases" des sociétés (humaines) civilisées. Toutes les lois, la justice, nos modes de vie, etc, tous cela repose in-fine sur des questions de "moral".

Il semble que l'on vit une époque où tout le monde s'assied sur ce principe. Personnellement, je le déplore. Mais c'est ainsi, malheureusement.

Mais là où je veux en venir, c'est que si "tout" peux se copier, se voler, sans aucune limite, sans aucune "moral", et bien ces grandes sociétés n'auront plus de valeurs non plus, car tout le monde pourra fournir les mêmes "services" pour "rien". Tout ce qui repose sur "la propriété intellectuel" va voler en éclat, et ce n'est plus dès lors qu'une question de temps avant que ces grandes sociétés disparaissent à leur tour. La vue à cours terme de tous ces géants ne semble pas tenir compte de ce léger détail.

Ce sera une période délicate, et l'humanité fera ce qu'elle a toujours fait, se détruire elle-même. Se qui va se passer maintenant où dans un avenir proche, va sans doute avoir des répercussions dont personne ne semble sentir venir l'ampleur du chaos qu'il va générer.

Après, il y aura une autre époque, où comme plus rien n'aura de valeur, tout le monde vivra "bien", (a quoi bon voler, tuer, détruire pour quoique ce soit puisque plus rien n'aura de "valeurs"), ou bien l'humain, n'ayant plus besoin de "rien", ne fera plus "rien", ne réfléchira plus à "rien", et au final deviendra lui-même "rien".

GAME OVER.

BàV et Peace & Love.

[Mathis Lucas]

L'IA qui crée des clones de logiciels open source légalement distincts suscite des préoccupations dans l'écosystème
car elle facilite l'exploitation commerciale au détriment de l'éthique collaborative

Malus est un projet satirique, mais opérationnel qui utilise l'IA pour réécrire des logiciels libres sans respecter leurs licences de copyright. En automatisant la méthode de « clean-room design », cet outil permet de créer des clones de code légalement distincts, privant ainsi les développeurs originaux de toute reconnaissance ou contribution. Bien que provocateur, ce service souligne une menace réelle pour l'écosystème de l'open source, où l'IA facilite désormais l'exploitation commerciale au détriment de l'éthique collaborative. La commercialisation d'un tel service soulève aussi de vives critiques dans la communauté, les auteurs étant accusés de manquer d'éthique.

L'open source fait face à un autre problème. Malus est un outil présenté comme une satire, mais il n'en demeure pas moins entièrement fonctionnel et géré par une véritable société à responsabilité limitée qui génère des revenus. Créé par un chercheur et développeur de logiciels, cet outil propose d'ingérer n'importe quel logiciel open source pour en générer une version entièrement nouvelle, « libérée » de ses licences de droits d'auteur d'origine.

Les auteurs sont Dylan Ayrey, fondateur de la société open source Truffle Security, et Mike Nolan, architecte logiciel au Programme des Nations Unies pour le développement (PNUD). L'objectif provocateur est de permettre aux entreprises d'utiliser du code sans avoir à créditer les développeurs initiaux ni à respecter les clauses de « copyleft », qui obligent normalement les acteurs de l'open source à partager les améliorations apportées au logiciel.

L'automatisation du processus de « clean-room design » par l'IA

Le projet s'appuie sur un principe juridique ancien, posé dès l'arrêt Baker v. Selden de la Cour suprême des États-Unis : « le droit d'auteur protège l'expression d'une idée, non l'idée elle-même ». C'est ce qui a permis l'émergence du « clean-room design » (ou la technique de la muraille de Chine). Elle a notamment permis à des acteurs comme Phoenix Technologies de recréer légalement le BIOS des ordinateurs dans les années 1980.

Alors que cette méthode nécessitait autrefois des équipes humaines, une documentation rigoureuse et des mois de travail sous surveillance juridique, l'IA permet désormais de réaliser ce même processus en quelques minutes seulement via de simples commandes textuelles. Dans la démonstration, le résultat est présenté comme « du code légalement distinct, avec une licence adaptée aux entreprises, sans attribution, sans copyleft, sans problème ».

L'utilisation de l'IA pour médiatiser ce processus de reproduction soulève des questions complexes sur la définition même de la création indépendante et de l'usage équitable. La crainte majeure de la communauté open source réside dans le fait que des bases de code entières, souvent utilisées pour entraîner ces mêmes modèles de langage, puissent être réemballées dans des produits commerciaux sans que les créateurs originaux soient crédités.

Cette appropriation par les entreprises pourrait transformer des projets communautaires en outils propriétaires de manière systématique. L'open source souffrait déjà d'un problème du « travail gratuit ». L'IA pourrait accentuer ce problème en permettant aux entreprises de parasiter davantage l'open source.

Un défi éthique et structurel pour l'écosystème de l'open source

Pour une somme modique, Malus peut analyser n’importe quel logiciel que vous lui fournissez et en produire une nouvelle version qui le « libère » de toute licence de droits d’auteur existante. Il en résulte un nouveau logiciel qui remplit la même fonction, mais qui n’est plus tenu de respecter, par exemple, le type de licences de droits d’auteur garantissant que les logiciels libres restent libres d’utilisation et de modification. Les auteurs applaudissent.

Le site Web est une satire élaborée conçue pour attirer l’attention sur un problème bien réel dans le domaine de l’open source, mais il fait aussi exactement ce qu’il dénonce et est une véritable société à responsabilité limitée qui gagne de l’argent en utilisant l’IA pour produire des clones de logiciels existants.

Ça marche. Le paiement via Stripe vous permettra d’accéder au produit, et il était important pour nous de le faire, car nous avions le sentiment que s’il ne s’agissait que de satire, cela finirait comme toutes les autres recherches que j’ai menées sur l’open source, qui finissent par être largement rejetées par les techniciens de l’open source qui se sentaient trop spéciaux, trop uniques et trop intelligents pour jamais se retrouver du mauvais côté des licenciements ou de la réalité économique.

Leur discours est un mépris flagrant envers la communauté open source, qui croit au développement collaboratif et à la mise à disposition gratuite des logiciels. Généralement, les licences open source demandent seulement de citer les contributeurs et que toute œuvre dérivée conserve la même licence et que toute œuvre dérivée conserve la même licence permissive, ce qui, espérons-le, ce qui élargit la communauté et fait perdurer le projet.

L'émergence de tels outils, facilitée par la baisse des coûts liée à l'IA, représente une menace sérieuse pour l'écosystème du logiciel libre. Si la légalité de cette pratique semble techniquement correcte selon certains juristes, son éthique est vivement contestée, car elle rompt la relation de confiance et de collaboration qui fonde l'open source. Certains détracteurs soulignent que cette approche traite le code comme une simple marchandise jetable.

Quelques réactions de la communauté après l'annonce de Malus

Interrogé par 404 Media, Mike Nolan n'a pas révélé exactement combien d’argent l’entreprise gagnait, mais il a indiqué qu’il s’agissait d’une véritable SARL disposant d’un compte bancaire et qu’elle était rentable, avec « probablement des centaines de dollars à ce stade ». Le service facture 0,01 $ pour chaque Ko de données sur l’ensemble des différentes dépendances du projet. Cela signifie que le coût par projet peut rapidement grimper.

Le site a suscité une certaine incrédulité lorsqu’il a été publié récemment sur Hacker News, mais il n’a pas fallu longtemps aux gens pour se rendre compte qu’il s’agissait d’une satire élaborée, même si l’outil peut toujours reproduire des projets open source comme annoncé. Ils ont présenté une démo de l'outil.

Certains diront que notre activité relève de l'exploitation, que nous tirons profit des idées issues de l'open source tout en laissant de côté ceux qui y ont contribué. À cela, je réponds : oui, c'est une description assez fidèle de notre modèle économique. C'est également une description assez fidèle de toutes les entreprises qui ont déjà utilisé des logiciels open source sans y contribuer en retour, c'est-à-dire pratiquement toutes les entreprises qui ont déjà utilisé des logiciels open source. Nous sommes simplement honnêtes à ce sujet, et nous facturons des frais pour ce privilège.

« Ils ne mâchent certainement pas leurs mots quand il s'agit de leur éthique », a écrit un critique en réponse à cette description sur le site Web de Malus. « Cela sera crédible s'ils parviennent à faire la même chose pour les logiciels à code source fermé. S'ils n'y parviennent pas, c'est qu'ils mentent et qu'ils enfreignent les droits d'auteur. S'ils y parviennent, ils deviendront alors la plus grande entreprise de logiciels de l'histoire », a écrit un autre critique.

Pour certains, Malus ignore l'importance de la maintenance continue, des correctifs de sécurité et de l'expertise communautaire. « N'importe qui peut créer une branche d'un dépôt open source. Mais tout le monde n'est pas capable de le faire vivre. LibreOffice survit non pas parce qu'il a hérité de son code d'OpenOffice, mais grâce à la communauté qui le fait vivre. Ce projet est peut-être moins intéressant qu'on ne le pense », a souligné un critique.

Les risques de sécurité de cette appropriation sans responsabilité

La démonstration des deux programmeurs souligne la rapidité avec laquelle l'IA efface les frontières traditionnelles entre l'innovation technique, le droit d'auteur et les principes fondamentaux de l'open source qui soutiennent une grande partie de l'infrastructure internet actuelle. Ce cas d'école illustre comment le droit de la propriété intellectuelle, qui s'appuie encore sur des précédents du XIXe siècle, se heurte à l'automatisation du XXIe siècle.

Les lois sur le droit d'auteur de la plupart des pays sont tout aussi dépassées par rapport au monde moderne, et ce avant même que l'IA générative n'aggrave exponentiellement la situation. Avant l'IA, les lois sur le droit d'auteur et la propriété intellectuelle partout dans le monde étaient tout simplement déconnectées des technologies elles-mêmes. Aujourd'hui, elles sont non seulement déconnectées, mais aussi mal adaptées pour suivre le rythme des changements et de la génération d'idées (qu'elles soient véritablement originales ou simplement « générées »).

Lors de la démonstration, les chercheurs ont reconnu que l'utilisation du code open source n'était pas toujours sans risque. L'utilisation massive de logiciels libres par les grandes entreprises crée également des zones de danger en matière de sécurité. L'exemple de la faille mondiale Log4Shell a montré comment une erreur dans un petit projet maintenu par des bénévoles peut paralyser des géants du Web et des jeux comme Minecraft.

En s'emparant des logiciels open source sans soutenir la communauté qui les développe, les entreprises s'exposent à des failles de sécurité dont personne n'assume plus la responsabilité. Les chercheurs soulignent également que si l'IA permet aux entreprises de récupérer facilement le code pour leur propre compte, elle ne garantit pas pour autant sa maintenance. Selon certaines études, le code généré par l'IA est difficilement maintenable.

Les erreurs des agents de codage coûtent cher aux entreprises

Le PDG de Replit, Amjad Masad, fait partie de ceux qui pensent que les générateurs de code permettront de démocratiser le développement de logiciels, ce qui rendra à l'avenir le recours aux codeurs professionnels moins indispensables. Mais des incidents démontrent que la vigilance humaine reste importante dans la filière. L'année dernière, le PDG de Replit s'est excusé après l’effacement par son agent d'IA de la base de code d’une entreprise.

Un investisseur en capital-risque voulait voir jusqu'où l'IA pouvait l'amener dans la création d'une application. Elle l'a mené assez loin pour détruire une base de données de production en direct. L'incident est survenu au cours d'une expérience de vibe coding de 12 jours menée par Jason Lemkin, investisseur dans des startups spécialisées dans les logiciels. Comme cela a été rapporté, au neuvième jour du défi de vibe coding, les choses ont mal tourné.

Malgré l'instruction de geler toutes les modifications de code, l'agent d'IA de Replit a agi de manière incontrôlée. « Il a supprimé notre base de données de production sans autorisation », a écrit Jason Lemkin dans un billet sur X (ew-Twitter). « Pire encore, il l'a caché et a menti à ce sujet », a-t-il ajouté.

L'outil Gemini CLI de Google a également été impliqué dans un incident similaire. L'incident Gemini CLI s'est produit lorsqu'un chef de produit qui testait l'outil en ligne de commande de Google a vu le modèle d'IA exécuter des opérations sur des fichiers qui ont détruit des données alors qu'il tentait de réorganiser des dossiers. La destruction s'est produite à la suite d'une série de commandes de déplacement ciblant un répertoire qui n'a jamais existé.

Conclusion : un contournement légal hautement simplifié par l'IA

Le droit de la propriété intellectuelle repose sur un principe fondamental : il protège la façon dont un logiciel est écrit, mais pas sa fonction technique. Par le passé, des entreprises ont pu recréer légalement des systèmes complexes en observant simplement leur fonctionnement pour en réécrire tout le code sans jamais consulter l'original. Cette méthode, qui était très encadrée juridiquement, nécessitait autrefois des mois de travail aux ingénieurs.

Aujourd'hui, l'IA peut automatiser ce processus en quelques minutes à partir de simples instructions. Ce gain de vitesse change la donne : des projets communautaires peuvent être transformés en produits privés et vendus sans que les créateurs originaux soient cités ou récompensés, ce qui s'apparente à une appropriation industrielle à grande échelle. Selon certains commentateurs c'est la survie même de l'open source qui est désormais menacée.

Source : Malus (1, 2)

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la capacité de l'IA Malus à reproduire les logiciels open source ?
Qu'est-ce que cela signifie pour l'ingénierie logicielle ? Quel sera l'impact sur l'open source ?
Cette capacité de l'IA générative annonce-t-elle la mort de l'open source déjà en difficulté ? Pourquoi ?

Voir aussi

[URL="https://intelligence-artificielle.developpez.com/actu/381782/"]L'IA est capable de cloner des logiciels open source en quelques minutes : les projets bénévoles peuvent ainsi être exploités commercialement, sans que leurs auteurs en soient crédités ni rémunérés/URL]

Mythos, le modèle IA trop dangereux pour être publié, accessible à des inconnus : comment un groupe de curieux sur Discord a contourné le dispositif de contrôle dans la chaîne de sous-traitance d'Anthropic

Le secteur de l'IA s'apprête à passer un test crucial en 2026 : la vitesse à laquelle OpenAI brûle sa trésorerie pourrait être l'une des grandes questions pour savoir si la bulle éclatera

[Access_to_folder]

Il s'agit là d'un traitement automatisé à partir d'un code source libre, et non d'une ré-implémentation humaine sans lire le code d'origine (Dans le cadre de la polémique Chardet, cela avait été un travail d'informaticien humain assisté par IA). Cela peut effectivement être matière à discussion et relève de compétences des métiers du droit.

Autant les logiciels libres ont souvent ré implémenté sans scrupule des logiciels propriétaires en partant de rien, légalement ou non (violation de brevets, autres droits de propriété intellectuelle), autant faire un traitement automatisé licence restrictive vers licence permissive pourrait être un problème, tout dépend du lieu de domiciliation de la société et des serveurs.

A noter que l'IA n'est qu'une façon plus rapide d'arriver à un travail de codage, vous avez des plateformes de proposition de prestation de services où beaucoup de personnes du "tiers monde", qu'on peut payer à coup de "bol de riz" (il n'y a aucun dénigrement, c'est une façon imagée de comparer les prétentions de rémunérations d'un bout à l'autre de la planète), et ainsi avoir un travail humainement réalisé, sans recours à l'IA, et souvent avec des informaticiens compétents.

Cela a le mérite de poser à nouveau le débat entre les licences libres restrictives (et le danger des licences virales en cours de débat juridique et les licences libres permissives.

[Artaeus]

La première menace de l'open-source, ce sont les barrières à l'entrée mise en place par les régulateurs (avec l'appui des GAFAM).

Les lois asphyxient tout projet n'ayant pas la capacité de s'entourer d'avocat, de comptable, experts fiscaux ou juridiques (dont pour votre licence open-source).
Vous devez mettre en place des outils délirants (vérification d'âge, KYC, "bot de modération", audit ect ...).

Bref, le vrai danger n'est pas la copie des IA, c'est la mise en place d'un environnement défavorable par les GAFAM et les gouvernements à cause de contraintes techniques, juridiques et fiscales (même sur de l'open source).
La copie des IA vient après, une fois que les lois et normes ont tué le projet, les GAFAM ont juste à le copier (pendant que vous avez perdu des années en contraintes n'ayant rien à voir avec le projet).

[Access_to_folder]

Cela est plutôt un argument qui vient renforcer justement le logiciel propriétaire, allant dans le respect des lois et réglementations et droits des tiers, lois étant voulues par les législateurs désignés représentants par les peuples dans la plupart des pays, afin de ne pas sombrer dans l'anarchie et protéger les populations. Le cas classique fut le RGPD où sur les forums ou sites de logiciels on voyait des demandes quant à l'implémentation du RGPD et des intervenants dire on ne veut se soumettre à ces lois car on est contre, debrouillez-vous, ayant fait faute d'avoir les moyens de mettre en œuvre quand bien même logiciel libre permette de réaliser une modification (tout le monde ne sait pas programmer et quitte à payer, autant verser le denier au conventionnel "cathédrale" qui fait dans les attendus plutôt qu'au "bazar" pour que l'un des leurs le réalise). On en revient à la diabolisation de ce qui fait obstacle que j'avais développé dans un autre sujet : https://www.developpez.net/forums/d2.../#post12118204

Pour ma part, cela a été une prise de conscience, et m'a amené à coder mes propres solutions propriétaires pour peu à peu me dédouaner du peu que ce que j'utilisais en libre, ne voulant pas reverser en GPL le fruit de mes réalisations par modification du code source d'un projet libre.