Suchir Balaji, le lanceur d'alerte d'OpenAI, était cité comme détenant des preuves accablantes sur OpenAI
Le lanceur d'alerte d'OpenAI décédé était considéré comme un témoin dans des procès contre l'entreprise
il détenait des « documents pertinents » démontrant les violations de droit d'auteur par OpenAI
Suchir Balaji, un ancien ingénieur d'OpenAI devenu lanceur d'alerte concernant les pratiques de l'entreprise en matière de données, a été retrouvé mort dans son appartement à San Francisco le 26 novembre 2024. De nouveaux éléments révèlent que Suchir Balaji, 26 ans, était cité comme témoin dans des affaires judiciaires contre OpenAI comme ayant des « documents pertinents » sur la violation présumée des droits d'auteur par la startup. Suchir Balaji a dénoncé publiquement ce qu'il appelle « la collecte massive et abusive des données » effectuée par OpenAI dans le cadre de la formation de ses modèles d'IA et s'est interrogé sur la légalité de cette pratique.
Suchir Balaji était cité comme détenant des preuves accablantes sur OpenAI
Selon les récits sur Suchir Balaji, il était très apprécié par ses anciens collègues d'OpenAI. Un cofondateur d'OpenAI a même déclaré récemment que Suchir Balaji avait joué un rôle essentiel dans le développement de certains des produits d'IA générative de l'entreprise. « Les contributions de Suchir à ce projet ont été essentielles, et le projet n'aurait pas abouti sans lui », a déclaré John Schulman, cofondateur d'OpenAI, dans un hommage sur Suchir Balaji.
John Schulman, qui a recruté Suchir Balaji dans son équipe, a déclaré que ce qui avait fait de lui un ingénieur et un scientifique exceptionnel était son souci du détail et sa capacité à remarquer des bogues subtils ou des erreurs logiques. « Il avait le don de trouver des solutions simples et d'écrire des codes élégants qui fonctionnaient. Il réfléchissait soigneusement et rigoureusement aux détails des choses », peut-on lire dans le message de John Schulman.
Par la suite, Suchir Balaji s'est consacré à l'organisation des énormes ensembles de données utilisés pour former GPT-4, la quatrième génération du grand modèle de langage (LLM) phare d'OpenAI et la base du célèbre chatbot de la société. C'est ce travail qui a amené Suchir Balaji à s'interroger sur la technologie qu'il avait contribué à mettre au point, en particulier après que les éditeurs et les créateurs de contenus ont commencé à poursuivre OpenAI en justice.
OpenAI est accusé de violation de droit d'auteur par les plaignants, qui réclament des lois pour protéger leurs moyens de subsistance contre l'essor de l'IA. Suchir Balaji partageait l'avis de ces travailleurs. Il a d'abord fait part de ses préoccupations au New York Times, qui les a rapportées dans un portrait de Suchir Balaji publié en octobre 2024. Le New York Times poursuit également OpenAI pour utilisation non autorisée de ses articles de presse par ChatGPT.
Suchir Balaji a ensuite déclaré à l'Associated Press qu'il essaierait de témoigner dans les affaires de violation de droits d'auteur les plus sérieuses et qu'il considérait le procès intenté par le New York Times comme « le plus sérieux ». Les avocats du Times l'ont cité dans un dossier déposé au tribunal le 18 novembre 2024 comme quelqu'un qui pourrait avoir des « documents uniques et pertinents » démontrant la violation délibérée du droit d'auteur par OpenAI.
Il n'a pas été auditionné par les tribunaux et l'on ne sait pas dans quelle mesure ses déclarations seront admises comme preuves dans les affaires judiciaires après sa mort. Il a également publié un billet de blogue personnel dans lequel il fait part de ses opinions sur le sujet.
Suchir Balaji avait déclaré qu'il était de plus en plus désillusionné par OpenAI
Les dossiers de Suchir Balaji ont également été demandés par des avocats dans un procès distinct intenté par des auteurs de livres, dont la comédienne Sarah Silverman. « Il n'est pas normal de s'entraîner sur les données des gens et de leur faire concurrence sur le marché. Je ne pense pas que vous devriez être en mesure de faire cela. Je ne pense pas qu'il soit possible de le faire légalement », a expliqué Suchir Balaji à l'Associated Press fin octobre 2024.
Il a déclaré à l'Associated Press qu'il était de plus en plus désillusionné par OpenAI, en particulier après les troubles internes qui ont conduit son conseil d'administration à licencier le PDG, Sam Altman, en 2023, avant le réembaucher. Suchir Balaji a déclaré qu'il était globalement préoccupé par la manière dont ses produits commerciaux étaient déployés, notamment par leur propension à diffuser des informations erronées, connues sous le nom d'hallucinations.
Mais parmi les nombreux problèmes qui le préoccupent, il a déclaré qu'il se concentrait sur les droits d'auteur, car « il était réellement possible de faire quelque chose ». Suchir Balaji a reconnu qu'il s'agissait d'une opinion impopulaire au sein de la communauté des chercheurs en IA, qui a l'habitude de puiser des données sur Internet. Cela dit, Suchir Balaji a ajouté que les chercheurs en IA vont finir par changer d'avis et que c'est une question de temps.
John Schulman, qui a démissionné d'OpenAI en août 2024, a déclaré que Suchir Balaji et lui avaient quitté OpenAI le même jour, par coïncidence, et qu'ils avaient fêté leur départ avec d'autres collègues le soir même, en dînant et en buvant un verre dans un bar de San Francisco. Un autre des mentors de Suchir Balaji, le cofondateur et scientifique en chef Ilya Sutskever, avait quitté OpenAI quelques mois plus tôt, ce qui a motivé le départ de Suchir Balaji.
John Schulman a déclaré que Suchir Balaji lui avait fait part, au début de l'année, de son intention de quitter OpenAI et qu'il ne pensait pas qu’une IA meilleure que l'homme était à portée de main, comme le reste de l'entreprise semblait le croire. « Le jeune ingénieur a exprimé son intérêt pour l'obtention d'un doctorat et l'exploration d'idées plus éloignées des sentiers battus sur la manière de construire l'intelligence », a déclaré John Schulman.
OpenAI a confirmé qu'il s'appuie sur des œuvres protégées par le droit d'auteur
Ces dernières années, les capacités des chatbots d'IA, comme ChatGPT d'OpenAI, se sont considérablement améliorées ; ils s'appuient sur de grands modèles de langage (LLM) pour produire du contenu pour les utilisateurs. Mais le processus de formation est largement controversé, certains éditeurs accusant OpenAI d'utiliser des œuvres protégées par des droits d'auteur sans autorisation, et un certain nombre d'affaires juridiques sont en cours.
Défendant ses pratiques commerciales dans un récent procès, OpenAI a déclaré : « les modèles apprennent, comme nous le faisons tous, de ce qui a été fait auparavant. La défense de l'usage équitable existe précisément pour cette raison : encourager et permettre le développement de nouvelles idées qui s'appuient sur des idées antérieures ». Cette défense d'OpenAI est conforme aux précédentes déclarations de l'entreprise sur la formation de ses modèles.
En janvier 2024, OpenAI affirmait : « étant donné que le droit d'auteur couvre aujourd'hui pratiquement toutes les formes d'expression humaine, il serait impossible d’entraîner les meilleurs modèles d'IA d'aujourd'hui sans utiliser des documents protégés par le droit d'auteur ». OpenAI reconnaît donc ouvertement qu'il utilise des contenus protégés par des droits d'auteurs pour créer ses modèles d'IA. L'entreprise n'a toutefois pas encore été condamnée.
Plusieurs éditeurs de presse ont poursuivi Microsoft et OpenAI pour violation du droit d'auteur. Parmi les poursuivants, on peut noter les éditeurs de presse de Californie, du Colorado, de l'Illinois, de Floride, du Minnesota et de New York. Certains procès sont en cours, mais le 7 novembre 2024, le juge de district américain Colleen McMahon, à New York, a rejeté une poursuite contre OpenAI qui avait été intentée par les médias Raw Story et AlterNet.
Selon les experts, la porte de sortie de la situation semble résider dans la conclusion d’accords de licence avec les éditeurs de presse. L'Associated Press et OpenAI ont conclu un accord de licence permettant à OpenAI d'accéder à une partie des archives textuelles du média. Mais ces accords sont controversés.
Source : billet de blogue
Et vous ?
:fleche: Quel est votre avis sur le sujet ?
:fleche: Que pensez-vous du décès subit de l'ancien ingénieur d'OpenAI devenu lanceur d'alerte ?
:fleche: Ses révélations seront-elles d'une quelconque utilité dans les affaires judiciaires en cours contre OpenAI ?
Voir aussi
:fleche: L'ancien chercheur d'OpenAI Suchir Balaji, devenu lanceur d'alerte, a été retrouvé mort, après avoir accusé OpenAI de violer des droits d'auteur, Elon Musk a posté une réaction énigmatique
:fleche: GPT-5, le prochain grand projet d'OpenAI dans le domaine de l'IA, est en retard sur le calendrier et est très coûteux. L'entreprise manque de sources de données fiables et fait face à des défis techniques
:fleche: Des lanceurs d'alerte affirment qu'OpenAI a illégalement interdit à son personnel de divulguer les risques de sécurité liés à son IA en s'appuyant sur des accords contraignants et des menaces de représailles
OpenAI donne des détails sur la façon dont il entend conduire sa restructuration en une entité à but lucratif
OpenAI annonce qu'il amorce sa refonte en une société à but lucratif en 2025 et que cela lui permettra d'attirer plus de capitaux
mais l'initiative est critiquée et combattue par des voix telles qu'Elon Musk
OpenAI rend publics les premiers détails de son projet visant à se restructurer en une structure à but lucratif. Le fabricant de ChatGPT a annoncé que sa branche à but lucratif actuelle deviendra une société d'utilité publique (public benefit corporation - PBC) avec des actions ordinaires. Cette nouvelle société ne sera plus sous le contrôle de son conseil d'administration et fonctionnera davantage comme une startup à forte croissance. OpenAI estime que cela est nécessaire pour attirer plus de capitaux afin d'aller au bout de sa mission, qui est de construire une intelligence artificielle générale (AGI). Mais l'annonce suscite beaucoup de scepticisme.
OpenAI donne des détails sur la façon dont il entend conduire sa restructuration
OpenAI a eu jusqu'ici une structure inédite qui peut parfois s'avérer compliquée à déchiffrer pour certains. Cette confusion est intervenue en 2019 après qu'OpenAI, qui a été fondé à l'origine en tant que société à but non lucratif, a opéré une première restructuration. En gros, l'on distingue OpenAI LP (Limited Partnership), qui est une entité à profit plafonné qui a ouvert l'entreprise aux investissements tiers. Ces derniers sont soumis à « un rendement plafonné ».
OpenAI LP est responsable du développement des modèles d'IA, des produits et des solutions. Toutefois, cette entité n'est pas autonome. Les activités d'OpenAI LP sont supervisées par le conseil d'administration de l'organisation à but non lucratif (OpenAI inc.) de départ. Cette première restructuration a vu l'arrivée d'investisseurs tels que Microsoft, qui a injecté un milliard de dollars dans OpenAI dès 2019, avant de rallonger de plusieurs milliards de dollars en 2023.
Le 26 décembre 2024, OpenAI a annoncé que l'entreprise va subir pour une nouvelle transformation structurelle. OpenAI va transformer sa branche à but lucratif actuelle en une société d'utilité publique (public benefit corporation - PBC) pour superviser les opérations commerciales en 2025. À travers cette refonte, OpenAI vise à supprimer certaines restrictions liées au statut à but non lucratif afin de fonctionner davantage comme une startup à forte croissance :
Citation:
Envoyé par OpenAI
Les centaines de milliards de dollars que les grandes entreprises investissent actuellement dans le développement de l'IA montrent ce qu'il faudra vraiment pour qu'OpenAI poursuive sa mission. Nous avons une fois de plus besoin de lever plus de capitaux que nous ne l'avions imaginé. Les investisseurs veulent nous soutenir, mais, à cette échelle de capital, ils ont besoin de fonds propres conventionnels et de moins d'actions structurelles.
« Le PBC est une structure utilisée par beaucoup d'autres qui exige de l'entreprise qu'elle équilibre les intérêts des actionnaires, les intérêts des parties prenantes et l'intérêt public dans sa prise de décision. Elle nous permettra de lever les capitaux nécessaires dans des conditions conventionnelles, comme d'autres acteurs de ce secteur », a déclaré OpenAI. Cette forme d'entreprise est de plus en plus courante, avec de grands noms tels que xAI et Anthropic.
« Cette structure vise à générer des profits tout en bénéficiant à l'intérêt public. La branche à but non lucratif prendrait des parts dans la société d'intérêt public », a déclaré OpenAI, ajoutant que cela permettra de soutenir au mieux sa mission consistant à faire en sorte que l'AGI profite à l'ensemble de l'humanité.
OpenAI subit diverses pressions pour se restructurer en une entité à but lucratif
La pression exercée sur OpenAI pour qu'il se restructure serait liée à sa valorisation de 157 milliards de dollars. OpenAI a atteint ce seuil lors de son tour de table de 6,6 milliards de dollars en octobre 2024. Selon certains rapports, l'entreprise dispose de deux ans pour procéder à cette conversion, faute de quoi les investisseurs pourraient demander le remboursement de leur argent. Cela intervient deux ans après l'arrivée de ChatGPT et le boom de l'IA générative.
OpenAI se préparant à concurrencer xAI d'Elon Musk ainsi que Microsoft, Google, Amazon et Anthropic sur un marché qui, selon les prévisions, devrait atteindre un chiffre d'affaires de plus de 1 000 milliards de dollars d'ici une dizaine d'années. Dans le même temps, le développement de grands modèles de langage (LLM) et d'autres produits d'IA générative nécessite un investissement continu dans des processeurs surpuissants (GPU) et dans l'infrastructure cloud.
OpenAI prévoit environ 5 milliards de dollars de pertes sur 3,7 milliards de dollars de revenus cette année. Ces chiffres augmentent rapidement. En se transformant en une PBC, OpenAI affirme qu'il peut poursuivre ses activités commerciales, tout en embauchant séparément du personnel pour sa branche à but non lucratif et en permettant à cette dernière d'entreprendre des activités caritatives dans les domaines des soins de santé, de l'éducation et de la science.
Elon Musk et d'autres voix dénoncent ce changement structurel initié par OpenAI
Les efforts d'OpenAI pour se restructurer se heurtent à quelques obstacles majeurs. Le plus important est Elon Musk. Il a intenté un procès à OpenAI et a demandé à un tribunal d'empêcher la société de se convertir en société à but lucratif à partir d'un organisme à but non lucratif. Il accuse OpenAI d'avoir rompu ses accords contractuels initiaux. Dans des messages sur X, il a décrit cet effort comme une « arnaque totale » et a affirmé qu'OpenAI est « diabolique ».
Au début du mois, OpenAI a riposté, alléguant qu'en 2017, « Elon Musk ne voulait pas seulement, mais a en fait créé une société à but lucratif » pour servir de nouvelle structure proposée par l'entreprise. Outre sa guéguerre avec Elon Musk, OpenAI a dû faire face à un exode de talents de haut niveau, en partie en raison de préoccupations selon lesquelles la société s'est concentrée sur la mise sur le marché de produits commerciaux au détriment de la sécurité.
La directrice technique d'OpenAI, Mira Murati, a annoncé fin septembre 2024 qu'elle quitte l'entreprise après plus de 6 ans. Le même jour, le responsable de la recherche Bob McGrew et Barret Zoph, un vice-président de la recherche, ont annoncé leur départ. Un mois plus tôt, le cofondateur John Schulman avait annoncé son départ pour la startup rivale Anthropic. Plutôt dans l'année, le cofondateur et ancien scientifique en chef, Ilya Sutskever, quittait l'entreprise.
L'ancien responsable de la sécurité d'OpenAI, Jan Leike, a quitté l'entreprise en même temps qu'Ilya Sutskever et a rejoint le rival Anthropic. Le PDG d'OpenAI, Sam Altman, a déclaré que les départs de plusieurs cadres d'OpenAI n'étaient pas liés à la restructuration potentielle de la société : « nous y réfléchissons, notre conseil d'administration y réfléchit depuis près d'un an, indépendamment, en pensant à ce qu'il faut faire pour passer à l'étape suivante ».
« Ces dernières années, la culture et les processus de sécurité ont été relégués au second plan par rapport aux produits brillants », avait déclaré Jan Leike lors de son départ. Enfin, OpenAI est empêtré dans de nombreux procès pour violation de droit d'auteur intentés par des artistes, des acteurs et des groupes de médias.
Source : OpenAI
Et vous ?
:fleche: Quel est votre avis sur le sujet ?
:fleche: Que pensez-vous de la décision d'OpenAI de se restructurer en une société d'utilité publique ?
:fleche: Quels impacts cette décision pourrait-il avoir sur OpenAI ? Comment cela va-t-il affecter la sécurité de ses produits ?
Voir aussi
:fleche: La transformation d'OpenAI en une entité à but lucratif vise à protéger l'entreprise contre les OPA hostiles et le PDG Sam Altman de toute ingérence extérieure, selon un rapport
:fleche: OpenAI s'attend à 5 milliards $ de pertes cette année, et pour échapper à la faillite se restructure en société commerciale et cherche des investisseurs confiants dans la bulle IA pour se renflouer
:fleche: OpenAI veut s'affranchir du contrôle exercé par son conseil d'administration à but non lucratif, se restructurer en une société à but lucratif et donner des parts au PDG Sam Altman, selon un rapport
1 pièce(s) jointe(s)
Mort suspecte d’un lanceur d’alerte d’OpenAI : ses parents ne croient pas qu'il se soit suicidé
Mort suspecte d’un lanceur d’alerte d’OpenAI : ses parents ne croient pas qu'il se soit suicidé et exigent une seconde autopsie
pour lever le voile sur les circonstances
Un drame entouré de mystère secoue la communauté technologique. Les parents d’un ancien employé d’OpenAI expriment leurs doutes quant aux circonstances de sa mort, initialement déclarée comme un suicide. Suchir Balaji, devenu lanceur d'alerte concernant les pratiques de l'entreprise en matière de données, a été retrouvé mort dans son appartement à San Francisco le 26 novembre 2024. Il était cité comme témoin dans des affaires judiciaires contre OpenAI comme ayant des « documents pertinents » sur la violation présumée des droits d'auteur par la startup. Suchir Balaji a dénoncé publiquement ce qu'il appelle « la collecte massive et abusive des données » effectuée par OpenAI dans le cadre de la formation de ses modèles d'IA et s'est interrogé sur la légalité de cette pratique.
La mort tragique, à la fin du mois dernier, de l'ancien chercheur d'OpenAI, Suchir Balaji, retrouvé mort dans son appartement de Lower Haight à la suite d'un suicide apparent, suscite un peu plus d'intrigue.
Suchir Balaji avait récemment dénoncé l'utilisation par OpenAI d'œuvres protégées par le droit d'auteur pour entraîner son modèle d'intelligence artificielle ChatGPT, dans une interview publiée en octobre par le New York Times. Outre les problèmes juridiques liés à la consommation de matériel protégé par des droits d'auteur, Balaji a déclaré au Times qu'il ne s'agissait pas non plus d'un « modèle durable pour l'écosystème de l'internet dans son ensemble ».
Le 26 novembre, deux jours avant Thanksgiving, Balaji a été retrouvé mort dans son appartement de Buchanan Street. Le médecin légiste a conclu à un suicide et la police de San Francisco a déclaré qu'il n'y avait « aucune preuve d'acte criminel ».
La mère de Balaji, Poornima Ramarao, qui vit dans la région de la baie, a déclaré cette semaine au Bay Area News Group qu'elle et son mari « exigent une enquête approfondie » sur la mort de leur fils. Ils ne croient pas qu'il se serait suicidé et affirment que rien dans son état mental ne laissait présager une telle éventualité.
« Personne ne croit qu'il aurait pu faire cela », a déclaré madame Ramarao au groupe de presse. La mère explique que son mari et elle avaient parlé à leur fils pour la dernière fois le 22 novembre, lors d'un appel téléphonique de 10 minutes au cours duquel il n'avait rien indiqué de grave. Il avait dit qu'il sortait pour aller dîner.
Des circonstances troubles
Né en Floride et élevé dans la Bay Area, Balaji a été un prodige dès son plus jeune âge, a déclaré sa mère. Il prononçait son nom à 3 mois ; à 18 mois, il me demandait « d'allumer une lampe pour me remonter le moral » et pouvait reconnaître des mots à 20 mois, a-t-elle ajouté.
Balaji semble avoir un don pour la technologie, les mathématiques et l'informatique. Il a remporté des trophées et s'est fait connaître, notamment lors des Olympiades informatiques des États-Unis d'Amérique en 2016.
En 2020, il est allé travailler pour OpenAI, estimant que l'engagement de l'entreprise à fonctionner comme une organisation à but non lucratif était admirable, selon sa mère. Son opinion sur l'entreprise s'est détériorée en 2022, alors qu'il était chargé de recueillir des données sur Internet pour le programme GPT-4 de l'entreprise, a rapporté le New York Times. Ce programme analysait le texte de la quasi-totalité de l'internet afin d'entraîner son programme d'intelligence artificielle.
Madame Ramarao a déclaré qu'elle n'était pas au courant de la décision de son fils d'exprimer publiquement ses inquiétudes au sujet d'OpenAI jusqu'à ce que le journal publie son interview. Si elle s'est immédiatement inquiétée de sa décision (allant jusqu'à lui demander de consulter un avocat spécialisé dans les droits d'auteur) elle s'est également déclarée fière du courage de son fils.
Il n'a cessé de m'assurer : « Maman, je ne fais rien de mal, va voir l'article. Je dis simplement, à mon avis, qu'il n'y a rien de mal là-dedans », a déclaré madame Ramarao, elle-même ancienne employée de Microsoft qui a travaillé sur son programme de cloud computing Azure. « Je l'ai soutenu. Je ne l'ai pas critiqué. Je lui ai dit : « Je suis fière de toi, parce que tu as tes propres opinions et que tu sais ce qui est bien et ce qui est mal ».
Après avoir quitté l'entreprise, Balaji a décidé de créer une association à but non lucratif, centrée sur l'apprentissage automatique et les neurosciences, a déclaré madame Ramarao. Il s'est déjà entretenu avec au moins un investisseur en capital-risque pour obtenir un financement de départ. « Je lui demande, par exemple, comment il va gagner sa vie », a déclaré madame Ramarao. Elle se souvient que son fils a tenté à plusieurs reprises d'apaiser les inquiétudes concernant ses finances, en suggérant que « l'argent n'est pas important pour moi - je veux offrir un service à l'humanité ».
Balaji semblait également avoir un emploi du temps chargé. Il a fêté ses 26 ans lors d'une randonnée dans les îles Catalina avec plusieurs amis du lycée. Ce type de voyage était monnaie courante pour lui : en avril, il était parti avec plusieurs amis en Patagonie et en Amérique du Sud. Balaji a parlé à ses parents pour la dernière fois le 22 novembre, lors d'un appel téléphonique de 10 minutes qui a porté sur son récent voyage et qui s'est terminé par l'évocation du dîner.
« Il était très heureux », a déclaré Ramarao. « Il s'est éclaté. Il a passé l'un des meilleurs moments de sa vie ».
Ramarao se souvient d'avoir appelé son fils peu après midi le 23 novembre, mais elle a dit qu'il avait sonné une fois et qu'il était tombé sur la messagerie vocale. Estimant qu'il était occupé avec des amis, elle n'a pas essayé de se rendre à son appartement avant le 25 novembre, date à laquelle elle a frappé mais n'a pas obtenu de réponse. Elle dit avoir appelé les autorités le soir même, mais un centre de répartition de la police lui aurait dit qu'il n'y avait pas grand-chose à faire ce jour-là. Elle a fait un suivi le 26 novembre et la police de San Francisco a retrouvé le corps de Balaji dans son appartement.
Ramarao a déclaré qu'elle n'a été informée de la mort de son fils que lorsqu'une civière est apparue devant l'appartement de Balaji. Elle n'a été autorisée à entrer que le lendemain.
« Je ne pourrai jamais oublier cette tragédie », a déclaré madame Ramarao. « Mon cœur s'est brisé ».
Elle a remis en question l'enquête menée par les autorités sur la mort de son fils, affirmant que la police de San Francisco avait classé l'affaire et l'avait confiée au bureau du médecin légiste du comté dans l'heure qui a suivi la découverte du corps de Balaji. Elle a déclaré qu'elle et son mari avaient depuis demandé une seconde autopsie du corps de Balaji. Elle a refusé de divulguer les documents issus de cette autopsie. Son avocat, Phil Kearney, a refusé de commenter les résultats de l'autopsie indépendante de la famille.
L'attente de la vérité
La seconde autopsie pourrait devenir un point pivot dans cette affaire, apportant peut-être des réponses sur les causes réelles de cette tragédie. Pour l’instant, la famille espère que cette démarche permettra de lever le voile sur des zones d’ombre. « Nous ne voulons qu’une chose : la vérité », conclut le père du défunt, visiblement ému.
Cette affaire, déjà très médiatisée, pourrait avoir des répercussions importantes, non seulement pour OpenAI, mais aussi pour les standards de gouvernance et d’éthique dans l’industrie technologique. En attendant, l’attention demeure focalisée sur les résultats de la nouvelle autopsie et sur les éventuelles révélations à venir.
La mort de Balaji a provoqué une onde de choc dans la Silicon Valley et dans le secteur de l'intelligence artificielle.
Il s'est retrouvé sous les feux de la rampe à la fin du mois d'octobre lorsqu'il a accusé son ancien employeur, OpenAI, d'avoir enfreint la loi fédérale sur les droits d'auteur en siphonnant des données provenant de l'ensemble de l'internet pour former son chatbot à succès, ChatGPT.
Ses préoccupations ont confirmé les allégations formulées ces dernières années par des auteurs, des scénaristes et des programmeurs informatiques qui affirment qu'OpenAI a volé leur contenu sans autorisation, en violation des lois américaines sur « l'utilisation équitable » qui régissent l'utilisation d'œuvres publiées antérieurement.
Les entreprises de médias ont été parmi les premières à poursuivre la société.
OpenAI assure ne pas pouvoir gagner de l'argent sans utiliser gratuitement du matériel protégé par le droit d'auteur
La formation des modèles d’IA, tels que ceux développés par OpenAI, nécessite une quantité massive de données. Selon OpenAI, les matériaux disponibles dans le domaine public ne suffisent pas pour créer des modèles capables de répondre aux besoins actuels des utilisateurs. L’entreprise affirme que le droit d’auteur couvre pratiquement toutes les formes d’expression humaine, rendant ainsi indispensable l’utilisation de contenus protégés pour former des IA performantes.
Cette position a provoqué une vague de réactions négatives, notamment de la part de grandes institutions comme le New York Times et la Authors Guild. Ces entités accusent OpenAI de violer massivement les droits d’auteur et de profiter commercialement des œuvres protégées sans compensation adéquate. Les auteurs célèbres, tels que John Grisham et George R.R. Martin, ont également rejoint les rangs des plaignants, soulignant que l’utilisation non autorisée de leurs œuvres menace leur subsistance.
OpenAI supplie le Parlement britannique de l'autoriser à utiliser des œuvres protégées par le droit d'auteur, car il lui serait « impossible » d'entraîner ses modèles d'intelligence artificielle - et de poursuivre la croissance de son entreprise, qui pèse plusieurs milliards de dollars - sans ces œuvres.
La société d'intelligence artificielle a déclaré dans un document soumis à une sous-commission de la Chambre des Lords que l'utilisation exclusive de contenus du domaine public serait insuffisante pour entraîner le type de grands modèles de langage (LLM) qu'elle construit, suggérant que l'entreprise doit donc être autorisée à utiliser du matériel protégé par le droit d'auteur.
« Étant donné que le droit d'auteur couvre aujourd'hui pratiquement toutes les formes d'expression humaine - y compris les articles de blog, les photographies, les messages de forum, les bouts de code de logiciel et les documents gouvernementaux - il serait impossible d'entraîner les meilleurs modèles d'IA actuels sans utiliser des documents protégés par le droit d'auteur », a écrit l'entreprise dans son dossier de preuves. « Limiter les données d'entraînement aux livres et dessins du domaine public créés il y a plus d'un siècle pourrait donner lieu à une expérience intéressante, mais ne permettrait pas de fournir des systèmes d'IA répondant aux besoins des citoyens d'aujourd'hui ».
OpenAI poursuit en insistant dans le document, soumis au comité des communications et du numérique de la Chambre des Lords, sur le fait qu'elle se conforme aux lois sur le droit d'auteur et qu'elle estime que « légalement, la loi sur le droit d'auteur n'interdit pas l'entraînement ».
Source : interview de Poornima Ramara
Et vous ?
:fleche: Que pensez-vous du fait que les parents ont exigé une seconde autopsie ?
:fleche: Les mécanismes actuels de protection des lanceurs d’alerte sont-ils suffisants, notamment dans les secteurs technologiques ?
:fleche: Comment garantir que des individus dénonçant des pratiques problématiques puissent le faire sans craindre pour leur sécurité ?
:fleche: Les grandes entreprises technologiques doivent-elles être soumises à des régulations spécifiques pour prévenir ce type de situation ?
Les parents du lanceur d'alerte d'OpenAI décédé rejettent la thèse du suicide et engagent un détective privé
Les parents du lanceur d'alerte d'OpenAI décédé tragiquement engagent un détective privé pour faire la lumière sur la mort suspecte du jeune ingénieur
et demandent l'ouverture d'une enquête par le FBI
Le lanceur d'alerte d'OpenAI, Suchir Balaji, a été retrouvé mort dans son appartement de San Francisco le 26 novembre 2024, trois mois seulement après qu'il a accusé la société d'avoir violé les lois sur le droit d'auteur pendant le développement de ChatGPT. La police a qualifié sa mort de suicide, mais ses parents ont contesté cette conclusion. S'exprimant lors d'une veillée en l'honneur de Suchir Balaji, son père a déclaré qu'il était la dernière personne à lui avoir parlé, ajoutant qu'il était heureux et ne montrait aucun signe de dépression. La famille soupçonne un acte criminel, a engagé un détective privé et a demandé l'ouverture d'une enquête par le FBI.
Les parents de Suchir Balaji rejettent la thèse du suicide établie par la police
La mort de Suchir Balaji est un drame entouré de mystère qui secoue la communauté technologique depuis la fin du mois de novembre 2024. Ancien ingénieur chez OpenAI, le jeune homme de 26 ans avait démissionné en août 2024, avant de devenir un lanceur d'alerte au sujet des pratiques de l'entreprise en matière de données. Il avait accusé OpenAI d'avoir violé les lois sur le droit d'auteur en collectant massivement des données protégées pour former son IA.
Suchir Balaji a fait quelques sorties dans les médias au cours desquelles il a déclaré que leur travail chez OpenAI a porté préjudice aux artistes, éditeurs de presse, créateurs, écrivains, etc. Il a aussi remis en cause l'utilité et les avantages de ChatGPT, estimant qu'il ne s'agit pas d'un « modèle durable pour l'écosystème d'Internet dans son ensemble ». Malheureusement, Suchir Balaji a été retrouvé mort dans son appartement à San Francisco le 26 novembre 2024.
Une expertise médico-légale a conclu à un suicide et la police de San Francisco a déclaré qu'il n'y avait « aucune preuve d'acte criminel ». Seulement, les parents de Suchir Balaji ne croient pas à cette version des faits. Une vidéo émouvante du père de Suchir Balaji évoquant la mort de son fils a fait surface sur les réseaux sociaux. Le père de l'ingénieur a déclaré qu'il était la dernière personne à lui avoir parlé avant qu'il ne soit retrouvé mort dans son appartement.
Les parents de Suchir Balaji soupçonnent un acte criminel et ont demandé l'ouverture d'une enquête par le FBI. « Les parents du lanceur d'alerte d'OpenAI engagent un détective privé après que leur fils ait prétendument mis fin à ses jours, suggérant que leur fils a été tué. Les parents de Suchir Balaji, 26 ans, affirment que leur fils avait prévu de les voir en janvier et prétendent qu'il y avait des signes de dispute », peut-on lire dans un billet X qui a partagé la vidéo.
Dans la vidéo, le père de l'ingénieur, Balagi Ramamurthy, déclare : « j'ai été la dernière personne à lui parler. Il était plus heureux, pas déprimé ou quoi que ce soit d'autre. Et c'était la semaine de son anniversaire ». Sa mère, Poornima Ramarao, prend ensuite la parole et affirme : « il avait prévu de nous voir en janvier [2025]. C'est la dernière conversation téléphonique qu'il a eue avec quelqu'un. Il est entré dans son appartement et n'en est jamais ressorti ».
« Il n'y avait pas de lettre de suicide et il n'y avait personne d'autre sur les lieux, cela ne veut pas dire qu'ils peuvent en tirer des conclusions. Et nous avons vu des traces de sang dans la salle de bain, des signes de bagarre dans la salle de bain », poursuit-elle. Les parents du technicien d'origine indienne se sont exprimés devant le public lors d'une veillée organisée en l'honneur du jeune homme de 26 ans. Ces allégations contredisent les faits établis par la police.
Les parents reçoivent un grand soutien sur les plateformes de médias sociaux
En réponse à la vidéo des parents de Suchir Balaji, une personne a posté : « je fais confiance à l'intuition de la mère. Les mamans savent, c'est tout ». Un autre a ajouté : « cette histoire est insensée. Je suis heureux que ses parents cherchent la vérité ». Un troisième a écrit : « oui, il y a quelque chose qui ne colle pas... Un lanceur d'alerte meurt dans des circonstances suspectes, il y a des signes de bagarre, pas de mot, et des questions sans réponse ».
Un autre a écrit : « les circonstances suspectes entourant la mort de Suchir Balaji - un lanceur d'alerte d'OpenAI - sont profondément troublantes. L'absence de lettre de suicide, les signes de lutte et son récent bonheur soulèvent de sérieux doutes. Le moment choisi, quelques mois seulement après avoir accusé OpenAI de violations du droit d'auteur, ajoute encore aux interrogations ». Pour beaucoup, il faut qu'il y ait « une enquête approfondie et ouverte ».
Suchir Balaji est décédé trois mois seulement après qu'il a publiquement accusé OpenAI d'avoir violé les lois américaines sur les droits d'auteur lors du développement de ChatGPT. Selon certains rapports, les informations que Suchir Balaji avait fournies étaient censées jouer un rôle clé dans de nombreuses poursuites engagées contre l'entreprise. OpenAI a déclaré que l'ensemble de son travail sur ChatGPT était « légal en vertu des lois sur l'utilisation équitable ».
Suchir Balaji a déclaré à l'Associated Press qu'il essaierait de témoigner dans les affaires de violation de droits d'auteur les plus sérieuses et qu'il considérait le procès intenté par le New York Times comme « le plus sérieux ». Les avocats du Times l'ont cité dans un dossier déposé au tribunal le 18 novembre 2024 comme quelqu'un qui pourrait avoir des « documents uniques et pertinents » démontrant la violation délibérée du droit d'auteur par OpenAI.
Selon les récits sur Suchir Balaji, il était très apprécié par ses anciens collègues d'OpenAI. Un cofondateur d'OpenAI a même déclaré récemment que Suchir Balaji avait joué un rôle essentiel dans le développement de certains des produits d'IA générative de l'entreprise. « Les contributions de Suchir à ce projet ont été essentielles, et le projet n'aurait pas abouti sans lui », a déclaré John Schulman, cofondateur d'OpenAI, dans un hommage sur Suchir Balaji.
Suchir Balaji n'a pas été auditionné par les tribunaux et l'on ne sait pas dans quelle mesure ses déclarations seront admises comme preuves dans les affaires judiciaires après sa mort. Il a également publié un billet de blogue personnel dans lequel il fait part de ses opinions sur le sujet.
Suchir Balaji avait déclaré qu'il était de plus en plus désillusionné par OpenAI
Les dossiers de Suchir Balaji ont également été demandés par des avocats dans un procès distinct intenté par des auteurs de livres, dont la comédienne Sarah Silverman. « Il n'est pas normal de s'entraîner sur les données des gens et de leur faire concurrence sur le marché. Je ne pense pas que vous devriez être en mesure de faire cela. Je ne pense pas qu'il soit possible de le faire légalement », a expliqué Suchir Balaji à l'Associated Press fin octobre 2024.
Il a déclaré à l'Associated Press qu'il était de plus en plus désillusionné par OpenAI, en particulier après les troubles internes qui ont conduit son conseil d'administration à licencier le PDG, Sam Altman, en 2023, avant le réembaucher. Suchir Balaji a déclaré qu'il était globalement préoccupé par la manière dont ses produits commerciaux étaient déployés, notamment par leur propension à diffuser des informations erronées, connues sous le nom d'hallucinations.
Mais parmi les nombreux problèmes qui le préoccupent, il a déclaré qu'il se concentrait sur les droits d'auteur, car « il était réellement possible de faire quelque chose ». Suchir Balaji a reconnu qu'il s'agissait d'une opinion impopulaire au sein de la communauté des chercheurs en IA, qui a l'habitude de puiser des données sur Internet. Cela dit, Suchir Balaji a ajouté que les chercheurs en IA vont finir par changer d'avis et que c'est une question de temps.
John Schulman, qui a démissionné d'OpenAI en août 2024, a déclaré que Suchir Balaji et lui avaient quitté OpenAI le même jour, par coïncidence, et qu'ils avaient fêté leur départ avec d'autres collègues le soir même, en dînant et en buvant un verre dans un bar de San Francisco. Un autre des mentors de Suchir Balaji, le cofondateur et scientifique en chef Ilya Sutskever, avait quitté OpenAI quelques mois plus tôt, ce qui a motivé le départ de Suchir Balaji.
John Schulman a déclaré que Suchir Balaji lui avait fait part, au début de l'année, de son intention de quitter OpenAI et qu'il ne pensait pas qu’une IA meilleure que l'homme était à portée de main, comme le reste de l'entreprise semblait le croire. « Le jeune ingénieur a exprimé son intérêt pour l'obtention d'un doctorat et l'exploration d'idées plus éloignées des sentiers battus sur la manière de construire l'intelligence », a déclaré John Schulman.
Source : billet de blogue
Et vous ?
:fleche: Quel est votre avis sur le sujet ?
:fleche: Que pensez-vous du mystère entourant le décès tragique du lanceur d'alerte d'OpenAI ?
:fleche: Selon vous, quelle thèse est la plus plausible ? Que se passerait-il dans le cas d'un acte criminel ?
:fleche: Quels impacts cette affaire pourrait-elle avoir sur les lanceurs d'alerte à l'avenir ?
Voir aussi
:fleche: Mort suspecte d'un lanceur d'alerte d'OpenAI : ses parents ne croient pas qu'il se soit suicidé et exigent une seconde autopsie, relançant le débat sur la protection des lanceurs d'alerte dans le secteur tech
:fleche: Le lanceur d'alerte d'OpenAI décédé était considéré comme un témoin dans des procès contre l'entreprise, il détenait des « documents pertinents » démontrant les violations de droit d'auteur par OpenAI
:fleche: L'ancien chercheur d'OpenAI Suchir Balaji, devenu lanceur d'alerte, a été retrouvé mort, après avoir accusé OpenAI de violer des droits d'auteur, Elon Musk a posté une réaction énigmatique
1 pièce(s) jointe(s)
OpenAI lance ChatGPT Gov, une version de son chatbot spécialement conçue pour les agences gouvernementales US
OpenAI lance ChatGPT Gov : cette version de son chatbot spécialement conçue pour les agences gouvernementales américaines,
devrait répondre à des exigences strictes en matière de sécurité et confidentialité
OpenAI, soutenue par Microsoft, a annoncé le lancement de ChatGPT Gov, une version spécialement conçue de son chatbot, destinée aux agences gouvernementales américaines. Cette initiative vise à fournir aux institutions fédérales un accès sécurisé aux modèles avancés d'OpenAI, tels que GPT-4o, via une instance cloud Microsoft Azure dédiée, répondant ainsi aux exigences strictes en matière de sécurité et de confidentialité. Il permet aux agences gouvernementales, en tant que clients, d'alimenter les modèles d'OpenAI en « informations sensibles non publiques » tout en opérant dans leurs propres environnements d'hébergement sécurisés, a expliqué Kevin Weil, Chef Produit d'OpenAI.
Depuis le début de l'année 2024, OpenAI a déclaré que plus de 90 000 employés des gouvernements fédéraux, étatiques et locaux ont généré plus de 18 millions d'invites au sein de ChatGPT, utilisant la technologie pour traduire et résumer des documents, écrire et rédiger des mémos politiques, générer du code et construire des applications.
L'interface utilisateur de ChatGPT Gov ressemble à celle de ChatGPT Enterprise. La principale différence est que les agences gouvernementales utiliseront ChatGPT Gov dans leur propre cloud commercial Microsoft Azure ou dans le cloud communautaire Azure Government, afin qu'elles puissent « gérer leurs propres exigences en matière de sécurité, de confidentialité et de conformité », a déclaré Felipe Millon, qui dirige les ventes fédérales et la mise sur le marché pour OpenAI.
ChatGPT Gov offre aux agences gouvernementales des fonctionnalités similaires à celles de ChatGPT Enterprise, notamment la possibilité de sauvegarder et de partager des conversations au sein d'un espace de travail, de créer des GPT personnalisés et de disposer d'une console administrative pour les équipes informatiques. Cette personnalisation permet aux institutions de gérer efficacement des données sensibles non publiques, tout en optimisant leurs opérations internes.
OpenAI affirme que cette démarche s'aligne sur son engagement à soutenir l'intérêt national et le bien public, conformément aux valeurs démocratiques. En rendant ses produits accessibles au gouvernement américain, l'entreprise souhaite permettre aux décideurs d'intégrer de manière responsable ces capacités afin d'améliorer les services offerts aux citoyens.
Un usage qui faisait déjà débat en raison de ses effets potentiellement néfastes
Depuis que l'intelligence artificielle est utilisée par les agences gouvernementales, elle fait l'objet d'un examen minutieux en raison de ses effets potentiellement néfastes, en particulier pour les populations vulnérables et minoritaires, et des préoccupations relatives à la protection de la vie privée. L'utilisation de l'IA par la police a conduit à un certain nombre d'arrestations injustifiées et, en Californie, les électeurs ont rejeté un projet visant à remplacer le système de libération sous caution de l'État par un algorithme, craignant qu'il n'accroisse les préjugés.
Un porte-parole d'OpenAI a déclaré que l'entreprise reconnaît que l'utilisation de l'IA par le gouvernement comporte des considérations particulières, et OpenAI a écrit dans un article de blog mardi que le produit est soumis à ses politiques d'utilisation.
Citation:
Envoyé par OpenAI
Nous pensons que l'adoption de l'intelligence artificielle par le gouvernement américain peut stimuler l'efficacité et la productivité et qu'elle est essentielle pour maintenir et renforcer le leadership mondial de l'Amérique dans cette technologie. Chez OpenAI, nous développons l'IA pour aider les gens à résoudre des problèmes difficiles, et nous voyons un énorme potentiel pour ces outils afin d'aider le secteur public à relever des défis complexes, qu'il s'agisse d'améliorer la santé publique et les infrastructures ou de renforcer la sécurité nationale. En mettant nos produits à la disposition du gouvernement américain, nous voulons nous assurer que l'IA sert l'intérêt national et le bien public, dans le respect des valeurs démocratiques, tout en donnant aux décideurs politiques les moyens d'intégrer ces capacités de manière responsable afin de fournir de meilleurs services au peuple américain.
Nous annonçons aujourd'hui ChatGPT Gov, une nouvelle version adaptée de ChatGPT conçue pour fournir aux agences gouvernementales américaines un moyen supplémentaire d'accéder aux modèles d'OpenAI.
Les agences peuvent déployer ChatGPT Gov dans leur propre cloud commercial Microsoft Azure ou dans leur cloud gouvernemental Azure, au-dessus du service OpenAI de Microsoft Azure. L'auto-hébergement de ChatGPT Gov permet aux agences de gérer plus facilement leurs propres exigences en matière de sécurité, de confidentialité et de conformité, telles que les frameworks de cybersécurité rigoureux (IL5, CJIS, ITAR, FedRAMP High). En outre, nous pensons que cette infrastructure accélérera l'autorisation interne des outils d'OpenAI pour le traitement des données sensibles non publiques. L'utilisation de ChatGPT Gov est soumise à nos politiques d'utilisation, comme les autres services d'OpenAI.
Aaron Wilkowitz, ingénieur en solutions chez OpenAI, a fait la démo d'une journée dans la vie d'un nouvel employé de l'administration Trump aux journalistes, permettant à la personne de se connecter à ChatGPT Gov et de créer un plan de cinq semaines pour certaines de ses tâches, puis d'analyser une photo téléchargée du même plan imprimé avec des notes et des marques partout. Wilkowitz a également montré comment ChatGPT Gov pouvait rédiger un mémo à l'intention du service juridique et de la conformité, résumant son propre plan de travail généré par l'IA, puis traduire ce mémo dans différentes langues.
Un contexte de concurrence accrue dans le domaine de l'IA
Le lancement de ChatGPT Gov intervient dans un contexte de concurrence croissante dans le secteur de l'intelligence artificielle. R1, le LLM open source de la startup chinoise DeepSeek, a récemment surpassé ChatGPT en termes de téléchargements sur l'App Store, suscitant une attention accrue des investisseurs envers les entreprises technologiques américaines et leurs investissements en IA.
La situation a été particulièrement marquante à cause du contexte.
En octobre 2022, le gouvernement américain a commencé à mettre en place des contrôles à l'exportation qui restreignaient considérablement l'accès des entreprises chinoises spécialisées dans l'IA à des puces de pointe telles que la H100 de Nvidia. Cette mesure a posé un problème à DeepSeek. L'entreprise avait commencé avec un stock de 10 000 H100, mais elle avait besoin de plus pour concurrencer des entreprises comme OpenAI et Meta. « Le problème auquel nous sommes confrontés n'a jamais été le financement, mais le contrôle des exportations de puces avancées », a déclaré Liang Wenfeng à 36Kr lors d'une seconde interview en 2024.
DeepSeek a dû trouver des méthodes plus efficaces pour entraîner ses modèles. Ils ont optimisé l'architecture de leurs modèles à l'aide d'une batterie d'astuces techniques : schémas de communication personnalisés entre les puces, réduction de la taille des champs pour économiser de la mémoire et utilisation innovante de l'approche « mix-of-models » (mélange de modèles), explique Wendy Chang, ingénieure en logiciel devenue analyste politique à l'Institut Mercator d'études sur la Chine. « Bon nombre de ces approches ne sont pas nouvelles, mais les combiner avec succès pour produire un modèle de pointe est un exploit remarquable ».
DeepSeek a également réalisé des progrès significatifs en matière d'attention latente multitêtes (MLA) et de mélange d'experts, deux concepts techniques qui rendent les modèles DeepSeek plus rentables en exigeant moins de ressources informatiques pour l'entraînement. En fait, le dernier modèle de DeepSeek est si efficace qu'il a nécessité un dixième de la puissance de calcul du modèle Llama 3.1 de Meta, selon l'institut de recherche Epoch AI.
Les résultats ont été salué par le PDG d'OpenAI, Sam Altman lui-même, provoquant par la même occasion une chute de 17 % des actions de NVIDIA. Nvidia ne voit pas DeepSeek comme une menace et a tenu à rassurer les investisseurs après l'hécatombe sur les marchés. Nvidia estime que les progrès de DeepSeek montrent l'utilité de ses puces pour le marché chinois et que davantage de ses puces seront nécessaires à l'avenir pour répondre à la demande des services de DeepSeek.
Yann LeCun, responsable scientifique de la division IA chez Meta, a une perspective différente. Il a fait remarquer que la réussite de DeepSeek ne consistait pas à placer la Chine devant les États-Unis dans le secteur de l'IA, mais à s'assurer que les modèles open source restent en tête.
« Ce n'est pas que l'IA chinoise surpasse les États-Unis, mais plutôt que les modèles open source surpassent les modèles propriétaires », a-t-il déclaré. Selon lui, DeepSeek a bénéficié de l'open source et de la recherche ouverte. « Ils ont trouvé de nouvelles idées et les ont développées en s'appuyant sur le travail d'autres personnes. Comme leur travail est publié et qu'il s'agit d'une source ouverte, tout le monde peut en profiter », a déclaré Yann LeCun.
« C'est la force de la recherche ouverte et de l'open source », a-t-il ajouté. DeepSeek partage les mêmes attributs que Llama, les deux étant open source. Leur rival, OpenAI, qui était à l'origine censé développer une IA ouverte et accessible à tous, a depuis fermé ses sources, en opposition avec sa mission initiale.
Stargate : le nouveau projet de 500 milliards de dollars annoncé par Donald Trump en matière d'IA
Le président américain Donald Trump a annoncé un investissement du secteur privé pour financer l'infrastructure de l'intelligence artificielle, dans le but de dépasser les pays rivaux dans cette technologie essentielle pour les entreprises. Qualifiant ce projet d'infrastructure d'intelligence artificielle de « loin » le plus important de l'histoire, Trump a déclaré que la coentreprise appelée Stargate construirait des centres de données et créerait plus de 100 000 emplois aux États-Unis.
Le lancement de Stargate représente plus qu'un simple engagement financier sans précédent en faveur du développement de l'intelligence artificielle. Il marque un moment décisif où l'intelligence artificielle passe du statut de simple recherche technologique à celui de pierre angulaire de la stratégie nationale.
Enjeux et perspectives
Si l'intégration de ChatGPT Gov représente une avancée significative pour la modernisation des services publics, elle soulève également des questions importantes. La protection des données sensibles, les biais des algorithmes sont autant de défis que le gouvernement et OpenAI devront relever pour garantir une utilisation responsable et bénéfique de ces technologies.
Le lancement de ChatGPT Gov par OpenAI marque une étape importante dans l'adoption de l'intelligence artificielle par le secteur public américain. Cette initiative pourrait transformer la manière dont les agences gouvernementales interagissent avec les citoyens et gèrent les informations, tout en posant des défis en matière de sécurité, d'éthique et de gouvernance des données.
Source : OpenAI
Et vous ?
:fleche: L’adoption de ChatGPT par le gouvernement américain pourrait-elle renforcer la souveraineté technologique des États-Unis ou, au contraire, créer une dépendance excessive à OpenAI et Microsoft ?
:fleche: Comment garantir que les données sensibles traitées par ChatGPT Gov restent protégées face aux menaces cybernétiques et aux risques d’ingérence étrangère ?
:fleche: ChatGPT Gov peut-il réellement améliorer l’efficacité des agences gouvernementales ou s’agit-il d’un simple effet d’annonce ?
:fleche: Quelles tâches spécifiques les administrations pourraient-elles déléguer à ChatGPT sans risquer une perte de contrôle humain sur les décisions ?
:fleche: L’intelligence artificielle est-elle une solution aux lourdeurs bureaucratiques ou risque-t-elle de les aggraver en générant des erreurs et des biais ?
Voir aussi :
:fleche: Donald Trump accusé d'utiliser l'IA pour rédiger des décrets « glissants » avec des formulations « maladroites » et des erreurs typographiques. Les experts s'inquiètent des implications légales potentielles
1 pièce(s) jointe(s)
Un lanceur d'alerte d'OpenAI a été retrouvé mort dans son appartement. Sa mère veut maintenant des réponses
Un lanceur d'alerte d'OpenAI a été retrouvé mort dans son appartement. Sa mère veut maintenant des réponses
la mort de l'ingénieur logiciel dans des circonstances troubles reste un mystère
Le débat autour de la mort du lanceur d'alerte d'OpenAI Suchir Balaji ne s'arrête pas. Suchir Balaji est mort d'une blessure par balle à la tête. Son corps a été retrouvé dans son appartement à San Francisco et les médecins légistes ont conclu à un suicide. Mais ses parents rejettent catégoriquement la thèse du suicide et appellent à une enquête plus approfondie sur les circonstances troubles de la mort de leur enfant. L'ingénieur logiciel de 26 ans avait démissionné d'OpenAI, avant d'accuser publiquement l'entreprise de violer la loi sur le droit d'auteur. Suchir Balaji est mort alors qu'il était cité comme témoin dans des actions en justice contre OpenAI.
Qui était Suchir Balaji et quel était son rôle au sein d'OpenAI avant démission ?
Suchir Balaji, 26 ans, était un ingénieur logiciel. En 2021, il a obtenu une licence en informatique à l'université de Californie à Berkeley. Pendant ses études, il a effectué un stage à Scale AI en 2019. Avant de commencer ses études à l'UC Berkeley, Suchir Balaji avait pris une année sabbatique pour travailler comme ingénieur logiciel sur le forum en ligne Quora. Un ami qui a travaillé avec Suchir Balaji a déclaré que Scale AI semblait espérer qu'il reviendrait.
Toutefois, Suchir Balaji a été attiré par OpenAI, où il avait également effectué un stage. L'un des cofondateurs d'OpenAI, John Schulman, l'a directement recruté à sa sortie de l'université pour un emploi à temps plein. Avant de quitter OpenAI en août dernier, Suchir Balaji avait passé quatre ans parmi les meilleurs chercheurs de l'entreprise, ayant contribué au développement de son grand modèle de langage GPT-4, la technologie sous-jacente de ChatGPT.
Suchir Balaji s'est consacré à l'organisation des énormes ensembles de données utilisés pour former GPT-4. C'est ce travail qui a amené Suchir Balaji à s'interroger sur la technologie qu'il avait contribué à mettre au point, en particulier après que les éditeurs et les créateurs de contenus ont commencé à poursuivre OpenAI en justice. Cette vision l'a aidé à construire son opinion selon laquelle OpenAI enfreignait la loi en faisant des copies de contenu en ligne.
OpenAI est accusé de violation de droit d'auteur par les plaignants, qui réclament des lois pour protéger leurs moyens de subsistance contre l'essor de l'IA. Suchir Balaji partageait l'avis de ces travailleurs. Il a quitté OpenAI en août 2024, est devenu un lanceur d'alerte et attiré l'attention sur les pratiques de l'entreprise.
La désillusion : Suchir Balaji était mécontent à l'égard de la trajectoire d'OpenAI
OpenAI a été le premier emploi de Suchir Balaji à la sortie de l'université, un bond prodigieux qui, pour ses parents, était tout à fait prévisible. Mais trois amis ont déclaré à Fortune qu'au fil du temps, Suchir Balaji semblait se désillusionner peu à peu, partageant des mèmes pour communiquer son mécontentement à l'égard de la trajectoire d'OpenAI. D'après les témoignages de ses amis, il désapprouvait notamment de nombreuses pratiques de l'entreprise.
L'un des amis raconte que Suchir Balaji n'était pas d'accord avec l'approche d'OpenAI pour parvenir à l'intelligence générale artificielle (AGI), l'étoile Polaire du secteur de l'IA. Suchir Balaji se plaignait qu'OpenAI, qui a commencé comme une organisation à but non lucratif et qui a progressivement évolué vers une entreprise commerciale, se concentrait trop sur la vente de logiciels et n'était plus prête à investir suffisamment dans le domaine de la recherche.
Suchir Balaji aurait dit en plaisantant à des amis qu’AGI était l'abréviation de « adjusted gross income » (revenu brut ajusté). Ses amis ne se souviennent pas toutefois que Suchir Balaji ait fait part de ses préoccupations concernant l'approche de son ancien employeur en matière de droits d'auteur. Certains amis de longue date ont déclaré avoir été surpris lorsque Suchir Balaji a décidé de quitter OpenAI, tandis que d'autres ont déclaré l'avoir senti venir.
Suchir Balaji est parti en août 2024, le même mois que John Schulman. John Schulman qui a lui aussi fait une sortie très médiatisée. Tous les amis et membres de la famille interrogés par Fortune ont déclaré que les premiers mois de Suchir Balaji en dehors d'OpenAI avaient été normaux.
Il avait conseillé au moins une startup d'IA et s'était promené avec sa moto Yamaha dans San Francisco, en réfléchissant à ce qu'il allait faire ensuite. Cela dit, ses proches ignoraient qu'il avait l'intention de devenir un lanceur d'alerte sur ce qu'il considérait comme des violations flagrantes de la loi par OpenAI.
Le lanceur d'alerte : Suchir Balaji critique les pratiques de son ancien employeur
L'ancien ingénieur d'OpenAI a d'abord fait part de ses préoccupations au New York Times, qui les a rapportées dans un portrait de Suchir Balaji publié en octobre 2024. Notons que le New York Times poursuit OpenAI pour utilisation non autorisée de ses articles de presse par ChatGPT. Le témoignage de Suchir Balaji constituait donc un élément à charge que la publication américaine pouvait utiliser dans son procès très médiatisé contre OpenAI.
Sa mère, Poornima Ramarao, ne s'attendait pas à ce que son fils se prononce contre OpenAI, surtout de manière aussi publique. Elle avait eu l'impression qu'il n'était pas satisfait d'OpenAI au moment où il l'avait quittée. Mais lorsque l'article du New York Times a été publié, elle a été prise au dépourvu.
Dans une série d'entretiens, Suchir Balaji a expliqué à Cade Metz, journaliste du New York Times spécialisé dans les technologies, qu'il pensait qu'OpenAI causerait plus de tort que de bien à la société, et il a expliqué que la startup violait les lois sur le droit d'auteur en se fondant sur sa propre compréhension de la manière dont ses modèles sont formés. Cade Metz a publié son article en octobre 2024, ce qui a ravivé les critiques de longue date contre OpenAI.
Le même jour, Suchir Balaji a mis en ligne un essai détaillé sur son site Web personnel, expliquant qu'OpenAI enfreignait les lois sur l'utilisation équitable. Il a également déclaré à l'Associated Press qu'il essaierait de témoigner dans les affaires de violation de droits d'auteur les plus sérieuses contre OpenAI.
Il a ajouté qu'il considérait le procès intenté par le New York Times comme « le plus sérieux ». Les avocats du Times l'ont cité dans un dossier déposé au tribunal le 18 novembre 2024 comme quelqu'un qui pourrait avoir des « documents uniques et pertinents » démontrant la violation délibérée du droit d'auteur par OpenAI.
Suchir Balaji n'est pas le seul ancien employé à critiquer publiquement OpenAI
Suchir Balaji n'a pas été le premier ancien employé d'OpenAI à s'exprimer contre de l'entreprise. Un groupe de neuf personnes s'était déjà manifesté auprès du New York Times quelques mois auparavant, dénonçant une culture d'imprudence et une détérioration des protocoles de sécurité. Selon ces critiques, cette situation à exacerbée par le licenciement spectaculaire, puis le retour immédiat, du cofondateur et PDG Sam Altman au mois de novembre 2023.
Contrairement à ce groupe d'employés, Suchir Balaji n'a pas divulgué d'informations internes inconnues jusqu'alors sur l'entreprise, ce qui a amené certains à contester sa classification en tant que « lanceur d'alerte ». Certains critiques ont déclaré qu'il ne maîtrise pas les dispositions de la loi sur le droit d'auteur. Un avocat spécialisé dans la propriété intellectuelle affirme que l'analyse de Suchir Balaji « ne comprend pas la loi de manière fondamentale ».
Un autre avocat, Bradley Hulbert, spécialiste de la propriété intellectuelle, a déclaré à Fortune que l'article publié par Suchir Balaji ressemble à « l'argumentation d'un non-juriste très intelligent qui s'est documenté sur le sujet, mais n'en a pas une compréhension approfondie ».
Une mort mystérieuse : les circonstances troubles de la mort du lanceur d'alerte
Environ un mois après la publication de l'article du New York Times, Suchir Balaji était mort. On ne sait pas exactement combien de temps le corps de Suchir Balaji est resté dans l'appartement avant d'être découvert le 26 novembre 2024. Un drame entouré de mystère secoue la communauté technologique. L'enquête de la police de San Francisco a conclu au suicide de Suchir Balaji, mais ses parents expriment leurs doutes quant aux circonstances de sa mort.
Dès le jour où elle a appris sa mort, sa mère a commencé à penser que l'affaire de son fils ne faisait pas l'objet d'une enquête appropriée. Ses avocats exposent les faits dans leur plainte contre le service de police, déposée le 31 janvier 2025. D'après la plainte, un représentant du bureau du médecin légiste en chef (OCME) de la ville a informé Poornima Ramarao, environ 40 minutes après la découverte du corps, que son fils Suchir Balaji s'était suicidé.
L'action en justice affirme qu'aucun agent ou examinateur ne lui a posé de questions sur son fils, même lorsqu'elle les a informés qu'il avait dénoncé OpenAI. Le représentant lui a également dit qu'elle ne serait pas autorisée à voir son corps et que son visage avait été « détruit » lorsqu'une balle lui avait traversé l'œil. L'arme est enregistrée au nom de Suchir Balaji. Il l'avait achetée en janvier 2024. La police a déclaré n'avoir relevé aucune trace d'acte criminel.
Ayant des doutes, Poornima Ramarao a décidé d'engager un examinateur indépendant, le Dr Joseph Cohen, médecin légiste, pour procéder à une autopsie privée à la mi-décembre. Selon la plainte, le Dr Joseph Cohen a déterminé que la trajectoire de la balle, qui a traversé le milieu de la tête, était « atypique et peu commune » dans les suicides. Ce médecin indépendant aurait également relevé une « contusion » à l'arrière de la tête de Suchir Balaji.
Après avoir reçu le rapport de Cohen à la mi-décembre, Poornima Ramarao a envoyé une lettre par l'intermédiaire de ses avocats au service de police, à l'OCME et au bureau de l'administrateur municipal de San Francisco, demandant l'ouverture d'une enquête criminelle sur la mort de son fils, la décrivant comme « troublante ».
Selon la plainte déposée en janvier, ils n'ont jamais reçu de réponse officielle, mais les fonctionnaires de police ont informé « officieusement » ses avocats que les détectives avaient brièvement rouvert l'enquête pour examiner les enregistrements en circuit fermé de l'immeuble, avant de la clore à nouveau.
Les parents de Suchir Balaji pensent que leur fils a été assassiné
Poornima Ramarao est de plus en plus convaincue que son fils a été assassiné. Elle affirme que ses avocats l'ont orientée vers un autre enquêteur, le Dr Dinesh Rao, ancien médecin légiste en chef de l'unité de médecine légale du ministère jamaïcain de la Sécurité nationale. Le Dr Dinesh Rao n'a pas visité l'appartement de Suchir Balaji. Il a toutefois pu analyser des photos prises dans l'appartement et qui lui ont été envoyées par Poornima Ramarao.
Dans son rapport initial de 28 pages, le Dr Dinesh Rao soulève un certain nombre de questions : y a-t-il eu une lettre de suicide ? La police a-t-elle relevé des empreintes digitales sur les lieux ? Sur la base de preuves photographiques limitées, le Dr Dinesh Rao signale également des anomalies, notamment des cheveux qui ne semblent pas appartenir à Suchir Balaji, ainsi que des éclaboussures de sang qui ne semblent pas correspondre à un suicide.
En l'absence d'un rapport plus complet de la police, que les avocats réclament toujours, Poornima Ramarao s'est appuyée sur les preuves limitées dont elle dispose pour mener une campagne de sensibilisation du public. Le 29 décembre 2024, elle a posté sur X (anciennement Twitter) que la mort de son fils était un « meurtre de sang-froid déclaré par les autorités comme un suicide », demandant une enquête du FBI. Sa demande n'a pas eu de réponse.
Le message a été vu près de trois millions de fois et a reçu une réponse d'Elon Musk. « Cela ne ressemble pas à un suicide », a-t-il répondu. Elon Musk, qui était cofondateur d'OpenAI, mais qui l'a quittée en 2018 et dirige maintenant une entreprise concurrente, a une querelle de longue date avec Sam Altman d'OpenAI au sujet du statut d'organisation à but non lucratif de l'entreprise, et les deux se disputent souvent sur la plateforme de médias sociaux.
De nombreuses questions restent sans réponses et les théories se multiplient
Peu après la mort de Balaji, Poornima Ramarao a déclaré aux journalistes qu'elle ne pointait pas du doigt OpenAI. Depuis lors, ses efforts pour donner un sens à cette tragédie inexplicable se sont heurtés à un monde en ligne foisonnant de théories du complot qui ne demandent qu'à s'accrocher au chagrin et à l'incertitude. Alors qu'elle s'efforce d'obtenir des réponses, une vague de spéculations sans fondement s'est développée parallèlement à la procédure.
OpenAI a publié une déclaration sur X le 16 janvier 2025, indiquant qu'il avait contacté la police de San Francisco pour offrir son aide en cas de besoin. « Suchir était un membre apprécié de l'équipe et nous avons le cœur brisé par son décès », peut-on lire dans le communiqué publié par OpenAI.
Le rapport final de la police est attendu pour la fin du mois de février. Tant que la police n'aura pas publié son rapport final, il sera impossible de faire la part des choses. Cela n'a pas empêché les spéculations en ligne, alimentées par la quête de réponses de Poornima Ramarao, sur la mort de Suchir Balaji. Un phénomène similaire à celui du lanceur d'alerte de Boeing qui a été retrouvé mort en mars de l'année dernière. Il se serait également suicidé.
Daren Firestone, un avocat qui travaille régulièrement avec des lanceurs d'alerte, explique qu'il est courant pour eux de se sentir seuls et de douter. C'est en partie pour cette raison qu'il conseille à ses clients de rester anonymes et de passer par les voies officielles, telles que les lignes d'information du gouvernement.
« Cela crée une pression énorme sur quelqu'un et un sentiment d'isolement. Et si vous êtes isolé et que vous avez l'impression que le monde est contre vous, même les esprits les plus robustes peuvent être mis à rude épreuve », a expliqué Daren Firestone. Pour l'heure, la mort subite de Suchir Balaji reste un mystère.
OpenAI a confirmé qu'il s'appuie sur des œuvres protégées par le droit d'auteur
Ces dernières années, les capacités des chatbots d'IA, comme ChatGPT d'OpenAI, se sont considérablement améliorées ; ils s'appuient sur de grands modèles de langage (LLM) pour produire du contenu pour les utilisateurs. Mais le processus de formation est largement controversé, certains éditeurs accusant OpenAI d'utiliser des œuvres protégées par des droits d'auteur sans autorisation, et un certain nombre d'affaires juridiques sont en cours.
Défendant ses pratiques commerciales dans un récent procès, OpenAI a déclaré : « les modèles apprennent, comme nous le faisons tous, de ce qui a été fait auparavant. La défense de l'usage équitable existe précisément pour cette raison : encourager et permettre le développement de nouvelles idées qui s'appuient sur des idées antérieures ». Cette défense d'OpenAI est conforme aux précédentes déclarations de l'entreprise sur la formation de ses modèles.
En janvier 2024, OpenAI affirmait : « étant donné que le droit d'auteur couvre aujourd'hui pratiquement toutes les formes d'expression humaine, il serait impossible d’entraîner les meilleurs modèles d'IA d'aujourd'hui sans utiliser des documents protégés par le droit d'auteur ». OpenAI reconnaît ouvertement qu'il utilise des contenus protégés par des droits d'auteurs pour créer ses modèles d'IA. L'entreprise n'a toutefois pas encore été condamnée.
Plusieurs éditeurs de presse ont poursuivi Microsoft et OpenAI pour violation du droit d'auteur. Parmi les poursuivants, on peut noter les éditeurs de presse de Californie, du Colorado, de l'Illinois, de Floride, du Minnesota et de New York. Certains procès sont en cours, mais le 7 novembre 2024, le juge de district américain Colleen McMahon, à New York, a rejeté une poursuite contre OpenAI qui avait été intentée par les médias Raw Story et AlterNet.
Selon les experts, la porte de sortie de la situation semble résider dans la conclusion d’accords de licence avec les éditeurs de presse. L'Associated Press et OpenAI ont conclu un accord de licence permettant à OpenAI d'accéder à une partie des archives textuelles du média. Mais ces accords sont controversés.
Et vous ?
:fleche: Quel est votre avis sur le sujet ?
Voir aussi
:fleche: Mort suspecte d'un lanceur d'alerte d'OpenAI : ses parents ne croient pas qu'il se soit suicidé et exigent une seconde autopsie, relançant le débat sur la protection des lanceurs d'alerte dans le secteur tech
:fleche: Le lanceur d'alerte d'OpenAI décédé était considéré comme un témoin dans des procès contre l'entreprise, il détenait des « documents pertinents » démontrant les violations de droit d'auteur par OpenAI
:fleche: Des lanceurs d'alerte affirment qu'OpenAI a illégalement interdit à son personnel de divulguer les risques de sécurité liés à son IA, en s'appuyant sur des accords contraignants et des menaces de représailles
Bien sûr, ce n'est pas un suicide !
Bien sûr, ce n'est pas un suicide !
Les intérêts financiers engagés sont trop importants pour laisser dire que l'IA générative de OpenAI transgresse les droits d'auteur !
Moi, ancien informaticien, vous affirme que l'IA n'est en fait construit qu'à partir d'un ou plusieurs algorithmes écrits par des analystes-programmeurs (ou codeurs de nos jours),
afin d'automatiser une prise de décision en utilisant une base de données dédiée au problème à résoudre... C'est, somme toute de l'informatique, point barre !
Et pour parler de l'IA générative, eh bien oui, pour qu'elle puisse pleinement s'exprimer, elle va relire toutes les publications contenues sur le réseau internet sur le sujet traité, mais aussi celles
protégées par le droit d'auteur....Tout ceci pour servir un résultat plus ou moins faux, puisque basé uniquement sur des publications dont le texte n'est pas "scientifiquement" validé...
Donc, si vous demandez à Chat GPT si la majorité de la population est raciste, il vous répondra invariablement OUI puisque basé sur des publications de racistes qui sont bien plus nombreuses
que celles des non-racistes !
Le seul avantage de l'IA est celle qui est liée aux analyses des images ou vidéos : là oui, il faut de nombreux clusters pour pouvoir analyser des Tera octets de données vidéos, pour
pourvoir analyser une prise de vue et détecter si la personne filmée est porteuse d'une arme ou non....
Bon Bref, toute ces envolées sur l'IA n'est que pure mascarade et toutes les valorisations des sociétés proposant de l'IA sont tout à fait incongrues !
Dernier mot pour bien comprendre : hier, j'ai vu un reportage sur une boulangerie de la chaîne ANGE : le gérant utilise un logiciel qui analyse ses ventes et lui prédit, de façon statistique,
à quel moment de la journée ou de la semaine il va pouvoir vendre plus de pâtisseries. Le journaliste titre "L'IA envahit nos boulangeries" !!! Mais de qui se moque-t-on ?
...Ben de tous ceux qui se font berner et croient "acheter de l'IA" ! Quelle inconscience, que de naïveté, c'est simplement un logiciel informatique, point barre !
La police de San Francisco a officiellement confirmé le suicide du lanceur d'alerte d'OpenAI Suchir Balaji
La police de San Francisco a officiellement déclaré que la mort du lanceur d'alerte d'OpenAI Suchir Balaji était un suicide, mais sa mère a déclaré que la police avait écrit des informations inexactes
La police de San Francisco a officiellement déclaré que la mort du lanceur d'alerte d'OpenAI Suchir Balaji était un suicide. "L'OCME n'a trouvé aucune preuve ou information permettant d'établir une cause et un mode de décès pour Balaji autre qu'un suicide par blessure par balle auto-infligée à la tête", affirme le rapport d'autopsie. Mais sa mère a déclaré que la police avait écrit des informations inexactes dans les rapports d'autopsie et de police.
Le 26 novembre 2024, le lanceur d'alerte d'OpenAI Suchir Balaji a été retrouvé mort dans son appartement à San Francisco. Il est mort d'une blessure par balle à la tête et les médecins légistes ont conclu à un suicide. Mais ses parents rejettent catégoriquement la thèse du suicide et appellent à une enquête plus approfondie sur les circonstances troubles de la mort de leur enfant, affirmant fréquemment qu'il avait été assassiné.
L'ingénieur logiciel de 26 ans avait démissionné d'OpenAI, avant d'accuser publiquement l'entreprise de violer la loi sur le droit d'auteur, dans ce qu'il appelle "la collecte massive et abusive des données" effectuée par OpenAI. Suchir Balaji était notamment cité comme témoin dans des actions en justice contre OpenAI. Des rapports ont affirmé qu'il possédait des "documents pertinents" sur la violation présumée des droits d'auteur par la startup.
Après des semaines d'enquête et des demandes répétées, les autorités ont confirmé leurs conclusions initiales, concluant qu'il n'y avait aucune preuve d'homicide. Le lanceur d'alerte d'OpenAI Suchir Balaji s'est suicidé, a confirmé la police de San Francisco en citant un rapport d'autopsie.
Dans un rapport de 13 pages du Bureau du médecin légiste en chef (OCME) et une réponse commune de quatre pages à la plainte, la police de San Francisco et les médecins légistes ont annoncé le 14 février 2025 que l'enquête sur la mort de Balaji était officiellement close. Ils ont confirmé leur conclusion initiale, à savoir qu'il s'était suicidé.
"L'OCME n'a trouvé aucune preuve ou information permettant d'établir une cause et un mode de décès pour Balaji autre qu'un suicide par blessure par balle auto-infligée à la tête", peut-on lire dans le rapport du médecin légiste. "Le SFPD a mené une enquête indépendante et, sur la base des informations examinées par le SFPD, il n'y a pas suffisamment de preuves pour conclure que la mort de Balaji est le résultat d'un homicide".
Cependant, les parents de Balaji ont accusé la police d'avoir commis des erreurs lors de l'autopsie et ont souligné qu'elle n'avait pas réussi à obtenir les images de vidéosurveillance de l'immeuble où il vivait. Ils ont ajouté qu'il n'y avait pas de lettre de suicide.
Poornima Rao, la mère de Suchir Balaji, a déclaré que le SFPD avait écrit des informations inexactes dans les rapports d'autopsie et de police. "Ils n'ont jamais récupéré les images de vidéosurveillance du bureau de location. Nous avons besoin du rapport de la police. Nous demandons seulement une enquête transparente", a-t-elle écrit sur X.
Fait intéressant, Suchir Balaji n'était pas le seul à critiquer OpenAI après avoir quitté l'entreprise. Récemment, Steven Adler a annoncé qu'il a quitté son poste de chercheur en sécurité de l'IA chez OpenAI. Il a également profité de l'occasion pour lancer un avertissement concernant la course effrénée de l'industrie vers l'intelligence artificielle générale (AGI). Il a qualifié la course mondiale vers l'AGI de "pari très risqué, avec d'énormes inconvénients pour l'humanité". Il affirme que les entreprises d'IA, y compris OpenAI, ne savent pas comment aligner l'IA sur les valeurs humaines, ce qui fait peser une menace existentielle sur l'humanité. Il appelle à une réflexion sur le sujet.
En outre, des rapports en juillet 2024 avaient révélé que l'OpenAI avait mis en place des accords contraignants visant à faire taire les lanceurs d'alerte qui seraient tentés d'évoquer publiquement les risques relatives à sa technologie d'IA. Une plainte déposée auprès de la Securities and Exchange Commission (SEC) des États-Unis accusait OpenAI d'avoir violé les droits des lanceurs d'alerte. La plainte indique qu'OpenAI a illégalement interdit à ses employés de divulguer aux régulateurs des informations sur les risques de sa technologie pour l'humanité. OpenAI aurait réduit ses employés au silence et a violé sa promesse de tester la dangerosité de son IA avant de la diffuser.
Source : Police de San Francisco
Et vous ?
:fleche: Pensez-vous que cette conclusion de la police est crédible ou pertinente ?
:fleche: Quel est votre avis sur le sujet
Voir aussi :
:fleche: L'ancien chercheur d'OpenAI Suchir Balaji, devenu lanceur d'alerte, a été retrouvé mort, après avoir accusé OpenAI de violer des droits d'auteur. Elon Musk a posté une réaction énigmatique
:fleche: Le New York Times et d'autres médias intentent un procès contre OpenAI qui pourrait mettre en jeu l'avenir de ChatGPT. Microsoft et OpenAI tentent de le faire annuler
:fleche: Edward Snowden : « ils ont tombé le masque : ne faites jamais confiance à OpenAI ou à ses produits ». Le lanceur d'alerte dénonce la décision d'OpenAI de nommer un ancien directeur de la NSA à son conseil
Les relations entre Microsoft et OpenAI ne sont pas au beau fixe. Microsoft développe des modèles d'IA
Les relations entre Microsoft et OpenAI ne sont pas au beau fixe. Microsoft développe des modèles d'IA capables de rivaliser avec ceux d'OpenAI et d'Anthropic
afin de se débarrasser de sa dépendance à OpenAI
Un nouveau rapport indique que Microsoft est en train de développer ses propres modèles axés sur le raisonnement et teste des modèles tiers. Microsoft aurait testé les modèles de DeepSeek, Meta et xAI d'Elon Musk dans son chatbot Copilot. Le rapport indique que Microsoft envisage de rompre ses liens avec OpenAI et de se débarrasser de sa dépendance excessive aux technologies de la startup. Microsoft a déjà exprimé des plaintes concernant le modèle GPT-4 d'OpenAI, jugé trop coûteux et pas assez rapide pour répondre aux questions des utilisateurs. Microsoft semble également vouloir se débarrasser de ce partenariat pour éviter des poursuites judiciaires.
Microsoft travaillerait sur des modèles aussi performants que ceux d'OpenAI
Le média The Information rapporte que Microsoft travaille sur ses propres grands modèles langages (LLM) afin de remplacer les modèles d'OpenAI sur lesquels s'appuient actuellement ses outils d'IA. Une personne au fait des initiatives de Microsoft a confié sous couvert d'anonymat que lors de récents tests, les modèles sur lesquels travaille Microsoft ont récemment produit des résultats compétitifs par rapport aux modèles des rivaux à la pointe de la technologie.
Les modèles de cette famille, baptisée « MAI », pourraient être utilisés pour une variété de tâches. Microsoft développe aussi des modèles axés sur le raisonnement, conçus pour répondre à des questions plus complexes et pour résoudre des problèmes à la manière des humains. OpenAI et Anthropic, ainsi qu'Alphabet travaillent également sur de tels modèles. Le mois dernier, Microsoft a intégré le modèle o1 axé sur le raisonnement o1 d'OpenAI dans Copilot.
Selon le rapport, à terme, les modèles MAI de Microsoft visent à réduire la dépendance de l'entreprise à l'égard d'OpenAI. Microsoft propose déjà un ensemble de modèles plus petits, appelés « Phi », qu'il a développé lui-même, et revend des modèles d'IA fabriqués par un large éventail d'autres entreprises.
« Nous sommes très fiers d'avoir des modèles de pointe issus d'OpenAI. Mais nous avons aussi d'autres modèles, y compris ceux que nous construisons, pour nous assurer qu'il y a du choix », a déclaré Amy Hood, directrice financière de Microsoft. En outre, selon le rapport de The Information, Microsoft teste également comment les modèles de sociétés telles qu’Anthropic, DeepSeek, Meta et xAI d'Elon Musk pourraient soutenir assistant de productivité Copilot.
Le partenariat entre Microsoft et OpenAI semble avoir du plomb dans l'aile
Le partenariat entre Microsoft et OpenAI est complexe. Comme vous le savez peut-être, le géant de Redmond a investi plusieurs milliards de dollars dans le fabricant de ChatGPT. Des analystes estiment à plus de 10 milliards de dollars les investissements de Microsoft dans OpenAI entre 2019 et 2023. Ce partenariat faisait de Microsoft le fournisseur exclusif de services cloud à OpenAI et OpenAI offre à Microsoft un accès spécial à ses dernières technologies.
Mais ces derniers mois, il y a déjà eu des murmures selon lesquels Microsoft souhaitait se débarrasser de sa dépendance à l'égard d'OpenAI, en partie parce que le géant de Redmond s'inquiète du prix et de la rapidité de la technologie d'OpenAI sur laquelle se base son assistant de productivité Copilot.
Microsoft Copilot a jusqu'à présent été mal accueilli par les utilisateurs et les entreprises en raison d'un certain nombre de problèmes, notamment son coût élevé et ses réponses limitées. Il peut être utile pour accomplir certaines tâches plus simples, comme placer un texte préparé dans un diaporama.
Le partenariat entre Microsoft et OpenAI a également remis en cause après qu'OpenAI a dévoilé son projet Stargate de 500 milliards de dollars, conçu pour faciliter la construction de centres de données à travers les États-Unis. OpenAI s'est allié à SoftBank et Oracle dans le cadre de ce grand projet. Certains analystes voient dans le projet Stargate un signe de la rupture progressive du lien entre Microsoft et OpenAI, un partenariat qui fait l'objet de critiques.
Les analystes restent néanmoins sceptiques quant aux chances de réussite de ce projet. En outre, le projet Stargate est intervenu après que Microsoft a libéré OpenAI du contrat qui l'obligeait à utiliser exclusivement sa plateforme de cloud computing Azure pour tous ses besoins en matière d'hébergement.
En s'éloignant d'OpenAI, Microsoft tente également d'échapper aux poursuites judiciaires à l'issue des examens antitrust en cours. Les régulateurs britanniques et américains enquêtent sur le partenariat entre Microsoft et OpenAI afin de déterminer si ce dernier nuit à la concurrence dans le domaine de l'IA.
OpenAI aurait commencé à verrouiller l'accès à ses technologies à Microsoft
Microsoft et OpenAI ont récemment renégocié leur accord. Ils ont annoncé en janvier 2025 qu'OpenAI pourrait héberger ses services auprès d'autres fournisseurs de services de cloud computing, à condition que Microsoft ne veuille pas de cette activité elle-même. L'accord est valable jusqu'en 2030. Un aspect intéressant de ce partenariat est que, dans le cadre de son investissement, Microsoft conserve le droit d'utiliser la propriété intellectuelle d'OpenAI.
Le rapport de The Information suggère toutefois qu'OpenAI se montre de plus en plus réticent quant au fait d'ouvrir sa technologie à Microsoft. Selon le rapport, OpenAI n'a pas voulu partager avec Microsoft la documentation expliquant comment il a construit son modèle o1 axé sur le raisonnement :
Citation:
Envoyé par Extrait du rapport
À l'automne dernier, lors d'un appel vidéo avec des dirigeants d'OpenAI et de Microsoft, [Mustafa] Suleyman, qui dirige l'unité interne d'IA de Microsoft, a demandé aux employés d'OpenAI d'expliquer comment fonctionnait son dernier modèle, o1. Il était mécontent qu'OpenAI ne fournisse pas à Microsoft de la documentation sur la manière dont il a programmé o1 pour qu'il réfléchisse aux questions des utilisateurs avant d'y répondre.
Il semble que les deux partenaires comprennent qu'ils deviennent rapidement des concurrents. Le PDG de Microsoft, Satya Nadella, a peut-être surestimé le contrôle qu'il pourrait exercer sur OpenAI. Lors d'une interview à la fin de l'année 2022, Satya Nadella s'était demandé pourquoi Microsoft développerait ses propres modèles de fondation alors que le géant de Redmond pouvait simplement utiliser les modèles d'IA avancés développés par OpenAI.
Il semble que le ton ait changé depuis que le PDG d'OpenAI, Sam Altman, est apparu à la Maison Blanche pour annoncer l'initiative Stargate. Microsoft aurait aussi l'intention de vendre l'accès à son propre modèle axé sur le raisonnement aux clients, empiétant ainsi directement sur l'espace d'OpenAI.
Rupture entre Microsoft et OpenAI : quels impacts sur les deux entreprises ?
Il est logique que Microsoft veuille se détacher d'OpenAI. Si les deux sociétés doivent rester indépendantes et si l'IA est appelée à devenir le prochain grand changement de plateforme, comme le prédisent certains experts, Microsoft a intérêt à contrôler les technologies et à écrire son propre destin.
OpenAI est actuellement une association à but non lucratif, mais il s'efforce depuis un certain temps de se convertir en une entité à but lucratif afin de pouvoir lever davantage de fonds et de se libérer des obligations d'une association à but non lucratif d'opérer uniquement dans l'intérêt du public. D'une certaine manière, Microsoft tente de capturer la valeur de l'essor de l'IA partout où cela est possible, notamment avec ses produits Microsoft 365.
Peut-être que les modèles de Microsoft l'emporteront ou peut-être que ceux d'OpenAI l'emporteront. Ou peut-être que DeepSeek, le modèle open source chinois, est l'avenir des modèles, et que tout ce qui compte, c'est la couche applicative, où Microsoft domine dans le monde de l'entreprise. Dans tous les cas, la firme de Redmond n'a manifestement pas l'intention de prendre le moindre risque et préfère placer de nombreuses pièces d'échecs sur l'échiquier.
OpenAI, quant à lui, brûle de l'argent comme du petit bois. Il s'attendait à brûler environ 5 milliards de dollars l'année dernière, après avoir payé des dépenses importantes telles que les actions des employés. OpenAI perd des milliards par an malgré sa croissance rapide et ses coûts de calcul ne cessent d'augmenter, sans aucun signe de modèle économique stable en vue. La startup perd de l'argent même en facturant 200 dollars par mois à ses clients.
Plus récemment, un rapport a révélé qu'OpenAI envisagerait de facturer jusqu'à 20 000 dollars par mois l'accès à ses agents d'IA de niveau doctorat. Mais ce plan de facturation est fortement controversé en raison de l'hallucination et des nombreuses autres limites dont l'IA souffre actuellement.
Par ailleurs, les analystes expriment de sérieux doutes quant à la faisabilité financière et à la nécessité du projet Stargate. La dépendance excessive à la puissance de calcul pourrait ne pas être la voie optimale vers l'intelligence artificielle générale (AGI). L'IA chinoise DeepSeek a remis en question cette approche et Elon Musk, l'un des principaux alliés du président américain Donald Trump, a décrié le projet Stargate et a mis en garde contre Sam Altman.
Le projet de Sam Altman est comparé à un délire de science-fiction. Le nom « Stargate » fait référence à un film de science-fiction de 1994, dans lequel « la porte des étoiles est un ancien portail de transport contrôlé par un dirigeant tout-puissant ». L'initiative a suscité des réactions mitigées après l'annonce.
Et vous ?
:fleche: Quel est votre avis sur le sujet ?
:fleche: Que pensez-vous du divorce lent entre Microsoft et OpenAI ?
Voir aussi
:fleche: Microsoft prépare un nouveau modèle d'IA pour concurrencer Google et OpenAI. MAI-1 est décrit comme étant « bien plus grand » que les précédents modèles open source de Microsoft
:fleche: La FTC s'inquiète du partenariat entre Microsoft et OpenAI sur le marché de l'IA, car l'investissement de 13 milliards $ pourrait étendre la domination de Microsoft sur le cloud computing au marché de l'IA
:fleche: Microsoft quitte le conseil d'administration d'OpenAI alors que l'examen antitrust des pactes d'IA s'intensifie, cette participation a été obtenue après le chaos causé par l'éviction brutale de Sam Altman
Mort suspecte du lanceur d'alerte d'OpenAI Suchir Balaji : sa mère allègue un « complot d'assassinat »
« Complot d'assassinat » : la mère de Suchir Balaji, le lanceur d'alerte d'OpenAI, partage une photo prise le jour de sa mort et affirme que plusieurs caméras de vidéosurveillance ont cessé de fonctionner
La mort subite et mystérieuse de Suchir Balaji, un ancien employé d'OpenAI devenu lanceur d'alerte, continue de défrayer la chronique. Sa mère rejette la thèse du suicide et allègue un complot d'assassinat. Elle remet en question le rapport toxicologique et souligne des problèmes liés à la vidéosurveillance de l'immeuble d'habitation de son fils. Elle a partagé une photo prise le jour de la mort de Suchir Balaji et affirme que plusieurs caméras de vidéosurveillance avaient cessé de fonctionner. La famille appelle le FBI à ouvrir une nouvelle enquête sur ce drame. Peu avant sa mort, Suchir Balaji avait dénoncé ce qu'il appelle « la collecte massive et abusive de données » d'OpenAI.
Suchir Balaji retrouvé mort dans son appartement : un suicide ou un meurtre ?
Le corps sans vie de Suchir Balaji a été découvert dans son appartement à San Francisco le 26 novembre 2024. Il s'agit d'un drame entouré de mystère qui continue de secouer la communauté technologique. Suchir Balaji est mort d'une blessure par balle à la tête. L'enquête de la police de San Francisco a conclu au suicide de Suchir Balaji. Mais ses parents rejettent catégoriquement la thèse du suicide en raison de doutes quant aux circonstances de sa mort.
Sa mère, Poornima Ramarao, est convaincue que son fils a été assassiné. Plusieurs mois après le drame Poornima Ramarao a une fois de plus qualifié l'incident de « complot d'assassinat ». Elle a partagé une photo qui daterait du jour de sa mort, sur laquelle on voit Suchir Balaji attendre un ascenseur, un sac en papier brun à la main. Selon Poornima Ramarao, il s'agit de son dîner. Elle a indiqué que l'image provient de la vidéosurveillance de son immeuble.
Elle s'en est servie comme preuve pour contester la thèse officielle de suicide, arguant que son fils ne montrait pas de signes de détresse avant sa mort. Elle a ajouté que, bien qu'ayant vu cette vidéo, le bureau du médecin légiste en chef (OCME) a déclaré que son fils était dépressif et a conclu à un suicide.
Citation:
Envoyé par Poornima Ramarao
Photo de Suchir le jour de sa mort à 19h30, en train de dîner. Elle provient d'une vidéo de surveillance. L'OCME a vu cette vidéo et a conclu qu'il était déprimé et a parlé de suicide.
Autre dissimulation de l'OCME : il a déclaré à notre avocat que le GHB était endogène trois jours après la mort. Mais nous avons découvert que le niveau de GHB endogène est inférieur à 5000 ng/L. Une ligne du rapport d'autopsie indique que le rapport toxicologique n'inclura le GHB que s'il est supérieur à 5 000 ng/l. Combiné à l'alcool, il s'agit d'un sédatif. Avec cette combinaison, il perdra le contrôle de ses muscles et sera peut-être inconscient. Nous attendons le rapport écrit du toxicologue.
Le GHB (ou acide gamma-hydroxybutyrique) est un dépresseur du système nerveux central, ce qui signifie qu'il ralentit les messages qui circulent entre le cerveau et le reste du corps. Il cause la somnolence et réduit le rythme cardiaque. Il sert à traiter les troubles du sommeil, mais peut être dangereux en cas d'abus.
La mère du lanceur d'alerte a fait suivre la photo d'un autre message dans lequel elle affirme : « le complot d'assassinat a été exécuté sur le long terme ». Elle a ajouté que plusieurs caméras de vidéosurveillance situées près de l'endroit où vivait Suchir Balaji avaient cessé de fonctionner avant sa mort.
« La vidéosurveillance du garage de l'appartement de Suchir et des voisins a cessé de fonctionner. L'une des caméras de vidéosurveillance de l'ascenseur a également cessé de fonctionner. Ce complot est exécuté sur la base d'une planification à long terme et d'une surveillance de Suchir », a écrit Poornima Ramarao. Elle a également partagé le message d'une utilisatrice de X (ex-Twitter) qui affirmait que « Balaji n'était pas déprimé, bien au contraire ».
« Suchir n'a pas mis fin à ses jours. Il était une force sans peur, débordant d'une détermination féroce, d'une joie inébranlable et d'une vigueur flamboyante, déversant chaque once de son esprit radieux dans une poursuite implacable de la justice », indique le message de l'utilisatrice Mia Stretch.
Poornima Ramarao a précédemment rejeté les conclusions du rapport d'autopsie final. « Il y a des tonnes d'incohérences dans leur décision. Les hypothèses mensongères n'étayent pas les faits présentés dans les rapports. Nous poursuivons notre enquête », avait déclaré Poornima Ramarao.
Qui était Suchir Balaji et quel était son rôle au sein d'OpenAI avant démission ?
Suchir Balaji, 26 ans, était un ingénieur logiciel. En 2021, il a obtenu une licence en informatique à l'université de Californie à Berkeley. Pendant ses études, il a effectué un stage à Scale AI en 2019. Avant de commencer ses études à l'UC Berkeley, Suchir Balaji avait pris une année sabbatique pour travailler comme ingénieur logiciel sur le forum en ligne Quora. Un ami qui a travaillé avec Suchir Balaji a déclaré que Scale AI semblait espérer qu'il reviendrait.
Toutefois, Suchir Balaji a été attiré par OpenAI, où il avait également effectué un stage. L'un des cofondateurs d'OpenAI, John Schulman, l'a directement recruté à sa sortie de l'université pour un emploi à temps plein. Avant de quitter OpenAI en août dernier, Suchir Balaji avait passé quatre ans parmi les meilleurs chercheurs de l'entreprise, ayant contribué au développement de son grand modèle de langage GPT-4, la technologie sous-jacente de ChatGPT.
Suchir Balaji s'est consacré à l'organisation des énormes ensembles de données utilisés pour former GPT-4. C'est ce travail qui a amené Suchir Balaji à s'interroger sur la technologie qu'il avait contribué à mettre au point, en particulier après que les éditeurs et les créateurs de contenus ont commencé à poursuivre OpenAI en justice. Cette vision l'a aidé à construire son opinion selon laquelle OpenAI enfreignait la loi en faisant des copies de contenu en ligne.
OpenAI est accusé de violation de droit d'auteur par les plaignants, qui réclament des lois pour protéger leurs moyens de subsistance contre l'essor de l'IA. Suchir Balaji partageait l'avis de ces travailleurs. Il a quitté OpenAI en août 2024, est devenu un lanceur d'alerte et attiré l'attention sur les pratiques de l'entreprise.
La désillusion : Suchir Balaji était mécontent à l'égard de la trajectoire d'OpenAI
OpenAI a été le premier emploi de Suchir Balaji à la sortie de l'université, un bond prodigieux qui, pour ses parents, était tout à fait prévisible. Mais trois amis ont déclaré à Fortune qu'au fil du temps, Suchir Balaji semblait se désillusionner peu à peu, partageant des mèmes pour communiquer son mécontentement à l'égard de la trajectoire d'OpenAI. D'après les témoignages de ses amis, il désapprouvait notamment de nombreuses pratiques de l'entreprise.
L'un des amis raconte que Suchir Balaji n'était pas d'accord avec l'approche d'OpenAI pour parvenir à l'intelligence générale artificielle (AGI), l'étoile Polaire du secteur de l'IA. Suchir Balaji se plaignait qu'OpenAI, qui a commencé comme une organisation à but non lucratif et qui a progressivement évolué vers une entreprise commerciale, se concentrait trop sur la vente de logiciels et n'était plus prête à investir suffisamment dans le domaine de la recherche.
Suchir Balaji aurait dit en plaisantant à des amis qu’AGI était l'abréviation de « adjusted gross income » (revenu brut ajusté). Ses amis ne se souviennent pas toutefois que Suchir Balaji ait fait part de ses préoccupations concernant l'approche de son ancien employeur en matière de droits d'auteur. Certains amis de longue date ont déclaré avoir été surpris lorsque Suchir Balaji a décidé de quitter OpenAI, tandis que d'autres ont déclaré l'avoir senti venir.
Suchir Balaji est parti en août 2024, le même mois que John Schulman. John Schulman qui a lui aussi fait une sortie très médiatisée. Tous les amis et membres de la famille interrogés par Fortune ont déclaré que les premiers mois de Suchir Balaji en dehors d'OpenAI avaient été normaux.
Il avait conseillé au moins une startup d'IA et s'était promené avec sa moto Yamaha dans San Francisco, en réfléchissant à ce qu'il allait faire ensuite. Cela dit, ses proches ignoraient qu'il avait l'intention de devenir un lanceur d'alerte sur ce qu'il considérait comme des violations flagrantes de la loi par OpenAI.
Le lanceur d'alerte : Suchir Balaji critique les pratiques de son ancien employeur
L'ancien ingénieur d'OpenAI a d'abord fait part de ses préoccupations au New York Times, qui les a rapportées dans un portrait de Suchir Balaji publié en octobre 2024. Notons que le New York Times poursuit OpenAI pour utilisation non autorisée de ses articles de presse par ChatGPT. Le témoignage de Suchir Balaji constituait donc un élément à charge que la publication américaine pouvait utiliser dans son procès très médiatisé contre OpenAI.
Sa mère ne s'attendait pas à ce que son fils se prononce contre OpenAI, surtout de manière aussi publique. Elle avait eu l'impression qu'il n'était pas satisfait d'OpenAI au moment où il l'avait quittée. Mais lorsque l'article du New York Times a été publié, elle a été prise au dépourvu.
Dans une série d'entretiens, Suchir Balaji a expliqué à Cade Metz, journaliste du New York Times spécialisé dans les technologies, qu'il pensait qu'OpenAI causerait plus de tort que de bien à la société, et il a expliqué que la startup violait les lois sur le droit d'auteur en se fondant sur sa propre compréhension de la manière dont ses modèles sont formés. Cade Metz a publié son article en octobre 2024, ce qui a ravivé les critiques de longue date contre OpenAI.
Le même jour, Suchir Balaji a mis en ligne un essai détaillé sur son site Web personnel, expliquant qu'OpenAI enfreignait les lois sur l'utilisation équitable. Il a également déclaré à l'Associated Press qu'il essaierait de témoigner dans les affaires de violation de droits d'auteur les plus sérieuses contre OpenAI.
Il considérait le procès intenté par le New York Times comme « le plus sérieux ». Les avocats du Times l'ont cité dans un dossier déposé au tribunal le 18 novembre 2024 comme quelqu'un qui pourrait avoir des « documents uniques et pertinents » démontrant la violation délibérée du droit d'auteur par OpenAI.
OpenAI a confirmé qu'il s'appuie sur des œuvres protégées par le droit d'auteur
Ces dernières années, les capacités des chatbots d'IA, comme ChatGPT d'OpenAI, se sont considérablement améliorées ; ils s'appuient sur de grands modèles de langage (LLM) pour produire du contenu pour les utilisateurs. Mais le processus de formation est largement controversé, certains éditeurs accusant OpenAI d'utiliser des œuvres protégées par des droits d'auteur sans autorisation, et un certain nombre d'affaires juridiques sont en cours.
Défendant ses pratiques commerciales dans un récent procès, OpenAI a déclaré : « les modèles apprennent, comme nous le faisons tous, de ce qui a été fait auparavant. La défense de l'usage équitable existe précisément pour cette raison : encourager et permettre le développement de nouvelles idées qui s'appuient sur des idées antérieures ». Cette défense d'OpenAI est conforme aux précédentes déclarations de l'entreprise sur la formation de ses modèles.
En janvier 2024, OpenAI affirmait : « étant donné que le droit d'auteur couvre aujourd'hui pratiquement toutes les formes d'expression humaine, il serait impossible d’entraîner les meilleurs modèles d'IA d'aujourd'hui sans utiliser des documents protégés par le droit d'auteur ». OpenAI reconnaît ouvertement qu'il utilise des contenus protégés par des droits d'auteurs pour créer ses modèles d'IA. L'entreprise n'a toutefois pas encore été condamnée.
Plusieurs éditeurs de presse ont poursuivi Microsoft et OpenAI pour violation du droit d'auteur. Parmi les poursuivants, on peut noter les éditeurs de presse de Californie, du Colorado, de l'Illinois, de Floride, du Minnesota et de New York. Certains procès sont en cours, mais le 7 novembre 2024, le juge de district américain Colleen McMahon, à New York, a rejeté une poursuite contre OpenAI qui avait été intentée par les médias Raw Story et AlterNet.
Selon les experts, la porte de sortie de la situation semble résider dans la conclusion d’accords de licence avec les éditeurs de presse. L'Associated Press et OpenAI ont conclu un accord de licence permettant à OpenAI d'accéder à une partie des archives textuelles du média. Mais ces accords sont controversés.
Source : Poornima Ramarao, mère de Suchir Balaji, ancien employé d'OpenAI devenu lanceur d'alerte
Et vous ?
:fleche: Quel est votre avis sur le sujet ?
Voir aussi
:fleche: Un lanceur d'alerte d'OpenAI a été retrouvé mort dans son appartement. Sa mère veut maintenant des réponses, la mort de l'ingénieur logiciel dans des circonstances troubles reste un mystère
:fleche: Mort suspecte d'un lanceur d'alerte d'OpenAI : ses parents ne croient pas qu'il se soit suicidé et exigent une seconde autopsie, relançant le débat sur la protection des lanceurs d'alerte dans le secteur tech
:fleche: La police de San Francisco a officiellement déclaré que la mort du lanceur d'alerte d'OpenAI Suchir Balaji était un suicide, mais sa mère a déclaré que la police avait écrit des informations inexactes
1 pièce(s) jointe(s)
Des anciens employés d'OpenAI demandent aux procureurs de Californie et du Delaware de bloquer la conversion
Des anciens employés d'OpenAI demandent aux procureurs de Californie et du Delaware de bloquer la conversion à des fins lucratives de l'éditeur de ChatGPT
Des anciens employés d'OpenAI demandent aux procureurs de Californie et du Delaware de bloquer la conversion à des fins lucratives de l'éditeur de ChatGPT, car ils s'inquiètent de ce qui se passerait si OpenAI construisait une IA plus performante que celle des humains. Cependant, OpenAI estime que cela est nécessaire pour attirer plus de capitaux afin d'aller au bout de sa mission, qui est de construire une intelligence artificielle générale (AGI).
Fin 2024, OpenAI a rendu publics les premiers détails de son projet visant à se restructurer en une structure à but lucratif. L'éditeur de ChatGPT avait annoncé que sa branche à but lucratif actuelle deviendra une société d'utilité publique avec des actions ordinaires. Cette nouvelle société ne sera plus sous le contrôle de son conseil d'administration et fonctionnera davantage comme une startup à forte croissance.
Pour rappel, OpenAI est une organisation américaine de recherche en intelligence artificielle (IA) fondée en décembre 2015. Elle vise à développer une intelligence générale artificielle (AGI) "sûre et bénéfique", qu'elle définit comme "des systèmes hautement autonomes qui surpassent les humains dans la plupart des tâches économiquement utiles". Mais l'organisation a une structure complexe. Actuellement, elle est dirigée par l'organisation à but non lucratif OpenAI, Inc, enregistrée dans le Delaware, et possède plusieurs filiales à but lucratif, dont OpenAI Holdings, LLC et OpenAI Global, LLC.
Récemment, d'anciens employés d'OpenAI ont demandé aux plus hauts responsables de l'application des lois de Californie et du Delaware d'empêcher l'entreprise de faire passer le contrôle de sa technologie d'intelligence artificielle (IA) d'une organisation caritative à but non lucratif à une entreprise à but lucratif. Ils s'inquiètent de ce qui se passera si l'éditeur de ChatGPT réalise son ambition de construire une IA plus performante que les humains, mais n'est plus tenu de rendre compte de sa mission publique consistant à empêcher cette technologie de causer de graves préjudices.
"En fin de compte, je m'inquiète de savoir qui possède et contrôle cette technologie une fois qu'elle est créée", a déclaré Page Hedley, ancien conseiller politique et éthique d'OpenAI. Soutenus par trois lauréats du prix Nobel et d'autres défenseurs et experts, Page Hedley et neuf autres anciens employés d'OpenAI ont envoyé cette semaine une lettre aux deux procureurs généraux des États.
Parmi les signataires figurent deux économistes lauréats du prix Nobel, Oliver Hart et Joseph Stiglitz, ainsi que les pionniers de l'IA et les informaticiens Geoffrey Hinton, qui a remporté le prix Nobel de physique l'année dernière, et Stuart Russell. "J'apprécie la mission d'OpenAI qui consiste à « veiller à ce que l'intelligence artificielle générale profite à l'ensemble de l'humanité », et j'aimerais qu'ils exécutent cette mission au lieu d'enrichir leurs investisseurs", a déclaré Hinton dans un communiqué mercredi. "Je suis heureux qu'il y ait un effort pour faire respecter la mission d'OpenAI qui n'implique pas Elon Musk."
La coalition demande au procureur général de Californie, Rob Bonta, et au procureur général du Delaware, Kathy Jennings, tous deux démocrates, d'user de leur autorité pour protéger l'objectif caritatif d'OpenAI et de bloquer sa restructuration prévue. OpenAI est constituée en société dans le Delaware et opère à partir de San Francisco.
OpenAI a répondu que "tout changement apporté à notre structure existante servirait à garantir que le grand public puisse bénéficier de l'IA". L'entreprise à but lucratif sera une société d'utilité publique, semblable à d'autres laboratoires d'IA comme Anthropic et xAI du milliardaire Elon Musk, à la différence qu'OpenAI conservera une branche à but non lucratif. "Cette structure continuera à garantir que le succès et la croissance de l'entreprise à but lucratif s'accompagneront de ceux de l'entreprise à but non lucratif, ce qui nous permettra d'accomplir notre mission", a déclaré l'entreprise dans un communiqué.
Cette lettre est la deuxième pétition adressée aux autorités de l'État ce mois-ci. La dernière émanait d'un groupe de dirigeants syndicaux et d'organisations à but non lucratif soucieux de protéger les milliards de dollars d'actifs caritatifs d'OpenAI.
Kathy Jennings a déclaré à l'automne dernier qu'elle "examinerait toute transaction de ce type pour s'assurer que les intérêts du public sont protégés de manière adéquate". Le bureau de Rob Bonta a demandé plus d'informations à OpenAI à la fin de l'année dernière, mais a déclaré qu'il ne pouvait pas faire de commentaires, même pour confirmer ou infirmer l'existence d'une enquête.
Hedley, avocat de formation, a travaillé pour OpenAI en 2017 et 2018, à une époque où l'organisation à but non lucratif cherchait encore les meilleurs moyens de gérer la technologie qu'elle voulait construire. En 2023, Altman a déclaré que l'IA avancée était prometteuse, mais a également mis en garde contre des risques extraordinaires, allant d'accidents radicaux à des perturbations sociétales.
Ces dernières années, cependant, Hedley a déclaré avoir observé avec inquiétude qu'OpenAI, portée par le succès de ChatGPT, rognait de plus en plus sur les tests de sécurité et lançait de nouveaux produits à la hâte pour devancer ses concurrents. "Les coûts de ces décisions continueront d'augmenter à mesure que la technologie deviendra plus puissante", a-t-il déclaré. "Je pense que dans la nouvelle structure souhaitée par l'OpenAI, les incitations à se précipiter pour prendre ces décisions augmenteront et il n'y aura plus personne pour leur dire de ne pas le faire, pour leur dire que ce n'est pas correct."
L'ingénieur logiciel Anish Tondwalkar, ancien membre de l'équipe technique d'OpenAI jusqu'à l'année dernière, a déclaré qu'une garantie importante dans la charte à but non lucratif d'OpenAI est une "clause d'arrêt et d'assistance" qui ordonne à OpenAI de se retirer et d'aider si une autre organisation est sur le point d'atteindre une IA meilleure que l'homme. "Si OpenAI est autorisée à devenir une organisation à but lucratif, ces garanties et le devoir de l'OpenAI envers le public peuvent disparaître du jour au lendemain" a-t-il affirmé.
Un autre ancien employé qui a signé la lettre l'exprime plus crûment. "OpenAI pourrait un jour construire une technologie qui pourrait tous nous faire tuer", a déclaré Nisan Stiennon, un ingénieur en IA qui a travaillé chez OpenAI de 2018 à 2020. "C'est tout à l'honneur d'OpenAI d'être contrôlée par un organisme à but non lucratif ayant un devoir envers l'humanité. Ce devoir exclut de renoncer à ce contrôle."
Les cofondateurs d'OpenAI, dont l'actuel PDG Sam Altman et Elon Musk, l'ont créée à l'origine en tant que laboratoire de recherche à but non lucratif ayant pour mission de construire en toute sécurité ce que l'on appelle l'intelligence artificielle générale (AGI), au bénéfice de l'humanité. Près de dix ans plus tard, OpenAI a annoncé une valeur de marché de 300 milliards de dollars et compte 400 millions d'utilisateurs hebdomadaires de ChatGPT, son produit phare.
OpenAI dispose déjà d'une filiale à but lucratif, mais la conversion de sa structure de gouvernance principale se heurte à un certain nombre de difficultés. L'un d'entre eux est un procès intenté par Musk, qui accuse la société et Altman de trahir les principes fondateurs qui ont conduit le PDG de Tesla à investir dans l'organisation caritative.
En février 2025, un consortium d'investisseurs dirigé par Elon Musk avait même proposé une offre pour acquérir le contrôle d'OpenAI, l'organisation à l'origine de ChatGPT. Cette proposition viserait à ramener OpenAI à ses racines en tant que laboratoire de recherche à but non lucratif, open source et axé sur la sécurité. Mais Elon Musk avait également déclaré qu'il "retira son offre d'achat de 97,4 milliards de dollars d'OpenAI si l'éditeur de ChatGPT reste une organisation à but non lucratif."
Les conflits sur l'objectif d'OpenAI ont longtemps couvé à l'institut de San Francisco, contribuant au départ de Musk en 2018, à l'éviction éphémère d'Altman en 2023 et à d'autres départs très médiatisés. Si certains des signataires de la lettre de cette semaine soutiennent l'action en justice de Musk, Hedley a déclaré que d'autres sont "cyniques à juste titre" parce que Musk dirige également sa propre entreprise d'intelligence artificielle rivale.
En effet, selon des éléments publiés par OpenAI, Elon Musk aurait proposé qu’OpenAI abandonne son statut non lucratif pour adopter une structure commerciale. Il justifiait cette idée par la nécessité d’attirer des capitaux importants et de développer des technologies capables de concurrencer les acteurs privés établis. Cette suggestion a suscité des désaccords au sein de l’organisation. En outre, Elon Musk aurait exigé une participation majoritaire, un contrôle absolu et d'être le PDG de l'entreprise à but lucratif.
Et vous ?
:fleche: Pensez-vous que cette lettre est crédible ou pertinente ?
:fleche: Quel est votre avis sur la situation ?
Voir aussi :
:fleche: Elon Musk demande aux procureurs généraux de Californie et du Delaware d'organiser une vente aux enchères pour déterminer la valeur marchande des actifs caritatifs d'OpenAI dans le cadre de sa restructuration
:fleche: Meta de Mark Zuckerberg demande au procureur général de Californie de bloquer le projet de transformation d'OpenAI en société à but lucratif, car cela créerait un dangereux précédent injuste
:fleche: OpenAI envisage de donner au conseil d'administration des pouvoirs de vote spéciaux pour bloquer l'offre de rachat de 97 milliards $ par Elon Musk, car OpenAI ne veut pas d'Elon Musk
1 pièce(s) jointe(s)
Sous pression, OpenAI abandonne son projet controversé de devenir une entreprise à but lucratif
Sous pression, OpenAI abandonne son projet controversé de devenir une entreprise à but lucratif :
la structure à but non lucratif reprend le contrôle, mais le pouvoir d’influence des investisseurs reste intact
C’était une ambition assumée mais controversée : faire d’OpenAI une entreprise à but lucratif « classique », quitte à remettre en cause les principes fondateurs de l’organisation. Sous le feu des critiques, OpenAI vient finalement d’y renoncer : Sam Altman a dévoilé un « plan actualisé pour faire évoluer la structure [de l'entreprise] ». Dans une lettre ouverte aux employés d'OpenAI, le PDG a confirmé que l'organisation à but non lucratif OpenAI conserverait finalement le contrôle de la société à but lucratif LLC.
La structure à but non lucratif reprend donc officiellement le contrôle de l’organisation, mettant un coup d’arrêt à une stratégie qui inquiétait aussi bien les chercheurs, que certains salariés ou partenaires stratégiques. Mais cette décision ne met pas fin à la crise de gouvernance. Elle révèle plutôt une tension de fond : comment financer le développement d’une intelligence artificielle puissante, tout en garantissant qu’elle reste alignée avec l’intérêt public ?
Contexte
Créée en 2015 avec pour mission de développer une intelligence artificielle bénéfique pour l’humanité, OpenAI a introduit en 2019 une structure hybride « capped-profit ». Ce compromis, censé rassurer investisseurs et chercheurs, permettait de capter des milliards de dollars tout en limitant les rendements financiers à un plafond défini.
Mais à mesure que les modèles GPT gagnaient en puissance (et en besoin énergétique), cette limite semblait de plus en plus symbolique. La montée en puissance de Microsoft dans l’écosystème d’OpenAI (avec plus de 13 milliards de dollars investis) a transformé l’organisation en véritable acteur commercial, au détriment de sa mission d’origine.
En 2023, le limogeage temporaire de Sam Altman par le conseil d’administration (suivi de son retour express grâce au soutien des investisseurs) avait déjà souligné les failles du modèle. L’idée de modifier la structure pour renforcer le pouvoir des acteurs économiques n’a fait qu’envenimer le débat.
Un modèle hybride instable depuis le début
OpenAI a eu jusqu'ici une structure inédite qui peut parfois s'avérer compliquée à déchiffrer pour certains. Cette confusion est intervenue en 2019 après qu'OpenAI, qui a été fondé à l'origine en tant que société à but non lucratif, a opéré une première restructuration. En gros, l'on distingue OpenAI LP (Limited Partnership), qui est une entité à profit plafonné qui a ouvert l'entreprise aux investissements tiers. Ces derniers sont soumis à « un rendement plafonné »
OpenAI LP est responsable du développement des modèles d'IA, des produits et des solutions. Toutefois, cette entité n'est pas autonome. Les activités d'OpenAI LP sont supervisées par le conseil d'administration de l'organisation à but non lucratif (OpenAI inc.) de départ. Cette première restructuration a vu l'arrivée d'investisseurs tels que Microsoft, qui a injecté un milliard de dollars dans OpenAI dès 2019, avant de rallonger de plusieurs milliards de dollars en 2023.
Le 26 décembre 2024, OpenAI a annoncé que l'entreprise va subir pour une nouvelle transformation structurelle. OpenAI va transformer sa branche à but lucratif actuelle en une société d'utilité publique (public benefit corporation - PBC) pour superviser les opérations commerciales en 2025. À travers cette refonte, OpenAI vise à supprimer certaines restrictions liées au statut à but non lucratif afin de fonctionner davantage comme une startup à forte croissance :
Citation:
Envoyé par OpenAI
Les centaines de milliards de dollars que les grandes entreprises investissent actuellement dans le développement de l'IA montrent ce qu'il faudra vraiment pour qu'OpenAI poursuive sa mission. Nous avons une fois de plus besoin de lever plus de capitaux que nous ne l'avions imaginé. Les investisseurs veulent nous soutenir, mais, à cette échelle de capital, ils ont besoin de fonds propres conventionnels et de moins d'actions structurelles.
« Le PBC est une structure utilisée par beaucoup d'autres qui exige de l'entreprise qu'elle équilibre les intérêts des actionnaires, les intérêts des parties prenantes et l'intérêt public dans sa prise de décision. Elle nous permettra de lever les capitaux nécessaires dans des conditions conventionnelles, comme d'autres acteurs de ce secteur », a déclaré OpenAI. Cette forme d'entreprise est de plus en plus courante, avec de grands noms tels que xAI et Anthropic.
« Cette structure vise à générer des profits tout en bénéficiant à l'intérêt public. La branche à but non lucratif prendrait des parts dans la société d'intérêt public », a déclaré OpenAI, ajoutant que cela permettra de soutenir au mieux sa mission consistant à faire en sorte que l'IAG (l'intelligence artificielle générale) profite à l'ensemble de l'humanité.
Elon Musk et d'autres voix ont dénoncé ce changement structurel initié par OpenAI
Les efforts d'OpenAI pour se restructurer se sont heurté à quelques obstacles majeurs. Le plus important est Elon Musk. Il a intenté un procès à OpenAI et a demandé à un tribunal d'empêcher la société de se convertir en société à but lucratif à partir d'un organisme à but non lucratif. Il accuse OpenAI d'avoir rompu ses accords contractuels initiaux. Dans des messages sur X, il a décrit cet effort comme une « arnaque totale » et a affirmé qu'OpenAI est « diabolique ».
OpenAI a riposté, alléguant qu'en 2017, « Elon Musk ne voulait pas seulement, mais a en fait créé une société à but lucratif » pour servir de nouvelle structure proposée par l'entreprise. Outre sa guéguerre avec Elon Musk, OpenAI a dû faire face à un exode de talents de haut niveau, en partie en raison de préoccupations selon lesquelles la société s'est concentrée sur la mise sur le marché de produits commerciaux au détriment de la sécurité.
La directrice technique d'OpenAI, Mira Murati, a annoncé fin septembre 2024 qu'elle quitte l'entreprise après plus de 6 ans de collaboration. Le même jour, le responsable de la recherche Bob McGrew et Barret Zoph, un vice-président de la recherche, ont annoncé leur départ. Un mois plus tôt, le cofondateur John Schulman avait annoncé son départ pour la startup rivale Anthropic. Plutôt en 2024, le cofondateur et ancien scientifique en chef, Ilya Sutskever, quittait l'entreprise.
L'ancien responsable de la sécurité d'OpenAI, Jan Leike, a quitté l'entreprise en même temps qu'Ilya Sutskever et a rejoint le rival Anthropic. Le PDG d'OpenAI, Sam Altman, a déclaré que les départs de plusieurs cadres d'OpenAI n'étaient pas liés à la restructuration potentielle de la société : « nous y réfléchissons, notre conseil d'administration y réfléchit depuis près d'un an, indépendamment, en pensant à ce qu'il faut faire pour passer à l'étape suivante ».
« Ces dernières années, la culture et les processus de sécurité ont été relégués au second plan par rapport aux produits brillants », avait déclaré Jan Leike lors de son départ. Enfin, OpenAI est empêtré dans de nombreux procès pour violation de droit d'auteur intentés par des artistes, des acteurs et des groupes de médias.
OpenAI abdique face à la pression
En somme, depuis plusieurs années, OpenAI avançait à visage double. Officiellement créée comme une organisation à but non lucratif en 2015, elle avait intégré en 2019 une structure hybride « capped-profit », censée permettre l’arrivée de capitaux extérieurs tout en limitant les rendements. Une formule atypique, censée préserver la mission humaniste de l’organisation — « assurer que l’IA générale bénéficie à toute l’humanité » — tout en attirant des partenaires industriels comme Microsoft.
Mais les choses ont progressivement basculé. L’explosion de ChatGPT, les milliards injectés par Redmond, les velléités d’expansion commerciale et les remous internes autour de Sam Altman ont mis en lumière un virage assumé vers une IA de plus en plus monétisée, pilotée par les logiques de la Silicon Valley plus que par la prudence des chercheurs en sécurité de l’IA.
Le projet de restructuration récente (visant à réduire l’influence de la structure à but non lucratif au profit d’un conseil d’administration mixte, où les investisseurs auraient plus de poids) a mis le feu aux poudres. Face à une levée de boucliers mêlant universitaires, employés démissionnaires et leaders d’opinion du secteur, OpenAI a finalement reculé.
Dans une lettre adressée aux employés, Sam Altman a déclaré qu'il est temps pour OpenAI de faire évoluer sa structure. Il a défini les objectifs à accomplir :
- Nous voulons être en mesure de fonctionner et d'obtenir des ressources de manière à pouvoir mettre nos services à la disposition de l'ensemble de l'humanité, ce qui nécessite actuellement des centaines de milliards de dollars et pourrait à terme nécessiter des milliers de milliards de dollars. Nous pensons que c'est le meilleur moyen de remplir notre mission et d'amener les gens à s'entraider massivement grâce à ces nouveaux outils.
- Nous voulons que notre organisation soit la plus grande et la plus efficace de l'histoire et qu'elle se concentre sur l'utilisation de l'IA afin d'obtenir les meilleurs résultats pour les personnes.
- Nous voulons que l'AGI soit bénéfique. Nous sommes fiers des résultats obtenus grâce aux systèmes que nous avons lancés, aux recherches que nous avons menées sur l'alignement, aux processus tels que le red teaming et à la transparence du comportement des modèles grâce à des innovations telles que le model spec(s'ouvre dans une nouvelle fenêtre). À mesure que l'IA s'accélère, notre engagement en faveur de la sécurité se renforce. Nous voulons nous assurer que l'IA démocratique l'emporte sur l'IA autoritaire.
Citation:
Envoyé par Sam Altman
Nous avons pris la décision de laisser le contrôle à l'organisation à but non lucratif après avoir entendu les leaders civiques et discuté avec les bureaux des procureurs généraux de Californie et du Delaware. Nous sommes impatients de faire avancer les détails de ce plan en continuant à discuter avec eux, avec Microsoft et avec nos commissaires à but non lucratif nouvellement nommés.
OpenAI a été fondée en tant qu'association à but non lucratif, est aujourd'hui une association à but non lucratif qui supervise et contrôle l'association à but lucratif, et restera à l'avenir une association à but non lucratif qui supervise et contrôle l'association à but lucratif. Cela ne changera pas.
La SARL à but lucratif sous l'égide de l'association à but non lucratif sera transformée en une société d'intérêt public (SIP) ayant la même mission. Les PBC sont devenues la structure à but lucratif standard pour d'autres laboratoires AGI comme Anthropic et X.ai, ainsi que pour de nombreuses entreprises orientées vers un but précis, comme Patagonia. Nous pensons que cela a du sens pour nous aussi.
Au lieu de notre structure complexe actuelle à but lucratif plafonné - qui avait du sens lorsqu'il semblait y avoir un effort dominant de l'AGI, mais qui n'en a plus dans un monde où il y a beaucoup de grandes entreprises de l'AGI - nous passons à une structure de capital normale où tout le monde a des actions. Il ne s'agit pas d'une vente, mais d'un changement de structure vers quelque chose de plus simple.
Des conséquences sur l’ensemble du secteur IA
C’est donc sous une pression croissante (médiatique, interne et académique) qu’OpenAI a annoncé qu’elle renonçait à modifier sa gouvernance. La structure à but non lucratif conserve finalement le contrôle de la direction. Une décision saluée par certains chercheurs, mais perçue par d'autres comme un coup de communication destiné à préserver l’image d’une entreprise « éthique ».
Car dans les faits, Microsoft reste l’allié incontournable d’OpenAI. Il a accès exclusif à certains modèles, héberge l’infrastructure d’IA sur Azure et intègre GPT-4 dans son écosystème produit. Ce partenariat ne disparaît pas. Le pouvoir d’influence des investisseurs reste intact, même si la façade non lucrative est maintenue.
Ce retournement de stratégie pourrait avoir des répercussions bien au-delà d’OpenAI. Pour les investisseurs, il réintroduit de l’incertitude. Pour les concurrents comme Anthropic, Mistral ou Google DeepMind, cela ouvre potentiellement un espace pour se positionner comme des alternatives plus lisibles et plus stables.
Pour les développeurs et entreprises clientes, la question de la transparence, de l’éthique et de la pérennité des outils OpenAI redevient centrale. L’avenir de l’open source, les conditions d’accès aux modèles ou la confidentialité des données sont autant de sujets suspendus aux arbitrages politiques internes… que peu de parties extérieures contrôlent.
Un débat de fond : l’IA peut-elle rester d’intérêt général ?
Au-delà de la gouvernance d’OpenAI, c’est une question systémique qui émerge : une IA d’envergure peut-elle être développée sans logique capitalistique agressive ? Et si oui, avec quels moyens ? En l’absence de financements publics massifs ou d’alternatives open source crédibles à grande échelle, les promesses de neutralité et de transparence risquent toujours de céder sous le poids des impératifs commerciaux.
OpenAI, malgré son nom, est devenue emblématique de cette contradiction : ouverte dans l’intention, fermée dans la pratique. Et même si l’abandon du virage lucratif semble marquer un retour aux sources, il pourrait surtout annoncer une nouvelle phase d’instabilité, de compromis et de réajustements permanents.
Une victoire en demi-teinte
En refusant de devenir une entreprise à but lucratif pur, OpenAI envoie un signal fort. Mais ce geste, aussi symbolique soit-il, ne résout pas les tensions structurelles entre innovation, gouvernance et financement. Il ne fait que reporter un débat fondamental : à qui appartiendra demain l’intelligence artificielle de référence ?
Source : OpenAI
Et vous ?
:fleche: Les modèles hybrides comme celui d’OpenAI sont-ils tenables sur le long terme face aux exigences du marché ?
:fleche: Les gouvernements doivent-ils intervenir pour encadrer la gouvernance des IA stratégiques ?
:fleche: Ce retour à une structure non lucrative peut-il inspirer d'autres initiatives dans l'open source ou la recherche académique ?
:fleche: Peut-on vraiment parler de “non lucratif” quand des acteurs comme Microsoft ont un accès exclusif aux modèles ?
:fleche: Faudrait-il une réglementation internationale sur la gouvernance des IA à grande échelle ?
:fleche: L’open source peut-il redevenir une alternative crédible dans un secteur dominé par les géants privés ?
4 pièce(s) jointe(s)
« OpenAI Files » et Sam Altman : l'enquête met la lumière sur la tempête que traverse OpenAI
« OpenAI Files » et Sam Altman : l'enquête met la lumière sur la tempête que traverse OpenAI, évoquant un leadership contesté,
des démissions en chaîne, une course à la commercialisation à tout prix et l'ombre sur la sécurité de l'IA
Les "OpenAI Files", une initiative de groupes de veille à but non lucratif, représentent la compilation publique la plus exhaustive à ce jour des préoccupations relatives à la gouvernance, au leadership et à la culture d'entreprise d'OpenAI. Ce rapport interactif met en lumière la transformation d'OpenAI, d'un laboratoire de recherche à but non lucratif à une entité à but lucratif, soulevant des questions cruciales sur la sécurité, les conflits d'intérêts et les pratiques internes de l'entreprise dirigée par Sam Altman.
Les "OpenAI Files" ne sont pas qu'un simple recueil de documents ; ils constituent la radiographie la plus pénétrante à ce jour des mutations profondes et controversées qui ont secoué OpenAI, l'entreprise au cœur de la révolution de l'intelligence artificielle générale. Initiée par des groupes de veille à but non lucratif (ils résultent d'une collaboration entre le Midas Project et le Tech Oversight Project, deux organisations à but non lucratif de surveillance de la technologie), cette compilation exhaustive, présentée comme le « recueil le plus complet à ce jour de préoccupations documentées concernant les pratiques de gouvernance, l'intégrité des dirigeants et la culture organisationnelle de l'OpenAI », met en lumière le glissement progressif et les tensions intrinsèques au sein d'une organisation qui, de son engagement initial pour une IA bienveillante pour l'humanité, semble avoir viré vers des logiques de marché.
De la mission initiale à la ruée vers le profit : une dérive douloureuse
L'un des axes centraux des "OpenAI Files" est le virage d'OpenAI, initialement fondée sur une mission de développement d'une intelligence artificielle bénéfique pour l'humanité, « sans contrainte de rentabilité financière ».
Créée en 2015 avec pour mission de développer une intelligence artificielle bénéfique pour l’humanité, OpenAI a introduit en 2019 une structure hybride « capped-profit ». Ce compromis, censé rassurer investisseurs et chercheurs, permettait de capter des milliards de dollars tout en limitant les rendements financiers à un plafond défini.
En gros, l'on distingue OpenAI LP (Limited Partnership), qui est une entité à profit plafonné qui a ouvert l'entreprise aux investissements tiers. Ces derniers sont soumis à « un rendement plafonné »
OpenAI LP est responsable du développement des modèles d'IA, des produits et des solutions. Toutefois, cette entité n'est pas autonome. Les activités d'OpenAI LP sont supervisées par le conseil d'administration de l'organisation à but non lucratif (OpenAI inc.) de départ. Cette première restructuration a vu l'arrivée d'investisseurs tels que Microsoft, qui a injecté un milliard de dollars dans OpenAI dès 2019, avant de rallonger de plusieurs milliards de dollars en 2023.
Mais à mesure que les modèles GPT gagnaient en puissance (et en besoin énergétique), cette limite semblait de plus en plus symbolique. La montée en puissance de Microsoft dans l’écosystème d’OpenAI (avec plus de 13 milliards de dollars investis) a transformé l’organisation en véritable acteur commercial, au détriment de sa mission d’origine.
En 2023, le limogeage temporaire de Sam Altman par le conseil d’administration (suivi de son retour express grâce au soutien des investisseurs) avait déjà souligné les failles du modèle. L’idée de modifier la structure pour renforcer le pouvoir des acteurs économiques n’a fait qu’envenimer le débat.
Le 26 décembre 2024, OpenAI a annoncé que l'entreprise va subir pour une nouvelle transformation structurelle. OpenAI va transformer sa branche à but lucratif actuelle en une société d'utilité publique (public benefit corporation - PBC) pour superviser les opérations commerciales en 2025. À travers cette refonte, OpenAI vise à supprimer certaines restrictions liées au statut à but non lucratif afin de fonctionner davantage comme une startup à forte croissance :
Citation:
Envoyé par OpenAI
Les centaines de milliards de dollars que les grandes entreprises investissent actuellement dans le développement de l'IA montrent ce qu'il faudra vraiment pour qu'OpenAI poursuive sa mission. Nous avons une fois de plus besoin de lever plus de capitaux que nous ne l'avions imaginé. Les investisseurs veulent nous soutenir, mais, à cette échelle de capital, ils ont besoin de fonds propres conventionnels et de moins d'actions structurelles.
À l'origine, OpenAI fut fondée avec une mission quasi-utopique : développer une intelligence artificielle générale (AGI) qui bénéficierait à toute l'humanité, non pas pour le profit. Ses statuts originaux reflétaient cet idéal, avec un plafonnement strict des rendements financiers et une structure de gouvernance où la branche à but non lucratif gardait un contrôle prépondérant.
Le rapport met en exergue les restructurations successives qui ont éloigné l'entreprise de ses principes fondateurs. La création d'une entité à but lucratif, bien que prétendument « plafonnée », a ouvert la porte à des investissements massifs, notamment de la part de Microsoft, exigeant inévitablement des retours financiers. Cette pression sur la rentabilité a inévitablement déplacé l'accent de la recherche fondamentale et de la sécurité vers la commercialisation rapide de produits, comme ChatGPT. Des diagrammes interactifs au sein des "OpenAI Files" révèlent la complexité croissante des structures de l'entreprise, rendant floues les lignes entre la mission sans but lucratif et les ambitions commerciales, et exacerbant les craintes d'une dilution de l'engagement initial. La logique de l'investissement a supplanté celle de la prudence, et avec elle, des voix essentielles en matière de sécurité ont commencé à s'estomper.
Citation:
Envoyé par rapport
OpenAI a débuté en tant qu'organisation à but non lucratif ayant pour mission explicite de veiller à ce que l'intelligence artificielle profite à l'ensemble de l'humanité. Aujourd'hui, à peine dix ans plus tard, elle a commencé à se transformer en une entreprise à but lucratif de 300 milliards de dollars, troquant son obligation légale envers l'humanité contre le droit de générer des rendements illimités pour les investisseurs.
Cette restructuration pourrait marquer le point culminant d'une décennie de changements sismiques au sein de l'entreprise de San Francisco spécialisée dans le développement de l'intelligence artificielle. Des dizaines de rapports d'anciens employés révèlent un schéma conflictuel constant au sein de ce laboratoire de recherche devenu un géant de la technologie : une entreprise dont les nobles promesses de développement d'une IA sûre et responsable se sont effondrées à plusieurs reprises sous le poids des forces du marché, et un PDG au charisme célèbre qui, à y regarder de plus près, semble incarner les mêmes contradictions que celles qui définissent l'organisation elle-même.
Cette restructuration n'est pas une simple formalité bureaucratique. C'est le démasquage final d'une entreprise qui ne peut plus soutenir son mythe fondateur, et une expérience naturelle de ce qui se passe lorsque l'idéalisme entre en collision avec les forces économiques. La question n'est pas de savoir si les fondateurs d'OpenAI avaient de bonnes intentions. La question est de savoir si les bonnes intentions peuvent coexister avec 60 milliards de dollars de capital-risque et l'attraction gravitationnelle de ce qui pourrait s'avérer être la technologie la plus rentable de l'histoire.
Les voix mises sous silence : le cas des anciens employés et les clauses de non-divulgation
L'une des révélations les plus perturbantes des "OpenAI Files" concerne le traitement des anciens employés et les tactiques jugées agressives employées pour les museler. Le dossier compile des témoignages accablants et des documents internes exposant des accords de non-divulgation (NDA) et des clauses de non-dénigrement draconiennes. Ces clauses auraient été imposées aux employés quittant l'entreprise, avec la menace explicite de la perte de leurs capitaux propres acquis (vested equity) s'ils refusaient de les signer.
Cette pratique, révélée au grand jour, jette une ombre sur les prétentions de transparence et d'ouverture d'OpenAI. Le fait que Sam Altman lui-même ait été impliqué dans la signature de documents autorisant une telle récupération arbitraire des actions renforce l'idée d'une culture d'entreprise où le contrôle prévaut sur la liberté d'expression et l'éthique.
Plus grave encore, d'anciens employés ont franchi le pas de l'action légale, déposant des plaintes auprès des procureurs généraux de Californie et du Delaware. Ils demandent purement et simplement que la conversion d'OpenAI d'une organisation à but non lucratif en une entité à but lucratif soit bloquée. Leur argument clé est que cette transformation viole la mission originelle de l'entreprise, y compris une clause vitale de "stop-and-assist" qui engageait OpenAI à se retirer et à collaborer avec une autre organisation si elle était sur le point d'atteindre une IA plus performante que l'humain. C'est une accusation grave : celle d'avoir trahi la confiance publique et les engagements initiaux au nom du profit.
En outre, des figures comme Suchir Balaji, ancien chercheur d'OpenAI, ont publiquement critiqué les pratiques de collecte de données de l'entreprise, n'hésitant pas à affirmer qu'OpenAI était en train de "détruire" Internet par ses méthodes et enfreignait directement la loi sur le droit d'auteur par l'utilisation massive et non consentie de données pour entraîner ses modèles d'IA. Ces allégations soulignent un dilemme majeur : le progrès technologique à tout prix ou le respect des droits et des cadres légaux ?
La gouvernance en crise : conflits, départs et perte de confiance
Les "OpenAI Files" ne manquent pas de détailler les secousses internes qui ont ébranlé OpenAI, culminant avec le fameux « coup de palais » qui a vu le renvoi puis la réintégration de Sam Altman. Cet épisode a exposé au grand jour des fissures profondes au sein de la direction et du conseil d'administration. Il a révélé des préoccupations sérieuses de la part de figures clés comme Mira Murati et Ilya Sutskever, co-fondateur et ancien scientifique en chef, qui auraient exprimé des doutes quant à la capacité de Sam Altman à diriger l'entreprise vers l'AGI de manière sûre et éthique. Leurs critiques pointaient du doigt un environnement où la culture de sécurité et les processus rigoureux auraient été sacrifiés sur l'autel de la rapidité de développement et de la commercialisation de « produits brillants ».
Le départ de plusieurs figures éminentes du département de sécurité et de recherche sur l'AGI, telles que Sutskever lui-même et Jan Leike, co-responsable de l'équipe "Superalignment" (chargée d'aligner les systèmes d'IA superintelligents avec les valeurs humaines), est particulièrement alarmant. Leurs démissions, souvent motivées par des désaccords sur l'équilibre entre la sécurité et le déploiement rapide, envoient un signal fort sur les priorités actuelles d'OpenAI. Cela suggère que la recherche de pointe en matière de sécurité, autrefois une pierre angulaire de l'entreprise, pourrait être marginalisée au profit d'une course effrénée vers l'AGI et la domination du marché. La perte de ces experts soulève des questions critiques : qui veille à la sécurité lorsque les meilleurs esprits dédiés à cette tâche s'en vont ? Et quelle est la véritable transparence de l'entreprise sur ces départs massifs ?
Implications et appel à la réforme
La trajectoire d'OpenAI, telle que mise en lumière par les "OpenAI Files", s'inscrit dans un débat plus large et crucial sur l'éthique de l'IA, la régulation et la responsabilité des entreprises technologiques. L'idée que des intelligences artificielles potentiellement transformatrices et puissantes puissent être développées et contrôlées par un petit nombre d'individus, animés par des impératifs de profit, soulève des inquiétudes légitimes quant à l'équité, l'accès et le potentiel de ces technologies à exacerber les inégalités ou même à poser des risques existentiels.
Le déficit de confiance engendré par ces révélations est considérable. Pour une entreprise dont la mission originelle était de garantir une IA bénéfique pour tous, les allégations de tactiques coercitives, de déviation de mission et de négligence des préoccupations de sécurité ternissent considérablement son image et sa crédibilité.
En conclusion, les "OpenAI Files" ne sont pas qu'un simple rapport ; ils sont un acte de veille citoyenne et un appel retentissant à la reddition de comptes. En compilant de manière méthodique ces informations critiques, ce dossier offre une perspective indispensable pour quiconque cherche à comprendre les dessous d'une des entreprises les plus influentes de notre époque. Il ne s'agit pas de juger hâtivement, mais d'exiger une réflexion profonde et une action concertée pour garantir que le développement de l'IA, quelle que soit l'entreprise qui la mène, se fasse dans l'intérêt de l'humanité et non au détriment de ses valeurs et de sa sécurité. L'avenir de l'IA est trop important pour être laissé à la seule discrétion des intérêts commerciaux.
Source : OpenAI Files
Et vous ?
:fleche: Quelle lecture faites-vous de ce rapport ? Le trouvez-vous crédible ou pertinent ?
:fleche: Le glissement d'OpenAI du statut de but non lucratif à une entité « à but lucratif plafonné » est-il une trahison de sa mission initiale ou une adaptation nécessaire pour financer le développement de l'AGI ?
:fleche: Comment OpenAI peut-elle regagner la confiance du public et des chercheurs, surtout après les révélations sur les clauses de non-divulgation et le traitement des anciens employés ?
:fleche: Le départ de figures clés de la sécurité d'OpenAI, comme Ilya Sutskever et Jan Leike, est-il un signal alarmant pour l'avenir de la sûreté dans le développement de l'IA de pointe ?
:fleche: Les allégations de collecte de données massives et de violation du droit d'auteur par OpenAI soulèvent de nombreuses questions. Comment l'industrie de l'IA devrait-elle être régulée pour éviter de « détruire » le web et garantir une rémunération équitable pour les créateurs de contenu ?
:fleche: Les "OpenAI Files" peuvent-ils servir de catalyseur pour une plus grande transparence et responsabilité au sein de l'ensemble de l'industrie de l'IA ?
:fleche: Est-il réaliste d'attendre des entreprises développant l'AGI qu'elles priorisent la sécurité et l'éthique sur la course au profit et à l'innovation, étant donné les enjeux financiers colossaux ?
