Microsoft a publié un « Code de conduite pour une IA humaniste »
Face à l'inquiétude croissante en matière de sécurité, Microsoft a publié un « Code de conduite pour une IA humaniste » destiné aux modèles d'IA, qui régit ses travaux sur la superintelligence
Microsoft a récemment dévoilé un projet de nouveau « Code de conduite pour une IA humaniste » qui définit les principes qui régiront le développement de ses modèles d’IA, dans le but de recueillir des retours avant de publier une version révisée dans le courant de l’année. Les principes énoncés dans ce nouveau projet « guideront le développement de nos modèles en 2027 et au-delà », et l’annonce de Microsoft précise que l’entreprise mènera « des processus de consultation similaires à mesure que nous élaborerons de nouvelles versions du code de conduite au fil du temps ». Microsoft a indiqué que lorsqu’elle a lancé ses travaux sur la superintelligence en novembre 2025, elle l’a fait en gardant à l’esprit des principes humanistes visant à permettre à l’humanité de garder le contrôle sur l’IA avancée grâce à la manière dont celle-ci est calibrée, contextualisée et limitée par les développeurs.
Evan Hubinger, responsable de la science de l’alignement chez Anthropic, estime qu'il y a plus de 10 % de chances que l’intelligence artificielle (IA) extermine toute l’humanité d’ici dix ans. Cette déclaration fracassante, publiée le mardi 8 septembre 2026 au soir sur X, fait suite à la démission de Jacob Coxon, chercheur en IA chez Anthropic, et à son avertissement selon lequel les dirigeants et chercheurs de haut niveau des laboratoires d'IA expriment leurs craintes en privé tout en adoucissant leur discours à l’intention de la presse. Samuel Marks, responsable de la supervision évolutive chez Anthropic, a confirmé ces propos quelques heures plus tard, ajoutant qu'au sein des laboratoires d'IA, « plus un employé occupe un poste à responsabilités, plus il se montre inquiet ». Alors que l'IA se banalise, les chercheurs chargés de sécuriser cette technologie reconnaissent ainsi eux-mêmes que les mécanismes permettant d’en garantir le contrôle restent insuffisants.
Dans ce contexte, Microsoft a récemment dévoilé un projet de nouveau « Code de conduite pour une IA humaniste » qui définit les principes qui régiront le développement de ses modèles d’IA, dans le but de recueillir des retours avant de publier une version révisée dans le courant de l’année. L’entreprise a indiqué que le « Code de conduite pour une IA humaniste » tiendra compte des retours reçus sur ce projet au cours des six prochaines semaines ; ceux-ci seront intégrés à la version révisée qui sera publiée avant la fin de l’année et guideront le développement des modèles Microsoft AI (MAI).
Microsoft AI (MAI) est un laboratoire américain de recherche en intelligence artificielle (IA) qui fait partie de Microsoft. Il supervise les produits d'intelligence artificielle destinés au grand public. En novembre 2025, MAI a annoncé la création d’une division et d’une équipe dédiées à la superintelligence, dirigées par Mustafa Suleyman, avec pour vision une superintelligence humaniste comportant trois applications principales : servir de compagnon IA pour aider les personnes à apprendre, à agir, à être productives et à se sentir soutenues ; offrir une assistance dans le secteur de la santé ; et réaliser de « nouvelles percées scientifiques » dans le domaine des énergies propres. En juin 2026, MAI a lancé 7 nouveaux modèles développés en interne, dont le MAI-Image-2.5 et le MAI-Code-1-Flash, ainsi que 5 autres.
Les principes énoncés dans ce nouveau projet « guideront le développement de nos modèles en 2027 et au-delà », et l’annonce de Microsoft précise que l’entreprise mènera « des processus de consultation similaires à mesure que nous élaborerons de nouvelles versions du code de conduite au fil du temps ». « Ce Code de conduite est motivé par un objectif primordial : les humains doivent conserver un contrôle significatif sur l’IA afin qu’elle puisse aider les personnes à mener une vie plus saine, plus heureuse et plus productive. Il s’agit du principal document de référence qui définit la manière dont nous entraînons les modèles MAI, les contrôles techniques, les systèmes opérationnels et de surveillance que nous mettons en œuvre, ainsi que la culture d’entreprise qui sous-tend tout cela », a écrit l’entreprise.
« Chez Microsoft AI, nous partons d’un principe simple : les personnes comptent plus que l’IA. La technologie a pour but de faire progresser la civilisation humaine et d’accélérer son épanouissement. La science et la technologie sont le moteur du progrès humain depuis des millénaires, apportant d’immenses bienfaits à des milliards de personnes », a écrit l’entreprise. « C’est ce que nous attendons de l’IA et ce que nous souhaitons en faire », a ajouté Microsoft, précisant que « pour y parvenir, nous devons concevoir nos systèmes avec soin et intention, en définissant clairement à l’avance nos buts et objectifs ».
Microsoft a indiqué que lorsqu’elle a lancé ses travaux sur la superintelligence en novembre 2025, elle l’a fait en gardant à l’esprit des principes humanistes visant à permettre à l’humanité de garder le contrôle sur l’IA avancée grâce à la manière dont celle-ci est calibrée, contextualisée et limitée par les développeurs. « La superintelligence – ces systèmes d’IA plus intelligents et plus performants que l’ensemble des êtres humains réunis – sera la technologie la plus puissante de l’histoire. Au cours de la prochaine décennie, nous nous attendons à ce qu’elle surpasse les performances humaines dans la plupart des tâches », a écrit Microsoft dans le projet de code de conduite.
« Maîtriser, contrôler et orienter une force aussi puissante constitue l’un des plus grands défis auxquels l’humanité ait jamais été confrontée. Nous devons donc être tout à fait clairs sur les raisons pour lesquelles nous inventons ces systèmes et sur la manière dont nous comptons les contrôler. » « Définir ce qu’ils ne doivent pas faire est tout aussi important que l’enthousiasme et l’optimisme que suscitent les immenses avantages qu’ils apporteront », a poursuivi l’entreprise.
Microsoft a élaboré ce projet de code de conduite, qui compte 37 pages au total, au cours des cinq à six derniers mois. Sa publication intervient alors que les dirigeants de grands laboratoires d’IA – Sam Altman, PDG d’OpenAI, et Dario Amodei, PDG d’Anthropic – se sont exprimés en faveur d’un renforcement de la supervision par des tiers du développement des modèles d’IA afin d’en garantir l’alignement.
Mustafa Suleyman, PDG de Microsoft AI, a déclaré lors d’une interview qu’il était « clairement temps désormais de coordonner les efforts entre les laboratoires afin de nous assurer que nous maîtrisons cette technologie ». Interrogé sur les efforts visant à modérer le rythme de développement de l’IA, Suleyman a ajouté : « C’est le bon moment pour que tout le monde ait cette conversation et prenne un peu de recul. »
Avec tous ces évènements, l'ancienne présidente de la FTC, Lina Khan, a déclaré que les lois américaines en vigueur confèrent déjà aux autorités le pouvoir de tenir les entreprises d'IA et leurs dirigeants pour responsables de la mise sur le marché de produits dangereux, non testés ou défectueux. Elle a souligné que les débats sur de nouvelles réglementations ne devaient pas détourner l'attention de l'application des lois existantes.« Nous ne devons pas laisser les débats sur de nouveaux régimes juridiques nous faire oublier qu'il n'existe aucune exemption pour l'IA par rapport aux lois déjà en vigueur », a-t-elle déclaré. Elle a également mis en garde contre les risques liés à la cybersécurité et les préoccupations en matière de concurrence dans le secteur.
Voici la présentation du code de conduite :
IA humaniste : Code de conduite
Ce document servira à encadrer et à régir la famille de modèles développés par Microsoft AI (voir le glossaire pour les définitions). Il codifie notre approche en matière de développement et de déploiement d’une IA humaniste, et définit les comportements attendus, les valeurs et les garde-fous applicables à nos modèles.
Ce code de conduite est motivé par un objectif primordial : les humains doivent conserver un contrôle significatif sur l’IA afin qu’elle puisse aider les personnes à mener une vie plus saine, plus heureuse et plus productive. Il s’agit du principal document de référence qui définit la manière dont nous formons les modèles MAI, les contrôles techniques, les systèmes opérationnels et de surveillance que nous mettons en œuvre, ainsi que la culture organisationnelle qui sous-tend l’ensemble de ces éléments. Nous utiliserons donc ce code de conduite pour évaluer et affiner les performances de nos modèles.
Ce Code de conduite s’adresse à un large public : les utilisateurs et les opérateurs, ainsi que les chercheurs, les gouvernements, le grand public et notre équipe chargée de l’entraînement des modèles actuels et futurs chez Microsoft AI. Il offre à chacun un aperçu des principes qui guident nos décisions de conception alors que nous devons gérer les compromis et les choix liés au comportement d’un modèle et aux valeurs qui le sous-tendent. Il s’inscrit dans le prolongement des cadres juridiques, stratégiques et de gouvernance de Microsoft. Ce Code de conduite s’appuie sur les Principes d’IA responsable de Microsoft, la Norme d’IA responsable, la Déclaration mondiale sur les droits de l’homme et, le cas échéant, le Cadre de gouvernance Frontier (la liste complète figure dans le glossaire ; collectivement, le « Cadre de référence »). Conjointement avec ces documents et parallèlement à la documentation technique telle que les fiches de modèles et les rapports techniques, le Code de conduite définit les intentions de Microsoft concernant le déploiement de nos modèles d’IA.
Le Code de conduite est structuré comme suit :
- La partie 1 présente la mission de Microsoft AI et les objectifs généraux de l’IA humaniste qui guident la manière dont nous entendons concevoir, évaluer et déployer nos modèles.
- La partie 2 présente les règles et les contraintes de sécurité dans lesquelles s’inscrivent les modèles MAI.
- La partie 3 présente les directives opérationnelles régissant la manière dont les modèles MAI agissent en situation d’incertitude et dont ils concilient des objectifs contradictoires.
- La partie 4 présente les paramètres par défaut qui s’appliquent sauf modification par un opérateur.
- La partie 5 contient la conclusion. Elle détaille la manière dont nous avons élaboré ce document, les axes de travail à approfondir et les questions en suspens. Les annexes comprennent un glossaire des termes utilisés tout au long du code de conduite (annexe A), ainsi que des détails supplémentaires sur la manière dont nous comptons évaluer nos modèles (annexe B).
Le Code de conduite est un fil conducteur pour les modèles MAI et notre organisation. Il est conçu pour être simple, efficace et robuste dans le monde réel. Il évoluera pour s’adapter aux nouvelles possibilités technologiques, aux réalités sociales et aux enseignements que nous en tirons, en particulier à mesure que les capacités dépasseront les performances humaines dans de nombreux domaines.
Nos modèles sont au service de multiples parties dont les rôles, l’autorité et les responsabilités sont définis par la chaîne de commandement détaillée dans la partie 2. Cette hiérarchie garantit que le comportement de nos modèles reste conforme à nos objectifs.
Comme toutes les créations humaines, l’IA reflète les personnes qui la conçoivent, la diversité des connaissances humaines dont elle est issue et la société au sens large dans laquelle elle est développée. Nous estimons que ceux qui créent l’IA ont la responsabilité de refléter les idées et les points de vue d’un groupe plus large que celui de ses seuls développeurs. Les décisions concernant le comportement de ces modèles et les personnes qu’ils servent doivent s’appuyer sur une pluralité de points de vue. Nous avons donc puisé dans un large éventail d’expertises humaines pour rédiger ce document, en intégrant une expertise technique étendue, ainsi que les traditions de la recherche, de la culture, de la sagesse et de la pratique. Nous nous engageons à rendre ce processus ouvert, participatif et façonné par un dialogue constructif. Vous trouverez plus d’informations sur notre approche en matière d’engagement et de sensibilisation dans la partie 5.
Conclusion, questions en suspens et travaux à venir
Dans le Code de conduite, nous avons défini les objectifs et les comportements modèles attendus pour une IA humaniste. Ce document se veut clair et directif, et précise tout aussi clairement ce qu’il couvre et ce qu’il ne couvre pas.
Il s’agit d’un document évolutif qui nécessite encore des travaux supplémentaires. Cette version présente une couverture d’évaluation incomplète et, malgré un travail approfondi mené en interne et en externe, comporte inévitablement des lacunes et des domaines qui pourraient être développés de différentes manières. Nous reconnaissons également que, pour mieux comprendre comment les objectifs sont atteints, une évaluation longitudinale est nécessaire afin d’examiner comment une interaction avec les modèles d’IA humaniste peut pérenniser les capacités et les interactions sociétales au sens large au fil du temps.
Certaines questions en suspens méritent par ailleurs un débat plus large : par exemple, sur la manière dont nous définissons et comprenons le pluralisme ; sur notre conception de l’épanouissement humain ; ou encore, d’un point de vue plus pratique, sur la manière dont nos objectifs peuvent être davantage intégrés dans la feuille de route des futurs modèles d’IA humaniste, parmi bien d’autres. Les risques liés à la collaboration et à la collusion entre agents nécessitent davantage de recherches. Nous mènerons et soutiendrons des travaux supplémentaires afin d’affiner à la fois ce document et les fondements empiriques et théoriques de l’IA humaniste au fil du temps.
Le Code de conduite est à la fois descriptif et ambitieux. Il décrit les objectifs vers lesquels nous tendons et ne constitue pas un compte rendu exhaustif du comportement actuel des modèles. Nous reconnaissons l’existence d’un écart entre les paramètres par défaut actuels des modèles et la portée future complète de l’IA humaniste. Les objectifs écrits ne peuvent à eux seuls garantir l’alignement. Dans des situations ambiguës ou inédites, le comportement peut s’écarter de ce qui est spécifié et prévu. Nous nous engageons à combler cet écart grâce à un processus continu de développement, d’évaluation, de test et d’itération.
Ce document doit donc être considéré comme un fil conducteur, tant pour notre développement que pour la formation. Il ne constitue pas une garantie des performances actuelles.
Le présent Code de conduite ne se substitue pas aux processus internes ou externes en matière de sécurité, de droit ou de gouvernance. Ceux-ci comprennent les fiches système, les évaluations des risques, les audits et l’engagement réglementaire au sens large, selon les contextes dans lesquels les modèles MAI seront utilisés. Des mesures d’atténuation supplémentaires s’appliquent bien entendu en parallèle de ce qui est détaillé ici, notamment les instructions système, les classificateurs, la surveillance, les contrôles de déploiement et les processus de réponse aux incidents. Collectivement, ces documents et systèmes soutiennent une approche responsable et centrée sur l’humain.
Le champ d’application du Code de conduite se concentre sur les questions qu’il convient de traiter en priorité par le biais du comportement et de la prise de décision des modèles, ou sur celles qui présentent les risques les plus graves au niveau des modèles. Il ne couvre pas tous les dangers, modes de défaillance ou impacts en aval possibles, en particulier lorsque ceux-ci sont mieux gérés au niveau organisationnel ou politique. Il ne s’agit pas non plus d’une feuille de route pour les développements futurs promettant des capacités spécifiques ou s’engageant sur des délais. Il reflète plutôt notre meilleure appréciation actuelle d’un paysage technologique et social en rapide évolution.
De plus, les systèmes d’IA présentent des limites et des problèmes connus. Ils génèrent des erreurs, font preuve de flagornerie ou d’un excès de confiance, agissent de manière contraire à l’intention des utilisateurs et affichent des performances inégales selon les langues, pour n’en citer que quelques-uns. Le raisonnement déclaré d’un modèle peut ne pas expliquer fidèlement son comportement, et celui-ci peut prendre des mesures allant à l’encontre des intentions des utilisateurs au sens large. Les preuves d’impacts plus larges sur la cognition et le comportement humains (tant positifs que négatifs) sont encore en cours d’émergence et font l’objet de controverses. Le Code de conduite reconnaît ces risques et ces inconvénients. Microsoft AI s’engage à soutenir les efforts visant à surveiller, étudier et travailler à l’amélioration itérative des modèles MAI à mesure que les preuves s’accumulent.
Nous nous réjouissons de mener ce travail et de faire de la « superintelligence humaniste » une force positive dans le monde.
Source : IA humaniste : Code de conduite
Et vous ?
Pensez-vous que ce projet est crédible ou pertinent ?
Voir aussi :
Répondre avec citation
Partager