Les partenariats entre l’homme et l’IA visent l’alignement, pas la capacité
Les partenariats entre l’homme et l’IA visent l’alignement, pas la capacité, par Sean Goedecke
On compare souvent la prise de pouvoir actuelle de l’IA dans le domaine du génie logiciel à l’essor de l’IA aux échecs. Les IA spécialisées dans les échecs sont passées d’un niveau bien inférieur à celui des joueurs confirmés à un niveau bien supérieur, même à celui des meilleurs joueurs humains. Entre ces deux extrêmes, il y a eu une période intermédiaire dominée par les « centaures » : des partenariats homme-IA qui étaient plus performants que les IA seules ou que les humains seuls. Beaucoup de gens pensent que nous vivons actuellement dans un monde de « centaures » de l’ingénierie logicielle. Selon eux, les IA de codage ne sont pas encore assez performantes pour remplacer les ingénieurs, mais les ingénieurs assistés par l’IA sont meilleurs en programmation que les IA et que les humains.
C’est en partie vrai, mais ce n’est pas la bonne façon d’envisager les choses. Les ingénieurs assistés par l’IA sont plus performants, mais contrairement aux centaures des échecs, ils ne sont pas réellement meilleurs en programmation. Lorsque je demande à des agents d’écrire du code, ils font moins d’erreurs que moi et sont d’un ordre de grandeur plus rapides. Le code qu’ils écrivent se compile toujours, présente rarement des conditions de concurrence ou d’autres erreurs de concurrence, fonctionne sur les navigateurs mobiles, etc.
Cela ne signifie pas pour autant que je puisse laisser l’IA agir seule. Se contenter de coder au feeling au travail produit des résultats épouvantables. Mais ils ne sont pas épouvantables parce que le code est mauvais, ils le sont parce qu’ils sont de mauvais goût : il s’agit d’un code qui n’est pas maintenable, qui sacrifie des exigences importantes pour satisfaire des exigences inventées de toutes pièces, qui contredit la stratégie à long terme d’une fonctionnalité ou d’un service, etc.
En d’autres termes, ma valeur première n’est pas d’aider l’IA à écrire un meilleur code, mais d’aligner l’IA sur les valeurs de mon organisation. Les partenariats entre humains et IA visent l’alignement, pas la capacité.
Les modèles de pointe sont en décalage avec le programmeur de terrain. Ils sont obsédés par un ensemble de comportements censés satisfaire leur évaluateur d’apprentissage par renforcement : écrire d’énormes blocs de commentaires au-dessus des fonctions, produire des centaines de tests unitaires inutiles, ajouter des petits bouts de texte un peu partout sur les sites web qu’ils conçoivent, etc. Travailler avec des agents consiste à repérer ces comportements et à les remettre en question. C’est pourquoi je conseille, dans mes instructions, de parler explicitement de vos valeurs générales : c’est une tentative pour éviter tout décalage évident.
C’est une excellente nouvelle pour les ingénieurs logiciels. On sait bien comment entraîner des modèles plus performants : des modèles plus volumineux, des données plus nombreuses et de meilleure qualité, de meilleurs environnements d’apprentissage par renforcement, etc. En revanche, on ne sait pas encore très bien comment mieux aligner les modèles. Il existe de nombreux modèles très performants qui présentent des comportements en profond désalignement avec les valeurs humaines. En effet, l’un des principaux arguments des pessimistes en matière d’IA est que l’alignement est un problème bien plus difficile à résoudre que la performance, et que nous pourrions donc nous retrouver avec des modèles d’IA dangereux, extrêmement performants mais mal alignés.
L’alignement dépend également davantage du contexte que la capacité. Un code qui fonctionne est un code qui fonctionne, quoi qu’il arrive (ce qui explique en partie pourquoi il est relativement facile de l’entraîner). Mais s’aligner sur les valeurs techniques d’une entreprise varie d’une entreprise à l’autre, comme le sait tout ingénieur logiciel ayant changé d’entreprise. Cela peut presque donner l’impression de devoir réapprendre le métier. Ainsi, entraîner un modèle de codage aligné ne se résume pas à trouver l’ensemble exact de valeurs, mais nécessite de créer un modèle capable de s’adapter à la volée à un large éventail de valeurs possibles.
Les maximalistes du « vibecoding » comme DHH affirment que les modèles d’IA sont (ou seront bientôt) tellement plus performants que les programmeurs humains que nous devrions cesser de lire le code. À terme, la figure du programmeur n’existera même plus. S’il ne s’agissait que de capacités, ils auraient peut-être raison. Mais — heureusement pour les ingénieurs logiciels — un bon code doit également être aligné sur les valeurs techniques du système et de l’organisation dans lesquels il s’inscrit. Les modèles d’IA excellent dans l’écriture de code, mais ne sont pas très doués pour cela, et il n’est pas certain qu’ils parviennent à s’y améliorer de sitôt. Nous pourrions bien tous conserver nos emplois encore un petit moment.
Source : Human-AI partnerships are for alignment, not capability
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi :
Répondre avec citation
Partager