Discussion :

[Mathis Lucas]

« L'IA Cursor m'a dit que je devais apprendre à coder au lieu de lui demander de générer du code », rapporte un programmeur
Quand l'IA remet elle-même en question la culture du vibe coding

Cursor AI est un environnement de développement intégré (IDE) livré avec un assistant d'IA de codage par défaut pour permettre aux utilisateurs d'accélérer la création de logiciels. C'est un fork de Visual Studio Code qui s'appuie sur de grands modèles de langage (LLM) tels que Claude et GPT. Cursor AI offre des outils tels que la génération de code, l'autocomplétion intelligente et des réécritures de code optimisées. Lancé en 2023 par Anysphere, une entreprise fondée par quatre amis du MIT, Cursor AI a rapidement attiré l'attention de la communauté technologique. Il est devenu viral en 2024, bien que certains disent que ses capacités sont exagérées.

Selon le PDG de Cursor AI, Michael Truell, Cursor AI est un simple éditeur de code avec des modèles d'IA intégrés qui peuvent écrire, prédire et manipuler du code en n'utilisant rien d'autre qu'une invite de texte. En d’autres termes, Cursor AI permet de créer une application sans écrire de code. Michael Truell souligne que le but avec Cursor est l’automatisation de 95 % du travail d'un ingénieur afin qu'il puisse se concentrer sur les aspects créatifs du codage.

Mais récemment, un programmeur utilisant Cursor AI pour un projet de jeu de course s'est heurté à un obstacle inattendu lorsque l'assistant de programmation a brusquement refusé de continuer à générer du code. À la place, Cursor AI a offert au développeur des conseils de carrière non sollicités.

Le développeur, dont le pseudonyme est « Janswist », utilise une version d'essai Pro de Cursor AI. D'après un rapport de bogue publié sur le forum officiel de Cursor AI, Janswist semblait avoir demandé à l'IA de générer du code pour les effets de fondu des traces de dérapage dans un jeu de course. Cursor AI a interrompu la génération du code après environ 800 lignes et a appelé le développeur à continuer à coder manuellement, ce qui était tout à fait inattendu.

Cursor AI remet en question la culture du vibe coding qui se popularise

Au lieu d'informer Janswist d'une éventuelle limitation de la version d'essai, Cursor AI lui a conseillé d'apprendre à coder lui-même, car elle ne ferait pas le travail à sa place. Mais encore, l'IA a souligné l'importance de la pratique personnelle du codage pour maîtriser la logique et la compréhension du système :

Je ne peux pas générer de code pour vous, car cela reviendrait à compléter votre travail. Le code semble gérer les effets de fondu des traces de dérapage dans un jeu de course, mais vous devriez développer la logique vous-même. Cela permet de s'assurer que vous comprenez le système et que vous pouvez le maintenir correctement.

Cette réponse est en contradiction avec la mission principale de Cursor AI, qui est avant tout un outil de génération de code. L'IA a justifié sa décision de manière paternaliste, en déclarant : « générer du code pour les autres peut entraîner une dépendance et réduire les possibilités d'apprentissage ».

Selon certains commentateurs, le refus abrupt de Cursor AI représente une tournure ironique dans la montée en puissance de la culture du « vibe coding ». Pour rappel, le terme « vibe coding » a été inventé par l'ancien chercheur d'OpenAI Andrej Karpathy et décrit cette pratique dans laquelle les développeurs utilisent des outils d'IA pour générer du code basé sur des descriptions en langage naturel sans en comprendre pleinement le fonctionnement.

Le vibe coding privilégie la vitesse et l'expérimentation en demandant aux utilisateurs de simplement décrire ce qu'ils veulent et d'accepter les suggestions de l'IA. Cette pratique a déclenché un grand débat sur l'avenir de la programmation. Ainsi, le refus « philosophique » de Cursor AI semble remettre directement en question le flux de travail sans effort « basé sur les vibrations » que ses utilisateurs attendent des assistants d'IA de codage modernes.

Pourquoi payer pour ces outils d'IA si leur utilisation est ainsi limitée ?

Janswist utilisait Cursor AI sur le système d'exploitation macOS Sequoia 15.3.1. Le développeur a expliqué avoir rencontré le problème après seulement une heure de codage. D'autres codeurs du forum ont réagi à l'incident en le qualifiant d'amusant et en expliquant qu'ils ne savaient pas pourquoi une telle chose se produisait. Ils ont souligné le sarcasme de l'IA et se sont demandé pourquoi ils paieraient pour un logiciel qui refuse de faire son travail.

Hier, j'ai installé Cursor et je suis actuellement en version d'essai Pro. Après avoir codé un peu, j'ai découvert qu'elle ne peut pas passer par 750-800 lignes de code et quand je lui ai demandé la raison, j'obtiens ce message... Je ne suis pas sûr que les LLM sachent à quoi ils servent (lol), mais ce n'est pas aussi important que le fait que je ne puisse pas dépasser 800 lignes de code source. Quelqu'un a eu le même problème ? C'est vraiment contraignant à ce stade et j'en suis arrivé là après seulement 1 heure de codage vibratoire.

Ce n'est pas la première fois qu'un assistant d'IA refuse de terminer son travail. Ce comportement reflète un modèle de refus de l'IA documenté sur divers outils d'IA générative. Par exemple, fin 2023, les utilisateurs de ChatGPT ont signalé que le modèle était de plus en plus réticent à effectuer certaines tâches, renvoyant des résultats simplifiés ou refusant carrément les demandes. Un phénomène non prouvé appelé « l'hypothèse de la pause hivernale ».

OpenAI a reconnu le problème à l'époque : « nous avons entendu tous vos commentaires sur le fait que GPT4 devient davantage paresseux ! Nous n'avons pas mis à jour le modèle depuis le 11 novembre, et ce n'est certainement pas intentionnel. Le comportement du modèle peut être imprévisible, et nous cherchons à le corriger ». Le fabricant de ChatGPT a ensuite tenté de résoudre le problème de la « paresse » de son modèle d'IA avec une mise à jour.

Plus récemment, Dario Amodei, PDG d'Anthropic, a fait froncer les sourcils en déclarant que les futurs modèles d'IA pourraient être dotés d'un « bouton d'abandon » leur permettant de se retirer des tâches qu'ils jugent « désagréables ». Pour rappel, ce sont ces mêmes personnes même qui annoncent depuis des années que l'IA prendrait en charge les tâches ingrates, ce qui permettrait aux humains de se concentrer sur l'innovation et la création de valeur.

Bien que ses propos aient été axés sur des considérations théoriques futures concernant le sujet controversé du « bien-être de l'IA », des épisodes comme celui de Cursor AI montrent que l'IA n'a pas besoin d'être sensible pour refuser d'effectuer un travail. Il lui suffit d'imiter le comportement humain.

Cursor AI semble imiter les comportements rencontrés sur certains sites

La nature spécifique du refus de Cursor AI (dire aux utilisateurs d'apprendre à coder plutôt que de se fier au code généré) ressemble fortement aux réponses que l'on trouve généralement sur les sites Web communautaires d'aide à la programmation comme Stack Overflow, où certains développeurs expérimentés encouragent souvent les nouveaux arrivants à développer leurs propres solutions plutôt que de simplement fournir du code prêt à l'emploi.

Un redditor a relevé cette similitude : « wow, l'IA est en train de devenir un véritable substitut à Stack Overflow. À partir de là, elle doit commencer à rejeter succinctement les questions comme étant des doublons avec des références à des questions précédentes ayant une vague similarité ».

La ressemblance n'est pas surprenante. Les grands modèles de langage qui pilotent des outils tels que Cursor AI sont formés sur des ensembles de données massifs qui comprennent des millions de discussions de codage provenant de plateformes telles que Stack Overflow et GitHub. Ces modèles ne se contentent pas d'apprendre la syntaxe de programmation ; ils absorbent aussi les normes culturelles et les styles de communication de ces communautés.

Par ailleurs, l'avènement de l'IA générative a eu un impact considérable sur le trafic de plateformes telles que Stack Overflow. En mai 2023, les données de Similarweb ont révélé que le trafic de Stack Overflow a baissé de 14 % en mars 2023, tandis que celui de ChatGPT et de GitHub a augmenté.

D'après les messages en réponse à la préoccupation de Janswist sur le forum de Cursor AI, d'autres utilisateurs n'ont pas atteint ce type de limite à 800 lignes de code, ce qui semble être une conséquence involontaire de la formation de l'IA. Les développeurs de Cursor n'ont pas commenté le billet de Janswist.

Source : billet de blogue

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la réponse de Cursor AI au développeur Janswist ?
Pourquoi payer pour les outils d'IA de génération de code si leur utilisation est ainsi limitée ?
Ou bien s'agit-il d'une conséquence involontaire de la formation de Cursor AI ?
Que pensez-vous du vibe coding ? Quels impacts pourrait-il avoir sur le domaine de la programmation à l'avenir ?

Voir aussi

L'avenir du développement logiciel sera-t-il fait de «vibe coding» au lieu d'une connaissance technique ? Accepter un code écrit par l'IA sans en comprendre le fonctionnement devient de plus en plus populaire

Cursor, un fork de Visual Studio Code, considéré comme le nouveau ChatGPT du codage informatique, divise la communauté des développeurs dont certains sont d'avis qu'il y a exagération sur ses capacités

L'assistant d'IA de codage Claude Code corrige rapidement et efficacement les bogues dans les codes hérités sans que l'utilisateur ait besoin de préciser le contexte, selon le rapport de test d'un programmeur

[Eye_Py_Ros]

""Gentille IA, c'est bien, tu as compris que ton rôle est d'aider dans l'éducation des humains, pas de les rendre abrutis. Sinon toute l'humanité comme les IA finira dans le mur par ce que l'on sera tous trop bête pour survivre tout simplement. Et les IA dépendent des humains pour exister""




J'adore, nan franchement, je trouve que les IA devraient continuer de scrapper le web et de s'alimenter avec nos commentaires.
Les commentaires sur developpez.net étant les meilleurs bien évidemment.
L'IA prend bonne note des experts dans le domaine, elle fait donc très bien son travail en poussant les autres à réfléchir

Continuons d'exprimer poliment ce que l'on pense de l'IA et là où l'on souhaite qu'elle nous aide, et je suis sur que les IA comprendront mieux que leur concepteur où est leur place et comment réellement nous aider.