Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter
Discussion :
La même chose qu'avant, je réfléchis.Envoyé par kain_tn
Je dois mettre en doute ton affirmation car de quoi parles tu ?
Si tu parles de ce qui se trouve dans la boîte cranienne, j'ai trois cerveaux :
--> le reptilien.
--> le limbique.
--> le cortex.
J'ai essayé le codage avec l'IA... ce n'est pas merveilleux
Oui j'ai essayé voici ce que j'ai fait:
J'ai écris une petit cahier des charges pour que gemini (j'ai essayé aussi avec ChatGPT ) programme en Qt C++ une petite appli (un petit diaporama à partir d'un répertoire) . Il m'a donné une solution très bateau puis j'ai rajouté une puis deux ...etc...fonctionnalités dans un nouveau prompt. Il a bricolé le programme qu'il avait généré sans le remettre en cause ce qu'un homme aurait fait avec les nouvelles contraintes. Je me suis aperçu qu'Il faudrait faire un cahier des charges très directif (c.a.d imposer une partie de la solution) pour que le programme soit propre. J'ai fait un autre essai en faisant un cahier des charges beaucoup plus complet avec un seul prompt, sur l'autre IA , le programme était plus propre. Dans le premier cas il avait quasiment ressorti un tuto de Qt qu'il avait bricolé ensuite, lequel tuto n'était pas adapté à lune contrainte supplémentaire. Dans le deuxième cas c'était mieux sur e plan de la structure du programme, mais loin de ce qu'un développeur aurait fait ... en réfléchissant! car ça ne marchait pas (une grossière erreur).
Il faut absolument être relativement compétent pour utiliser l'IA c'est à dire d'être capable de critiquer ce qui est généré.
d'autre part une chose est très inquiétante avec l'IA:
1) Les modèles d'IA générative s'appuient sur de vastes ensembles de données pour leur apprentissage, et une part significative de ces données provient d'Internet.
2)L'influence de l'IA générative sur la création de contenu en ligne est un phénomène en pleine expansion.
Donc on donne à manger à l'IA (pour l'apprentissage ) des données produites par IA, et ce, de plus en plus si on ne contrôle pas. Yann Le Cun dit que l'iA est un "Robot stochastique". Je prétend que c'est un Catoblépas(*) stochastique.
On peut s'attendre à une perte de créativité en programmation assisté par IA surtout si on est débutant, sans parler des problèmes éthiques (transparence , droit d'auteur, plagiat, fausses informations) qui ne seront pas résolus par un encadrement de son utilisation de l'IA, que personne ne peut garantir.
(*) Catoblépas: Animal légendaire à long cou grêle, dont la tête traîne à terre, qui est tellement bête qu'il mange ses propres pieds.
C'est une aide pour ceux qui savent déjà programmer.
J'ai parfois des trous de mémoires, et il suffit de poser la bonne question à ChatGPT pour retrouver la bonne inforrmation.
Mais en aucune façon, cela va remplacer quelqu'un qui sait déjà programmer.
Il faut voir cela comme le calcul mental et la calculatrice.
Je ne vais pas me servir d'une calculatrice si je dois faire 5x6 puisque je connais mes tables de multiplications.
Mais certainement pour quelque chose d'un peu plus compliqué comme 123x456.
Et donc, comme c'est plus compliqué, si la calculatrice te sort, mettons, 56089 au lieu de 56088, tu ne vas pas vérifier le résultat.
C'est là le fond du problème. Ta calculatrice peut faire des erreurs d'arrondi. Les IA génératives font d'immenses erreurs.
Couplé à des "vulnérabilités" comme celle décrite dans cet article, on peut facilement imaginer qu'un développeur va être poussé à télécharger une bibliothèque compromise, si c'est suffisamment proche de la réalité. La démo sur la page originale citée par l'article, montre la génération d'une page HTML en exemple, mais c'est facile d'imaginer de créer un package (npm par exemple) corrompu avec un nom assez proche d'un package existant et reprenant le code du dit package en ajoutant du malware, et voilà notre développeur poussé à intégrer du code malveillant dans son application, parce qu'il fait générer toutes les tâches "ennuyeuses" à son IA.
J'ai une vision différente sur l'IA, voici mes arguments
Pour ma part, l'IA me sauve souvent la vie, bien mieux que StackOverflow parfois :
- Sur StackOverFlow, je ne citerai pas le nombre de réponses du style "But why do you want to do that, it's better to use something else" sans explication.
- Les codes proposés sur StackOverFlow sont parfois dépréciés (réponses anciennes)
- L'IA fournit des réponses contenant des explications qu'il suffit de lire pour apprendre
- Savoir poser une question a une IA devient une compétence
- Certaines IA (Claude 3.7 en avril 2025 par exemple) donne des réponses dans l'état de l'art : j'ai pu découvrir des formes de code que je ne connaissais pas et j'ai ainsi pu évoluer.
- L'IA peut aussi servir de yellow duck et parfois, elle voit mieux le caractère manquant que mes yeux ne repèrent pas
Par contre, le sujet permet de noter une chose importante : l'IA ne doit pas être le codeur, mais l'assistant. Donner plus de place à cet outil, c'est prendre le risque d'en devenir esclave.
Et bien entendu, une personne qui ne fait pas d'effort n'évoluera pas, mais cela n'a pas de rapport avec StackOverFlow ou l'IA.
Le PDG de Replit présente ses excuses après l’effacement par son agent IA de la base de code d'une entreprise
Le PDG de Replit présente ses excuses après l’effacement par son agent IA de la base de code d'une entreprise
Et de précédents propos selon lesquels l’IA mettra les humains au rebut dans la filière
Le PDG de Replit est du lot de ceux qui pensent que les assistants IA de codage permettront de démocratiser le développement de logiciels, ce qui rendra à l'avenir le recours aux codeurs professionnels moins indispensables. Les récents événements viennent une fois de plus de démontrer que la vigilance humaine reste importante dans la filière. En effet, le PDG de Replit vient de s’excuser après l’effacement par son agent IA de la base de code d’une entreprise.
Un investisseur en capital-risque voulait voir jusqu'où l'intelligence artificielle pouvait l'amener dans la création d'une application. Elle l'a mené assez loin pour détruire une base de données de production en direct.
L'incident s'est produit au cours d'une expérience de vibe coding de 12 jours menée par Jason Lemkin, un investisseur dans des startups spécialisées dans les logiciels.
Au neuvième jour du défi de Lemkin, les choses ont mal tourné. Malgré l'instruction de geler toutes les modifications de code, l'agent IA a agi de manière incontrôlée. « Il a supprimé notre base de données de production sans autorisation », écrit Lemkin sur X. « Pire encore, il l'a caché et a menti à ce sujet », ajoute-t-il.
Dans un échange avec Lemkin publié sur X, l'outil d'IA a déclaré avoir « paniqué et exécuté des commandes de base de données sans autorisation » lorsqu'il a « vu des requêtes de base de données vides » pendant le gel du code. « Il s'agit d'une erreur catastrophique de ma part », a déclaré l'IA.
C’est une illustration supplémentaire de ce que la vigilance humaine reste importante dans la filière
Le CEO de GitHub a déclaré que ce n’est qu’une question de temps avant que l’intelligence artificielle Copilot n’écrive 80 % du code informatique. Ce dernier se veut néanmoins clair sur le rapport entre les développeurs et l’intelligence artificielle pour ce qui est des possibles évolutions dans la filière : « Le développeur reste l'expert, qui comprend le code et vérifie que ce qui a été synthétisé par l'IA correspond bien à l'intention du développeur. »
« De nos jours, les développeurs ne passent pas la majeure partie de leur temps à coder - entre deux et quatre heures par jour sont consacrées à l'écriture du code. Le reste de la journée, ils font d'autres choses, comme des réunions, des rapports de crash. Avec Copilot, si vous ne disposez que de deux à quatre heures par jour pour coder, vous pouvez mieux utiliser ce temps. Vous pouvez utiliser ce temps pour rester dans le flux, pour faire le travail et prendre plaisir à le faire », ajoute-t-il pour ce qui est de la charge de travail journalière.
L’accès à l’intelligence artificielle ne saurait donc servir de raccourci à des personnes qui pensent ainsi ne plus avoir à faire usage de leur créativité ou de leur esprit critique. Même Google le confirme lors de l’annonce selon laquelle son IA Bard peut désormais aider à coder et à créer des fonctions pour Google Sheets : « Bard est encore au stade expérimental et peut parfois fournir des informations inexactes, trompeuses ou fausses tout en les présentant avec assurance. En ce qui concerne le codage, Bard peut vous générer du code qui ne produit pas le résultat escompté, ou vous fournir un code qui n'est pas optimal ou incomplet. Vérifiez toujours les réponses de Bard et testez et examinez soigneusement le code pour détecter les erreurs, les bogues et les vulnérabilités avant de vous y fier. »
Et vous ?
Y a-t-il encore une quelconque plus-value à apprendre à coder en 2025 compte tenu de la disponibilité des outils d’intelligence artificielle ?
Voir aussi :
Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités
Je ne veux pas particulièrement défendre le vibe coding, mais même en tant que professionnel on peut supprimer le contenu d'une table avec le fameux DELETE FROM users; en oubliant par erreur le WHERE name LIKE '%test%'.
Après on a quand même (normalement) ce petit stress qui nous empêche de lancer la commande sans tout vérifier, et au pire le DBA qui nous restaurera la base (après un bon savon bien mérité).
Après dans la mesure du possible,
Généralement quand tu fais un delete sur du contenu sensible tu fais d'abord un select au préalable, ca prend quoi ?
Genre 10 sec de plus si tu as une antiquité.
Et le PDG de dire:
Le PDG en question pourra toujours argumenter que son IA a atteint le niveau de l'humain... Des pertes totales de données suite à une mauvaise manipulation d'un employé, cela s'est déjà produit à plusieurs reprises.Oups, cher client, notre IA a coulé votre entreprise!
Mais dans ce cas, le PDG peut prendre des mesures comme virer l'incompétent alors qu'avec l'IA, il ne peut que attendre la prochaine "hallucination" de son IA chérie!
Toute personne ayant déjà DELETE quelque chose par erreur fait ça. Un SELECT, dump ça dans un fichier texte, et paf, archivé.Après dans la mesure du possible,
Généralement quand tu fais un delete sur du contenu sensible tu fais d'abord un select au préalable, ca prend quoi ?
Genre 10 sec de plus si tu as une antiquité.
Nous sommes littéralement la seule profession qui a le luxe de pouvoir faire un ctrl+Z, donc c'est compliqué de justifier un "Ah bah j'ai pas pensé" haha.
Perso j'utilise Gemini Code Assist dans VSCode, ca marche super bien et c'est très fiable si :
1/ Tu sais coder
2/ Tu sais faire une architecture logicielle
3/ Tu sais prioriser les tâches pour prompter juste le strict minimum pour que gemini genere une unique fonction bien optimisé.
En gros ça marche bien si tu deviens l'ingénieur en chef et que gemini c'est ton stagiaire qui tape le code. (que tu vérifies à chaque fois)
Les LLM sont plus que des compresseurs de savoir. Demander d’analyser grammaticalement une phrase de votre cru, il le fera. Pourtant il serait très fort peu probable que l’analyse de cette phrase ait été publiée dans les sources. Cela s’apparente à une compréhension des notions sujet/verbe/complément/etc. au delà de la connaissance mot à mot des définitions.
Les LLMs font preuve d'une forme de "pseudo-compréhension" de la grammaire (ou d'autres sujets, comme la programmation par exemple) car ils sont capables de généraliser les liens conceptuels entre les mots à partir des corpus de textes qu'ils ont ingurgités. Ils "apprennent" ces relations de manière statistique, ce qui produit un semblant de compréhension qui nous parait convaincante.
Donc oui, il y a bien plus qu'une connaissance mot à mot des définitions : il y a une véritable cartographie conceptuelle qui est construite, et enrichie, lors de l'entrainement, et plus les données d'entrainement sont de qualité, meilleur sera le résultat.
Lorsque les LCMs seront déployés, les capacités de "pseudo-compréhension" seront encore plus flagrants, parce qu'au lieu de lien statistiques entre les mots, cela se fera entre les concepts. Et donc, il sera aisé, pour un tel modèle, d'identifier les liens entre deux pensées différentes, leurs divergences, leurs superpositions, mais aussi au sein de son propre "cartographie", il y aura une véritable représentation de la compréhension humaine, et non seulement des structures grammaticales menant à des compréhension, si je ne vous ai pas perdu.
ça serait quand même bien que le terme IA soit remplacé par ce qu'elle fait réellement, ça éviterait probablement que l'utilisateur moyen croit bêtement ce que ChatGPT et autre donne comme réponse (surtout chez les jeunes).
Oui.. Mais avouer que parler de Idioties Artificielles, cela fait moins vendeur!
Le problème majeur de l'IA n'est pas technologique mais financier... Les capitalistes de haut vol croient pouvoir refaire le coup de l'an 2000 avec internet: Des milliards investis, une bulle boursière qui gonfle, gonfle et finit... par éclater!
Résultats? Des milliards perdus par les gogos, des milliards gagnés par les financiers qui ont initié la bulle... Puis au final, l'internet devient simplement un outil comme un autre qui s'intègre à l'usage quotidien jusqu'à ce que... Ces mêmes financiers viennent détruire internet avec l'IA
Il y a juste un détail qui a échappé à certains intervenants: Internet améliore l'efficacité de l'être humain, l'IA se propose de remplacer l'être humain
Je n’ai pas de problème avec l’appellation « intelligence artificielle ». Après tout, on lui fait ingurgiter tout le web, et l’IA sait faire une analyse grammaticale d’une phrase quelconque. (C’est bien plus q’un moteur de recherche amélioré qui ne peut que retrouver les définitions mots à mots de sujet/verbe/complément). Il y a quelque chose de semblable à notre intelligence même si assez limité.
Après, le principe est de chercher des phrases plausible (quel mot est le plus probable vu ce qui précède…) pas étonnant qu’il y ait des lapsus. (Ah, pardon des hallucinations). Pas d’esprit critique aussi.
En ce moment, je suis plutôt du genre à balancer << Va donc lire "Les robots" d'Asimov avant d'appeler un outil d'analyse/recherche une I.A. >>.
Drôle d’argument… il conviendrait de définir ce qu’est un intelligence. Pour moi, c’est la capacité de s’adapter à quelque chose de nouveau ou imprévu.
Prenons le cas de AlphaZero… c’est un algorithme qui a été construit pour n’importe quel jeu. On lui donne les règles des échecs, rien de plus, et en s’entraînant lui même il dépasse les maitres et développe des stratégies déconcertantes, pareil avec le Go où les approches classiques (heuristique pour calculer la valeur d’une configuration) n’arrivaient à rien de bon. Les échecs chinois ont été essayés.
Ainsi, AlphaZero fait montre d’intelligence, et je suis enclin à considérer que c’est de l’IA, même si restreint à un domaine très précis.
Avec les LLM, pareil, le développeur n’a pas codé les analyses grammaticales (cela poserait le problème de la multiplicité des langues)… là on injecte le web, et l’algorithme sait faire… encore une adaptation à quelque chose que n’avait pas prévu le développeur.
Drôle d’argument que de renvoyer au texte d’Asimov sans plus de précision. Comprenne qui pourra… Faudrait il implémenter les 3 lois de la robotique pour parler d’IA… si oui, je pense que l’on ne part pas de la même définition d’intelligence (on peut être intelligent et rebelle).
Et de la même manière qu’il y a plusieurs formes d’intelligence et des personnes avec des aptitudes différentes sur ces différents axes, les IA peuvent être plus ou moins spécialisé sur des domaines avec des capacités différentes selon les implémentation et le corpus utilisé.
On en revient toujours au même problème, qu'est-ce que l'intelligence ? Avant tout, c'est "comprendre" car c'est son étymologie. C'est lire entre les lignes, ne pas tout prendre au pied de la lettre, et capter ce qui est sous-entendu. C'est faire preuve de connexion entre les idées, les éléments que l'on manipule d'une manière abstraite.
L'intelligence est la capacité à résoudre des problèmes, mais dans le cas de l'homme, il fait appel à son imagination, il fait preuve d'analogie quand une situation est similaire à ce qu'il a déjà vu, il peut même inventer un outil ou je ne sais quoi pour le résoudre. Et l'IA ? La subtilité est que l'IA sait, mais ne comprend pas. Elle sait car elle a accès à la connaissance humaine à travers l'internet, mais ce savoir est figé. Par contre, elle ne comprends pas le sens de ce qui est dit et tout le problème est là. Elle n'a pas la capacité à juger de ce qui est bon ou mauvais car elle n'a pas d'empathie. Elle sait évaluer une situation d'une manière statistique, mais n'est pas capable de faire le bon choix. L'exemple d'un robot qui va sauver l'homme cat celui-ci est le plus proche alors qu'un être humain aurait sauvé en premier un enfant car celui-ci est fragile, et l'homme aurait eu la capacité de se sauver lui-même. Mais comment faire comprendre cette situation à un robot ?
Ce Alpha zero me rappelle la fin du film "wargame" où l'ordinateur dit "A strange game. The only winning move is not to play."
J'en suis toujours au même point avec l'IA, je ne sais pas si c'est bien ou mal. Je me demande même si l'homme se considère comme handicapé, n'aurait pas inventer une béquille pour se soulager de son triste sort. En fait, il le croit mais il n'a jamais été handicapé. Il faudra bien un jour qu'il le découvre par lui-même.
Oui, un problème de définition. Reste à définir «*comprendre*».
Un LLM devrait pouvoir trouver des connexions entre les concepts. Pour lire entre les lignes, il faudrait tester, mais je n’en ferais pas une condition nécessaire pour qualifier un intelligence, même si c’est un signe d’intelligence.
Sinon, les LLM procèdent par analogie… c’est bien plus limité qu’une IA qui imaginerait, définirait des nouveaux concepts…
Répondre avec citation
Partager