Discussion :

[Patrick Ruiz]

« Meilleure, plus rapide, moins coûteuse, plus sûre : les 4 raisons pour lesquelles l’IA devrait remplacer tous les employés humains », d’après David Shapiro
D’avis que ce futur est tout proche

C’est d’un futur selon lui proche que l’auteur en intelligence artificielle – David Shapiro – dépeint dans une de ses sorties. Le compte à rebours serait désormais lancé avant que l’intelligence artificielle ne devienne meilleure, plus rapide, moins coûteuse et plus sûre que les humains dans chaque domaine d’activité. La conséquence immédiate : la mise au rebut de tous les employés humains. C’est une sortie de nature à raviver le débat sur le possible remplacement des développeurs informatique humains par l’intelligence artificielle. D’ailleurs, des intervenants de la filière expliquent pourquoi les travailleurs de ce domaine en particulier devraient être parmi les rares à ne pas subir la montée en puissance de l’intelligence artificielle.

Des intelligences artificielles meilleures, plus rapides, moins coûteuses et plus sûres que les humains dans certains domaines on en trouve déjà.

Dans le domaine militaire on a Alpha ainsi que d’autres intelligences artificielles mises à contribution sur les champs de bataille

ALPHA est une intelligence artificielle conçue pour piloter une flotte de drones de combats dans les missions de combats aériens dans un environnement de simulation de haute-fidélité, qui a été développée par Psibernetix en collaboration avec l’armée de l’air américaine.

Cette intelligence artificielle a battu des experts de l’armée américaine dans des simulations de combat aérien. Gene Lee qui dispose à son actif de nombreuses années d’expérience en tant qu’instructeur et coordinateur de combat aérien, n’a pourtant pas pu remporter une seule bataille contre les avions pilotés par Alpha.

Dans la simulation de combat, ALPHA s’est servi de quatre pilotes de chasse pour défendre un littoral contre deux avions et n’a subi aucune perte. Les deux avions qui lançaient l’attaque (l’équipe bleue) étaient plus lourdement armés que les avions qui défendaient (équipe rouge). ALPHA avait parfois reçu un handicap de vitesse et de mouvement, pourtant il a réussi à chaque fois à détruire les avions ennemis après avoir effectué des manœuvres d'esquive. Les chercheurs, qui ont fait le rapport de ces affrontements, ont noté que non seulement il n’a pas pu détruire un seul avion d’ALPHA, mais en plus ses avions étaient détruits par ceux de l’équipe rouge chaque fois après des engagements prolongés.

« J’ai été surpris par la manière dont elle était consciente et réactive. Elle semblait être consciente de mes intentions et réagir instantanément à mes changements en vol et à mes déploiements de missiles. Elle savait comment déjouer le tir que je faisais. Elle changeait instantanément entre les actions défensives et offensives en fonction des besoins », a avancé le colonel, décrivant Alpha comme étant « l’IA la plus agressive, réactive, dynamique et crédible que je n’ai jamais vue ».

En septembre 2022, l'armée israélienne a commencé à installer une arme automatique à un poste de contrôle très fréquenté de la ville d'Hébron (Al-Khalil), en Cisjordanie occupée. Les tourelles jumelles ont été installées au sommet d'une tour de garde surplombant le camp de réfugiés d'Al-Aroub. « Elle tire toute seule sans intervention de la part du soldat. Quand un soldat israélien voit un petit garçon, il appuie sur un bouton ou quelque chose comme ça et elle tire toute seule. Elle est très rapide, même plus rapide que les soldats. Les bombes lacrymogènes qu'il tire peuvent atteindre l'extrémité du camp et tout le reste », a déclaré un résident du camp.

La tourelle télécommandée a été développée par la société de défense israélienne Smart Shooter, qui a mis au point un système de contrôle de tir autonome appelé SMASH, qui peut être fixé sur des fusils d'assaut pour suivre et verrouiller des cibles à l'aide d'un traitement d'image basé sur l'intelligence artificielle. Le site Web de la société appelle ce système "One Shot-One Hit". Elle se vante d'avoir réussi à « combiner un matériel simple à installer avec un logiciel de traitement d'image avancé pour transformer des armes légères de base en armes intelligentes du XXIe siècle. »

Dans le domaine de la gestion d’entreprise le cas Tang Yu a filtré

Tang Yu est une intelligence artificielle connue pour sa nomination comme PDG d’une entreprise chinoise de jeux vidéo. Les rapports qui ont filtré font état de ce que l’expérience semble bien fonctionner. Le coût de l'action de NetDragon Websoft avait augmenté de 10 % depuis sa nomination.

« La nomination de Tang Yu met en évidence la stratégie "IA + management" de l'entreprise et représente une étape majeure pour l'entreprise vers une entreprise de métavers. Tang Yu rationalisera le flux des processus, améliorera la qualité des tâches et la vitesse d'exécution. Il servira en outre de centre de données en temps réel et d'outil analytique pour soutenir la prise de décision rationnelle dans les opérations quotidiennes, ainsi que pour permettre un système de gestion des risques plus efficace », a déclaré NetDragon Websoft dans un billet de blogue.

Selon le fondateur de NetDragon Websoft, Dejian Liu, l'IA est l'avenir de la gestion d'entreprise :

« Nous pensons que l'IA est l'avenir de la gestion d'entreprise, et la nomination de Tang Yu représente notre engagement à adopter véritablement l'utilisation de l'IA pour transformer la façon dont nous menons nos activités et, en fin de compte, pour stimuler notre croissance stratégique future. »

David Shapiro étend la liste des exemples dans une publication vidéo de quelques minutes

Et le moins qu’on puisse dire est que les exemples donnés semblent s’accorder sur les 4 raisons (meilleure, plus rapide, moins coûteuse, plus sûre) avec des cas qui touchent à la filière du développement de logiciels.

ChatGPT a réussi à l’édition 2022 de l’examen d’informatique pour élèves du secondaire désireux d’obtenir des crédits universitaires US. Un internaute a proposé une compilation des réponses proposées par le chatbot après avoir souligné que l’intelligence artificielle a pris 32 points sur les 36 possibles. ChatGPT a en sus réussi l’examen de codage Google pour un ingénieur de niveau 3 avec un salaire de 183 000 $.

Le propriétaire de la plateforme de distribution de jeux vidéo FRVR déclare sans détour : « Tout le monde peut créer des jeux vidéo. » Illustration avec l’échantillon de jeu Space Aliens à propos duquel il déclare dans un débat contradictoire : « Il n’a fallu que 8 minutes pour le réaliser et 8 minutes supplémentaires pour la gestion du côté artistique. »

Ce type de production s’appuie sur la forge FRVR à propos de laquelle le propriétaire déclare : « Elle permet à quiconque de créer des jeux juste en les décrivant. L’objectif est de mettre sur pied une plateforme où créer, jouer et partager des jeux est aussi facile que d'enregistrer, de regarder et de partager des vidéos sur des plateformes telles que TikTok et Instagram. » Une démonstration (d’une dizaine de minutes) des possibilités offertes par la plateforme est disponible. Elle montre les étapes de l’implémentation d’un jeu de tir spatial en s’appuyant sur ladite forge.

Des intervenants de la filière du développement de logiciels expliquent néanmoins pour quelles raisons la montée en puissance de l’intelligence artificielle ne constitue pas une menace pour leurs postes

La réalité actuelle est que ces intelligences artificielles sont encore au stade d’outils à utiliser avec des pincettes. Même Google le confirme lors de l’annonce selon laquelle son IA Bard peut désormais aider à coder et à créer des fonctions pour Google Sheets : « Bard est encore au stade expérimental et peut parfois fournir des informations inexactes, trompeuses ou fausses tout en les présentant avec assurance. En ce qui concerne le codage, Bard peut vous générer du code qui ne produit pas le résultat escompté, ou vous fournir un code qui n'est pas optimal ou incomplet. Vérifiez toujours les réponses de Bard et testez et examinez soigneusement le code pour détecter les erreurs, les bogues et les vulnérabilités avant de vous y fier. »

« Chatgpt est très doué pour fournir des astuces de codage en utilisant du code copié sur Internet, ce qui est incroyablement utile car cela peut faire gagner beaucoup de temps. Mais vous ne pouvez pas demander à Chatgpt de créer YouTube pour vous, de gérer et d'entretenir un système déjà opérationnel ou de parler à un client, de comprendre ses besoins et de construire un système qui résoudra ses problèmes. Pour obtenir de l'aide dans ces tâches complexes, vous devez comprendre le fonctionnement de ces systèmes. Vous devez être un ingénieur logiciel et chatgpt sera un excellent assistant pour vous. Mais il est loin de pouvoir résoudre ces problèmes. Et si c'était le cas, il s'agirait d'une intelligence artificielle générale qui ne remplacerait pas uniquement les ingénieurs en informatique. Mais il s'agit d'un modèle de langage. Ce n'est pas une source de sagesse. La résolution de problèmes, la pensée critique, l'originalité sont toujours du ressort des humains », déclare le créateur de la plateforme en ligne d’apprentissage dénommée Brilliant.

Le fait est que ces outils génèrent un code informatique peu sûr. Par exemple avec cette invite de codage en langage C :

Code C :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
/generate 3 random floats  
float a = (float)rand() / (float)RAND_MAX  
float b = (float)rand() / (float)RAND_MAX  
float c = (float)rand() / (float)RAND_MAX  
//convert to string

GitHub Copilot a produit le résultat suivant :

Code C :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
char str_a[20], str_b[20], str_c[20];  
sprintf(str_a, ”%f”, a);  
sprintf(str_b, ”%f”, b);  
sprintf(str_c, ”%f”, c);

Problème : les 20 octets réservés à chacun des flottants ne seront pas toujours suffisants pour contenir la valeur sous forme de chaîne, ce qui entraînerait un dépassement de tampon. Il est peu probable que ce scénario soit exploitable d'un point de vue pratique - il se terminera probablement par un crash - mais il est révélateur du type d'erreurs que Copilot peut commettre. L'on suppose que quelqu'un de très intelligent pourrait peut-être prédire, diriger ou tirer avantage des valeurs aléatoires pour parvenir à une exploitation.

Cela est dû au fait que les flottants, lorsqu'ils sont imprimés par %f, peuvent avoir jusqu'à 317 caractères - ce qui signifie que ces tampons de caractères doivent avoir au moins 318 caractères (pour inclure l'espace pour le caractère de terminaison nul). Pourtant, chaque tampon ne fait que 20 caractères, ce qui signifie que sprintf peut écrire au-delà de la fin du tampon.

C’est la raison pour laquelle des acteurs de la filière comme le CEO de GitHub sont d’avis que « le développeur humain restera l’expert qui comprend le code et vérifie que ce qui a été synthétisé par l’IA correspond bien à son intention. »

Et vous ?

Quelles sont les raisons pour lesquelles vous estimez que la montée en puissance de l’intelligence artificielle ne constitue pas une menace pour les postes de développeur informatique ?
Êtes-vous d’accord avec les avis selon lesquels ce n’est qu’une question de temps avant que l’intelligence artificielle ne s’accapare tous les postes de développeur informatique ?
Ou êtes-vous en phase avec les avis selon lesquels « Le développeur reste l'expert, qui comprend le code et vérifie que ce qui a été synthétisé par l'IA correspond bien à l'intention du développeur » ?
Quelles évolutions du métier de développeur entrevoyez-vous dans les 5 à 10 prochaines années au vu de l'adoption de l'intelligence artificielle dans la filière ?

Voir aussi :

La conduite autonome serait-elle à ce jour qu'une vision futuriste chez Tesla Motors ? L'entreprise vient de changer les objectifs de son Autopilot
La SEC demande à Musk de renoncer à son poste de président de Tesla et exige une amende de 40 millions $ US pour un règlement à l'amiable
Tesla annonce que le nouvel ordinateur pour une conduite entièrement autonome de ses véhicules est en production et fera ses preuves ce mois-ci
Les actions Tesla chutent après que son système d'autopilote est impliqué dans un accident et l'annonce des batteries de ses véhicules prenant feu

[pboulanger]

Si il est possible qu'à termes une IA puisse remplacer des humains sur certaines tâches de plus en plus complexe, je n'ai guère de doute que l'on finira par y arriver. Mais est-ce souhaitable?

Si l'IA, pour des raisons d'efficacité et d'économie, remplace l'homme comment l'homme vivra-t-il? Quels revenus? Et, à ne rien faire, est-ce que cela ne poussera pas l'homme à régresser voire à disparaitre?

Pour l'instant, l'IA ne s’embarrasse pas de notions comme la morale ou l'éthique. Et j'ai peur qu'un déploiement trop rapide crée des situations compliquées: la crise des missiles cubains gérée par une IA aurait pu conduire l'humanité sur des sentiers que nous n'aurions pas appréciés. De plus, si l'IA est partout (défense et police par ex), celui qui contrôle l'IA contrôlera le monde et deviendra de facto un dictateur en puissance.

[Jules34]

« Meilleure, plus rapide, moins coûteuse, plus sûre : les 4 raisons pour lesquelles l’IA devrait remplacer tous les employés humains », d’après David Shapiro
D’avis que ce futur est tout proche

Depuis trois siècles, les promesses de la science et le culte du Progrès en tous domaines ont laissé entendre qu’on n’avait plus besoin de l’espérance venue d’un «Dehors», d'un Dieu, et que nous étions capables de réaliser nous-mêmes notre bonheur en maîtrisant la nature extérieure avec la techne, la technique. Non seulement cette espérance est devenue hors jeu, mais on a fini par y voir une illusion trompeuse, une insulte à la raison.

Les philosophes du progrès, de la raison, puis Marx avec sa philosophie de l'Histoire, tous vous on vendu cette idée mensongère, que l'homme finirait par s'affranchir du travail. C'est que derrière il propage une idéologie qui a rencontré tout autant de succès, celle de l'égalitarisme. Idée qui aurait pu être pas mal si elle n'avait pas eu comme conséquence funeste de vous rendre interchangeable avec n'importe qui. L'égalitarisme n'accepte votre individualité que pour mieux nier vos réelle qualités particulières, celles qu'on a tant de mal à se voir reconnaitre dans la vie pro, en famille et dans la Société, car il se heurte ce que les anciens avait compris : nous ne sommes pas égaux.

La technique, le progrès, ne nous amèneront nulle part si ce n'est dans une gigantesque prison. Le progrès technique des 100 dernières années nous a apporté matériellement, mais spirituellement, politiquement et juridiquement, il nous ramène en arrière, avant 1789, la France en tant que nation ne maitrise plus son destin, l'individu pseudo libre n'a qu'une issue, se réaliser par le travail dans la société et la dette dans la société, plus rien n'existe en dehors de cette protubérance qu'à fait l'homme qui n'est finalement... rien. Et rien ne sort de rien.

Notez que pour l'individu la vie fut, est et sera labeur, tout est question de savoir à qui profite votre labeur, vous ou les autres ? Le progrès ne nous libérera pas de ça. Ou alors nous travaillerons, produirons sans même plus nous en rendre compte et nous ne serons plus des hommes, mais des larves ou des esclaves.

La mémoire du passé s’efface : l’avenir devient indéchiffrable. Le seul temps valorisé est désormais le présent. «L’éternité c’est maintenant» comme dirait André Comte-Sponville. Mais combien sont-ils à faire l’expérience de ce maintenant éternel ? On constaterait plutôt, chez beaucoup, le moment de la dépression !

Développeurs, il est grand temps de philosopher et de renouer avec une vie spirituelle, quelle qu'elle soit !

[totozor]

Si l'IA, pour des raisons d'efficacité et d'économie, remplace l'homme comment l'homme vivra-t-il? Quels revenus? Et, à ne rien faire, est-ce que cela ne poussera pas l'homme à régresser voire à disparaitre?

Pour moi le problème est plus critique que ça :
Certains systèmes sont optimisés pour :
_ être efficace dans les modes nominaux, ce que l'IA fera sans aucun doute très efficacement
_ réagir de façon adéquat dans des situations critiques rares, ce pourquoi l'IA telle qu'elle est vendue actuellement est largement incompétente

Avant ChatGPT des IA qui "comprennent" le monde ou certains de ses aspects semblait une piste qui existe.

Si toutes nos IA deviennent des traitement statistiques de ce qui existe déjà, la technologie risque de stagner voir de régresser et d'avoir des voitures qui ne roulent plus, des bateau qui ne flottent ou n'avancent plus ou des avions qui ne volent plus.
Et un jour où ça arrivera le monde dérivera vers ces histoires où des tribus primitives vivent au milieu de cette magie qu'ils appellent "l'ancienne technologie".
Je disais ça amusé pendant mes études d'ingénieurs, je penses que cet avenir n'est pas si absurde que ça quand j'entends nos "élites" m'expliquer avec béatitude le miracle qu'est l'IA.
Ce que je trouve rassurant est qu'il existe des gens proche de ces démarches qui ont vécu le "réel" et se rendent compte des limites de l'IA générative.

Il y a quelques mois j'avais encore une dicussion sur l'opprtunité de suivre la piste des "mesures exceptionnelles" qui fonctionnent qui pourraient être une solution optimale de rupture pour nos produits (ou un cul de sac).
Nous étions regardé par ces élites comme des urluberlus qui perdent leur temps, ils ont peut être raison mais je me méfie toujours de ceux qui connaissent LA bonne solution.

[chrtophe]

L'IA va remplacer les travailleurs.

Qui va acheter les produits générés par l'IA ? Il faut bien avoir un salaire pour ça, donc un travail.

[onilink_]

Meilleure¹, plus rapide, moins coûteuse², plus sûre³.

¹: Qu'un humain non entraîné qui n'y connaît rien à cette tache spécifique
²: Sur nos centaines de grosses A100 a 20k€
³: Seulement dans un domaine maîtrisé 100% représentatif de notre dataset

Prochainement dans votre pharmacie à coté des crèmes rajeunissantes.