IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Intelligence artificielle Discussion :

Des centaines d'outils d'IA ont été construits pour combattre la Covid-19 et aucun d'entre eux n'a aidé.


Sujet :

Intelligence artificielle

  1. #1
    Chroniqueuse Actualités

    Femme Profil pro
    Rédacteur Web
    Inscrit en
    mars 2020
    Messages
    320
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : Cameroun

    Informations professionnelles :
    Activité : Rédacteur Web

    Informations forums :
    Inscription : mars 2020
    Messages : 320
    Points : 5 460
    Points
    5 460
    Par défaut Des centaines d'outils d'IA ont été construits pour combattre la Covid-19 et aucun d'entre eux n'a aidé.
    Des centaines d'outils d'IA ont été construits pour combattre la Covid-19 et aucun d'entre eux n'a aidé,
    mais la pandémie pourrait aider à améliorer l'IA médicale

    Lorsque la covid-19 a frappé l'Europe en mars 2020, les hôpitaux ont été plongés dans une crise sanitaire encore mal comprise. Mais il y avait des données en provenance de Chine, qui avait quatre mois d'avance dans la course pour vaincre la pandémie. Si des algorithmes d'apprentissage automatique pouvaient être formés sur ces données pour aider les médecins à comprendre ce qu'ils voient et à prendre des décisions, cela pourrait sauver des vies. Cela ne s'est jamais produit, mais ce n'est pas faute d'efforts. Des équipes de recherche du monde entier se sont mobilisées pour aider. Au final, plusieurs centaines d'outils prédictifs ont été développés et aucun d'entre eux n'a fait une réelle différence et certains étaient potentiellement dangereux. C'est la conclusion accablante de multiples études publiées au cours des derniers mois. Cela fait écho aux résultats de deux grandes études qui ont évalué des centaines d'outils prédictifs développés l'année dernière : celle de Laure Wynants, épidémiologiste à l'université de Maastricht, aux Pays-Bas, qui étudie les outils de détection et celle de Derek Driggs, chercheur en apprentissage automatique à l'université de Cambridge.

    Nom : Screenshot_2021-08-03 Covid IA – Recherche Google.png
Affichages : 789
Taille : 422,2 Ko

    La communauté de l'IA, en particulier, s'est empressée de mettre au point des logiciels dont beaucoup pensaient qu'ils permettraient aux hôpitaux de diagnostiquer ou de trier les patients plus rapidement, apportant ainsi le soutien dont ils avaient tant besoin en première ligne, en théorie. Au final, plusieurs centaines d'outils prédictifs ont été développés et aucun d'entre eux n'a fait une réelle différence et certains étaient potentiellement dangereux. En juin, le Turing Institute, le centre national britannique pour la science des données et l'IA, a publié un rapport résumant les discussions d'une série d'ateliers qu'il a organisés fin 2020. Le consensus clair était que les outils d'IA n'avaient eu que peu d'impact, voire aucun, dans la lutte contre la covid-19.

    Des outils inadaptés à un usage clinique

    Laure Wynants, épidémiologiste à l'université de Maastricht, aux Pays-Bas, qui étudie les outils de détection est l'auteur principale d’une étude qui a évalué des centaines d'outils prédictifs développés l'année dernière. Une analyse publiée dans le British Medical Journal, qui est toujours mise à jour au fur et à mesure que de nouveaux outils sont publiés et que les outils existants sont testés. Elle et ses collègues ont examiné 232 algorithmes permettant de diagnostiquer les patients ou de prédire l'évolution de la maladie chez les personnes atteintes. Ils ont constaté qu'aucun d'entre eux n'était adapté à un usage clinique. Deux seulement ont été jugés suffisamment prometteurs pour être testés ultérieurement. « Les médecins n'avaient vraiment aucune idée de la manière de gérer ces patients. Je me suis dit que s'il y avait un moment où l'IA pouvait prouver son utilité, c'était maintenant. J'avais bon espoir », explique Laure Wynants.

    L'étude de Wynants est corroborée par un autre examen de grande ampleur réalisé par Derek Driggs, chercheur en apprentissage automatique à l'université de Cambridge et ses collègues, et publié dans Nature Machine Intelligence. Cette équipe s'est intéressée aux modèles d'apprentissage profond permettant de diagnostiquer la covid-19 et de prédire le risque pour les patients à partir d'images médicales, telles que les radiographies et les tomographies thoraciques. Ils ont examiné 415 outils publiés et Wynants et ses collègues ont conclu qu'aucun n'était adapté à un usage clinique. « Cette pandémie a été un grand test pour l'IA et la médecine. Cela aurait grandement contribué à rallier le public à notre cause. Mais je ne pense pas que nous ayons réussi ce test », dit Driggs, qui travaille lui-même sur un outil d'apprentissage automatique pour aider les médecins pendant la pandémie.

    Les deux équipes ont constaté que les chercheurs répétaient les mêmes erreurs de base dans la façon dont ils formaient ou testaient leurs outils. Des hypothèses incorrectes concernant les données signifiaient souvent que les modèles formés ne fonctionnaient pas comme prévu. Wynants et Driggs continuent de croire que l'IA peut être utile. Mais ils craignent qu'elle puisse être nuisible si elle est construite de la mauvaise manière, car ils pourraient manquer des diagnostics ou sous-estimer le risque pour les patients vulnérables. « Il y a beaucoup de battage médiatique autour des modèles d'apprentissage automatique et de ce qu'ils peuvent faire aujourd'hui », déclare Driggs.

    Des attentes irréalistes encouragent l'utilisation de ces outils avant qu'ils ne soient prêts. Wynants et Driggs affirment tous deux que quelques-uns des algorithmes qu'ils ont examinés ont déjà été utilisés dans des hôpitaux, et que certains sont commercialisés par des développeurs privés. Alors qu'est-ce qui a mal tourné ? Et comment combler ce fossé ? S'il y a un point positif, c'est que la pandémie a fait comprendre à de nombreux chercheurs que la façon dont les outils d'IA sont construits doit changer. « La pandémie a mis en lumière des problèmes que nous traînions depuis un certain temps », explique Wynants.

    Ce qui n'allait pas

    Nombre des problèmes mis au jour sont liés à la mauvaise qualité des données que les chercheurs ont utilisées pour développer leurs outils. Les informations relatives aux patients de Covid, y compris les scanners médicaux, ont été collectées et partagées en plein milieu d'une pandémie mondiale, souvent par les médecins qui se battaient pour traiter ces patients. Les chercheurs voulaient aider rapidement et ces ensembles de données publiques étaient les seuls disponibles. Mais cela signifie que de nombreux outils ont été construits en utilisant des données mal étiquetées ou provenant de sources inconnues.

    Driggs souligne le problème de ce qu'il appelle les ensembles de données Frankenstein, qui sont assemblés à partir de sources multiples et peuvent contenir des doublons. Cela signifie que certains outils finissent par être testés sur les mêmes données que celles sur lesquelles ils ont été formés, ce qui les fait paraître plus précis qu'ils ne le sont.

    De même, cela brouille l'origine de certains ensembles de données. Ainsi, les chercheurs peuvent passer à côté de caractéristiques importantes qui faussent l'apprentissage de leurs modèles. Beaucoup ont utilisé sans le vouloir un ensemble de données contenant des scanners thoraciques d'enfants qui n'avaient pas de Covid comme exemples de ce à quoi ressemblaient les cas de non-Covid. Mais en conséquence, les IA ont appris à identifier les enfants, et non la Covid. Le groupe de Driggs a entraîné son propre modèle à l'aide d'un ensemble de données contenant un mélange de scanners pris lorsque les patients étaient couchés et debout.Comme les patients scannés en position couchée étaient plus susceptibles d'être gravement malades, l'IA a appris à tort à prédire un risque grave de Covid à partir de la position d'une personne. Dans d'autres cas encore, il a été constaté que certaines IA détectaient la police d'écriture utilisée par certains hôpitaux pour étiqueter les scanners. En conséquence, les fontes de caractère des hôpitaux ayant un nombre de cas plus sérieux devenaient des prédicteurs du risque de Covid.

    Les erreurs de ce type semblent évidentes a posteriori. Elles peuvent également être corrigées en ajustant les modèles, si les chercheurs en sont conscients. Il est possible de reconnaître les lacunes et de publier un modèle moins précis, mais moins trompeur. Mais de nombreux outils ont été mis au point soit par des chercheurs en IA qui n'avaient pas les compétences médicales nécessaires pour repérer les failles dans les données, soit par des chercheurs en médecine qui n'avaient pas les compétences mathématiques nécessaires pour compenser ces failles.

    Un problème plus subtil que Driggs met en évidence est le biais d'incorporation, ou biais introduit au moment où un ensemble de données est étiqueté. Par exemple, de nombreux scanners médicaux ont été étiquetés selon que les radiologues qui les ont créés ont déclaré qu'ils montraient ou non la présence de Covid. Mais cette façon de faire intègre, ou incorpore, tous les préjugés de ce médecin particulier dans la vérité de base d'un ensemble de données. Selon Driggs, il serait nettement préférable d'étiqueter une analyse médicale en fonction du résultat d'un test PCR plutôt que de l'opinion d'un seul médecin. Mais les hôpitaux très occupés n'ont pas toujours le temps de s'occuper des subtilités statistiques.

    Cela n'a pas empêché certains de ces outils d'être intégrés à la hâte dans la pratique clinique. Selon Wynants, il est difficile de savoir lesquels sont utilisés et comment. Les hôpitaux déclarent parfois qu'ils n'utilisent un outil qu'à des fins de recherche, ce qui rend difficile d'évaluer dans quelle mesure les médecins s'en servent. « Il y a beaucoup de secrets », dit-elle. Wynants a demandé à une entreprise qui commercialisait des algorithmes d'apprentissage profond de partager des informations sur son approche, mais elle n'a pas eu de réponse. Elle a ensuite trouvé plusieurs modèles publiés par des chercheurs liés à cette entreprise, tous présentant un risque élevé de biais. « Nous ne savons pas réellement ce que l'entreprise a mis en œuvre », dit-elle. Selon Wynants, certains hôpitaux signent même des accords de non-divulgation avec des fournisseurs d'IA médicale. Lorsqu'elle a demandé aux médecins quels algorithmes ou logiciels ils utilisaient, ils lui ont parfois répondu qu'ils n'avaient pas le droit de le dire.

    Quelle est la solution ?

    De meilleures données seraient utiles, mais en temps de crise, c'est beaucoup demander. Il est plus important de tirer le meilleur parti des ensembles de données dont nous disposons. Selon Driggs, le plus simple serait que les équipes d'IA collaborent davantage avec les cliniciens. Les chercheurs doivent également partager leurs modèles et divulguer la manière dont ils ont été formés, afin que d'autres puissent les tester et s'en inspirer. « Ce sont deux choses que nous pourrions faire aujourd'hui. Et elles permettraient de résoudre peut-être 50 % des problèmes que nous avons identifiés », dit-il.

    Il serait également plus facile de mettre la main sur les données si les formats étaient normalisés, affirme Bilal Mateen, un médecin qui dirige l'équipe de technologie clinique du Wellcome Trust, une organisation caritative de recherche sur la santé mondiale basée à Londres.

    Un autre problème identifié par Wynants, Driggs et Mateen est que la plupart des chercheurs se sont précipités pour développer leurs propres modèles, plutôt que de travailler ensemble ou d'améliorer les modèles existants. Le résultat est que l'effort collectif des chercheurs du monde entier a produit des centaines d'outils médiocres, plutôt qu'une poignée d'outils correctement formés et testés. « Les modèles sont tellement similaires, ils utilisent presque tous les mêmes techniques avec des modifications mineures, les mêmes données d'entrée, et ils font tous les mêmes erreurs. Si tous ces gens qui créent de nouveaux modèles testaient plutôt des modèles déjà disponibles, nous aurions peut-être déjà quelque chose qui pourrait vraiment aider en clinique », explique Wynants.

    En un sens, il s'agit d'un vieux problème de la recherche. Les chercheurs universitaires ont peu d'incitations professionnelles à partager leurs travaux ou à valider les résultats existants. Il n'y a pas de récompense pour avoir franchi le dernier kilomètre qui mène la technologie du « laboratoire au chevet du malade », explique Mateen. Pour remédier à ce problème, l'Organisation mondiale de la santé envisage un contrat de partage des données d'urgence qui entrerait en vigueur lors des crises sanitaires internationales. Selon Mateen, ce contrat permettrait aux chercheurs de transférer plus facilement des données au-delà des frontières. Avant le sommet du G7 qui s'est tenu au Royaume-Uni en juin, les principaux groupes scientifiques des nations participantes ont également appelé à une "préparation aux données" en prévision de futures urgences sanitaires.

    De telles initiatives semblent un peu vagues et les appels au changement ont toujours un parfum de vœu pieux. Mais Mateen a ce qu'il appelle une vision « naïvement optimiste ». Avant la pandémie, l'élan pour de telles initiatives s'était arrêté. « On avait l'impression que c'était une montagne trop haute à gravir et que la vue n'en valait pas la peine. La Covid a remis beaucoup de ces questions à l'ordre du jour… Tant que nous n'adhérons pas à l'idée qu'il faut régler les problèmes peu excitants avant les problèmes plus excitants, nous sommes condamnés à répéter les mêmes erreurs. Il est inacceptable que cela ne se produise pas. Oublier les leçons de cette pandémie est un manque de respect pour ceux qui sont décédés », dit-il.

    Sources : Turing Institute, British Medical Journal, Nature Machine Intelligence

    Et vous ?

    Que pensez-vous des conclusions de ces recherches ? Les trouvez-vous pertinents ?

    Voir aussi :

    Un outil d'IA permet de prédire avec une précision de 90 % les cas de patients qui succomberont au COVID-19, il prédirait aussi les besoins de respirateurs avec une précision de 80 %

    La pandémie a encouragé les entreprises à adopter l'intelligence artificielle et l'apprentissage automatique, certaines d'entre elles se sont rendu compte de leur importance au début de la crise
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Membre extrêmement actif
    Femme Profil pro
    Webmarketer
    Inscrit en
    janvier 2021
    Messages
    217
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : France, Seine et Marne (Île de France)

    Informations professionnelles :
    Activité : Webmarketer

    Informations forums :
    Inscription : janvier 2021
    Messages : 217
    Points : 441
    Points
    441
    Par défaut
    L'IA est douée pour les photos et l'audio
    Si vous donnez à une IA une photo telle qu'une radiographie, elle peut rechercher de minuscules motifs. Il en va de même pour un enregistrement audio. Il y a BEAUCOUP de données à examiner en profondeur. Des choses trop petites pour qu'un docteur les remarque par hasard.

    Mais pour Covid et d'autres choses similaires, il analyse des choses comme les notes du médecin sur les réponses des patients. En fait, vous n'analysez que les choses que le médecin remarque, qui sont des données minimales.
    Donc vous ne reconnaissez le Covid que si le docteur l'a fait.

  3. #3
    Membre du Club
    Homme Profil pro
    Webmarketer
    Inscrit en
    août 2021
    Messages
    23
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 34
    Localisation : Canada

    Informations professionnelles :
    Activité : Webmarketer

    Informations forums :
    Inscription : août 2021
    Messages : 23
    Points : 40
    Points
    40
    Par défaut
    Alors ce n'est pas intelligent. Arrêtez de l'appeler IA. L'idée que vous avez besoin de millions de points de données d'entrée afin de produire un résultat est l'opposé de l'intelligence.

  4. #4
    Membre extrêmement actif
    Femme Profil pro
    Webmarketer
    Inscrit en
    janvier 2021
    Messages
    217
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : France, Seine et Marne (Île de France)

    Informations professionnelles :
    Activité : Webmarketer

    Informations forums :
    Inscription : janvier 2021
    Messages : 217
    Points : 441
    Points
    441
    Par défaut
    il s'agit d'un échec au niveau que la plupart d'entre nous notent - un échec médical. Les applications ne sont d'aucune aide dans de nombreux domaines liés au suivi, au diagnostic, au traitement, etc. d'une maladie.

    Le deuxième échec, cependant, est un échec que je considère comme plus grand et plus important. Ici, dans les années 2020, beaucoup trop de gens sont accros aux téléphones portables et beaucoup trop de techniciens sont accros à l'idée de résoudre des problèmes avec un peu de script, de Python ou de Java, etc. Tous les problèmes ne peuvent pas être résolus avec une application stupide fonctionnant sur un objet portable brillant ! Parfois, les gens doivent prendre des mesures concrètes dans le monde physique réel pour résoudre un problème, mais trop de gens de nos jours veulent s'asseoir dans un bureau climatisé et taper sur un clavier, puis prétendre avoir fait quelque chose pour résoudre un problème - et il ne leur vient jamais à l'esprit de poser la technologie et de mettre des chaussures et des gants pour faire quelque chose de concret. C'est comme une nouvelle forme de signal de vertu. Imaginez une histoire alternative où l'enfant demande à son grand-père "Qu'as-tu fait pendant la guerre ?" et la réponse est "J'ai écrit une application !" .... très triste.

    On dit souvent que lorsqu'on donne un marteau à un enfant, il pense que le monde entier est fait de clous. Nous devons tous prendre du recul, respirer profondément et accepter que le monde entier ne peut pas être réparé avec une application.

  5. #5
    Membre du Club
    Homme Profil pro
    Webmarketer
    Inscrit en
    août 2021
    Messages
    23
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 34
    Localisation : Canada

    Informations professionnelles :
    Activité : Webmarketer

    Informations forums :
    Inscription : août 2021
    Messages : 23
    Points : 40
    Points
    40
    Par défaut
    Ce n'est pas de l'apprentissage auto et c'est un problème. L'autre est que les données ne sont pas du tout harmonisées. Ou analysées. C'est un peu le bazar, ce qui représente un grand défi.

Discussions similaires

  1. Réponses: 42
    Dernier message: 15/03/2021, 09h59
  2. Réponses: 11
    Dernier message: 07/12/2016, 13h40
  3. Réponses: 3
    Dernier message: 20/04/2007, 08h28
  4. Postionner des barres d'outils
    Par cjacquel dans le forum MFC
    Réponses: 1
    Dernier message: 28/12/2006, 12h53
  5. Réponses: 2
    Dernier message: 21/07/2006, 18h05

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo