Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

  1. #1
    Chroniqueur Actualités
    Avatar de Coriolan
    Homme Profil pro
    Développeur informatique
    Inscrit en
    mai 2016
    Messages
    700
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Sarthe (Pays de la Loire)

    Informations professionnelles :
    Activité : Développeur informatique
    Secteur : High Tech - Multimédia et Internet

    Informations forums :
    Inscription : mai 2016
    Messages : 700
    Points : 18 791
    Points
    18 791
    Par défaut Pseudo-IA : des firmes de tech préfèrent recourir à des employés humains
    Pseudo-IA : des entreprises de tech préfèrent recourir à des humains
    et les font passer pour une intelligence artificielle

    Le Turc mécanique ou l’automate joueur d'échecs est un célèbre canular construit à la fin du XVIIIe siècle : il s’agissait d'un prétendu automate doté de la faculté de jouer aux échecs. L’automate était prétendument capable de jouer une partie d’échecs contre un adversaire humain. Mais en réalité, il possédait un compartiment secret dans lequel un joueur humain pouvait se glisser. Pendant 84 ans, et grâce au talent des joueurs cachés, le Turc mécanique put remporter la plupart des parties d'échecs auxquelles il participa en Europe et en Amérique, y compris contre certains hommes d'État tels que Napoléon Bonaparte, Catherine II de Russie et Benjamin Franklin.

    Plus de deux siècles plus tard, il apparaît que ce même leurre fonctionne toujours. Et pour cause, il est difficile de concevoir un service propulsé par une intelligence artificielle. Une tâche si difficile que certaines startups se sont résolues de se tourner vers des humains et les faire passer pour des robots plutôt que le contraire.

    « Utiliser un humain pour faire le travail vous permet d’outrepasser une panoplie d’enjeux de développement d’ordre technique et commercial. Il n’y a pas de scalabilité, bien évidemment, mais cela vous permet de créer quelque chose et sauter très tôt la partie difficile, » a dit Gregory Koberger, PDG de ReadMe, qui dit avoir tombé sur beaucoup de “pseudo-IA”. « Il s’agit essentiellement d’un prototypage de l’IA avec des êtres humains, » dit-il.

    Cette pratique a été mise à la lumière du jour après la publication d’un article du Wall Street Journal informant que des centaines de développeurs tiers bénéficient de l’accès aux emails avec l’autorisation de Google.

    Dans le cas de la société Edison Software, des ingénieurs d’IA ont scanné les emails personnels de centaines d’utilisateurs (avec leurs identités éditées) pour améliorer une fonctionnalité de « réponses intelligentes ». L’entreprise n’a pas indiqué dans sa politique de confidentialité que des employés humains ont accès aux emails des utilisateurs.

    Ce n’est pas la première fois qu’une telle chose arrive. En 2008, Spinvox, une entreprise qui convertissait les messages vocaux en messages textes, a été accusée de recourir à des employés humains étrangers dans des centres d’appel au lieu de machines pour faire le travail.

    En 2016, une autre entreprise relevée par Bloomberg cette fois a obligé des employés à passer 12 heures par jour à prétendre qu’ils sont des chatbots pour des services d’agenda comme X.ai et Clara. Ce travail a été si contraignant que les employés ont dit qu’ils avaient hâte de voir une IA venir les remplacer.

    En 2017, l’application de gestion de dépenses Expensify a admis avoir employé des humains pour transcrire au moins quelques-uns des reçus supposés être analysés par sa “technologie smartscreen”. L’entreprise a utilisé le service de travail collaboratif Mechanical Turk d’Amazon, où des travailleurs faiblement rémunérés ont dû lire et transcrire les reçus.

    « Je me demande si les utilisateurs de SmartScan d’Expensify savent que des travailleurs dans MTurk entrent leurs reçus, » a dit Rochelle LaPlante, une “Turker” et une partisane des travailleurs de la “gig economy” sur Twitter. « Je suis en train de voir le reçu Uber de quelqu’un avec son nom complet, et les adresses de départ et d’arrivée. »

    Même Facebook, qui a investi massivement dans l’IA, a eu recours à des employés humains pour son assistant virtuel sur Messenger.

    Dans certains cas, certaines entreprises font appel à des humains pour entrainer le système IA et améliorer sa précision. Une entreprise appelée Scale offre une banque de travailleurs humains pour fournir des données d’entrainement aux voitures autonomes et les autres systèmes propulsés par l’IA. Ces employés vont, par exemple, jeter un coup d’œil sur un flux d’une caméra ou un capteur et les marques de voiture, les piétons et les cyclistes dans une image. Avec assez de calibrage humain, l’IA apprend à reconnaître ces objets, seule.

    Dans d’autres cas, les entreprises vont juste faire semblant d’avoir une IA prête, en informant les investisseurs et les utilisateurs qu’ils ont réussi à développer une technologie scalable alors que le travail est réalisé secrètement par des humains.

    Nom : tweet.PNG
Affichages : 3216
Taille : 28,7 Ko

    Alison Darcy, une psychologue et fondatrice de Woebot, un chatbot de support pour la santé mentale, décrit ceci comme « la technique de design du magicien d’Oz ».

    « Vous simulez ce que va être l’expérience ultime. Et beaucoup de temps, lorsqu’il s’agit d’IA, il y a une personne derrière les rideaux au lieu d’un algorithme, » dit-elle. Créer un bon système IA requiert « beaucoup de données » et des fois, les développeurs ont besoin de savoir s’il y a une demande suffisante pour un service avant de se lancer dans un investissement.

    Cette approche n’a pas été appropriée pour le développement d’un chatbot de support psychologique comme Woebot.

    « En tant que psychologistes, nous sommes guidés par un code d’éthique. Ne pas leurrer les gens est très clairement l’un de ces principes d’éthique. »

    Des études ont montré que les gens ont tendance à divulguer plus de détails quand ils pensent qu’ils parlent à une machine, au lieu d’une personne, à cause de la honte associée au fait de chercher de l’aide pour la santé mentale.

    Une équipe de l’Université de Southern California a testé ceci avec une thérapeute virtuelle appelée Ellie. Ils ont trouvé que les vétérans souffrant de stress post-traumatique sont plus susceptibles de divulguer leurs symptômes quand ils ont su qu’Ellie a été un système IA au lieu d’une machine téléguidée par un humain.

    “Les entreprises doivent être transparentes”

    Certains pensent que les entreprises doivent être toujours transparentes sur le fonctionnement de leurs services. Si certaines sociétés offrent des services propulsés par l’IA, mais en réalité elles emploient des humains, c’est malhonnête et trompeur, pense LaPlante.

    « Et pour l’employé, on sent qu’on est poussés derrière les rideaux. Je n’aime pas que mon travail soit utilisé par une entreprise qui va mentir à ses clients sur ce qui est en train d’arriver réellement. »

    L’ensemble de ces faits montrent réellement pourquoi il faut utiliser les bons termes pour décrire ce que font certains systèmes. Par exemple, au lieu de tout dépeindre comme étant une IA, le terme “machine learning” serait plus approprié.

    Le problème aussi réside dans le fait que certaines entreprises ne sont pas complètement honnêtes avec leurs clients. Certes, il y a un besoin de prouver qu’il y a une réelle demande pour un service avant de songer à le rendre scalable. Mais les utilisateurs ont le droit aussi de savoir que leurs messages personnels peuvent être lus par un employé humain, par exemple, même si cette consultation est anonyme.

    Source : The Guardian

    Et vous ?

    Que pensez-vous de cette pratique ?
    Pensez-vous qu'il y a eu une exagération des capacités actuelles de l'IA ?

    Voir aussi :

    57 % des travailleurs dans l'industrie technologique dans la Silicon Valley ont déclaré être en burn out, d'après une enquête
    Les chercheurs en intelligence artificielle peuvent-ils gagner jusqu'à 1 million $ par an dans la Silicon Valley ? un aperçu des salaires
    La bulle technologique de la Silicon Valley est plus grande qu'elle ne l'était en 2000, mais sa fin approche selon des analystes
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Membre régulier
    Homme Profil pro
    Lycéen
    Inscrit en
    octobre 2017
    Messages
    50
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 16
    Localisation : France, Indre et Loire (Centre)

    Informations professionnelles :
    Activité : Lycéen
    Secteur : Enseignement

    Informations forums :
    Inscription : octobre 2017
    Messages : 50
    Points : 94
    Points
    94
    Par défaut
    Lol j'y avais pensé tout seul.

  3. #3
    Membre du Club Avatar de Hermione-V
    Femme Profil pro
    Développeur web
    Inscrit en
    mars 2016
    Messages
    33
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : Cameroun

    Informations professionnelles :
    Activité : Développeur web
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : mars 2016
    Messages : 33
    Points : 56
    Points
    56
    Par défaut
    Faire croire aux utilisateurs qu'un service est une intelligence artificielle alors que c'est faux, c'est une vrai duperie. Pourquoi est-il ci difficile d'être honnête?
    Au bout du compte il est bien préférable de savoir où nous faisons entrer nos données confidentielles (IA ou humain). Mais avec l'IA on est davantage moins soucieux de la sécurité de ces informations.

    Certains pensent que les entreprises doivent être toujours transparentes sur le fonctionnement de leurs services. Si certaines sociétés offrent des services propulsés par l’IA, mais en réalité elles emploient des humains, c’est malhonnête et trompeur, pense LaPlante.
    Je partage cette opinion. L'entreprise doit communiquer des informations vraies aux utilisateurs afin que ces derniers soient eux-mêmes responsables de leur choix.

  4. #4
    tlt
    tlt est déconnecté
    Membre actif Avatar de tlt
    Homme Profil pro
    Chef de projet IT/Telecom, Architecte de système d'information
    Inscrit en
    juillet 2004
    Messages
    137
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Madagascar

    Informations professionnelles :
    Activité : Chef de projet IT/Telecom, Architecte de système d'information
    Secteur : High Tech - Produits et services télécom et Internet

    Informations forums :
    Inscription : juillet 2004
    Messages : 137
    Points : 266
    Points
    266
    Par défaut
    s'il n'y a pas de transparence, c'est carrément de la triche.

    En passant, ...
    https://www.latribune.fr/opinions/tr...le-768311.html

  5. #5
    Membre habitué Avatar de Galet
    Homme Profil pro
    Consultant/Programmeur Robotique industrielle
    Inscrit en
    mars 2010
    Messages
    84
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Haute Savoie (Rhône Alpes)

    Informations professionnelles :
    Activité : Consultant/Programmeur Robotique industrielle

    Informations forums :
    Inscription : mars 2010
    Messages : 84
    Points : 164
    Points
    164
    Par défaut
    Une fois de plus, la technologie devance les us et coutumes et les lois. Commencer par mieux définir ce qu'est l'IA serait un bon début. Trouver une réponse dans une énorme base de données n'a pas grand chose à voir avec l'intelligence !
    Comme toujours, la finance s'empare des effets de mode pour faire de l'argent sans aucun étique.
    La bonne nouvelle, c'est que l'Homme est encore plus intelligent (et coûte moins cher !!) que la machine. Pour combien de temps ?
    Windows 7 / Delphi Tokyo
    "Les choses ne changent pas. Change ta façon de les voir, cela suffit" Lao Tseu

  6. #6
    Chroniqueur Actualités
    Avatar de Patrick Ruiz
    Homme Profil pro
    Redacteur web
    Inscrit en
    février 2017
    Messages
    819
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Cameroun

    Informations professionnelles :
    Activité : Redacteur web
    Secteur : Communication - Médias

    Informations forums :
    Inscription : février 2017
    Messages : 819
    Points : 28 047
    Points
    28 047
    Par défaut Voici une startup qui prétend s’appuyer sur l’IA pour automatiser le développement d’applis
    Voici une startup qui prétend s’appuyer sur l’IA pour automatiser le développement d’applications
    Mais qui, en réalité, use d’humains en toile de fond

    Avec Builder de l’entreprise Engineer.ai, la création d’une application est « simple » : vous décrivez sur la base d’un jeu de proposition initial ce que vous avez derrière la tête comme idée ; vous précisez, une fois de plus en vous appuyant sur des propositions du service, quelles sont les fonctionnalités de l’application puis l’ « intelligence artificielle » va, en tandem avec un réseau de designers et de développeurs, donner vie à l’idée. La vidéo sur le site web de l’entreprise résume bien le process :


    Pour une application dans les technologies portables dotée d’une unique fonctionnalité de localisation et à livrer en 6 jours, le service estime le coût à 1800 $. L’entreprise parle d’intelligence artificielle assistée par les humains ; seulement, c’est l’opacité du « visage de cette IA » qui inquiète. Une récente publication du Wall Street Journal confirme ces doutes.

    « La startup Engineer.ai dit qu'elle utilise l'intelligence artificielle pour automatiser en grande partie le développement des applications mobiles, mais plusieurs anciens et actuels employés disent que l'entreprise exagère sur ses capacités en matière d'IA pour attirer les clients et les investisseurs », lit-on.

    Nom : 11.png
Affichages : 30209
Taille : 81,3 Ko

    En tout cas, la description que l’entreprise fait d’elle-même est claire : des humains interviennent dans le processus de développement des applications pour lesquelles les clients passent des commandes. Donc, pas difficile de conclure qu’il n’y a pas d’intelligence artificielle à l’œuvre pour ce qui concerne ce volet. D’après les retours du Wall Street Journal (WSJ), c’est une armée de développeurs basés en Inde qui œuvre en arrière-plan. En sus, il y a qu’une prise en main rapide du service laisse apparaître un tas de propositions regroupées au cas par cas. Donc là aussi, des doutes quant à ceci qu’une quelconque intelligence artificielle serait à l’œuvre. Le Wall Street Journal rapporte néanmoins que l’entreprise s’appuierait sur ladite technologie pour l’estimation des coûts, les propositions de délais de livraison des applications ainsi que pour l’assignation des tâches aux développeurs. Pourtant, l’entreprise a, en s’appuyant sur ce stratagème, réussi à obtenir 30 millions de dollars de financement d’une firme détenue par la SoftBank. D’après ce que rapporte le WSJ, l’entreprise a usé de fausses déclarations pour obtenir ledit soutien financier : elle a présenté les activités de développement de son service aux investisseurs comme rendues à 80 % alors qu’elle n’avait quasiment pas entamé le processus.

    Nom : 12.jpg
Affichages : 3037
Taille : 67,4 Ko

    Mais Engineer.ai n’est pas la seule entreprise dans ce cas. Cela s’est vu avec des services d’agenda comme X.ai et Clara qui ont obligé des employés à passer 12 heures par jour à prétendre qu’ils sont des chatbots. Même Expensify a admis faire usage d’humains pour transcrire au moins quelques-uns des reçus supposés être analysés par sa “technologie smartscreen”. L’entreprise s’est appuyée sur le service de travail collaboratif Mechanical Turk d’Amazon au sein duquel des travailleurs faiblement rémunérés ont lu et transcrit les reçus. En fait, le nombre d’entreprises qui s’engage sur cette voie va croissant. D’après le WSJ, le nombre d’entreprises équipées d’un nom de domaine en .ai a doublé ces dernières années. En fait, le contexte même se prête à des manœuvres de ce type. En effet, il n’y a qu’à prendre en compte le fait qu’il y a de plus en plus de financements de disponibles dans la filière.

    Les révélations autour d’Engineer.ai ramènent en surface de profonds questionnements à propos de la notion même d’intelligence artificielle. Dans un article paru en début d’année, Gartner – une firme spécialisée dans les recherches sur les techniques avancées – a, en 5 points, démystifié un ensemble d’idées fausses sur l’intelligence artificielle. De façon brossée, ce que l’on peut en tirer est que : primo, l’intelligence artificielle n’a pas encore atteint le niveau du cerveau ; deuxio, une intervention humaine est nécessaire pour développer un système basé sur l’intelligence artificielle. En fait, d’après Luc Julia, l’un des inventeurs de l’assistant vocal Siri d’Apple, « la machine ne crée pas, ne refléchit pas et les humains conservent pleinement la main sur ces techniques. » « L’IA que l’on cite désormais à tous bouts de champs n’existe pas et relève plus de l’argument marketing. »

    Source : WSJ

    Et vous ?

    Qu’en pensez-vous ?

    Le cas Engineer.ai confirme-t-il que le terme « IA » est plus une arme marketing qu’autre chose ?

    Engineer.ai fait-il preuve d’honnêteté dans la façon de présenter son service ?

    Voir aussi :

    40 % des « startups en IA » en Europe n'utilisent pas d'intelligence artificielle. L'IA est-il un argument pour attirer les investisseurs ?

    Des milliards de dollars gaspillés dans les startups Hadoop, il en serait de même pour Docker, la blockchain, et l'intelligence artificielle

    La blockchain est-elle une technologie sans intérêt ? Une étude stipule que ses cas d'utilisation ont un taux de réussite de 0 %

    L'intelligence artificielle menace-t-elle la démocratie dans le monde ? Oui, selon un conseiller principal à la Commission européenne
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  7. #7
    Nouveau membre du Club
    Inscrit en
    août 2006
    Messages
    28
    Détails du profil
    Informations forums :
    Inscription : août 2006
    Messages : 28
    Points : 26
    Points
    26
    Par défaut
    Le marchandage [markting] a toujours été de prime.

  8. #8
    Membre averti
    Profil pro
    Inscrit en
    juin 2006
    Messages
    177
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : juin 2006
    Messages : 177
    Points : 382
    Points
    382
    Par défaut
    Ils auraient dû s'appuyer sur l'IA et la blockchain pour automatiser leurs développements d'applications

  9. #9
    Membre éprouvé
    Profil pro
    Inscrit en
    mai 2011
    Messages
    441
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : mai 2011
    Messages : 441
    Points : 962
    Points
    962
    Par défaut
    Ce n'est pas ce qui s'appelle "un turque mécanique" ...

  10. #10
    Membre éclairé
    Homme Profil pro
    Architecte de système d'information
    Inscrit en
    août 2014
    Messages
    441
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 50
    Localisation : France, Ain (Rhône Alpes)

    Informations professionnelles :
    Activité : Architecte de système d'information

    Informations forums :
    Inscription : août 2014
    Messages : 441
    Points : 864
    Points
    864
    Par défaut
    L'informatique c'est beaucoup de la comm maintenant et cet article le prouve une fois de plus.
    Suivre le mouvement pour faire bonne impression (meme si en intra c'est du bricolage); qui n'a jamais connu ca dans sa SSII ?

    La tendance du moment c'est AI + Python + devOps + blockchain a placer dans toutes les conversations (pas besoin de savoir en quoi ca consiste exactement; un petit tour sur wikipedia suffit comme element de culture generale).

Discussions similaires

  1. Réponses: 13
    Dernier message: 26/03/2018, 10h37
  2. Réponses: 9
    Dernier message: 20/10/2017, 09h40
  3. Réponses: 18
    Dernier message: 17/09/2017, 13h30
  4. Réponses: 3
    Dernier message: 12/12/2009, 17h10
  5. Cherche table des communes de France et table des codes NAF
    Par grandmaitrezen dans le forum SQL Procédural
    Réponses: 2
    Dernier message: 09/08/2004, 15h32

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo