Discussion :

[Stéphane le calme]

Une entreprise IA fait passer des œuvres réalisées par des humains comme étant le travail de son IA,
et est dénoncée par l'un des auteurs

Vendredi, iFlytek a été accusé d'avoir embauché des humains pour simuler ses outils d'interprétation simultanée, censés être alimentés par l'IA.

Dans une lettre ouverte publiée sur la plateforme de question-réponse Zhihu, l’interprète Bell Wang a affirmé qu’il faisait partie d’une équipe d’interprètes simultanés qui a aidé à traduire le Forum international sur l’innovation et le développement des industries émergentes 2018. Le forum a prétendu utiliser le service d’interprétation automatisé d’iFlytek.

La semaine passé, alors qu'un professeur japonais s'exprimait en anglais lors de la conférence jeudi matin, un écran derrière lui montrait à la fois une transcription en anglais de ce qu'il disait et ce qui semblait être une traduction simultanée en chinois attribuée à iFlytek. Wang affirme que le chinois n’était pas une traduction simultanée, mais plutôt une transcription d’une interprétation qu’il avait faite lui-même ainsi que par un autre interprète. « J'ai été profondément dégoûté », a écrit Wang dans la lettre.

Dans la lettre ouverte, Wang a cité deux exemples pour appuyer son affirmation. Tout d’abord, l’outil d’iFlytek a semblé se heurter à l’accent anglais du professeur japonais, traduisant par exemple « Davos Forum » (forum Davos) en « Devils Forum » (forum du diable). Malgré l’erreur de transcription, la traduction en chinois était correcte. Ensuite, la majorité de la traduction chinoise était la même que celle que Wang et son partenaire avaient interprétée, y compris une conjonction délicate qui, selon Wang, aurait été traduite littéralement si elle avait été vraiment traduite par une IA. Malgré ses inquiétudes, Wang a déclaré qu’il n’avait pas confronté l’organisateur du forum ou le personnel d’iFlytek.

Dans un article publié vendredi sur la plateforme de médias sociaux Weibo, le PDG d’iFlytek, Hu Yu, a déclaré que l’outil utilisé lors de la conférence était un outil de transcription, et non un outil de traduction. Auparavant, le Tech Sina rapportait que, en réponse à cette lettre, iFlytek avait adressé aux médias des remarques que le président de la société, Liu Qingfeng, avait faites lundi: « Les machines ne peuvent toujours pas remplacer les interprètes. Pour être francs, une combinaison de machine et d’homme est notre objectif ». Pourtant, lorsque l’officier de relations publiques d’iFlytek a été contacté par certains médias, il a fait marche arrière et assuré que les propos de Liu ne constituaient pas une réponse officielle.

Dans une vidéo du forum, une voix artificielle a lu l’interprétation de Wang et de son partenaire, selon Wang. Wang est persuadé que iFlytek a dû transcrire l'interprétation qu'ils avaient faite le matin et a utilisé un robot pour la lire, juste pour prouver que leur IA fonctionnait. « C'est évidemment une arnaque », a martelé Wang.

Wang a conclu son passage en disant : « Peut-être qu'un jour, l'IA pourra vraiment comprendre le langage naturel ! Peut-être qu'un jour notre profession sera au chômage, mais ce n'est pas encore le cas. De plus, une technologie vraiment révolutionnaire ne peut pas être développée par une société indisciplinée. La technologie n'est pas un péché, mais est-ce que l'objectif d'attirer des capitaux au nom de la technologie en présentant de faux emballages pour du marketing ? ».

À la suite de la lettre ouverte, d’autres interprètes se sont présentés, affirmant qu’ils s’étaient vu proposer des services d’interprétation au nom d’iFlytek.

Ce n’est pas la première fois que iFlytek est accusé de vouloir faire passer des œuvres réalisées par des humains comme étant le travail de leur IA. L’année dernière, un autre interprète simultané a accusé iFlytek de cacher son existence aux orateurs principaux tout en fournissant des services d’interprétation qui semblaient provenir d’une IA.

Sources : billet Bell Wang, Tech Sina

Et vous ?

Pensez-vous que ce genre de pratique peut jeter l’opprobre sur l'évolution réelle de l'IA ?

Voir aussi :

Inutile de coder votre page web vous-mêmes, dessinez-la et notre intelligence artificielle fera le reste, dit Microsoft aux développeurs
Google refroidit ses Datacenter grâce au Cloud et à l'intelligence artificielle et note déjà une baisse de 30 % de leur consommation d'énergie
Intelligence artificielle : OpenAI annonce un système robotique capable de manipuler des objets avec une dextérité humaine
Visual Studio : Microsoft annonce la disponibilité d'une mise à jour d'IntelliCode, une version d'IntelliSense basée sur l'intelligence artificielle
L'intelligence artificielle devient le nouvel atout des sites de rencontres amoureuses, et si demain une IA était capable de dénicher votre âme sœur ?

[Anselme45]

L'histoire a le mérite de montrer au grand jour un exemple de ce qui se passe autour de l'IA:

La plupart du temps, on est face à une vaste escroquerie intellectuelle... Là on a juste droit à l'escroquerie tout court!

[Stéphane le calme]

L’arnaque de Kaedim : comment une start-up d’IA a trompé ses clients avec du travail réalisé par des humains,
quand l’IA devient une façade pour exploiter des artistes 3D

Kaedim, une start-up spécialisée dans l’intelligence artificielle dont le fondateur figurait sur la liste « 30 Under 30 » de Forbes, a été révélée comme utilisant des artistes humains pour réaliser ses modèles 3D, contrairement à ses affirmations publicitaires de conversion automatique. Jusqu'ici, la PDG de Kaedim avait indiqué que les artistes employés par l'entreprise ne l'étaient que pour contrôler la qualité des images générées par le logiciel. Ce qu'a démenti une source proche du dossier, expliquant que certains travailleurs n'avaient pour base de départ que des dessins en 2D fournis par les client, et non pas de premières ébauches en 3D générées automatiquement.

Kaedim, la start-up qui prétend utiliser l’apprentissage automatique pour convertir les illustrations 2D de ses clients en modèles 3D, propose ses services aux développeurs de jeux vidéo et à d’autres. La société se présentait comme « automatisant la conversion 2D en 3D » et « automatisant les parties ennuyeuses de la modélisation 3D », comme si tout le travail était effectué à l’aide de l’IA.

C'est un média qui a révélé la supercherie.

Selon des sources contactées par 404 Media, un média indépendant, Kaedim emploie des artistes 3D du monde entier 24 heures sur 24 et 7 jours sur 7, qui travaillent sur une base de commission où ils sont payés pour chaque modèle qu’ils réalisent. La rémunération était d’environ 1 dollar à 4 dollars pour chaque modèle, et il semble qu’ils recevaient une petite prime s’ils acceptaient le travail rapidement.

L’une des sources a déclaré que Kaedim avait embauché des artistes 3D du monde entier pour une « couverture 24h/24 et 7j/7 ». Une autre a déclaré que les artistes étaient payés pour chaque modèle réalisé, « l'objectif était donc d'en réaliser autant que possible afin d'obtenir un paiement plus élevé ». Ce paiement était d'environ 1 à 4 dollars par modèle, ont-ils ajouté. Ils ont également reçu une petite prime pour avoir accepté le poste rapidement, ont-ils indiqué.

404 Media a trouvé des profils LinkedIn pour les employés de Kaedim en Argentine, en Angleterre, en Indonésie, en Éthiopie, en Inde, en Grèce, en République tchèque, en Colombie et en Espagne. Ces personnes ont indiqué leur poste comme « Assurance qualité » ou « Contrôle qualité ».

Le rôle joué par les artistes humains dans le processus de Kaedim est devenu un sujet de conversation dans les mondes de l’art 3D et de l’IA l’été dernier, lorsque la communauté de l’art 3D a remarqué une offre d’emploi de Kaedim recherchant des artistes. Une offre d'emploi pour un « artiste 3D indépendant, Kaedim » recherchait des candidats « capables de produire des ressources 3D de faible qualité à partir d'images 2D 15 minutes après leur demande. Prêt à être payé sur une base par actif. L’offre d’emploi indique que dans le cadre du processus d’entretien, les candidats « seront appelés à démontrer leur capacité à générer rapidement des ressources 3D de faible qualité ».

Dans un billet publié en août 2022, Konstantina Psoma, la fondatrice de Kaedim, a déclaré que « tous les employés sont payés mensuellement », mais n’a pas répondu aux questions sur le fait qu’ils étaient payés pour chaque modèle qu’ils créaient :

Salut tout le monde! Toute l'équipe de Kaedim est touchée par l'attention de la communauté, merci beaucoup pour votre enthousiasme et votre soutien !

Nous avons constaté un certain scepticisme et des messages sur différents canaux concernant le fonctionnement de notre technologie. Je voulais donc être aussi transparente que possible avec tout le monde[...].

Actuellement, le processus ressemble à ceci :

• Une image d'entrée est soumise et transmise à notre algorithme d'IA pour la reconstruction. Le résultat est généralement très précis, mais parfois ce n’est pas le cas
• Un ingénieur de contrôle qualité examinera le résultat et l'améliorera si nécessaire afin que le résultat corresponde à nos normes de qualité. Oui, notre algorithme n’est pas toujours parfait et nous voulons garantir une qualité de sortie conforme aux normes.
• La sortie est renvoyée à l'utilisateur pour une édition ultérieure et l'ajout de textures.

Aujourd’hui, l’ensemble du processus prend en moyenne 15 minutes, du début à la fin. Pour les équipes qui utilisent aujourd’hui Kaedim en production, cela représente une accélération de 10 à 20 fois par rapport au travail manuel.

Le travail de contrôle qualité en cours aujourd’hui est vital pour le travail d’avancement des algorithmes que nous effectuons en parallèle. Nous créons une boucle de rétroaction pour notre algorithme qui collecte des données en temps réel sur les générations et leurs versions améliorées.

Lorsqu'elle a été contacté pour commenter plusieurs sources affirmant que Kaedim avait utilisé des humains pour produire les images 3D, Psoma a dirigé les médias vers son billet d'août 2022 et a ajouté dans un e-mail que « les membres de notre équipe 3D sont vraiment importants pour nous car ils travaillent main dans la main avec nos ingénieurs en apprentissage automatique pour donner leur avis sur notre technologie et s'assurer que toutes les générations correspondent à nos normes de qualité. Ils s’assurent que nos actifs ne contiennent aucun défaut technique, ils inspectent le niveau de capture de détails de nos algorithmes et contribuent aux améliorations si nécessaire ».

L’une des sources de 404 Media s’est opposée aux propos de Psoma, indiquant qu'elle n'était pas d'accord avec la qualification de leur travail comme étant un contrôle de qualité. Au lieu de cela, la source a déclaré que ce que les travailleurs effectuaient « ressemblait davantage à une production pure et simple qu’à un "contrôle de qualité" ». « Pour le contrôle qualité, vous avez sûrement besoin de quelque chose pour juger de la qualité », a-t-elle déclaré, avant d'ajouter que certains travailleurs n'ont vu que l'image 2D initiale soumise par un client et non une sortie générée par l'IA.

Nous ne savons pas à quel point les algorithmes génératifs de Kaedim sont actuellement efficaces et à quel point ils sont proches d’obtenir des résultats que les humains n’ont pas à corriger. Psoma a refusé de fournir des exemples de ce dont l’IA de Kaedim était capable. « Pour le moment, nous gardons confidentielles nos sorties brutes d'IA car elles présentent des informations IP sensibles sur notre approche ML », a-t-elle écrit à 404 Media.

Quoiqu'il en soit, face à la dénonciation de cette pratique, qui s'apparente à de la publicité mensongère pour surfer sur l'essor de l'intelligence artificielle générative dans la 3D et le jeu vidéo, Kaedim assume désormais une composante humaine non négligeable dans son fonctionnement. Sur son site web et dans la documentation qu'elle fournit à ses clients, elle détaille depuis le 6 septembre une « troisième étape du processus » qui vient après la phase d'ingestion par son logiciel du dessin en 2D : « Un artiste de Kaedim examine votre modèle [celui généré par l'IA, donc] et apporte les modifications nécessaires pour qu'il soit prêt pour la production ».

Cette nouvelle lève le voile sur une start-up très médiatisée et est un exemple de la façon dont les entreprises d’IA peuvent parfois exagérer les capacités de leur technologie. Comme d’autres start-ups d’IA, Kaedim veut utiliser l’IA pour faire le travail fastidieux qui est actuellement effectué par des humains. Dans ce cas, la modélisation 3D, un travail qui prend du temps et que les entreprises de jeux vidéo externalisent déjà vers des studios situés dans des pays comme la Chine

Ce n'est pas une nouveauté dans le domaine

Kaedim n’est pas la première entreprise à être accusée de recourir à des humains pour faire le travail que l’on prétend être fait par l’IA. En 2018, une enquête du New York Times a révélé que ScaleFactor, une start-up qui proposait un logiciel de comptabilité basé sur l’IA, utilisait en fait des comptables basés aux Philippines pour gérer les livres de ses clients. La société a fermé ses portes en 2020 après avoir perdu la confiance de ses investisseurs et de ses clients. En 2019, une autre enquête du Wall Street Journal a révélé que Engineer.ai, une start-up qui promettait de créer des applications personnalisées à l’aide de l’IA, employait en fait des développeurs humains pour coder les applications. La société a été poursuivie par ses investisseurs pour fraude et publicité mensongère.

Ces cas soulèvent des questions sur la façon dont les entreprises d’IA communiquent sur leurs produits et services, et sur la transparence dont elles font preuve vis-à-vis de leurs clients et du public. Il est important que les consommateurs soient conscients des limites et des risques potentiels de l’IA, et qu’ils ne soient pas trompés par des affirmations exagérées ou fausses. Il est également essentiel que les entreprises d’IA respectent les droits et la dignité des travailleurs humains qui contribuent à leurs systèmes.

Sources : rapport 404 Media, billet Psoma, mise à jour de la documentation

Et vous ?

Êtes-vous surpris par cette situation ?
Que pensez-vous de la façon dont Kaedim a présenté sa technologie d’IA ? Est-ce que c’est de la publicité mensongère ou simplement de l’optimisation marketing ?
Quelles sont les conséquences possibles pour les clients, les investisseurs et les concurrents de Kaedim si la vérité sur son fonctionnement est révélée ?

Voir aussi :

Une entreprise IA fait passer des œuvres réalisées par des humains comme étant le travail de son IA et est dénoncée par l'un des auteurs
Inutile de coder votre page web vous-mêmes, dessinez-la et notre intelligence artificielle fera le reste, dit Microsoft aux développeurs
Google refroidit ses Datacenter grâce au Cloud et à l'intelligence artificielle et note déjà une baisse de 30 % de leur consommation d'énergie
Intelligence artificielle : OpenAI annonce un système robotique capable de manipuler des objets avec une dextérité humaine
Visual Studio : Microsoft annonce la disponibilité d'une mise à jour d'IntelliCode, une version d'IntelliSense basée sur l'intelligence artificielle
L'intelligence artificielle devient le nouvel atout des sites de rencontres amoureuses, et si demain une IA était capable de dénicher votre âme sœur ?

[JackIsJack]

Au pire... ils ont juste créé une entreprise normale, embauchant des humains, et qui serait plus efficace que les autres ?

Pour qu'une publicité soit 'mensongère' il faut surtout que le mensonge nuise au client. Ici ce n'est pas le cas, cela concerne uniquement le procédé de production.

Milka ne fait pas réellement travailler des marmottes pour emballer ses tablettes de chocolat, c'est juste plus vendeur de le présenter comme ça.

[totozor]

Ce n'est pas tout à fait vrai, il pourrait y avoir une notion d'éthique derrière ça : je m'en fous qu'une IA fasse le boulot en 15 minutes par contre j'aimerais vachement éviter qu'une personne prenne un coup de pression pour faire le boulot dans ce délai.
Si j'achète des carottes locale j'apprécierais vachement qu'elles le soient, qu'elles ne le soient pas ne me nuit pas pourtant, je préfère faire bosser une exploitation locale que des espagnols.

Personne n'a jamais cru que Milka exploitait des marmottes pour emballer leur chocolat, par contre ils n'ont (étrangement) jamais dit qu'ils n'exploitaient pas des personnes sous payés pour récolter leur matière première.
Qu'ils le fasse ou non ne me nuit pas mais je ne consommerais peut être pas le chocolat de la même façon.

[foxzoolm]

a quel moment on se pose la question du PPPTTTT1111 de niveau qu'il faut avoir pour faire de la 3D depuis de la 2D en 15minutes ?
ces mecs/meufs sont des génies et ne mérite clairement pas d’être payé 4$/p...

- nan mais l'IA vas faire la meme chose...
oui il vas copier.... pas innové... quoi que ces vendeurs de poudre de fée disent.
une fois alimenter que par elle meme elle ne recrachera que elle meme...