Fraude scientifique : une industrie d'un milliard de dollars permet l'achat de paternité d'articles frauduleux
Fraude scientifique : une industrie d'un milliard de dollars dans laquelle des chercheurs peu scrupuleux peuvent acheter la paternité de faux articles,
destinés à des revues à comité de lecture
Un article expose l'émergence alarmante de la fraude scientifique, illustrée par des cas récents mettant en cause des chercheurs renommés. Un neurologue a alerté sur des allégations concernant un médicament expérimental potentiellement mortel pour les patients, soulevant des inquiétudes sur la manipulation des données. Ces incidents ne sont que la partie émergée de l'iceberg, avec des chercheurs peu scrupuleux achetant la paternité de faux articles pour des revues à comité de lecture.
Face à cette épidémie, l'article plaide pour une approche professionnalisée de la détection des fraudes, suggérant la création d'une force de police scientifique formée pour protéger l'intégrité de la recherche. Il souligne également le rôle croissant de l'intelligence artificielle dans ce problème, mettant en garde contre ses conséquences sur la validité des travaux scientifiques futurs. Enfin, l'article souligne la nécessité d'une diligence raisonnable pour inverser la tendance où les gains obtenus par la fraude semblent l'emporter sur les incitations à respecter les règles scientifiques.
Le dossier, constitué par des dénonciateurs et obtenu par un journaliste d'investigation, a récemment été présenté à l'Institut national américain de la santé, qui finalise un essai clinique de 30 millions de dollars sur le médicament en question. Les informateurs soutiennent que le neuroscientifique renommé, Berislav Zlokovic de l'université de Californie du Sud, aurait exercé des pressions sur ses collègues pour altérer les carnets de laboratoire, et qu'ils ont conjointement signé des articles comprenant des données falsifiées. L'université a lancé une enquête, et l'avocat de Zlokovic indique que ce dernier collabore à l'enquête tout en contestant au moins certaines des allégations.
Les faits de ce cas particulier, exposés dans la revue Science la semaine dernière, doivent encore être établis, mais la recherche devient rapidement un catalogue de mésaventures, de malversations et de fautes professionnelles. L'élimination des erreurs et des manipulations ne devrait pas dépendre de dénonciateurs ou d'amateurs dévoués qui prennent des risques juridiques personnels pour le bien de tous. La science devrait plutôt appliquer une partie de sa célèbre rigueur à la professionnalisation de la détection des fraudes.
Zlokovic n'est pas le seul scientifique de renom à avoir fait les gros titres pour de mauvaises raisons. En juin, Francesca Gino, spécialiste des sciences du comportement à l'université de Harvard, a été accusée d'irrégularités dans ses données par trois universitaires américains qui animent le blog Data Colada. Gino, en congé administratif, poursuit Harvard et ses accusateurs pour diffamation. Le trio Data Colada a jusqu'à présent rassemblé plus de 376 000 dollars pour financer un fonds de défense juridique.
Dorothy Bishop, psychologue à l'université d'Oxford, exprime ses inquiétudes croissantes concernant la fraude scientifique. Elle souligne que la fraude est plus répandue que ce que la plupart des scientifiques reconnaissent, mettant en lumière le problème de l'« usine à papier académique ». Cette fraude à grande échelle produit des articles frauduleux vendus à des revues évaluées par des pairs, compromettant la base de résultats fiables.
Bishop critique l'approche passive de l'establishment scientifique face à la fraude, laissant la détection aux amateurs, et plaide pour une transformation culturelle et des réformes éditoriales plus rapides. Elle propose la création d'une génération de chercheurs formés spécifiquement pour détecter la fraude, afin d'assurer l'intégrité de la recherche scientifique face à cette menace croissante.
Comme l'a écrit Dorothy Bishop, psychologue à l'université d'Oxford, nous ne connaissons que ceux qui se font prendre. Selon elle, notre « attitude détendue » face à l'épidémie de fraude scientifique est un « désastre en devenir ».
La microbiologiste Elisabeth Bik, spécialiste de la détection d'images suspectes, pourrait affirmer que le désastre est déjà là : son travail, financé par Patreon, a donné lieu à plus d'un millier de rétractations et à presque autant de corrections. La responsabilité de révéler les fraudes repose largement sur des individus amateurs et bénévoles, se présentant comme une sorte d' "équipe de détectives de données", motivés principalement par leur indignation face à la corruption de la science et au fait que les fautifs s'en sortent impunis.Envoyé par Dorothy Bishop
Ils ont développé une expertise dans la détection de diverses fraudes, notamment la manipulation d'images et l'utilisation de modèles improbables dans les données. En outre, ils ont identifié des réseaux de malfaiteurs qui ont infiltré de multiples domaines scientifiques. On pourrait s'attendre à ce que l'establishment scientifique apprécie ces efforts, mais la réponse habituelle à ceux qui mettent en lumière des preuves de méfaits est de les ignorer, de minimiser les preuves, voire de les accuser de comportement déplacé. Les éditeurs et les institutions universitaires sont tous deux responsables de cette attitude.
Les examinateurs par les pairs, majoritairement non rémunérés, ne parviennent pas toujours à détecter les fraudes. Avec l'accumulation croissante du volume de travaux scientifiques, estimé à 3,7 millions d'articles provenant uniquement de la Chine en 2021, les chances de repérer les malversations s'amenuisent. Certains chercheurs ont été surpris sur les médias sociaux en sollicitant l'ajout opportuniste de leur nom à des articles existants, présumément en échange d'une rétribution financière.
L'intelligence artificielle représente une opportunité pour cette fraude moderne. En 2021, une équipe de chercheurs a suivi l'augmentation des "phrases torturées" générées par l'IA dans la littérature, telles que "conscience contrefaite" au lieu d'"intelligence artificielle". Avec l'amélioration des modèles de langage, les textes générés par les machines ne seront plus aussi évidemment abscons. Lorsque des résultats erronés et des ensembles de données douteux prolifèrent dans la littérature, ils deviennent des éléments défectueux de base pour d'autres analyses, compromettant ainsi la crédibilité de la science à venir.
Les irrégularités ne se limitent pas à une tromperie flagrante. Elles peuvent résulter d'une analyse superficielle ou de données sélectionnées de manière biaisée. Il peut s'agir de la conviction bien intentionnée d'un universitaire qui, en recrutant judicieusement les bons patients et en adaptant ses essais de manière adéquate, espère résoudre le redoutable problème de la démence. Ajoutons à cela la volonté apparente des autorités de réglementation médicale de reconsidérer le rapport coût-bénéfice dans le traitement des maladies difficiles, et l'on obtient un environnement où la présentation habile des résultats d'essais peut potentiellement faire ou défaire un médicament d'une valeur d'un milliard de dollars.
Un neurologue a tiré la sonnette d'alarme concernant des allégations sur un médicament expérimental potentiellement mortel, soulevant des préoccupations sérieuses quant à la manipulation des données. Ces incidents, bien que représentant la pointe de l'iceberg, dévoilent une tendance où des chercheurs peu scrupuleux achètent la paternité de faux articles pour les publier dans des revues à comité de lecture.
Face à cette épidémie, certains experts plaident en faveur d'une approche professionnalisée de la détection des fraudes, proposant la création d'une force de police scientifique formée pour sauvegarder l'intégrité de la recherche. Ils mettent en évidence le rôle croissant de l'intelligence artificielle dans ce problème et alerte sur ses conséquences potentielles pour la validité des travaux scientifiques à venir.
Comment lutter contre la fraude scientifique : vers une police de la science ?
Le sujet de la fraude scientifique suscite des inquiétudes légitimes quant à l'intégrité de la recherche et à ses implications potentiellement graves. L'émergence de cas impliquant des chercheurs renommés, notamment dans le domaine médical, soulève des questions cruciales sur la fiabilité des données et des résultats qui sous-tendent des décisions médicales importantes.
Le constat de Dorothy Bishop concernant la fraude scientifique et l'inadéquation des réponses de l'establishment scientifique est profondément préoccupant et mérite une attention sérieuse. Son plaidoyer en faveur d'une transformation culturelle dans la recherche scientifique serait tout à fait justifié.
Le recours largement laissé aux amateurs et bénévoles pour détecter les fraudes, en l'absence d'une vérification proactive, souligne une lacune majeure dans le système de recherche actuel. La multiplication des articles frauduleux représente une menace sérieuse pour l'intégrité des travaux scientifiques. La montée en puissance de ces pratiques risque de compromettre la validité des résultats et des données, affectant ainsi la confiance dans la science.
La critique de Bishop envers la réaction habituelle de l'establishment scientifique face aux dénonciateurs est également pertinente. L'ignorance, la minimisation des preuves, voire l'accusation de comportement vexatoire, ne contribuent pas à résoudre le problème, mais renforcent plutôt une culture qui semble protéger les coupables.
L'appel à une approche professionnalisée de la détection des fraudes, avec la proposition d'établir une force de police scientifique dédiée, est une suggestion intéressante. Cela souligne le besoin urgent de renforcer les mécanismes de contrôle et de surveillance au sein de la communauté scientifique pour prévenir et traiter efficacement la fraude. Cependant, la mise en œuvre de cette proposition pourrait rencontrer des défis logistiques et budgétaires, et il serait essentiel de garantir une structure transparente et éthique dans son fonctionnement.
La mise en lumière du rôle croissant de l'intelligence artificielle dans la fraude scientifique souligne un autre aspect inquiétant de ce problème. Avec l'amélioration des modèles de langage, la sophistication des faux articles générés par l'IA pourrait rendre la détection plus complexe. Cela appelle à une vigilance accrue dans le développement de méthodes de détection spécifiques à l'IA et à une collaboration étroite entre la communauté scientifique et les experts en intelligence artificielle.
La nécessité d'une diligence raisonnable pour inverser la tendance où les gains obtenus par la fraude semblent l'emporter sur les incitations à respecter les règles scientifiques est un point crucial. Les incitations actuelles à la publication fréquente et à la citation peuvent contribuer à une culture où la qualité et l'intégrité des travaux sont sacrifiées au profit de la quantité. Des réformes dans l'évaluation des chercheurs, mettant davantage l'accent sur la rigueur et la reproductibilité, pourraient contribuer à changer cette dynamique.
Sources : Science, Dorothy Bishop
Et vous ?
Quelles seraient selon vous, les causes et les conséquences de la fraude scientifique ?
Voir aussi :
Répondre avec citation
Partager