Discussion :

[Patrick Ruiz]

Les ingénieurs informaticiens et les scientifiques dans des domaines connexes devraient prêter un équivalent du serment d'Hippocrate
D’après Hannah Fry – professeure à l’UCL

« Je jure par Apollon, médecin, par Asclépios, par Hygie et Panacée, par tous les dieux et toutes les déesses, les prenant à témoin que je remplirai, suivant mes forces et ma capacité, le serment et l'engagement suivants :
Je mettrai mon maître de médecine au même rang que les auteurs de mes jours, je partagerai avec lui mon savoir et, le cas échéant, je pourvoirai à ses besoins ; je tiendrai ses enfants pour des frères, et, s'ils désirent apprendre la médecine, je la leur enseignerai sans salaire ni engagement. Je ferai part de mes préceptes, des leçons orales et du reste de l'enseignement à mes fils, à ceux de mon maître et aux disciples liés par engagement et un serment suivant la loi médicale, mais à nul autre.
Je dirigerai le régime des malades à leur avantage, suivant mes forces et mon jugement, et je m'abstiendrai de tout mal et de toute injustice. Je ne remettrai à personne du poison, si on m'en demande, ni ne prendrai l'initiative d'une pareille suggestion ; semblablement, je ne remettrai à aucune femme un pessaire abortif. Je passerai ma vie et j'exercerai mon art dans l'innocence et la pureté.
Je ne pratiquerai pas l'opération de la taille, je la laisserai aux gens qui s'en occupent.
Dans quelque maison que j'entre, j'y entrerai pour l'utilité des malades, me préservant de tout méfait volontaire et corrupteur, et surtout de la séduction des femmes et des garçons, libres ou esclaves.
Quoi que je voie ou entende dans la société pendant, ou même hors de l'exercice de ma profession, je tairai ce qui n'a jamais besoin d'être divulgué, regardant la discrétion comme un devoir en pareil cas.
Si je remplis ce serment sans l'enfreindre, qu'il me soit donné de jouir heureusement de la vie et de ma profession, honoré à jamais des hommes ; si je le viole et que je me parjure, puissé-je avoir un sort contraire ! »

C’est le texte d’origine du serment d’Hippocrate dont le serment de l’ordre français des médecins s’inspire :

« Au moment d'être admis à exercer la médecine, je promets et je jure d'être fidèle aux lois de l'honneur et de la probité.
Mon premier souci sera de rétablir, de préserver ou de promouvoir la santé dans tous ses éléments, physiques et mentaux, individuels et sociaux.
Je respecterai toutes les personnes, leur autonomie et leur volonté, sans aucune discrimination selon leur état ou leurs convictions. J'interviendrai pour les protéger si elles sont affaiblies, vulnérables ou menacées dans leur intégrité ou leur dignité. Même sous la contrainte, je ne ferai pas usage de mes connaissances contre les lois de l'humanité.
J'informerai les patients des décisions envisagées, de leurs raisons et de leurs conséquences. Je ne tromperai jamais leur confiance et n'exploiterai pas le pouvoir hérité des circonstances pour forcer les consciences.
Je donnerai mes soins à l'indigent et à quiconque me le demandera. Je ne me laisserai pas influencer par la soif du gain ou la recherche de la gloire.
Admis dans l'intimité des personnes, je tairai les secrets qui me seront confiés. Reçu à l'intérieur des maisons, je respecterai les secrets des foyers et ma conduite ne servira pas à corrompre les mœurs.
Je ferai tout pour soulager les souffrances. Je ne prolongerai pas abusivement les agonies. Je ne provoquerai jamais la mort délibérément.
Je préserverai l'indépendance nécessaire à l'accomplissement de ma mission. Je n'entreprendrai rien qui dépasse mes compétences. Je les entretiendrai et les perfectionnerai pour assurer au mieux les services qui me seront demandés.
J'apporterai mon aide à mes confrères ainsi qu'à leurs familles dans l'adversité.
Que les hommes et mes confrères m'accordent leur estime si je suis fidèle à mes promesses ; que je sois déshonoré et méprisé si j'y manque. »

Vous aurez compris à la lecture de ces différents contenus qu’on parle d’éthique professionnelle. La médecine est particulièrement reconnue pour ces textes et, en cela, constitue un exemple aux yeux de certains observateurs. En effet, dans une publication parue il y a peu, Hannah Fry – professeur à l’University College de Londres (UCL) – appelle à ce que les professionnels de l’ingénierie informatique et des domaines scientifiques connexes prêtent serment sur un équivalent de celui d’Hippocrate.

« Nous avons besoin d’un serment d’Hippocrate comme celui des médecins. En médecine, on parle d’éthique aux étudiants dès le premier jour. En mathématiques, c’est à peine si on en parle. L’éthique doit pourtant être présente dès le premier jour et être au premier plan des préoccupations à chaque étape franchie », lance la professeure de mathématiques.

L’appel de la chercheure intervient au moment où des questions similaires sur des technologies comme l’intelligence artificielle se posent. En effet, l’IA soulève des inquiétudes sur les décisions que doivent prendre les dispositifs intelligents. Par exemple, en ce qui concerne les voitures autonomes – l’un des champs d’application les plus importants de l’intelligence artificielle – les programmeurs doivent, par le biais du code qui pilote le dispositif, prendre des décisions critiques.

Neuf situations illustrent la difficulté à laquelle les programmeurs font face surtout pour ce qui est des aspects moraux : la voiture autonome devrait-elle épargner en priorité les humains plutôt que les animaux de compagnie, les passagers au lieu des piétons, les femmes au lieu des hommes, les jeunes plutôt que les vieux, les personnes ayant un haut statut social au lieu de celles ayant un statut inférieur, les personnes respectant la loi plutôt que les criminels, les personnes mal portantes au lieu de celles en bonne santé ? La voiture devrait-elle dévier (agir) ou ne rien faire ou encore chercher à épargner le plus de vies possible ?

Ces développements ne sont pas sans faire penser à ceux de projets comme Maven. L’initiative était de Google et visait, de façon officielle, à développer une intelligence artificielle pour l’analyse de vidéos capturées par des drones. Toutefois, des craintes de voir des informaticiens mis à contribution pour le développement d’armes ultra sophistiquées destinées à donner la mort ont surgi. En droite ligne avec ces préoccupations, l’appel de la professeure vise à déclencher un mouvement avec pour objectif de protéger le public, ce, en s’appuyant sur la fibre éthique des acteurs.

Mais, ce qu’il faut dire c’est que même si les professionnels du domaine de l’informatique ne prêtent pas serment comme ceux engagés en médecine, ils disposent déjà de codes éthiques. Il n’y a qu’à lire dans les contenus proposés par des initiatives comme Data4Democracy ou l’Association for Computing Machinery (ACM).

Le problème n’est donc pas, semble-t-il, l’absence de code éthique. C’est plutôt la subjectivité de certains points au sein de ces textes sur laquelle il faut commencer par jeter un regard. Même Robert Cecil Martin – auteur du célèbre « Coder proprement » – a touché à cet aspect il y a 5 ans lorsqu’il relevait que la définition de « causer du tort » dépend du propre code moral du programmeur concerné. En sus, il y a les enjeux financiers que l’on ne saurait écarter de l’équation. En effet, même si le code éthique de l’ACM suggère aux programmeurs d’être respectueux de la vie privée des utilisateurs, cela n’empêche pas des entreprises comme Facebook de se retrouver empêtrées dans des scandales comme celui de Cambridge Analytica. Enfin, pour boucler le parallèle avec la médecine, il s’agit généralement de textes sans valeur juridique.

Source : The Guardian

Et vous ?

Qui du travailleur, de l'entreprise ou du code est le véritable problème en matière d'éthique ?

Quel commentaire faites-vous de la pertinence de cette idée ?

Quel pourrait être l’impact d’une telle disposition sur l’éthique personnelle des professionnels des domaines concernés et de façon générale sur celle des entreprises qui les emploient ?

Quels sont les freins à l'application de ces codes de conduite ?

Voir aussi :

Les Googlers contre le conseil d'éthique de l'IA de Google, car il privilégie la proximité du pouvoir sur le bien-être des groupes marginalisés


Google dissout son conseil d'éthique de l'IA une semaine à peine après sa mise en place suite à un mouvement collectif d'indignation

IA : un algorithme permettant de faire des recommandations en suivant des règles d'éthique a été mis au point par des chercheurs d'IBM et du MIT