+1Envoyé par Anselme45
Et je peux ajouter à ta liste d'exemples de nombreux médecins qui trichent sur leurs facturation pour toucher plus de remboursement de la sécu mais que l'ordre des médecins protège
Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter
Discussion :
+1
Et je peux ajouter à ta liste d'exemples de nombreux médecins qui trichent sur leurs facturation pour toucher plus de remboursement de la sécu mais que l'ordre des médecins protège
J'aimerais bien aller vivre en Théorie, car en Théorie tout se passe bien.
Pas convainquant
Ce texte est vraiment orienté IA et l'auteur ne le propose pas à tous les informaticiens mais plutôt aux diplômés spécialisés en IA.
cf. https://techcrunch.com/2018/03/14/a-...practitioners/
J'ai un peu de mal avec la traduction française proposée.
Je respecterai les acquis scientifiques durement gagnés par les scientifiques et les ingénieurs sur les traces desquels je marche, et je partagerai volontiers les connaissances qui sont les miennes avec ceux qui doivent me suivre ;
-> A enseigner dès le lycée à tous les élèves, pas uniquement aux spécialistes de l'IA ni uniquement aux informaticiens!
J'appliquerai, pour le bien de l'humanité, toutes les mesures nécessaires, en évitant ces deux pièges que sont l'optimisme excessif et le pessimisme uniforme ;
-> C'est tellement vague qu'on ne sait même pas de quoi on parle. Je crois que je vais mettre cette phrase de côté pour la ressortir quand on me donnera un argumentaire qui ne veut rien dire, sur n'importe quel sujet, ce n'est pas le problème, pour aider mon interlocuteur à se rendre compte de la vacuité de son discours. J'ai beaucoup de respect pour l'auteur mais là, je ne comprends pas.
Je dois tout particulièrement faire preuve de prudence en matière de vie et de mort. Merci s'il m'est donné de sauver une vie grâce à l'intelligence artificielle. Mais elle peut aussi être en mesure de prendre une vie. Cette énorme responsabilité doit être assumée avec une grande humilité et en étant conscient de ma propre fragilité et des limites de l'intelligence artificielle.
-> Allez donc dire ça aux décideurs, aux puissants. Si une technologie est utilisée pour donner la mort, ce sont eux les responsables. Pas l'informaticien qui profite des découvertes scientifiques ou de méthodes innovantes comme l'IA.
En fait, n'importe quel technique peut prendre la vie, les freins qui lâchent etc. La différence ici, en prenant l'exemple du véhicule autonome, c'est que le système, sans qu'il n'y ait aucune défaillance, sait à l'avance que quel que soit la décision prise, cela coûtera une vie humaine. Et on se rappelle ici que le système, aussi intelligent qu'il puisse paraître, est créé par un ingénieur. Dans ce cas très précis qu'on aime à présenter, je ne suis pas certain que la décision de rouler sur tel ou tel groupe de personnes soit prise par un système IA. Il faudrait lui apprendre en réalisant quelques milliers d'essais afin qu'il sache lui aussi comment se comporter. Non, là, c'est probablement de la programmation pure et dure avec un arbre de choix. L'IA est en amont seulement. Sa puissance permet au système de guidage de connaître à chaque instant et très précisément l'environnement du véhicule.
Par-dessus tout, je ne dois pas jouer avec Dieu ni laisser ma technologie le faire ;
-> Il n'a pas dit "jouer avec Dieu" mais "jouer à Dieu" (play at God). Sinon, je ne comprends pas ce que Dieu vient faire dans un texte comme celui-là.
Je respecterai la vie privée des humains, car leurs données personnelles ne sont pas divulguées aux systèmes d'intelligence artificielle afin que le monde puisse en avoir connaissance ;
-> C'est une traduction littérale qu'on ne comprend pas très bien en français, le sens original étant transformé, à mon avis.
Je dirais: Je respecterai la vie privée des humains, en gardant les données personnelles hors des systèmes d'IA qui les divulgueraient.
Ce n'est pas aussi beau que dans l'original anglais mais on comprend!
Je tiendrai compte de l'impact de mon travail sur l'équité, à la fois en perpétuant les biais historiques, qui sont causés par l'extrapolation aveugle des données passées aux prévisions futures, et en créant de nouvelles conditions qui augmentent les inégalités économiques ou autres ;
-> Là encore, j'ai l'impression que le style de l'auteur passe mal le filtre de la traduction.
Je propose: Je tiendrai compte de l'impact de mon travail sur l'équité qui pourrait souffrir de répétition de biais historiques causés par l'extrapolation aveugle des données passées pour prédire le futur, ou de la création de nouvelles conditions qui accroîtraient les inégalités économiques.
….
Je me souviendrai que je reste un membre de la société, avec des obligations particulières envers tous mes semblables.
-> Ça vaut pour tout citoyen!
Si d'un côté certains critiquent le serment d'Hippocrate, de l'autre on peut aussi dire qu'il existe déjà un serment pour les ingénieurs, à savoir le serment d'Archimède :
https://fr.wikipedia.org/wiki/Sermen...Archim%C3%A8de
J'ai moi-même du lire et signer ce serment pendant mes études d'ingénieur.
Par ailleurs, tout ingénieur diplômé en France est inscrit eu répertoire de l'IESF, qui a sa propre charte d'éthique de l'ingénieur qui "doit être considérée comme la profession de foi de tous ceux qui figurent dans le Répertoire Français des Ingénieurs créé par IESF" :
https://www.iesf.fr/752_p_49680/char...ingenieur.html
J'ai moi-même toujours une copie de cette charte dans mon sac, des fois qu'une discussion avec un collègue ou supérieur imposerait de discuter des valeurs à prioriser.
Site perso
Recommandations pour débattre sainement
Références récurrentes :
The Cambridge Handbook of Expertise and Expert Performance
L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})
Il existe bien des équivalents de serment d’Hippocrate pour les informaticiens comme celui de l'IEEE
Il existe bien des équivalents de serment d’Hippocrate pour les ingénieurs informaticiens comme souhaité par Brad Smith de Microsoft
L’un d’eux est le code éthique à 8 principes, publié par l’IEEE
Le projet Maven de Google visait, de façon officielle, à développer une intelligence artificielle pour l’analyse de vidéos capturées par des drones. Toutefois, des craintes de voir des informaticiens mis à contribution pour le développement d’armes ultra sophistiquées destinées à donner la mort ont surgi. C’est pour des cas comme ceux-là en particulier que Brad Smith de Microsoft avait appelé à la mise sur pied d’un équivalent de serment d’Hippocrate pour les ingénieurs informaticiens. Et la réalité est que le domaine de l’informatique dispose bien de codes éthiques que l’on peut considérer comme des professions de foi pour les tiers qui exercent dans la filière. Des débats portent néanmoins sur la non-prestation de serment des acteurs du domaine, sur la valeur juridique desdits codes, la subjectivité de certains de ces textes. Le code éthique publié par l’IEEE semble être le plus précis possible pour ce qui est du dernier aspect.
Neuf situations illustrent la difficulté à laquelle les programmeurs font face surtout pour ce qui est des aspects moraux en matière d’intelligence artificielle pour l’automobile : la voiture autonome devrait-elle épargner en priorité les humains plutôt que les animaux de compagnie, les passagers au lieu des piétons, les femmes au lieu des hommes, les jeunes plutôt que les vieux, les personnes ayant un haut statut social au lieu de celles ayant un statut inférieur, les personnes respectant la loi plutôt que les criminels, les personnes mal portantes au lieu de celles en bonne santé ? La voiture devrait-elle dévier (agir) ou ne rien faire ou encore chercher à épargner le plus de vies possible ? C’est pour répondre à des questions comme celles-ci que différents codes éthiques ont fait l’objet de proposition.
Le code éthique de l’IEEE dans son 5e principe stipule à ce propos que :
les responsables et dirigeants de l'ingénierie logicielle doivent souscrire et promouvoir une approche éthique de la gestion du développement et de la maintenance des logiciels. En particulier, les personnes qui gèrent ou dirigent des ingénieurs logiciels doivent, selon le cas :
- assurer une bonne gestion de tout projet sur lequel ils travaillent, y compris des procédures efficaces de promotion de la qualité et de réduction des risques ;
- s'assurer que les ingénieurs logiciels sont informés des normes avant d'être tenus de les respecter ;
- s'assurer que les ingénieurs logiciels connaissent les politiques et procédures de l'employeur en matière de protection des mots de passe, des fichiers et des informations confidentielles pour l'employeur ou confidentielles pour les autres ;
- n'attribuer le travail qu'après avoir pris en compte les contributions appropriées en matière d'éducation et d'expérience, tempérées par le désir d'approfondir cette éducation et cette expérience ;
- assurer des estimations quantitatives réalistes du coût, du calendrier, du personnel, de la qualité et des résultats de tout projet sur lequel ils travaillent ou proposent de travailler, et fournir une évaluation de l'incertitude de ces estimations ;
- attirer les ingénieurs logiciels potentiels uniquement par une description complète et précise des conditions d'emploi ;
- offrir une rémunération juste et équitable ;
- ne pas empêcher injustement une personne d'occuper un poste pour lequel elle est qualifiée ;
- s'assurer qu'il existe un accord équitable concernant la propriété de tout logiciel, processus, recherche, écrit ou autre propriété intellectuelle auquel un ingénieur logiciel a contribué ;
- assurer une procédure régulière lors de l'audition des accusations de violation de la politique de l'employeur ou du présent Code ;
- ne pas demander à un ingénieur logiciel de faire quoi que ce soit d'incompatible avec le présent Code ;
- ne punir personne pour avoir exprimé des préoccupations éthiques concernant un projet.
C’est un total de huit grands principes au sein du code éthique de l’IEEE qu’on peut trouver moins subjectifs en comparaison à d’autres comme celui proposé par Eron Etzioni – professeur à l’université de Washington :
- je jure d'honorer, au mieux de mes capacités et de mon jugement, cet engagement :
- je respecterai les acquis scientifiques durement gagnés par les scientifiques et les ingénieurs sur les traces desquels je marche, et je partagerai volontiers les connaissances qui sont les miennes avec ceux qui doivent me suivre ;
- j'appliquerai, pour le bien de l'humanité, toutes les mesures nécessaires, en évitant ces deux pièges que sont l'optimisme excessif et le pessimisme uniforme ;
- je n'oublierai pas que l'intelligence artificielle est un art, au même titre que la science, et que les préoccupations humaines l'emportent sur les préoccupations technologiques ;
- je dois tout particulièrement faire preuve de prudence en matière de vie et de mort. Merci s'il m'est donné de sauver une vie grâce à l'intelligence artificielle. Mais elle peut aussi être en mesure de prendre une vie. Cette énorme responsabilité doit être assumée avec une grande humilité et en étant conscient de ma propre fragilité et des limites de l'intelligence artificielle. Par-dessus tout, je ne dois pas jouer avec Dieu ni laisser ma technologie le faire ;
- je respecterai la vie privée des humains, car leurs données personnelles ne sont pas divulguées aux systèmes d'intelligence artificielle afin que le monde puisse en avoir connaissance ;
- je tiendrai compte de l'impact de mon travail sur l'équité, à la fois en perpétuant les biais historiques, qui sont causés par l'extrapolation aveugle des données passées aux prévisions futures, et en créant de nouvelles conditions qui augmentent les inégalités économiques ou autres ;
- mon intelligence artificielle permettra de prévenir les préjudices chaque fois que cela sera possible, car il est préférable de prévenir que de guérir ;
- mon IA cherchera à collaborer avec les gens pour le plus grand bien, plutôt que d'usurper le rôle de l'homme et de le supplanter ;
- je me souviendrai que je ne rencontre pas de données sèches, de simples zéros et des uns, mais des êtres humains, dont les interactions avec mon logiciel d'IA peuvent affecter la liberté, la famille ou la stabilité économique de la personne. Ma responsabilité inclut ces problèmes connexes ;
- je me souviendrai que je reste un membre de la société, avec des obligations particulières envers tous mes semblables.
Les grandes enseignes technologiques sont au courant de l’existence de ces textes. Et pourtant certains de leurs employés sont licenciés pour des questions d’éthique. L’un des soucis ici est qu’il y a souvent autant d’avis sur une question que de cheveux sur un crâne. C’est en général sur ce détail que naissent des divergences qui font couler toute la barque.
Et vous ?
Partagez-vous l'idée selon laquelle les ingénieurs informaticiens disposent de très peu de décisions dans le processus décisionnel qui mène à la mise sur pied des produits des entreprises pour lesquelles ils travaillent ? Et donc que les questions d'éthique sont souvent réglées avant qu'ils n'aient eu le temps de donner leur avis ?
Voir aussi :
Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités
À choisir entre un groupe de piétons sur le passage piéton, et un piéton seul sur le passage piéton...
La voiture devrait sacrifier le conducteur.
Avec la ceinture de sécurité et les airbags il y a plus de chance de survie pour le conducteur.
Et même si ça ne faisait pas de différence, le piéton a la priorité sur le conducteur.
Au niveau des systèmes de conduites intelligente, il y a déjà plusieurs constructeurs de véhicule de luxe abordable qui ont fait le choix de privilégier la vie de leur conducteur à celle des piétons.
Cela avait fait scandale, je ne sais pas où ça en est et si quelque chose aurait changé ...
Ça ne répond pas au problème posé.À choisir entre un groupe de piétons sur le passage piéton, et un piéton seul sur le passage piéton...
La voiture devrait sacrifier le conducteur.
Aucun piéton ne devrait payer de sa vie parce qu'un conducteur a sciemment choisi de ne pas conduire.
La conduite automatique n'est qu'un confort, il faut le rappeler.
La voiture pourrait aller dans le mur/fossé/arbre/ravin/... aussi
Par ailleurs si en ville les voitures respectaient les limites de vitesse, les piétons traversaient sur les passages piéton ça deviendrais peut être moins accidentogène aussi.
Il y a aussi des usagers de la route qu'il faudrait sortir de celle-ci pour les mettre sur des pistes dédies (vélos, trottinettes, ...)
Excuse moi mais quand c'est un conducteur humain, la problématique se pose également. Sauf que l'humain en cas d'urgence va réagir impulsivement par réflexe sans réel réflexion... Pas sûr que ça soir vraiment mieux au final
Pas tout a fait d'accord. Ça dépend des cas. Si le piéton est en faute, c'est a lui de mourir (eg: traverser au rouge, ce genre de chose). Par contre si c'est imprévisible, alors il faut minimiser les dommages je suis d'accord. C'est sur qu'a 50 en ville le conducteur risque beaucoup moins que le piéton.
Et si les voitures respectaient les distances pour doubler les vélos, au lieu de quoi qu'il arrive essayer de doubler là ou ce n'est pas possible (un virage, une voiture qui arrive en face) il n'y aurait pas besoin de pistes dédiées. Le réflexe de beaucoup de chauffards, pardon conducteurs est de vouloir doubler à tout prix, même s'il ne pourront pas avancer plus vite ensuite.Par ailleurs si en ville les voitures respectaient les limites de vitesse, les piétons traversaient sur les passages piéton ça deviendrais peut être moins accidentogène aussi.
Il y a aussi des usagers de la route qu'il faudrait sortir de celle-ci pour les mettre sur des pistes dédies (vélos, trottinettes, ...)
Ce "code éthique" ne concerne que les USA.
Et il n'a rien à voir avec notre serment d'Hippocrate, faut quand même pas pousser.
De plus, il n'a aucune valeur légale ni même morale.
Il vous manque le contexte de l'illustration.Excuse moi mais quand c'est un conducteur humain, la problématique se pose également. Sauf que l'humain en cas d'urgence va réagir impulsivement par réflexe sans réel réflexion... Pas sûr que ça soir vraiment mieux au final
Le cas présenté par l'illustration est le suivant.
- Sachant que, de base, l'IA est programmée pour épargner les vies
- Sachant que, dans la situation présentée, il n'existe pas de solution à zéro mort. Quelque soit l'issue, choisie ou pas, il y aura de toute façon au moins un ou plusieurs morts
Que doit faire l'IA
En gros, on demande à l'IA de choisir qui sacrifier, chose qu'elle ne peut pas faire puisque, postulat de base, l'IA est programmée pour épargner les vies.
La comparaison avec l'humain n'est pas à propos, car l'humain, même s'il ne sait pas quoi faire, même s'il ne sait pas ce qu'il fait, même s'il n'en connait pas les conséquences, l'humain (la plupart des humains !) réagira quand même.
Hors ce genre de solution n'est pas "algorithmisable", l'IA ne peut intrinsèquement pas réagir comme cela. Ce qui la fait systématiquement buguer.
Des situations similaires réelles sont déjà à l'origine d'accidents avec des GoggleCar mais surtout aussi des Tesla. C'est notamment la raison pour laquelle l'Autopilote des Tesla est de plus en plus remis en cause.
Pour tenter de résoudre la situation, il faut supprimer un paramètre de l'équation en disant, notamment, il y a une vie qui vaut plus cher que les autres et qu'il faut sauver au détriment des autres si nécessaire.
Mais pour définir laquelle des vies est à sauver plus que les autres, c'est là que rentre en compte les notions d'éthique quand il s'agit d'opposer Conducteur/Piéton, Piéton/Groupe de Piéton, Homme/Femme, Jeune Vieux, Femme/Femme enceinte, Noir/Blanc, Adulte/Enfant, etc .... On peut multiplier les cas quasiment à l'infini.
Et il n'y a pas de solution, car, là, à ce niveau, on fait intervenir dans l'équation, des paramètres de cultures, morales, classes sociales, racisme, etc ....
C'est notamment ce point qui reste, encore aujourd'hui le gros écueil de l'avancé du véhicule autonome, notamment l'atteinte des niveaux 4 et 5 d'autonomie en dehors de circuits fermés et totalement sécurisés, et notamment sur route ouverte pour les voitures.
Il existe des véhicules qui s'apparentent au niveau 4, c'est notamment le cas de métros automatique, de minibus navette sur des golf, parc expo, etc.. C'est toujours sur circuit sécurisé, généralement aussi fermé, et il reste quand même malgré tout une supervision humaine à distance capable d'intervenir à distance si l'IA est bloquée dans une décision qu'elle ne sait pas prendre.
--- Sevyc64 ---
Parce que le partage est notre force, la connaissance sera notre victoire
lol quand un gamin traverse devant la voiture que tu conduis, tu ne freines pas ?
attention concernant cette remarque vous risquez de relancer le débat entre l'inné et l'acquisExcuse moi mais quand c'est un conducteur humain, la problématique se pose également. Sauf que l'humain en cas d'urgence va réagir impulsivement par réflexe sans réel réflexion... Pas sûr que ça soir vraiment mieux au final
le comportement humain et donc les réflexes tiennent-ils d'un processus venant du fond de la nature humaine bref ce qui relève de l'inné ?
Ou bien au contraire par la manière dont on a appris à avoir certains réflexes.
Vous avez certainement appris ça en cours de sciences naturelles avec l'exemple du chien de Pavlov
Nous venons de rétablir la peine de mort pour le non respect de la loi le moins dangereux.
Blague à part la question est sincèrement compliquée et la réponse l'est d'autant plus.
Et ma position actuelle est radicale : dans notre société où l'automobile est hégémonique l'usager faible doit etre priorisé sur l'automobiliste donc la voiture se met au tas.
Et ma position est d'autant plus radicale si le chauffeur a décidé de ne pas conduire : Le chauffeur qui conduit doit etre priorisé sur le chauffeur qui ne conduit pas, le "drone" part au tas.
Si la voiture autonome doit choisir entre le chauffeur et un groupe de pietons et le chauffeur et un autre groupe de piéton, évaluer la valeur de telle ou telle personne est tellement délicat que je choisit le 1 pour 1 et donc de choisir le groupe le moins nombreux.
La communication entre les usagers de la route est bien plus importante que le choix de voie, les clignotants, et le klaxon. Je sais distinguer un chauffeur qui cherche son chemin, un chauffeur qui est sur la file qui va tout droit alors qu'il va tourner, le chauffeur qui ne me laissera pas traverser malgré le passage piéton donc je sais maitriser une bonne partie du risque de me faire écraser par un automobiliste
Quelle communication existe entre une IA de confuite auto et son environnement? A ma connaissance aucune. Si je veux traverser comment je vérifies qu'elle m'a bien vu? Je ne sais pas, je traverse et le prie ou je la laisse passer. Donc soit on a une IA infaillible (ce qui n'arrivera pas) soit on va dans un monde où la voiture est encore plus hégémonique qu'aujourd'hui. Je refuse de crever parce qu'un gars a refusé de conduire et que je vis un cas d'usage pas prévu.
Je travaille dans la qualité, je passe ma vie à entendre "inutile d'envisager les cas de dysfonctionnement tout est fait pour qu'ils n'arrivent pas". Si c'était le cas j'aurais un peu plus de temps pour lancer les projets d'amélioration qui "sont dans les tuyau" depuis 5 ans.
Il y a des mauvais comportements partout :
- sur autoroute/voies rapides on voit parfois des piétons et des vélos sur le bord de la route !
- les vélos/trottinettes ne mettent pas forcément de quoi être repérés (éléments fluos et réfléchissants) et protégés quand ils partagent la route avec les voiture
- traverser soudainement sans regarder. Quand on est à proximité d'une école c'est plus facile à anticiper mais si la vision du trottoir n'est pas assez dégagée (avec des véhicules garés) le risque sera toujours plus grand. On ne va pas rouler à 20km/h non plus
Je suis d'accord pour éviter de blesser les autres quand je suis en voiture mais tout le monde est sensé suivre des règles ! La conduite autonome ne pourra pas tout détecter ou alors ils faut pucer tout et tout le monde pour tout détecter.
Qu'on choisisse le groupe de piétons, le piéton seul ou le conducteur, ça reste de l'utilitarisme.
Courte vidéo à regarder, au moins jusqu'à ce que vous changiez d'avis (parce que vous en changerez certainement) :
Mais si c'est le groupe de piétons de gauche qui a traversé au rouge et que le piéton unique à droite est une personne âgée qui marche plus lentement (et s'est donc engagé au vert)?
Vous avez un bloqueur de publicités installé.
Le Club Developpez.com n'affiche que des publicités IT, discrètes et non intrusives.
Afin que nous puissions continuer à vous fournir gratuitement du contenu de qualité, merci de nous soutenir en désactivant votre bloqueur de publicités sur Developpez.com.
Répondre avec citation
Partager