+ Répondre à la discussion Actualité déjà publiée
  1. #1
    Chroniqueur Actualités
    Avatar de Michael Guilloux
    Homme Profil pro
    Consultant
    Inscrit en
    juillet 2013
    Messages
    1 449
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 26
    Localisation : Côte d'Ivoire

    Informations professionnelles :
    Activité : Consultant
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : juillet 2013
    Messages : 1 449
    Points : 41 277
    Points
    41 277
    Billets dans le blog
    2

    Par défaut Des universitaires suggèrent de doter les robots autonomes d’une « boîte noire éthique »

    Des universitaires suggèrent de doter les robots autonomes d’une « boîte noire éthique »
    pour retracer et expliquer leurs actions en cas d’accident

    Les robots intelligents s’invitent de plus en plus dans notre quotidien et dans des environnements moins contrôlés. Et en dépit de leur niveau de sophistication sans cesse croissant, les risques d’accident sont loin d’être nuls. « Les accidents, nous l'espérons, seront rares, mais ils sont inévitables », a déclaré Alan Winfield, professeur d'éthique des robots à l'Université de l'Ouest de l'Angleterre à Bristol. « Là où les robots et les humains devront collaborer, il y aura une situation potentielle pour les accidents », dit-il.

    Les accidents, on en dénombre beaucoup, certains moins graves, mais d’autres mortels. L’année dernière par exemple, un homme a perdu la vie dans un accident avec sa Tesla Model S. Joshua Brown avait déclenché le système de pilotage automatique quand il fut heurté par un camion au niveau d’une intersection. Ni lui ni les capteurs de la voiture n’ont pu détecter le camion qui a traversé son chemin, entraînant ainsi une collision mortelle. L’incident a conduit à des critiques selon lesquelles la société Tesla d'Elon Musk a donné un « faux sentiment de sécurité » à ses clients alors qu’en réalité elle testait une technologie de sécurité critique sur ces derniers. Une enquête menée par l'Agence nationale des routes et des transports des USA (NHTSA) a toutefois rejeté la faute sur le conducteur.

    Dans ce genre de situation, avant même de parler de responsabilité, il est important de comprendre ce qui s’est réellement passé. « Les accidents graves devront être étudiés, mais que faites-vous si un enquêteur arrive et découvre qu'il n'y a pas de données internes, qu'il n'y a aucun enregistrement de ce que le robot faisait au moment de l'accident ? Il sera plus ou moins impossible de dire ce qui s'est passé », a déclaré Winfield. Alan Winfield et Marina Jirotka – un professeur d'informatique centrée sur l'Homme à l'Université d'Oxford - soutiennent donc que les entreprises de robotique devraient suivre l'exemple de l'industrie aéronautique. Cette dernière a en effet introduit des boîtes noires et des enregistreurs vocaux des cabines de pilotage afin qu’en cas d’accident, les enquêteurs puissent comprendre ce qui a provoqué l'accident et s'assurer que des leçons cruciales de sécurité ont été apprises.

    Les universitaires pensent que les robots devraient être équipés d'une « boîte noire éthique » pour suivre leurs décisions et leur permettre d'expliquer leurs actions lorsque des accidents se produisent. Installée dans un robot, une « boîte noire éthique » enregistrerait en effet les décisions du robot, les éléments sur lesquels il se base pour les prendre, ses mouvements et l'information provenant de capteurs tels que des caméras, des microphones. Ils estiment que la nécessité d'une telle mesure de sécurité est devenue plus pressante étant donné que les robots se sont propagés au-delà des environnements contrôlés des lignes de production industrielle pour travailler aux côtés des humains comme des voitures sans conducteur, des gardes de sécurité, des aides-soignants et assistants clients.


    Les chercheurs pensent que l'introduction de boîtes noires éthiques aurait des avantages au-delà de l'enquête sur les accidents. Les mêmes dispositifs pourraient doter les robots - assistants de soins de longue durée, par exemple - de la possibilité d'expliquer leurs actions en langage simple, afin d'aider les utilisateurs à avoir confiance dans la technologie. Leurs propositions seront discutées ce jeudi lors d’une conférence à l'Université de Surrey, où les experts discuteront des progrès vers des robots autonomes qui peuvent fonctionner sans contrôle humain.

    Source : The Guardian

    Et vous ?

    Que pensez-vous de doter les robots autonomes d’une « boîte noire éthique » ?
    Quels sont les bénéfices attendus selon vous ?
    La nécessité est-elle plus importante que les risques potentiels liés à un tel dispositif ?

    Voir aussi :

    UE : le CESE s'oppose à la mise en place d'une personnalité juridique pour les robots ou IA, craignant un risque moral des fabricants et utilisateurs
    Un robot renverse un enfant dans un centre commercial en Californie, son champ de vision limité l'ayant empêché de voir le bébé de 16 mois
    La technologie Autopilot serait-elle à l'origine d'un accident mortel d'une voiture Tesla Model S ? Une enquête préliminaire a été ouverte
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Rédacteur/Modérateur

    Avatar de Philippe JOCHMANS
    Homme Profil pro
    Développeur informatique
    Inscrit en
    mai 2005
    Messages
    19 536
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 49
    Localisation : France, Loir et Cher (Centre)

    Informations professionnelles :
    Activité : Développeur informatique
    Secteur : Communication - Médias

    Informations forums :
    Inscription : mai 2005
    Messages : 19 536
    Points : 47 304
    Points
    47 304

    Par défaut

    Salut

    Issac Asimov y a pensé avant eux, ils devraient relire les ouvrages de cet excellent auteur.

    Philippe
    Détaillez vos questions, sinon vous aurez des réponses erronées et vous irez tout droit dans le et lisez les règles sinon
    Vous pouvez consulter mes articles sur Access et PowerPoint et n'oubliez pas de consulter les FAQs MS Office

  3. #3
    Membre actif
    Homme Profil pro
    Auditeur informatique
    Inscrit en
    février 2017
    Messages
    87
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Somme (Picardie)

    Informations professionnelles :
    Activité : Auditeur informatique

    Informations forums :
    Inscription : février 2017
    Messages : 87
    Points : 246
    Points
    246

    Par défaut

    différence entre boite noire éthique et un système de log ?

    si les logs sont là, pas besoin de boite noir en plus.

  4. #4
    Membre averti
    Homme Profil pro
    Développeur informatique
    Inscrit en
    avril 2016
    Messages
    89
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 23
    Localisation : France, Pyrénées Atlantiques (Aquitaine)

    Informations professionnelles :
    Activité : Développeur informatique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : avril 2016
    Messages : 89
    Points : 407
    Points
    407

    Par défaut

    Ce qui est surprenant c'est qu'ils y pensent que maintenant alors que comme dit dans l'article c'est déjà appliqué dans l'aéronautique. Faire des robots et des IA sans boîte noire peut s'avérer extrêmement dangereux à moyen terme car lors d'accident il nous serait effectivement impossible de savoir ce qu'il est passé.
    Comme dit deux commentaires au dessus, même Isaac Asimov y avait pensé dans ses ouvrages.
    Théorie : ça marche pas mais on sait pourquoi
    Pratique : ça marche mais on sait pas pourquoi
    Programmation : ça marche pas et on sait pas pourquoi

  5. #5
    Membre éclairé
    Homme Profil pro
    Développeur informatique
    Inscrit en
    novembre 2006
    Messages
    353
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 30
    Localisation : France, Hauts de Seine (Île de France)

    Informations professionnelles :
    Activité : Développeur informatique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : novembre 2006
    Messages : 353
    Points : 744
    Points
    744

    Par défaut

    Ils ne sont pas fou

    Ils savent qu'en cas d'accident, c'est plus facile de se dédouaner s'il n'y a pas de preuve de dysfonctionnement logiciel

    Un peu comme certains flics aux USA qui désactivent la caméra frontale avant d'aller commettre une bavure euh de commettre une arrestation
    http://krossapp.com

    "S'adapter, c'est vaincre !"

  6. #6
    Membre habitué
    Homme Profil pro
    Développeur Web
    Inscrit en
    septembre 2015
    Messages
    65
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Japon

    Informations professionnelles :
    Activité : Développeur Web

    Informations forums :
    Inscription : septembre 2015
    Messages : 65
    Points : 151
    Points
    151

    Par défaut

    différence entre boite noire éthique et un système de log ?

    si les logs sont là, pas besoin de boite noir en plus.
    Sauf erreur la boite noire est un systeme de logs ou il y aurait le son en plus.
    Donc c'est relativement la meme chose. Les logs enregistre des infos lorsqu'il se passe un evenement quelconque. La boite noire elle enregistre tout le temps et tout normalement (position geographique, son, composition atmospherique, etc...).

    On y enregistre ce qui se passe (meme s'il ne se passe "rien") et l'heure a laquelle ca se passe.

  7. #7
    Expert confirmé
    Avatar de TiranusKBX
    Homme Profil pro
    Développeur C, C++, C#, Python, PHP, HTML, JS
    Inscrit en
    avril 2013
    Messages
    1 467
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 28
    Localisation : France, Seine et Marne (Île de France)

    Informations professionnelles :
    Activité : Développeur C, C++, C#, Python, PHP, HTML, JS
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : avril 2013
    Messages : 1 467
    Points : 4 895
    Points
    4 895
    Billets dans le blog
    6

    Par défaut

    Tous les robots on déjà un système de log mais il n'y a pas de format standard pour ces données, ils devraient donc proposer un standard au lieu de réclamer quelque chose qui existe déjà. Pour l'enregistrement Audio cela ne peut concerner que les robot ayant une interaction avec les humains(voiture auto, robot infirmier, ...) mais pas les robot aspirateurs ou lave vitre sinon on ne ferait que multiplier volontairement le nombre d'appareil utilisable pour l'espionage
    merci de me mettre des quand mes messages sont pertinent, et pour les pas contents voici mon service client pour eux

    [Projet en cours] Strategy(nom provisoire) - Advance wars like
    cordova-plugin-file-hash Plugin cordova servant à obtenir le hash d'un fichier

  8. #8
    Membre habitué
    Homme Profil pro
    Développeur Web
    Inscrit en
    septembre 2015
    Messages
    65
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Japon

    Informations professionnelles :
    Activité : Développeur Web

    Informations forums :
    Inscription : septembre 2015
    Messages : 65
    Points : 151
    Points
    151

    Par défaut

    Tous les robots on déjà un système de log mais il n'y a pas de format standard pour ces données, ils devraient donc proposer un standard au lieu de réclamer quelque chose qui existe déjà. Pour l'enregistrement Audio cela ne peut concerner que les robot ayant une interaction avec les humains(voiture auto, robot infirmier, ...) mais pas les robot aspirateurs ou lave vitre sinon on ne ferait que multiplier volontairement le nombre d'appareil utilisable pour l'espionage
    Non ! A partir du moment ou des robots seront en circulation (avec une boite noire ou non) sans surveillance, qu'ils soient autonome ou non, il y aura toujours des KEKE pour essayer de hacker et/ou de voler les pieces.
    Donc si on enregistre les logs (ou boite noire) il y aura TOUJOURS des personnes qui vont recuperer ces donnees.

    Ensuite, pour avoir des infos pertinante dans une boite noire, il faut enregistrer TOUT : son y compris.
    Et il ne faut pas se leurrer, tous ces jolies appareils seront hacker donc 0 vie privee. C'est le prix a payer si on veut des appareils autonome.

  9. #9
    Provisoirement toléré Avatar de MikeRowSoft
    Homme Profil pro
    sans profession
    Inscrit en
    avril 2013
    Messages
    1 149
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 38
    Localisation : France, Puy de Dôme (Auvergne)

    Informations professionnelles :
    Activité : sans profession

    Informations forums :
    Inscription : avril 2013
    Messages : 1 149
    Points : 0
    Points
    0

    Par défaut

    Les enseignants le font déjà pour justifier leur travail, cours TP TD, cela même ci les étudiants n'ont pas le niveau pour être diplômer.
    Cela s'applique aussi aux employeurs qui recrute un stagiaire et qui compte prendre la suite sur le projet avec un de leur salarié revenu de vacance...
    "Vive la programmation !!!"

Discussions similaires

  1. Réponses: 10
    Dernier message: 10/03/2017, 17h29
  2. Réponses: 0
    Dernier message: 06/10/2016, 21h41
  3. Les voitures autonomes bientôt à l’assaut des villes de France ?
    Par Michael Guilloux dans le forum Actualités
    Réponses: 35
    Dernier message: 17/08/2016, 10h03
  4. Réponses: 28
    Dernier message: 09/04/2015, 14h09
  5. Exclure les robots des stats
    Par grassel dans le forum Statistiques
    Réponses: 6
    Dernier message: 19/04/2009, 13h07

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo