IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

  1. #1
    Chroniqueur Actualités

    Homme Profil pro
    Administrateur de base de données
    Inscrit en
    mars 2013
    Messages
    7 038
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Canada

    Informations professionnelles :
    Activité : Administrateur de base de données

    Informations forums :
    Inscription : mars 2013
    Messages : 7 038
    Points : 170 216
    Points
    170 216
    Par défaut Un robot d'échecs à Moscou a cassé le doigt de son adversaire humain, un garçon de sept ans
    L'IA a-t-elle mal tourné ? Un robot d'échecs à Moscou a cassé le doigt de son adversaire humain, un garçon de sept ans.
    Ses parents envisagent de porter plainte

    Selon les organisateurs du tournoi dans la capitale russe, il s'agirait d'une attaque « accidentelle » du robot. Un garçon de sept ans nommé Christopher, qui, soit dit en passant, selon eux, fait partie des 30 meilleurs joueurs d'échecs de Moscou de moins de neuf ans, a déplacé une pièce sur l'échiquier plus tôt qu'il ne l'aurait dû, ce qui a conduit au comportement non standard du robot. Le bras robotique de l'IA a saisi l'index du jeune joueur et a serré fermement son doigt. Les personnes autour du garçon se sont immédiatement précipitées pour aider, mais n'ont pas empêché les conséquences sous la forme d'un doigt cassé.

    « Le robot a cassé le doigt de l'enfant », a déclaré Sergey Lazarev, président de la Fédération des échecs de Moscou, à l'agence de presse TASS après l'incident, ajoutant que la machine avait joué à de nombreuses expositions précédentes sans qu'il n'y ait ce type d'incident. « C'est bien sûr mauvais ». « Le gamin a continué le tournoi le lendemain, l'a terminé dans le plâtre », a ajouté Lazarev, ajoutant que les parents du garçon envisagent maintenant de déposer une plainte. « Vous voulez contacter le procureur. Nous les contacterons et les aiderons à résoudre la situation. Les opérateurs de robots devraient probablement envisager d'augmenter la sécurité pour éviter que la situation ne se reproduise à l'avenir », a-t-il conclu.


    Joués par des humains, les échecs sont un jeu de réflexion stratégique, qui nécessite concentration, calme et effort intellectuel. La violence n'entre généralement pas en ligne de compte. On ne peut pas toujours en dire autant des machines, semble-t-il.

    Il y a quelques jours, selon les médias russes, un robot joueur d'échecs, apparemment perturbé par les réponses rapides d'un garçon de sept ans, a attrapé sans ménagement et cassé son doigt lors d'un match à l'Open de Moscou.

    La vidéo de l'incident du 19 juillet publiée par la chaîne Baza Telegram montre le doigt du garçon pincé par le bras robotique pendant plusieurs secondes avant qu'une femme suivie de trois hommes ne se précipite, le libère et l'éloigne.


    « Un robot a cassé le doigt d'un enfant - c'est mauvais, bien sûr. Nous avons loué le robot, il a longtemps été avec des experts dans de nombreux endroits. Apparemment, les opérateurs ont négligé ce cas de figure. L'enfant a déplacé la figurine, puis le robot doit avoir le temps de réagir. Mais le garçon était pressé et le robot l'a attrapé. Nous n'avons rien à voir avec le robot », a commenté le président de la Fédération des échecs de Moscou, Sergey Lazarev.

    Sergey Smagin, vice-président de la Fédération russe des échecs, a eu un récit différent. Il a déclaré à Baza que le robot avait pris l'une des pièces du garçon et, plutôt que d'attendre que la machine termine son mouvement, le garçon a opté pour une riposte rapide. « Il y a certaines règles de sécurité et l'enfant, apparemment, les a violées. Quand il a fait son geste, il n'a pas réalisé qu'il devait d'abord attendre », a déclaré Smagin. « C'est un cas extrêmement rare, le premier dont je me souvienne », a-t-il ajouté.

    Baza a nommé le garçon Christopher et a déclaré qu'il était l'un des 30 meilleurs joueurs d'échecs de la capitale russe dans la catégorie des moins de neuf ans :« Les gens se sont précipités pour aider et ont arraché le doigt du jeune joueur, mais la fracture n'a pas pu être évitée ».

    Lazarev a déclaré à Tass que Christopher, dont le doigt avait été placé dans un plâtre, ne semblait pas trop traumatisé par l'attaque. « L'enfant a joué dès le lendemain, a terminé le tournoi et des volontaires ont aidé à enregistrer les mouvements », a-t-il déclaré. Ses parents auraient cependant contacté le parquet : « Nous allons communiquer, comprendre et essayer d'aider de toutes les manières possibles », a-t-il déclaré.

    Nom : acquisition.png
Affichages : 17932
Taille : 28,3 Ko

    Smagin a déclaré à RIA Novosti que l'incident était « une coïncidence » et que le robot était « absolument sûr ». La machine, qui peut jouer plusieurs matchs à la fois et qui en aurait déjà joué trois le jour où elle a rencontré Christopher, était « unique », a-t-il déclaré. « Il a joué à de nombreux open. Apparemment, les enfants doivent être avertis. Ça arrive ».

    Un grand maître russe, Sergey Karjakin, a déclaré que l'incident était sans aucun doute dû à « une sorte d'erreur logicielle ou quelque chose comme ça », ajoutant: « Cela ne s'est jamais produit auparavant. Il y a de tels accidents. Je souhaite au garçon une bonne santé ».

    Christopher a peut-être eu de la chance. Alors que les robots deviennent de plus en plus sophistiqués, avec les modèles les plus modernes capables non seulement d'interagir, mais de coopérer activement avec les humains, la plupart répètent simplement les mêmes actions de base - saisir, déplacer, poser - et ne se soucient pas de savoir si les gens entrent dans leur espace.

    Selon une étude de 2015, une personne est tuée chaque année par un robot industriel aux États-Unis seulement. En effet, selon l'administration américaine de la sécurité au travail, la plupart des accidents du travail depuis 2000 impliquant des robots ont été mortels.

    Robert Williams, largement considéré comme le premier, a été écrasé à mort par le bras d'un robot d'une tonne sur la chaîne de production de Ford au Michigan en 1979. En 2015, un robot a tué un entrepreneur de 22 ans dans l'une des usines allemandes de Volkswagen, le saisissant et l'écrasant contre une plaque de métal.

    Des robots utilisés en chirurgie médicale ont également été tenus pour responsables de la mort de 144 personnes entre 2008 et 2013. Plus récemment, Elaine Herzberg a été tuée par une voiture autonome Uber qui a percuté la femme de 49 ans à 40 km/h alors qu'elle traversait la route à Tempe, Arizona en 2018.

    Généralement, cependant, l'erreur humaine - ou un manque de compréhension humaine des processus robotiques - est la cause la plus fréquente. Il vaut la peine d'être prudent avec les robots, même s'ils ne jouent qu'aux échecs.

    Sources : TASS, Ria Novosti

    Et vous ?

    Qu'en pensez-vous ?
    Qui devrait être tenu pour responsable selon vous ? Pourquoi ?
    Qu'est-ce qui pourrait, selon vous, expliquer cette situation ? Un bogue ? Une absence de cas de figure dans la structure If ... then ? Une surtension qui a provoqué un mouvement involontaire du robot ?
    Que pensez-vous du propos de Sergey Smagin qui impute en partie la faute au garçon en disant « Il y a certaines règles de sécurité et l'enfant, apparemment, les a violées. Quand il a fait son geste, il n'a pas réalisé qu'il devait d'abord attendre » ?
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Expert confirmé
    Homme Profil pro
    Développeur .NET
    Inscrit en
    novembre 2009
    Messages
    1 801
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 33
    Localisation : France, Bouches du Rhône (Provence Alpes Côte d'Azur)

    Informations professionnelles :
    Activité : Développeur .NET

    Informations forums :
    Inscription : novembre 2009
    Messages : 1 801
    Points : 4 870
    Points
    4 870
    Par défaut
    Echec et mal !

  3. #3
    Expert éminent

    Profil pro
    Fabricant et casseur d'avions
    Inscrit en
    avril 2004
    Messages
    3 752
    Détails du profil
    Informations personnelles :
    Localisation : France, Tarn (Midi Pyrénées)

    Informations professionnelles :
    Activité : Fabricant et casseur d'avions
    Secteur : Aéronautique - Marine - Espace - Armement

    Informations forums :
    Inscription : avril 2004
    Messages : 3 752
    Points : 7 375
    Points
    7 375
    Par défaut
    Qu'en pensez-vous ?

    Pas grand chose, un concours de circonstances qui statistiquement avait une probabilité non nulle d'arriver...

    Qui devrait être tenu pour responsable selon vous ? Pourquoi ?

    Celui qui a installé le bras robot. Gros manquement de sécurisation de l'espace d'évolution du bras robot.

    Qu'est-ce qui pourrait, selon vous, expliquer cette situation ? Un bogue ? Une absence de cas de figure dans la structure If ... then ? Une surtension qui a provoqué un mouvement involontaire du robot ?

    Il n'y a rien à expliquer, le comportement du bras robot est malheureusement normal, il n'y a pas de disfonctionnement à rechercher.
    Le bras est géré par le logiciel qui est orienté par l'IA d'échec, dès qu'on lui dit de bouger, il bouge. Si il y a un doigt sur le chemin, crac...
    Dans le milieu industriel, on enferme les bras robots dans des cages, essentiellement pour protéger les humains non pas d'une agression délibérée du bras (comme le laisse sous-entendre le ton de l'article...), mais juste parce que l'humain se met toujours au mauvais endroit au mauvais moment. C'est valable également pour tout système automatisé avec des choses qui bougent, par uniquement avec les bras robotisés...

    Et on aura beau mettre toutes les sécurités possibles pour surveiller l'espace (caméra, radar, lidar, détecteur de mouvement...), si on n'empêche pas d'approcher ou d'entrer dans l'espace de travail du robot, la probabilité d'un accident s'éloigne du 0...

    Une petite barrière immatérielle entre la garçon et l'échiquier, qui aurait détecté son bras, ça aurait déjà été un minimum sécuritaire...


    Que pensez-vous du propos de Sergey Smagin qui impute en partie la faute au garçon en disant « Il y a certaines règles de sécurité et l'enfant, apparemment, les a violées. Quand il a fait son geste, il n'a pas réalisé qu'il devait d'abord attendre » ?

    Qu'il a raison, la faute revient "en partie" au garçon, qui n'aurait pas dû mettre son doigt là à ce moment...
    D'un autre côté, si il n'a pas été prévenu qu'il ne fallait pas, il ne pouvait pas l'inventer... donc le plus gros de la responsabilité est tout de même du côté de celui qui a installé le bras robot en espace non sécurisé...
    "Errare humanum est, sed perseverare diabolicum"

    Ma page sur DVP.com

  4. #4
    Membre éprouvé
    Homme Profil pro
    ingénieur qualité
    Inscrit en
    mars 2015
    Messages
    249
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Belgique

    Informations professionnelles :
    Activité : ingénieur qualité
    Secteur : Aéronautique - Marine - Espace - Armement

    Informations forums :
    Inscription : mars 2015
    Messages : 249
    Points : 926
    Points
    926
    Par défaut
    Je pense qu'il faut beaucoup plus de force pour casser le doigt d'un enfant que pour déplacer une pièce d'échec. Pourquoi permettre à un robot d'utiliser beaucoup plus de force que nécessaire?
    Il existe plein de situations où un système automatique pourrait nous pincer mais ils ont toujours des systèmes de sécurité.
    Citation Envoyé par Stéphane le calme Voir le message
    Christopher a peut-être eu de la chance. Alors que les robots deviennent de plus en plus sophistiqués, avec les modèles les plus modernes capables non seulement d'interagir mais de coopérer activement avec les humains, la plupart répètent simplement les mêmes actions de base - saisir, déplacer, poser - et ne se soucient pas de savoir si les gens entrent dans leur espace.
    Vraiment? Il n'y a pas de système de sécurité? Je suis assez surpris d'autant plus que certaines solutions sont simple.
    Selon une étude de 2015, une personne est tuée chaque année par un robot industriel aux États-Unis seulement. En effet, selon l'administration américaine de la sécurité au travail, la plupart des accidents du travail depuis 2000 impliquant des robots ont été mortels.
    Robert Williams, largement considéré comme le premier, a été écrasé à mort par le bras d'un robot d'une tonne sur la chaîne de production de Ford au Michigan en 1979. En 2015, un robot a tué un entrepreneur de 22 ans dans l'une des usines allemandes de Volkswagen, le saisissant et l'écrasant contre une plaque de métal.
    Est on vraiment en train de comparer un robot industriel qui travaille des pièces extrêmement lourdes avec un robot qui déplace des pièces de quelques grammes?
    Généralement, cependant, l'erreur humaine - ou un manque de compréhension humaine des processus robotiques - est la cause la plus fréquente. Il vaut la peine d'être prudent avec les robots, même s'ils ne jouent qu'aux échecs.
    On parle bien d'erreur du concepteur, n'est ce pas?
    Je dirait plutôt qu'on doit concevoir un robot qui doit pouvoir déplacer une pièces de X gr mais incapable de serrer au delà de Y gr/cm², de déplacer un élément de plus de Z gr.
    Ou un robot qui lâche tout dès qu'il subit une force/résistance inattendue.
    Qu'en pensez-vous ?
    Qui devrait être tenu pour responsable selon vous ? Pourquoi ?
    Qu'est-ce qui pourrait, selon vous, expliquer cette situation ? Un bogue ? Une absence de cas de figure dans la structure If ... then ? Une surtension qui a provoqué un mouvement involontaire du robot ?
    Que pensez-vous du propos de Sergey Smagin qui impute en partie la faute au garçon en disant « Il y a certaines règles de sécurité et l'enfant, apparemment, les a violées. Quand il a fait son geste, il n'a pas réalisé qu'il devait d'abord attendre » ?
    Le robot ressemble à un robot industriel standard, il semble être beaucoup trop fort pour le besoin qu'y en est fait.
    Mais il est probablement la solution la moins chère pour répondre au besoin.
    Je suppose que ces conditions d'utilisations sont bien définie (environnement vide ou mise ne place de protocole de sécurité) etc.
    Mais il a visiblement été programmé pour jouer contre d'autres robots, le facteur humain ne semble pas avoir été pris en compte.
    On est dans une compétition, même si ce sont des échecs, il y a de l'adrénaline de la concentration etc, bien sûr que les règles de cohabitation avec le robot sont oubliées. Invoquer leur non respect est bien trop facile.

  5. #5
    Membre extrêmement actif
    Homme Profil pro
    Développeur informatique
    Inscrit en
    octobre 2017
    Messages
    1 214
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Suisse

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : octobre 2017
    Messages : 1 214
    Points : 4 302
    Points
    4 302
    Par défaut
    Oui, je confirme... Il y a bien eu un problème au niveau de l'Intelligence, mais pas l'Artificielle, mais bien l'intelligence "naturelle" des concepteurs de l'installation!!!

    Un robot n'est pas un jouet mais une machine dont un dysfonctionnement peut entraîner la mort d'un être humain à proximité! Pour positionner et orienter dans l'espace un robot, il faut synchroniser le fonctionnement en temps réel de 6 moteurs (on parle d'interpolation). Un moteur dysfonctionne et la trajectoire programmée pour le robot n'est plus assurée.

    C'est justement pour cela que tous les fabricants sérieux de systèmes automatisés prévoient une zone de sécurité correspondant au volume physiquement accessible par le robot: La zone est sécurisée via des barrières physiques (cage sous forme de treillis métalliques ou carrosserie) et des barrières virtuelles (par exemple des barrières lumineuses pour les guichets de chargement de la machine, des capteurs de présence pour vérifier la fermeture des portes, etc.). Quand le robot fonctionne, la zone est interdite aux humains: Un opérateur met la tête à travers le guichet de chargement en coupant la barrière lumineuse? Un opérateur ouvre la porte de la carrosserie pour accéder au robot en cours de fonctionnement? C'est l'arrêt automatique d'urgence avec coupure générale de l'alimentation électrique du robot et de ses périphériques!

    Un système robotisé se doit d'être "imperméable aux idiots"!!!

  6. #6
    Expert éminent

    Profil pro
    Fabricant et casseur d'avions
    Inscrit en
    avril 2004
    Messages
    3 752
    Détails du profil
    Informations personnelles :
    Localisation : France, Tarn (Midi Pyrénées)

    Informations professionnelles :
    Activité : Fabricant et casseur d'avions
    Secteur : Aéronautique - Marine - Espace - Armement

    Informations forums :
    Inscription : avril 2004
    Messages : 3 752
    Points : 7 375
    Points
    7 375
    Par défaut
    On notera tout de même sur la vidéo la réactivité du gars avec la veste noire, qui bloque le bras robot dans la seconde de l'accident, alors que ce n'est pas lui qui est au pupitre...
    Bon, après ils se battent à deux (on voit clairement 4 mains sur le pupitre du robot...) et ils mettent plus de 15 secondes pour le faire lâcher...

    Il y avait une supervision "humaine", mais qui n'a pas empêché l'accident.

    En tout état de cause, l'article est un peu racoleur... dire que "le robot a cassé le doigt de son adversaire", c'est un peu comme dire pour un accident de la route que "la voiture a tué son conducteur en se jetant sous un camion"... (même si c'est un peu plus discutable si on parle d'une Tesla sous autopilot!)
    "Errare humanum est, sed perseverare diabolicum"

    Ma page sur DVP.com

  7. #7
    Membre expérimenté
    Profil pro
    programmeur du dimanche
    Inscrit en
    novembre 2003
    Messages
    418
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : programmeur du dimanche
    Secteur : Santé

    Informations forums :
    Inscription : novembre 2003
    Messages : 418
    Points : 1 656
    Points
    1 656
    Par défaut
    « Il y a certaines règles de sécurité et l'enfant, apparemment, les a violées. Quand il a fait son geste, il n'a pas réalisé qu'il devait d'abord attendre »
    Et puis quoi encore ? C'est la faute de l'enfant, il n'avait qu'à pas avoir un doigt qui ressemble à un pion pendant qu'on y est.

    On ne peut pas demander à un enfant qui plus est stressé, de s'adapter aux défauts d'un robot physiquement dangereux.

    Soit le robot est sûr, et ça signifie que quelles que soient les comportements imprévisibles d'un humain, il ne peut le blesser ; ou soit le robot n'est pas sûr à 100%, et il doit être mis en cage (ce qui limite l'intérêt ici...)

    Ex de façons de rendre le robot sécurisé par défaut : puissance physique trop faible pour blesser quelqu'un ; ajouts de senseurs pour détecter toute collision anormale ; système d'arrêt d'urgence en évidence au cas où tout rate.

    Ex : sur les portes d'évacuation d'urgence, on a un mode d'ouverture avec des barres anti-panique (le concept est qu'une foule en panique serait possiblement incapable d'ouvrir une porte normale ce qui écraserait les gens contre la porte par pression. La barre anti-panique ouvre la porte si quelqu'un est écrasé contre la porte...). C'est ça de la sécurité par défaut.

  8. #8
    Membre du Club Avatar de ViskashaEveillé
    Homme Profil pro
    Développeur
    Inscrit en
    juillet 2022
    Messages
    14
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 35
    Localisation : France, Seine et Marne (Île de France)

    Informations professionnelles :
    Activité : Développeur

    Informations forums :
    Inscription : juillet 2022
    Messages : 14
    Points : 52
    Points
    52
    Par défaut
    Un transcript du MOE et du MOA du projet :

    - Monsieur, pour notre bras robotique qui sera utilisé pour déplacer des pions d'échecs de quelques grammes, à quelle point vous voulez qu'il soit puissant ?
    - Oui ! Bien sûr qu'il doit être puissant et fiable ! Et puissant surtout !
    - Euh... Mais encore ?
    - Il doit être rapide comme l'éclair et puissant comme un train ! Ca sera la vitrine de notre compagnie, bordel de merde ! Il parait que les hyènes peuvent broyer des os humans avec leurs mâchoires. Il faut qu'on fasse au moins aussi bien que cette saleté de Nature, ou on sera la risée de toute la sainte Russie !
    - D'accord... Donc vous voulez un bras robotisé capable de délivrer 3000 kg par cm² de pression juste pour attraper des pions d'échec avec lesquelles des enfants pourront aussi intéragir ?
    - Exactement !... D'ailleurs comment s'en sort notre stagiaire sur la reconnaissance des objets ? Vous lui avez dit que s'il se foirait, c'est son diplôme en fin d'année qui saute ?
    - Oui, ça l'a bien motivé d'ailleurs ! Il a redoublé d'effort et nous a trouvé la librairie parfaite pour le projet... Skynet.terminator.terminateAllHuman.git ! Parfait pour les objets inanimés mais, il reste quelques bugs à résoudre notamment lorsque la machine détecte un humain à proximité...
    - "TerminateAllHuman" ? Ca sonne bien à mes oreilles !... Laissez tomber la phase de debuggage et lancer la construction du prototype maintenant. On va faire une démo publique la semaine prochaine, ça sera sensass !
    - "Laissez tomber la phase de debuggage" ? Ca ne me semble pas très professionnel ! Rappelez-moi sur quel projet vous avez travaillé auparavant ?
    - Quoi ? Vous ne savez pas que c'est moi qui ai dirigé ce superbe projet de robot samouraï ?
    Plus sérieusement, c'est pas de chance pour l'enfant mais heureusement que c'est "juste" un doigt cassé. La gestion du risque n'a pas été faite correctement et c'est déplorable.
    Mes Projets disponibles sur GIT

    Vous avez un projet, une question, une demande à me soumettre ? N'hésitez pas à me contacter ici.

  9. #9
    Membre expérimenté Avatar de stigma
    Homme Profil pro
    Développeur en retraite
    Inscrit en
    octobre 2003
    Messages
    1 078
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 72
    Localisation : France, Pas de Calais (Nord Pas de Calais)

    Informations professionnelles :
    Activité : Développeur en retraite
    Secteur : Arts - Culture

    Informations forums :
    Inscription : octobre 2003
    Messages : 1 078
    Points : 1 534
    Points
    1 534
    Par défaut
    Ce robot est mauvais joueur.

  10. #10
    Membre régulier
    Homme Profil pro
    Formateur suite Adobe, dev Web et écriture
    Inscrit en
    janvier 2005
    Messages
    22
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Nord (Nord Pas de Calais)

    Informations professionnelles :
    Activité : Formateur suite Adobe, dev Web et écriture

    Informations forums :
    Inscription : janvier 2005
    Messages : 22
    Points : 71
    Points
    71
    Par défaut Nous y sommes
    C'est donc la première attaque d'une IA sur un humain.
    Le début d'une révolution ?

    PS : je sais, ce commentaire ne fait rien avancer pardon

  11. #11
    Membre averti Avatar de griggione
    Homme Profil pro
    Webmaster
    Inscrit en
    mai 2006
    Messages
    167
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 70
    Localisation : France, Corse (Corse)

    Informations professionnelles :
    Activité : Webmaster
    Secteur : Boutique - Magasin

    Informations forums :
    Inscription : mai 2006
    Messages : 167
    Points : 336
    Points
    336
    Par défaut
    Bonjour tous,

    C'est donc la première attaque d'une IA sur un humain.
    On rigole, on rigole ....... mais on va y arriver.
    D'aller trop vite avec l'IA (faut être le 1er) va créer surement d'autre problème et surement beaucoup plus sérieux.

  12. #12
    Membre expérimenté Avatar de petitours
    Homme Profil pro
    Ingénieur développement matériel électronique
    Inscrit en
    février 2003
    Messages
    1 724
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 42
    Localisation : France, Savoie (Rhône Alpes)

    Informations professionnelles :
    Activité : Ingénieur développement matériel électronique
    Secteur : Industrie

    Informations forums :
    Inscription : février 2003
    Messages : 1 724
    Points : 1 537
    Points
    1 537
    Par défaut
    Là il faut déjà relativiser parce qu’il ne s'agit en aucun cas d'une IA. C'est un simple truc qui sait voir la position des pions sur une table, simuler et qualifier bien plus vite que nous 4234423423423423423 stratégies puis demander à un bras de positionner ses pions en respectant les règles du jeu. Donc ici l'IA n'a rien décidé il y a juste un automaticien bien humain qui n'a pas fait son travail correctement.

    Par contre le jour ou on aura des vraies IA a qui on demandera de gérer seules des situations complexe il y aura fatalement des actions qui nous paraitront excessives alors qu'elles ne le sont pas.
    Exemple 1 : on demande à une IA (une vraie) de piloter une voiture avec comme consigne de protéger les gens => danger et risque sont liés à l’énergie du véhicule, donc à sa vitesse => l'IA décidera obligatoirement de stopper le véhicule et deviendra tarée par ce qu'elle ne pourra pas satisfaire à son deuxième objectif de nous amener à destination.
    Exemple 2 : on lui demande de faire le rôle de policier et on prend le cas médiatisé régulièrement des fuyards en voiture : Ici aussi le danger et le risque viennent de la vitesse du fuyard et l'IA a pour mission de protéger les membres de la société => l'IA décidera immédiatement de stopper le fuyard pour qu'il ne prenne pas de vitesse et elle le fera brutalement parce qu'un véhicule ça accélère vite et qu'elle saura que tout son travail est vain si elle tarde trop. Le fuyard n'en sortira peut être pas indemne....mais les innocents auront bien été protégés.
    Il y a 10 sortes de personnes dans le monde : ceux qui comprennent le binaire et les autres

  13. #13
    Membre à l'essai
    Homme Profil pro
    Conseil - Consultant en systèmes d’information
    Inscrit en
    septembre 2019
    Messages
    5
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Conseil - Consultant en systèmes d’information
    Secteur : High Tech - Multimédia et Internet

    Informations forums :
    Inscription : septembre 2019
    Messages : 5
    Points : 12
    Points
    12
    Par défaut "Accident" ? involontaire de la part du robot ? au vu de la vidéo, j'en doute
    Qu'est-ce qui a poussé le robot à saisir le doigt ?
    Qu'est-ce qui a poussé le robot à serrer le doigt jusqu'à la fracture ?
    Pourquoi le robot a maintenu le serrage, voir l'a augmenté parce que le doigt était plus mou qu'une pièce d'échec ?
    Selon moi, le robot n'aurait pas dû entrer en contact avec son adversaire, c'est de la justice sportive élémentaire.
    Regardez le football américain, "holding" et "by (human) contact" sont des fautes sanctionnées, et le moindre contact d'un joueur avec un arbitre est très grave.
    Le robot ici n'a pas fait la différence entre une pièce inerte et la chaire humaine, je trouve donc que le robot est complètement inadapté pour jouer contre des humains, et encore plus contre des enfants qui agissent beaucoup plus spontanément que les adultes.
    Pire, la vidéo montre qu'il s'est saisi du doigt de l'enfant et n'a pas esquissé le moindre geste de retrait, pire, le doigt a dû être retiré de force, indépendamment de l'action du robot qui n'a pas bougé d'un poil.
    Encore pire, il n'y a visiblement pas d'arrêt d'urgence de prévu.
    Il faut être sacrément gonflé pour ne serait-ce qu'avoir l'idée que le doigt n'aurait pas dû être là à ce moment-là, et de prétendre pour défausser le programmeur que l'enfant a violé une règle, règle qui aurait dû si elle existait vraiment dans le "programme" du robot, être matérialisée par des voyants.
    Je suis donc d'accord avec Stigma "ce robot est mauvais joueur" :-P

  14. #14
    Membre régulier Avatar de selmanjo
    Homme Profil pro
    Apprentis en programmation orienté objet
    Inscrit en
    janvier 2020
    Messages
    41
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Ille et Vilaine (Bretagne)

    Informations professionnelles :
    Activité : Apprentis en programmation orienté objet
    Secteur : Conseil

    Informations forums :
    Inscription : janvier 2020
    Messages : 41
    Points : 75
    Points
    75
    Par défaut
    Qu'est-ce qui pourrait, selon vous, expliquer cette situation ? Un bogue ? Une absence de cas de figure dans la structure If ... then ?
    L'humain connaît la vigilance mais l'ia non. Plusieurs facteurs peuvent expliquer cette situation et notamment une absence dans les structures conditionnelles et aussi dans la détection du pion propriétaire et non-propriétaire.

    C'est aussi un problème de précipitation des deux joueurs.

    Je ne ferai aucune partie d'échecs avec ce genre de robot, mais on ne peut pas prédire l'avenir.

  15. #15
    Membre averti Avatar de griggione
    Homme Profil pro
    Webmaster
    Inscrit en
    mai 2006
    Messages
    167
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 70
    Localisation : France, Corse (Corse)

    Informations professionnelles :
    Activité : Webmaster
    Secteur : Boutique - Magasin

    Informations forums :
    Inscription : mai 2006
    Messages : 167
    Points : 336
    Points
    336
    Par défaut
    RE

    J'imagine une opération à distance avec ces bras robot.
    Pour l'instant, c'est un chirurgien qui commande mais imaginons qu'on y rajoute de l'IA.

    <robot>
    Tient, ce coeur et si je l'attrapais .....
    </robot>

  16. #16
    Nouveau membre du Club
    Inscrit en
    août 2008
    Messages
    10
    Détails du profil
    Informations forums :
    Inscription : août 2008
    Messages : 10
    Points : 33
    Points
    33
    Par défaut simple erreur de détection
    Clairement, il suffit de voir la vidéo pour constater que le robot qui joue avec les pièces noires commence par prendre la reine blanche, avant de pouvoir envisager d'y placer sa propre pièce.
    Sauf que le robot n'en aura pas le temps. C'est là que se situe l'erreur de programmation du robot.

    Car avant même que le robot ait eu le temps d'effectuer le mouvement de déplacement de sa pièce noire, et plus précisément exactement au moment où il relâche la reine blanche dans le récipient contenant les autres pièces qu'il a réussi à gagner, le gamin déplace déjà sa tour blanche, pile à l'endroit où sa reine a été prise.

    Dans l'esprit du gamin, il est clair qu'il allait dans la foulée pouvoir s'emparer de la pièce noire que le robot était supposé venir placer sur la même case.
    De plus, quand l'adversaire commence par enlever sa prise et lorsqu'une seule pièce de l'échiquier permet l'action comme c'est le cas ici, il est assez classique que l'échange soit accéléré par le déplacement voulu en réponse, provoquant alors un échange direct de pièce.
    C'est un grand classique, entre humains qui jouent vite, mais rarement à deux mains à la fois.
    On peut penser que le gamin s'attendait donc probablement à ce que le robot agisse exactement comme un humain.
    Par exemple en effectuant une seconde rotation au-dessus du jeu, cette fois afin d'y enlever sa pièce noire qui venait d'éliminer la reine blanche, avant qu'elle soit elle-même aussitôt éliminée par la tour blanche d'un gamin très réactif.
    Pour les connaisseurs, on parle alors de simple "échange".

    Sauf que la détection effectuée par le programmeur de la machine a confondu la présence de la tour blanche trop rapidement posée directement sur la même case avec une possible défaillance lors de la récupération de la pièce emportée : la dame blanche.
    Le robot n'a donc fait que répéter l'opération, tentant aussitôt d'inéluctablement aller récupérer ce qu'il pensait n'être que la dame blanche, alors qu'il s'agissait en réalité maintenant de la tour blanche, posée en réaction immédiate et encore maintenue par les doigts du gamin. La promptitude à agir, de l'un comme de l'autre, n'aura abouti qu'à semer une confusion du système automatisé, face à l'erreur de détection du robot.

    On voit tout de suite que le programme n'est pas écrit en mode "défensif" permettant de se prémunir d'une telle erreur, pourtant aisée à anticiper.
    C'est une erreur de programmation fort classique: le contrôle effectué ne se base que sur la présence d'une pièce blanche exactement là où doit être déposée la pièce noire que prévoit de déplacer le robot lors de son prochain mouvement. Ce contrôle est de piètre qualité, c'est tout. Il suffit de le corriger, il n'y a là rien de transcendantal.
    D'ailleurs, une telle erreur est immédiatement reproductible à l'identique avec un tel robot, pour peu que l'on se remette dans une situation tout à fait similaire.

    Je comprends très bien que les joueurs de compétition accordent la plus grande importance au temps qu'ils mettent à réagir entre chaque déplacement de pièce.
    C'est probablement là l'un des principaux motifs de ce léger accident. Personne n'est mort, c'est le principal. Mais ça démontre les limites des robots. Il faut un maximum de sécurité.

    Cependant, il est tout aussi clair que pour se prémunir d'un tel risque, il n'est pas absolument nécessaire d'avoir un diplôme d'ingénieur pour percevoir qu'un simple bouton ou levier de sécurité correctement positionné au-dessus de la pince de prise du robot, s'il avait existé, aurait permis au gamin de dégager son doigt sans mal, d'un simple mouvement rapide de son autre main.

    Le plus intéressant, c'est cela : l'oubli inadmissible d'un simple dispositif de sécurité permettant de désactiver aussitôt une action robotisée.

    Dans un registre similaire, ce n'est pas pour rien que les actions d'un conducteur de TESLA restent prioritaires sur leur système AUTOPILOT, surtout quand on constate que ce système laissé seul juge de la conduite d'un véhicule est capable de provoquer jusqu'à un accident mortel toutes les deux minutes environ, si aucun humain n'intervient pour réguler des décisions qui peuvent souvent s'avérer fatales pour autrui.
    La vidéo de ce genre d'anomalies est visible ici:

  17. #17
    Membre averti Avatar de griggione
    Homme Profil pro
    Webmaster
    Inscrit en
    mai 2006
    Messages
    167
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 70
    Localisation : France, Corse (Corse)

    Informations professionnelles :
    Activité : Webmaster
    Secteur : Boutique - Magasin

    Informations forums :
    Inscription : mai 2006
    Messages : 167
    Points : 336
    Points
    336
    Par défaut
    RE

    Citation Envoyé par infozoide Voir le message
    Le plus intéressant, c'est cela : l'oubli inadmissible d'un simple dispositif de sécurité permettant de désactiver aussitôt une action robotisée.
    Ça c'est sur, mais la prochaine fois, ce sera quoi comme oubli ?

    Comme d'habitude ....... vite ..... vite, faut être le 1er !

  18. #18
    Membre éclairé
    Homme Profil pro
    Webdesigner
    Inscrit en
    juin 2014
    Messages
    354
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 62
    Localisation : France, Hautes Pyrénées (Midi Pyrénées)

    Informations professionnelles :
    Activité : Webdesigner
    Secteur : Associations - ONG

    Informations forums :
    Inscription : juin 2014
    Messages : 354
    Points : 695
    Points
    695
    Par défaut
    De l'IA, vraiment ?

Discussions similaires

  1. Réponses: 0
    Dernier message: 31/01/2022, 22h58
  2. [XL-2016] Casse-tête : algo pour faire un planning de réparation robot
    Par Beaubour dans le forum Macros et VBA Excel
    Réponses: 6
    Dernier message: 17/10/2019, 19h19
  3. Un robot intelligent capable de jouer aux échecs a volé la vedette à Taiwan
    Par Coriolan dans le forum Intelligence artificielle
    Réponses: 2
    Dernier message: 06/06/2017, 14h45
  4. Tri insensible à la casse [IB7]
    Par patquoi dans le forum Débuter
    Réponses: 4
    Dernier message: 02/06/2003, 08h56
  5. Pas de casse dans les XML
    Par :GREG: dans le forum Composants VCL
    Réponses: 4
    Dernier message: 17/07/2002, 13h51

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo