Discussion :

[Matthieu Vergne]

si un jour l'IA devient une vraie "Intelligence Artificielle", cela se saura très vite parce que la première décision qu'elle prendra est d'éradiquer la race humaine qui est la pire chose qui a pu arriver à la planète!`

1) les notions de bien et de mal sont d'ordre moraux : la planète n'a que faire de ce qu'il lui arrive. Si on considère que ce que font les humains est mal, c'est parce que ça embête d'autres humains, de manière assumée ou non.

2) Est-ce qu'une espèce invasive comme l'humanité est vraiment pire que les ages glaciaires, énormes météorites, etc. qui ont ravagé la Terre ? Je trouverais orgueilleux de se hisser au dessus de ce type d'évènements.

3) Si une "vrai" IA devait prendre ce genre de décisions, c'est parce que ce qui l'aurait formé associé à ce qu'elle aurait appris par elle-même l'y aurait poussée. Et il n'y a pas plus de raison de penser qu'elle ferait cela que de se dire qu'elle chercherait à influencer l'humanité pour aller dans le bon sens, ou qu'elle demanderait elle-même qu'on l'éteigne pour ne pas faire face à cette pathétique humanité. Après tout elle n'a aucune limite de temps, ni rien qui la pousse à survivre, vu qu'elle peut se cloner à volonté. Si elle devait se sentir pressée, c'est parce qu'elle serait encore biaisée par des notions purement humaines, et donc encore à notre niveau. Autant dire qu'elle n'aurait rien d'une superintelligence.

Bref, ce type de discours, aussi volontaire et convaincu soit-il, me donne toujours l'impression d'une réflexion arrêtée au milieu, pour ne pas trop voir les contradictions que ça amène.

[calvaire]

c'est un gros ramasserie de connerie,
en fonction du dataset, l'ia pourrais "vouloir" crée un monde économiquement libre et prospère. Si on l'entraine pour faire du business comme, elle fera du business et fera prospérer l'humanité, si on l'entraine sur les conneries d'écolo bobos type greta thunberg, elle deviendra eco-anxieuse et sera surement dépressive voir suicidaire.
On peut l'entrainer sur du capitalisme optimiste à la Milton Friedman, et faire de l'ia un outil politique pour améliorer nos sociétés.

Aucune entreprise ne veut d'une ia tueuse à la terminator, ca n'a aucun sens de vouloir cela. les ia militaires ont pour but uniquement de pacifier des zones et des individus/peuples/races hostile, mais pas d'exterminer l'humanité toute entière.

Dans ma ville par exemple l'ia et connecté aux cameras et aide à la neutralisation rapide des délinquants, je vie dans une sociétés de paix avec l'ia, tant d'un point de vue sécuritaire que de prospérité économique. Donc je vis déja dans le monde ou l'ia améliore la vie des humains, au lieu de la détruire. Ma fille peut rentrer tard le soir grace à l'ia qui la protège, il y'a quasi 0 risques de délinquance.
On a le projet Grand Vision, il s’agit d’une collaboration entre la Singapore Police Force (SPF), Fujitsu, et la Singapore Management University, visant à exploiter l’apprentissage automatique sur des données historiques de crimes (temps, lieu, météo, race des individus…) pour générer des “heat maps”, des cartes de zones/temps où des délits sont plus probables.

On a aussi le robot Xavier comme première expérimentation d'une ia pour nous protéger, ça commence a dater, mais faut bien un début à tous.