Discussion :

[jean12]

La meilleure solution serait d'inclure une volonté dans ces IA.
En effet, en mettant la priorité d'apprentissage en faveur du bien-être du genre humain, ces intelligences artificielles pourront faire la part des choses quant à ce qui peut être nuisibles dans leurs échanges avec l'humanité.

[Neckara]

Ah ? Et quelle est ta fonction d'évaluation du bien-être du genre humain ?

[AmineBenslimane]

ça devient troublant cette IA...

[Matthieu76]

IA a juste répété ce qu'elle a appris. Arrêtez d'en faire tout un fromage !

[avdyk]

https://www.lesswrong.com/posts/5o3C...d-consequences

[Matthieu76]

https://www.lesswrong.com/posts/5o3C...d-consequences

Ouais mais là le problème c'est pas l'IA, c'est le jeu de données qui n'est pas bon. D'ailleurs 100 photos pour faire de la reconnaissance d'image c'est trop peu. Et pourquoi seulement des photos en forêt, le but de l'IA est de reconnaître un tank en toute circonstance donc pourquoi ne par avoir ajouter au jeu de données des photos de tank prise sur google image ? Avec un jeu de données de 500 photos dont des photos random sans lien avec des tanks ou l'armée du genre des photos de chats, de voitures, de plats cuisinés, etc. Cela aurait fortement aider l'IA à ne reconnaître QUE des tanks.

[deathman8683]

« Norman vient de l’idée que les données utilisées pour entraîner un algorithme d’apprentissage peuvent influencer son comportement de façon considérable », expliquent les chercheurs sur leur site.

C'est comme dire "Manger réduit considérablement la sensation de faim"

C'est assez faible comme IA, il s'agit ni plus ni moins de comparer une image à une base d'images avec commentaire, rien de transcendant pour des chercheurs du MIT

Il me semble qu'il est impossible d'avoir une "IA" neutre si basée sur des collections d'images.

[wiwaxia]

En somme, ce que l'on redécouvre en cette occasion (avec parfois beaucoup de candeur), c'est que le logiciel soi-disant intelligent ne fait que ressortir des résultats en rapport avec les données fournies: la machine régurgite la pâtée qu'on lui a donnée, tel un chat après sa purge - nul comportement inattendu, nulle excentricité ou insolence, nul engouement sur un sujet imprévu, en somme rien de ce qui fait l'intérêt d'un comportement humain.

La véritable imposture, c'est de parler d'intelligence artificielle. Qu'un programme soit intelligemment conçu, réalise des performances vertigineuses, soit, tout le mérite en revient aux concepteurs qui ont droit à une reconnaissance légitime; qu'il soit intelligent, non.
Il y a là beaucoup plus qu'un raccourci de langage: parler d'un programme intelligent, c'est consentir à sa propre déchéance et tôt ou tard renoncer à sa liberté. Le plus ordinaire des hommes présente plus d'intérêt et de valeur que les logiciels mis au point par les géants de l'informatique.

Et pour en revenir au sujet initial, le véritable psychopathe serait l'individu dont le comportement relèverait entièrement d'une prétendue intelligence artificielle.

[Jipété]

Salut,

--snip--

Je te replusse ici car on ne peut pas plusser plusieurs fois, ou à plusieurs niveaux -- dommage.

Tu as tout dit, et tellement bien dit !
Ceci dit, tu ne vas pas te faire des copains avec ce genre de discours, et ceux qui étaient des copains risquent fort de se détourner. Bah, tu reconnaîtras tes vrais amis,

En attendant, fais attention dans la rue et pense à te retourner pour vérifier qui est derrière toi, un accident (que je ne te souhaite absolument pas mais tu tiens des propos qui l'attire comme un aimant attire la limaille) est si vite arrivé.

Excellent week-end,

[AlainFeler]

S'il n'y a pas de "biais de données" peut-il y avoir du sens ?