16 000 processeurs pour identifier un chat

[IP_Steph]

Admettons qu'un gars regarde "vraiment" 15 télés par jour :
15 télé pdt 7h 20 jours par semaine sur 12 mois pendant 40 ans ça fait 1 008 000h, on est encore loin des 10 000 000 d'heures^^

ça fait environ 70h par jour à ce rythme là, ou 397 ans

Moi j'ai cru qu'il parlait en base 3 et que c'était une tradition dans la com écrite entre développeurs

Steph

[Kaamui]

Envoyé par IP_Steph

Moi j'ai cru qu'il parlait en base 3 et que c'était une tradition dans la com écrite entre développeurs

Steph

ah merde c'est 20 jours par mois ... il faisait vraiment chaud en effet

[fodger]

et on aura le terminator ...

[regis_f]

Envoyé par pseudocode

J'avoue que si tu nous dis comment une personne seule a fait pour regarder 10 millions d'heures de vidéo, ca mérite bien une telle rétribution.

Super simple !!

Il suffit d'y passer 10 millions d'heures ! Voyons ! ts ts ts

Bon d'accord, il faut vivre un minimum de 1200 ans (sans dormir) pour y arriver, mais ça... Je suis désolé de te le dire, ce n'est qu'un détail

[Alexis.M]

Envoyé par Aleph69

Franchement, je m'interroge. Si au lieu d'utiliser un réseau de neurones, on avait choisi un bête k-means avec une quantité énorme de groupes, n'aurait-on pas obtenu un groupe spécialisé dans la reconnaissance de chats? Dans ce travail, j'ai un peu de mal à discerner le côté marketing de google, de l'aspect pseudo-philosophique et du contenu réellement scientifique. L'article publié mériterait une lecture approfondie avant de se prononcer.

Je me disais un peu la même chose. Notamment, avec des techniques de "sparse coding" (que l'on peux voir comme une relaxation convexe des k-means) j'ai l'impression que l'on pourrait avoir aussi ce genre de résultat.
D'ailleurs il y a des contraintes de parcimonie (sparcity) dans l'algorithme.

Au bout du compte j'aurais plutôt la remarque inverse de pseudo
code, c'est plus la prouesse technique que l'aspect théorique qui est impressionnant dans cette publication.

[Aleph69]

Envoyé par Alexis.M

c'est plus la prouesse technique que l'aspect théorique qui est impressionnant dans cette publication.

Entièrement d'accord avec toi!
Je serais tout de même curieux de savoir comment ils ont fait pour étiqueter leur immense base d'apprentissage pour mesurer a posteriori la performance en classification des images de chat.

[edfed]

si on reflechi bien au fonctionnement de notre apprentissage, on peut peut-etre deviner comment ont fait google pour faire apprendre à reconnaitre des chats à un programme.

on apprend d'abord à voir des choses, puis on entend des mots en rapport avec ces choses. et des connections sont établies entre les 5 sens.

c'est quand meme rudement impressionnant comme prouesse. mais loin de suffire pour faire un T800 capable de reconnaitre sarah connor.

[Alexis.M]

Envoyé par Aleph69

Entièrement d'accord avec toi!
Je serais tout de même curieux de savoir comment ils ont fait pour étiqueter leur immense base d'apprentissage pour mesurer a posteriori la performance en classification des images de chat.

Ils ont utilisé une autre base déjà étiquetée pour les tests.

[xetqL]

Hello a tous (d'avance desole pour le manque d'accent, clavier QWERTY oblige ...)

Je ne lis pas la meme chose que vous personnellement...

Je lis que ce reseau a ete lache sur Internet et apres visionnage de video youtube en tous genre, il a pu grace a certaine source d'information (visuelle, audio, ecrite) de reconnaitre et de classer des contenus comportant des chats.

Si ce que j'ai compris reflete bien la realite, alors c'est une prouesse HORS NORME.

Pour le moment ce reseau n'a qu'une seule fonctionnalite : apprendre et stocker.
En effet, il reconnait des elements virtuels (animaux etc..) et est capable de discerner les ressemblances afin de stocker ces elements ensemble.
Manque pas grand chose avant skynet ... hum .. hum ..

PS : Par hasard j'ai regarde Terminator 3 hier soir (coincidence ?), et la methodologie de deploiement de skynet, fut de le lacher sur internet. Gloups !

Bonne journee

[Kaamui]

Envoyé par xetqL

Si ce que j'ai compris reflete bien la realite, alors c'est une prouesse HORS NORME.

+1, et en plus, il est capable d'associer ce concept au mot chat, ça aussi c'est énorme je trouve.

[Alexis.M]

Envoyé par xetqL

Je ne lis pas la meme chose que vous personnellement...

Je lis que ce reseau a ete lache sur Internet et apres visionnage de video youtube en tous genre, il a pu grace a certaine source d'information (visuelle, audio, ecrite) de reconnaitre et de classer des contenus comportant des chats.

Si ce que j'ai compris reflete bien la realite, alors c'est une prouesse HORS NORME.

Il faut lire l'article de l'équipe de Google pour comprendre ce qui a été réellement réalisé.

D'abord il ont pris des vidéos, ils ont extrait de ces vidéos des "frames" et pour chaque frame ils ont extrait une image. Donc pas de son, pas de texte...

Ensuite ils ont entraîné un réseau autoencodeur, c'est à dire un réseau qui est censé reproduire en sortie l'image qu'il avait en entrée mais avec des contraintes fortes sur les connexions entre les différentes couches du réseau.

La conséquence est que certaines partie du réseau se sont spécialisées dans
l'encodage (la représentation) de contenus fréquemment vus c'est à dire pour des vidéos sur YouTube des visages, des chats et des corps humains.

Ceci reste une explication grossière mais un peu plus technique et plus proche de la réalité que l'article du New York Times. Pour ceux qui sont intéressé le lien vers l'article scientifique publié dans la conférence ICML (International Conference on Machine Learning) est donnée dans l'article du NYT.

Envoyé par Kaamui

et en plus, il est capable d'associer ce concept au mot chat, ça aussi c'est énorme je trouve.

Rien de tel, ce sont les chercheurs qui ont remarqué que certains neurones du réseau avaient une forte activation quand on leur présentait une image de chat.

[Kaamui]

Envoyé par Alexis.M

Il faut lire l'article de l'équipe de Google pour comprendre ce qui a été réellement réalisé.

D'abord il ont pris des vidéos, ils ont extrait de ces vidéos des "frames" et pour chaque frame ils ont extrait une image. Donc pas de son, pas de texte...

Ensuite ils ont entraîné un réseau autoencodeur, c'est à dire un réseau qui est censé reproduire en sortie l'image qu'il avait en entrée mais avec des contraintes fortes sur les connexions entre les différentes couches du réseau.

La conséquence est que certaines partie du réseau se sont spécialisées dans
l'encodage (la représentation) de contenus fréquemment vus c'est à dire pour des vidéos sur YouTube des visages, des chats et des corps humains.

Ceci reste une explication grossière mais un peu plus technique et plus proche de la réalité que l'article du New York Times. Pour ceux qui sont intéressé le lien vers l'article scientifique publié dans la conférence ICML (International Conference on Machine Learning) est donnée dans l'article du NYT.



Rien de tel, ce sont les chercheurs qui ont remarqué que certains neurones du réseau avaient une forte activation quand on leur présentait une image de chat.

ça reste très énorme quand même je trouve (même si on a vite fait de s'emporter (surtout moi ) et dire n'importe quoi)

[Alexis.M]

Comme je le disais, la prouesse technique est énorme mais ce type de résultat est assez commun dans les techniques d'encodage parcimonieux
(sparse coding).

Typiquement, dans les systèmes utilisés pour la reconnaissance de visage basés sur l'encodage parcimonieux, sous certaines contraintes (non-négativité, parcimonie), les "codes" se spécialisent pour certaines parties du visages (yeux, bouche, nez), sans qu'à aucun moment il n'ait été utile de leur préciser à quoi ressemblait ces différentes parties.

Par exemple:
http://www.cs.rutgers.edu/~mlittman/...neg-matrix.pdf de 1999

ou
http://www.cim.mcgill.ca/~levine/Fac...ed_On_NNSC.pdf de 2007

C'est évidemment moins impressionnant mais ce ne sont pas les mêmes moyens... Ces algos doivent s'entraîner en quelques heures maxi sur PC standard je dirais

[raphchar]

Mon impression:

C'est assez démentiel, 16000 processeurs, mais pourquoi au final? Reproduire un cerveau sur ordinateur? Si on y pense bien ça parait assez ridicule d'y mettre tant de ressources...
Et pourquoi ne pas créer directement un cerveau électronique? Ca serait plus efficace je pense. Un nouveau composant pour votre ordinateur la carte AI (non, ce n'est pas une plaisanterie).

[Kaamui]

Envoyé par raphchar

Mon impression:

C'est assez démentiel, 16000 processeurs, mais pourquoi au final? Reproduire un cerveau sur ordinateur? Si on y pense bien ça parait assez ridicule d'y mettre tant de ressources...
Et pourquoi ne pas créer directement un cerveau électronique? Ca serait plus efficace je pense. Un nouveau composant pour votre ordinateur la carte AI (non, ce n'est pas une plaisanterie).

Tu plaisantes ou quoi ? Tu n'as pas idée à quel point 16000 processeurs c'est ridicule comparé aux réseau neuronal du cerveau. Sachant qu'un processus (i-e un neurone) n'est même pas aussi puissant comparativement à un de nos neurones.

[raphchar]

Un processeur devrait traiter 6,25 millon de neurones et on aurait un vrai cerveau.

[tchize_]

Et ceci démontre sans aucun doute, que l'internet est constitué majoritairement de

Lolcat Compilation - YouTube

Lolcat Compilation - YouTube