Discussion :

[Flo.]

Bonjour,

sinon, pour ajouter, à liste des systèmes neuronaux (SVM, SNNS, etc), tu as aussi les RBF, Radial Basis Functions ou fonctions à base de radiales ... Il me semble que pour le besoin que tu as, les Support Vector Machine ont montré leur supériorité, mais il me semble également que les RBF sont plus facilement théoriquement assimilables et utilisables que les SVM (que j'ai après tout jamais essayé).

Pour les RBF, on utilise des gaussiennes, des fonctions "distance" inversées, ou tout autre fonction qui génère un champs d'influence radial. On peut se représenter ça par une surface plane avec des puits d'attraction (ou l'inverse). Cette topologie est générée lors de l'apprentissage. Pour la phase de prédiction, on place "simplement" les éléments à prédire sur le relief ainsi créé et obtient le résultat. Sur des variantes on peut créer plusieurs de ces surfaces planes en parallèle et mettre en place un système concurentiel.

La phase d'apprentissage est rapide et la prédiction tout autant.

Peut-être te faudrait-il commencer par les RBF avant d'aborder les SVM puisque chronologiquement, on a, il me semble :

- perceptron multi-couche
- ...
- RBF
- SVM

Voila.

A+

Flo.

[Matthieu Brucher]

Les RBF sont une composante des SVMs non linéaires, ou du moins peuvent être. De même qu'ils peuvent être une fonction de transfert des réseaux de neurones.

[Luc Hermitte]

sinon, pour ajouter, à liste des systèmes neuronaux (SVM, SNNS, etc), tu as aussi les RBF, Radial Basis Functions

SNNS n'est pas un système. C'est un simulateur de RdN (comme son nom l'indique) qui propose un certain nombre d'architectures et d'algorithmes (dont les RBF), et qui dispose d'une très bonne documentation, je trouve.

Quand aux SVM, ils sont assez vieux (années 70, exportés de Russie, avec le responsable, bien après), et l'ordre historique n'a pas grande importance vu que ce sont des approches différentes, de même que pour les GAs, le RL, ...
Les RdN sont plein de maths, les SVM encore plus. Ca c'est sûr qu'ils sont un peu moins facilement abordables.

[Flo.]

J'aurais mieux fait de me taire moi ce jour là

Flo

[Luc Hermitte]

Mais non mais non

[Matthieu Brucher]

Les RdN sont plein de maths, les SVM encore plus. Ca c'est sûr qu'ils sont un peu moins facilement abordables.

Ah ? Je ne trouve pas que les SVMs soient trop des maths
Les livres de VApnik sur les SVMs sont assez récents, après le début des années 80. En même temps, c'est sûr qu'il a dû les trouver un peu avant, mais ce sont de belles bêtes qui ont un lien assez fort avec les réseaux de neurones.

[ToTo13]

Bonjour,

je ne suis pas un expert en classification, mais tout les experts que je connais préfère les réseaux bayésiens avec des cartes de konen( susi pas sur de l'orthographe).

De toute façon il te faudra des critères pour comparer tes formes et les classifier. Il existe de très bonnes méthodes pour caractériser des lettres.

En outre, la reconnaissance de caractère est un problème FINI !!!

[Tellmarch]

que veux tu dire par probleme fini?
c'est un sujet assez complexe quand meme...

[ToTo13]

Bonjour,

j'entend par problème fini, le fait que la reconnaissance de caractère est un problème pour lequel les méthodes existantes sont assez robustes pour reconnaitre tous les caractères de toutes les polices.
Si en plus on met ces méthodes dans un classificateurs à base de réseau bayésien, on obtient quelque chose de super.

[Tellmarch]

Euh tu parles de "toutes les polices"... mais il s'agit sans doute de reconnaissance d'écriture manuscrite...
Ce qui est déja un probleme beaucoup plus délicat à traiter.

Et les logiciels de reconnaissance de caractères que j'ai vus tourner font toujours des erreurs, meme lorsqu'il s'agit d'un texte écrit à l'aide d'une police quelconque, puis scanné.

Ce n'est donc pas encore totalement un probleme clos...

Pour la reconnaissance d'écriture on s'appuie souvent sur on modele de markov pour ajouter une notion de probabilité de l'apparition d'une lettre en fonction de son voisinage par exemple.

[Luc Hermitte]

Les RdN sont plein de maths, les SVM encore plus. Ca c'est sûr qu'ils sont un peu moins facilement abordables.

Ah ? Je ne trouve pas que les SVMs soient trop des maths
Les livres de VApnik sur les SVMs sont assez récents, après le début des années 80. En même temps, c'est sûr qu'il a dû les trouver un peu avant, mais ce sont de belles bêtes qui ont un lien assez fort avec les réseaux de neurones.

Le lien, sans plus je trouve. C'est certes du machine learning orienté apprentissage supervisé dans les applications les plus basiques des tutoriels, après pour les algos, cela s'éloigne un peu je trouve.

Et effectivement, Vapnik avait bossé sur des perceptrons dans les années soixantes (vu la biblio sur kernel-machines). Au temps pour moi donc.

Pour l'aspect maths. La projection dans un espace dual qui assure la résolution par un système d'équations linéaire... Certes il y a pire, mais tout de même.

[Matthieu Brucher]

C'est vrai, je ne me rends pas toujours compte

[bigquick]

La projection dans un espace dual qui assure la résolution par un système d'équations linéaire...

Ah oui, en effet ! Ce n'est pas forcément abordable par tout le monde (moi le premier ). Ca me rappelle (de loin) les cours de recherche opérationnelle ...

Il existe de très bonnes méthodes pour caractériser des lettres.

Est-ce que tu as quelques liens sous la main qui présentent des idées d'extraction de features pour des lettres ? Ca fait plusieurs jours que je cherche, mais je tombe souvent sur des documents assez abstraits, ou des thèses payantes

[ayadi.lou]

Bah si les SVM sont de plus en plus pleins de Math il suffit de voir les articles de simple SVM et de l'algo SMO

[amintek]

comment peut on extraire un vecteur de caracteristique de l'image qu'on veut reconnaitre. merçi.