This is an old revision of the document!
Table of Contents
SOM
Articles / tuto utilisés :
- http:www.saedsayad.com/clustering_som.htm * https:eric.univ-lyon2.fr/~ricco/cours/slides/kohonen_som.pdf
- http:www.cs.bham.ac.uk/~jxb/NN/l16.pdf * https:fr.wikipedia.org/wiki/Carte_auto_adaptative
Principe
- Créer une grille de noeuds
- Initialiser les noeuds avec des poids aléatoires (les coordonées des noeuds dans ce cas)
- Sélectionner une position dans l'espace à discrétiser
- Chercher le noeud le plus près de cette position (neurone gagnant)
- Mettre son poids à jour (le rapprocher de la donnée d'entrée)
- Mettre les poids de ses voisins à jour (un peu moins que le gagnant)
- Réduire petit à petit l'intensité de la mise à jour
- Réduire petit à petit la portée du voisinage
- Répeter 2 à 7 pour un nombre d'itérations
Selon les ressources choisies sur internet, les algorithmes n'ont pas la même manière de mettre à jour les neurones voisins du gagnant.
Equations utilisées
- Recherche du noeud le plus près :
- Mise à jour des poids du neurone gagnant :
Avec Θ(t) la fonction de voisinage et L(t) le taux d'apprentissage :
Θ(t) = exp( -dist² / 2σ²(t))
et
L(t) = L0 * exp(-t / λ)
Expérience
J'ai testé l'algorithme décrit au dessus sur un espace vide en deux dimensions. Les données sont choisies aléatoirement en tirant un x et un y tel que x, y [0, 100[ ∈ N.
Les noeuds (100 ici) sont placés aléatoirement dans cet espace comme décrit à l'étape 1 de l'algorithme.
Résultat
Voila le résultat après environ 6 000 itérations. Il est meilleur que ceux obtenus précedemment, les noeuds sont répartis dans l'espace et contrairement à ce matin, on voit un maillage.
Le taux d'apprentissage a été diminué plusieurs fois pour permettre de bouger les noeuds avec plus de précision. Il était de 1 sur les premiers tests et diminuait petit à petit lors de l'exécution avec cette équation :
L(t) = L0 * exp(-t / λ)
Au lieu de commencer à 1 il commence maintenant à 0.10. A la fin de l'exécution les noeuds bougent beaucoup moins et se placent assez correctement pour avoir un maillage -relativement- régulier.
