Differences

This shows you the differences between two versions of the page.

--- realisation_env_grille_qlearning_sma [2025/05/24 03:33]
47.128.31.127 old revision restored (2025/02/28 19:12)
+++ realisation_env_grille_qlearning_sma [2025/07/29 23:59] (current)
47.128.97.182 old revision restored (2025/07/16 01:07)
@@ Line 4: / Line 4: @@
 La grille fonctionne sur le même principe que la dernière fois, les cases vertes sont parcourables, les blanches sont des murs et les points bleus sont des agents.
+{{:grille_sma.png|}}
 Voir [[realisation_env_grille_qlearning | ici]] pour plus de détails.
-La grille est générée à parti d'un fichier texte. Il est possible de passer le nombre d'agents voulu dans le fichier texte, ils sont placés automatiquement sur la grille sur les positions désignés (l'utilisateur ne choisi pas spécifiquement d'un agent).
+La grille est générée à parti d'un fichier texte. Il est possible de passer le nombre d'agents voulu dans le fichier texte, ils sont placés automatiquement sur la grille sur les positions désignés (l'utilisateur ne choisi pas spécifiquement la position d'un agent).
 Exemple de fichier :
@@ Line 13: / Line 15: @@
-BBBBBB
+BBBBBB\\
-BSEEEB
+BSEEEB\\
-BBBBEB
+BBBBEB\\
-BFEEEB
+BFEEEB\\
-BBBBEB
+BBBBEB\\
-BSEEEB
+BSEEEB\\
-BBBBBB
+BBBBBB\\
 Le 2 indique que deux agents seront sur la grille. Ils seront placés sur les deux cases "S". (Note à moi même - inutile de préciser le nombre d'agents, il suffirait d'en créer autant qu'il y a de cases "S").
@@ Line 28: / Line 30: @@
 L'épisode est terminé lorsque les deux agents ont atteint la case objectif. Si un agent la trouve avant l'autre, l'épisode continue, mais l'agent qui l'a trouvé ne bouge plus. Pendant ce temps le second agent continue de le chercher.
+==== Experience Sans collisions ====
+Deux ILs tentent d'atteindre l'objectif au bout de leur tunnel respectif. Leur route ne se rencontrent jamais, aucune collision n'est donc provoquée.
+Dans ce contexte l'apprentissage est classique, les deux agents devraient trouver une politique optimale comme s'ils étaient seul sur la grille.
+{{:sans_collisions_sma_grille.png|}}
+On peut voir que la somme des récompenses tend vers un minimum et que les agents ne se perturbent pas.
+{{:sans_collision_sma_grille_ils.png|}}
+(Somme des récompenses des deux agents - l'un en violet, l'autre en marron)
-==== Experience ====
+==== Experience Tunnel To Goal ====
-Deux IL évoluent sur une grille de forme Tunnel To Goal avec un QLearning. Les deux agents essaient d'apprendre une politique optimale, mais se court-circuitent en arrivant devant le tunnel.
+Deux ILs évoluent sur une grille de forme Tunnel To Goal avec un QLearning (grille ci-dessous). Les deux agents essaient d'apprendre une politique optimale, mais ils devraient se court-circuiter mutuellement devant l'entrée du tunnel.
+{{:grille_sma.png|}}
+La récompense de -10 sur la collision à l'entrée du tunnel les empêche d'apprendre la politique optimale
+{{:reward_grille_sma_ils.png|}}\\
+(Somme des récompenses des deux agents - l'un en violet, l'autre en marron)

DokuWiki

Site Tools

Differences

Page Tools