Differences

This shows you the differences between two versions of the page.

--- realisation_env_grille_cqlearning_cmu_tr_ttg [2025/04/18 19:07]
18.118.211.163 old revision restored (2025/02/23 17:30)
+++ realisation_env_grille_cqlearning_cmu_tr_ttg [2025/05/21 23:36] (current)
3.147.104.221 old revision restored (2025/05/14 07:28)
@@ Line 3: / Line 3: @@
 Article utilisé : http://www.aamas-conference.org/Proceedings/aamas2010/pdf/01%20Full%20Papers/15_02_FP_0421.pdf
-Synthèse : https://drive.google.com/open?id=0B7dh6En0bP-KRWdBM0VMc1ZvYjA
+==== Présentation ====
+Le CQ-Learning permet la coordination d'agents. Son implémentation fait office de surcouche au QLearning qui rend les agents sensibles aux collisions.
+Les agents suivent leur politique optimale jusqu'à rentrer en collision, c'est alors qu'ils créent un état joint qui leur permettra de se coordonner. La politique optimale n'est jamais mise à jour, les états joints le sont à chaque fois qu'ils sont utilisés.
+Etant donné que certaines parties de l'article cité plus haut ne sont pas claires, l'algorithme implémenté ici est peut être légèrement différent sur certains points, cependant le principe reste le même.
+==== Expérience ====
+L'algorithme est testé sur trois environnements différents, un Tunnel to Goal (ttg) un cmu (quoi que cela puisse vouloir dire), et un Two Robots Game (tr).
+CMU
+{{:cmu_exemple.png?500|}}
+Les cases de couleurs sont les objectifs des agents de même couleur (sauf dans le ttg où il les deux agent sont le même objectif).
+Seul les résultats pour le CMU seront montrés.
+==== Resultats ====
+Voici les stats obtenues en lançant l'expérience 5 fois consécutives :
+=== CMU ===
+A la 3 000eme itération, la politique devient déterministe, l'agent ne peut plus choisir d'actions aléatoirement.
+Moyenne des sommes des récompenses :\\
+{{:cmu3_rewards.png?500|}}
+Moyenne du nombre de collisions :\\
+{{:cmu3_collisions.png?500|}}
+Moyenne du nombre d'états joints :\\
+{{:cmu3_nbjs.png?500|}}
+Petite optimisation sur les états joints, lorsqu'ils n'ont pas été utilisés depuis trop longtemps, ceux-ci sont supprimés. Ils le sont aussi lorsqu'ils indiquent la même action que l'état individuel.
+Stats :
+En moyenne, les agents ont besoin de  -10.9  etapes \\
+Avec un ecart-type de   0.943398113206
+En moyenne, les agents ont  0.0  collisions \\
+Avec un ecart-type de   0.0
+En moyenne, les agents ont  1.9  etats joints \\
+Avec un ecart-type de   1.13578166916

DokuWiki

Site Tools

Differences

Page Tools