Controle neuro-flou robuste des systèmes non-linéaires

II.10 Méthode de rétro - propagation :

La rétro propagation est l'algorithme d'apprentissage supervisé pour ajuster les poids d'un réseau MLP.

Dans cette méthode , de même que l'on est capable de propager un signal provenant des cellules d'entrée vers la couche de sortie . On peut , en suivant le chemin inverse

rétro- propager l'erreur commise en sortie vers les couches cachées, d'ou le nom

rétro - propagation [37] .

II.10.1 Principe de fonctionnement de la méthode :

Le calcul du signal d'erreur nous permet d'ajuster les poids à partir de cette erreur, de telle sorte que sa sortie actuelle coïncide avec la réponse désirée .

La loi d'apprentissage proposée est :

Wij^K (t+1) = Wij^K (t) - ì . ( dj(w) / dWij^K (t) ) + á . ( Wij^K (t) - Wij^K(t-1) ) ( II . 4 )

Où :

0<= á <1 est le moment , et (ì) est le pas d`apprentissage , et (t) est l`indice des itérartions .

Les poids de connexions sont ajustés de sorte que la fonction de cout :

J(w) = ½ . ?ⁿ_i=1( d_i . y_i )² ( II . 5 )

Soit minimisée , N: le nombre des exemples d`entrainement .

La derivée de l'erreur par raport à un poids Wij^K est :

dj(w) / dWij^K (t) = (dj(w) / dy_j^K (t)) . (dy_j^K (t) / dWij^K (t)) ( II . 6 )

et :

(dy_j^K (t) / dWij^K (t)) = (df^K (S_j^K (t)) / dWij^K (t)) = f^K (S_j^K (t)) . (d S_j^K (t) / dWij^K (t)) . ( II . 7 )

et : i=nk-1

(d S_j^K (t) / dWij^K (t)) = d [? Wij^K . y_j^K-1 (t)] / dWij^K (t) = y_j^K-1 (t) . ( II . 8 )

i=1

D`où :

(dy_j^K (t) / dWij^K (t)) = f^K (S_j^K (t)) . y_j^K-1 (t) . ( II . 9 )

Donc :

dj(w) / dWij^K (t) = (dj(w) / dy_j^K (t)) . f^K (S_j^K (t)) . y_j^K-1 (t) . ( II . 10 )

En prenant :

S_j^K (t) = -f^K (S_j^K (t)) . (dj(w) / dy_j^K (t)) . ( II . 11 )

D`où :

dj(w) / dWij^K (t) = - S_j^K (t) . y_j^K-1 (t) . ( II . 12 )

On remplace (dj(w) / dWij^K (t)) dans ( II . 4 ) on trouve :

Wij^K (t+1) = Wij^K (t) + ì . S_j^K (t) . y_j^K-1 (t) + á . ( Wij^K (t) - Wij^K(t-1) ) ( II . 13 )

Chapitre 11 :  Les réseaux de neurones

Bien que cet algorithme a donné de bons résultats dans plusieurs applications les réseau multicouches avec rétro - propagation présente certaines limitations [31] [33].

1- Le manque de moyens systématiques pour déterminer :

a- Le nombre de neurones dans les couches cachées qui est le nombre des variables libres c'est à dire les poids du réseau : ce nombre est particulièrement important pars qu'il détermine la capacité de calcul de réseau.

b- Le nombre de  couches cachées.

c- Le pas d'apprentissage.

d- Le moment.

2- Les minima locaux :

ce type de problème est particulièrement difficile à éviter, notamment parce que la forme de la surface de l'erreur n'est pas généralement connue.

3- Convergence lente et incertaine.

Chapitre 11 :  Les réseaux de neurones