chapitre11 - 112 Chapitre 11 R´eseau RBF Dans ce chapitre...

Info iconThis preview shows pages 1–3. Sign up to view the full content.

View Full Document Right Arrow Icon

Info iconThis preview has intentionally blurred sections. Sign up to view the full version.

View Full DocumentRight Arrow Icon
This is the end of the preview. Sign up to access the rest of the document.

Unformatted text preview: 112 Chapitre 11 R´eseau RBF Dans ce chapitre, nous allons ´etudier les r´eseaux dits `a « fonction de base radiale » 1 . Nous avons vu au chapitre 5 qu’il est possible d’approximer n’importe quelle fonction `a l’aide d’un per- ceptron en int´egrant une couche cach´ee de neurones sigmo¨ ıdes et une couche de sortie de neurones lin´eaires, comme `a la figure 5.10 (page 50). Dans ce cas, on obtient les sorties suivantes pour le r´eseau : a 2 = purelin ( W 2 a 1- b 2 ) = W 2 a 1- b 2 (11.1) Simplifions ce r´eseau au cas d’un seul neurone de sortie ( S 2 = 1 ), posons a 2 = ˆ f et annulons les biais de la couche de sortie pour simplifier ( b 2 = ). On obtient alors : ˆ f = W 2 a 1 = S 1 X j =1 w 1 ,j a 1 j , (11.2) o`u a 1 = [ a 1 1 a 1 2 . . . a 1 S 1 ] T correspond aux sorties des neurones de la couche cach´ee, et w 1 ,j au poids qui relie le neurone cach´e j `a la sortie unique de notre r´eseau. En interpr´etant les a 1 j comme des bases (voir section 3.1.2), on remarque imm´ediatement que l’´equation 11.2 permet d’approximer la fonction f `a l’aide d’une combinaison lin´eaire de celles-ci. La probl´ematique de l’apprentissage d’un tel perceptron consiste, premi`erement, `a trouver des bases ad´equates pour effectuer l’approxi- mation recherch´ee et, deuxi`emement, `a trouver les bon coefficients de la combinaison lin´eaire. Les bases engendr´ees par la couche cach´ee du r´eseau sont en fait des fonctions sigmo¨ ıdes que l’on po- sitionne dans l’espace des entr´ees. Des travaux th´eoriques ont montr´e qu’un tel perceptron poss`ede la propri´et´e d’approximation universelle, c’est-`a-dire qu’il peut approximer n’importe quelle fonc- tion avec une pr´ecision arbitraire, `a condition de disposer de suffisamment de neurones sur sa couche cach´ee. Mais les neurones sigmo¨ ıdes ne sont pas les seuls `a poss´eder cette capacit´e d’approximation universelle. De nombreuses autres fonctions la poss`ede aussi, dont les fonctions radiales qu’uti- lisent les r´eseaux RBF. Il est important de se rappeler qu’un neurone sigmo¨ ıde agit partout dans son espace d’entr´ee. Il passe une fronti`ere de d´ecision lin´eaire qui traverse l’espace de bord enson espace d’entr´ee....
View Full Document

This note was uploaded on 10/10/2010 for the course GIF 7005 taught by Professor Gagne during the Spring '09 term at Université Laval.

Page1 / 5

chapitre11 - 112 Chapitre 11 R´eseau RBF Dans ce chapitre...

This preview shows document pages 1 - 3. Sign up to view the full document.

View Full Document Right Arrow Icon
Ask a homework question - tutors are online