chapitre11 - 112 Chapitre 11 Reseau RBF Dans ce chapitre,...

Info iconThis preview shows pages 1–3. Sign up to view the full content.

View Full Document Right Arrow Icon

Info iconThis preview has intentionally blurred sections. Sign up to view the full version.

View Full DocumentRight Arrow Icon
This is the end of the preview. Sign up to access the rest of the document.

Unformatted text preview: 112 Chapitre 11 Reseau RBF Dans ce chapitre, nous allons etudier les reseaux dits `a fonction de base radiale 1 . Nous avons vu au chapitre 5 quil est possible dapproximer nimporte quelle fonction `a laide dun per- ceptron en integrant une couche cachee de neurones sigmo des et une couche de sortie de neurones lineaires, comme `a la figure 5.10 (page 50). Dans ce cas, on obtient les sorties suivantes pour le reseau : a 2 = purelin ( W 2 a 1- b 2 ) = W 2 a 1- b 2 (11.1) Simplifions ce reseau au cas dun seul neurone de sortie ( S 2 = 1 ), posons a 2 = f et annulons les biais de la couche de sortie pour simplifier ( b 2 = ). On obtient alors : f = W 2 a 1 = S 1 X j =1 w 1 ,j a 1 j , (11.2) o`u a 1 = [ a 1 1 a 1 2 . . . a 1 S 1 ] T correspond aux sorties des neurones de la couche cachee, et w 1 ,j au poids qui relie le neurone cache j `a la sortie unique de notre reseau. En interpretant les a 1 j comme des bases (voir section 3.1.2), on remarque immediatement que lequation 11.2 permet dapproximer la fonction f `a laide dune combinaison lineaire de celles-ci. La problematique de lapprentissage dun tel perceptron consiste, premi`erement, `a trouver des bases adequates pour effectuer lapproxi- mation recherchee et, deuxi`emement, `a trouver les bon coefficients de la combinaison lineaire. Les bases engendrees par la couche cachee du reseau sont en fait des fonctions sigmo des que lon po- sitionne dans lespace des entrees. Des travaux theoriques ont montre quun tel perceptron poss`ede la propriete dapproximation universelle, cest-`a-dire quil peut approximer nimporte quelle fonc- tion avec une precision arbitraire, `a condition de disposer de suffisamment de neurones sur sa couche cachee. Mais les neurones sigmo des ne sont pas les seuls `a posseder cette capacite dapproximation universelle. De nombreuses autres fonctions la poss`ede aussi, dont les fonctions radiales quuti- lisent les reseaux RBF. Il est important de se rappeler quun neurone sigmo de agit partout dans son espace dentree. Il passe une fronti`ere de decision lineaire qui traverse lespace de bord enson espace dentree....
View Full Document

Page1 / 5

chapitre11 - 112 Chapitre 11 Reseau RBF Dans ce chapitre,...

This preview shows document pages 1 - 3. Sign up to view the full document.

View Full Document Right Arrow Icon
Ask a homework question - tutors are online