Contribution a l'etude des representtions dans le systeme nerveux et dans les reseaux de neurones formels

Cette these de doctorat se concentre sur le probleme de la representation neurale. Il est d'usage de penser que l'information neurale est codee dans les niveaux moyens d'activite des cellules. Cette conception classique, qui s'appuie sur les experimentations au niveau des processus sensoriels primaires, est critiquee ici de plusieurs points de vue. Dans une premiere partie, nous considerons le probleme de l'aprrentissage dans les reseaux de neurones formels (reseaux a couches) sous l'angle de la theorie statistique de l'estimation. Nous montrons que l'estimation statistique generaliste est limitee par ce que nous appelons le dilemme biais/variance. Ceci nous conduit a la conclusion selon laquelle la preoccupation centrale des reseaus de neurones formels devrait etre dirigee vers la conception de representations appropriees, plutot que vers l'apprentissage en soi. Par ailleurs, les representations en niveaux d'activite sont de simples listes de caracteristiques auxquelles il manque une structure interne. Dans une seconde partie, nous suggerons alors que les representations structurees soient realisees dans le cerveau par l'utilisation de la structure temporelle fine de l'activite neuronale, c'est-a-dire en coeant l'information dans les correlations entre neurones (theorie de c; von der malsburg). Nous decrivons des experiences numeriques qui illustrent l'operation d'appariement de graphes dans une tache de reconnaissance de caracteres manuscrits. Dans une troisieme partie, nous presentons un modele de developpement epigenetique du systeme nerveux. Il s'agit d'une tentative visant a rendre compte de la preparation du systeme nerveux a sa fonction de machine a composer les symbples, faculte qui apparait de la facon la plus frappante dans le comportement linguistique. Le probleme de la compositionalite dans les reseaux neuronaux est sans doute l'un des principaux problemes de la recherche neuronale actuelle, et notre tentative, qui s'appuie sur des principes de developpement tres generaux, apporte une nouvelle perspective a cette question. Ces principes sont a) la plasticite hebbienne et b) une competition entre les contacts synaptiques en croissance. Combines de facon appropriee, a) et b) aboutissent au developpement de configurations spatio-temporelles qui sont structurees de telle maniere qu'elle se composeront dynamiquement entre elles. Ces principes sont etayes par des simulations numeriques approfondies