Codage temporel et apprentissage dans les réseaux de neurones

Codage temporel et apprentissage dans les réseaux de neurones PDF Author: Jean-Christophe Ducom
Publisher:
ISBN:
Category :
Languages : fr
Pages : 0

Get Book Here

Book Description

Codage temporel et apprentissage dans les réseaux de neurones

Codage temporel et apprentissage dans les réseaux de neurones PDF Author: Jean-Christophe Ducom
Publisher:
ISBN:
Category :
Languages : fr
Pages : 0

Get Book Here

Book Description


Les réseaux de neurones

Les réseaux de neurones PDF Author: Pierre Borne
Publisher: Editions OPHRYS
ISBN: 9782710808961
Category : Neural networks (Computer science)
Languages : fr
Pages : 166

Get Book Here

Book Description


Etudes des architectures des réseaux neuronaux à codage spatio-temporel de l'information

Etudes des architectures des réseaux neuronaux à codage spatio-temporel de l'information PDF Author: Marius Vasiliu
Publisher:
ISBN:
Category :
Languages : fr
Pages : 380

Get Book Here

Book Description
Les réseaux de neurones représentent une des voies possibles pour la réalisation des systèmes dits intelligents, capables d'apprendre, de reconnaître et de classifier des informations de natures et de supports très différents. Au-delà des approches classiques, les modèles des réseaux de neurones que nous proposons ici utilisent d'une manière homogène le temps et l'espace en considérant que l'information incidente est portée à l'entrée du réseau par des signaux spatio-temporels et que le traitement neuronal ne doit pas changer la nature spatio-temporelle de cette information. Le premier modèle de réseau que nous proposons bénéficie de la simplicité et de la robustesse des signaux en impulsions comme support de l'information. L'utilisation des délais synaptiques adaptatifs et des règles d'apprentissage d'inspiration Hebienne permet la mise en oeuvre des mécanismes d'auto synchronisation synaptique et de reconnaissance partagée des patterns complexes d'impulsions. Une autre famille de modèles, plus évoluée, est celle des réseaux spatio-temporels. Les principales caractéristiques sont l'organisation hiérarchique de l'architecture en assemblées, groupes et neurones, le caractère local, continu et non-supervise de l'apprentissage, la considération d'une topologie spatiale intrinsèque, au nombre variable de dimensions et, dernièrement, mais pas le moins important, un fonctionnement temporel du réseau base sur des délais synaptiques variables. La structure du réseau est traversée par deux flux d'information: le flot longitudinal oriente de l'entrée vers la sortie et le flot latéral, dans chaque assemblée, produit par les interactions neuronales latérales. les expériences d'application effectuées, telles que la reconnaissance de l'écriture manuscrite, de la parole ou des trajectoires d'objets dans un flot vidéo sont autant de confirmations de la versatilité et des fonctionnalités offertes par les architectures spatio-temporelles étudiées

SYNTHESE DE RESEAUX DE NEURONES PAR CODAGE CELLULAIRE ET ALGORITHMES GENETIQUES

SYNTHESE DE RESEAUX DE NEURONES PAR CODAGE CELLULAIRE ET ALGORITHMES GENETIQUES PDF Author: FREDERIC.. GRUAU
Publisher:
ISBN:
Category :
Languages : fr
Pages : 175

Get Book Here

Book Description
AUTREFOIS CONSIDERES COMME UNE MACHINE VOUEE A UN APPRENTISSAGE REALISE A L'AIDE DE PETITES MODIFICATIONS SUCCESSIVES DE PARAMETRES, LES RESEAUX DE NEURONES ARTIFICIELS SONT EN TRAIN DE CHANGER DE STATUT. DE TELLES METHODES D'APPRENTISSAGE NE PERMETTENT PAS EN EFFET DE GENERER DE GROS RESEAUX NECESSAIRE A LA RESOLUTION DE PROBLEMES CONSEQUENTS. CETTE THESE SOUTIENT LES TROIS POINTS DE VUE SUIVANT: 1) LE MOT CLE POUR SORTIR DE L'IMPASSE EST MODULARITE. 2) L'OUTIL CLE POUR GENERER DES RESEAUX DE NEURONES MODULAIRES EST LE CODAGE CELLULAIRE. 3) LA METHODE D'OPTIMISATION CLE POUR EXPLORER L'ESPACE DE RECHERCHE DES CODES CELLULAIRES EST L'ALGORITHME GENETIQUE. LE PREMIER POINT EST UNE IDEE A PRESENT REPANDUE. PAR RESEAUX DE NEURONES MODULAIRES, ON ENTEND UN RESEAU DE NEURONES SE DECOMPOSANT EN SOUS-RESEAUX, D'UNE FACON HIERARCHIQUE, AVEC DES SOUS-RESEAUX QUI PEUVENT SE REPETER. CETTE THESE SE DECOMPOSE EN DEUX PARTIES. LA PREMIERE PARTIE DEMONTRE LE DEUXIEME POINT. LE CODAGE CELLULAIRE EST PRESENTE COMME UN VERITABLE LANGAGE MACHINE DE RESEAUX DE NEURONES, AVEC DES FONDEMENTS THEORIQUES (C'EST EN FAIT UNE GRAMMAIRE DE GRAPHE, VERIFIANT UN CERTAIN NOMBRE DE PROPRIETES) ET UN COMPILATEUR DE LANGAGE EVOLUE. LA DEUXIEME PARTIE DEMONTRE LE TROISIEME POINT. L'APPLICATION DES ALGORITHMES GENETIQUES A LA SYNTHESE DE RESEAUX DE NEURONES EN UTILISANT LE CODAGE CELLULAIRE EST UNE NOUVELLE TECHNOLOGIE. CETTE TECHNOLOGIE PERMET DE RESOUDRE DES PROBLEMES ENCORE JAMAIS RESOLUS. ELLE PEUT AUTOMATIQUEMENT ET DYNAMIQUEMENT DECOMPOSER UN PROBLEME EN UNE HIERARCHIE DE SOUS-PROBLEMES, ET GENERER UN RESEAU DE NEURONES DONT LA STRUCTURE HIERARCHIQUE DE SOUS-RESEAUX REFLETE CELLE DU PROBLEME. ELLE PERMET D'EXPERIMENTER DES DOMAINES DE RECHERCHE ENCORE VIERGES COMME PAR EXEMPLE, L'INTERACTION ENTRE APPRENTISSAGE GENETIQUE ET APPRENTISSAGE DE POIDS OU LA MISE AU POINT D'APPRENTISSAGES CONNECTIONNISTES ADAPTES A L'ALGORITHME GENETIQUE

RELATIONS ENTRE L'ARCHITECTURE DES RESEAUX DE NEURONES NATURELS, LE CODAGE EN POPULATION ET L'APPRENTISSAGE

RELATIONS ENTRE L'ARCHITECTURE DES RESEAUX DE NEURONES NATURELS, LE CODAGE EN POPULATION ET L'APPRENTISSAGE PDF Author: Pierre Germain
Publisher:
ISBN:
Category :
Languages : fr
Pages : 250

Get Book Here

Book Description
CETTE THESE EST DECOMPOSEE EN DEUX PARTIES. DANS LA PREMIERE PARTIE, NOUS ETUDIONS LA RELATION ENTRE L'ARCHITECTURE DU CORTEX ET SES CAPACITES D'APPRENTISSAGE ET DE GENERALISATION. NOUS MONTRONS QUE DEUX CARACTERISTIQUES CLES SONT A LA BASE DES MECANISMES DE GENERALISATION DANS LE CORTEX : (1) UNE TOPOLOGIE GLOBALE MULTIRESOLUTION COUPLEE A UNE TOPOLOGIE LOCALE A DEUX DIMENSIONS DU GRAPHE DE CONNEXIONS ; (2), L'EXISTENCE DE MECANISME DE FUSION-DIFFERENCIATION A TOUS LES NIVEAUX DE FONCTIONNEMENT (DEVELOPPEMENT, APPRENTISSAGE, ACTIVATION). LE CARACTERE GENERAL DE CE DERNIER MECANISME NOUS CONDUIT, PAR ANALOGIE AVEC LA MECANIQUE QUANTIQUE, A FAIRE L'HYPOTHESE QUE LE DEVELOPPEMENT ET LE FONCTIONNEMENT DU CERVEAU SERAIT MODELE PAR UN CHAMP INFORMATIF QUI SERAIT L'ANALOGUE D'UNE FONCTION D'ONDE DE LA MECANIQUE QUANTIQUE. NOUS PRESENTONS UN NOUVEL OUTIL, LES CHRYZODES, QUI PERMET, PAR UNE REPRESENTATION GRAPHIQUE DES SUITES ARITHMETIQUES DANS UN CERCLE, D'ANALYSER LES INTERACTIONS DE RESEAUX ONDULATOIRES DE FREQUENCES DIFFERENTES ET FOURNIT UNE PISTE POUR L'ANALYSE DES INTERACTIONS NEURONALES. DANS LA DEUXIEME PARTIE, NOUS ETUDIONS L'APPRENTISSAGE D'UNE TRANSFORMATION SENSORI-MOTRICE A PARTIR DE SIGNAUX CODES EN POPULATION ET DE REGLES D'APPRENTISSAGE PAR CORRELATION DU TYPE REGLE DE HEBB. DANS LE CODAGE EN POPULATION, L'INFORMATION EST CODEE DE FACON REDONDANTE PAR L'ENSEMBLE D'UNE POPULATION. NOUS MONTRONS COMMENT UNE CONDITION DE REGULARITE DE LA DISTRIBUTION DES ACTIVITES DES UNITES DE LA POPULATION PERMET DE COMPENSER LES BIAIS INHERENTS AU CARACTERE LOCAL DE L'APPRENTISSAGE HEBBIEN. NOUS APPLIQUONS ENSUITE CES MECANISMES A L'APPRENTISSAGE DE LA COMMANDE DU BRAS CHEZ LE SINGE. NOUS PROPOSONS ENSUITE UN MECANISME ASSEZ GENERAL PERMETTANT DE RENDRE UNE POPULATION REGULIERE PAR AUTO-ORGANISATION PAR RENFORCEMENT DE LA COHERENCE ENTRE LES SIGNAUX INTRA ET INTER-POPULATION.

APPRENTISSAGE DE RESEAUX DE NEURONES EN COUCHES PAR LA REGLE DE RETROPROPAGATION DU GRADIENT

APPRENTISSAGE DE RESEAUX DE NEURONES EN COUCHES PAR LA REGLE DE RETROPROPAGATION DU GRADIENT PDF Author: JEAN-RENAUD.. VIALA
Publisher:
ISBN:
Category :
Languages : fr
Pages :

Get Book Here

Book Description
CETTE THESE ABORDE LES DIFFERENTS ASPECTS DES RESEAUX DE NEURONES EN COUCHES APPELES PERCEPTRONS MULTICOUCHES, DEPUIS L'ALGORITHME D'APPRENTISSAGE, JUSQU'A L'APPLICATION A DES PROBLEMES REELS. LA PREMIERE PARTIE EST UNE ETUDE PARAMETRIQUE DE LA REGLE D'APPRENTISSAGE PAR RETROPROPAGATION DU GRADIENT DE L'ERREUR. LE GAIN ET LE TEMPS DE RELAXATION SONT ETUDIES LORS DE L'ELABORATION D'UNE LOI D'ECHELLE D'UNE FONCTION BOOLEENNE: LA PARITE. LES ARCHITECTURES DE RESEAU ET LES ENSEMBLES D'APPRENTISSAGE SONT ANALYSES SUR LE PROBLEME CONTINU DE LA COMPRESSION D'UNE IMAGE DIGITALISEE. LA DEUXIEME PARTIE DE LA THESE EST UNE APPLICATION DES RESEAUX DE NEURONES EN COUCHES AU PROBLEME DE LA COMPRESSION DE SIGNAL VIDEO. POUR OBTENIR UNE QUALITE D'IMAGE SATISFAISANTE, UN NOUVEL ALGORITHME A ETE DEVELOPPE. SON ORIGINALITE EST DE METTRE EN COMPETITION, DURANT LE CODAGE, PLUSIEURS RESEAUX EN COUCHES. GRACE A L'APPRENTISSAGE, QUI ASSOCIE CHAQUE PERCEPTRON A UNE TEXTURE SPECIFIQUE, L'ALGORITHME COMPETITIF ADAPTE LE CODAGE D'UN BLOC DE L'IMAGE EN FONCTION DE SES CARACTERISTIQUES. LES SIMULATIONS SUR UNE SEQUENCE ANIMEE DONNENT DES PERFORMANCES PROCHES DE CELLES OBTENUES PAR UN ALGORITHME NON NEURONAL DE COMPRESSION PAR TRANSFORMEE EN COSINUS DISCRETS. LES SEGMENTATIONS DELIVREES SONT PROCHES DES OBJETS FIGURANT SUR L'IMAGE. CET ALGORITHME PEUT ETRE IMPLANTE EN TEMPS REEL SUR DES CIRCUITS NEUROMIMETIQUES ELABORES AU LABORATOIRE D'ELECTRONIQUE PHILIPS

Learning and Coding Correlations in Stochastic Network States

Learning and Coding Correlations in Stochastic Network States PDF Author: Sami El Boustani
Publisher:
ISBN:
Category :
Languages : en
Pages : 243

Get Book Here

Book Description
L'activité des réseaux de neurones corticaux est caractérisée par des motifs de décharge stochastiques. Cependant, la nature exacte de ces états, et comment un apprentissage stable et un codage d'information peuvent se produire dans de tels états, restent mal compris. Nous avons d'abord étudié des modèles de réseaux de neurones capables de reproduire les régimes d'activité observés in vivo. Ces régimes asynchrones et irréguliers sont modélisés à l'aide d'une description Markovienne en utilisant une équation maîtresse phénoménologique. Afin de disséquer les corrélations présentes dans l'activité corticale, nous avons développé différents outils d'analyse. Nous trouvons que la réponse sous-liminaire de neurones dans V1 peut refléter les corrélations dans le stimulus visuel. Au niveau extracellulaire, nous avons développé un modèle d'Ising qui peut prédire précisément le taux d'occurrence des motifs spatio-temporels de décharge de plusieurs neurones enregistrés simultanément. Nous nous sommes ensuite intéressés à la question du codage de corrélations in vivo. Des enregistrements extracellulaires ont été effectués dans le cortex à tonneaux du rat anesthésié. Nous avons trouvé que le niveau de corrélation affecte les propriétés intégratives des neurones enregistrés. Un modèle fonctionnel suggère que ce résultat peut s'expliquer par des interactions entre cellules de sélectivité opposée. Finalement, nous avons proposé un modèle basé sur la règle de plasticité STDP qui peut stabiliser l'apprentissage dans l'activité spontanée. Ce modèle est équivalent à une règle BCM et peut reproduire des résultats dans l'hippocampe où la méta-plasticité a été observée pour la première fois.

APPRENTISSAGE D'EVOLUTIONS TEMPORELLES

APPRENTISSAGE D'EVOLUTIONS TEMPORELLES PDF Author: CHRISTOPHE.. VIGNAT
Publisher:
ISBN:
Category :
Languages : fr
Pages :

Get Book Here

Book Description
CETTE THESE A POUR BUT DE COMPARER LES APPROCHES QUE PROPOSENT LES RESEAUX DE NEURONES FORMELS (RNF) D'UNE PART, ET LES FILTRES ADAPTATIFS (FA) D'AUTRE PART, DU PROBLEME DE L'OPTIMISATION DE SYSTEMES BOUCLES NON LINEAIRES. CE PROBLEME EST ABORDE DANS LE CONTEXTE PLUS PARTICULIER DU CODAGE ADPCM DU SIGNAL DE PAROLE. CE TRAVAIL EST CONSTITUE DE TROIS PARTIES. LA PREMIERE EST CONSACREE A LA MISE EN PLACE D'UN CADRE COMMUN POUR LA COMPARAISON DES STRUCTURES ET DES ALGORITHMES UTILISES DANS LES DEUX DOMAINES DES RNF ET DES FA. DE CETTE ETUDE, NOUS DEDUISONS UNE NOUVELLE FAMILLE D'ALGORITHMES DEDIEE INDIFFEREMMENT A L'APPRENTISSAGE DES RNF BOUCLES OU A L'ADAPTATION DES FILTRES RECURSIFS. LA SECONDE PARTIE CONSISTE EN UNE ETUDE APPROFONDIE DE CES ALGORITHMES LORSQU'ILS SONT APPLIQUES A DES SYSTEMES ELEMENTAIRES. L'ETUDE DE CES SYSTEMES DE COMPLEXITES CROISSANTES UN PREDICTEUR LINEAIRE, PUIS UN PREDICTEUR NON LINEAIRE ABOUTIT NATURELLEMENT A CELLE DU CODEUR ADPCM. DANS CHACUN DE CES CAS, LES COMPORTEMENTS DES ALGORITHMES SONT ANALYSES, ET DES CONCLUSIONS SONT EXPOSEES CONCERNANT L'ADAPTATION DE SYSTEMES BOUCLES PLUS GENERAUX. LA TROISIEME PARTIE PROPOSE D'EVALUER L'APPORT DES RNF AU PROBLEME DE LA QUANTIFICATION ADAPTATIVE, LEQUEL EST UNE DES DIFFICULTES DU CODAGE ADPCM. UNE MODELISATION DU QUANTIFICATEUR PAR UN RNF AUQUEL EST APPLIQUE L'ALGORITHME DE RETROPROPAGATION NOUS PERMET DE DEDUIRE UN NOUVEL ALGORITHME POUR LA QUANTIFICATION ADAPTATIVE

INTRODUCTION D'UN CODAGE SPATIO-TEMPOREL DANS LES ARCHITECTURES CLASSIQUES DE RESEAUX DE NEURONES ARTIFICIELS (APPLICATION A LA RECONNAISSANCE DE CARACTERES MANUSCRITS)

INTRODUCTION D'UN CODAGE SPATIO-TEMPOREL DANS LES ARCHITECTURES CLASSIQUES DE RESEAUX DE NEURONES ARTIFICIELS (APPLICATION A LA RECONNAISSANCE DE CARACTERES MANUSCRITS) PDF Author: NASSER.. MOZAYYANI
Publisher:
ISBN:
Category :
Languages : fr
Pages : 171

Get Book Here

Book Description
DE NOS JOURS, IL EXISTE DIVERSES APPLICATIONS INDUSTRIELLES NECESSITANT LE TRAITEMENT DE FORMES SPATIO-TEMPORELLES (ST). IL S'AGIT DE DONNEES MULTI-DIMENSIONNELLES A LA FOIS CORRELEES DANS L'ESPACE ET DANS LE TEMPS, COMME PAR EXEMPLE UNE SEQUENCE ANIMEE D'IMAGES. LES MODELES CONNEXIONNISTES, SURTOUT CONNUS POUR LEUR CAPACITE A EXTRAIRE DES CORRELATIONS SPATIALES, COMMENCENT A PROPOSER DES SOLUTIONS POUR TRAITER DES FORMES ST. CE TRAVAIL PROPOSE D'ELARGIR LES CAPACITES DE PLUSIEURS MODELES DE RESEAUX DE NEURONES ARTIFICIELS (RNA) CONNUS AU TRAITEMENT DES FORMES ST COMPOSEES DE SIGNAUX IMPULSIONNELS. NOTRE APPROCHE REPOSE SUR UN CODAGE INTEGRANT LES CARACTERISTIQUES SPATIALES ET TEMPORELLES DES DONNEES. CE CODAGE EST DEFINI DANS LE CORPS DES COMPLEXES. L'UN DES DEUX DEGRES DE LIBERTE DE CES NOMBRES CODE L'AMPLITUDE DES IMPULSIONS, L'AUTRE EST CONSACRE A LA DATE DE CES IMPULSIONS. NOUS AVONS VALIDE NOTRE APPROCHE SUR LE PERCEPTRON MULTICOUCHE, LA CARTE DE KOHONEN ET LE RESEAU RBF. NOUS AVONS PAR AILLEURS TENTE D'INTEGRER NOTER CODAGE DANS LE MODELE DE HOPFIELD ET CONSTATE QUE LA DEMARCHE PRESENTE DANS CE CAS PEU D'INTERET. POUR ALLER AU DELA DE QUELQUES EXEMPLES ILLUSTRATIFS, LA DERNIERE PARTIE DE LA THESE EST CONSACREE A UNE APPLICATION CONCRETE DANS LE DOMAINE DE LA RECONNAISSANCE EN LIGNE DE CARACTERES MANUSCRITS ISOLES. LE TRACE D'UN CARACTERE PRODUIT, EN EFFET, DES INFORMATIONS DE NATURE ST PRENANT EN COMPTE A LA FOIS LA DISPOSITION DES POINTS ET LEUR ORDONNANCEMENT DANS LE TEMPS. NOUS PROPOSONS UN SYSTEME DE RECONNAISSANCE A DEUX ETAGES CONNEXIONNISTES : LE PREMIER IDENTIFIE CERTAINES PRIMITIVES DANS LE TRACE DES LETTRES ET LE DEUXIEME EFFECTUE LA TACHE DE RECONNAISSANCE. CE SYSTEME, DONT LES PERFORMANCES SUR DES BASES MULTISCRIPTEURS SONT PROMETTEUSES, PRESENTE L'AVANTAGE D'ETRE BEAUCOUP PLUS SIMPLE QUE CEUX EXISTANT PAR AILLEURS.

APPLICATION DES RESEAUX DE NEURONES A LA DEMODULATION NUMERIQUE

APPLICATION DES RESEAUX DE NEURONES A LA DEMODULATION NUMERIQUE PDF Author: PASCAL.. BALAY
Publisher:
ISBN:
Category :
Languages : fr
Pages : 124

Get Book Here

Book Description
L'OBJET DE CETTE THESE EST L'APPLICATION DES RESEAUX DE NEURONES AUX COMMUNICATIONS NUMERIQUES ET PLUS PARTICULIEREMENT AUX FONCTIONS D'EGALISATION ET DE DECODAGE DE CANAL. L'UTILISATION DE RESEAUX DE NEURONES A PERMIS D'ABORDER DEUX PROBLEMES NON RESOLUS TELS QUE LE DECODAGE OPTIMAL D'UN LONG CODE EN BLOC DANS UN TEMPS RAISONNABLE OU LE TRAITEMENT DES NON LINEARITES LORS D'UNE TRANSMISSION PAR SATELLITE. UN AUTRE AXE DE RECHERCHE INTERESSANT EST DE COUPLER EGALISATION ET DECODAGE DANS UN SEUL RESEAU. POUR LES SIMULATIONS, L'ESSENTIEL DES ETUDES CONCERNE LE PERCEPTRON MULTICOUCHE CAR LE MODELE DE KOHONEN S'EST AVERE MOINS PERFORMANT. EN DECODAGE, ON MONTRE QU'UN RESEAU DE NEURONES PERMET DE DECODER LES CODES COURTS. CEPENDANT, IL N'A PAS ETE POSSIBLE DE METTRE ASSEZ DE RELATIONS ENTRE LES POIDS POUR SIMPLIFIER L'APPRENTISSAGE DES CODES LONGS. LA TRANSMISSION PAR SATELLITE GENERE DES NON LINEARITES DUES A L'AMPLIFICATEUR. ELLES SONT EFFICACEMENT CORRIGEES QUAND LA STRUCTURE DU NEURONE EST ADAPTEE A LA MODULATION EMPLOYEE. A PARTIR DE LA SIGMOIDE CLASSIQUE, ON CONSTRUIT UNE FONCTION D'ACTIVATION EN ESCALIER DONT LE NOMBRE DE NIVEAUX DEPEND DE LA CONSTELLATION. UN PROCEDE D'INITIALISATION DU RESEAU PERMETTANT L'UTILISATION DU PERCEPTRON EN MODE AVEUGLE EST EGALEMENT ETUDIE. LES RESULTATS SONT DEGRADES, MAIS APPROCHENT LES PERFORMANCES DES AUTRES EGALISEURS EN MODE ADAPTATIF AVEC UNE MEILLEURE RESISTANCE AU BRUIT. LES RESULTATS OBTENUS EN EGALISATION POUR LA MODULATION QUADRATURE PARTIAL RESPONSE SIGNALING MONTRENT QU'UN PERCEPTRON EST CAPABLE D'EGALISER ET DE DECORRELER LES SIGNAUX EN MEME TEMPS. ON MONTRE AINSI QU'IL EST POSSIBLE DE RASSEMBLER LES DEUX OPERATIONS (EGALISATION ET DECODAGE) DANS UN SEUL RESEAU. LA DERNIERE PARTIE PROPOSE DES SOLUTIONS POUR ADAPTER LA STRUCTURE DU PERCEPTRON A UN PROBLEME DONNE