Mina A Khoei

Mina A Khoei

Senior AI/ML scientist @ SynSense, Zurich, Switzerland.

Emerging properties in a neural field model implementing probabilistic prediction (PhD, 2011-2014)

In the early visual system, information about the visual world as represented by neural activity is dynamically building up from sensory input but also by contextual information coming from neighboring cells and re-entrant signal from other cortical areas. Low-level sensory areas are therefore an excellent model for exploring how neural computations solve the problem of selecting a single, coherent and global representation from the dispersed information collected locally and in parallel by neurons. Our goal in this program is to study the dynamics of neural fields implementing probabilistic computations for early sensory processing. Emphasis will be put onto the role of anisotropic diffusion, in particular within a cortical area through lateral interactions.

We have previously elaborated probabilistic (Perrinet & Masson, 2010) or dynamical (Tlapale et al., 2010) models of motion information diffusion along cortical retinotopic trajectories. Probabilistic models give a complete representation of the information that is represented by populations of neurons. In such a dynamical system, prediction acts as a prior, filtering possible future states knowing the current one. An approximation using particle filtering methods will be used to investigate how this propagation can solve low-level computational problems such as integration, extrapolation or prediction in visual (Mason & Ilg, 2010) or somatosensory (Shulz et al. 2006) cortices.

Using this architecture, we will explore the consequences of such context-dependent propagation in terms of coding and of learning. First at the time scale of coding, knowing the prior, we will study the emergent properties of the system like its ability to track objects independently of their shape or to segment parts of the scene that are moving coherently. We will study of this motion information may help shape the selectivity of neurons in a given area, for instance orientation selectivity on the priamry visual cortex. At the time scale of learning, we will build models exploring the emergence of maps of cortical receptive fields optimally tuned to elaborate sparse, multi-scale representations of the visual or tactile world. In fact, a simple functional model allows to understand emergence in a model of a simple macro-column of the primary visual cortex (Perrinet, 2010). One challenging question is whether these functional models of self-organization can be translated to large-scale networks of the early sensory system. Using the probabilistic model, we will investigate how spatio-temporal receptive fields can emerge through learning of statistical regularities in the images and study how hierarchic structures can arise as a self-organized property.

Main publications:

Propriétés émergentes d’un modèle de prédiction probabiliste utilisant un champ neural

Dans le système visuel de bas niveau, des informations sur le monde visuel tel que celles représentées par l’activité neuronale est dynamiquement causée par l’entrée sensorielle, mais aussi par des informations contextuelles provenant de cellules voisines et par le signal réentrant d’autres aires corticales. Les aires sensorielles primaires sont donc un excellent modèle pour étudier comment les neurones peuvent résoudre le problème de la sélection d’une seul représentation globale et cohérente depuis l’information collectée localement et en parallèle par les neurones. Notre objectif dans ce programme est d’étudier la dynamique de champs neuronaux mettant en œuvre des calculs probabilistes pour le traitement sensoriel précoce.

L’accent sera mis sur le rôle de la diffusion anisotrope, en particulier celle implémentée par les interactions latérales dans une aire corticale. Nous avons déjà élaboré des modèles probabiliste (Perrinet & Masson, 2010) ou dynamique (Tlapale et al., 2010) de diffusion de l’information de mouvement le long de trajectoires. Les modèles probabilistes donnent une représentation complète de l’information qui est représentée par des populations de neurones. Dans un tel système dynamique, la prédiction agit comme un prior, qui permet un filtrage des états futurs possibles en sachant la distribution de probabilité de l’état actuel. Une approximation à l’aide des méthodes de filtrage particulaires seront utilisées pour étudier comment cette propagation peut résoudre des problèmes de calcul de bas niveau telles que l’intégration, l’extrapolation ou la prédiction dans les système visuel (Mason & Ilg, 2010) ou somatosensoriel (Shulz et al. 2006).

En utilisant cette architecture, nous allons explorer les conséquences de la propagation dépendant du contexte tant en termes de codage que d’apprentissage. Premièrement, à l’échelle de temps de codage, connaissant l’architecture du réseau, nous allons étudier les propriétés émergentes du système, comme sa capacité à suivre les objets indépendamment de leur forme ou à segmenter des parties de la scène qui se déplacent de façon cohérente. Nous allons étudier le mouvement de cette information peut aider à façonner la sélectivité des neurones, par exemple la sélectivité à l’orientation sur le cortex visuel primaire. À l’échelle de temps d’apprentissage, nous allons construire des modèles d’émergence de cartes de champs récepteurs corticaux optimisées pour élaborer des représentations multi-échelles efficaces de l’univers visuel ou tactile. En fait, un modèle fonctionnel simple permet de comprendre l’émergence d’un modèle d’une simple macro-colonne du cortex visuel primaire (Perrinet, 2010). Une question difficile est de savoir si ces modèles fonctionnels d’auto-organisation peuvent être traduits à des réseaux à grande échelle du système sensoriel primaire. En utilisant ce modèle probabiliste, nous allons étudier comment des champs récepteurs spatio-temporels peuvent émerger à travers l’apprentissage des régularités statistiques dans les images et comment des structures hiérarchiques peuvent apparaitre comme la solution d’une propriété d’efficacité fonctionnelle.

Education
  • Senior AI/ML scientist, 2018

    GrAI Matter Labs (Paris Area, France)

  • Phd in Computational Neuroscience, 2014

    Aix-Marseille Université

Latest