The exploration-exploitation paradigm : a biophysical approach - Thèses de Sorbonne Université Access content directly
Theses Year : 2023

The exploration-exploitation paradigm : a biophysical approach

Le paradigme exploration-exploitation : une approche biophysique

Abstract

The study of living systems is notoriously challenging. The often-quoted daunting complexity of biological systems is primarily due to the intricacies of their interactions, their multiple organisation levels and their dynamic nature. In the quest to understand this complexity, parallels drawn with standard physics – in particular, statistical physics -- are both useful and of limited use. On the one hand, they provide a rich set of theoretical and methodological building blocks for constructing theories and designing experiments. On the other hand, life also unfolds according to principles that are unparalleled in the physics of conventional matter. A crucial difference lies in the notion of function: biological systems are shaped by the need to perform specific tasks. A general problem for living systems is to find and promote those configurations that yield improved or optimal functions, we call this the exploration-exploitation (EE) problem. One specific instance of the above is found in evolutionary biology. There, random genetic mutations sustain the exploration of the configuration space, with those leading to higher reproductive success being favoured by natural selection. Inspired by the latter, we develop a novel formalism that encodes a general exploration-exploitation dynamics for biological networks. In particular, our EE dynamics is represented as an exploration of a functional landscape and consists of stochastic configuration changes combined with the state-dependent optimisation of an objective function (F metric). We begin by investigating its main features through the study of simple, analytically tractable functional landscapes. We deploy simulations for more general and complex applications. We then turn to the brain wiring problem, i.e., the development of an individual's nervous system during its early life. We argue that this is another specific instance of the EE problem and therefore can be addressed by using our theoretical framework. In particular, we focus on brain maturation in the nematode C.elegans, the only organism for which a complete network of neurons and neuronal connections has been reconstructed, at multiple developmental time points (seven). We fix the network at birth and use the adult stage to infer (i) a parsimonious maxent (ERG) description of the F metric for the worm brain and (ii) the two parameters of our EE dynamics. According to the topography of its functional landscape, the adult brain is characterised by a tendency to form both triads and high degree nodes. We demonstrate that our EE dynamics in such landscape is capable of tracking down the entire developmental history. In particular, we show that the trajectory we obtain closely reproduces the other experimental time points that we did not use for inference. This is true both in the space of model statistics and for a number of other network properties. Additionally, we discuss a micro-level interpretation of the EE dynamics in terms of the underlying synapse formation process. Our study is a first step towards the system-level understanding of the development of a natural brain and can be extended (i) to encompass more complex functional landscapes, (ii) to different organisms than the C. elegans and (iii) to several different problems than the brain wiring. Indeed, we posit that the exploration-exploitation paradigm is among those life-specific principles that we are just beginning to uncover.
L'étude des systèmes vivants est notoirement difficile. La complexité déconcertante des systèmes biologiques, souvent citée, est principalement due à la complexité de leurs interactions, à leurs multiples niveaux d'organisation et à leur nature dynamique. Dans la quête de compréhension de cette complexité, les parallèles établis avec la physique standard - en particulier la physique statistique - sont à la fois utiles et d'une utilité limitée. D'une part, ils fournissent un riche ensemble d'éléments théoriques et méthodologiques pour construire des théories et concevoir des expériences. D'autre part, la vie biologique se déroule aussi selon des principes qui sont sans équivalent dans la physique de la matière conventionnelle. Une différence cruciale réside dans la notion de fonction : les systèmes biologiques sont façonnés par la nécessité d'accomplir des tâches spécifiques. Un problème général pour les systèmes vivants est de trouver et de promouvoir les configurations qui produisent des fonctions améliorées ou optimales, ce que nous appelons le problème de l'exploration-exploitation (EE). Un exemple spécifique de ce problème se trouve dans la biologie évolutive. Dans ce cas, des mutations génétiques aléatoires soutiennent l'exploration de l'espace de configuration, celles qui correspondent à un succès reproductif plus élevé étant favorisées par la sélection naturelle. Inspirés par ce dernier cas, nous développons un nouveau formalisme qui encode une dynamique générale d'exploration-exploitation pour les réseaux biologiques, représentée comme une exploration d'un paysage fonctionnel. En particulier, notre dynamique d'EE consiste en des changements de configuration stochastiques combinés à l'optimisation dépendante de l'état d'une fonction objective (métrique F). Nous commençons par étudier ses principales caractéristiques à travers l'étude de paysages fonctionnels simples et analytiquement traitables. Nous déployons des simulations pour des applications plus générales et plus complexes. Nous nous penchons ensuite sur le problème du câblage du cerveau, c'est-à-dire le développement du système nerveux d'un individu tout au long de sa vie. Nous soutenons que ce dernier est un autre exemple spécifique du problème de l'EE et qu'il peut donc être traité à l'aide de notre cadre théorique. En particulier, nous nous concentrons sur la maturation du cerveau chez le nématode C. elegans, le seul organisme pour lequel un réseau complet de neurones et de connexions neuronales a été reconstruit, à plusieurs moments du développement. Nous fixons le réseau à la naissance et utilisons le stade adulte pour déduire (i) une description max.ent. parcimonieuse (ERG) de la métrique F pour le cerveau du ver et (ii) les deux paramètres de notre dynamique EE. Selon la topographie de son paysage fonctionnel, le cerveau adulte est caractérisé par une tendance à former des triades et des nœuds de degré supérieur. Nous montrons que notre dynamique d'EE dans un tel paysage est capable de retracer toute l'histoire du développement. En particulier, nous montrons que la trajectoire que nous obtenons reproduit étroitement les autres points temporels expérimentaux que nous n'avons pas utilisés pour l'inférence. Ceci est vrai à la fois dans l'espace des statistiques du modèle et pour un certain nombre d'autres propriétés du réseau. En outre, nous discutons d'une interprétation micro-niveau de la dynamique de l'EE en termes de processus sous-jacent de formation des synapses. Notre étude est un premier pas vers la compréhension au niveau du système du développement d'un cerveau naturel et peut être étendue (i) à des paysages fonctionnels plus complexes, (ii) à d'autres organismes que le C. elegans et (iii) à d'autres problèmes que le câblage du cerveau. En effet, nous pensons que le paradigme de l'exploration-exploitation fait partie de ces principes spécifiques à la vie que nous commençons à peine à découvrir.
Fichier principal
Vignette du fichier
DICHIO_Vito_these_2023.pdf (35.11 Mo) Télécharger le fichier
Origin : Version validated by the jury (STAR)

Dates and versions

tel-04406107 , version 1 (19-01-2024)

Identifiers

  • HAL Id : tel-04406107 , version 1

Cite

Vito Dichio. The exploration-exploitation paradigm : a biophysical approach. Neurons and Cognition [q-bio.NC]. Sorbonne Université, 2023. English. ⟨NNT : 2023SORUS402⟩. ⟨tel-04406107⟩
52 View
1 Download

Share

Gmail Facebook X LinkedIn More