Quand les algorithmes deviennent créatifs

Une meilleure compréhension des mécanismes d'apprentissage permet de mieux comprendre le fonctionnement de notre cerveau et de construire des machines intelligentes et adaptatives. Pour y parvenir, des chercheurs de l'Université de Berne proposent une nouvelle approche dans laquelle les algorithmes imitent l'évolution biologique et apprennent mieux grâce à une évolution créative.

Nos cerveaux sont incroyablement adaptables. Chaque jour, nous forgeons des souvenirs, acquérons de nouvelles connaissances ou affinons des compétences existantes. Cela contraste avec nos ordinateurs actuels, qui ne peuvent généralement effectuer que des actions préprogrammées. Notre propre capacité d'adaptation est le résultat de ce que l'on appelle la plasticité synaptique. Les synapses sont les points de connexion entre les cellules nerveuses. Elles peuvent évoluer de différentes manières selon la façon dont elles sont utilisées. Cette plasticité est un sujet de recherche important en neurosciences, car elle est au cœur des processus d'apprentissage et de mémorisation. Pour mieux comprendre ces processus cérébraux et construire des machines adaptatives, les chercheurs dans les domaines des neurosciences et de l'intelligence artificielle (IA) créent des modèles et des mécanismes qui sous-tendent ces processus. Ces modèles d'apprentissage et de plasticité aident à comprendre le traitement biologique de l'information et devraient également permettre aux machines d'apprendre plus rapidement.

Les algorithmes imitent l'évolution biologique

Dans le cadre du Human Brain Project de l’UE, des chercheurs de l'Institut de physiologie de l'Université de Berne ont mis au point une nouvelle approche fondée sur des algorithmes dits évolutionnaires. Ces programmes informatiques recherchent des solutions à des problèmes en imitant le processus d'évolution biologique, comme le concept de sélection naturelle. Ainsi, le fitness biologique, qui décrit le degré d'adaptation d'un organisme à son environnement, devient un modèle pour les algorithmes évolutionnaires. Dans ces algorithmes, le « fitness » d'une solution potentielle correspond donc à la capacité à résoudre le problème sous-jacent.

Une créativité surprenante

L'approche nouvellement développée est appelée « évoluer pour apprendre » (« evolving to Learn », E2L) ou « devenir adaptatif ». L'équipe de recherche dirigée par le Dr Mihai Petrovici de l'Institut de physiologie de l'Université de Berne et de l’institut de Physique Kirchhoff de l'Université de Heidelberg, a confronté les algorithmes évolutionnaires à trois scénarios typiques d'apprentissage. Dans le premier cas, l'ordinateur devait reconnaître un motif répétitif dans un flux continu de données sans recevoir de retour d'information sur ses performances. Dans le second scénario, l'ordinateur recevait des récompenses virtuelles lorsqu'il se comportait de la manière souhaitée. Enfin, dans le troisième scénario d' « apprentissage guidé », l'ordinateur était informé de l'ampleur exacte de l'écart entre son comportement et le comportement souhaité.

« Pour chacun de ces scénarios, les algorithmes évolutionnaires ont pu découvrir des mécanismes de plasticité synaptique et ainsi résoudre avec succès une nouvelle tâche », explique le Dr Jakob Jordan de l'Institut de physiologie de l'Université de Berne et coauteur de l’étude. Ce faisant, les algorithmes ont fait preuve d'une créativité surprenante : « Par exemple, l'algorithme a trouvé un nouveau modèle de plasticité dans lequel les signaux que nous avions définis sont combinés pour former un nouveau signal. En fait, nous observons que les réseaux utilisant ce nouveau signal apprennent plus rapidement qu'avec les précédentes règles », souligne le Dr Maximilian Schmidt du RIKEN Center for Brain Science à Tokyo et le second coauteur. Les résultats ont été publiés dans la revue eLife.

« Nous considérons l'E2L comme une approche prometteuse pour mieux comprendre les principes de l'apprentissage biologique et accélérer les progrès vers des machines puissantes », déclare Mihai Petrovici. « Nous espérons que cela fera avancer la recherche sur la plasticité synaptique du système nerveux », ajoute Jakob Jordan. Les nouvelles connaissances acquises permettent de mieux comprendre le fonctionnement des cerveaux sains et malades. Ils pourraient également ouvrir la voie au développement de machines intelligentes capables de mieux s'adapter aux besoins de leurs utilisateurs.

Ce travail a été soutenu par l'Union européenne (Human Brain Project) et la Fondation Manfred Stärk. Le Gauss Center for Supercomputing e.V. a cofinancé ce projet en fournissant du temps de calcul par l'intermédiaire du John von Neumann Institute for Computing (NIC) sur le supercalculateur JUWELS du GCS au Jülich Supercomputing Center (JSC). Les ressources de Fenix Infrastructure ont été utilisées et partiellement financées par le programme de recherche et d'innovation Horizon 2020 de l'Union européenne dans le cadre du projet ICEI. Toutes les simulations de réseau ont été réalisées à l'aide de NEST.

Détails de la publication :

Jakob Jordan, Maximilian Schmidt, Walter Senn und Mihai A. Petrovici: Evolving interpretable plasticity for spiking networks, eLife, 28. Oktober 2021, doi: 10.7554/eLife.66273, https://elifesciences.org/articles/66273

La contribution bernoise au Human Brain Project

Le Human Brain Project (HBP) est le plus grand projet de recherche sur le cerveau en Europe et l'un des plus vastes projets de recherche jamais financé par l'Union européenne. À l'intersection des neurosciences et des technologies de l'information, le HBP explore le cerveau et ses maladies à l'aide de méthodes de pointe en informatique, en neuro-informatique et en intelligence artificielle, ce qui favorise l'innovation dans des domaines tels que la programmation informatique inspirée par le cerveau et la neurorobotique. La contribution à long terme du HBP est la création de EBRAINS, une plateforme commune permanente pour les neurosciences et l'informatique qui a la forme d'une infrastructure de recherche européenne qui restera en place au-delà de la période du projet (2023).

L'Institut de physiologie de l'Université de Berne est impliqué dans le HBP grâce aux groupes du Dr Mihai Petrovici et de son collaborateur, le Professeur Walter Senn. En 2020, ils ont reçu une subvention de 2,5 millions d'euros. Ces deux groupes de recherche développent des modèles théoriques des réseaux neuronaux qui relient le comportement, l'apprentissage et les processus et changements correspondants dans le cerveau. Ces théories reposent sur des concepts biophysiques et permettent de reconstruire les processus biologiques dans des puces informatiques dites "neuromorphiques", c’est-à-dire dont le fonctionnement est similaire à celui du cerveau lui-même.

Site web EBRAINS
Site web du groupe de Dr. Mihai Petrovici
Site web du groupe Prof. Walter Senn

 

10.11.2021