Soutenance de thèse de IMBERT Bastien
Titre de thèse
Entraînement des systèmes électroniques à l'intelligence artificielle sur puce : Exploitation et prise en compte des comportements des dispositifs synaptiques
Training electronic systems to perform Artificial Intelligence using the physics of their components
Résumé de la thèse
Le déploiement de l'intelligence artificielle au plus près des capteurs (appelé Edge AI) se heurte à une contrainte fondamentale : la consommation énergétique exorbitante des architectures d'apprentissage classiques, incompatible avec les ressources limitées des systèmes embarqués autonomes. Une solution permettant de réduire cette consommation est le calcul en mémoire (IMC), mais celui-ci reste pour l'instant un véritable défi pour l'apprentissage. Cette thèse s'attaque à ce verrou en proposant un outil de simulation permettant une co-optimisation inédite entre un algorithme d'apprentissage adapté — l'algorithme Forward-Forward — et le comportement physique des mémoires résistives de type OxRAM, dans la perspective d'un apprentissage supervisé entièrement réalisé sur puce, à très faible consommation énergétique.
Celle-ci se repose sur une réponse d'ordre méthodologique. L'approche Simexp — qui exploite directement des mesures pré-enregistrées sur matrices de dispositifs réels pour simuler l'apprentissage — constitue une voie intermédiaire pragmatique entre la simulation hardware-aware et le hardware-in-the-loop. Elle a permis d'explorer efficacement l'espace des conditionnements d'OxRAMs et des hyperparamètres d'apprentissage de cette co-optimisation. En complément, une analyse détaillée des flux de données et des opérations pour un accélérateur IMC complet pose les bases architecturales d'un système d'apprentissage embarqué frugal.
Dans cette étude, les mémoires OxRAMs à base d'oxyde d'hafnium (ce{HfO2}, technologie MAD du CEA-Leti) sont utilisées comme dispositifs synaptiques. L'étude comparative des régimes de Set et de Reset progressifs révèle que le Reset progressif à faible tension offre une évolution quasi-linéaire et contrôlable de la conductance sous l'effet d'impulsions successives, une propriété essentielle pour encoder des poids synaptiques analogiques. L'analyse de différents conditionnements a permis d'identifier un protocole d'initialisation des dispositifs mémoires offrant un bon compromis entre linéarité, stabilité et vitesse de convergence lors de l'apprentissage. Une stratégie de mise à jour par Reset aveugle à impulsion unique est alors proposée, celle-ci réduit le coût de programmation par rapport aux approches classiques telles que le Set unique ou les schémas de type Write-Verify, sans pour autant empêcher l'apprentissage.
L'espace des hyperparamètres considérés correspond à ceux présents dans une adaptation de l'algorithme Forward-Forward (Hinton, 2022) proposant un calcul local pour la mise à jour de poids synaptiques (contrairement à l'approche classiquement utilisée : la Backpropagation, nécessitant la propagation de l'erreur à travers tout le réseau), ce qui est naturellement compatible avec le calcul en mémoire non-volatile. Sans modification, l'injection des comportements réels (bruit de programmation, variabilité inter-dispositifs, non-linéarités) entraîne une chute de précision supérieure à 20 points pour la tâche de classification d'arythmies ECG. Deux adaptations ont été proposées pour permettre de restaurer une convergence robuste : un apprentissage couche par couche, qui fige chaque couche avant de passer à la suivante, et un seuil de mise à jour sélective, qui filtre les corrections trop faibles susceptibles d'amplifier le bruit de mise à jour. Combinées, ces modifications permettent d'atteindre une précision satisfaisante sur la tâche ECG malgré les imperfections physiques des dispositifs.
Ces travaux démontrent la faisabilité d'un apprentissage supervisé sur puce avec des mémoires résistives imparfaites, ouvrant la voie à une nouvelle génération de systèmes d'IA autonomes, capables d'apprendre directement au contact des données, sans recours à une infrastructure cloud.
Thesis resume
The deployment of artificial intelligence close to sensors (referred to as Edge AI) faces a fundamental constraint: the prohibitive energy consumption of classical learning architectures, which is incompatible with the limited resources of autonomous embedded systems. One way to reduce this power consumption is to use in-memory computing (IMC), but this remains a significant challenge for on-chip learning for now. This thesis tackles this bottleneck by proposing a simulation tool enabling an unprecedented co-optimisation of an adapted learning algorithm – the Forward-Forward algorithm – and the physical behavior of OxRAM resistive memories, with a view to fully on-chip supervised learning at very low energy consumption.
The thesis relies on a methodological response. The Simexp approach – which directly exploits pre-recorded measurements from arrays of real devices to simulate learning – constitutes a pragmatic intermediate path between hardware-aware simulation and hardware-in-the-loop. It has enabled efficient exploration of the space of OxRAM conditioning schemes and learning hyperparameters within this co-optimisation. In addition, a detailed analysis of data flows and operations for a complete IMC accelerator lays the architectural groundwork for a frugal and coherent embedded learning system.
In this study, hafnium oxide-based OxRAM memories (HfO₂, CEA-Leti MAD technology) are used as synaptic devices. A comparative study of progressive Set and Reset regimes reveals that low-voltage progressive Reset offers a near-linear and controllable evolution of conductance under the effect of successive pulses – a property essential for encoding analogue synaptic weights. Analysis of various conditioning schemes led to the identification of a memory device initialization protocol offering a good trade-off between linearity, stability, and convergence speed during learning. A blind single-pulse Reset update strategy is then proposed, which reduces programming cost compared to classical approaches such as single Set or Write-Verify schemes, without preventing learning from taking place.
The hyperparameter space under consideration corresponds to those present in an adaptation of the Forward-Forward algorithm (Hinton, 2022), which proposes local computation for synaptic weight updates (in contrast to the conventionally used approach of Backpropagation, which requires error propagation throughout the entire network) making it naturally compatible with non-volatile in-memory computing. Without modification, injecting real device behaviours (programming noise, inter-device variability, non-linearities) causes a drop in accuracy of more than 20 percentage points on the ECG arrhythmia classification task. Two adaptations have been proposed to restore robust convergence: layer-by-layer learning, which freezes each layer before moving on to the next, and a selective update threshold, which filters out corrections that are too small and might amplify update noise. Combined, these modifications enable satisfactory accuracy to be achieved on the ECG task despite the physical imperfections of the devices.
This work demonstrates the feasibility of on-chip supervised learning using imperfect resistive memories, paving the way for a new generation of autonomous AI systems capable of learning directly from data at the point of acquisition, without relying on cloud infrastructure.