L’apprentissage auto-supervisé

Un modèle de Deep Learning fonctionne de manière similaire au cerveau humain, en utilisant divers signaux d’entrée (comme la vue, le toucher, l’ouïe, etc.) pour établir des connexions, apprendre de ses erreurs et agir en conséquence. 

L’objectif de développer un modèle de Deep Learning est d’automatiser une tâche spécifique, actuellement effectuée par des humains, avec des performances égales ou supérieures. Par exemple, dans la segmentation de bâtiments sur des images aériennes, un modèle constitué d’un réseau de neurones artificiels apprend à reconnaître les bâtiments grâce à l’expérience. 

Pendant l’entraînement, il analyse des milliers d’images, tente de prédire la localisation des bâtiments et corrige à l’aide d’annotations humaines. Une fois l’entraînement terminé, le modèle peut segmenter les bâtiments sur des images inédites et non annotées. 

Au début de l’entraînement, le modèle est dépourvu de connaissances et commet de nombreuses erreurs. Il nécessite du temps pour apprendre et devenir efficace. L’apprentissage supervisé est onéreux en raison de la nécessité de nombreuses annotations. Pour réduire ces coûts non négligeables, l’apprentissage auto-supervisé peut optimiser ce processus. 

Pour illustrer le concept de l’auto-supervision, nous allons transposer le processus d’apprentissage chez l’être humain. De nombreuses recherches ont démontré que les nouveau-nés, bien qu’incapables de parler ou de comprendre le langage, acquièrent dès les premiers mois de leur vie des connaissances générales sur leur environnement. 

Ils peuvent distinguer des formes ​[1]​, des couleurs et même des animaux [2] en se basant sur leurs caractéristiques intrinsèques (comme la couleur et la texture) sans avoir besoin d’une supervision explicite. Ces connaissances forment une base solide que l’enfant utilise ensuite pour diversifier et approfondir son savoir, comme expliqué dans l’article “Self-supervised learning through the eyes of a child” ​[3]​. 

De manière similaire, l’apprentissage de notre modèle peut être amélioré en le pré-entraînant avec des données non annotées. L’apprentissage auto-supervisé permet au système de se superviser lui-même en utilisant les informations contenues dans les données, sans nécessiter d’annotations humaines. 

Il existe plusieurs familles de méthodes auto-supervisées. Elles offrent chacune un moyen différent d’apprendre au modèle à reconnaître des caractéristiques clés dans les images : 

• Méthodes contrastives : le modèle apprend à associer des images similaires et à différencier les images différentes ; 
• Méthodes prédictives : les images sont modifiées automatiquement (par exemple, en les faisant tourner ou en les découpant comme des puzzles), et le modèle doit prédire ces modifications ; 
• Méthodes génératives : une partie des images est masquée automatiquement, et le modèle doit tenter de reconstruire la partie manquante. 

Au sein du service Innovation, un type de pré-entraînement auto-supervisé a été expérimenté sur des données à grande échelle, en utilisant la base de données BD ORTHO fournie par l’IGN. Elle couvre l’ensemble du territoire français avec une résolution de 20 cm/pixel, une immense source de données aériennes de haute qualité. 

À partir de celle-ci, nous avons constitué une base de données qui couvre les différentes régions et types d’environnements en France, avant la mise en place d’une méthode générative appelée « Masked Autoencoder » ​[4].  Cette méthode utilise les données d’images aériennes et permet au modèle d’apprendre à extraire les informations utiles (formes, couleurs, environnement). 

Aujourd’hui, l’apprentissage auto-supervisé occupe une place centrale dans le domaine de l’intelligence artificielle. Cette méthode de pré-entraînement se distingue par son approche écologique, car elle augmente la vitesse d’apprentissage des modèles pour des tâches spécifiques, réduit ainsi l’utilisation de machines énergivores et permet surtout une réduction des coûts d’annotation d’image.

Sans supervision humaine pendant le pré-entraînement, les modèles peuvent développer des connaissances non biaisées et générales. L’apprentissage auto-supervisé offre donc plusieurs avantages : 

• Il permet de se spécialiser sur une grande variété de tâches ; 
• Il réduit les biais souvent introduits par l’annotation humaine ; 
• Il économise les ressources matérielles. 

De nombreux chercheurs travaillent actuellement sur l’amélioration de ces méthodes, afin que l’apprentissage auto-supervisé remplace progressivement les techniques de pré-entraînement traditionnelles.

Aujourd’hui, certaines techniques font une préanalyse de l’image à reconstruire pour que le modèle ne se concentre que sur les parties les plus intéressantes de l’image ​[5]​​[6]​.