Proposition de sujet de Stage Master2
[TEMPO - Transformers pour l’analyse de Séries Temporelles]
Contexte scientifique
Le projet TEMPO s’intéresse à la caractérisation continue des états de systèmes dynamiques à partir de flux de données. Les équipes Automatique et Image-Vision du laboratoire PRISME partagent un intérêt pour les modèles temporels, appliqués notamment au diagnostic et au pronostic industriels et à l’analyse comportementale animale. Les Transformers permettent de modéliser des dépendances entre observations, mais leur coût d’attention, la gestion du contexte à long terme et les besoins en données annotées limitent leur application à des flux continus.
Problématique
Dans quelle mesure les architectures Transformers dotées de mécanismes de mémoire permettent-elles de caractériser de façon continue et cohérente l’état latent d’un système dynamique, avec un coût de calcul et de mémoire compatible avec le traitement de flux de données ?
