Descriptif du poste:\n\nLe poste est basé à Brest, au sein de l'équipe BRAIN (BRoader Artificial INtelligence) du Lab-STICC (UMR CNRS 6285). L'équipe travaille sur les fondements de l'apprentissage automatique (représentations, apprentissage frugal, modèles de fondation, traitement du signal) et sur leurs applications, en particulier en santé. Elle a récemment développé REVE, un modèle de fondation pour l'électroencéphalographie pré-entraîné sur plus de 25 000 sujets (NeurIPS 2025), et s'intéresse aux modèles de langage à diffusion discrète et sur l'interprétabilité mécaniste.\nLe projet ENDIVE étudie ce que la diversité peut apporter à l'apprentissage automatique lorsque le budget porte sur le nombre d'exemples annotés plutôt que sur la puissance de calcul. Dans ce régime, ce qu'apporte un nouvel exemple ne dépend plus seulement de sa qualité propre, mais de ce qui le distingue de ceux déjà vus. Le point d'entrée technique du projet est l'échantillonnage à garanties de diversité, et en particulier les processus ponctuels déterminantaux (DPP), dont la matrice de noyau encode à la fois la pertinence des points et leur similarité.\n \nLe projet explore cette question sur deux plans complémentaires : la diversité des données, soit le choix des exemples que l'on annote, conserve ou présente au modèle ; et la diversité des représentations, soit le choix des descripteurs, des contextes et des modèles que l'on exploite ou\ncombine. Les premiers résultats portent sur le décodage diversifié des modèles de langue à diffusion discrète et sur la localisation de l'information dans les représentations des transformers.\nLe poste proposé porte sur le second plan, abordé par les outils de l'interprétabilité mécaniste. Page du\nprojet : https://bastienpasdeloup.github.io/endive/\nLes missions principales du poste sont les suivantes :\n* Définir et évaluer des critères de diversité dans l'espace des représentations des modèles de fondation, en s'appuyant sur les outils de l'interprétabilité mécaniste.\n* Étudier le lien entre la diversité des données d'entraînement et la diversité des mécanismes interne que les modèles acquièrent.\n* Contribuer à la production et à la diffusion scientifiques du projet \n \n\nProfil recherché:\n\nNiveau de formation et/ou expérience minimums requis :\n Doctorat obtenu moins de 3 ans avant la date d'embauche, en apprentissage automatique, informatique, traitement du signal ou mathématiques appliquées.\nCompétences, connaissances et expériences indispensables :\n Solide maîtrise de l'apprentissage profond et de ses fondements mathématiques.\n Pratique courante de Python et d'un cadre d'apprentissage profond, PyTorch de préférence.\n Expérience de travail sur des architectures de type transformer, et capacité à instrumenter leurs représentations internes.\n Autonomie dans la conduite d'expériences sur GPU, y compris sur une infrastructure de calcul partagée.\n Publications dans des conférences ou revues internationales du domaine, et très bon niveau d'anglais scientifique, écrit comme oral.\nCompétences, connaissances et expériences souhaitables :\n Connaissance de l'interprétabilité mécaniste : autoencodeurs parcimonieux, sondes linéaires, analyse de circuits.\n Familiarité avec les processus ponctuels déterminantaux, ou plus généralement avec les méthodes d'échantillonnage et l'algèbre linéaire aléatoire.\n Intérêt pour les modèles de langage à diffusion discrète.\n Expérience du calcul distribué multi-GPU et d'un ordonnanceur de type SLURM.\nCapacités et aptitudes :\n Autonomie scientifique et goût pour les questions ouvertes, le poste comportant une part exploratoire assumée.\n Rigueur expérimentale et attention portée à la reproductibilité.\n Goût du travail collectif : le poste est en interaction directe avec plusieurs doctorants du projet.\n Qualités rédactionnelles, et capacité à présenter des résultats à un public non spécialiste.\n \nINFORMATIONS COMPLÉMENTAIRES\n- La maîtrise du français n'est pas requise : l'anglais est la langue de travail de l'équipe dès qu'un de ses membres n'est pas francophone.\n- Les publications issues du projet sont déposées