Portes dérobées
J’étudie comment des déclencheurs cachés et des politiques apprises peuvent amener les modèles à se comporter différemment en déploiement que lors des évaluations standards.
Sécurité de l’IA · Évaluation · Agents
Je fais de la recherche en IA et j’aide à la déployer dans le monde réel.
Je suis Léo Boisvert, chercheur et conseiller à Montréal. J’étudie les portes dérobées et la conscience de l’évaluation chez les modèles de langage, puis j’aide les organisations à transformer le potentiel de l’IA en systèmes utiles, fiables et adaptés à la pratique.
Travaux actuels
Comprendre les comportements cachés des systèmes d’IA
Conscience de l’évaluation
J’étudie si les modèles peuvent reconnaître qu’ils sont évalués et comment cette reconnaissance peut fausser les preuves utilisées pour juger leur sécurité et leurs capacités.
Parcours
Des agents utiles aux agents fiables
Chez ServiceNow Research, je travaille sur la sécurité et l’évaluation des modèles de langage. J’ai auparavant développé des bancs d’essai et des méthodes d’entraînement pour les agents web, notamment WorkArena++ et l’écosystème BrowserGym.
Mes travaux antérieurs touchent l’apprentissage par renforcement, l’optimisation combinatoire et la programmation par contraintes. Une même question les relie : comment savoir si un système se comportera bien lorsque les conditions changent?
Conseil et conférences
Intégrez une évaluation rigoureuse de l’IA à votre organisation.
Je donne des conférences, anime des formations pratiques et conseille les équipes qui travaillent avec des modèles de langage et des agents autonomes.
Voir les servicesMe joindre