Pionniers de l'apprentissage automatique actif

Pour Andreas Krause, l'intelligence artificielle et l'apprentissage automatique comptent parmi les questions les plus passionnantes de notre époque. L'éventail des approches qu'il a développées et marquées de son empreinte s'étend des fondements théoriques et mathématiques aux questions pratiques concernant l'interaction entre les personnes et les systèmes d'apprentissage.

"Les êtres humains sont capables d'apprendre à résoudre des t?ches même complexes de manière très efficace", explique Andreas Krause, qui travaille comme professeur d'informatique à l'ETH Zurich. "J'aimerais comprendre comment on peut apprendre aux machines à apprendre de manière aussi efficace", dit-il, faisant partie des principaux chercheurs européens dans le domaine de l'apprentissage automatique, qui se développe rapidement.

Il a eu son premier contact avec le thème de l'apprentissage automatique lors de sa thèse de fin d'études, qu'il a terminée en 2004 à l'Université technique de Munich. Afin d'approfondir les bases, il s'est ensuite rendu à Pittsburgh et a rédigé sa thèse de doctorat à l'université Carnegie Mellon sur les questions d'extraction optimale d'informations. Après avoir obtenu son doctorat en 2008, il est devenu professeur assistant au Caltech de Pasadena en 2009, avant de rejoindre l'ETH Zurich en 2011. Depuis, il a également assumé des fonctions de direction au Swiss Data Science Center, à l'ETH AI Center et à l'initiative européenne pour les systèmes d'apprentissage, ELLIS.

Le prix R?ssler 2021, qu'il a re?u mercredi lors de l'événement Thanks Giving de l'ETH Foundation, récompense ses réalisations pionnières. "Andreas Krause est un excellent chercheur, un enseignant engagé et, en tant que jeune scientifique, il a déjà obtenu plusieurs mérites dans l'une des technologies les plus marquantes du 21e siècle", a salué le président de l'ETH Jo?l Mesot dans son éloge.

La fascination des personnes en formation

Andreas Krause est particulièrement intéressé par les questions relatives à l'obtention optimale d'informations, qui nécessitent un apprentissage efficace, actif et renfor?ant. La gestion de l'incertitude, lorsque toutes les informations ne sont pas encore disponibles ou qu'il existe de nombreuses solutions alternatives, est ici centrale.

Dans l'apprentissage automatique "passif" classique, un processus d'apprentissage est entra?né à l'aide de grands ensembles de données afin de déduire certains modèles à partir de données annotées par des experts - par exemple, il est possible de trouver une règle de classification qui reconna?t sur des photos si celles-ci montrent des piétons ou des panneaux de signalisation. Contrairement aux méthodes d'apprentissage passives, les méthodes d'apprentissage "actives" décident elles-mêmes des données dont elles ont besoin pour accomplir efficacement la t?che demandée. Par exemple, ils choisissent parmi un ensemble de données d'images celles qui seront légendées par des experts et qui sont utiles à la progression de l'apprentissage - ce qui peut entre autres permettre d'économiser du temps et de l'argent et de réduire les erreurs. D'autres procédés actifs proposent des expériences dont l'issue promet un gain d'informations.

On appelle aussi ces programmes informatiques des agents en formation. "Je suis fasciné par les processus d'apprentissage actif, dans lesquels un agent en formation décide de lui-même quelles données lui sont utiles pour prendre de bonnes décisions", explique Andreas Krause.

De telles questions se posent par exemple dans le domaine de la robotique. Krause l'illustre à l'aide d'un drone qui apprend de manière autonome, par l'expérimentation, à résoudre certaines t?ches. La difficulté réside dans le fait qu'au début, il n'est pas possible de dire exactement ce qui pourrait entra?ner des crashs et ce qui ne le pourrait pas. Au début, le drone doit se comporter avec prudence, et plus il aura acquis et analysé de données, plus il sera en mesure de fournir de meilleures performances sans se mettre en danger ou mettre les autres en danger.

Le dilemme entre anciennes et nouvelles données

La collecte autonome d'informations n'est toutefois pas tout à fait triviale : pour accomplir sa t?che de manière optimale, l'agent en formation doit trouver un bon équilibre entre les données dont il dispose déjà et celles qu'il doit acquérir en plus.

La recherche parle dans ce contexte du "dilemme exploration-exploitation" : en effet, si l'agent en formation décide de manière autonome des expériences qu'il va mener pour obtenir des données supplémentaires, ses décisions influencent également les données dont il dispose ou non lors de l'apprentissage.

L'une des réalisations pionnières d'Andreas Krause est d'avoir développé le premier procédé d'apprentissage mathématique pour lequel on peut prouver, en partant de certaines hypothèses, qu'il résout efficacement le "dilemme exploration-exploitation", même dans des applications complexes. En termes mathématiques, il s'agit d'une variante de l'optimisation bayésienne, qui est également à la base de l'apprentissage des drones qui ne doivent pas s'écraser, et qui permet, sous certaines conditions, d'obtenir certaines garanties formelles de sécurité.

Un chercheur et un enseignant pionnier, corps et ?me

En fait, la recherche d'Andreas Krause est très marquée par les mathématiques : pour que les méthodes d'apprentissage actif, par exemple, obtiennent des données utiles de la manière la plus efficace possible, il faut des fonctions "submodulaires" très spécifiques. Aujourd'hui, Andreas Krause est considéré comme le pionnier qui a introduit l'optimisation sous-modulaire dans l'apprentissage automatique. Les conclusions d'une publication très influente d'Andreas Krause, publiée à l'époque aux ?tats-Unis, ont même trouvé une application pratique dans les réseaux de distribution d'eau : Il s'agissait de savoir où placer au mieux les capteurs pour que la qualité de l'eau puisse être mesurée de manière optimale.

Andreas Krause n'est pas seulement un penseur perspicace lorsqu'il s'agit des bases mathématiques de l'apprentissage automatique, mais aussi quelqu'un qui réfléchit aux conséquences possibles de ces technologies sur l'économie et la société. Il tient à ce que les algorithmes ou les règles de calcul qui sous-tendent les processus d'apprentissage soient fiables, explicables et compréhensibles, mais aussi à ce que les résultats, les décisions ou les recommandations soient équitables et dignes de confiance pour les personnes qu'ils concernent, selon le cas.

C'est avec cette conviction qu'Andreas Krause se consacre à la formation. Il a à c?ur de transmettre aux futurs experts en IA à la fois des bases solides en mathématiques et en informatique et le sens de la responsabilité dans l'utilisation de ces technologies. En témoignent la "Chouette d'or" que les étudiants de l'ETH lui ont décernée en 2012 pour son enseignement, ainsi que le millier d'étudiants qui suivent son cours "Introduction to Machine Learning". Il a également joué un r?le moteur dans la mise en place du programme master Data Science et du DAS Data Science, et au sein de l'ETH AI Center, il veille à ce que les aspects entrepreneuriaux soient davantage intégrés dans la formation, afin que davantage de spin-offs transmettent dans la pratique les compétences acquises en IA.