45 rue des Saints Pères
75006 Paris
Laurent Daudet, Directeur de la technologie et co-fondateur and de LightOn, professeur de physique de Université Paris Cité.
La conférence est hybride. Elle peut être suivie sur place aussi bien que via Zoom.
Pour obtenir le lien Zoom, merci d’envoyer un e-mail à diip@math-info.univ-paris5.fr
Abstract
GPT-3, le modèle de langage d’OpenAi, a engendré une nouvelle génération de modèles de Machine Learning. Tirant parti des architectures du Transformeur, qui comprennent des milliards de paramètres possibles, sur des immenses bases de données non-marquées, ces modèles linguistiques peuvent intégrer de nouvelles fonctionnalités, telles que la génération automatique de textes, les systèmes de questions-réponses, ou encore l’apprentissage à partir de zéro – des tâches pour lesquelles le modèle n’a pas été formellement formé. Cependant, la formation de ces modèles représente des tâches informatiques massives, désormais effectuées sur des supercalculateurs dédiés. La mise à l’échelle de ces modèles nécessitera du nouveau matériel et des algorithmes de formation optimisés.
Lire plus
Chez LightOn – une retombée de la recherche universitaire -, nous développons un ensemble de technologies pour relever ces défis. La technologie Optical Processing Unit (OPU) permet de réaliser des multiplications vectorielles matricielles de manière massivement parallèle, avec une consommation d’énergie record. Désormais accessible sur site ou via le cloud, la technologie OPU a été utilisée par des ingénieurs et des chercheurs du monde entier dans une variété d’applications, pour l’apprentissage automatique et l’informatique scientifique. Nous formons également de manière efficace des modèles de langue de grande taille, comme PAGnol (démonstration à https://pagnol.lighton.ai), le plus grand modèle de langue en français, qui peut être utilisé pour diverses applications de recherche et d’affaires.
Biographie
Laurent Daudet est actuellement employé comme Directeur de la Technologie chez LightOn, une start-up qu’il a cofondée en 2016, où il gère des projets de recherche et développement interdisciplinaires impliquant le Machine Learning, l’optique, le traitement du signal, l’électronique et le génie logiciel. Spécialiste reconnu du traitement des signaux et de la physique des vagues, Laurent est actuellement en congé de son poste de professeur de physique à Université Paris Cité.
Lire plus
Auparavant, aussi bien qu’en parallèle, il a occupé diverses fonctions académiques : Fellow de l’Institut Universitaire de France, professeur associé à l’Université Pierre et Marie Curie, Maître de conférences invité à l’Université Queen Mary de Londres, Royaume-Uni, professeur invité à l’Institut national d’informatique de Tokyo, Japon. Laurent est auteur et coauteur de plus de 200 publications scientifiques, a été consultant auprès de diverses petites et grandes entreprises et est l’un des co-inventeurs de plusieurs brevets. Il est diplômé en physique de l’École Normale Supérieure de Paris et titulaire d’un doctorat en mathématiques appliquées de l’Université de Marseille.
Comment suivre cette conférence
Les participants sont invités à suivre le séminaire en ligne ou en personne à l’adresse ci-dessous. Ils sont priés de se présenter avec une pièce d’identité.
Salle du Conseil, Espace Turing
7ème étage (à droite en sortant des ascenseurs et à gauche au bout du couloir)
45 rue des Saints Pères
75006 Paris