IA frugale, la solution est-elle dans le logiciel ?

Peut-on rendre l'intelligence artificielle plus sobre sans sacrifier sa performance ?
Julien Velcin, professeur d'informatique à Centrale Lyon (LIRIS), spécialiste de l'IA et du machine learning, est l'invité de ce deuxième épisode de la saison 2 de PRISME, consacrée à l'IA frugale. Après le matériel dans le premier épisode, place au logiciel.
Il revient d'abord sur les bases, ce qu'est un grand modèle de langage et ce qui se passe vraiment quand on pose une question à une IA générative. Il présente ensuite les techniques qui permettent déjà de réduire la consommation énergétique des modèles, et explique pourquoi certains modèles plus petits rivalisent aujourd'hui avec des modèles bien plus complexes. Il aborde aussi les limites de ces approches, la question des biais, la transparence des modèles et la dépendance à quelques grands acteurs, avant de livrer sa position sur les discours qui annoncent le pire pour l'intelligence artificielle.