Sasha Luccioni – Cofondatrice et directrice scientifique de Sustainable AI Groupe, Titulaire de la chaire Abeona/ENS/Obvia en « IA et justice sociale », professeure associée à l’Université McGill et à l’Université Laval

Si une vidéo est présente au sein de cette publication, celle-ci ne sera lisible qu'après acceptation des cookies déposés par notre partenaire YouTube.

Je pense qu’il faut utiliser l’IA d’une manière qui correspond à nos valeurs. Parce que souvent, je pense que les gens vont « compartimentaliser » d’une manière qui est un peu abstraite, en disant, moi j’utilise l’IA pour mon boulot, dans ma vie de tous les jours, et en fait, je suis très écolo, mais en fait c’est deux choses différentes. Je pense qu’il faut faire ce pont-là, parce que c’est là qu’on va se rendre compte à quel point les valeurs des entreprises correspondent ou ne correspondent pas, et quelles entreprises aussi, et ça va nous aider à choisir des outils qui sont plus cohérents avec notre conception du monde et des valeurs qu’on a. 

Votre histoire personnelle avec l’IA ?  

Je viens d’une lignée de femmes scientifiques, donc je suis la quatrième génération de femmes qui a reçu un doctorat dans ma famille. J’ai toujours travaillé entre les sciences humaines et l’informatique. Et de plus en plus, je me suis intéressée à comment utiliser l’IA comme levier positif dans la société. Et donc j’ai commencé à travailler il y a bien huit ans en application d’IA dans la lutte contre les changements climatiques parce que c’est un sujet, c’est quelque chose qui me passionne énormément et qui me concerne énormément et donc je me suis dit que j’allais utiliser ce pouvoir, ces connaissances pour faire du bien dans le monde. 

Quel est selon vous le risque #1 lié à l’IA ? 

Selon moi, en ce moment, on a vraiment deux trajectoires qui vont se heurter, celle de l’IA qui est en train de faire une croissance fulgurante, et la pression climatique et environnementale. Je pense que ce risque-là, c’est le plus grand, et on devrait vraiment se focaliser sur l’estimation et la réduction de l’empreinte environnementale de l’IA.  

Pourquoi mesurer précisément l’impact de notre usage ? Et quels sont les freins ? 

En ce moment, l’IA est quasiment immatérielle. Je pense que quand les gens utilisent l’IA, que ce soit sur leur téléphone ou sur leur ordinateur, ils pensent qu’il n’y a pas d’impact parce que c’est le nuage et c’est numérique et tout ce qui est un peu intangible, on a du mal à voir comment ça impacte concrètement le monde matériel. Mais il y a des impacts, ils sont juste loin de nous. Les data centers, toute l’infrastructure de l’IA est très loin, mais elle a un impact de plus en plus grand. Donc, il faut mesurer cet impact et le communiquer aux usagers parce que sinon, loin des yeux, loin du cœur, on ne le voit pas et on ne peut pas réduire nos impacts. 

Malheureusement, il n’y a pas vraiment d’incitatif à communiquer les coûts environnementaux de l’IA par les compagnies. Il y a un genre de secret industriel, il y a une pression géopolitique à un moment donné. Le plus d’informations qu’on donne, ça peut nuire à notre modèle d’affaires, ça peut nuire aux profits qu’on fait. Et donc, en fait, il n’y a pas de transparence malgré une volonté sociale, je pense que de plus en plus de gens qui utilisent l’IA ont envie d’avoir ces informations-là. Mais malheureusement il y a un genre de décalage entre les informations qui sont fournies par les développeurs et les compagnies qui utilisent l’IA, et les utilisateurs. Donc je pense qu’en ce moment il faut poser plus de questions, il faut un peu faire pression pour que ces compagnies-là soient plus transparentes et pour qu’on puisse utiliser ces informations-là à prendre des décisions plus informées, plus éclairées. 

L’IA aggrave-t-elle les inégalités de façon générale ? 

La manière dont on pratique l’IA et on utilise l’IA est inéquitable de base, en fait. Entre les gens qui créent ces modèles-là, souvent ce sont des gens d’Amérique du Nord ou d’Europe, souvent des hommes, des hommes blancs. Les compagnies sont très concentrées aussi, il y a très peu de compagnies qui participent à cette grande révolution d’IA, à partir des ordinateurs jusqu’aux modèles, et il y a vraiment une concentration de pouvoir et de capital. Et en fait, ça a des conséquences sur la manière dont les modèles sont conçus, sur la manière dont l’argent est réparti, sur l’utilisation même de l’IA. Donc concrètement, si on crée des modèles qui utilisent des données biaisées, ils vont continuer à répandre, par exemple, des photos d’hommes blancs PDG dans les campagnes publicitaires qui sont générées avec l’IA, et ça va continuer à amplifier les stéréotypes. Et en fait il faut diversifier à tous les niveaux l’IA entre les gens qui créent l’IA, les gens qui utilisent l’IA, les données qu’on utilise et aussi les compagnies, les startups, etc. Il faut qu’il y ait plus de diversité et moins de concentration. Je pense que ça va avoir des impacts bénéfiques très larges. 

Les entreprises : réceptives à la question de l’usage responsable de l’IA ? Des cas d’usage positifs ? 

Il faut que les entreprises fassent de la pression face aux fournisseurs de l’IA parce qu’en tant qu’usagers, on est des milliards, mais les entreprises qui ont des employés, qui ont des contrats avec des entreprises technologiques, je pense qu’elles peuvent commencer à poser ces questions-là. Et en fait il y a une responsabilité de ces entreprises-là à quantifier leur impact carbone, leur impact environnemental, donc il faut refléter l’apport de l’IA à ce bilan-là, et pour cela ils ont besoin de la coopération des développeurs des modèles. Donc en fait il faut vraiment boucler la boucle, demander des chiffres concrets et refléter ces chiffres-là, parce que sinon, il n’y a personne qui va refléter le coût environnemental de l’IA. Les usagers n’ont pas les chiffres, les entreprises n’ont pas les chiffres. Et pour les compagnies technologiques, souvent, ce n’est pas reflété parce que c’est en dehors de leur portée et donc ça tombe dans les failles et puis on ne le reflète pas. 

J’ai commencé ma carrière en IA et climat en travaillant sur les cas d’usages positifs, les manières dont l’IA peut être utilisée pour prévoir la météo, pour créer des nouvelles générations de batteries par exemple. Et ça continue à être un champ de recherche très commun, très populaire. Mais en fait, ce ne sont pas les mêmes modèles qu’on utilise nous en tant qu’usagers. Ce ne sont pas des chats GPT. Ce sont souvent des modèles qui sont très petits, qui tournent en local, qui utilisent des jeux de données très spécifiques. Et en fait, il y a beaucoup de gens qui font énormément de bien. Donc par exemple, en termes de création de nouvelles batteries, on sait que les batteries qu’on a aujourd’hui au lithium ne sont pas idéales, pas parfaites, et on va avoir besoin de plus en plus de batteries, justement pour décarboniser nos sociétés en termes de voitures, en termes d’électricité, etc. L’IA peut contribuer à générer différentes combinaisons de molécules après ça qu’on peut synthétiser et tester et en fait comme l’IA peut utiliser différentes sources de données, ça peut vraiment explorer des nouvelles combinaisons de molécules qu’on n’a pas encore testé. Il y a déjà des brevets qui se créent à partir de cela et éventuellement des nouvelles générations de batteries avec des éléments qu’on n’a jamais utilisés avant, qui peuvent nous aider à aussi créer des batteries qui sont moins nocives pour l’environnement, qui tiennent la charge plus longtemps et qui sont “designées” à la base par une IA. 

Un Positive word pour conclure ?  

Je pense que c’est très important de savoir qu’on a toujours le choix, qu’on a toujours notre mot à dire. Il ne faut jamais être fataliste face à l’IA, il ne faut jamais dire « c’est trop tard, maintenant l’IA c’est partout, on n’a pas le choix de l’utiliser ou pas, on va perdre notre emploi à cause de ça. Il faut toujours rester critique, rester conscient et de se dire qu’on a chacun un rôle à jouer dans la manière dont l’IA va continuer à évoluer et puis ça ne va jamais être forcé sur nous mais on va tous en faire partie.