Sasha Luccioni – Professeur invitée, École Normale Supérieure et Université Laval, titulaire de la Chaire OBVIA-Abeona en intelligence artificielle et justice sociale

Si une vidéo est présente au sein de cette publication, celle-ci ne sera lisible qu'après acceptation des cookies déposés par notre partenaire YouTube.

Je pense qu’il faut utiliser l’IA d’une manière qui correspond à nos valeurs.

Parce que souvent, je pense que les gens vont « compartimentaliser » d’une
manière qui est un peu abstraite, en disant, moi j’utilise l’IA pour mon boulot, dans
ma vie de tous les jours, et en fait, je suis très écolo, mais en fait c’est deux choses
différentes. Je pense qu’il faut faire ce pont-là, parce que c’est
là qu’on va se rendre compte à quel point les valeurs des entreprises
correspondent ou ne correspondent pas, et quelles entreprises aussi, et ça va nous
aider à choisir des outils qui sont plus cohérents avec notre conception du monde
et des valeurs qu’on a.

Votre histoire personnelle avec l’IA ?

Je viens d’une lignée de femmes scientifiques, donc je suis la quatrième génération de
femmes qui a reçu un doctorat dans ma famille. J’ai toujours travaillé entre les sciences
humaines et l’informatique. Et de plus en plus, je me suis intéressée à comment utiliser
l’IA comme levier positif dans la société. Et donc j’ai commencé à travailler il y a bien
huit ans en application d’IA dans la lutte contre les changements climatiques parce que
c’est un sujet, c’est quelque chose qui me passionne énormément et qui me concerne
énormément et donc je me suis dit que j’allais utiliser ce pouvoir, ces connaissances
pour faire du bien dans le monde.

Quel est selon vous le risque #1 lié à l’IA ?

Selon moi, en ce moment, on a vraiment deux trajectoires qui vont se heurter, celle de
l’IA qui est en train de faire une croissance fulgurante, et la pression climatique et
environnementale. Je pense que ce risque-là, c’est le plus grand, et on devrait vraiment
se focaliser sur l’estimation et la réduction de l’empreinte environnementale de l’IA.

Pourquoi mesurer précisément l’impact de notre usage ? Et quels sont les freins ?

En ce moment, l’IA est quasiment immatérielle. Je pense que quand les gens utilisent
l’IA, que ce soit sur leur téléphone ou sur leur ordinateur, ils pensent qu’il n’y a pas
d’impact parce que c’est le nuage et c’est numérique et tout ce qui est un peu
intangible, on a du mal à voir comment ça impacte concrètement le monde matériel.
Mais il y a des impacts, ils sont juste loin de nous. Les data centers, toute
l’infrastructure de l’IA est très loin, mais elle a un impact de plus en plus grand. Donc, il
faut mesurer cet impact et le communiquer aux usagers parce que sinon, loin des yeux,
loin du cœur, on ne le voit pas et on ne peut pas réduire nos impacts.

Malheureusement, il n’y a pas vraiment d’incitatif à
communiquer les coûts environnementaux de l’IA par les compagnies. Il y a un genre de
secret industriel, il y a une pression géopolitique à un moment donné.

Le plus d’informations qu’on donne, ça peut nuire à notre modèle
d’affaires, ça peut nuire aux profits qu’on fait. Et donc, en fait, il n’y a pas detransparence malgré une volonté sociale, je pense que de plus en plus de gens qui
utilisent l’IA ont envie d’avoir ces informations-là. Mais malheureusement il y a un genre
de décalage entre les informations qui sont fournies par les développeurs et les
compagnies qui utilisent l’IA, et les utilisateurs. Donc je pense qu’en ce moment il faut
poser plus de questions, il faut un peu faire pression pour que ces compagnies-là soient
plus transparentes et pour qu’on puisse utiliser ces informations-là à prendre des
décisions plus informées, plus éclairées.

L’IA aggrave-t-elle les inégalités de façon générale ?

La manière dont on pratique l’IA et on utilise l’IA est
inéquitable de base, en fait. Entre les gens qui créent ces modèles-là, souvent ce sont
des gens d’Amérique du Nord ou d’Europe, souvent des hommes, des hommes blancs.

Les compagnies sont très concentrées aussi, il y a très peu de
compagnies qui participent à cette grande révolution d’IA, de à partir des ordinateurs
jusqu’aux modèles, et il y a vraiment une concentration de pouvoir et de capital. Et en
fait, ça a des conséquences sur la manière dont les modèles sont conçus, sur la
manière dont l’argent est réparti, sur l’utilisation même de l’IA. Donc concrètement, si
on crée des modèles qui utilisent des données biaisées, ils vont continuer à répandre,
par exemple, des photos d’hommes blancs PDG dans les campagnes publicitaires qui
sont générées avec l’IA, et ça va continuer à amplifier les stéréotypes. Et en fait il faut diversifier à tous les niveaux l’IA entre les gens qui créent l’IA, les
gens qui utilisent l’IA, les données qu’on utilise et aussi les compagnies, les startups,
etc. Il faut qu’il y ait plus de diversité et moins de concentration. Je pense que ça va avoir
des impacts bénéfiques très larges.

Les entreprises : réceptives à la question de l’usage responsable de l’IA ? Des cas d’usage
positifs ?

Il faut que les entreprises fassent de la pression face aux fournisseurs de l’IA parce qu’en tant qu’usagers, on est des milliards

mais les entreprises qui ont des employés,qui ont des contrats avec des entreprises technologiques, je pense qu’elles peuvent
commencer à poser ces questions-là. Et en fait il y a une responsabilité de ces
entreprises-là à quantifier leur impact carbone, leur impact environnemental, donc il
faut refléter l’apport de l’IA à ce bilan-là, et pour cela ils ont besoin de la coopération
des développeurs des modèles. Donc en fait il faut vraiment boucler la boucle,
demander des chiffres concrets et refléter ces chiffres-là, parce que sinon, il n’y a
personne qui va refléter le coût environnemental de l’IA. Les usagers n’ont pas les
chiffres, les entreprises n’ont pas les chiffres. Et pour les compagnies technologiques,
souvent, ce n’est pas reflété parce que c’est en dehors de leur portée et donc ça tombe
dans les failles et puis on ne le reflète pas.

J’ai commencé ma carrière en IA et climat en travaillant sur les cas d’usages positifs, les
manières dont l’IA peut être utilisée pour prévoir la météo, pour créer des nouvelles
générations de batteries par exemple. Et ça continue à être un champ de recherche très
commun, très populaire. Mais en fait, ce ne sont pas les mêmes modèles qu’on utilise
nous en tant qu’usagers. Ce ne sont pas des chats GPT. Ce sont souvent des modèles
qui sont très petits, qui tournent en local, qui utilisent des jeux de données très
spécifiques. Et en fait, il y a beaucoup de gens qui font énormément de bien. Donc par
exemple, en termes de création de nouvelles batteries, on sait que les batteries qu’on a
aujourd’hui au lithium ne sont pas idéales, pas parfaites, et on va avoir besoin de plus
en plus de batteries, justement pour décarboniser nos sociétés en termes de voitures,
en termes de je sais pas d’électricité, etc. onc on aura besoin de batteries. L’IA peut
contribuer à générer différentes combinaisons de molécules après ça qu’on peut
synthétiser et tester et en fait comme l’IA peut utiliser différentes sources de données,
ça peut vraiment explorer des nouvelles combinaisons de molécules qu’on n’a pas
encore testé. Il y a déjà des brevets qui se créent à partir de cela et éventuellement des
nouvelles générations de batteries avec des éléments qu’on n’a jamais utilisés avant,
qui peuvent nous aider à aussi créer des batteries qui sont moins nocives pour
l’environnement, qui tiennent la charge plus longtemps et qui sont “designées” à la base
par une IA.

Un positive word pour conclure ?

Je pense que c’est très important de savoir qu’on a toujours le choix, qu’on a toujours
notre mot à dire. Il ne faut jamais être fataliste face à l’IA, il ne faut jamais dire « c’est
trop tard, maintenant l’IA c’est partout, on n’a pas le choix de l’utiliser ou pas, on vaperdre notre emploi à cause de ça. Il faut toujours être se (suppr) rester critique, rester
conscient et de se dire qu’on a chacun un rôle à jouer dans la manière dont l’IA va
continuer à évoluer et puis ça ne va jamais être forcé sur nous mais on va tous en faire
partie.