Tribune d'Isabelle Mashola, CEO d'Isahit, parue en mars 2020
L’intelligence artificielle (IA) est plus que jamais au centre du jeu quand on parle d’innovation. Et le phénomène ne fait que s’accentuer : selon l’IDC, les dépenses mondiales pour les systèmes d’IA devraient atteindre 97,9 milliards de dollars en 2023 contre 37,5 milliards en 2019, avec un taux de croissance annuel de près de 30%. C’est une tendance de fond, une révolution silencieuse qui touche tous les secteurs. Si les transports et les télécommunications tirent leur épingle du jeu, le mapping réalisé par France digitale des 432 jeunes pousses de l’IA en France témoigne de cette vaste diversité d’applications : robotique, marketing, RH, adtech, fintech, agriculture, santé, big data, commerce… Même les domaines que l’on pensait exclusivement réservés à la créativité humaine comme l’écriture, la peinture ou la musique ne sont plus hors de portée de l’IA.
Schizophrénie
Cette apparente omnipotence suscite chez la plupart d’entre nous des réactions contrastées : les espoirs suscités par l’intelligence artificielle n’ont d’égal que les inquiétudes qu’elle engendre sur notre place, notre rôle et notre avenir en tant qu’humains. D’un côté la promesse de détection rapide de maladies, de la fin de la mortalité routière, de services optimisés, d’innovation démultipliées ; de l’autre la crainte de devenir obsolète, de perte de contrôle, d’une lointaine si ce n’est improbable singularité. Le tout, attisé par la science-fiction et quelques expériences douteuses qui trouvent écho dans la presse, à l’image de ces chercheurs américains qui ont développé un système de détection de l’orientation sexuelle à partir de simples photos de personnes. Il est temps de dépassionner le débat et de lever les préjugés.
Human after all
Car l’intelligence artificielle n’est pas et ne sera jamais autre chose qu’une technologie humaine. Ce n’est pas tant la technologie qui est en cause que la manière dont elle est conçue et utilisée. Nous avons pu le voir à de nombreuses reprises : l’IA a tendance à reproduire les préjugés humains, dissimulés dans les données qu’on lui fournit pour s’exercer. Ainsi :
membre du jury d’un concours de beauté, l’IA a éliminé en priorité les candidats noirs,
dans le cadre de la justice prédictive, le logiciel COMPAS qui évalue le risque de récidive a attribué un taux de risque plus de 2 fois supérieur aux afro-américains,
un algorithme censé établir des liens entre les mots a reproduit des stéréotypes en associant plus volontiers « femme » et « foyer », ou les hommes aux professions scientifiques.
Le plus souvent, cela n’est pas dû à une volonté malveillante des créateurs de ces IA mais à un jeu de données de mauvaise qualité, incomplet ou mal calibré. L’Institut Montaigne vient de sortir un rapport à ce sujet, « Algorithme : contrôle des biais S.V.P. ».
Miroir, mon beau miroir
L’IA nous renvoie donc une image de nous-mêmes et de ceux qui l’ont conçu. Or qui sont les travailleurs derrière l’IA aujourd’hui ? Il y a bien sûr les jeunes geeks de la Silicon Valley, mais aussi et surtout des millions de petites mains qui annotent des images afin de permettre à l’algorithme d’apprendre. À chaque clic, elles laissent un peu de leur identité, de leur culture, et parfois de leurs préjugés. Soyons clairs : l’intelligence artificielle de demain ne pourra pas être construite par un groupe d’hommes ingénieurs blancs. La diversité, ici plus qu’ailleurs, est la clé. Chez isahit, nous développons une communauté de femmes partout dans le monde pour contribuer à relever ces challenges. Ce n’est pas qu’une question d’éthique, mais aussi de précision et d’efficacité. Ainsi :
dans le cas de la reconnaissance faciale, une personne d’une certaine ethnie aura plus de facilité à reconnaître une autre personne de cette même ethnie,
dans le secteur alimentaire, un africain saura plus finement identifier les plats ou ingrédients spécifiques à la cuisine africaine,
idem pour ce qui est de l’analyse des déchets.
Cela peut sembler marginal, mais ce sont des clés fondamentales pour le développement d’une IA performante. Par la diversité de notre communauté, nous pouvons garantir à nos clients des données justes et valides, spécifiques et contextualisées.
Puissance d’émancipation
Plus loin, avoir recours à ces populations issues de pays en développement constitue un puissant levier d’émancipation économique et sociale pour ces dernières. La première à l’avoir senti était la regrettée Leila Janah, fondatrice de Samasource, partie trop tôt en janvier dernier à l’âge de 37 ans. Dès 2008, elle met en relation ces populations pauvres avec de grands groupes américains pour effectuer les tâches basiques mais non moins essentielles de saisie de données ou d’annotation d’images pour le développement de leurs IA. Résultat : plus de 50 000 personnes, principalement en Ouganda et au Kenya, ont pu toucher à la révolution numérique tout en accédant à un revenu décent. Un levier de développement bien plus important que les aides humanitaires. C’est cet héritage qu’isahit tente aujourd’hui de poursuivre avec sa communauté dynamique, diverse et formée de femmes entrepreneures. Avec notre identité propre : un fonctionnement en plateforme, un management horizontal et une plus grande diversité (26 pays, 3 continents). Et avec une exigence : qu’elles aient un projet personnel ou professionnel concret, afin qu’isahit ne soit pas une fin mais un tremplin vers d’autres activités et qu’elles puissent ainsi démultiplier l’impact positif de leur expérience au sein de leurs communautés.
IA de l’éthique
On le voit bien, l’éthique est un enjeu central pour l’IA. Cela peut être une chance pour la France et l’Europe de refaire une partie de leur retard dans ce secteur. Mais il n’y a plus de temps à perdre. Le rapport AI for Humanity, remis par Cédric Villani à Emmanuel Macron en 2018, trace la voie : « Si nous souhaitons faire émerger des technologies d’IA conformes à nos valeurs et normes sociales, il faut agir dès à présent en mobilisant la communauté scientifique, les pouvoirs publics, les industriels, les entrepreneurs et les organisations de la société civile. » Et de proposer plusieurs pistes de travail :
Ouvrir les boîtes noires, c’est-à-dire parvenir à décrypter comment une IA arrive à un résultat, chose que les chercheurs ont encore parfois du mal à comprendre et qui peut être source de discriminations et de biais.
Former chercheurs, ingénieurs et entrepreneurs aux enjeux éthiques tout en instaurant des études d’impact sur les risques de discrimination au cours du développement des IA, sur le modèle du RGPD sur le traitement des données.
Créer un comité d’éthique de l’IA pour éclairer les grands enjeux et émettre des recommandations, voire des standards.
Agir pour la mixité et la diversité pour que l’IA ne deviennent pas « une nouvelle machine à exclure ».
Aux actes !
L’Union européenne aussi, avec sa nouvelle Commission, semble avoir enfin pris la mesure de l’enjeu et de l’importance stratégique du développement d’une IA européenne, plus en phase avec nos intérêts et nos valeurs. Aux actes à présent ! Partout sur le continent, des startups avancent dans ce domaine et innovent. Isahit, forte de sa communauté, est déterminée à prendre toute sa part de cette belle et enthousiasmante aventure, à leurs côtés.