Démystifier l’univers des algorithmes
C’est quoi un algorithme ? Par définition, un algorithme c’est :
Algorithme (n.m.) Ensemble de règles opératoires définies en vue d’obtenir un résultat déterminé ; suite de règles formelles.
Le mot a souvent tendance à rebuter et donner le ressenti de quelque chose d’à la fois technique quasi mystique, incontrôlable et pour certaines personnes, quelque chose de certainement très dangereux.
En tant que développeuse, j’entends ce mot dans pas mal de bouches, utilisé parfois à tord : « C’est la faute des algorithmes »
Une fois que le coupable est trouvé, difficile de ne pas le pointer du doigt… On peut presque qualifier ça de paresse intellectuelle. 🤷🏻♀️
Il ne faut certes pas tout mélanger et je sais que cela n’est pas rendu facile pour une partie de la population peu intéressée par les machines.
Je ne leur jette pas la pierre ; il faut éduquer les gens pour ne pas les laisser dans un certain flou.
Cela tombe bien car au fil des pages, tel un récit initiatique, Aurélie Jean nous emmène avec elle afin de découvrir son histoire en tant que scientifique et nous comprenons peu à peu comment son parcours professionnel s’est construit autour de ces algorithmes.
Frontière subtile entre le réel et le virtuel, un algorithme n’est rien d’autre qu’une série d’instruction logique et pourtant, sa réflexion vient se heurter à un rouage de la mécanique qui n’est autre que la personne qui écrit un algorithme.
Au cœur d’un dysfonctionnement majeur : les biais algorithmiques
La vision du monde est fondamentalement biaisée par celui ou celle qui l’envisage.
Un algorithme – bien qu’une suite d’opérations logiques – n’est pas un cas isolé : c’est avant tout une conceptualisation d’un problème à résoudre, structuré À l’aide d’un langage de programmation pour être comprise par la machine… Oui, mais ça c’est dans les faits !
Celui qui conçoit l’algorithme n’est autre qu’un être humain qui est tout sauf objectif, qui est tout sauf neutre ; c’est ainsi que la notion des biais algorithmiques s’introduit au coeur de l’opération.
Est-ce une fatalité ? Je ne pense pas.
Est-ce problématique ? Absolument !
Pour aller plus loin dans la notion de biais alrgorithmiques, un rapport réalisé par des chercheurs de Télécom ParisTech de l’Université Paris Nanterre, a été mise en ligne et il met en lumière toute la notion de neutralité :
« Par exemple, une étude a montré que les algorithmes de la société Northpoint, utilisés par la justice américaine pour prédire la récidive, pénalisent la population afro-américaine en surestimant le risque de récidive. Un risque, qu’au contraire, elle sous-estime pour les populations blanches »
Ce n’est malheureusement qu’un exemple parmi tant d’autres… Difficile de rester factuel quand nous sommes avant tout des êtres subjectifs représentant nos jugements, nos croyances et nos peurs…
Une des solutions semble être le fait de nourrir l’algorithme, le ré-échantillonner en lui apportant de nouvelles données par l’apprentissage mais les biais restent, a priori, presque inévitables.
En bref !
C’est un livre agréable et facile à lire sur un sujet passionnant bien vulgarisé. Je pense que c’est une véritable mise en bouche à la matière.
Néanmoins, je reste sur ma faim. J’attendais le moment propice à quelques analyses documentées par des recherches, j’attendais que le sujet du livre soit creusé plus en profondeur : hélas, ce n’est pas réellement le cas.
La fin du livre était extrêmement intéressante sur le futur de nos vies amoureuses et sexuelles, jusqu’où irons-nous dans le rapport humain/I.A ?
En bref, l’idée du livre se concentre essentiellement sur les biais algorithmiques mais reste une lecture appréciable comme introduction en la matière.
Acheter le livre sur Amazon : https://amzn.to/33IvwZV
D’autres liens pour aller plus loin sur les algorithmes :
- https://www.sciencesetavenir.fr/high-tech/intelligence-artificielle/les-algorithmes-sont-partout-leurs-biais-nous-trompent_131820
- https://www.institutmontaigne.org/ressources/pdfs/publications/algorithmes-controle-des-biais-svp.pdf
- https://www.telecom-paris.fr/algorithmes-biais-discrimination-et-equite
