Un algorithme, c’est quelqu’un

Je souhaite revenir brièvement sur l’algorithme. Que ce soit la « blockchain », les recherches sur Google, la voiture électrique ou l’animation de Facebook, l’algorithme est la structure active derrière qui permet le prodige apparent : ça marche tout seul. L’image présentée aux publics par les GAFA et Tesla de ce monde c’est que l’algorithme est infaillible en raison de sa capacité à apprendre et de sa nature mathématique et neutre

Boulechite.

« Algorithms are, in part, our opinions embedded in code. They reflect human biases and prejudices that lead to machine learning mistakes and misinterpretations. » Cette citation tirée d’un article du Harvard Business Review résume un contexte qui mérite d’être plus largement exploré.

Un algorithme est une construction langagière conçue par un être humain. Comme pour toute construction humaine, les lignes de faille viennent avec l’objet.

D’abord l’algorithme est un langage:

 

JavaScript :

<script>

var x, y, z; // Declare 3 variables

x = 5;       // Assign the value 5 to x

y = 6;       // Assign the value 6 to y

z = x + y;   // Assign the sum of x and y to z

 

C+:

long double x, y;     printf(« Calcul de moyenne\n« );   /* Affiche le titre. */     printf(« Entrez le premier nombre : « );     scanf(« %Lf », &x);           /* Entre le premier nombre. */

 

Dans son étude sur le « Google Art Project, Alanna Bayer souligne à propos de l’algorithme une réalité essentielle  (1) : « Algorithms are a form of text, and are therefore inherently political, although they may masquerade as neutral… algorithms “are like an invisible architecture that underpins almost everything that’s happening.” Filters hierarchize and sort results based on data structures determined by the website engineers.»

 Le langage est manipulable et le résultat aussi. Google et Facebook l’ont maintenant démontré à répétition.

L’être humain est la deuxième composante de la mise en place d’un algorithme et j’exclus ici toute intention préalable de manipuler les résultats éventuels pour des motifs politiques ou économiques. Examinons simplement le cas du programmeur comme personne. Par exemple il s’appelle Matt Rodgers (nom fictif bien sûr), il travaille dans la Silicon Valley pour une grosse corporation des TI, gagne dans les 6 chiffres, a une femme, deux enfants, un cottage et un chien. Matt Rodgers, comme beaucoup de monde dans la Silicon Valley est libertarien. L’économie doit être laissée à elle-même. Mais il peut être de gauche, végétarien et avec une grande conscience sociale si vous préférez. D’une manière ou de l’autre Matt Rodgers a une personnalité. Il a un style aussi, une manière bien à lui d’organiser la syntaxe d’un code. Dans une équipe de programmeurs, chacun peut savoir qui a codé quoi simplement en regardant la manière dont le code est fait.

Lorsqu’il se met à son clavier pour écrire le code, Matt a reçu des instructions, qu’il a comprises et interprétées. Mais voilà, pour 100% des individus il y a toujours un décalage entre ce qui est dit et ce qui est compris. D’un bout de la même chaine à l’autre, en passant par les intervenants, le décalage s’amplifie. Il s’amplifie encore davantage lorsque Matt commence à écrire le code à sa manière à lui et avec ses perceptions à lui, dans un moment de la journée où les expériences vécues depuis son lever du matin l’influencent autant sinon davantage que les instructions reçues. Matt n’est pas une équation mathématique. Matt est un être humain, d’une certaine manière il est un processus, complexe et en constante évolution.

Pour donner une idée ce qui se passe à chaque seconde dans la tête de Matt prêtons attention un moment à Tony Sampson qui écrit dans « Contagion Theory Beyond The Microbe » (2): To fully grasp how the neurological unconscious might work, we need to firstly registerDamasio’s contra-­Kantian (and Cartesian) argument that our reasoning and decision-­making processes are not as purely cognitive as we may think they are. In fact, Damasio’s somatic marker hypothesis persuasively argues that « emotions and feelings may not be intruders in the bastion of reason at all;; they may be enmeshed in its networks. »

 Bref Matt code.

Maintenant, si nous considérons l’hypothèse d’une voiture électrique totalement autonome et sa capacité à faire des choix, ultrarapides, en cas de risque d’accident. Qui a programmé les algorithmes qui permettent à la voiture de faire ces choix dont les conséquences peuvent être mortelles ? Un super comité des plus grands éthiciens de la planète réunis ensemble pour que la programmation soit écrite en reflétant fidèlement leur réflexion profonde sur la valeur éthique des choix à faire ? Un groupe d’éminents médecins spécialisés dans les blessures et les soins d’urgence liés aux accidents de la route ? Un cénacle des avocats les plus aux faits sur la planète des tenants et aboutissants légaux qui entourent la conduite d’une voiture et les risques d’accident ?

Non, rien de tout ça, celui qui a programmé c’est Matt. En prenant son troisième café de la journée.

Est-ce que j’aurais envie de confier ma vie aux bons soins de Matt Rodgers en montant dans une voiture électrique ? Non. Je n’aurais pas envie non plus de lui confier mon vote dans l’isoloir. Même pas de le laisser décider sur Facebook des œuvres d’art que je suis censé avoir envie de voir. Tu est gentil Matt. Mais ôte-toi de ma vie.

 

(1) Mann, Gideon, O’Neil, Cathy. « Hiring Algorithms Are Not Neutral », Harvard Business Review, December 09, 2016 https://hbr.org/2016/12/hiring-algorithms-are-not-neutral

(2) Bayer, Alanna, « Evangelizing the ‘Gallery of the Future’: a Critical Analysis of the Google Art Project Narrative and its Political, Cultural and Technological Stakes », The University of Western Ontario, 2014

(3) Sampson, Tony D. Contagion Theory Beyond the Microbe THEORY BEYOND THE CODES, Special Issue : In the Name of Security

 

#INF6107 #Algorithmes #Démocratie #Culture #JPThomin #ÉditionSacrilège

Répondre

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l'aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s