27 mai 2019

Au rythme des algorithmes : une histoire du futur

Il était une fois, le journalisme appartenait à un cercle privé d’hommes cultivés. Il obéissait à une règle d’or : la loi du mort au kilomètre. En ce temps-là, la médecine était soumise à l’épreuve de l’exactitude, les bévues humaines étaient fréquentes. La météo, quant à elle, peinait à être une science précise… C’était bien avant que algorithmes n’apparaissent dans nos vies.

Lignes de code, via Pixabay.

Le métier du journalisme était un privilège. Car, diffuser de l’information était l’apanage de ceux qui possédaient des canaux de diffusion (presse, télé, radio). Ce n’est plus le cas. L’univers informationnel excède désormais le seul champ de l’information de presse. L’internet s’est démocratisé. La création d’un compte sur les réseaux sociaux n’exigeant pas d’aptitude particulière, tout individu peut produire de l’information et la diffuser pour une audience presque incalculable d’avance. Les métiers de l’information sont menacés.

Je suis récemment tombé sur un article du journal américain The New York Times. Titre : “ The Rise of the Robot Reporter” (La montée des journalistes robots). Dans cet article, le média mettait en lumière les avancées technologiques opérées dans les rédactions américaines. Entre autres, un tiers du contenu publié par Bloomberg News aurait utilisé une forme de technologie automatisée. Leur système serait capable de disséquer un rapport financier. Et de là, rédiger un texte contenant les faits et les chiffres les plus pertinents dans un délai record, à n’importe quelle heure, sans jamais se plaindre de la lourdeur de la tâche.

Autre chose ? Il y a quelques mois, l’édition australienne du journal Guardian a aussi publié son premier article assisté par un robot. Pour ne pas être en marge, Forbes a récemment annoncé qu’il testait un outil appelé Bertie. L’outil fournira aux journalistes des brouillons et des modèles de reportage.

En fait, depuis que je me suis intéressé de plus près aux sciences des données, de quoi l’avenir sera fait a été l’une des réflexions. Bien sûr, tâcher de faire cet exercice, c’est se rendre aussi compte que les “fictions” influencent assez notre vision du monde à venir. Toutefois, la réalité n’en serait certainement pas loin.

Révolution

L’histoire de notre “révolution” est celle de l’intelligence naturelle, la nôtre, qui s’active à rendre l’intelligence artificielle plus sûre et plus performante qu’elle. Les transhumanistes ne jurent que par une vision futuriste et vraisemblablement hollywoodienne de l’humanité. Ils sont obnubilés par l’idée d’améliorer les conditions d’existence humaine, de nous assimiler à des êtres perfectionnés.

Nous faisons le chemin vers une humanité composés d’êtres androïdes.

Cette histoire, c’est celle de l’homme qui se plaît à l’idée de pouvoir (afin) perdre des compétences élémentaires pour en acquérir de plus complexes. Nous faisons le chemin vers une humanité composés d’êtres androïdes : des cyborg (organisme cybernétique) mi-hommes mi-robots.

>> A lire aussi : L’Afrique souffre de sa démographie : ma vérification des propos de Macron

En 2016, l’Américain Elon musk avait fondé une nouvelle entreprise, du nom de Neuralink. Objectif ? Concevoir les implants cérébraux du futur pour rendre l’humain plus intelligent. Hanté par ses craintes de voir un jour l’humain dominé par l’intelligence artificielle, l’entrepreneur veut donner à l’humain, la machinale capacité à stocker ses souvenirs sur un cloud, à écrire un email dans la tête, ou à consulter Wikipédia dans les pensées.

S’il est vrai que dit comme tel nous ressentons une sorte d’orgueil humain à nous montrer réfractaire à cette vision, il faut retenir que le changement ne sera pas brusque. Il sera si doux que nous le trouverons normal. Déjà, l’idée d’une prolongation des sens humains n’est pas nouvelle. Elle existe chez Henri Bergson, comme il le décrit dans Les deux sources de la morale et de la religion, en 1932. Selon ce dernier, l’homme serait une créature inachevée et la technique serait le prolongement de nos sens.

 Le Maître et l’esclave

Au début, le discours était que la techno-science nous rende “maître et possesseur de la nature” (Discours de la Méthode, René Descartes, 1637). La robotique incarne l’idée de travail, et les robots nous sont vendus comme des esclaves. Si le rapport de l’homme et la robotique est celui du maître et de l’esclave, alors la dialectique de Hegel comme décrite dans La Phénoménologie de l’esprit (1807) aura raison de nous.

Crédit : Andy Kelly, sur Unsplash.

Hegel disait, en substance, que le maître qui ne travaille pas, mais fait réaliser, “vit dans la jouissance de l’objet consommable”. ll ne connaît qu’un aspect: le passif. L’esclave, travaillant à transformer le monde humain, se transforme lui-même. Il revendique son autonomie au monde naturel. Le maître quant à lui, devient étranger à son monde, qu’il ne reconnaît plus. L’esclave s’appuyant sur le produit de son travail, peut donc renverser le rapport de domination.

Aux rythmes des algorithmes

Notre vie rime désormais avec algorithmes. Combien de choix nous faisons, sur internet et en dehors, ne sont pas influencés par des bouts de codes ? Combien ces algorithmes ne nous manipulent-ils pas dans les votes politiques ? Pour reprendre Dominique Cardon (dans son ouvrage A quoi rêvent les algorithmes ?), les algorithmes enferment les individus dans une bulle. Ils plient leur destin dans l’entonnoir du probable. Les algorithmes apprennent en comparant un profil à ceux des autres internautes qui ont effectué la même (ou presque) action que lui. De façon probabiliste, elle déduit qu’une personne pourrait faire telle ou telle chose parce que ceux qui le ressemblent, l’ont déjà faite.

Les algorithmes sont des opinions intégrés dans les codes : ils ne sont pas neutres.

La mathématicienne et data scientist américaine Catherine Helen O’Neil a écrit un excellent livre sur ce sujet, livre dont la version française est préfacée par son confrère français Cédric Villani. Intitulé Algorithmes : la bombe à retardement, qualifié par le média américain Financial Times comme le manuel citoyen du XXIe siècle. Selon elle, les algorithmes sont des opinions intégrés dans les codes : ils ne sont pas neutres.

Faits d’armes

Aux Etats-Unis, des juges utilisent Compas, un bout de codes qui se veut capable d’évaluer la probabilité pour un prévenu de se faire arrêter à nouveau dans les deux ans qui suivent. “Or, les gens se font arrêter pour tout un tas de raisons. S’ils se droguent, s’ils sont pauvres et qu’ils urinent sur le trottoir parce qu’ils n’ont pas accès à des toilettes, ou s’ils sont noirs et qu’ils fument de la marijuana. Il y a beaucoup de raisons de se faire arrêter qui n’ont rien à voir avec des actes violents, mais avec le fait d’être pauvre ou issu des minorités. Et les gens que cet algorithme estime à haut risque sont emprisonnés plus longtemps”, témoigne O’Neil.

A une échelle plus vaste, les données peuvent aider à prédire les épidémies par exemple. 

Dans le domaine sanitaire, les données “personnelles” peuvent être utilisées par un médecin pour vous dire si vous présentez certains risques. A une échelle plus vaste, les données peuvent aider à prédire les épidémies par exemple. Mais le même programme peut être utilisé par des assurances pour se débarrasser des personnes qui risqueraient de souvent tomber malades et de leur coûter cher.

Photo : Marian Anbu Juwan, Pixabay.

De même, les grandes entreprises n’ayant plus de temps à consacrer aux CV, préfèrent confier la besogne aux robots. Ces ATS (Applicant Tracking Systems) ou “robots recruteurs” sont des logiciels qui stockent et filtrent les milliers de CV reçus. Les plus connus ont pour nom Taleo (Oracle), Ke­nexa (IBM), Talentsoft ou alors Vera, développé par une start-up russe. Mode opératoire : ils cassent la mise en forme du document pour en extraire le texte brut. Ils rangent ensuite le contenu dans différentes catégories. Les “meilleurs profils”, sont donc ceux dont le CV contient le plus d’occurrences des mots ­clés que le recruteur aura au préalable paramétrés.

A nous humains, ce qui nous est désormais demandé est de faire nos CV pour “séduire” ces robots. A cet effet, plus de place à l’imagination, à la créativité, à la surprise. Il faut respecter les bouts des codes.

Peur du futur

En Chine, les choses sont allées un peu trop loin déjà. Avoir un prêt est soumis, non plus seulement à l’analyse du banquier, mais aussi à ce qu’ils appellent une note sociale. Avoir une faible note sociale, c’est aussi ne plus avoir droit de prendre l’avion ou le train. Exactement comme dépeint dans la série dystopique Black Mirror. Une série prophétique digne d’être suivie. Avoir une faible note, c’est mal garer un scooter, fumer son cigare dans un espace public, mal se comporter dans une rue… Mais pas que. La situation financière, les opinions politiques ou encore présenter des excuses qui ne sont pas jugées « sincères » sont concernés. Des actes que des caméras intelligentes qui surveillent chaque coin de rue de Pékin recensent.

Nos choix sont enfermés dans une bulle, construite par les actions de ceux à qui nous ressemblons

Avoir la “performance d’une machine implique l’expression d’un être sans erreur, un usager qui ne pourra être celui du mot d’esprit” (Franck Renucci). C’est de trop. Amazon qui voudrait nous envoyer des livres et des articles avant que nous n’ayons pensé à les acheter est peut-être plaisant. Mais il faut en comprendre une chose : nos choix sont enfermés dans une bulle, construite par les actions de ceux à qui nous ressemblons. Nous sommes manipulés, et c’est important de le savoir. Entre l’anarchie du web et la future dictature des GAFAM (Google, Apple, Facebook, Amazon & Microsoft), il va falloir trouver un repère, une éthique. Pour le bien de l’Humain.

Partagez

Commentaires