news société

    Les algorithmes veulent-ils notre peau?

    Ils fascinent, ils séduisent, ils inquiètent. Les algorithmes n’ont jamais été aussi présents dans nos vies, au point, parfois, de les gouverner. Sommes-nous encore libres de nos choix?

    Publié le 
    14 Novembre 2016
     par 
    Nicolas Poinsot

    Des bouquets de fleurs par dizaines, une robe de princesse, le tout dans un décor de séquoias centenaires aussi hauts que des cathédrales. Le 7 mai 2016, Jennifer Alden et Kirk Spahn se sont dit oui dans un parc privé californien, une année seulement après leur première rencontre. La scène pourrait être délicieusement cliché si l’événement à l’origine de cette union n’avait pas été aussi insolite, comme le raconte un article du «New York Times». Car les deux tourtereaux américains ne se sont pas connus chez des amis (à l’instar d’une majorité de couples, dixit les statistiques), ils ne sont pas tombés amoureux au premier regard entre deux toasts au tarama: si Jennifer et Kirk vivaient ce printemps le plus beau jour de leur vie, c’est parce qu’un robot l’a décidé.

    Début 2015, la future mariée a en effet flashé sur ce brun ténébreux dans la section «Personnes que vous connaissez peut-être», sur Facebook. Une liste de gens que le réseau social suggère comme potentiels amis à ajouter. Facile de penser à un heureux hasard. Sauf que la réalité est plus complexe: ces personnes, qui ont elles aussi un compte sur le réseau social, sont soigneusement sélectionnées selon d’innombrables paramètres par un algorithme, autrement dit un programme informatique. Les puissantes machines de Facebook sont donc bien à l’origine de ce crush 2.0…

    Eros ex machina

    De savantes suites de chiffres et de lettres qui forcent le destin. Voire qui le créent de toutes pièces… L’histoire semble écrite pour un blockbuster hollywoodien de science-fiction, elle est pourtant devenue aussi banale qu’un clic de souris. «Dès que nous utilisons internet, un outil numérique ou simplement un appareil automatisé, nous interagissons directement avec des systèmes algorithmiques», éclaire Anna Jobin, sociologue à l’Université de Lausanne (UNIL). «Et il y en a de plus en plus dans notre vie quotidienne.»

    Un tsunami de codes, indéchiffrables pour le profane, visant à faciliter nos tâches en ligne. A nous scanner également. De la tête aux pieds, et du cœur au cerveau. En effet, derrière ces fameux algorithmes, il y a souvent les géants du web. Google. Facebook. Apple. Ou encore Amazon. Des firmes qui pistent avidement les données personnelles des 7 milliards d’êtres humains peuplant la planète: savoir comment ils vivent, ce qu’ils font et pourquoi. Ce qu’ils aiment et qui. Ce qu’ils pensent. Vaste projet de savoir universel, quasi infini.

    Au départ, les algorithmes n’avaient pas de telles prétentions mégalomanes, comme le rappelle Anne-Marie Kermarrec, chercheuse française en informatique et en automatique, et collaboratrice à l’EPFL. «Ils existent depuis plus d’un siècle et demeuraient assez peu usités, mais le boom de l’internet leur a fourni leurs lettres de noblesse. Ils servent actuellement à gérer et analyser le volume croissant de données générées par les utilisateurs sur la toile, ce qu’on nomme le big data.» Faire venir les algorithmes à la rescousse de notre monde ultraconnecté était donc indispensable. Quitte à les rendre légèrement envahissants.

    Une info filtrée, orientée...

    Et c’est là que réside le problème: à trop vouloir nous aider dans la jungle numérique, les algorithmes se sont mis à choisir un peu à notre place. Alors que nous, utilisateurs, ne leur avons rien demandé de tel. Dans le cas de Jennifer et Kirk, les conséquences s’avèrent au final plus que positives. Mais quand les robots calculateurs du web ne nous entraînent pas au pied de l’autel, où nous emmènent-ils? «Ils nous orientent. Ils sont optimisés pour notre profil numérique et risquent donc de nous enfermer dans une bulle», avance Anna Jobin. Ainsi, sur Netflix, les trois quarts des vidéos visionnées par les internautes le sont suite à la proposition de leur algorithme de recommandation.

    Autre exemple avec le moteur de recherche Google: vous croyez accéder à tous les résultats existants lorsque vous y faites une requête? Erreur. Un algorithme se charge de sélectionner et hiérarchiser des informations sur la base de tout ce que Google sait de vous grâce à la géolocalisation et aux données personnelles collectées. Si bien que les liens mis en avant ne sont que le fruit d’un best of personnalisé, et non le tableau exhaustif que vous en attendez. Car «Google choisit arbitrairement de ne pas montrer certaines choses», constate Stéphane Koch, consultant et spécialiste suisse des nouvelles technologies. Idem pour le fil d’actualité de Facebook. «Beaucoup de gens ignorent que ce qu’ils voient défiler de leurs amis est filtré par un algorithme.» Aux Etats-Unis, la proportion de ces utilisateurs baignant dans l’angélisme atteint ainsi les deux tiers. Or tout cela est loin d’être anodin: un article de «Slate» paru début 2016 affirmait que la tonalité des posts et statuts vus sur les réseaux sociaux influait sur notre humeur. Un exemple «de manipulation mentale, lance Grazia Ceschi, psychologue à l’Université de Genève. Pratique qui pourrait avoir des conséquences sur nos émotions, nos attitudes.»

    Et ce n’est pas tout. Car non seulement Facebook joue la gare de triage pour nous, mais il le fait selon des paramètres qui agissent rarement au hasard. Les algorithmes, en effet, «ne sont pas neutres», soulignait récemment le spécialiste français des réseaux Daniel Le Métayer, lors d’une interview accordée à «Internetactu». Derrière le code tapé par les ingénieurs, il y a des idéologies. Ainsi, savez-vous que, sur les applis de rencontre, des algorithmes choisissent en partie nos amours potentielles selon une vision bien à eux de l’attraction? «Tinder fait croire que les profils qu’il nous propose sont uniquement triés selon des critères géographiques, mais c’est faux», affirme Olivier Voirol, sociologue à l’UNIL. «De nombreux autres critères entrent en jeu, lesquels sont conditionnés par une politique qui, en tant qu’utilisateurs lambda, nous échappe.»

    Il y a quelques mois, les ingénieurs travaillant sur l’appli star de la drague ont d’ailleurs concédé une révélation sur sa mécanique, nous apprenant qu’un algorithme complexe se charge de noter chaque profil sur une échelle de désirabilité. Des personnes se situant plus ou moins dans la même case en terme d’attractivité sont ensuite suggérées en priorité à l’utilisateur: les beaux avec les beaux, les moches avec les moches, les riches avec les riches… Une conception réductrice et téléguidée des relations amoureuses où les données non mesurables – telles que le charme, le charisme ou le feeling – sont niées au profit des seuls paramètres physiques et socio-économiques.

    ... qui nous infantilise

    Mais alors, si les algorithmes «ne nous laissent presque plus aucun contrôle sur le choix de nos amis et de nos amants», dixit Olivier Voirol, s’ils nous cloisonnent dans ce que nous connaissons et apprécions déjà, que reste-t-il de notre liberté? Car celle-ci implique «de faire les choses en ayant connaissance des tenants et des aboutissants», analyse le sociologue. Qui poursuit: «Avons-nous ici affaire à des systèmes qui réduisent notre capacité à agir? Oui, sûrement.»

    Une perte de marge de manœuvre qui, concrètement, renvoie des internautes pourtant majeurs et vaccinés à un univers mental préadolescent. «Avec les algorithmes, on n’opère presque plus de choix à 100% volontaire, note Grazia Ceschi. Cette façon de tout nous servir sur un plateau, sans nous laisser chercher, empêche une construction active de son propre savoir. D’un point de vue cognitif, cela s’appelle de l’infantilisation.» Des codes informatiques nous font régresser à l’état d’enfant… quand ils ne nous effacent pas tout court.

    Dans certains domaines, les algorithmes pourraient bientôt rendre eux-mêmes des décisions à la place des êtres humains. Des scientifiques britanniques viennent de mettre au point un algorithme pouvant prédire, avec un taux d’erreur assez faible, les résultats des audiences de la Cour pénale internationale. Les spécialistes voient dans cette avancée les prémices d’un droit «à la Robocop», où justice serait rendue par des machines prenant en compte à la fois les données d’une affaire, les articles de loi et la jurisprudence. Pas si excentrique que cela, lorsqu’on sait que la firme hongkongaise Deep Knowledge Ventures fait désormais siéger un algorithme dans son conseil d’administration! Et que ses co-membres bêtement humains se doivent de respecter les décisions qu’il émet en matière d’investissements…

    La tendance actuelle semble donc aller droit vers une forme de «gouvernalité algorithmique», comme l’écrivait Antoinette Rouvroy, chercheuse au Centre de recherche en information, droit et société du FNRS, dans une tribune publiée sur le site de Libération . De quoi nous faire entrevoir un avenir proche de type «Terminator» avec robots dotés d’un tel pouvoir qu’ils finissent par voir en l’humain une donnée parasite à supprimer? «Nous ne sommes pas encore dans une ère où des machines ont un pouvoir de décision autonome, précise Stéphane Koch, mais oui, cela devrait arriver un jour.»

    ... et manque de transparence

    La question se pose notamment avec la voiture intelligente, actuellement développée par plusieurs constructeurs. Un véhicule qui conduit, qui se (et nous) dirige à notre place. Et qui devra aussi gérer à notre place les accidents. De nombreux observateurs ont ainsi soulevé le problème moral qu’induisait cette situation: lorsqu’une telle voiture devra choisir entre basculer dans un ravin ou percuter des piétons, quels seront ses critères? Faire le moins de victimes possibles? Protéger en priorité les personnes extérieures? ou alors celles dans l’habitacle? S’il faudra bien programmer la voiture dans un sens ou dans l’autre, les passagers devront également être pleinement avertis de son fonctionnement avant d’accepter de déposer leurs vie entre ses roues... Et il en va de même pour tous les algorithmes.

    Car, une fois admise l’équation big data = transparence automatique de nos vies, reste à se pencher sur l’opacité desdits algorithmes. Lesquels sont bel et bien «nécessaires pour rester à flot dans la masse de données numériques, insiste Anne-Marie Kermarrec. L’enjeu, c’est de mener un travail de transmission de connaissances au public, pour qu’il sache comment et dans quel but ils œuvrent. Et de leur imposer des limites juridiques et éthiques.» Les Goliaths du web ont entendu l’appel. En septembre dernier, Microsoft, Facebook, Google et Amazon ont officialisé un partenariat portant sur de «bonnes pratiques» morales des algorithmes. On attend d’en savoir plus.

    Et vous, à votre prochaine connexion sur un réseau social, regarderez-vous une proposition d’ami de la même manière?

    Quelques films

    1. Person of Interest Made in Canada, cette série est considérée comme l’une des meilleures du genre SF. On y suit la prise de pouvoir par une intelligence artificielle originellement vouée à la prédiction des crimes.

     

     


    A lire aussi:
    Pourquoi les Millennials font moins l'amour que leurs parents?
    Instagram: un algorithme détecte la dépression à 70%
    Drague: les codes changent avec les applications de rencontre


    2. Money Monster Dans ce film signé Jodie Foster, un algorithme de trading prenant des décisions financières génère une perte d’argent abyssale. Le lésé demande des comptes…

     

     

    3. Black Mirror Charlie Brooker est le créateur de cette série prophétique qui détaille les dérapages futurs, plus ou moins contrôlés, de nos nouvelles technologies. Un épisode est consacré aux algorithmes.

     

     

    4. Westworld Un parc d’attraction peuplé de robots, une intelligence artificielle qui se met à dérailler après un gros bug… Cette série coproduite par J.J. Abrams tient la chronique d’un naufrage algorithmique inquiétant.

     

     

    C’est quoi? Algorithme

    Si le mot remonte aux maths arabes du XIIe siècle, le concept recouvre «un ensemble d’instructions concrètes par lesquelles un problème donné peut être résolu», selon l’ingénieur Tom Alison de Facebook. C’est un code informatique fini. Mais les récents développements du «deep learning», ou système auto-apprenant, laissent entrevoir la possibilité d’intelligences artificielles écrivant leur propre code pour se perfectionner.

    Ada Lovelace, pionnière de la programmation informatique

    On imagine volontiers les codes informatiques pondus par des geeks de sexe mâle s’alimentant en bière et en pizza tout en distillant un humour de classe de collège. Pour se débarrasser de ce cliché, il peut être utile de rappeler que le premier algorithme publié fut l’œuvre d’une femme. Et pas une anonyme de l’Histoire, puisque Ada Lovelace, née en 1815, était la fille du poète romantique Lord Byron. Contrairement à son illustre écrivain de père, cette figure étonnante du XIXe siècle s’est illustrée par une bosse des maths plus que proéminente.


    Un plan de la machine analytique de Babbage pour laquelle Ada Lovelace conçut le premier algorithme.
    ©SSPL via Getty Images

    Diagnostiquée petit génie dès son enfance, Ada a eu la chance de se voir dispensée une éducation scientifique de haut vol. Son affinité avec les chiffres lui fit bientôt croiser la route de Charles Babbage, Britannique visionnaire alors en train de concevoir sa «machine analytique», calculateur mécanique faisant office d’ancêtre préhistorique des ordinateurs. Elle écrira pour lui le premier programme informatique recensé à ce jour. Désolé, «guys». Une fille vous a devancés.

     

    A lire également
    Un tiers des chiens et chats en seraient également atteints, révèle cette enquête américaine.
    O
    Quand j’étais ado, je trouvais ça totalement ringard. Le comble du mauvais goût et du machisme.
    O
    Des initiatives éclosent un peu partout pour redonner vie à la conversation.
    O
    • Vide Dressing
      My Private Dressing

      Mih Jeans Jeans

      Dès 200.00

      80.- CHF

      -60%
    • Vide Dressing
      My Private Dressing

      Tommy Hilfiger Sandales compensées

      Dès 140.00

      50.- CHF

      -64%
    • Vide Dressing
      My Private Dressing

      Swarovski Collier

      Dès 249.00

      140.- CHF

      -43%
    • Vide Dressing
      My Private Dressing

      Missoni Top

      Dès 269.00

      75.- CHF

      -72%
    Vision
    Poussière, cil, insecte ou grain de sable peuvent venir soudainement venir se loger dans notre oeil...
    Swissquote
    Le marché de l’immobilier suisse constitue une valeur solide.