Ces systèmes algorithmiques qui nous gouvernent


874616607_f19df667aa_o

Les systèmes de calcul qui exploitent des millions de données occupent à présent une place prépondérante dans nos vies. Même si ces algorithmes ne datent pas d’hier, n’oublions pas que notre vie est gouvernée par eux depuis de nombreuses années, que nous y sommes accoutumés et que nous-même générons une grande quantité de données tous les jours. Désignés d’après le mathématicien perse Muhammad Ibn Musa Al-Khwarizmi, les algorithmes sont uniquement des séries d’instructions sur la manière de réaliser quelque chose. Le terme algorithme traduit simplement une suite de séquences permettant d’obtenir quelque chose. En informatique, l’algorithme est une série de codes définissant des suites d’opérations que l’ordinateur exécute, en toute inintelligence puisqu’il s’agit d’une machine. L’algorithme a donc une dimension humaine dans la mesure où il est fabriqué par des humains : les développeurs. Même si les algorithmes sont destinés à définir des séquences d’opérations et à résoudre des problèmes, ils n’offrent aucune garantie.

Nous faisons de plus en plus confiance à des logiciels ou à des applications

Dans ce monde où le flux d’information ne cesse de croître, nous devons avoir conscience que notre civilisation entre dans une ère ou les données s’accumulent à un rythme croissant et, pour ne pas se noyer dans cette masse d’informations, nous devons en confier la gestion à des algorithmes : capacité à nous proposer des destinations ou des livres qui nous intéressent, calcul des prix de nos billets de train ou d’avion, optimisation des patrouilles de police par des logiciels à distance, big data appliqué à la lutte contre la fraude fiscale, choix de la meilleure distribution d’équipements publics dans une ville, assistance informatique pour les médecins ou les juges de libertés etc. Nous faisons de plus en plus confiance à des logiciels ou à des applications. Nos vies sentimentales sont même parfois orientées par des sites de rencontres en ligne qui s’appuient sur des « taux de correspondance », censés mesurer les affinités entre deux personnes. À terme, nos sociétés et notre environnement seront de plus en plus déterminés par les mathématiques.

Une nouvelle forme de pouvoir

À l’heure où les datasciences prennent de l’ampleur dans tous les domaines, nous devons apprendre à nous y adapter, ou du moins à les dompter. Car il faut être honnête envers nous-même, les algorithmes nous battent à plate de couture pour ce qui est d’extrapoler une probabilité. « Cela a été démontré à maintes reprises, et ce pour des raisons évidentes, assure Duncan Ross, spécialiste de la science des données. Car les êtres humains, qu’on le veuille ou non, accumule les partis pris au fil du temps. Certains sont raisonnables, beaucoup ne le sont pas. Mais en utilisant les données et en tirant les enseignements, on peut réduire ces partis pris. » Le développement de ces bulles algorithmiques fascine et inquiète. Ces systèmes de calculs puissants s’adaptent de plus en plus à nos personnalités. Cette recrudescence de données nous fait prendre conscience que nous participons à la création d’un monde plus serviciel que jamais. Nous sentons également que ces innovations émergent comme une nouvelle forme de pouvoir, qu’il soit exercé par des gouvernements ou de grandes entreprises commerciales. Une inquiétude opaque, pressentie par chacun, face à un monde « intelligent » et informatisé en mesure de mieux nous connaître, de mieux nous servir, de mieux nous suivre mais aussi de mieux nous guider dans nos choix et nos décisions.

Opportunité ou menace ?

Les interrogations posées par la logique des systèmes algorithmiques en génèrent de nouvelles quant à notre façon de vivre en société et, plus généralement, celles de la nature du gouvernement des hommes. Un débat qui oppose ceux qui craignent le déclin de notre modèle démocratique par le biais d’une dictature machinique et les défenseurs de l’innovation technologique qui voient une opportunité dans l’amélioration de nos vies. Dans son ouvrage « Pour tout résoudre cliquez ici », l’essayiste Evgeny Morozov voit dans le succès de ces pratiques naissantes un grave péril pour la démocratie. Sa conclusion est simple : «  La réglementation algorithmique, quels que soient ses avantages immédiats, produira un régime politique où les entreprises de technologie et les bureaucrates du gouvernement décident de tout ». Alors que pour Henri Verdier, spécialiste français des big data il ne faut pas rejeter trop vite ces pratiques naissantes. « Bien sûr elles reposent sur une connaissance de la société qui effrayera les lecteurs de 1984. Bien sûr elles appellent une réflexion éthique et politique sur la vie privée, et surtout sur la manière dont nous devrons organiser le contrôle démocratique de ces pratiques c’est-à-dire la souveraineté du peuple contre les algorithmes et les technocrates. Mais en même temps, peut-on rejeter sans plus de réflexion l’espoir de politiques publiques plus justes, plus efficaces, et capables, justement, de remplir les objectifs que leur ont assignés les électeurs ? »