Retour vers l'accueil de la catégorie des livres

• Auteurs : Hugues Bersini & Gilles Babinet pour la préface
• Éditeur : De Boeck Supérieur
• Date de parution : 18/01/2023
• Voir la fiche complète sur le wiki...

Ces algorithmes qui nous envahissent sont-ils vraiment indispensables et, si oui, comment améliorer à la fois leur fonctionnement, leur légitimité et l’adhésion complète de leurs usagers ?
Aujourd’hui, nos vies se retrouvent sous l’influence de nombreux algorithmes. Il y a ceux qui aident et qui conseillent : le GPS, les algorithmes de recommandation, les moteurs de recherche, les logiciels d’économie circulaire, les sites de rencontre. Nous nous y conformons sans aller outre, par confort, par facilité, par habitude ou lassitude. Mais il en est une deuxième catégorie, plus redoutable qui, elle, nous oblige et nous emprisonne dans ses lignes de code, inévitable et sans échappatoire possible : les systèmes d’inscription dans les établissements scolaires et universitaires, l’accès aux crédits, la fiscalité et la blockchain, et plus récemment toutes les applications qui nous ont permis d’affronter la crise du Covid.

Face à cette défiance de la politique et de nos gouvernants qui s’installe partout, en réponse aux urgences et aux crises qui se multiplient, n’est-il pas temps de substituer l’algocratie à la démocratie ?

• Auteur : Jean-Gabriel Ganascia
• Éditeur : Seuil
• Collection : Science ouverte
• Date de parution : 04/03/2022
• https://www.seuil.com/ouvrage/servitudes-virtuelles-jean-gabriel-ganascia/9782021440317

Nous ne vivons plus dans les fers. Pourtant, nous le constatons, nous ne sommes pas vraiment libres ; nous nous prenons de plus en plus souvent aux rets du numérique dont nous devenons captifs. Les flux de données – textes, images, sons – qui attestent, trahissent, influencent nos vies affectives, personnelles et professionnelles, sont manipulés à notre insu par les techniques de l’intelligence artificielle. Il en résulte une évolution majeure de la condition humaine, qui rend nécessaire et urgente une réflexion sur les conséquences politiques, sociales et même morales des technologies de l’information et de la communication.

Cet essai vif, original et engagé vise à faire le point sur ces questions. Passant au crible la vulgate « éthique » usuelle, Jean-Gabriel Ganascia en dévoile les limites. Car, pour louables que nous apparaissent les principes invoqués, les avis rendus par les comités de régulation n’aboutissent le plus souvent qu’à des recommandations vaines qui nous laissent impuissants face au monde qui se fait jour sous nos yeux ; pire, elles font souvent écho à des craintes caduques, tout en éludant les risques patents. Nous invitant à ne pas nous reposer sur des doctrines morales convenues, l’auteur nous offre un marteau pour heurter les principes éthiques qui les fondent, les écouter résonner et entendre leur plénitude, ou leur éventuelle vacuité.

Jean-Gabriel Ganascia est professeur à Sorbonne Université, où il mène des recherches sur l’intelligence artificielle au LIP6. Il a présidé le Comité d’éthique du CNRS et a déjà publié divers ouvrages au Seuil, dont le précurseur L’Âme machine (1990) et Le Mythe de la Singularité (2017), qui a connu un réel succès et reçu le prix Roberval.

Le marché de la violence et ce qui lui résiste

• Auteur : Mathieu Rigouste
• Éditeur : 10/18
• Date de parution : 17/03/2022
• https://www.lisez.com/livre-grand-format/la-police-du-futur/9782264079848

Robots autonomes, officiers connectés, reconnaissance génomique : les innovations mises au service de la police semblent sans limites.

États et entreprises privées avancent main dans la main pour développer un arsenal sécuritaire hyper-technologique, pas toujours efficace mais qu’un marketing intensif tente de rendre désirable. La « police du futur » ouvre des perspectives orwelliennes : il s’agit autant d’optimiser les équipements et les méthodes des forces de l’ordre que de poser les jalons d’un véritable panoptique policier qui a pour objectif d’aboutir à l’autocontrôle des populations.

Mais cette mécanique n’est pas implacable. Elle se confronte à des résistances collectives ainsi qu’à la montée en puissance de critiques de plus en plus radicales à l’égard de la police elle-même et de la société qui la produit.

Né en 1981, Mathieu Rigouste est sociologue et essayiste, chercheur indépendant en sciences sociales, réalisateur et militant.

• Auteur : Aurélie Jean
• Éditeur : Éditions de L'Observatoire
• Date de parution : 06/10/2021
• Voir la fiche complète sur le wiki...

Disponible en livre de poche chez Lgf (15/02/2023)

Après le succès de De l’autre côté de la Machine, Aurélie Jean nous entraîne dans un nouveau voyage : au cœur de nos institutions juridiques et des algorithmes qui s’y exercent. Comment la loi est-elle pensée et appliquée au temps des algorithmes ? Comment les algorithmes sont-ils utilisés au sein du système judiciaire ? Et est-il vraiment possible de les réguler ?

C’est un fait : les algorithmes rythment nos vies. Ils nous aident à nous déplacer, à travailler, à nous soigner, et même à légiférer. Certains, alarmistes, diraient qu’ils sont de partout… Or, peu d’entre nous les comprennent, sans parler d’en maîtriser les subtilités. Nos dirigeants, parlementaires et nos juristes n’y font pas exception, et participent pour certains à augmenter la confusion autour de leur utilisation et de leur supposé danger… Pourtant, il est aujourd’hui nécessaire, voire capital, de comprendre le fonctionnement des algorithmes développés, mais aussi d’anticiper leur développement, de l’encadrer et de l’accompagner aussi judicieusement que justement.

Une chose demeure cependant certaine : les algorithmes ne disposent d’aucune personnalité juridique face à un tribunal. En revanche, s’ils ne peuvent réellement faire la loi, ils l’influencent et en orientent désormais la pratique. Mal employés, ils deviennent une menace pour ses principes de transparence et d’équité. Bien maîtrisés, ils peuvent, au contraire, guider ceux qui la font et l’exercent afin de garantir le traitement égalitaire de chacun face à la justice.

Consciente du défi qui nous attend, Aurélie Jean nous appelle à agir et propose de dompter (plutôt que de réguler) les algorithmes à travers des lois souples et anticipatrices, afin de ne rien sacrifier au progrès tout en les pensant dans la plus grande objectivité scientifique, sociale et économique. Car c’est cette même transparence intrinsèque à l’exercice de la justice qui doit s’appliquer dans le champ des algorithmes afin de permettre à chacun – du citoyen au législateur – de garantir l’harmonie, la justice et l’essor intellectuel au sein de nos sociétés.

• Auteurs : Pierre Rabhi & Juliette Duquesne
• Éditeur : Presses du Châtelet
• Date de parution : 06/05/2021
• Collection : Carnets D'alerte
• Voir la fiche complète sur le wiki...

Pour un monde moins numérique et plus éthique

Le nouveau « Carnet d’alerte » de Pierre Rabhi et Juliette Duquesne s’attaque aux dérives de l’intelligence artificielle, à la protection de nos données numériques et à l’influence néfaste des Gafam.

Que cache au juste l’intelligence artificielle ? Pierre Rabhi nous rappelle qu’elle est avant tout fille de l’aptitude humaine. Les ordinateurs, en effet, n’ont ni intelligence propre ni états d’âme : ils sont surtout d’incroyables machines à calculer, à « avaler » des données. Les entreprises rivalisent d’imagination pour les récolter afin de cibler leur publicité. Certains États les utilisent pour surveiller les citoyens. L’art de l’indiscrétion est ainsi généralisé.

Présentée comme la solution idéale à de nombreux maux, l’intelligence artificielle a toutefois des limites, dont une essentielle : la pollution liée au numérique.

Juliette Duquesne a interrogé plus de quatre-vingts spécialistes du monde entier. Son enquête montre que l’IA, mise en œuvre dans de multiples secteurs de notre société, présente des risques insidieux que la plupart d’entre nous ignorent.

Est-il possible de construire un monde numérique moins envahissant, plus sobre, libre et convivial ? Des solutions existent, déjà expérimentées par la société civile, que ce carnet propose de partager.

Lettres aux humains qui robotisent le monde

• Auteur : Célia Izoard
• Éditeur : Éditions de la Dernière Lettre
• Date de parution : 22/10/2020
• Voir la fiche complète sur le wiki...

Les véhicules autonomes sont-ils compatibles avec la lutte contre le changement climatique ? Qui veut des robots-compagnons pour s’occuper des personnes âgées ? L’usine automatisée est-elle le rêve des employés, ou celui des chefs d’entreprise ?

Interpeller directement des chercheurs, ingénieurs et startuppers sur les implications politiques de leur activité, tel est l’objet de ce livre, composé de lettres ouvertes rédigées dans un style piquant, qui mêle la satire et l’analyse. Célia Izoard ouvre ici un dialogue avec les concepteurs des nouvelles technologies pour les interroger sur le sens de leur travail et analyser l’impact social et écologique des grands projets industriels de la décennie, dans un monde en proie à la crise climatique et à l'exploitation au travail. Elle les enjoint à « changer de métier », à l'instar d’Olivier Lefebvre, salarié d'une start-up de véhicules autonomes qui raconte à la fin de l'ouvrage son chemin vers la démission.

Célia Izoard est journaliste au sein de la revue Z et de Reporterre. Dans ses enquêtes et ses analyses, elle élabore une critique des nouvelles technologies au travers de leurs impacts sociaux et écologiques.

• Auteur : Serge Tisseron
• Editeur : Les Liens qui Libèrent
• Date de parution : 20/05/2020
• http://www.editionslesliensquiliberent.fr/livre-L_emprise_insidieuse_des_machines_parlantes-9791020908421-1-1-0-1.html

Enceintes connectées, chatbots, assistants vocaux… Google, Amazon, Facebook et Apple ne cachent pas leurs ambitions de faire de ces nouveaux outils domestiques un cheval de Troie capable de capturer nos données les plus intimes.
Mais, au-delà de l’atteinte à notre vie privée, les machines parlantes inaugurent une révolution anthropologique majeure qui touche au coeur même de notre humanité. Le fonctionnement mental, la fabrication des liens, l’attachement et l’organisation sociale en seront bouleversés. Et plus leur intelligence émotionnelle et sociale s’affinera, plus la distinction entre humains et machines s’estompera, avec la possibilité pour leurs fabricants d’influencer nos comportements, nos émotions, voire nos pensées…
De ce que nous sommes prêts à accepter aujourd’hui dépendra ce que nous vivrons demain.

Serge Tisseron est psychiatre et docteur en psychologie, membre de l’Académie des technologies.
Il est l’auteur d’une trentaine d’essais, dont 3-6-9-12 : apprivoiser les écrans et grandir (Érès).

• Auteur : Laurence Devillers
• Éditeur : L'observatoire
• Date de parution : 11/03/2020
• https://www.editions-observatoire.com/content/Les_robots_%C3%A9motionnels

Il faut nous y préparer : demain, robots, agents conversationnels (chatbots) et autres poupées humanoïdes vont détecter nos émotions avec de plus en plus d'acuité. Si nous sommes malheureux, ils nous remonteront le moral ; si nous sommes seuls, en difficulté, ils se feront aidants. Ces « amis artificiels » vont prendre une place grandissante dans la société.

Or ils n'ont ni émotions ni sentiments, ni hormones de désir et de plaisir, ni intentions propres. À l'instar de l'avion qui ne bat pas des ailes comme un oiseau pour voler, nous construisons des machines capables d'imiter sans ressentir, de parler sans comprendre et de raisonner sans conscience. Si leur rôle peut être extrêmement positif, notamment dans le domaine de la santé, les risques de manipulation sont par ailleurs réels : dépendance affective, isolement, perte de liberté, amplification des stéréotypes (80 % de ces artefacts ont des voix, des noms – Alexa, Sofia – et des corps de femmes, qui en font des assistantes serviles ou des robots sexuels)…

Seront-ils un prolongement de nous-mêmes ? Jusqu'où irons-nous pour programmer une émergence de conscience artificielle ? Et l'éthique dans tout ça ? Mêlant technologie, philosophie et neurosciences, Laurence Devillers pose les questions centrales de responsabilité sur l'application de ces robots « émotionnels » au sein de la société et les enjeux qu'ils représentent pour notre dignité humaine.

Professeure à l’université Paris-Sorbonne et chercheuse au Laboratoire d’informatique pour la mécanique et les sciences de l’ingénieur (Limsi) du CNRS, Laurence Devillers dirige l’équipe de recherche Dimensions affectives et sociales dans les interactions parlées. Ses domaines de recherche portent principalement sur l’interaction homme-machine, la détection des émotions, le dialogue oral et la robotique affective et interactive.

Voyage d'une scientifique au pays des algorithmes

• Auteur : Aurélie Jean
• Éditeur : Éditions de L'Observatoire
• Date de parution : 13/11/2019
• Voir la fiche complète sur le wiki...

Disponible en livre de poche chez LGF (04/11/2020)

Qui sont ces « algorithmes » qui bouleversent notre quotidien ? Que se trouve-t-il de l’autre côté de l’iceberg mathématique ?
« Algorithmes » : voilà un mot décrié, que beaucoup pensent comprendre, mais que peu savent manier. Il fallait bien une spécialiste du code et des équations pour nous guider à travers ce véritable voyage en terre inconnue de modélisation numérique.

Pour l’éminente scientifique et entrepreneure Aurélie Jean, pourtant, rien de plus simple, de plus lisible qu’une ligne de code : la promesse de comprendre, par la virtualisation des phénomènes, la vie elle-même ; l’ensemble des phénomènes physiques, économiques ou sociétaux – de tout système, vivant ou inerte. Écrire un algorithme, c’est dessiner un chemin de résolution pour un problème donné, un moyen précis et fiable d’accéder à la réponse recherchée.

Le cocréateur de Siri déconstruit le mythe de l'IA !

• Auteur : Luc Julia
• Éditeur : First
• Date de parution : 24/01/2019
• https://www.lisez.com/livre-grand-format/lintelligence-artificielle-nexiste-pas/9782412043400

Disponible en livre de poche chez J'ai Lu (16/09/2020)

Le document rare et l'incroyable parcours d'un inventeur français, qui à l'âge de neuf ans avait déjà construit un robot pour faire son lit et a ensuite été l'un des deux créateurs de Siri. Son objectif ici : tordre le cou aux idées reçues et aux fantasmes qui entourent l'IA aujourd'hui.

Vous ne comprenez rien à l'intelligence artificielle (IA) ? Vous avez peur que de méchants robots prennent le pouvoir et finissent par contrôler le monde ? Vous vous intéressez à l'IA et aux nouvelles technologies, mais vous aimeriez entendre un autre son de cloche ? Alors ce livre est pour vous !

“ Tout est parti d'un immense malentendu. En 1956, lors de la conférence de Dartmouth, John McCarthy a convaincu ses collègues d'employer l'expression « intelligence artificielle » pour décrire une discipline qui n'avait rien à voir avec l'intelligence. Tous les fantasmes et les fausses idées dont on nous abreuve aujourd'hui découlent de cette appellation malheureuse.
Dans ce livre, je vous invite à me suivre, de mon petit village près de Toulouse à la Silicon Valley, sur les traces de cette fameuse « intelligence artificielle » à propos de laquelle on entend dire tant de bêtises, pour comprendre de quoi il s'agit exactement et anticiper ce qu'elle peut nous réserver à l'avenir.
Car aujourd'hui je l'affirme haut et fort : l'intelligence artificielle n'existe pas ! ”

Dr. Luc Julia est l'un des deux créateurs de l'assistant vocal d'Apple, Siri. Il est aujourd'hui Senior Vice-président et Chief Technical Officer du tout nouveau laboratoire d'intelligence artificielle de Samsung (SAIL) à Paris.

Site Web de Luc Julia ⇒ http://lucjulia.com/

• Auteur : Cathy O'neil
• Editeur : Les Arènes
• Date de parution : 07/11/2018
• http://www.arenes.fr/livre/algorithmes-la-bombe-a-retardement/

Qui choisit votre université ? Qui vous accorde un crédit, une assurance, et sélectionne vos professeurs ? Qui influence votre vote aux élections ? Ce sont des formules mathématiques.
Ancienne analyste à Wall Street devenue une figure majeure de la lutte contre les dérives des algorithmes, Cathy O’Neil dévoile ces « armes de destruction mathématiques » qui se développent grâce à l’ultra-connexion et leur puissance de calcul exponentielle. Brillante mathématicienne, elle explique avec une simplicité percutante comment les algorithmes font le jeu du profit.
Cet ouvrage fait le tour du monde depuis sa parution. Il explore des domaines aussi variés que l’emploi, l’éducation, la politique, nos habitudes de consommation. Nous ne pouvons plus ignorer les dérives croissantes d’une industrie des données qui favorise les inégalités et continue d’échapper à tout contrôle. Voulons-nous que ces formules mathématiques décident à notre place ? C’est un débat essentiel, au cœur de la démocratie.

Traduit de l’anglais (États-Unis) par Sébastien Marty.

• « Le manuel du citoyen du 21e siècle », Financial Times
• « Un livre fascinant et profondément perturbant », Yuval Noah Harari, auteur de Sapiens

• Auteurs : Gilles Dowek et Serge Abiteboul
• Éditeur : Editions Le Pommier
• Date de parution : 19/01/2017
• Commentaire de lecture : https://www.philomag.com/les-livres/notre-selection/le-temps-des-algorithmes-21509
• https://www.editions-lepommier.fr/le-temps-des-algorithmes

Depuis quelque temps, les algorithmes sont sur toutes les langues. Et ils inquiètent autant qu’ils fascinent. Avec eux, nous passons facilement d’un extrême à l’autre: nous nous réjouissons qu’ils nous facilitent la vie, mais redoutons qu'ils nous asservissent…
Pour en finir avec cette vision manichéenne, cet ouvrage propose un nouveau regard sur notre époque, sur le temps des algorithmes.
Pour commencer, cessons de considérer les algorithmes comme des êtres mystérieux, dotés d’intentions maléfiques. Après tout, les algorithmes sont des créations de l’esprit humain. Ils sont ce que nous avons voulu qu’ils soient.
Les algorithmes sont avant tout des solutions, mais ces solutions ne sont pas neutres. S’ils sont à l’origine de transformations radicales des notions de travail, de propriété, de gouvernement, de responsabilité, de vie privée et même d'humanité, c’est à nous de décider de quel côté faire pencher la balance. Les algorithmes sont peut-être le premier outil à la mesure de nos aspirations. Cessons de les subir, en cherchant à les comprendre. C’est ainsi que nous pourrons être maîtres de notre destinée.

Critique de l'automatisation de la société

• Auteur : Nicholas Carr
• Traduction : Édouard Jacquemoud
• Éditeur : L'échappée
• Date de parution : Septembre 2017
• https://www.lechappee.org/collections/pour-en-finir-avec/remplacer-humain

Les systèmes automatisés ont envahi notre quotidien via les applications pour smartphone, les GPS, les objets connectés, les robots ou drones domestiques – et bientôt les voitures sans conducteur. Chaque jour plus innovantes, ces technologies se proposent de soulager notre esprit, de nous épargner des efforts inutiles et de supprimer frictions et ralentissements dans nos vies.

Censés alléger le travail des ouvriers et accroître les gains de productivité, l’automatisation a été introduite dans les manufactures pendant la révolution industrielle. Grâce à l’irrésistible essor de la robotique et de l’informatique, elle n’a cessé de se développer, d’abord dans l’industrie puis dans tous les domaines : aviation, finance, architecture, design, ressources humaines, médecine, justice, enseignement…

En s’appuyant sur des exemples concrets et des études scientifiques diverses, Nicholas Carr démontre que notre dépendance accrue aux systèmes automatisés n’est pas sans danger. En faisant de moins en moins appel à nos sens, à notre expérience et à nos facultés intellectuelles, nous risquons de perdre notre autonomie, nos savoir-faire et notre pouvoir de décision. C’est pourquoi il est urgent de nous opposer à l’automatisation intégrale de la société et de remettre en question le primat de la technologie sur l’humain.

Nicholas Carr est considéré comme l’un des penseurs critiques majeurs du numérique aux États-Unis. Il est surtout connu en France pour son livre Internet rend-il bête ? (Robert Laffont, 2011).