L'IA, ange ou démon ? Le nouveau monde de l'invisible

En imaginant des solutions pragmatiques combinant avancées technologiques et réflexions philosophiques, Des robots et des hommes a pour but d'expliquer à partir des mythes et fantasmes qui l'entoure, l'intelligence artificielle des robots et de préparer demain en proposant que ces futurs compagnons empathiques suivent des commandements éthiques. Laurence Devillers illustre son propos à l'aide de récits de fiction qui se déroulent dans un avenir proche, montrant l'impact sociétal que ces objets pas comme les autres auront sur nos sociétés. Que souhaitons-nous faire de ces machines artificiellement intelligentes et affectives dans notre société ? Comment vont-elles nous transformer ? Les robots nous promettent-ils le meilleur ou le pire des mondes ?

Résumé : On préfère de nos jours parler d'éthique plutôt que de morale. Les deux termes renvoient pourtant à une même réalité. Comment expliquer cette réticence ? Comment expliquer aussi que fleurisse l'expression "c'est une belle personne", qui ne veut rien dire, mais qui exprime ce refus de toute référence à la morale ? Serait-ce parce que la morale rappelle la "leçon de morale", entre punition et contrainte ? Pourquoi est-il si difficile d'être quelqu'un de bien ? Pourquoi nous sentons-nous obligés d'ajouter, lorsque nous disons de quelqu'un qu'il est gentil, que c'est là un compliment ? La gentillesse serait-elle un défaut et la méchanceté un signe d'intelligence, à tout le moins de lucidité ? Qu'est-ce que la méchanceté ? Philosophie du bien et du mal, des gentils et des méchants, cet ouvrage fait appel, sans jargon mais avec le sérieux requis, aux thèses, souvent radicales, et aux critiques, parfois étonnantes, des philosophes pour interroger notre rapport au bien et au mal, et pour tenter de déterminer ce qui peut faire de nous quelqu'un de bien.

Résumé : Dans trois lettres à Mersenne de 1630, Descartes énonce une thèse que lui-même qualifie d' "extravagante " : " les vérités mathématiques, lesquelles vous nommez éternelles, ont été établies de Dieu et en dépendent aussi bien que tout le reste des créatures " (15 avril 1630). Cette " thèse de la création libre des vérités éternelles " a une fonction métaphysique décisive : elle inscrit notre puissance d'entendement, sur le mode fini, dans le registre de la puissance du Créateur ; elle assure un lien entre l'attribut divin de l'immutabilité et la Physique des lois de la nature (plus précisément, du principe de conservation). Leibniz, quelques décennies plus tard, ouvrira le Discours de métaphysique sur une critique de cette thèse en identifiant le Dieu cartésien à un tyran qui ne peut susciter notre amour : c'est l'incapacité de la métaphysique cartésienne à concevoir un Dieu législateur avec lequel nous puissions entre en une " société des esprits ", que Leibniz entend ainsi mettre au jour. Par là, c'est tout le sens d'un Leibniz " grand cartésien " qui semble être remis en cause.

Il faut nous y préparer : demain, robots, agents conversationnels (chatbots) et autres poupées humanoïdes vont détecter nos émotions avec de plus en plus d'acuité. Si nous sommes malheureux, ils nous remonteront le moral ; si nous sommes seuls, en difficulté, ils se feront aidants. Ces "amis artificiels" vont prendre une place grandissante dans la société. Or ils n'ont ni émotions ni sentiments, ni hormones de désir et de plaisir, ni intentions propres. A l'instar de l'avion qui ne bat pas des ailes comme un oiseau pour voler, nous construisons des machines capables d'imiter sans ressentir, de parler sans comprendre et de raisonner sans conscience. Si leur rôle peut être extrêmement positif, notamment dans le domaine de la santé, les risques de manipulation sont par ailleurs réels : dépendance affective, isolement, perte de liberté, amplifi­cation des stéréotypes (80 % de ces artefacts ont des voix, des noms - Alexa, Sofia - et des corps de femmes, qui en font des assistantes serviles ou des robots sexuels)... Seront-ils un prolongement de nous-mêmes ? Jusqu'où irons-nous pour programmer une émergence de conscience artificielle ? Et l'éthique dans tout ça ? Mêlant technologie, philosophie et neurosciences, Laurence Devillers pose les questions centrales de responsabilité sur l'application de ces robots "émotionnels" au sein de la société et les enjeux qu'ils représentent pour notre dignité humaine.