Le mythe de la Singularité. Faut-il craindre l'intelligence artificielle ?

Résumé : L'informatique est bien une science : la science du traitement de l'information elle ne se réduit pas à un recueil de recettes, de techniques et de savoir-faire, mais elle est au coeur de toute réflexion sur la modernité, car : ? elle joue un rôle central dans de nombreuses disciplines scientifiques et dans la plupart des techniques contemporaines, ? son emprise sur notre environnement quotidien est tous les jours plus grande, ? elle formule en termes neufs et actuels bien des questions scientifiques et philosophiques. Destinés aux non-initiés que nous sommes presque tous, les articles de ce petit Trésor se présentent comme autant de leçons particulières. Pris par la main, le lecteur peut ainsi cheminer sans douleur parmi les notions et les concepts variés auxquels l'informatique fait appel, comme ceux de complexité, d'entropie d'information, de logiques non standard, d'heuristiques, de réseaux de neurones formels... Il pourra saisir avec acuité et discernement les enjeux techniques, sociaux et humains liés aux évolutions des sciences de l'information.

Qui d'entre nous, aujourd'hui, n'a pas entendu parler des sciences cognitives ? Et pourtant, qui, hormis les spécialistes, sait exactement ce qu'elles recouvrent et ce qui motive les philosophes dits "cognitivistes" parce qu'ils cherchent à répondre aux questions traditionnelles de la philosophie portant sur la conscience, la volonté, la mémoire etc. en ayant recours aux résultats des sciences contemporaines (neurosciences, psychologie, linguistique, informatique etc.) ? Destiné tant à l'étudiant qu'à l'honnête homme contemporain, ce petit livre se propose de nous présenter l'évolution de ces sciences d'aujourd'hui. Nous pourrons ainsi porter un regard objectif sur ce qu'elles nous promettent.

Nous ne vivons plus dans les fers. Pourtant, nous le constatons, nous ne sommes pas vraiment libres ; nous nous prenons de plus en plus souvent aux rets du numérique dont nous devenons captifs. Les flux de données ? textes, images, sons ? qui attestent, trahissent, influencent nos vies affectives, personnelles et professionnelles, sont manipulés à notre insu par les techniques de l?intelligence artificielle. Il en résulte une évolution majeure de la condition humaine, qui rend nécessaire et urgente une réflexion sur les conséquences politiques, sociales et même morales des technologies de l?information et de la communication.Cet essai vif, original et engagé vise à faire le point sur ces questions. Passant au crible la vulgate « éthique » usuelle, Jean-Gabriel Ganascia en dévoile les limites. Car, pour louables que nous apparaissent les principes invoqués, les avis rendus par les comités de régulation n?aboutissent le plus souvent qu?à des recommandations vaines qui nous laissent impuissants face au monde qui se fait jour sous nos yeux ; pire, elles font souvent écho à des craintes caduques, tout en éludant les risques patents. Nous invitant à ne pas nous reposer sur des doctrines morales convenues, l?auteur nous offre un marteau pour heurter les principes éthiques qui les fondent, les écouter résonner et entendre leur plénitude, ou leur éventuelle vacuité.Jean-Gabriel Ganascia est professeur à Sorbonne Université, où il mène des recherches sur l?intelligence artificielle au LIP6. Il a présidé le Comité d?éthique du CNRS et a déjà publié divers ouvrages au Seuil, dont le précurseur L?Âme machine (1990) et Le Mythe de la Singularité (2017), qui a connu un réel succès et reçu le prix Roberval.

Aujourd'hui, les ordinateurs sont présents dans toutes nos activités quotidiennes. Une machine a vaincu le champion du monde du jeu de go, on construit automatiquement des connaissances à partir d'immenses masses de données (Big Data), des automates reconnaissent la parole articulée et comprennent des textes écrits en langage naturel... Les machines seraient-elles vraiment devenues intelligentes, posséderaient-elles un esprit, voire une conscience ? La complexité de l'intelligence artificielle dépasse notre entendement immédiat et suscite nombre d'idées reçues. Ainsi, l'intelligence artificielle reproduirait l'activité de notre cerveau, elle ferait que les ordinateurs ne se trompent jamais et... qu'à terme nous en devenions les esclaves. Jean-Gabriel Ganascia, en distinguant la réalité du pur fantasme, nous permet de comprendre ce qui se joue avec l'intelligence artificielle, quelles sont ses potentialités et ce qu'elle ne sera jamais... sauf au cinéma.