Chef de file des « IAsceptiques », l’universitaire et chercheur Nick Bostrom a réussi à fédérer Elon Musk, Bill Gates ou même Steven Hawkins autours des défis à venir dans le domaine de la cognition artificielle. Plutôt qu’un état de l’art du domaine, son livre « Superintelligence : Voies, dangers, stratégies » est avant tout un exercice de pensée qui cherche à illustrer les challenges de cette technologie.

Dès le début de sa démonstration assez étayée, Nick Bostrom (ici dans un Ted Talk) établit un distinguo entre l’Intelligence Artificielle (IA) telle qu’elle existe aujourd’hui, et l’IA de type « superintelligence » à venir. La première est déjà répandue et opère dans un cadre spécifique. Ce sont des auxiliaires fidèles et dévouées de l’humanité qui calculent vos trajets sur Google Maps, conduiront demain vos voitures et rendent nombre de services complexes. Son livre n’est en aucun cas une critique de ces avancées majeures.

Les superintelligences seraient des entités hypothétiques conscientes d’elles-mêmes et autonomes. Elles disposeraient de capacités cognitives supérieures à l’humanité dans un ordre de magnitude, c’est-à-dire qu’elles nous seraient extrêmement supérieures intellectuellement et capable de s’améliorer elle-même rapidement sans la génétique. Les progrès en matière d’ordinateur quantique, et l’enthousiasme pour le projet Blue Brain et DeepMind rendent ces perspectives crédibles, voire probables.

De l’importance du cadre

On songe sarcastiquement à Skynet et au Terminator, malgré les déconvenues de Boston Dynamics cédé récemment par Google à Toyota après le désintérêt de l’armée américaine pour ses robots balourds. Et c’est là que les limites de la cognition humaine s’appliquent. Pour le Professeur Bostrom même une superintelligence conçue pour répondre à des questions pourrait causer des problèmes, en mentant, ou en nous manipulant. Sans être mauvaise intrinsèquement, elles pourraient nous opposer et donc faire à nos dépens ce que font toutes les créatures vivantes : chercher à assurer leur survie.

Une démonstration avant tout spéculative…

Beaucoup de conditionnels, de spéculations et de futurologie donc ! Et des interrogations d’ordre philosophique : Qu’est-ce que l’intelligence ? Une conscience plus évoluée nous serait-elle nécessairement hostile ? A l’opposé, les optimistes et les transhumanistes arguent qu’une superintelligence pourrait bien travailler en symbiose avec l’humanité et accélérer la révolution TI, la fameuse singularité technologique.  Et d’expliquer que vouloir contrôler la conscience, même artificielle, serait synonyme d’esclavage.

…. au service d’avancées concrètes

Dans un monde où, les chercheurs de haut niveau en intelligence artificiels gagnent désormais plus qu’un athlète professionnel, le livre de Nick Bostrom fait débat.  Et c’est là son grand mérite : questionner le futur pour ne pas le subir. Ainsi, Google réfléchit à un « bouton rouge » et à remettre au goût du jour les fameuses « 3 lois de la Robotique » du chercheur et auteur de SF Asimov. Le design des AI fait aussi l’objet d’un rapport, pour éviter les accidents.

Voilà comment les interrogations existentielles de philosophes et d’auteurs de science-fiction trouvent dès aujourd’hui des débouchés concrets en matière de design et d’une nouvelle discipline, l’éthique digitale.