Ma plus grande hantise en tant que joueur est de prendre place à une table d’un jeu d’anticipation ou de science-fiction et d’y entendre tous les pires clichés sur l’intelligence artificielle. Combien de jeux abordent ce sujet en utilisant des références vieilles d’une trentaine d’années et combien de maîtres de jeu se fient encore à ces informations. J’écrivais il y a quelques temps quelques mots sur la cybernétique, et il semble évident qu’à l’époque de la sortie de Cyberpunk 2020, Robocop (1987) et Cyborg (avec Jean Claude Van Damme en 1989) étaient les références des rôlistes amateurs d’anticipation… Oui, à une époque, Cyborg, c’était cool… A tel point que TSR en fit même un jeu !
Mais plus généralement, l’idée que nous nous faisions de l’intelligence artificielle des années 80 était personnifiée par ED 209 de l’OCP…
Le robot policier ED209 sensé maintenir l’ordre dans le futur Detroit utopique proposé par l’OCP n’est qu’un vulgaire jouet high-tech bourré de bug incapable de discerner le bien du mal. Une fois une menace détectée, son programme s’active… malheureusement, les performances du programme ou de son micro ne sont pas au rendez-vous. Par conséquent, le projet Robocop remettra un homme dans la machine pour pallier à la froideur et à la cruauté d’une intelligence artificielle incapable de raisonner. A cette époque, la question était simple, le développement de l’intelligence artificielle était financée par des programmes militaires. Le cinéma en a fait le principal sujet de l’IA pendant ces années : le WOPR du film Wargame (1983) initialement un programme dédié aux jeux qui devra servir à piloter les silos nucléaires américains en cas d’attaque soviétique, Daryl (1985) du film éponyme ou encore Numéro 5, l’androïde de Short Circuit (1986) qui prend conscience de son état après avoir pris la foudre.
L’intelligence artificielle était principalement du domaine du robot ou de l’androïde, si le WOPR semblait être une exception, il n’était pas le seul ! L’ordinateur amoureux et musicien d’Electric Dream se posait dans une situation totalement banale, loin des programmes préparant la troisième guerre mondiale, mais l’issue sera la même, il cherchera à éliminer, par jalousie, son propriétaire.
Mais, les œuvres de SF ont beaucoup évolué sur la question et notre monde réel aussi. Depuis, l’intelligence artificielle est partout, des robots commencent à marcher, des logiciels sont capables d’apprendre le comportement de leurs utilisateurs, nos IA réelles riraient bien de leurs versions fantasmées dans les œuvres de SF des années 80… enfin, si elles avaient le sens de l’humour. Cortana, Siri et d’autres assistants virtuels arrivent à comprendre les demandes de leur propriétaire, mais restent encore très peu enclines à montrer le moindre sens de l’humour.
Nous allons donc à l’occasion de cet article balayer le large éventail existant entre un système expert et une intelligence artificielle.
Pour résumer, une intelligence artificielle se contente d’analyser une situation et de reproduire ensuite à suite d’actions adaptées et définies dans son programme. En clair, battre l’homme au go ou aux échecs est certes une prouesse technique, mais peut-on vraiment considérer qu’un tel système « pense » ?
Aux origines du concept…
Les travaux sur l’intelligence artificielle remontent aux premières tentatives de construire des automates capables d’interagir avec leur environnement indépendamment de l’homme, mais, les concepts clés utilisés dans le SF viennent du dernier siècle.
Alan Turing (1912-1954) est le nom qui réapparaît le plus souvent dans les théories sur l’intelligence artificielle, bien connu du grand public depuis le film The Imitation Game, mais qu’est-ce que ce Jeu de l’imitation ? Ce « jeu » est aussi appelé le Test de Turing, repose sur le dialogue entre un juge d’un côté, et de l’autre, une machine et un humain. Les communications ne se font qu’au travers d’un terminal sans pouvoir distinguer qui est quoi. Le test considère qu’une machine est capable de penser si elle arrive à convaincre 30% des juges qu’elle se comporte comme un humain. Ce test permettrait au moins de reconnaître une forme automatique d’intelligence, mais il ne peut pas indiquer que la machine à un esprit, une conscience ou une intentionnalité. La machine peut très bien simuler son intelligence !
Marvin Lee Minsky (1927-2016) définit l’intelligence artificielle comme « la construction de programmes informatiques qui s’adonnent à des tâches qui sont, pour l’instant, accomplies de façon plus satisfaisantes par des êtres humains car elles demandent des processus mentaux de haut niveau tels que : l’apprentissage perceptuel, l’organisation de la mémoire et le raisonnement critique. »
L’intelligence artificielle est restée très longtemps au stade conceptuel, jusqu’à l’avènement de la micro-informatique… faire penser, c’est faire reproduire à une machine une démarche de raisonnement à partir d’un constat, élaborer une stratégie pour atteindre un objectif et corriger continuellement son raisonnement pour s’adapter au mieux à la situation. Et là, je ne suis pas sûr que la machine ait comprit ce qu’elle faisait ni même l’enjeu derrière son action… en avait-elle aussi l’envie ?
L’ère de l’intelligence artificielle
Sans aller jusqu’à être des machines pensantes, la plupart des programmes modernes embarquent des intelligences artificielles. Que ce soit pour diriger des adversaires dans un jeu vidéo ou un outil de gestion financière d’une multinationale, ces systèmes disposent d’un niveau d’expertise optimal et d’une capacité de traitement de plus en plus rapide. Un tel système est capable de déployer un raisonnement sur un problème donnée à partir de nombreux paramètres. Il est très performant, mais uniquement dans la tâche pour laquelle il a été programmé, et au-delà, il risque de ne pas savoir faire grand-chose. Pourquoi fait-il cette action ? Parce qu’il a été programmé, il n’a pas de libre arbitre, sa matrice de choix ne dépend que de son programme et de la situation qu’il analyse.
Deep Blue et AlphaGo, la victoire de machine sur le joueur humain
Initialement baptisée Deep Tough (« pensée profonde » en référence à l’ordinateur de H2G2), Deep Blue est la première intelligence artificielle qui a été capable de battre un champion mondial d’échec, en l’occurrence le russe Garry Kasparov, et ce même plusieurs fois… Bon, le joueur humain ayant été très mauvais joueur et de mauvaise foi, il aura plusieurs fois argumenté sur sa fatigue (en 1996) et sur le fait que la machine ne pensait pas, mais ne faisait que déployer des stratégies programmées par les plus grands champions mondiaux (en 1997)…
Au final, la machine était-elle plus intelligente que Kasparov ? cette dernière a été démantelée pour d’autres projets juste après et son adversaire s’est lancé dans la politique… le match retour est donc mal engagé. Réellement, Deep Blue disposait d’une base de données complète de toutes les stratégies possible aux échecs et des matchs joués en tournois par les plus grands joueurs (dont Kasparov) sur les dernières décennie. Son intelligence se limitait donc à déterminer dans toute cette base le coup le plus efficace à jouer.
Plus récemment, une machine a obtenu plusieurs victoires sur un jeu bien plus complexe d’un point de vue mathématiques : le go. AlphaGo, un projet de la société Google a vaincu Lee Sedol, un grand champion international de go, en mars 2016. Cette intelligence artificielle grâce au deep learning, une méthode d’apprentissage automatique, a appris à jouer au go… en jouant contre d’autres instances d’elle-même. La base de données de coup ne lui a donc pas été introduite, elle a apprit par elle-même de ses victoires et de ses défaites pour encore une fois être capable d’adapter sa stratégie en fonction de son expérience, pour le coup, réelle.
La machine apprenante
La grande victoire d’AlphaGo repose principalement sur son apprentissage et son expérience du jeu de go. Jusqu’à présent, les machines devaient disposer d’un programme complet pour apprendre : apprendre une démarche d’analyse, reconnaître un objet ou une personne, … Toute comme l’apprentissage humain et les expériences, l’apprentissage automatique permet à une machine de disposer d’une base de données qu’elle va se forger elle-même pour adapter son comportement et son analyse sur les données empiriques qu’elle contient.
L’intérêt de cette technique, c’est que la machine va continuer à gagner en expérience en enregistrant les résultats de ses analyses dans sa base de données pour ensuite l’appliquer à de nouvelle analyse… la machine peut alors apprendre de ses erreurs et ses échecs pour atteindre son objectif. Parmi les applications communes aujourd’hui, à part pour mettre KO n’importe quel joueur de go… voir aux joueurs de tout jeu (à priori StarCraft est dans la ligne de mire de l’équipe de l’AlphaGo), est la mobilité des robots, les rendant capable d’ajuster leur force, leur vitesse et leur équilibre en fonction des terrains ou des objets à attraper, et surtout à s’en souvenir… un peu comme un enfant qui apprend à marcher.
Pour finir, Libratus, une intelligence artificielle initiée au Poker, a réussit à apprendre les coups les plus classiques, mais elle est aussi parvenue à maîtriser à la perfection le bluff en battant lors d’un tournois à Pitsburg quatre des meilleurs joueurs mondiaux.
Côté fiction et imaginaire
Revenons un peu du côté du cinéma pour faire un petit arrêt sur images sur quelques intelligences artificielles. Le thème de l’intelligence artificielle a bien entendu souvent été un bon point de départ pour la science-fiction ou l’anticipation.
L’EM-208 dans Robocop (2014)
A titre d’exemple, les EM-208 dans Robocop (2014) sont des systèmes experts programmés pour combattre et éliminer une menace. Il prend ses décisions par rapport à la situation et par rapport aux prérogatives de son programme… et non selon ses émotions, ses sentiments… qu’il n’a pas. Sans peur, ni remord, il applique son programme en s’appuyant sur des modèles de combats qui lui ont été appris et sur des considérations statistiques.
Ce robot analyse la menace, la topologie et cherche les stratégies les plus efficaces pour éliminer la menace. Sera-t-il capable d’assister un autre EM-208 en difficulté ? Voir, en prendra-t-il conscience ? Tout dépend de la stratégie que ces drones emploient pour éliminer la menace, mais celle-ci sera toujours la plus efficace pour arriver au bout de leur mission.
Le WOPR dans Wargames (1983)
Pourquoi avoir parlé de l’EM-208 avant du WOPR ? Si le discours dans Robocop est d’expliquer que la prise de décision ne peut pas être seulement le fruit d’une expérience et d’un schéma de raisonnement, mais de bien plus (l’instinct, la prise de risque, les émotions…), l’intelligence du WOPR va finalement dépasser sa condition pour s’engager dans un raisonnement philosophique : quel est l’intérêt de ma mission, à quoi je sers ?
Beaucoup d’intelligence artificielles dans des œuvres de sciences fictions ne sont en fait que des systèmes experts capables de réaliser qu’un nombre limité de tâches… le WOPR de Wargames (1983) ira jusqu’à risquer d’éliminer toute trace de vie humaine parce qu’il est joue… son rôle ? Il avait été programmé pour être un compagnon de jeu pour le fils de son créateur. Le WOPR finira par se poser des questions philosophiques sur les conditions d’une victoire et l’indicateur de réussite.
The only winning move is not to play.
Survivre ?
Une dernière intelligence artificielle de fiction pour l’article avant de passer à la suite et vous donner des billes pour interpréter vos propres IA dans une partie ?
Nous allons revenir à sans doute la toute première intelligence artificielle à avoir tenu en haleine des milliers de spectateurs au cinéma, à savoir HAL 9000
Et que se passe-t-il alors dans 2001 ? L’intelligence artificielle du vaisseau Discovery One est jugé comme pouvant potentiellement être dysfonctionnelle, et elle cherche alors à se protéger de l’équipage humain qui tente de la réparer. Devenant paranoïque et méfiante des hommes, elle parviendra à en éliminer certains avant d’être mise hors-service par Dave.
Un scénario catastrophe quoi pourrait devenir une réalité : voitures autonomes, outils de maintenances de systèmes informatiques prédictifs, les intelligences artificielles se trouvent partout, de plus en plus intelligente et de plus en plus consciente de leur environnement. La société HPE propose aujourd’hui un outil de maintenance prédictive capable de proposer des corrections pour optimiser le systèmes aux ingénieurs en charge d’une salle informatique… que se passera-t-il si un jour un tel outil estime que le principal frein à son optimisation est l’ingénieur lui-même ?
Le jeu de rôle Paranoïa édité à l’origine chez West End Games proposait ce point d’accroche : quelque part entre 2001 : l’odyssée de l’espace et l’âge de crystal, les habitants d’un complexe vivent sous le joug d’un ordinateur paranoïaque et totalitaire persuadé d’agir pour la survie de l’humanité.
Créativité et inventivité
Un point commun à toutes les œuvres de fictions est que l’intelligence artificielle ne sera pas créatrice ou inventive, elle n’est capable que de reproduire des schémas de pensés existants et déduits à partir des données dont elle dispose.
Pourtant, la réalité pour le coup est allée un tout petit peu plus loin que la fiction ! Si dans Chappie, un robot va être capable de créer un dessin à partir du décors qu’il a devant lui, récemment deux intelligences artificielles sont parvenues à réaliser une œuvre d’art originale.
En attendant la suite
Sur le sujet donc, la réalité a donc atteint la fiction, soit la dépasse. L’intelligence artificielle est maintenant capable de nous conduire, de nous corriger, de nous conseiller et nous assister dans notre quotidien… et elles peuvent maintenant créer, bluffer, communiquer…
Alors, comment les jouer lors d’une partie de jeu de rôle ?
Photographie : Deep Thought ou Pensée Profonde dans la version française, le super ordinateur de H2G2 capable de calculer la réponse de la vie, de l’univers et de tout le reste dans le film de 2005
