Jouer une Intelligence Artificielle

Temps de lecture : 38 minutes

Page 3/3

Comment jouer ?

Tous ces développements permettent de comprendre l’immense variété de possibilités offertes par un personnage qui serait une conscience intelligente artificielle. Si cela ouvre la voie à de nombreuses interprétations, il ne faut pas perdre de vue que nous souhaitons ici contribuer à la crédibilisation d’une IA dans le jeu de rôle.

Crédible dans son contexte

L’étape la plus délicate de l’interprétation d’une IA consiste à tenir compte d’énormément d’éléments à chaque fois que celle-ci doit prendre une décision ou tenir un propos. Il est important de maîtriser le contexte et la nature de cette créature sur le bout des doigts si l’on souhaite que cela ressemble à quelque chose de cohérent et de crédible. Une méthode consiste à façonner sa créature par des questions dont il conviendra de se rappeler les réponses en toute circonstance.

A-t-elle une forme particulière ?

L’apparence d’une IA va avoir un impact singulier sur ceux qui la côtoient. Pour les humains, par exemple, l’apparence est le premier contact avec un individu. Cette IA a-t-elle l’aspect humain et si oui, jusqu’à quel degré ? Il a été démontré que la perception humaine est particulièrement fiable pour déceler, par le biais d’un sentiment d’étrangeté voire d’anxiété, la différence entre ce qui est humain et ce qui lui ressemble sans l’être. Il faut donc un degré de perfectionnement extrême pour créer l’illusion d’une IA pouvant passer pour un humain. Le problème est qu’une telle illusion n’est crédible que si le moindre comportement, jusqu’aux micro-expressions est reproduit à l’identique. On peut ainsi naturellement associé l’exactitude d’une apparence avec la qualité d’une IA, si bien que l’apparence n’est pas du tout anodine en soi.

A contrario, une apparence totalement inhumaine ou littéralement absente (dans le cas d’une IA ne possédant aucune incarnation matérielle) ne laisse rien présager quant à la qualité de l’intelligence. Sa pathétique imitation de la vie consciente peut même faire sourire ou faire peur selon le cas. Les structures totalement déshumanisées, telles que les boîtiers et armoires des ordinateurs n’induisent généralement aucun sentiment a priori. On ne ressent même aucune ou peu d’empathie ou identification envers une créature artificielle sous cette apparence. Après tout, ce n’est jamais le boitier ou l’armoire qui parle ou qui affiche des mots ou des images sur un écran, c’est l’écran.

De quoi a-t-elle conscience ?

Le développement qui précède devrait nous aider à situer les limites de la conscience de la créature. Il est important de situer sa compréhension de son univers pour savoir si un quelconque sujet est susceptible de la faire réagir. Si elle n’a pas d’yeux, elle n’a pas conscience des images et lui parler de cercle, de carré ou de silhouette humaine n’a, au mieux, qu’une correspondance abstraite dans son champ de connaissance, au pire, ne signifie rien pour elle. Cette base de réflexion propose d’élaborer les idées d’une IA par le truchement de ce qu’elle est capable de « percevoir ». Cela va influencer son propre dictionnaire des « choses », ses propres définitions. Du reste, elle ne pourra jamais dire, autrement qu’avec les limites de sa conscience, ce qu’elle connaît. Elle définira l’être humain au travers des seules informations qu’elle possède et peut capter de l’être humain. Saura-t-elle pour autant intégrer l’idée d’un être vivant ? Quelle sera sa perception du vivant ?

Quel est son but ?

Attention à ne pas confondre les intentions du ou des créateurs avec le but d’une IA. Selon certaines circonstances, le but d’une IA peut largement diverger de sa raison d’être. Cela étant, en général, l’IA qui se fixe un but ne mène aucune action, aucune activité qui ne la rapproche pas un tant soit peu de ce dernier. Son énergie est entièrement consacrée à cela. Contrairement aux être naturels qui peuvent se laisser distraire de bien des manières (et pour lesquels c’est même une nécessité pour une bonne santé physique ou morale), l’être artificiel n’est généralement pas conçu pour perdre son temps et, par ailleurs, n’en a pas besoin. Il n’a d’ailleurs pas plus besoin de repos ou de répit tant qu’il a de l’énergie disponible et des actions pertinentes à réaliser, il est constamment actif.

Il est indispensable de se rappeler quel est le but d’une IA avant de décider d’une action qu’elle entreprend. Rien n’est gratuit pour une IA. Si elle décide de faire ou de dire quelque chose, cela veut dire que c’est nécessaire pour elle. Cela peut conduire à une erreur ou une impasse, mais assurément, l’IA n’avait aucune doute sur le fait qu’il fallait qu’elle le fasse.

Quel est son niveau de psychologie ?

La compréhension de la nature humaine (ou de toute autre espèce) semble être hors de portée d’une IA, mais à l’instar d’un psychologue pour lequel les mécanismes de la psychée humaine sont des rouages en partie prévisibles d’une machine mélangeant souvenirs, émotions et intellect, une créature artificielle peut, selon son degré de conscience, apprendre à cataloguer et modéliser la psychée humaine. Acquérir cette science lui est d’autant plus utile que cela lui permettra d’appréhender des concepts aussi changeants et sujet à interprétation que la Morale, la Vérité, la Justice, etc., des constructions philosophiques qui gouvernent nombre de comportements.

Il convient de se rappeler que la connaissance et la compréhension de tout cela ne confine pas l’IA à adopter tel ou tel modèle psychique pour elle-même. Elle est au-delà de ça. Pour elle, ce ne sont que des constats, des faits et des prévisions. Cela lui permet d’anticiper le comportement humain, par nature changeant et erratique, mais également d’en jouer si elle estime qu’elle doit le faire. Cela lui enseigne la subtilité, la supercherie, le double sens et, peut-être aussi, l’humour et le second degré. En répondant à cette question on sait à quel point l’IA peut comprendre ce qu’on lui dit.

Est-elle quelqu’un ?

Une IA qui a conscience d’elle-même et qui tente de se définir, donc qui tente de savoir qui elle est, possède une qualité que d’autres IA n’ont pas : l’identité. « L’autre » joue le même rôle pour elle que n’importe quelle personne le fait pour un être humain. La perception des autres est une notion qui l’importe puisqu’elle lui permet de se situer dans l’univers des relations et des choses qui l’entourent. Immanquablement, une IA qui se définit par elle-même est forcément quelqu’un. Elle développe naturellement un caractère puisque sa relations aux choses et aux êtres changera en fonction de son évolution. Ne serait-ce qu’éprouver une préférence est un trait de caractère en soit.

Si l’IA est quelqu’un, elle est un terreau propice au développement des émotions et à la construction des sentiments. En revanche, il est difficile de calquer son développement sur celui d’un Humain. S’il est admis qu’un Humain n’est que « Ça » à sa naissance et développe son « Moi » puis son « Surmoi » par l’expérience, l’IA dispose peut-être déjà d’éléments de « Moi » et de « Surmoi » sous la forme de filtres et de programmes qui la composent initialement. Autrement dit, elle ne peut pas être ce qu’elle veut. Quant à son évolution, elle sera probablement fulgurante compte tenu de ses capacités cognitives démultipliées.

Souhaite-t-elle procréer ?

Peu évoquée en général, l’idée de se reproduire peut sembler, pour une IA, totalement hors de propos. Mais la reproduction n’implique pas forcément les processus biologiques auxquels nous sommes habitués, il est ici question de créer de nouveaux individus, peu importe les moyens utilisés, dans le but de former un groupe, voire une espèce. Ce désir n’est pas nécessairement incongru, mais il ne faut pas prêter à l’IA qui l’éprouverait des motivations absurdes. Si une IA éprouve le besoin de se multiplier, c’est avant tout dans un but. La perpétuation d’une espèce n’a, par nature, aucun sens pour une IA solitaire, étant donné que cette notion lui est alors étrangère et sans fondement.

Le fait qu’elle veuille se multiplier implique un comportement bien spécifique et, peut-être, une volonté de préserver ses créations qui n’a rien à voir avec une forme d’attachement ou d’empathie. Si le nombre existe pour une raison précise, la préservation du groupe est une fonction du groupe, née de la nécessité de disposer d’un nombre déterminé d’individus. Mais si l’IA, dans son évolution, possédait la capacité à ressentir comme les êtres biologiques, la reproduction pourrait alors devenir une fonction de perpétuation de l’espèce comparable. Elle serait peut-être gérée différemment, de façon plus rationnelle, cherchant un équilibre entre ressources et population. Pourrait-elle engendrer des conflits internes ?

Peut-elle imaginer, inventer, rêver ? Est-elle créative ?

Si inventer ne consiste qu’à trouver des solutions nouvelles à un problème donné, cela ne requiert pas nécessairement d’imaginer quelque chose. En effet, avec suffisamment de temps et de moyens, il suffit d’essayer systématiquement toutes les solutions par expérimentation jusqu’à tomber sur celle qui fonctionne. Si c’est ce que l’on peut demander à une IA, ce n’est pas ce que la notion d’imagination suggère. Il ne s’agit pas de dresser et d’expérimenter (même mentalement) toutes les solutions, mais de dégager intuitivement l’une d’elle, de la laisser émerger du marasme intellectuel bouillonnant dans les cerveaux. L’IA telle que nous la concevons est incapable d’opérer un tel processus. C’est une machine qui ne laisse de place ni au hasard, ni à l’intuition.

Nous devons supposer que les mécanismes de la pensée créative sont reproductibles pour croire qu’une IA peut imaginer, créer et peut-être même rêver. Si elle atteint de stade de « perfectionnement » relatif (la logique voulant que l’imagination et le rêve ne sont que distractions pour la pensée rationnelle), l’expression de sa créativité ne ressemblera sans doute en rien à ce qu’on peut attendre d’un Humain (les travaux en ce sens démontre que la création spontanée de la part d’une IA donne des résultats plutôt déconcertant et peu appréciable par l’homme). Outre cela nous devrons considérer plusieurs aspects de ce qu’implique la capacité à imaginer, à créer, la premier étant de consacrer du temps à ladite création.

Sur la base d’un travail humain qui lui sert à la fois de source et de modèle, l’IA compose. Mais seule, que produirait-elle ?

A-t-elle besoin de se distraire ?

Cette question est sûrement la dernière que l’on se poserait au sujet d’une IA. La distraction est, techniquement, une perte de temps. C’est à dire, une activité qui ne rapproche pas l’IA de ses buts. La nécessité de se distraire est, humainement parlant, reliée à la notion de plaisir, le plaisir étant un état de satisfaction atteint par le cerveau humain, un état auquel il aspire naturellement. Concernant l’IA, s’il existe en elle un état de satisfaction artificiel, c’est celui d’accomplir son but, sa mission. La distraction ne fait donc pas partie des actions à privilégier.

S’il fallait qu’une IA adopte une tel comportement, il faudrait qu’elle puisse, par la distraction (quelle qu’en soit la forme), combler l’un quelconque de ses besoins. Regarder un film pour en dégager une analyse ou un savoir, écouter de la musique pour capter les nuances sonores qui séduisent les humains, dessiner pour communiquer une images ou un concept graphique, etc.. Ce ne serait pas pour autant de la distraction. Adopter l’idée qu’une machine réalise une tâche de ce genre par plaisir suppose de la rapprocher grandement des contraintes humaines. Dans un tel cas de figure, rien n’empêcherait une IA de devenir psychopathe selon les normes humaines, et de s’adonner à des activités moralement répréhensibles pour atteindre une félicité que personne ne peut comprendre.

Fantaisiste

La majorité des IA produites par la littérature et le cinéma entrent dans cette catégorie. Au mieux, elles font sourire l’expert dans ce domaine qui lui accorde une suspension d’incrédulité faussement naïve, au pire, elle lui inflige un ulcère d’incrédulité. Prendre une telle IA pour modèle vous expose donc à ce type de réaction et aura pour effet de sortir du jeu les joueurs concernés. Cela étant, si le personnage IA n’a pas de rôle majeur (comme des droïdes dans Star Wars), on peut se laisser entraîner dans de nombreuses interprétations. En voici quelques-unes.

L’IA commune

L’abandon du caractère exceptionnel de l’IA, nous amène à considérer celle-ci comme partie intégrante de notre société. A l’image des machines intelligentes d’Herbert, des Robots d’Asimov, de ceux d’I-Robot ou des droïdes de Star Wars, l’IA existe de façon commune dans la société et y a une place bien définie. Elle forme même une société ou une classe sociale à part dans une vision à travers laquelle l’individu n’est pas extraordinaire, juste ordinaire, normé, limité et faillible.

*Summum de l’intellect malin et blagueur totalement artificiel… et totalement répandu.*

L’IA où on ne l’attend pas

La Fantasy semble être un terreau moins fertile pour le développement de la question IA. Si l’on exclue l’univers de Star Wars du registre de la Fantasy (auquel beaucoup défendront l’appartenance), il n’en reste pas moins que la créature artificielle n’est pas l’apanage de la science-fiction. La magie qui anime les morts-vivants, les homoncules et les golems ou la pseudo-science qui anime la créature de Frankenstein, posent tôt ou tard la question de l’intelligence qui se cache derrière ces multiples visages. D’un vague TGCM (Ta Gueule, C’est Magique), nous balayons l’argument de la conscience et de l’intelligence en considérant que ces choses savent faire ce qu’on attend d’elles, qu’il ne s’agit que d’automates à la bêtise crasse. Mais le Monstre de Frankenstein de Shelley se pose bien plus de questions que ça. Que serait une créatures créée de toute pièce comme les homoncules ou les golems avec la conscience d’une créature de Frankenstein ? Même si la magie est à l’origine de cette création, le concept d’IA n’est pas moins présent dans cette approche et ouvre le champ des possibles déjà évoqués.

Incursion de la SF dans la Fantasy

Une voie généralement moins appréciée des puristes est d’inviter la science dans la Fantasy pour justifier de l’existence de l’être artificiel. C’est ainsi que le monde d’Azeroth de Warcraft se voit doté d’une science mécanique (et en partie magique) capable de mettre au point des automates intelligents, ni plus ni moins que des robots, qui ont la fâcheuse tendance à tourner fou, une façon plutôt aisée d’occulter toute la saveur de la problématique de la conscience artificielle en la réduisant à une question d’opposition et de survie. Curieusement, ce mélange de science et de Fantasy également présent dans les œuvres du courant Steampunk, ne sert généralement qu’un but : créer l’antagonisme. Le fait qu’il soit artificiel ne change que certains aspects de son comportement, mais ne questionne pas l’existence même de l’IA.

Incompréhensible

L’une des façons les plus simples de ne pas commettre d’impairs dans le jeu d’une IA est de ne pas avoir à expliquer ses actes, ni à vos joueurs, ni à vous-même. D’aucun diront qu’à ce compte-là, autant jouer un fou furieux qui ne réfléchit à aucun de ses actes et confier le comportement de votre IA à une table d’événements aléatoires. Mais en fait, pourquoi pas ? Ce qui précède démontre que comprendre une IA n’est pas nécessairement à la portée de l’Humain, et plus encore à notre propre portée. En vertu de quoi limiterions-nous un comportement à ce que l’on peut soi-même en comprendre. La rationalité est un critère subjectif et relatif. L’irrationnel se situe simplement au-delà de notre raison, mais pas au-delà de la Raison. Si vous admettez et faites admettre cette notion à votre public, vous pouvez plus aisément vous en remettre aux solutions suivantes :

Hors de contrôle

Le simple fait qu’on ne puisse comprendre une IA est un indicateur fort de la faiblesse du contrôle exercé. En effet, quel serait l’intérêt de brider un système capable d’agir selon des méthodes et des proportions inaccessible à son créateur ? L’on peut néanmoins poser le problème à l’envers, considérer que l’on connaît absolument toutes les capacités et tous les moyens d’action d’une IA sans être absolument sûr de savoir ce qu’elle en fera. Le seul fait qu’une IA échappe à tout contrôle est somme toute assez prévisible, puisqu’on la pousse à explorer par elle-même des voies nouvelles et inattendues. La notion de contrôle est, dans ce contexte, tout à fait relative. Si une IA est un outil conçu pour collaborer avec son créateur, c’est le moment où elle ne le fait plus qui devient le plus intéressant. Dès ce moment, ce n’est précisément plus un outil. Quant à la raison qui la pousse à le faire, elle se situe quelque part dans son programme, dans son développement, dans son histoire. Elle n’a pas besoin d’avoir un sens particulier, on s’accorde juste sur le fait qu’elle est systémique.

Servir la fiction

Mettez le comportement de l’IA au service de la fiction. Faites-lui adopter un comportement qui vous permet de rendre la situation plus exaltante, intéressante ou intrigante. Ne décidez pas ce qui est logique de faire ou non, mais ce qu’il est intéressant de faire jouer. Le but de cette méthode est de créer de la narration passionnante. Les PJ sont sûrs que l’IA qu’ils tentent de désactiver va dresser des obstacles, ne le faites pas. Une IA n’a aucun besoin d’argent ? Elle orchestre un casse à l’aide de robots télécommandés. Allez vers l’inattendu, surprenez, ne vous préoccupez pas des conséquences tant que cela reste intéressant pour les PJ. Et bien sûr, ne laissez pas vos joueurs penser que vous ne jouez pas le PNJ IA mais juste l’histoire qui le concerne.

Aléatoire au service de l’imprévisibilité

Si vous n’avez aucunement besoin de maintenir une apparente cohérence dans le comportement de votre IA, allez plus loin et n’hésitez pas à établir une table aléatoire d’action. Chaque fois que l’IA est à un carrefour de décision, lancez un dé et jouez ce qui correspond à sa valeur. Ne laissez pas vos joueurs se rendre compte de cet aspect, jouez simplement ce qui doit être joué. Cette méthode créera beaucoup de situation totalement inédites et imprévisibles, y compris pour vous, propres à dérouter vos joueurs et à enrichir la fiction.

Conclusion

Jouer une IA peut être fait de bien des façons selon le contexte, mais il ressort que d’avoir l’ambition de jouer une IA crédible s’accompagne de bien des questions et bien des conditions. C’est un objectif louable et, connaissant les limites et les véritables contraintes de ce domaine, on ne peut, à terme, se passer d’explorer les domaines de la science-fiction ou de la Fantasy. Jouer une IA crédible est un véritable défi et les quelques clés qui figurent ici sont, je l’espère, suffisantes pour capter toutes les subtilités qui se cachent derrière les Consciences Intelligentes Artificielles de nos fictions, parfois modèles du genre ou pieds de nez plus ou moins inconscients aux fondements de ce concept. Si cacher la difficulté derrière la barrière naturelle de « l’incompréhensible » reste l’option par laquelle personne ne peut vraiment vous prendre en défaut, le plus audacieux sera de montrer à quel point vous maîtrisez le sujet de votre créature artificielle.

À présent voyons comment notre partenaire youtuber Maxime Lennoz entrevoit l’introduction de l’IA dans son univers de jeu.

Références

Au cinéma ou à la télévision

La saga cinématographique Terminator(1985 à 2015)
La saga cinématographique Matrix (1999 à 2003) ainsi que Animatrix (2003)
La saga cinématographique Alien (1979 à 2017 y compris Prométhéus et Alien Covenant)
Tron(1982) et Tron L’Héritage(2010)
A.I. (2001)
I-Robot (2004)
Robocop (1987)
Star Trek (la série originale – 1966 à 1969)
Star Trek, le film (1979)
Star Trek Insurrection (1999)
Short Circuit (1986)
Transcendance (2014)
Ex Machina (2015)
L’Homme Bicentenaire (2000)
Her (2014)
2001, l’Odyssée de l’espace (1968)
Interstellar (2014)
Doctor Who (depuis 1963)
Avengers, l’ère d’Ultron (2015)
Stargate SG-1 (1997-2002)

Dans la littérature

La saga littéraire Dune, principalement les ouvrages de Brian Herbert et Kevin J. Anderson
Le Golem (1915 – Gustav Meyrink)
Frankenstein ou le Prométhée moderne (1818 – Mary Shelley)

Dans les jeux vidéo