accueil

Jean-Paul DELAHAYE est professeur d'informatique à l'Université de Lille. 5

Sommes-nous réels ?

La logique spéculative rejoint la science-fiction... et n'en est que plus réjouissante. Nous sommes peut-être les participants d'une gigantesque simulation du monde orchestrée par nos descendants.
Les images de synthèse deviennent indiscernables des images réelles. Le cinéma,dans des films comme Immortel ad vitam de Enki Bilal ou Final Fantasydu Japonais Hironobu Sakaguchi, utilise des personnages qui sont de pures créations informatiques. Un cinéma sans acteurs et sans décor est aujourd'hui envisageable.
Dans le domaine des jeux vidéo, dont l'importance économique rattrape celle de l'industrie cinématographique, les simulations informatiques de mondes imaginaires deviennent si détaillées que certains passionnés accordent plus d'importance aux aventures illusoires qu'ils y vivent qu'à celles réellement vécues. Le jeu des SiMS propose ainsi une simulation des relations sociales entre un personnage que vous pilotez - votre SIMS - et les habitants d'un monde artificiel, mais cohérent et complexe : c'est l'un des grands succès du commerce des jeux informatiques et il a su séduire de nombreuses femmes alors qu'habituellement, seuls les hommes sont intéressés par les jeux vidéo. On évoque aussi une nouvelle maladie mentale : la dépendance au SiMS.
Il ne fait aucun doute que la capacité de nos ordinateurs à simuler avec réalisme des mondes imaginaires progresse à grands pas et que, dans l'avenir, nous serons confrontés à des reconstructions informatiques du monde réel encore plus frappantes de vérité. Les techniques de réalité virtuelle suggèrent qu'un jour, les simulations seront indiscernables du monde réel pour celui qui y est plongé.
Cette idée a été explorée par divers livres et films de science-fiction, par exemple : Total Recall de Paul Verhoeven la version cinématographique d'une nouvelle de Philip Dick. ou plus récemment Matrix des frères Wachowski. ou encore Simulacron-3 de Daniel Galouye dont on a aussi tiré le film The Thirteenth Floor.

Tout cela conduit à la question : Sans que je m'en rende compte, ne suis pas dans une simulation ? Cette interrogation semble ridicule, pourtant elle est au cur de certaines réflexions philosophiques ; ce n'est, au fond, que la formulation moderne de la question posée par Platon dans le mythe de la caverne ou plus près de nous, par Descartes dans la Première méditation métaphysique. Descartes émet l'hypothèse que tout autour de nous pourrait n'être qu'une illusion créée par un mauvais génie. Pour lui cette attitude de doute total est un moyen de ne pas tomber dans l'erreur (voir I encadré 2).

Au-delà du plaisir extrême qu'apporte le doute généralisé et auquel Descartes s'adonne avec fierté, on peut mener des raisonnements sur la probabilité d'être dans une simulation et de ne pas le savoir. Nick Bostrom. un philosophe de l'Université d'Oxford, a découvert, il y a trois ans. un raisonnement convaincant qui montre que nous pourrions être à notre insu les jouets d'une simulation. Cet argument de la simulation a. depuis sa découverte, provoqué une intense discussion chez les philosophes et les amateurs de spéculations métaphysiques.

Prudence et tolérance

Avant d'exposer le raisonnement de N. Bostrom, j'invite les lecteurs à faire preuve de tolérance. S'interroger sur une possible illusion des sens est une tradition philosophique ancienne et même si l'on ne peut aboutir à des certitudes, il n'est pas absurde d'explorer aussi sérieusement que possible de telles hypothèses. Pourquoi ne pas examiner avec la plus grande rigueur les conclusions que des raisonnements précis et contrôlés établissent sur les problèmes métaphysiques fondamentaux ?

Ne soyez pas choqué - c'est une réaction que l'on observe en France quand on aborde de tels sujets -, amusez-vous, et si vous voyez des objections ou des éléments de raisonnement oubliés par les débatteurs, participez à l'élaboration de positions nouvelles mieux argumentées.

Les croyances religieuses sont bien souvent fondées sur des considérations aussi spéculatives que celles de la métaphysique moderne pratiquée par Nick Bostrom L'argument

Nick Bostrom défend que l'une au moins des trois affirmations suivantes est vraie :

•  Éventualité 1. Toute civilisation technologique disparaît avant la maturité (avant de pouvoir simuler des cerveaux humains).

•  Éventualité 2. Les civilisations technologiques arrivées à maturité ne souhaitent pas mener des simulations de grande précision incluant des cerveaux humains.

•  Éventualité 3. Ma vie et mon environnement sont des illusions, car je vis dans une simulation.

Pour arriver à cette disjonction. N. Bostrom propose d'abord d'admettre le principe d'indépendance du substrat : si on effectue une simulation informatique des processus mentaux d'une fourmi avec des détails suffisamment précis - en simulant par exemple les interactions de toutes les molécules du système nerveux de la fourmi -. on ne perd rien d'important concernant le fonctionnement de ce cerveau. Ce qui est important dans le cerveau de la fourmi est indépendant de l'ordinateur servant à la modélisation et bien sûr du langage de programmation utilisé pour programmer la simulation. Ce qui compte pour qu'une simulation soit satisfaisante et reflète la nature profonde des processus mentaux d'une fourmi est que le niveau de détail soit assez fin.

De la même façon, si on parvient un jour à simuler exactement le fonctionnement d'un cerveau humain - on en est important du raisonnement est l'hypothèse d'indépendance du substrat selon cette hypothèse, si deux processus analogues se déroulent, l'un dans un cerveau, l'autre dans une machine, celui qui se déroule dans le cerveau n'a pas de propriété distinctive particulière. Il en résulte qu'en simulant avec assez de précision un cerveau, la conscience de soi présente dans le cerveau biologique se trouvera aussi présente dans le cerveau simulé Selon ce principe, on doit croire que la simulation détaillée d'un organisme humain produirait un être qui aurait un sentiment d'exister analogue au nôtre.

 

Le doute de Descartes

Descartes pense qu'il serait possible que nous vivions dans une illusion créée sur nos sens par un mauvais génie.

« Je supposerai donc qu'il y a. non point un vrai Dieu, qui est la souveraine source de vérité, mais un certain mauvais génie, non moins rusé et trompeur que puissant qui a employé toute son industne à me tromper. Je penserai que le ciel, l'air, la terre, les couleurs, les figures, les sons et toutes les choses extérieures que nous voyons, ne sont que des illu­sions et trompenes. dont il se sert pour surprendre ma crédulité. Je me considérerai moi-même comme n'ayant point de mains, point d'yeux, point de chair, point de sang, comme n'ayant aucun sens, mais croyant faussement avoir toutes ces choses. Je demeurerai obstinément attaché à cette pensée ; et si, par ce moyen, il n'est pas en mon pouvoir de parvenir à la connaissance d'aucune vérité, à tout le moins il est en ma puissance de suspendre mon jugement.

Après avoir vu l'enjeu du débat de cet article, qui n'est qu'un jeu. vous pourrez imiter Descartes et oublier ce que le doute nous conduit à envisager et endosser à nouveau les bonnes vieilles cer­titudes concernant la réalité car :

« (...) ce dessein (de douter de tout] est pénible et laborieux, et une certaine paresse m'entraîne insensiblement dans le train de ma vie ordinaire. Et tout de même qu'un esclave qui jouissait dans le sommeil d'une liberté imaginaire, lorsqu'il commence à soup­çonner que sa liberté n'est qu'un songe, craint d'être réveillé, et conspire avec ces illusions agréables pour en être plus longue­ment abusé, ainsi je retombe insensiblement de moi-même dans mes anciennes opinions, et j'appréhende de me réveiller de cet assou­pissement, de peur que les veilles laborieuses qui succéderaient à la tranquillité de ce repos, au lieu de m apporter quelque jour et quelque lumière dans la connaissance de la vérité, ne fussent pas suffisantes pour éclaircir les ténèbres des difficultés qui viennent d'être agitées.

loin aujourd'hui ! -, on considérera que ce fonctionnement est indépendant du substrat matériel, et que neurones ou tran­sistors se valent. En particulier, la conscience de soi sera pré­sente dans le cerveau artificiel simulé par la machine comme elle l'est dans le cerveau biologique. Nick Bostrom précise que ce principe d'indépendance du substrat, discuté par cer­tains philosophes, est considéré comme allant de soi par nombre d'entre eux (les fonctionnalistes), et par la majorité des spé­cialistes des sciences cognitives. Nous reviendrons sur ce pnn-cipe, mais, pour l'instant, retenons que Nick Bostrom l'intègre dans son argument.

Si une civilisation technologique parvient à simuler des cer­veaux humains et leur environnement, alors les cerveaux simu­lés auront l'illusion d'être dans des corps réels, entourés d'environnements réels ; pourtant ils n'existeront que de manière virtuelle. De tels cerveaux simulés auraient raison de douter comme Descartes le propose, car pour eux « le ciel, l'air, la terre, les couleurs, les figures, les sons et toutes les choses extérieures (...) ne sont que des illusions et tromperies ».

Le niveau technologique permettant de réaliser de telles simulations atteint, il serait possible de les mener à très grande échelle, car faire fonctionner des machines de simula­tion est d'un coût dérisoire comparé à celui du développe­ment et de la mise au point des simulateurs. Les évaluations

faites des capacités demandées pour mener des simulations de cerveaux humains et l'utilisation de la loi de Moore (dou­blement des performances informatiques tous les 18 mois) conduisent à prévoir qu'en 2050 au plus tard nous disposerons des capacités à simuler des cerveaux humains. Cependant le raisonnement de N. Bostrom ne s'appuie pas sur ces prévi­sions (parfois controversées) et même si notre technologie ne permet ces simulations que dans 500 ans ou dans 10 000 ans. son raisonnement reste valide.

Le cap de la simulation des cerveaux humains franchi (ce que nous nommons « la maturité »), une civilisation technolo­gique intéressée comme nous par son histoire, par les variantes de cette histoire, par la psychologie, par la sociologie, par l'évo­lution des mentalités, des langues, etc. ne manquerait pas d'uti­liser cette capacité pour simuler des cerveaux, des interactions sociales, des processus historiques, etc. Elle mènerait massi­vement toutes sortes de simulations incluant des cerveaux par milliards pour comprendre tous les aspects de ce qu'étaient les hommes ayant précédé l'époque de la maturité. Le nombre de cerveaux simulés correspondant à des êtres humains serait incomparablement plus grand que le nombre de cer­veaux réels ayant existé.

En résumé, si (hypothèse 1 ) une civilisation technologique ne disparait pas avant d'avoir acquis la capacité à mener des simulations massives de cerveaux humains, et si (hypothèse 2) elle souhaite mener de telles simulations, alors il y aura au total bien plus de consciences simulées dans des machines que de consciences réelles provenant de cerveaux composés de neurones réels. Aussi, je dois m'interroger : »Suis-
je réel ou suis-je dans une simulation ? ». Si je prends en compte qu'il y a un bien plus grand nombre de consciences simulées que d'authentiques humains, je dois considérer très probable que je suis dans une simulation.

Ce dernier pas dans le raisonnement de N. Bostrom pro­vient du «principe d'indifférence » utilisé pour évaluer des pro­babilités. Ainsi quand nous prenons une bille dans un sac contenant 10 000 billes rouges et 10 billes bleues et que nous n'avons aucune information sur la bille saisie, nous considé­rons très probable d'avoir pris une bille rouge (probable à 1 000 contre 1 ). Dans le raisonnement de N. Bostrom, je sais que je suis un être humain situé dans une civilisation n'ayant pas atteint la maturité, je sais (sous réserve des hypothèses 1 et 2) qu'il y a un bien plus grand nombre d'humains simulés (les billes rouges) que d'êtres humains réels (les billes bleues), donc selon toute vraisemblance, je suis un être simulé (bille rouge).

Reformulation équivalente

Le raisonnement que nous venons de présenter établit que soit, l'une des hypothèses est fausse, soit la conclusion est vraie. Autrement dit. comme annoncé plus haut, l'une des trois affirmations suivantes est vraie

•  Éventualité 1. L'hypothèse 1 est fausse.
Toute civilisation tech­nologique disparait avant qu'elle ait atteint la maturité.

•  Éventualité 2.
L'hypothèse 2 est fausse. Les civilisations technologiques à maturité ne souhaitent pas mener des simulations de grande précision incluant des cerveaux humains.

•  Éventualité 3.
Ma vie et mon environnement sont des illu­sions, car je vis dans une simulation.

 

À vrai dire, puisque N. Bostrom a utilisé le principe d'indé­pendance du substrat, une autre possibilité est envisageable : que ce principe soit faux. De plus, pour la conclusion, il a fait appel au principe d'indifférence dans un contexte peu ordinaire et peut-être inadapté. Pour être complet, nous devons donc reformuler la conclusion générale de N. Bostrom en affirmant qu'une au moins des cinq éventualités suivantes est vraie :

•  Éventualité 1. Toute civilisation technologique disparaît avant d'atteindre la maturité.

•  Éventualité 2. Les civilisations technologiques arrivées à matu­rité ne souhaitent pas mener des simulations de grande pré­cision incluant des cerveaux humains.

•  Éventualité 3. Ma vie et mon environnement sont des illusions car je vis dans une simulation.

•  Éventualité 4. Le principe d'indépendance du substrat est faux, et en particulier la simulation d'un cerveau humain ne crée jamais l'équivalent d'une conscience.

•  Éventualité 5. Le principe d'indifférence ne peut pas être uti­lisé pour ce problème.

Qu'en pensez-vous ? Laquelle des cinq éventualités choisissez-vous ? Il faut en choisir au moins une.

Notons que ce sont les progrès informatiques récents qui ont précisé les questions de Descartes ; il aurait été amusé de voir que son hypothèse d'irréalité générale entrait dans un raisonnement de ce type. Après la publication de l'argument de N. Bostrom, philosophes et scientifiques ont réagi. Leur posi­tion est généralement de refuser l'éventualité 3, et il leur faut en choisir une autre. Nous examinerons divers arguments proposés conduisant à retenir l'une des éventualités 1.2.4 ou 5 jugées préférables à l'éventualité 3.

Inaccessible maturité

L'éventualité 1 ne plaît à personne : nous n'aimons pas envi­sager que nous n'atteindrons jamais la maturité. La rapidité des progrès informatiques et de nos capacités de simulations est si grande que l'éventualité 1 semble impliquer l'imminence d'une catastrophe. Nous espérons qu'aucune cause interne - auto­destruction nucléaire, biologique... - ou externe - météorite, attaque extraterrestre, etc. - n'interrompra notre progression.

Il se pourrait néanmoins que pour des raisons que nous ne percevons pas aujourd'hui ( des obstacles techniques blo­quant soudain tout pr ogrès informatique ?) la simulation de cerveaux humains et de leur" environnement né sort jamais possible : la maturité ne serait jamais atteinte, non pas parce que nous allons bientôt disparaître, mais parce qu'elle serait technique­ment impossible. Rien de très précis, ni de très sérieux n'ont cependant été proposés dans ce sens et, en définitive, l'éven­tualité 1 semble devoir être rejetée. Notons d'ailleurs que chaque progrès en matière de simulation et chaque jour passé sans apocalypse rendent moins défendable l'éventualité 1.

Interdiction des simulations ?

L'éventualité 2 (qu'une civilisation arrivée à maturité renonce­rait d'elle-même à mener des simulations) a donné lieu à plu­sieurs commentaires intéressants.

Le premier est que. en mesure de mener des simulations de cerveaux humains, nous ne souhaitions pas le faire pour

3. La conclusion de l'argument

La conclusion de l'argument de la simulation (découvert par le phi­losophe Nick Bostrom) est que l'une des éventualités suivantes doit être acceptée. Laquelle choisissez-vous?

- Éventualité 1. Toute civilisation technolo­gique disparaît avant d'atteindre la « matu­rité » c'est-à-dire avant d'être capable de simuler le cerveau humain.

- Éventualité 2. Les civilisations technolo­giques arrivées à maturité ne souhaitent pas mener des simulations de grande préci­sion incluant des cerveaux humains.

- Eventualité 3. Ma vie et mon environne­ment actuels sont des illusions, car je vis dans une simulation.Je ne m'en rends pas compte et crois en mon libre arbitre.

- Éventualité 4. Le principe d'indépendance du substrat est faux, et en particulier la simu­lation électronique d'un cerveau humain ne crée jamais l'équivalent d'une conscience.

- Éventualité 5. Le principe d'indifférence ne peut pas être utilisé pour ce problème. Il y aura toujours des indices montrant que mon cer­veau n'est qu'une simulation.

 

 

des raisons éthiques, religieuses ou philosophiques, et que tra­duisant cette réticence morale en lois, nous nous interdisions toute simulation d'êtres humains. La tromperie inhérente à toute simulation pourrait être un motif de condamnation morale. C'est du moins ce qu'envisage Barry Dainton, de l'Université de Liver-pool. D'après lui, les sujets simulés sont délibérément abusés par ceux qui programment et contrôlent les simulations ; leurs vies sont virtuelles alors qu'ils les pensent réelles. Il est mora­lement inacceptable d'organiser et de multiplier de telles tromperies qui doivent être interdites.

Cependant, comme remarque N. Bostrom. quand les capa­cités techniques seront acquises, et même si la majorité pense que mener des simulations est immoral, il sera aussi difficile d'interdire les simulations, qu'il l'est aujourd'hui d'em­pêcher les expérimentations sur le choix du sexe des enfants à naître ou sur le clonage humain.

Il se pourrait aussi qu'une civilisation ayant atteint la maturité ait d'autres intérêts que la réalisation de simula­tions : nous ne pouvons pas savoir comment penseront des êtres plus avancés que nous ! L'engouement que notre société éprouve pour les simulations et les investis­sements considérables qui sont menés aujourd'hui pour pro­gresser dans ce domaine font cependant penser que, plus notre civilisation sera avancée, plus nous souhaiterons réaliser des simulations.

 

Une autre idée encore a été évoquée par B. Dainton sous la forme d'un paradoxe autoréférent. D'après cette idée, il faut envisager que les générations futures informées de l'argument de la simulation prendront des mesures pour y échapper et édicteront des lois pour interdire la simulation de cerveaux humains. L'argument là encore semble peu convainquant : si les simulations sont possibles, et qu'elles ont, comme aujour­d'hui, des intérêts ludiques, scientifiques et pratiques, on ima­gine mal qu'on y renonce sur la base d'un éventuel retour de manivelle métaphysique, plus amusant que sérieux. Au total, aucune forme de l'éventualité 2 ne paraît vraisemblable.

L'âme ou le vitalisme

Venons-en à l'éventualité 4, c'est-à-dire à la remise en cause du principe d'indépendance du substrat.

Bien que ce principe ne soit pas admis par tout le monde (John Searle, Roger Penrose et J.-C. Eccles par exemple le mettent en doute), il est difficile de comprendre pourquoi deux processus en tout point similaires - l'un se déroulant avec de vrais neurones, l'autre dans les mémoires d'un calculateur -ne donneraient pas tous les deux naissance à de la conscience si l'un y parvient. Y aurait-il quelque chose de magique dans la matière vivante qui permettrait à la conscience d'apparaître ? Le croire amène à soutenir les théories religieuses sur le dépôt d'une âme par Dieu dans les cerveaux humains (exclu­sivement), ou des théories ressemblant au vitalisme du XIX e siècle que la biologie et la médecine modernes ont rejeté.

Le principe d'indépendance du substrat s'impose logi­quement ; c'est une forme particulière de l'affirmation que des causes semblables produisent des effets semblables. Aucun argument compatible avec les conceptions scientifiques majoritairement admises aujourd'hui ne le remet en cause. Léventualité 4 ne paraît donc guère plus défendable que les deux premières et doit donc, comme elles, être écartée.

Bugs dans la simulation

Reste l'éventualité 5 : contester qu'on puisse appliquer, comme N. Bostrom le propose, le principe d'indifférence. La compa­raison avec le choix d'une bille dans un sac où les billes rouges sont largement majoritaires est naturelle : toutes choses étant égales, si parmi les consciences ressentant ce que je res­sens, il y a 1 000 fois plus de consciences simulées que de consciences réelles, et que rien ne me permet de percevoir la différence entre « être une conscience simulée » et « être une conscience réelle », pourquoi devrais-je croire que je suis dans le cas ultraminoritaire des consciences réelles ? L'éventualité 5 d'une erreur dans l'utilisation du principe d'in­différence n'est donc défendable que si, lorsqu'un cerveau est simulé, il réussit à le savoir.

Se pose donc la question suivante sur laquelle John Barrow (le célèbre physicien-cosmologiste de Cambridge) a attiré l'attention : ne pourrait-on pas découvrir que nous sommes simulés à l'aide d'indices indirects ?

Pour J. Barrow, la réponse est qu'aucune simulation ne peut se faire sans que les cerveaux simulés ne s'en aperçoi­vent. Si nous sommes dans une simulation, les inévitables bugs et imperfections dans le logiciel de simulation produisent des

faits incohérents, des parasites ou l'équivalent des gros pixels carrés qu'on voit apparaître sur nos écrans de télévision et qui sont l'indice d'un processus de décompression d'images. Si nous étions simulés, d'après J. Barrow, nous le saurions immanquablement à cause des imperfections inévitables de toute technique de simulation. Puisque rien de tel ne se pro­duit, nous ne sommes donc pas simulés.

Si J. Barrow a raison, l'hypothèse 5 doit être retenue : le principe d'indifférence ne peut pas s'appliquer comme le propose Bostrom car, à cause des défauts inhérents aux simulations, tout se passe comme si nous voyions la cou­leur de la bille choisie. On pourrait répondre à J. Barrow que rien ne permet d'affirmer que les simulations menées dans le futur seront toujours imparfaites, mais il y a une meilleure réponse encore.

Est-il bien certain que nous ne sommes pas sans cesse confrontés à des imperfections et incohérences de la simula­tion dans laquelle nous sommes peut-être plongés ? Notre monde physique n'est-il pas étrange ? La mécanique quantique n'est-elle pas illogique ! Pourquoi n'arrive-t-on pas à réconcilier la théorie de la relativité et la mécanique quantique qui,jusqu'à présent, sont contradictoires ? Ces bizarreries ne sont-elles pas des preuves indirectes que nous sommes dans une simulation ? Les paradoxes rencontrés en logique, les com­portements humains incompréhensibles (par exemple l'ab­surde attitude des Américains voulant à tout prix attaquer l'Irak), mille autres faits du monde qui nous entoure ne pourraient-ils pas être interprétés comme des indices qu'il y a des bugs dans le logiciel de simulation qui commande notre monde ?

Finalement, la critique de J. Barrow niant qu'on puisse uti­liser le principe d'indifférence ne sera pas retenue.

Puisqu'aucune des éventualités 1, 2, 4 et 5 ne semble sérieusement envisageable, reste donc uniquement l'éven­tualité 3 : je suis dans une simulation.

Bien sûr, nous ne prétendons pas dans les lignes qui pré­cèdent avoir définitivement tranché la question, mais en argu­mentant contre toutes les propositions qui auraient pu conduire à retenir une autre éventualité que l'éventualité 3, nous avons montré que le problème soulevé par le raisonnement de N. Bos­trom est délicat et qu'il n'est vraiment pas commode d'exclure que nous sommes dans une simulation.

Suivons maintenant Descartes, oublions tout cela et retour­nons à nos préoccupations habituelles.

Nick BOSTROM, Simulation Argument : site internet donnant accès aux prin­cipaux articles sur le sujet : http://www.simulation-argument.com/

Nick BOSTROM, Are You Living In a Computer Simulation ? in Philosophical Quarterly, vol. 53, pp. 243-255,2003.

BrianWEATHERCON,Are YouaSim ?inPh/tosoph/co/Ouorter/y,vol.53,pp.425-31,2003.

R. KURZWEIL, The Age qf Spiritual Machines : When computers Exceed Human Intelligence, Viking, New York, 1999.

Robin HANS0N, How to Live in a Simulation, vol. ?, in Journal of Evolution and Technology, 2001.

Bruno MARCHAL (voir http://iridia.ulb.ac.be/ffmarchal/ ) propose une réflexion originale sur les questions de cet article.
•  Fumio Hara, de l'Université de Tokyo, a construit une tète d'une femme japonaise commandée par des vérins hydrauliques et qui peut exprimer six expressions faciales distinctes (et évidemment tous les intermédiaires). Peut-être pourrons-nous un jour fabriquer des robots qui ne seront pas distinguâmes d'un être humain et dont les cerveaux simuleront parfaitement le cerveau humain La connaissance des sensations imposées de l'extérieur ne leur permettrait pas de savoir s ils sont réels ou virtuels La question posée par l'article est : cette situation arrivera-t-elle et sommes-nous des robots ?