Du transistor au neurone : l’ordinateur humain

Peut-on imaginer fabriquer un ordinateur biologique, dont les bits auraient été remplacés par des hommes ? L’idée peut sembler farfelue, mais elle permet de soulever la question de l’émergence de la conscience, en mettant en parallèle le neurone et le transistor. Voyage vers la frontière ténue qui sépare l’humain de la machine…

L’homme réduit à un transistor

Dans le roman d’Adrian Tchaikovsy, Dans la toile du temps (2015), une civilisation intelligente d’araignées parvient à mettre en place des technologies complexes grâce à des matériaux biologiques, principalement la soie qu’elles produisent ; leur usage des matériaux minéraux ou métalliques étant limité, voire inexistant.

Vers la fin du roman, dans un chapitre fascinant, les araignées utilisent des millions de fourmis pour concevoir ce qui pourrait s’apparenter à un ordinateur capable de stocker et de transmettre de l’information :

Autour de lui, dans un réseau de tunnels et de salles dont la géographie est constamment renouvelée, s’active une colonie de cent millions d’insectes. Leurs interactions ne sont pas aussi rapides que celles d’un système électronique créé par les humains, mais le minuscule cerveau de chaque fourmi constitue une unité de mémoire et un moteur de décision. La colonie elle-même ne peut pas estimer sa capacité de calcul globale. C’est là une forme d’informatique « en nuage » : elle ne repose pas sur la rapidité, mais sur un vaste et complexe ensemble de ressources qui peuvent être reconfigurées à l’infini.

Ce concept surprenant rappelle un passage du Problème à trois corps de Liu Cixin (2008), dans lequel ce ne sont pas des fourmis mais bien des hommes qui occupent le rôle des transistors d’un ordinateur.

Liu Cixin détaille sur plusieurs pages le fonctionnement d’un tel système, et c’est en fait plutôt simple à comprendre. Trois soldats sont disposés en triangle : les deux soldats de la base, chargés de l’entrée des signaux, sont appelés Entrée 1 et Entrée 2, tandis que celui du sommet, chargée de la sortie des signaux, est appelé Sortie. Chaque soldat se voit remettre un drapeau blanc, représentant 0, et un drapeau noir, représentant 1. Vous l’avez deviné : il s’agit d’un système binaire, comme celui à la base de notre informatique. Sortie doit observer les drapeaux levés par Entrée 1 et Entrée 2 et, selon les ordres qui lui sont donnés, lever un drapeau à son tour.

Sortie lèvera son drapeau noir seulement si Entrée 1 et Entrée 2 ont tous les deux levés leur drapeau noir. Dans tous les cas contraires, il lèvera son drapeau blanc. Il s’agit de la porte logique ET. Dans le cas d’un circuit électrique, une lampe s’allumerait si Entrée 1 ET Entrée 2 lèvent leur drapeau noir.

Pour la seconde porte logique, Sortie lèvera son drapeau noir si Entrée 1 ou Entrée 2 lèvent au moins un drapeau noir. Sinon, il lèvera son drapeau blanc. Il s’agit de la porte logique OU. Une lampe s’allumerait si Entrée 1 OU Entrée 2 lèvent leur drapeau noir.

Au total, sept portes logiques sont présentées : NON-ET, OU-exclusif, NON-OU exclusif, une porte à trois états, et enfin NON (dans ce cas, seulement deux soldats sont nécessaires, Sortie levant le drapeau contraire à Entrée).

Une porte composée de trois hommes n’est guère capable de résoudre des calculs : dix millions de portes sont bientôt assemblées en un système unique, un circuit logique.

Trente millions de soldats affublés de drapeaux noirs et blancs, commandés par un officier hurlant ses ordres, s’agitent et reproduisent donc fidèlement le cœur d’un ordinateur, de l’unité centrale jusqu’à la mémoire externe, en passant même par l’affichage, là encore formé par des milliers de drapeaux de différentes couleurs, composant autant de pixels. Les dysfonctionnements du système se règlent par la mise à mort des soldats coupables ; il faut alors redémarrer le système.

Le résultat d’une opération peut facilement durer une année entière, la capacité de calcul du système étant fortement limitée par la vitesse d’action des soldats. Un homme qui lève un drapeau est bien plus lent qu’un transistor.

L’un des personnages, en observant cette myriade de soldats qui constituent autant de 0 et de 1, résume :

Tout cela est très intéressant […]. Chaque unité a une action très simple à réaliser, mais l’ensemble est d’une très grande complexité !

Quelques décennies avant Liu Cixin, l’écrivain et physicien soviétique Anatoly Dneprov, dans sa nouvelle The Game (1961), présente une expérience similaire, dans laquelle les 1400 délégués du Congrès soviétique, réunis au stade Lénine, participent à un jeu mathématique organisé par le professeur Zarubin. Ils en connaissent les règles – communiquer de manière précise les uns avec les autres en utilisant uniquement des 0 et des 1 – mais pas du tout la finalité, aussi après plusieurs heures de jeu en plein soleil, une jeune fille à côté du narrateur manque de s’évanouir et préfère quitter le stade.

Le lendemain, un débat est organisé par le professeur Zarubin autour du thème suivant : « les machines mathématiques peuvent-elles penser ? » Il pose deux questions à l’assemblée ; ce qu’ils ont bien pu faire hier, puis demande à ceux qui parlent portugais de lever la main, ce qui déclenche l’hilarité générale. Personne ne parle le portugais.

Zarubin secoue son carnet de notes devant la salle puis lit une phrase à voix haute : « Os maiores resultados são produzidos por – pequenos mas contínuos esforços. »

Il ajoute :

C’est une phrase en portugais. Je ne crois pas que vous puissiez comprendre ce qu’elle signifie, et pourtant c’est bien vous qui l’avez parfaitement traduit en russe, hier : « Les plus grands objectifs sont atteints grâce à des ekkedt mineurs mais continus. » Vous avez sûrement remarqué que l’un des mots n’a aucun sens, ce qui signifie que quelqu’un est parti trop tôt ou bien a violé les règles. Il faut lire « efforts ».

Tandis que le narrateur comprend qu’il s’agissait évidemment de la fille qui était située à côté de lui, Zarubin explique que les 1400 participants au jeu n’étaient que de simples transistors, transformant l’assemblée en ordinateur.

Zarubin reprend alors le thème du débat : les machines peuvent-elles penser ? Le seul moyen pour un homme de le savoir serait de devenir une machine lui-même et d’examiner son processus de pensée, ce qui a été fait par Zarubin. Et force est de constater que si les participants au jeu ont été capables de traduire une phrase du portugais vers le russe, ils n’en avaient aucune idée, de la même manière qu’un ordinateur se contente d’exécuter des calculs ou des algorithmes sans « comprendre » ce qu’il fait. A partir de là, on peut supposer qu’un ordinateur surpuissant capable de simuler une conscience humaine continuerait d’exécuter des calculs – d’aligner des 0 et des 1 – sans comprendre ce qu’il fait.

Zarubin conclut :

Si vous, éléments structurels de modèles logiques, n’aviez aucune idée de ce que vous étiez en train de faire, alors pouvons-nous vraiment discuter de la « pensée » d’appareils électroniques composées de différentes pièces qui sont elles-mêmes incapables de penser ? […] Nous avons prouvé que même la simulation la plus parfaite de la pensée machine n’est pas le processus de pensée lui-même.

L’homme réduit à un neurone

Comme le rappelle l’un des personnages de la nouvelle de Dneprov, les participants à ce jeu ont été réduits à un simple transistor, ou même à simple neurone, et personne n’oserait dire d’un neurone qu’il est capable de penser – c’est bien l’ensemble des neurones qui est capable de penser et d’être conscient en tant qu’individu.

Car il est vrai que le neurone est une simple cellule, minuscule et capable de bien peu de choses, à la manière d’un transistor. Dneprov anticipe là une expérience de pensée connue sous le nom de cerveau chinois. Si chaque chinois simulait l’action d’un neurone, l’ensemble formerait-il un esprit conscient ? Difficile à dire. A partir de combien de neurones émerge la personnalité, les émotions, la conscience de soi ? Sans doute plus que le nombre de chinois, ou même d’êtres humains. L’émergence de la conscience reste un mystère.

Dans une vidéo publiée sur Youtube, le vulgarisateur Michael Stevens reproduit l’expérience du professeur Zarubin avec quelques centaines d’habitants de sa ville natale de Stilwell (Etats-Unis), parvenant à transmettre des informations simples de la même manière qu’un œil transmet une information visuelle au cerveau. Mais Stevens a-t-il recréé un cerveau, un ordinateur, ou bien les deux ?

En définitive, il semblerait que si une intelligence artificielle parvenait un jour à passer le test de Turing, imitant parfaitement une conversation humaine et trompant une personne qui discuterait avec elle, si cette même intelligence artificielle affirmait être consciente, personne ne pourrait pour autant prouver qu’elle le soit réellement, et qu’il ne s’agisse pas plutôt d’une simulation parfaite de la conscience. Cela dit, personne ne peut affirmer non plus avec certitude que notre conscience ne soit pas une pure illusion…