3 - Poisson 
Esprit et machines

Simmons fit le tour de la table, servant ˆ chacun des invitŽs une sole meuni�re 
lŽg�rement grillŽe et nageant dans le beurre. Snow rŽflŽchissait au paradoxe 
soulevŽ par Wittgenstein. Comment une suite de 0 et de 1 sur une bande, ou aussi 
bien un schŽma de MARCHE/ARRET parmi les neurones du cerveau, pouvaient-ils 
conduire ˆ des pensŽes ? Comment Žtait-il possible que de simples collections de 
symboles plus ou moins arbitraires, Žcrits sur une bande ou stockŽs dans le 
cerveau, puissent signifier des choses aussi diverses que le son d'un carillon, 
l'Žclair de la foudre, ou ce paradoxe m�me de la relation entre symboles et 
pensŽe qui l'intriguait en ce moment ?
Il devait bien y avoir quelque chose de plus dans la pensŽe qu'un simple 
changement d'une suite de 0 et de 1 en une autre suite, indŽpendamment de la 
vitesse ou de la mani�re dont ces suites Žtaient transformŽes les unes dans les 
autres. Turing n'Žtait certainement pas sŽrieux, n'est-ce pas, quand il 
prŽtendait qu'une machine ne faisant rien d'autre que ce genre de mŽlange de 
symboles Žtait effectivement capable de reproduire les processus de pensŽe de 
l'esprit humain ?
Exprimant cette g�ne, Snow se tourna vers Turing et dit : "Je pense parler au 
nom de la plupart d'entre nous si je dis que je trouve littŽralement incroyable 
d'imaginer qu'une machine qui ne fait que dŽplacer des 0 et des 1 sur une bande 
puisse �tre capable d'une pensŽe humaine. Je pense que nous saisirions mieux 
l'essence de votre argument si vous vouliez bien nous expliquer exactement 
comment vous pensez que ces suites de symboles dans votre machine en viennent ˆ 
signifier quelque chose."
DŽlaissant un moment le mets raffinŽ de son assiette, Haldane appuya la demande 
de Snow. "Je suis aussi troublŽ par la fa�on dont les manipulations de suites de 
symboles sur le ruban d'une machine ˆ calculer peuvent conduire ˆ des objets 
aussi sŽmantiquement riches que ce filet de sole dans mon assiette. Dites-moi, 
Turing, o� dois-je regarder sur votre ruban pour trouver cette dŽlicieuse 
bouchŽe de poisson, eh ?" demanda-t-il, tenant un morceau de sole au bout de sa 
fourchette. "RŽpondez ˆ cela, si vous voulez, et je vous accorderai que votre 
machine est capable d'avoir des pensŽes comme les miennes."
Voyant les difficultŽs qu'il devrait affronter pour tenter d'expliquer comment 
cette transfiguration de la syntaxe ˆ la sŽmantique pourrait bien se passer, 
Turing regarda fixement la pluie qui battait les vitres de plus en plus fort. 
S'agitant nerveusement sur sa chaise, il Žtait quelque peu dŽroutŽ par le 
paradoxe que soulevait Snow et par l'intensitŽ avec laquelle Haldane avait 
prŽsentŽ sa question. Comment pouvait-on expliquer scientifiquement une douleur 
ˆ l'estomac ou une conviction bien ancrŽe ? Avec quel genre d'argument logique 
puis-je bien convaincre un matŽrialiste farouche comme Haldane ou Schršdinger 
que l'intelligence consiste seulement ˆ suivre le bon ensemble de r�gles ? Quoi 
que je dise, Wittgenstein s'opposera ˆ moi jusqu'ˆ son dernier souffle. Pourquoi 
donc ai-je acceptŽ de venir ce soir ˆ cette rŽunion ? La situation est vraiment 
dŽsespŽrŽe. Mais puisque j'y suis jusqu'au cou, autant aller de l'avant et 
espŽrer une issue favorable.
Buvant une longue gorgŽe d'eau, et s'Žclaircissant la voix, Turing se la�a dans 
une explication sur la mani�re dont les symboles sur le ruban pourrait donner 
lieu ˆ une pensŽe vŽritable. D'abord il expliqua au groupe comment n'importe 
quel type d'idŽe, d'objet ou d'action qui peut s'exprimer dans un langage peut 
�tre codŽ en une suite de 0 et de 1 sur le ruban d'un calculateur.
"Prenons le filet de sole dont parlait Haldane ˆ l'instant. Supposons que je 
veuille reprŽsenter le mot SOLE sur le ruban de ma machine. Une mani�re simple 
de procŽder est de construire un schŽma dans lequel une suite unique de 0 et de 
1 correspond ˆ chaque lettre de l'alphabet latin. Il y beaucoup de fa�ons de 
pratiquer ce codage, mais laissez-moi vous en prŽsenter une. Prenez un bloc de 
huit cases contenant chacune soit un 0 soit un 1. Il y a donc en tout 
2´2´2´2´2´2´2´2 = 28 = 256 suites diffŽrentes de 0 et de 1 que peut montrer ce 
bloc de huit cases. Je peux donc associer ˆ chacune de ces suites un symbole 
parmi 256, et 256 symboles suffisent largement ˆ reprŽsenter toutes les lettres 
et symboles que l'on peut trouver dans un grand dictionnaire ou dans les langues 
europŽennes. Je peux dŽcider par exemple que la suite 00000001 reprŽsente la 
lettre minuscule a, la suite 00000010 la lettre b et ainsi de suite. De cette 
mani�re, on peut attribuer ˆ chaque lettre de l'alphabet, aux chiffres de 0 ˆ 9, 
aux signes de ponctuation et aux autres symboles typographiques comme ¤ ou & 
leur code personnel sous la forme d'une suite de huit 0 et 1. En utilisant ce 
codage, je peux reprŽsenter le mot SOLE sur le ruban par un ensemble de quatre 
groupes de huit cases, un groupe pour chacune des lettres du mot. En utilisant 
les marques de ponctuations et les autres symboles de la langue Žcrite, je 
pourrai de la m�me mani�re coder sur le ruban n'importe quelle notion qui peut 
�tre communiquŽe sous forme Žcrite."
"Ceci est parfaitement clair," dit Schršdinger, "mais cela revient simplement ˆ 
remplacer un ensemble de symboles par un autre."
"C'est juste," acquies�a Turing. "Une fois que nous avons codŽ une pensŽe ou une 
situation particuli�re sous la forme d'une suite de 0 et de 1, le programme de 
la machine convertit cette suite en une autre suite. Cette nouvelle suite peut 
alors �tre dŽcodŽe en une sŽrie d'affirmations en langage ordinaire, pouvant par 
exemple exprimer la texture et le gožt du morceau de sole au bout de la 
fourchette de Haldane, ou m�me les pensŽes qui traversent son esprit ˆ l'idŽe du 
plaisir qu'il recevra quand il mordra dedans."
"Etes-vous en train de dire que les r�gles par lesquelles le programme modifie 
les symboles sur le ruban accomplissent le m�me chose que le cerveau humain 
quand il bascule ses neurones d'ARRET ˆ MARCHE au cours d'une pensŽe ?" s'enquit 
Snow, les sourcils levŽs en signe d'incrŽdulitŽ.
"Essentiellement, oui. Bien sžr, nous ne savons pas encore vraiment quelles 
r�gles emploie le cerveau. En fait, nous ne savons pas vraiment comment le 
cerveau stocke et utilise ces r�gles."
"Je me fais de la pensŽe une autre idŽe qu'une transformation purement passive 
de symboles suivant une r�gle prŽdŽfinie," intervint brutalement Haldane. "Mais, 
Žventuellement, si le programme a, d'une certaine fa�on, la capacitŽ d'apprendre 
en examinant le rŽsultat de ses actions et en les modifiant en consŽquence, 
alors ce serait, peut-�tre, suffisant pour que nous soyons tentŽs d'appeler un 
tel programme intelligent."
Reprenant la parole, Turing continua ˆ expliquer comment, ˆ son avis, le cerveau 
fabriquait des pensŽes. "Je suis convaincu que ce que fait une machine en 
modifiant des symboles sur une bande est l'exact analogue de ce que fait le 
cerveau quand il modifie les ensembles de neurones qui dŽchargent et engendre 
ainsi ce que nous appelons des pensŽes."
"Pur sophisme," s'Žcria Wittgenstein. "O� voyez-vous donc la signification du 
mot SOLE dans toute cette symbolique ? Comment pouvez-vous prŽtendre que des 
suites de 0 et de 1 assemblŽs selon un code compl�tement arbitraire puissent en 
quoi que ce soit signifier ce filet de poisson accrochŽ ˆ l'extrŽmitŽ de la 
fourchette de Haldane ? L'acte de nommer ce morceau de protŽine que nous 
appelons un "filet de sole" ne peut survenir que dans le contexte d'un langage 
dŽveloppŽ, un langage dans lequel existent dŽjˆ des r�gles pour identifier des 
objets, les nommer et effectuer des opŽrations ˆ leur sujet. Les crit�res mis en 
jeu ne sont pas la logique des machines, des rubans ou des codages, mais la 
pratique effective d'une communautŽ de langage. Vous ne pouvez pas transmettre 
ce genre de signification ˆ une suite morte de symboles en construisant 
simplement un ensemble de r�gles pour transformer ces suites en de nouvelles 
suites."
"Voulez-vous dire que la signification Žmerge seulement d'une sorte de consensus 
social qui nous permet de communiquer les uns avec les autres par le langage 
naturel ?" demanda Snow d'un ton surpris.
"Exactement. La signification ne peut venir que de la participation ˆ un jeu de 
langage. Des machines ˆ calculer ne joueront jamais au genre de jeu auquel nous 
jouons en ce moment. Turing se trompe compl�tement en imaginant que ce qu'une 
machine consid�re comme un filet de sole a une quelconque ressemblance avec ce 
que nous considŽrons comme un filet de sole. Nous avons un avis commun sur ce 
morceau de poisson parce que nous partageons le m�me genre de vie. Si la machine 
jouait un jour ˆ un jeu de langage, ce dont je doute fort, ce ne serait sžrement 
pas ˆ l'un des jeux auxquels jouent les humains. En dernier ressort, la 
signification proc�de de la pratique sociale, et non de la logique."
Wittgenstein s'excitait de plus en plus en exposant ses idŽes, et devant cette 
agitation Schršdinger se pencha et posa la main sur le bras de son concitoyen 
pour l'apaiser un peu. "Un instant, Wittgenstein," lui dit-il, "Turing n'a peut-
�tre pas tout ˆ fait tort ici. M�me si la signification que nous attachons ˆ 
cette dŽlicieuse bouchŽe de sole vient effectivement de notre expŽrience humaine 
et de notre participation ˆ une communautŽ de vie, il n'est pas clair ˆ mes yeux 
qu'il soit impossible que cette signification soit codŽe dans les circuits de 
neurones de notre cerveau comme Turing affirme qu'elle pourrait �tre codŽe sur 
le ruban d'une machine ˆ calculer. MalgrŽ tout, je ne vois pas au terme de ce 
raisonnement comment le comportement intelligent associŽ ˆ un apprentissage 
intervient dans le schŽma proposŽ par Turing."
"Oui," intervint Snow. "D'apr�s la description de Turing, il ne semble pas que 
sa machine puisse faire autre chose que de dŽplacer des symboles sur la bande, 
en suivant les instructions prŽdŽfinies de son programme. Mais ce n'est pas du 
tout le comportement des humains. Nous sommes toujours pr�ts ˆ changer d'avis, ˆ 
nous adapter ˆ des circonstances nouvelles, et ˆ rŽagir diffŽremment devant des 
situations en apparence identiques. En gŽnŽral, notre comportement est Žtrange 
et imprŽvisible. Si une machine ˆ calculer ne peut faire cela, je ne vois pas 
comment elle pourrait un jour montrer quelque chose d'analogue ˆ l'intelligence 
humaine."
Turing rŽpondit qu'il Žtait d'accord avec Snow et Schršdinger. "Une machine ˆ 
calculer ne montrera une certaine intelligence que si elle peut modifier son 
programme en rŽaction ˆ de nouvelles informations. Pour cela, il faut que la 
machine lisant les donnŽes prŽsentŽes sur le ruban dispose de r�gles pour 
modifier les r�gles de fonctionnement qu'elle utilise ˆ cet instant lˆ, des 
mŽtar�gles, si vous voulez. De cette mani�re, le programme peut apprendre et 
s'adapter Ñ exactement comme le font les humains Ñ ˆ un environnement qui 
change, et aux circonstances qu'il "per�oit" ˆ travers les donnŽes d'entrŽe sur 
le ruban."
Schršdinger intervint tranquillement : "Pour cela, vous devez accorder ˆ la 
machine les m�mes donnŽes sensorielles que celles dont nous disposons, et lui 
permettre de "grandir", en quelque sorte, dans le m�me environnement qu'un 
humain, n'est-ce pas ?"
Turing rŽflŽchit un moment, et rŽpondit : "Permettez-moi de reformuler quelque 
peu ma th�se sur la possibilitŽ logique d'une machine pensante. Elle s'appuie en 
grande partie sur la possibilitŽ d'imiter pratiquement tout organe humain par un 
mŽcanisme. Le microphone imite l'oreille, et la camŽra l'Ïil. Les questions dont 
nous discutons concernent essentiellement le syst�me nerveux. Nous pouvons 
certainement construire des mod�les Žlectriques relativement prŽcis copiant la 
structure des nerfs, bien que cela n'ait gu�re d'utilitŽ pratique. Cela 
ressemblerait ˆ vouloir ˆ tout prix construire des voitures avec des jambes, 
plut™t que d'utiliser des roues."
"Voulez-vous vraiment dire que, pour construire une machine pensante, nous 
devrions prendre un homme et nous efforcer de remplacer chaque organe par une 
machinerie ?" attaqua Haldane. "Ce serait sans nul doute un travail colossal, et 
m�me si c'Žtait possible, la crŽature n'aurait aucun contact avec la nourriture, 
le sexe, le sport, et bien des choses qui prŽsentent un intŽr�t considŽrable 
pour les �tres humains."
"Bien que ce soit lˆ sans doute la mani�re assurŽe de produire une machine 
pensante, elle me semble beaucoup trop lente et impraticable," rŽpondit Turing. 
"Ma proposition est au contraire d'essayer de construire un "cerveau" qui 
n'aurait pas de corps, et en ne lui fournissant gu�re que la vue, l'ou•e et la 
parole. Bien entendu, il nous faudra alors trouver les branches de la pensŽe 
dans lesquelles la machine pourrait montrer ses capacitŽs. A ce sujet, je pense 
que des domaines comme le jeu d'Žchecs, la cryptographie ou les mathŽmatiques 
sont de bons candidats parce qu'ils nŽcessitent peu de contacts avec le monde 
extŽrieur."
"Supposons pour le moment que vous puissiez donner ˆ votre machine ces entrŽes 
sensorielles," dit Haldane. "Comment pourrait-elle les utiliser en pratique pour 
modifier son programme, et apprendre ainsi quelque chose, m�me dans un domaine 
aussi restreint que les Žchecs ou les mathŽmatiques ?"
"Eh bien, " rŽflŽchit Turing, "nous commencerions sans doute avec une machine 
dotŽe de capacitŽs minimales, ˆ peine capable de mener des calculs ŽlaborŽs ou 
de rŽagir de mani�re disciplinŽe ˆ des ordres. Ensuite, en agissant sur elle 
d'une mani�re qui imite l'Žducation, nous pouvons espŽrer modifier la machine 
jusqu'ˆ pouvoir attendre des rŽactions prŽcises ˆ certaines commandes."
"Prenons un domaine tr�s rŽduit comme les mathŽmatiques," dit Wittgenstein. 
"Comment la machine pourrait-elle apprendre les mathŽmatiques ?"
"Dans le cas des mathŽmatiques, cela nŽcessiterait d'informer la machine de 
l'existence d'objets comme les points et les lignes, et des opŽrations logiques 
permettant de construire de nouveaux ensembles. Mais je ne peux pas vous dŽcrire 
compl�tement en dŽtail la fa�on de procŽder, pour la simple raison que je ne la 
connais pas, pas encore du moins! C'est le principal axe de nos recherches en ce 
moment. Mais je suis pleinement convaincu qu'il n'y a pas de barri�re logique ou 
technique qui s'oppose ˆ ce projet. Ce qui manque pour le moment, c'est la 
volontŽ de la faire, et bien entendu les ressources financi�res."
Haldane remarqua alors : "Vous parliez il y a un moment des travaux de McCulloch 
et Pitts sur la modŽlisation des circuits neuronaux du cerveau par des formules 
mathŽmatiques qui pourraient, en principe, �tre rŽalisŽes par des composants 
Žlectroniques modernes comme des relais, des lampes ou des valves. Il est 
possible qu'un ajustement de l'intensitŽ des connexions entre les neurones 
artificiels d'un tel circuit donne ˆ la machine la capacitŽ d'apprendre et de 
s'adapter."
"C'est exactement ce que je pense," rŽpliqua Turing. "Laissez-moi vous montrer ˆ 
quoi pourrait ressembler l'un de ces rŽseaux de neurones artificiels."
Reprenant son carnet, Turing esquissa un diagramme montrant comment pourrait 
�tre agencŽ un rŽseau de neurones idŽalisŽs, tels que McCulloch et Pitts les 
avaient imaginŽs.
FIGURE
"Je consid�re le schŽma MARCHE/ARRET des neurones d'entrŽe comme l'analogue des 
symboles d'entrŽe sur le ruban du calculateur, et le schŽma de dŽcharge des 
neurones de sortie comme l'Žquivalent des symboles de sortie sur le ruban. Je 
dis alors que les connexions entre neurones transforment le schŽma de la couche 
d'entrŽe en schŽma de sortie, et qu'elles accomplissent donc la m�me fonction 
que le programme du calculateur. Par consŽquent un rŽseau de neurones et une 
machine de Turing sont parfaitement Žquivalents. Ce que l'un peut faire, l'autre 
le peut aussi."
"Cela signifie-t-il que McCulloch et Pitts ont dŽmontrŽ qu'il n'y avait pas de 
diffŽrence entre un rŽseau de neurones mathŽmatiques et le calculateur abstrait 
dont vous parliez plus t™t ?" demanda Snow.
"Oui, c'est prŽcisŽment ce qu'ils ont dŽmontrŽ," rŽpondit Turing, bŽgayant dans 
son enthousiasme ˆ dŽcrire son travail. "Le rŽseau de neurones et la machine 
effectuent exactement les m�mes opŽrations. Dans le jargon mathŽmatique, nous 
disons qu'ils sont isomorphes. Tout ce que peut faire un rŽseau de neurones peut 
�tre accompli par une de mes machines ˆ calculer, et vice-versa. Ainsi, pour 
prendre un exemple, l'Žtat mental de Haldane quand il pense au morceau de sole 
au bout de sa fourchette peut �tre considŽrŽ comme une simple Žtape du programme 
d'un calculateur. Puisque nous pouvons construire aussi bien des rŽseaux de 
neurones que des calculateurs en utilisant des dispositifs Žlectroniques, nous 
pouvons les considŽrer comme fournissant une thŽorie ŽlectromŽcanique des Žtats 
mentaux. En un sens, la biologie Žgale l'Žlectronique."
"Vous �tes bien silencieux, Schršdinger," observa Snow. "En tant que physicien, 
que pensez-vous de l'idŽe de construire un cerveau artificiel avec les lampes, 
des fils et des valves ?"
"Un point m'est obscur pour le moment." rŽpondit Schršdinger, "Turing pense-t-il 
que nous puissions construire une machine Žlectronique qui imite certaines 
fonctions du cerveau humain ? Ou veut-il dire qu'il est possible de copier 
fid�lement, de reproduire un cerveau humain sous forme Žlectronique ? Je me 
demande, Turing, si vous pouvez Žclairer ce point ?"
"Je vais essayer. Je ne pense pas que cela fasse de toute fa�on une grande 
diffŽrence pour ce qui est de montrer un comportement intelligent ˆ la mani�re 
humaine. A moins bien sžr que vous pensiez qu'il y a quelque chose de 
particulier dans la constitution matŽrielle du cerveau humain qui explique ses 
capacitŽs cognitives, et que ce quelque chose de particulier ne puisse �tre 
capturŽ dans des circuits Žlectroniques."
"Eh bien, je ne pense pas qu'il y ait besoin d'un voyant extralucide pour 
deviner votre position lˆ-dessus, Turing," dit Snow en souriant. "Mais dites-la 
nous quand m�me."
"Bien entendu," rŽpondit Turing. "Mes sentiments sont clairs et dŽfinis sur le 
sujet. Je pense que la composition matŽrielle de notre cerveau n'a absolument 
rien de spŽcial, du moins en ce qui concerne la pensŽe."
"Vous pourriez dire que l'essence n'est pas essentielle, eh ?" plaisanta 
Haldane.
"C'est certainement ne fa�on de prŽsenter les choses," rŽpondit Turing avec une 
ombre de sourire. "Ce qui est essentiel, par contre, c'est ce que les composants 
du cerveau, les neurones, font effectivement, et la mani�re dont ils sont reliŽs 
les uns aux autres. Ce sont ces aspects structurels et fonctionnels qui donnent 
au cerveau sa capacitŽ cognitive. Si nous pouvons construire des neurones 
Žlectroniques et les relier comme ils sont connectŽs dans le cerveau humain, je 
suis convaincu que ce dispositif Žlectronique contiendrait des r�gles gouvernant 
la pensŽe et l'action, r�gles Žquivalentes ˆ celles qui sont prŽsentes dans le 
cerveau humain. Cette machine possŽderait les m�mes fonctionnalitŽs que le 
cerveau humain. L'intelligence de la machine vient de la complexitŽ de 
l'ensemble des r�gles qui constituent le programme, et non des Žtapes 
individuelles de ce programme, qui peuvent �tre extr�mement ŽlŽmentaires comme 
nous l'avons vu dans l'addition de 1 et de 2."
Snow vit que par ces assertions audacieuses, Turing identifiait le mŽcanisme du 
calcul avec la continuitŽ entre apprentissage, traitement des informations et 
activitŽ de connaissance, continuitŽ affirmŽe par les psychologues du 
comportement, les bŽhavioristes.
Schršdinger prŽcisa : "Comme je vois les choses, vous remplacez le rŽseau causal 
des relations stimulus-rŽponse des bŽhavioristes par la notion de rŽseau des 
r�gles mŽcaniques. Vous affirmez que l'on peut ainsi capturer la grammaire 
logique de l'intention, du choix et de l'apprentissage dans le cadre d'un 
ensemble de r�gles mŽcaniques, r�gles qui peuvent s'inscrire dans le programme 
d'un calculateur."
Wittgenstein repoussa sa chaise et se dressa d'un bond, incapable de se 
contr™ler plus longtemps. Allant et venant ˆ grandes enjambŽes ˆ travers la 
pi�ce, les yeux perdus dans un royaume au-delˆ du temps et de l'espace qu'il 
Žtait seul ˆ voir, il contesta les dires de Turing.
"Dans quelles circonstances peut-on dire que quelqu'un suit une r�gle ? Si vous 
poussez des boutons marquŽs 20, 25 et ´ sur un calculateur, cela ne veut pas 
dire que vous avez calculŽ 20´25. La question "Comment �tes-vous arrivŽs ˆ la 
bonne rŽponse ?" est une question au sujet des r�gles utilisŽes. Apporter la 
bonne rŽponse ne permet pas de dire que quelqu'un, ou quelque chose, a calculŽ."
"Mais Turing dit que la seule chose importante est le comportement, et non la 
mani�re dont le comportement a ŽtŽ acquis," remarqua Schršdinger.
"Et moi je dis que si le fait de calculer nous para”t mŽcanique," continua 
Wittgenstein en lan�ant un regard furieux ˆ celui qui avait la tŽmŽritŽ de 
l'interrompre, "c'est que l'homme qui effectue le calcul se comporte comme une 
machine. Ce n'est pas parce qu'on peut mŽcaniser une r�gle que celle-ci est 
"mŽcanique". Toute r�gle peut �tre considŽrŽe comme la description d'un 
mŽcanisme. Les machines de Turing ne sont rien d'autre que des hommes qui 
calculent. Mais la question de savoir si une machine pense ne peut recevoir 
aucune rŽponse, tout simplement parce que c'est une question absurde, 
logiquement absurde. Autant demander de quelle couleur est 3 !"
Ensuite, comme un ballon qui se dŽgonfle doucement, Wittgenstein parut ˆ bout de 
ressources. Avec un air de distraction peinŽe sur le visage, il retourna ˆ sa 
chaise et s'y laissa lourdement retomber en regardant fixement la table, 
paraissant se dŽsintŽresser compl�tement de la conversation.
Pendant ce temps, Haldane s'Žtait tournŽ vers Turing et lui dit : "Les arguments 
de Wittgenstein semblent indiquer que la pensŽe est bien autre chose que le fait 
de suivre un ensemble de r�gles. Je me demande comment on pourra un jour savoir 
si l'un de vos "cerveaux Žlectroniques" pense rŽellement, ou s'il se contente 
juste de produire des rŽsultats qui dŽcoulent d'un ensemble de r�gles, et qui 
donnent l'impression qu'il pense comme vous et moi. Peut-on imaginer une Žpreuve 
objective qui permettrait de distinguer ces deux possibilitŽs ?"
"Comment peut-on savoir si un autre �tre humain pense rŽellement ?" rŽpliqua 
Turing d'un air maussade. "Nous n'avons jamais acc�s ˆ la vie intŽrieure de 
personne. Tout ce que nous pouvons faire, c'est porter un jugement basŽ sur le 
comportement d'une personne. Je vous dis ou je vous fais quelque chose, et vous 
rŽagissez d'une certaine mani�re. Je rŽagis ensuite ˆ votre rŽponse, et ainsi de 
suite. Apr�s une suite de telles interactions, je dŽcide que vous �tes un �tre 
pensant et non un morceau de mati�re inanimŽe comme ce pichet d'eau ou le 
couteau ˆ c™tŽ de mon assiette. C'est de cette mani�re que nous considŽrons que 
les autres �tres humains pensent comme nous."
"Comment pourriez-vous vŽrifier empiriquement cette forme de pensŽe ?" demanda 
Snow.
"Je pense que je proposerai l'Žpreuve suivante. Installons dans la pi�ce d'ˆ 
c™tŽ un calculateur programmŽ pour penser comme un �tre humain, et un humain 
pr�s de lui. Donnons leur ˆ chacun une liaison du genre tŽlŽtype avec une 
machine ˆ Žcrire placŽe ici. Je vous demanderai alors de vous installer ˆ la 
machine ˆ Žcrire et de poursuivre une conversation par Žcrit, soit avec l'homme, 
soit avec le calculateur, mais sans que vous sachiez auquel des deux vous avez 
affaire."
"Quel genre de question pourrai-je poser ?" demanda Snow.
"Vous pourrez poser toutes les questions que vous voulez, dŽclarer tout ce que 
vous voulez, et de mani�re gŽnŽrale poursuivre une conversation comme nous 
l'avons fait ce soir."
Ah, pensa Schršdinger, Turing est en train de proposer une expŽrience de pensŽe 
pour illustrer ces notions. Cela lui rappela sa propre, et dŽsormais cŽl�bre, 
expŽrience de pensŽe sur le chat dans la bo”te fermŽe, qui illustrait si bien 
les paradoxes entourant l'acte de la mesure en mŽcanique quantique.
"Supposons donc que vous puissiez interagir de cette mani�re avec la personne 
Ñ ou la machine Ñ qui est dans la pi�ce voisine," continuait Turing. "Supposons 
que vous y passiez plusieurs heures, ˆ plusieurs reprises. Si ˆ la fin de 
l'expŽrience vous n'�tes pas capable de distinguer l'homme de la machine d'une 
fa�on fiable, alors je prŽtends que la machine est intelligente, ou que vous, 
l'homme, ne l'�tes pas. Par consŽquent, si vous �tes pr�t ˆ admettre que les 
hommes sont intelligents, je ne vois pas comment vous pourriez refuser les m�mes 
droits ˆ la machine. Apr�s tout, c'est exactement la procŽdure que j'emploie en 
ce moment pour dŽcider que vous �tes intelligent : en observant vos rŽactions ˆ 
ce que je dis et ˆ ce que je fais en diverses circonstances, je conclue que vous 
�tes un �tre pensant comme moi. Ce n'est pas parce que vous avez une moustache, 
deux yeux, ou toute autre raison liŽe ˆ votre apparence physique. C'est 
uniquement parce que vous agissez et rŽagissez d'une certaine mani�re que je 
consid�re comme la rŽaction normale des hommes intelligents dans ces 
circonstances."
"Vous estimez donc que cette sorte de Jeu d'imitation est une bonne Žpreuve 
objective pour dŽcider si un calculateur peut penser comme un humain. C'est bien 
lˆ votre opinion ?" demanda Snow.
"Tout ˆ fait," rŽpondit Turing.
Schršdinger intervint : "En concentrant votre Žpreuve d'intelligence sur le 
comportement externe de la machine ou de la personne, plut™t que sur son 
fonctionnement interne, vous vous placez au cÏur de la tradition bŽhavioriste de 
la psychologie." Il poursuivit en rappelant que, s'ils avaient des opinions 
variŽes sur le r™le des "Žtats mentaux" parmi les causes de la pensŽe, les 
bŽhavioristes des annŽes 20 comme J.D. Watson rejetaient fermement l'idŽe que 
les qualitŽs internes du cerveau puissent jouer un r™le quelconque dans une 
thŽorie scientifique de la pensŽe ou du comportement.
"Selon les bŽhavioristes, seules les actions visibles de l'extŽrieur peuvent 
former la base d'une thŽorie lŽgitimement scientifique du comportement," ajouta 
Haldane. "L'Žpreuve d'intelligence de Turing me semble un simple transfert de ce 
paradigme de l'homme ˆ la machine."
Tout comme les arguments des bŽhavioristes eux-m�mes, l'Žpreuve de Turing fut 
immŽdiatement attaquŽe par toutes les personnes autour de la table.
Haldane ouvrit l'assaut contre le Jeu d'imitation en arguant que "Il me semble 
que l'on en apprend gŽnŽralement plus sur la nature d'un autre �tre en le 
combattant qu'en lui obŽissant. Mais les machines ne peuvent ressentir de 
plaisir, �tre amadouŽes par la flatterie, et de fa�on gŽnŽrale ne montrent aucun 
signe de rŽaction Žmotionnelle consciente. Il me semble ˆ moi que la seule fa�on 
de savoir si une machine pense est d'�tre une machine."
"C'est un point de vie particuli�rement solipsiste qui rendrait impossible la 
communication d'idŽes," rŽpliqua Turing. "Si vous aviez raison, ce que je ne 
crois pas pour le moment, alors certes mon Jeu d'imitation ne serait pas une 
Žpreuve suffisante d'intelligence, puisque nous ne serions jamais sžr que 
quiconque d'autre pense ˆ moins d'�tre ce quelqu'un d'autre. Pourtant, je suis 
pr�t ˆ reconna”tre que vous pensez, et je soup�onne que vous �tes Žgalement pr�t 
ˆ admettre la m�me chose de moi. Je suis donc au regret de vous dire que je ne 
trouve pas votre argument convaincant. Le solipsisme n'est la rŽponse ˆ rien."
Snow revint alors dans la conversation en disant : "Peut-�tre, Turing. D'apr�s 
ce que vous avez dit jusqu'ˆ maintenant du fonctionnement d'un calculateur, il 
me semble que la machine ne fait rien d'autre que ce qu'on lui a ordonnŽ de 
faire. Elle dispose d'un jeu d'instructions qui constitue son programme, et ces 
instructions sont aveuglŽment suivies, Žtape par Žtape jusqu'ˆ l'arr�t de la 
machine. Je ne vois donc pas comment la machine pourrait faire montre 
d'imprŽvisibilitŽ, de libre arbitre, ou d'incohŽrence, ou des nombreux 
comportements que nous voyons dans la conduite humaine."
Turing rŽpondit immŽdiatement : "C'est exactement l'objection que soulevait, il 
y a un si�cle de cela, la fille de Lord Byron, Lady Ada Lovelace, quand elle 
travaillait avec Charles Babbage sur sa "machine analytique". Je vous ferai la 
rŽponse que Babbage a dž lui faire. Il est rarement facile de prŽvoir toutes les 
consŽquences d'un fait donnŽ. Il est en particulier tr�s difficile de savoir 
quelles quantitŽs seront calculŽes au cours d'un calcul menŽ en suivant un 
certain jeu de r�gles. M�me si les r�gles sont simples, prises sŽparŽment, le 
fait de traverser des milliers ou des millions d'Žtapes en respectant ces r�gles 
peut facilement engendrer des quantitŽs compl�tement inattendues. Une machine 
qui peut apprendre, et qui est capable de modifier les instructions de son 
programme en fonction des nouvelles donnŽes qui se prŽsentent, fournit une 
excellente illustration d'un tel mŽcanisme. Donc oui, sans doute la machine 
n'est-elle capable de faire que ce qu'on lui a demandŽ. Mais nous sommes nous-
m�mes incapables de prŽvoir les consŽquences de ces instructions."
Schršdinger remarqua alors : "Wittgenstein a prŽsentŽ d'excellentes raisons ˆ 
l'appui du caract�re informel du comportement humain. Il semble qu'il soit tout 
simplement impossible de fournir des r�gles de conduite qui couvrent toutes les 
ŽventualitŽs. Bref, il y a beaucoup plus dans la vie que le suivi d'un ensemble 
de r�gles. Je ne vois donc pas comment une machine, quelle qu'elle soit, et m�me 
si elle peut modifier ses r�gles, pourra jamais reproduire le comportement 
humain si certains aspects de ce comportement ne rŽpondent ˆ aucune r�gle."
Turing fut un peu ŽtonnŽ d'une telle objection, surtout venant d'un scientifique 
de la stature de Schršdinger, car il lui semblait que cela revenait ˆ nier 
l'existence d'une structure ou de schŽmas de comportement. RŽpondant ˆ 
Schršdinger, il dit : "La seule fa�on de dŽcouvrir les lois du comportement, 
c'est de les chercher. Mais nous ne pouvons jamais �tre sžrs d'avoir cherchŽ 
avec assez de soin et de persŽvŽrance. Il n'est pas impossible que les 
comportements que nous jugeons en dehors de toute r�gle soient dŽterminŽs par 
des r�gles que nous n'avons pas ŽtŽ assez intelligents ou diligents pour 
dŽcouvrir."
Schršdinger contra cette riposte en rappelant les travaux de Gšdel en logique 
mathŽmatique, ceux que Turing avait ŽvoquŽs au dŽbut du repas. "Vous nous avez 
dit vous-m�me qu'il existe des affirmations au sujet des nombres qui ne peuvent 
pas �tre dŽmontrŽs ou infirmŽs en suivant un ensemble de r�gles logiques. 
Pourtant, nous les hommes, nous voyons que ces affirmations sont nŽcessairement 
vraies, mais nous ne pouvons pas les prouver. Cela ne signifie-t-il pas qu'il y 
a des choses qu'un esprit humain peut conna”tre et qu'une machine ne pourra 
jamais conna”tre ?"
"Les rŽsultats de Gšdel n'ont rien ˆ voir ici," objecta Turing. "Son ThŽor�me 
d'IncomplŽtude suppose que le syst�me logique que l'on utilise pour prouver ou 
rŽfuter des propositions sur les nombres est cohŽrent et non-contradictoire. 
C'est ˆ dire qu'il n'est pas possible de prouver et d'infirmer simultanŽment la 
m�me proposition en utilisant les r�gles du syst�me, et que nous ne commettons 
jamais d'erreur logique en appliquant les r�gles dŽductives. Si l'une de ces 
conditions n'est pas rŽalisŽe, le thŽor�me de Gšdel ne s'applique pas. Mais les 
hommes commettent vraiment des erreurs et se comportent vraiment de fa�on 
incohŽrente. Aussi une machine qui reproduirait le comportement humain devrait 
faire de m�me. Aussi je ne vois pas que le thŽor�me de Gšdel s'applique ici."
 S'Žcartant un instant de la discussion qui devenait houleuse, Turing prit le 
pichet d'eau pendant que les autres discutaient des th�ses qui avaient ŽtŽ 
ŽchangŽes avec la plus grande ardeur. Snow relan�a la controverse en tentant de 
rŽsumer la situation.
"Il me semble qu'au cÏur des arguments en dŽbat se trouve la question de savoir 
si un jeu de r�gles est la seule origine du comportement humain, en particulier 
du comportement cognitif. La conviction de Turing repose sur l'hypoth�se qu'un 
ensemble de r�gles, assez vaste ou agissant assez longtemps, peut conduire ˆ un 
comportement qui semble illogique, spontanŽ, Žmotionnel, irrationnel ou crŽatif 
ˆ un observateur extŽrieur. L'argument de Wittgenstein est qu'aucune 
accumulation de r�gles, fussent-elles longues et complexes, ne peut rendre 
pleinement compte de la vie cognitive de l'homme. Au mieux, une telle machine 
suivant des r�gles ne pourrait qu'imiter ou simuler une petite partie de 
l'expŽrience humaine. La seule mani�re de dupliquer un humain est d'en �tre un."
"L'idŽe d'une machine pensante est trop horrible ˆ imaginer," s'exclama Haldane 
en tendant son verre pour que Snow puisse lui verser encore un peu de 
Montrachet. "Certains de nos coll�gues ˆ l'esprit thŽologique, ici ˆ Cambridge, 
vous diraient que la pensŽe est une fonction de l'‰me immortelle de l'homme. Les 
machines n'ont pas d'‰me, et par consŽquent elles ne peuvent pas penser, 
jamais ! Qu'avez-vous ˆ rŽpondre ˆ cela, Turing ?"
"Ne pensez-vous pas que cet argument Žcorne sŽrieusement l'omnipotence du Tout-
Puissant ?" contra Turing. "Vous semblez dŽfendre l'idŽe que les hommes sont de 
quelque mani�re subtile supŽrieurs au reste de la crŽation. Si tel est le cas, 
alors bien sžr nous devons tous nous rŽsigner ˆ ce fait, et j'abandonnerai sans 
regret ma vision d'une machine qui penserait comme un homme. Mais, pour autant 
que je sache, il n'existe aucune preuve d'une telle supŽrioritŽ des humains. Par 
consŽquent, tant que quelqu'un ne m'aura pas prŽsentŽ un argument imparable ˆ ce 
sujet, je suis obligŽ de considŽrer que ce genre d'objection rel�ve d'une pensŽe 
incertaine qui prend ses dŽsirs pour des rŽalitŽs."
Pour rŽfuter le Jeu d'imitation, Haldane avan�a alors ce qui parut ˆ chacun une 
possibilitŽ hautement spŽculative et peu sŽrieuse. "Supposez," dit-il, "que 
votre interrogateur dispose d'un canal de communication extrasensoriel avec 
l'homme ou la machine de la pi�ce d'ˆ c™tŽ. Il pourrait les distinguer sans 
utiliser le tŽlŽtype. Cela ne rendrait-il pas votre Žpreuve sans valeur ?"
"Grand Dieux," s'exclama Wittgenstein, "vous �tes en train d'introduire quelque 
chose d'encore plus hypothŽtique que la machine cognitive de Turing. Si nous 
laissons la discussion partir dans une stratosph�re mystique, pourquoi ne pas 
imaginer une intervention divine disant ˆ l'interrogateur qui est de l'autre 
c™tŽ ? Vous allez vraiment trop loin avec cette perception extrasensorielle."
Turing resta Žtonnamment silencieux un instant avant de rŽpondre ˆ l'objection 
de Haldane. "J'imagine qu'une communication de cette sorte invaliderait mon test 
d'intelligence. Tout ce que je puis dire, c'est que si vous admettez cette forme 
de perception, n'importe quoi peut arriver. En ce cas, le Jeu d'imitation ne 
permettrait plus de dire si la machine pense ou non comme un homme, puisqu'on 
pourrait toujours les distinguer. Mais tant que cette forme de communication ne 
sera pas scientifiquement Žtablie, je continuerai ˆ dŽfendre le Jeu d'imitation 
comme la fa�on correcte de procŽder."
Pendant cet Žchange, Snow rŽflŽchissait en silence ˆ l'argument de Wittgenstein 
sur l'origine sociale du langage. Il vit soudain comment cela s'accordait avec 
sa vieille idŽe que les mots sont toujours plus simples que la rŽalitŽ qu'ils 
reprŽsentent. Si ce n'Žtait pas le cas, se disait-il, la discussion et l'action 
collective seraient impossibles. Par consŽquent, si Wittgenstein avait raison de 
dire que les mots Žmergent en quelque sorte de la sociŽtŽ, il Žtait raisonnable 
que cette sociŽtŽ s'accorde sur une fa�on d'exprimer la rŽalitŽ brute qui soit 
plus simple que cette rŽalitŽ elle-m�me. Sinon, le langage ne pourrait jamais 
�tre une forme abrŽgŽe de communication. Heureux de ce brillant aper�u de la 
relation entre le langage et le monde, Snow fut brutalement tirŽ de sa 
concentration par l'apparition de Simmons sur le pas de la porte, qui demandait 
s'il pouvait servir le plat de rŽsistance.
"Simmons semble pr�t ˆ passer ˆ la suite. C'est peut-�tre le bon moment 
d'interrompre un moment cette discussion et de nous accorder une br�ve pause 
avant de passer au plat de rŽsistance," proposa Snow au groupe.
"Tout ˆ fait," rŽpondit Schršdinger. "Turing nous a encore donnŽ de quoi 
rŽflŽchir avec son Jeu d'imitation, puisqu'il semble directement reliŽ au 
probl�me que Wittgenstein a posŽ au dŽbut du d”ner sur la relation entre pensŽe 
et langage. Peut-�tre pourrions nous nous aventurer un peu plus loin sur ce 
sujet et sur son rapport avec le probl�me des machines pensantes. A mes yeux, en 
tout cas, si nous employons le test que Turing suggŽrait pour dŽterminer si une 
machine pense ou non, alors je ne vois pas comment nous pouvons Žviter de nous 
poser la question du r™le du langage dans la pensŽe."
Haldane ajouta : "Si je comprends bien, le Jeu d'imitation de Turing est 
exclusivement basŽ sur un Žchange linguistique avec celui ou celle qui est de 
l'autre c™tŽ. Cela sugg�re certainement que toute machine pensante doit disposer 
de capacitŽs de langage Žquivalentes ˆ celles d'un homme pour �tre jugŽe 
intelligente. Pourtant Wittgenstein nous affirme que ces capacitŽs ne peuvent 
venir que d'une vie commune, ce qui semble exclure les machines. Il me semble 
qu'il y a lˆ une contradiction directe avec la notion de machine pensant comme 
un homme. J'aimerais pour ma part que la discussion se focalise sur ce point, 
pour que nous puissions voir s'il y a une issue ˆ ce dilemme."