Bibliothèque · John Searle, 1980
« Esprits, cerveaux et programmes »
John Searle, « Minds, Brains, and Programs », Behavioral and Brain Sciences, vol. 3, 1980
Manipuler correctement des symboles ne suffit pas à comprendre ce qu’ils veulent dire : la syntaxe n’est pas la sémantique.
Ce que dit le texte
Searle s’imagine enfermé dans une pièce avec des boîtes de caractères chinois et un manuel de règles, rédigé en anglais, qui indique quels symboles renvoyer en réponse à ceux qu’on lui glisse sous la porte. Avec un bon manuel, ses réponses seraient indiscernables de celles d’un locuteur natif. Pourtant, il ne comprend pas un mot de chinois.
Conclusion : exécuter un programme, si parfait soit-il, ne suffit pas à produire une compréhension. L’article publie aussi les réponses de nombreux critiques. La plus célèbre, la « réponse du système », soutient que si l’homme ne comprend pas, la pièce entière, elle, comprend peut-être.
Pourquoi le relire maintenant
Les grands modèles de langage ressemblent à une chambre chinoise de taille planétaire. L’argument de Searle est-il confirmé, ou réfuté, par des machines qui répondent si bien ? Le débat est plus vif que jamais, et il oblige à préciser ce que nous entendons par comprendre.
Ce qui reste ouvert
- Si un système répond à tout comme s’il comprenait, que manque-t-il, au juste, pour qu’il comprenne ?
Renvois
Notions voisines
Dans les essais