Biblioteca · John Searle, 1980
«Mentes, cerebros y programas»
John Searle, «Minds, Brains, and Programs», Behavioral and Brain Sciences, vol. 3, 1980
Manipular correctamente símbolos no basta para comprender lo que significan: la sintaxis no es la semántica.
Lo que dice el texto
Searle se imagina encerrado en una habitación con cajas de caracteres chinos y un manual de reglas, escrito en inglés, que le indica qué símbolos devolver en respuesta a los que le pasan por debajo de la puerta. Con un buen manual, sus respuestas serían indistinguibles de las de un hablante nativo. Sin embargo, no entiende ni una palabra de chino.
Conclusión: ejecutar un programa, por perfecto que sea, no basta para producir comprensión. El artículo publica también las respuestas de numerosos críticos. La más célebre, la «respuesta del sistema», sostiene que, si bien el hombre no comprende, la habitación entera quizá sí.
Por qué releerlo hoy
Los grandes modelos de lenguaje se parecen a una habitación china a escala planetaria. ¿Confirman o refutan el argumento de Searle unas máquinas que responden tan bien? El debate está más vivo que nunca y obliga a precisar qué entendemos por comprender.
Lo que queda abierto
- Si un sistema responde a todo como si comprendiera, ¿qué le falta exactamente para comprender?
Véase también
Nociones vecinas
En los ensayos