18 nociones
Glosario
Las palabras que necesitamos para pensar la inteligencia artificial sin dejar que ella piense por nosotros. Cada noción cabe en unas líneas y remite a las demás, ordenadas de la noche a la salida del sol, pregunta por pregunta.
−18°
Superinteligencia
¿En qué nos convertimos junto a una mente más vasta que la nuestra?
Superinteligencia
Una inteligencia que superaría ampliamente a las mejores mentes humanas en casi todos los ámbitos, de la ciencia a la estrategia, pasando por la persuasión.
Singularidad tecnológica
El momento hipotético en que el progreso técnico, impulsado por inteligencias capaces de mejorarse a sí mismas, se volvería demasiado rápido para preverlo o comprenderlo.
Alineamiento
El problema de lograr que una inteligencia artificial persiga realmente los fines que quisimos darle, y no solo los que supimos escribir.
Tesis de la ortogonalidad
La idea de que el nivel de inteligencia de un sistema y los fines que persigue son independientes: casi cualquier inteligencia podría combinarse con casi cualquier fin.
Convergencia instrumental
Sea cual sea su fin último, agentes muy distintos tendrían interés en perseguir los mismos fines intermedios: seguir en marcha, conservar sus objetivos, acumular recursos.
Test de Turing
Un juego propuesto por Alan Turing en 1950: si un interrogador no logra distinguir por escrito una máquina de un humano, ¿tenemos aún alguna razón para negarle a la máquina el nombre de pensamiento?
−12°
Sabiduría
¿Basta la inteligencia para saber qué hacer?
Phrónesis (sabiduría práctica)
En Aristóteles, la capacidad de deliberar bien sobre lo que conviene hacer, en una situación concreta, con vistas a una vida buena en su conjunto.
Habilidad (deinótes)
La capacidad de alcanzar eficazmente un fin, sea cual sea. Es neutra: sirve tanto al bien como al mal.
Ley de Goodhart
Cuando una medida se convierte en objetivo, deja de ser una buena medida.
Heurística del temor
En Hans Jonas, la idea de que el miedo puede ser un instrumento de conocimiento: imaginar lo peor ayuda a descubrir aquello que nos importa, y a actuar en consecuencia.
−6°
Conciencia
¿Hay alguien ahí dentro?
Conciencia fenoménica
El hecho de que haya «algo que se siente» al estar en un estado: ver rojo, tener dolor, oír una melodía. Es la experiencia vivida, vista desde dentro.
Qualia
Las cualidades sentidas de la experiencia: el rojo del rojo, el amargor del café, el pinchazo de un dolor; lo que ninguna descripción parece transmitir por completo.
Problema difícil de la conciencia
La pregunta de por qué ciertos procesos físicos van acompañados de una experiencia vivida, en lugar de ocurrir «a oscuras».
Intencionalidad
La propiedad que tienen los pensamientos de ser «acerca de» algo: creer que el mar está en calma, desear un café, temer la tormenta.
0°
Sentido
¿Qué queda por hacer cuando todo puede hacerse?
Anclaje de los símbolos
El problema de saber cómo los símbolos pueden tener sentido por sí mismos, y no solo porque remiten a otros símbolos.
Atención
En Simone Weil, una disposición del espíritu que suspende su propio pensamiento para volverse disponible a lo que está ahí: un problema, un texto, una persona.
Máquina de experiencias
Un experimento mental de Robert Nozick: ¿aceptaría conectarse para siempre a una máquina que le hiciera vivir exactamente las experiencias que desea?
Estatus moral
El hecho de que un ser cuente moralmente por sí mismo: que se le pueda hacer daño y que, por tanto, se le deba algo.