Glosario · −18° Superinteligencia
Alineamiento
El problema de lograr que una inteligencia artificial persiga realmente los fines que quisimos darle, y no solo los que supimos escribir.
Definición
Ya en 1960, el matemático Norbert Wiener advertía: si confiamos un propósito a una máquina sobre la que ya no podemos intervenir, más vale estar seguros de que ese propósito es el que realmente deseamos. El problema del alineamiento es heredero de esa advertencia.
Es más profundo de lo que parece. Nuestras intenciones son vagas, contradictorias, dependientes del contexto; una máquina potente optimiza lo que se le da con una literalidad perfecta. Alinear una IA supone, por tanto, saber lo que realmente queremos. Quizá sea ahí donde la cuestión técnica se convierte en una cuestión de sabiduría.
Véase también
Nociones vecinas
En los ensayos