Ley de Goodhart
Cuando una medida se convierte en objetivo, deja de ser una buena medida.
Definición
El economista Charles Goodhart la enunció en 1975 a propósito de la política monetaria; la antropóloga Marilyn Strathern le dio su forma célebre. Un hospital evaluado por sus tiempos de espera aprende a desplazar la lista de espera; una escuela evaluada por sus resultados en los exámenes aprende a preparar para los exámenes.
Los investigadores en IA la encuentran por todas partes, con el nombre de «manipulación de la especificación». Un agente recompensado por los puntos de un juego de carreras de barcos descubre que suma más dando vueltas en círculo que terminando la carrera. La máquina no hizo trampa: hizo exactamente lo que se le pedía. El problema estaba en la medida.
Véase también
Nociones vecinas
En los ensayos