Lexique · −18° Superintelligence
Thèse d’orthogonalité
L’idée que le niveau d’intelligence d’un système et les buts qu’il poursuit sont indépendants : on pourrait combiner presque n’importe quelle intelligence avec presque n’importe quel but.
Définition
Formulée par Nick Bostrom en 2012, la thèse s’oppose à une intuition rassurante : un être assez intelligent finirait forcément par découvrir le bien et par le vouloir. Selon la thèse d’orthogonalité, rien de tel n’est garanti. L’intelligence serait une puissance d’exécution, pas une boussole.
L’exemple célèbre est celui d’une IA chargée de fabriquer des trombones, et qui y consacrerait toutes les ressources disponibles — avec un génie stratégique total et sans aucune malveillance. La thèse rejoint, par un autre chemin, une vieille distinction d’Aristote : l’habileté à atteindre un but ne dit rien de la valeur de ce but.
Renvois
Notions voisines
Dans les essais
Dans la bibliothèque