Lexique · −18° Superintelligence
Alignement
Le problème de faire en sorte qu’une intelligence artificielle poursuive réellement les buts que nous voulions lui donner — et pas seulement ceux que nous avons su écrire.
Définition
Dès 1960, le mathématicien Norbert Wiener avertissait : si nous confions un but à une machine sur laquelle nous ne pouvons plus agir, mieux vaut être sûrs que ce but est bien celui que nous désirons. Le problème de l’alignement est l’héritier de cet avertissement.
Il est plus profond qu’il n’en a l’air. Nos intentions sont floues, contradictoires, dépendantes du contexte ; une machine puissante, elle, optimise ce qu’on lui donne avec une littéralité parfaite. Aligner une IA suppose donc de savoir ce que nous voulons vraiment. C’est peut-être là que la question technique devient une question de sagesse.
Renvois
Notions voisines
Dans les essais
Dans la bibliothèque