18 notions
Lexique
Les mots dont on a besoin pour penser l’intelligence artificielle sans se laisser penser par elle. Chaque notion tient en quelques lignes et renvoie aux autres, rangées de la nuit au lever du jour, question par question.
−18°
Superintelligence
Que devient-on à côté d’un esprit plus vaste que le nôtre ?
Superintelligence
Une intelligence qui dépasserait largement les meilleurs esprits humains dans presque tous les domaines, de la science à la stratégie en passant par la persuasion.
Singularité technologique
Le moment hypothétique où le progrès technique, emporté par des intelligences capables de s’améliorer elles-mêmes, deviendrait trop rapide pour être prévu ou compris.
Alignement
Le problème de faire en sorte qu’une intelligence artificielle poursuive réellement les buts que nous voulions lui donner — et pas seulement ceux que nous avons su écrire.
Thèse d’orthogonalité
L’idée que le niveau d’intelligence d’un système et les buts qu’il poursuit sont indépendants : on pourrait combiner presque n’importe quelle intelligence avec presque n’importe quel but.
Convergence instrumentale
Quel que soit leur but final, des agents très différents auraient intérêt à poursuivre les mêmes buts intermédiaires : rester en marche, garder leurs objectifs, accumuler des ressources.
Test de Turing
Un jeu proposé par Alan Turing en 1950 : si un interrogateur ne parvient pas à distinguer, par écrit, une machine d’un humain, a-t-on encore une raison de refuser à la machine le nom de pensée ?
−12°
Sagesse
L’intelligence suffit-elle à savoir quoi faire ?
Phronèsis (sagesse pratique)
Chez Aristote, la capacité de bien délibérer sur ce qu’il convient de faire, dans une situation particulière, en vue d’une vie bonne dans son ensemble.
Habileté (deinotès)
La capacité d’atteindre efficacement un but, quel qu’il soit. Elle est neutre : elle sert aussi bien le bien que le mal.
Loi de Goodhart
Quand une mesure devient un objectif, elle cesse d’être une bonne mesure.
Heuristique de la peur
Chez Hans Jonas, l’idée que la crainte peut être un instrument de connaissance : imaginer le pire aide à découvrir ce à quoi nous tenons, et à agir en conséquence.
−6°
Conscience
Y a-t-il quelqu’un, à l’intérieur ?
Conscience phénoménale
Le fait qu’il y ait « quelque chose que cela fait » d’être dans un état : voir du rouge, avoir mal, entendre une mélodie. C’est l’expérience vécue, vue de l’intérieur.
Qualia
Les qualités ressenties de l’expérience : le rouge du rouge, l’amertume du café, la piqûre d’une douleur — ce qu’aucune description ne semble transmettre complètement.
Problème difficile de la conscience
La question de savoir pourquoi certains processus physiques s’accompagnent d’une expérience vécue, plutôt que de se dérouler « dans le noir ».
Intentionnalité
La propriété qu’ont les pensées d’être « à propos » de quelque chose : croire que la mer est calme, désirer un café, craindre l’orage.
0°
Sens
Que reste-t-il à faire quand tout peut être fait ?
Ancrage des symboles
Le problème de savoir comment des symboles peuvent avoir un sens par eux-mêmes, et pas seulement parce qu’ils renvoient à d’autres symboles.
Attention
Chez Simone Weil, une disposition de l’esprit qui suspend sa propre pensée pour se rendre disponible à ce qui est là : un problème, un texte, une personne.
Machine à expériences
Une expérience de pensée de Robert Nozick : accepteriez-vous de vous brancher pour toujours à une machine qui vous ferait vivre exactement les expériences que vous désirez ?
Statut moral
Le fait qu’un être compte moralement pour lui-même : qu’on puisse lui faire du tort, et qu’on lui doive donc quelque chose.