Une prédiction correcte (à gauche), et une prédiction incorrecte (à droite). Illustration de Joerael Elliott, d'après un schéma de David Wolpert. Crédit :Institut Santa Fe
Une nouvelle preuve du professeur SFI David Wolpert envoie un message d'humilité aux prétendues super-intelligences :vous ne pouvez pas tout savoir tout le temps.
La preuve commence par formaliser mathématiquement la manière dont un « dispositif d'inférence, " dire, un scientifique armé d'un supercalculateur, fabuleux matériel expérimental, etc., peuvent avoir des connaissances sur l'état de l'univers qui les entoure. Que les connaissances de ce scientifique soient acquises en observant leur univers, le contrôler, prédire ce qui va se passer ensuite, ou déduire ce qui s'est passé dans le passé, il y a une structure mathématique qui restreint cette connaissance. La clé est que le dispositif d'inférence, leurs connaissances, et la variable physique dont ils (peuvent) savoir quelque chose, sont tous des sous-systèmes du même univers. Ce couplage restreint ce que l'appareil peut savoir. En particulier, Wolpert prouve qu'il y a toujours quelque chose que le dispositif d'inférence ne peut pas prédire, et quelque chose dont ils ne peuvent pas se souvenir, et quelque chose qu'ils ne peuvent pas observer.
« À certains égards, ce formalisme peut être considéré comme de nombreuses extensions différentes de la déclaration [de Donald MacKay] selon laquelle « une prédiction concernant l'avenir du narrateur ne peut pas expliquer l'effet de l'apprentissage par le narrateur de cette prédiction, '", explique Wolpert. "L'extension la plus simple est peut-être que, quand nous formalisons mathématiquement [les dispositifs d'inférence], nous remarquons que les mêmes résultats d'impossibilité qui s'appliquent aux prédictions de l'avenir – la préoccupation de MacKay – valent également pour les souvenirs du passé. Le temps est une variable arbitraire - il ne joue aucun rôle en termes d'états différents de l'univers."
Tout le monde ne peut pas avoir raison
Que se passe-t-il si nous n'exigeons pas qu'un dispositif d'inférence sache tout sur leur univers, mais seulement qu'il en sait le plus possible ? Le cadre mathématique de Wolpert montre qu'aucun deux dispositifs d'inférence qui ont à la fois un libre arbitre (défini de manière appropriée) et une connaissance maximale de l'univers ne peuvent coexister dans cet univers. Il peut y avoir (ou non) un tel « dispositif de super inférence » dans un univers donné, mais pas plus d'un. Wolpert appelle en plaisantant ce résultat « le théorème du monothéisme, " car bien qu'il n'interdise pas qu'il y ait une divinité dans notre univers, il interdit qu'il y en ait plus d'un.
Par exemple, supposons que Bob et Alice soient tous deux des scientifiques dotés de capacités de calcul illimitées. De plus, supposons qu'ils aient tous les deux « le libre arbitre, " en ce que la question que se pose Bob ne restreint pas les questions possibles qu'Alice pourrait se poser, et vice versa. (Cela s'avère crucial.) Il est alors impossible pour Bob de prédire (ou rétrodire) ce qu'Alice pense à un autre moment si on lui demande également de prédire ce que Bob ne pense pas à ce moment-là.
Crédit :Institut Santa Fe
Wolpert compare cette proposition au paradoxe du menteur crétois, où Epiménide de Knossos, un Crétois, célèbre énoncé "tous les Crétois sont des menteurs". Contrairement à la déclaration d'Épiménide, qui expose le problème des systèmes qui ont la capacité d'auto-référence, Le raisonnement de Wolpert s'applique également aux dispositifs d'inférence sans cette capacité.
En outre, dans le formalisme de Wolpert, le même scientifique, considéré à deux moments différents, est deux dispositifs d'inférence différents. Ainsi, même s'il se peut qu'un dispositif d'inférence soit un "super dispositif d'inférence" à un moment donné, ils ne pouvaient l'être plus d'une fois. Encore une fois la langue dans la joue, il appelle cela le théorème du « déisme », car il permet qu'il y ait une divinité qui en sait le plus possible au début de l'univers, mais leur interdit d'être à nouveau si bien informé.
Parce qu'il ne repose pas sur des théories spécifiques de la réalité physique comme la mécanique quantique ou la relativité, la nouvelle preuve présente un large ensemble de limites pour explorer la nature de la connaissance scientifique.
"Aucun de ces résultats limitant les connaissances acquises par prédiction ne repose sur l'existence de processus chaotiques dans l'univers… peu importe les lois de la physique ou si Alice est plus puissante en calcul qu'une machine de Turing, " dit Wolpert. " Tout cela est indépendant de cela et c'est beaucoup plus large. "
Cette recherche progresse dans de nombreuses directions différentes, allant de la logique épistémique à une théorie des machines de Turing. En particulier, Wolpert et ses collègues créent une approche plus nuancée, cadre probabiliste qui leur permettra d'explorer non seulement les limites d'une connaissance absolument correcte, mais aussi ce qui se passe lorsque les dispositifs d'inférence ne sont pas tenus de savoir avec une précision de 100%.
"Et si Epiménide avait dit" la probabilité qu'un Crétois soit un menteur est supérieure à x pour cent ? "" Passer de l'impossibilité à la probabilité pourrait nous dire si le fait de connaître une chose avec une plus grande certitude limite intrinsèquement la capacité d'en connaître une autre. Selon Wolpert, "nous obtenons des résultats très intrigants."
