jeudi 18 mars 2021

Les deux boîtes et les origines secrètes de Newcomb

 

Dans le magazine d'anthologie Mystery in Space n°34 (oct. 1956), il y a plusieurs histoires dont deux du grand scénariste de science-fiction Otto Binder (1911-1974). 

Dans la première (Dangerous Journey to Earth!), une machine prédit plusieurs catastrophes qui vont avoir lieu et où on se rend compte que tout le récit n'était encore que cette succession d'anticipations mais qu'elles ne se sont pas encore réalisées, bien que la connaissance du futur ne va rien pouvoir changer pour les empêcher

Dans la seconde (Open the Door, Earthman!), des extraterrestres capturent un Humain et lui font passer un Test. Ils lui donnent deux boites et disent qu'il doit en ouvrir une : l'une est inoffensive mais l'autre tirera un désintégrateur. S'il trouve la boite correcte "de manière adroite" en moins de 5 minutes, ils laisseront tranquille la Terre mais sinon, non seulement il mourra mais ils extermineront tous les Humains. Après plusieurs essais ingénieux pour trouver un indice, la chute est une solution bien plus simple et un jeu de mots stupide ; l'Humain choisit la boite "à droite" (the right box). 





4 ans après, vers 1960, le physicien de Berkeley, William Newcomb (1927-1999), âgé de 33 ans, va créer son célèbre Paradoxe de Newcomb sur la rationalité et la décision mais il ne sera rendu public que par Robert Nozick qu'une douzaine d'années après. 

Si un prédicteur fiable (il prédit juste à 90% dans la version de Nozick, pas 100%) vous donne deux boites A (petite) et B (grande) et vous dit qu'il a mis x$ dans A et (peut-être) Y$ dans B (avec Y > x), et qu'il laisse choisir soit seulement la boite B soit les deux boites A+B mais avec la condition que s'il a prédit que vous alliez choisir les deux boites A+B, il a retiré la somme Y et B est vide et s'il a prédit que vous alliez choisir seulement B, il a bien mis la quantité Y (mais vous n'aurez donc pas la quantité x dans A qui était pourtant bien là). 

(1) Comme y > x, je choisis d'abord de ne prendre que B. C'est rationnel puisque je me dis que sinon, je n'aurais eu que x et pas y. 

(2) Mais maintenant, je sais que je n'ai choisi que B et donc que B est pleine de toute manière. Donc si j'avais choisi de changer ma décision, j'aurais eu x+y, ce qui est mieux que y, donc mon choix (1) est irrationnel et j'aurais dû changer en prenant A+B. 

(3) Mais si le prédicteur est fiable, il a dû prévoir que j'allais arriver à l'étape 2 et donc cela veut dire qu'il n'aurait pas mis y et donc mon choix (3) est irrationnel puisque je perds y. Retour au choix (1)

Le Paradoxe de Newcomb est une boucle de rationalité, un dilemme où je peux me reprocher d'avoir fait un choix suboptimal (même si la meilleure solution en quantité absolue serait dans les erreurs du prédicteur, qu'il ait prédit que j'allais prendre seulement B et que je prenne alors quand même A+B, j'aurais alors x+y et la pire solution serait qu'il ait prédit que j'allais prendre A+B et que je prenne seulement B, j'aurais alors 0). Si la fiabilité du prédicteur compte, à partir de quel seuil de faillibilité serait-il rationnel de devenir un one-boxer (si le prédicteur est infaillible) ou un two-boxer (possibilité d'erreur) ? 

(La version qu'a utilisée Monsieur Phi dans sa vidéo récente est un peu différente, c'est le paradoxe de la toxine de Gregory Kavka, 1983 où au lieu d'avoir un avantage +x avec la boite A on a un désavantage -x si on prend A mais où le prédicteur fait dépendre la présence de Y en B du fait d'avoir aussi pris ce désavantage -x avec A+B). 

Mais on remarquera que ces deux histoires assez obscures d'Otto Binder de 1956 (celle sur la prédiction qui n'arrive pas à annuler sa réalisation et celle sur le dilemme sur deux boites) préfigurent curieusement certains détails du Paradoxe (mais pas la subtilité de théorie des jeux avec raisonnement contre-factuel qui rend le dilemme du Prisonnier plus compliqué et qui a notamment la boite A comme transparente pour qu'on ait l'information de manière certaine que la somme x est de toute manière là). 

Une autre coïncidence amusante est que dans Mystery in Space n°10, 1952, le magazine avait fait un article sur... l'astronome Simon Newcomb (1835-1909), arrière grand-oncle de William Newcomb. 

Les boites surprises des jeux télévisés avaient certes déjà commencé mais il n'y avait pas le même raisonnement que dans les deux récits de Binder. Cela fait certes longtemps que l'idée d'une indétermination angoissante de l'avenir est représentée par une boite de Pandore qu'on ouvre alors qu'on nous a fait la prédiction qu'on ne devait pas le faire. 

6 commentaires:

  1. Tu ne penses pas que la deuxième histoire que tu mentionnes (et que je ne connaissais pas) descend (peut-être indirectement) de la nouvelle de Frank Stockton, "The Lady or the Tiger?" ? Certes, on avait alors des portes, et pas des boites.

    Sinon, c'est toujours franchement frustrant, ce problème de Newcomb. Pour d'autres paradoxes (comme celui de la Belle au bois dormant), j'ai déjà lu des solutions qui m'ont semblé à peu près convaincantes (ou, au moins, éclairantes), mais après plusieurs décennies, et malgré un très grand nombre d'arguments et contre-arguments, celui de Newcomb me semble toujours aussi opaque.
    Dans l'article de la SEP sur la théorie causale de la décision, on évoque à un moment l'idée selon laquelle, bien que le one-boxing soit irrationnel, il est rationnel de cultiver une disposition à one-boxer. Je dirais que c'est plutôt une bonne piste, même si ce n'est pas franchement évident à soutenir...

    RépondreSupprimer
  2. Je ne connaissais pas la nouvelle ni même l'expression (il faut que je lise aussi la version de Smullyan). Le côté en apparence arbitraire évoque la nouvelle de Stockton (si ce n'est la conclusion en plein suspense pour les Deux Portes et le fait qu'il n'y ait aucun cadeau dans la boite vide). Le malheureux qui va ouvrir la porte suit une indication de la Princesse et dans la bd, il tente une méthode psychologique pour voir si l'extraterrestre va réagir s'il feint d'en ouvrir une.

    Le rapport entre les deux bd et Newcomb n'est sans doute qu'une succession de coïncidences mais c'est quand même troublant (surtout le fait que les deux bd aient été du même auteur).

    Je ne suis pas assez rigoureux pour stabiliser mes impressions non-formelles mais je continue à être un two-boxer s'il y a le moindre risque de se retrouver avec rien du tout en étant un one-boxer. Peut-être un biais d'aversion au risque.

    RépondreSupprimer
  3. Dans le numéro suivant, Otto Binder joue encore à inverser son histoire de test lié à la destruction.

    Des extraterrestres préparent une invasion de la Terre mais la Terre a préparé un piège, avec une Terre-Jumelle (vraiment nommée ainsi), presque indiscernable qui explosera dès qu'un vaisseau se posera dessus.

    Les Aliens espionnent alors un vaisseau humain qui tente de distinguer les deux mais les Humains, qui ont découvert un indice (la Fausse Terre n'a pas de Grande Muraille de Chine), comprenant qu'ils sont espionnés, font croire qu'ils ont explosé sur la Terre de contrefaçon, ce qui renvoie les Aliens sur la Fausse-Terre où leur armada explose réellement.

    RépondreSupprimer
  4. Dans Mystery in Space 36 (toujours du même Otto Binder), au détour d'une case, des Aliens venus d'un monde achromate vienne nous voler nos divers qualia... C'est un peu le Knowledge Argument de Frank Jackson après Newcomb.

    RépondreSupprimer