De l'applicabilité de la théorie de Bayes

[Archi3]

Bonjour
en suivant une suggestion faite sur un des fils où j'ai participé, je tente d'ouvrir un fil sur les probabilités bayesiennes. Je précise que je ne suis pas mathématicien ni spécialiste des probabilités, cependant la théorie de Bayes me parait fondamentale pour essayer de comprendre ce qu'on fait quand on se met à "croire" à quelque chose (et je pense que la plupart des débats ici ou ailleurs se font parce que les gens "croient" à des choses différentes, la question de l'origine des croyances me semble donc absolument fondamentale).

Je vais donc tenter de résumer ce que j'en ai compris et pourquoi je pense que c'est un raisonnement "fondamental" au sens où il est à la base de la plupart des raisonnements sur le monde "réel" qu'on fait (le plus souvent sans se rendre compte qu'on applique un raisonnement bayesien) , et que les divergences ne viennent pas de divergences d'opinion sur la validité de la méthode, mais seulement des valeurs numériques qu'on choisit de mettre derrière.

Le début de l'histoire semble un peu technique et anodine sur la calcul des probabilités, mais elle porte en germe une révolution conceptuelle. A l'époque de Bayes, on a commencé à établir les bases du calcul des probabilités , et on connait en particulier la façon de calculer la probabilité de l'évènement suivant : soit une expérience de tirage aléatoire avec une probabilité connue p de tirer un évènement X (par exemple gagner au loto ou lancer un dé) , quelle est la probabilité de trouver M fois X quand on fait N tirages ?
La formule connue est celle de la loi binomiale (techniquement c'est qui dit que chaque combinaison ayant M fois X et donc (N-M) fois non(X) a une probabilité de se produire, et qu'il y a façons différentes de répartir M tirages parmi N.
La formule du binôme suppose qu'on connait la loi de probabilité p et qu'on évalue la probabilité d'un évènement particulier à l'aide de p.

Bayes se pose la question en quelque sorte inverse : supposons qu'on ne connaisse pas la probabilité p , mais qu'en faisant N tirages, on trouve M fois le résultat X. Que peut on dire sur p ? c'est en pratique ce qu'on fait en faisant un sondage électoral par exemple. Il s'agit là d'un renversement (fondamental) de perspective puisque on fait porter maintenant la certitude sur le tirage et l'incertitude sur la loi de probabilité. Autrement dit si A est le fait que la probabilité de tirer X vaut p , et B est le fait qu'on a trouvé M tirages parmi N donnant X, la loi binomiale donne p(B|A) = la probabilité que B soit vrai si on sait que A est vrai (c'est à dire la pbté qu'on trouve effectivement M tirages X si la probabilité est p), alors que Bayes pose la question inverse : p(A|B) la probabilité que A soit vrai si on sait que B est vrai, c'est à dire la probabilité que la probabilité individuelle de X soit p si on sait qu'on a tiré M tirages parmi N.

Il introduit donc une loi de probabilité sur le paramètre p et non sur le résultat du tirage (qui lui est supposé connu). Autrement dit il se pose la question d'un "théorie du monde", de définir les paramètres d'un modèle qui décrit le monde de manière générale (la probabilité p s'appliquant ensuite à tous les autres tirages !). Ca formalise la notion d'inférence, c'est à dire le fait qu'on tire une loi générale à partir d'une constatation particulière.
La beauté des probabilités est qu'il existe une formule (formule de Bayes, d'ailleurs plutôt énoncée par Richard Price qui a repris les idées de Bayes après sa mort), qui permet de lier p(A|B) à la probabilité "inverse" (pas au sens de l'inverse d'un nombre !) p(B|A) : cette formule dit qu'on peut estimer la probabilité conjointe que A et B soient vrais en même temps de deux manières différentes :
p(A et B) = p(A)p(B|A) = p(B) p(A|B)

cette formule dit simplement qu'on peut calculer la probabilité que A et B soient vrais simultanément :
- soit en supposant d'abord que A est vrai , puis en utilisant la probabilité que B soit vrai si A est vrai.
- soit en supposant d'abord que B est vrai , puis en utilisant la probabilité que A soit vrai si B est vrai.

Ce qui revient bien sur au même à la fin.

Et du coup on a p(A|B)= p(A)*[p(B|A) /p(B)]
que je mets sous la forme p(A|B)= p(A)*

où est un facteur de réévaluation bayesienne = p(B|A) /p(B) , qui permet de réévaluer la probabilité pA , estimée sans savoir le résultat de B , par un facteur pour tenir compte de la nouvelle information apportée par B. Il s'agit donc d'une construction de la probabilité p(A) à l'aide de toutes les informations disponibles pour l'estimer.

Dans le calcul initial de Bayes, la probabilité "a priori" sur le paramètre p était considérée comme uniforme : en l'absence de toute information sur p, on peut considérer que toutes les valeurs ont la même probabilité , donc que la probabilité de trouver p dans un intervalle [p0, p0 +∆p0]*est simplement la largeur de l'intervalle ∆p0. Après le tirage, il faut estimer la probabilité en estimant la probabilité conditionnelle qu'on ait trouvé le tirage effectivement tiré si p est dans cette intervalle, à l'aide de la formule de Bayes et de la loi binomiale, et on trouve


dont le calcul montre qu'elle n'est plus du tout uniforme mais très piquée autour de p = M/N .

On a donc "établi" la valeur de p (ou un estimateur de p) à l'aide d'une expérience de tirage, ce qui est tout à fait "usuel" et "normal" dans la vie de tous les jours et à la base de la définition "fréquentiste" des probabilités (et encore une fois ce qu'on fait en faisant des sondages par exemple).

Comme ce post est déjà assez long , avant de discuter des applications concrètes et des problèmes d'utilisation (il y en a), j'aimerais d'abord savoir si ce que je dis est clair, et juste pour ceux qui connaissent bien la théorie !
-----

[Archi3]

Bon cette partie ne semblant pas avoir soulevé d'objection , je me permets de continuer.

Un aparté mathématique qui n'est pas indispensable mais permet de visualiser un peu mieux ce qu'on fait en appliquant une formule de réévaluation bayesienne. On peut mesurer aussi le probabilité p entre 0 et 1 par une autre quantité bijectivement liée , l'évidence Ev définie par log(p/1-p) = log(p) - log(1-p) : ainsi l'évidence d'une hypothèse A sera Ev(A) = log(pA) - log(p(Non(A)). On peut aussi multiplier par 10 pour avoir l'évidence en décibels ou comme l'a proposé Dehaene en "decibans" ,ou en employer la base des logarithmes népériens, mais les logarithmes décimaux permettent de transformer plus facilement en puissances de 10 : ainsi une évidence de -4 ou de -40 dB correspond à une probabilité de 10^-4.
On voit facilement que:
alors que p est entre 0 et 1, Ev est entre - l'infini et + l'infini.
Ev= 0 signifie que p = 1/2 donc que A est aussi probable que improbable. Ev >0 signifie que A est plus probable qu'improbable, et plus Ev est grand, plus A est probable (pA proche de 1). pA = 1 correspond à une évidence infinie. De même Ev < 0 signifie que A est plus improbable que probable, et pA = 0 correspond à Ev = -l'infini.

A et non(A) ont des évidences opposées, Ev(nonA) = - Ev(A) : sur un axe d'évidence représenté par une droite infinie, A et non A sont deux points situés symétriquement par rapport à O.

On peut alors se représenter la formule de Bayes par une "translation d'évidence", c'est à dire le déplacement (symétrique par rapport à O ) de Ev(A) et Ev(nonA) sur l'axe en tenant compte d'une nouvelle information. On peut voir ça presque "physiquement" comme le déplacement d'un curseur qui peut éventuellement (ou pas) , à partir d'une position initiale Ev(A) >0 ou <0 , la déplacer (ou pas) de l'autre coté, en faisant "changer d'avis" sur la plausibilité d'une hypothèse.
Spécifiquement on voit d'après la formule de Bayes que la prise en compte d'un évènement B change la probabilité que A soit vraie par :
log(p(A|B)) = log (pA) + log p(B|A) - log p(B)
et donc
log (p(nonA |B)) = log(p(nonA) + log p(B|non A) - log p(B)
il en résulte que Ev(A|B) = Ev(A) + ∆Ev(A)

où la translation d'évidence est ∆Ev(A) = log p(B|A) - log (B|non(A) ) = - ∆Ev(non(A))


la prise en compte d'une nouvelle information B change donc notre évaluation de la plausibilité de A suivant une quantité qui dépend de la différence entre les probabilités que B arrive suivant l'hypothèse A ou son hypothèse contraire non(A).



Ce qui est assez normal : si B est un évènement qui n'a rien à voir avec A, il a exactement la même probabilité de se produire qu'on suppose A ou nonA, et donc la translation d'évidence est nulle : le fait de connaitre B ne fait pas changer d'avis sur A. En revanche tout évènement qui se produit plus probablement pour A que pour non(A) (et inversement) augmente (ou diminue) l'évidence de A et diminue (ou augmente) de manière symétrique l'évidence de non(A).


Il parait clairement sur cette approche que le résultat final va dépendre à la fois de la probabilité initial pA, liée à une évidence Ev(A) le prior , et de la translation d'évidence ∆Ev. On peut imaginer tous les cas de figure possible :

Cas I (a priori le plus courant) : une évidence grande EvA au départ et un évènement B favorisant A, qui ne fait que confirmer et amplifier l'évidence de A.

Cas II (plus rare) : une évidence grande EvA au départ et un évènement B contraire à A , mais de translation d'évidence bien inférieure : dans ce cas on garde son avis sur A : B n'est pas suffisamment improbable si A est vrai pour nous faire changer d'avis.

Cas III (le plus rare, mais qui peut arriver) : une évidence EvA >0 au départ et un évènement B contraire à A , mais de translation d'évidence bien plus grande : dans ce cas on changera d'avis sur A et on considérera qu'on a affaire à une éventualité jugée au départ comme improbable, mais finalement "vraie" à cause d'une observation B.

ou les cas symétriques relatifs à non(A) .

Dans la suite je donnerai des exemples très courants relatifs aux "théories du monde" que l'on fait pour montrer que la prise en compte de nouvelles informations se ramènent en fait à des translations d'évidence et qu'elles peuvent se ramener à un des trois cas de figure ; j'argumenterai aussi que les "différences d'opinion" sur les théories du monde reviennent en fait généralement à des estimations différentes des prior et des translations d'évidence.

[Archi3]

Passons maintenant à quelques exemples, mais ils sont innombrables :
* au cours d'une enquête criminelle , on cherche à tester l'hypothèse "Mr X est coupable du meurtre de Mr Y " : l'évidence initiale ou prior sera assez faible en général sauf si 50 personnes l'ont vu tirer sur Mr Y ! on va chercher des faits qui constituent des "indices" , c'est à dire conduisant à des translations d'évidence : donc des faits considérés comme beaucoup plus probables de se produire si Mr X est coupable que si il ne l'est pas. Si l'accumulation de translations d'évidence est bien supérieure au prior, on conclura qu'il l'est surement - mais évidemment il y a des cas compliqués où l'accumulation d'évidences n'est pas suffisante pour conclure de manière certaine et les avis pourront diverger sur l'estimation finale.

Il est évident (et c'est un des problèmes connus des méthodes bayesiennes) que la quantification précise des prior et des probabilités conditionnelles est difficile voire impossible et donc qu'elle peut varier d'un individu à l'autre : d'où finalement la possibilité de divergence d'opinion sur l'évidence finale, qui peut dans les situations incertaines être > 0 ou <0 suivant les avis: une "bonne" argumentation est souvent une argumentation tendant à augmenter la translation d'évidence , c'est à dire à convaincre les autres que la probabilité que B soit réalisé si A (ou non A) est vrai est plus forte ou plus faible que ce qu'ils croient.

* un diagnostic médical est aussi de ce type : on part d'un prior qui peut avoir des valeurs différentes suivant les cas : par exemple pendant un épidémie de grippe en hiver , le prior peut être assez élevé pour qu'on en soit atteint, et des symptômes assez simples (forte fièvre, mal de gorge etc ..) pourront constituer une translation d'évidence assez facilement pour conclure rapidement au diagnostic. En revanche, une maladie rare part d'une évidence très négative : il faudra beaucoup d'examens et une accumulation d'indices élevée pour avoir une translation d'évidence suffisante , c'est à dire conclure que la probabilité d'avoir ses symptômes si on n'avait pas la maladie devient plus faible que le prior initial.

Un exemple humoristique qui illustre bien l'importance de ne pas regarder que la translation d'évidence mais aussi le prior :

https://xkcd.com/1132/

Traduction :
Est ce que le Soleil vient d'exploser en nova ? (il fait nuit donc on n'en est pas sur)
"voici un détecteur de neutrinos qui sait mesurer si le Soleil a explosé en nova . Puis il lance deux dés. Si le résultat est un double 6, il ment. Sinon, il dit la vérité".
"Essayons ..Détecteur, est ce que le Soleil a explosé en nova ?"
"brlllll.....OUI !"
raisonnement fréquentiste : " bon il n'y a qu'une chance sur 36 = 0,027 que ce résultat ait été atteint par hasard [si il n'a pas explosé] , p<0.05 donc je conclus que le Soleil a explosé"
raisonnement bayesien :"je te parie 50 $ que non ..."

Ici l'erreur du "fréquentiste" est qu'il n'a pas tenu compte du prior, mais seulement de la translation d'évidence - pour un bayesien, cela revient être parti du postulat que la question était équiprobable au départ (évidence initiale nulle) , donc d'oublier toutes les infos qu'on peut avoir sur le fait que le Soleil peut exploser en nova , ce qui est impossible suivant les théories actuelles, et la probabilité que les théories actuelles soient fausses doit être considérée comme extrêmement faible, en tout cas bien plus faibles que 1/36 !
En terme d'évidence, on pourrait lui donner une valeur extrêmement négative , la valeur n'a pas beaucoup d'importance, mettons par exemple - 40 (probabilité 10^-40 qu'elles soient fausses) .

La translation bayesienne se calcule par log(p(B|A)/p(B|non(A)) ) , or p(B|A) = probabilité que le détecteur ait répondu oui si le Soleil a explosé ) est de 35/36, alors que la probabilité p(B|non(A)) = probabilité que le détecteur ait répondu oui si le Soleil n'a PAS explosé est de 1/36.

Il est exact que la translation d'évidence favorise l'hypothèse que le Soleil ait explosé, mais seulement par une valeur ∆Ev = log(35) = +1,35. De façon évidente, cette valeur doit être considérée comme bien plus petite que la valeur absolue négative du prior initial. Même une évidence initiale de - 20 ou même - 10 donnerait la même conclusion : il est bien plus probable que les dés aient montré un double 6 plutôt que le Soleil a explosé.

On comprend sur cet exemple humoristique mais très instructif finalement que ce qui compte, ce n'est pas tant l'évaluation précise du prior et de la réévaluation bayesienne (translation d'évidence) que l'ordre de grandeur comparé entre les deux. Il suffit d'estimer que la translation d'évidence est bien plus forte que le prior en ordre de grandeur pour conclure. Beaucoup de critiques sur les méthodes bayesiennes et l'impossibilité de quantifier précisément les probabilités ne sont en pratique pas très gênantes pour le but final : estimer de savoir si A est probable ou improbable.

* un exemple donné par un participant d'un fil sur les ET, considéré par lui par une "critique" du raisonnement bayesien mais en réalité s'y inscrivant pleinement .
Vous débarquez dans une ville inconnue le jour et vous ne voyez personne dans les rues. Concluez vous que la ville est abandonnée ? même chose la nuit en se promenant 5 minutes. Même chose en se promenant deux heures.

En réalité dans tous ces cas, vous ferez toujours la même chose : comparer votre prior que la ville ait été abandonnée (évidence très négative mais pas nulle, car ça existe et ça peut se passer) , à la translation d'évidence que vous faites de vos observations, qui dépend comme on l'a vu du rapport de probabilité que nous n'observiez personne dans les deux hypothèse : elle est abandonnée ou elle n'est pas abandonnée.

Dans le premier cas, de jour, il est très improbable que vous n'observiez personne si elle n'est pas abandonnée alors que c'est certain si elle l'est. La translation d'évidence est donc -log p(B|non(A)) où p(B|non(A)) est la probabilité de ne voir personne si elle n'est pas abandonnée. On voit là encore que vous estimerez qu'elle est abandonnée si cette probabilité est jugée plus faible que votre probabilité a priori qu'elle soit abandonnée. Vous comparez mentalement deux probabilités :
* la probabilité a priori qu'elle soit abandonnée
* la priori que vous ne voyez personne si elle ne l'est pas.

et vous concluez suivant le classement relatif de ces probabilités.

En marchant 5 minutes la nuit en revanche , la translation d'évidence n'est pas très forte car il n'est pas très improbable de ne rencontrer personne. Vous estimerez donc qu'il vaut mieux garder votre prior faible et qu'elle n'est probablement pas abandonné. En revanche plus vous marchez longtemps sans rencontrer personne, plus vous vous posez de questions : en effet la translation d'évidence est de plus en plus grande, et finalement sera du même ordre de grandeur que votre prior : et là vous commencerez à vous demander si en fait elle n'est pas vraiment abandonnée.

On peut même pousser plus loin et se demander à partir de quand vous vous inquiéterez ? pour y répondre, on peut remarquer que la probabilité de ne rencontrer personne si elle n'est pas abandonnée décroit exponentiellement comme exp(-t/T) ou T est le temps moyen avant de rencontrer quelqu'un. Vous commencez donc à estimer que cette probabilité devient plus petite que le prior au bout d'un temps t = - T ln(pA) où pA est la probabilité initiale que vous donnez à l'hypothèse que la ville est abandonnée. Si vous estimez que cette hypothèse n'avait qu'une chance sur un million de se produire au départ, vous attendrez par exemple (rationnellement !) environ ln(10^6) environ 15 fois le temps que vous estimez le temps raisonnable avant de rencontrer quelqu'un avant de vous inquiéter (l'ordre de grandeur de 2heures parait raisonnable).

etc, etc... on peut multiplier les exemples à l'infini car en fait vous vous apercevez que chaque fois que vous "changez d'avis" sur le monde, c'est toujours parce qu'il y a eu un fait nouveau qui est entré en ligne de compte et que vous avez appliqué, consciemment ou non, une translation d'évidence liée à la probabilité estimée que ce fait ait lieu dans deux hypothèses opposées. Ceci permet aussi d'analyser la source des divergences d'avis et des controverses comme liées à une appréciation différente des prior et des translations d'évidences.

[invite36041331]

Bonjour,

Voilà mon plus gros problème avec le bayésianisme.

Supposons que je n'ai jamais vu d'aurore boréal, et que je n'ai même jamais imaginé que cela puisse existé, et qu'un ami fiable (à 99.9% qui ne m'a jamais menti et que je sais honnête), me dise en avoir vu une, et bien vu qu'appriori la proba qu'il en existe est trés faible pour moi on va dire 10^-5, alors si je suis bayésien la proba pour qu'il existe des aurores boréal, même aprés le témoignage de mon ami, restera faible en dessous des 1%.

Ce qui la fou mal pour notre ami fiable à 99.9%.

Mais quand on est pas bayésien on a tendance à croire que les aurores boréales existent avec une proba proche de 1, même si a priori pour nous cela avait trés peu de chance que cela soit le cas, aprés le témoignage d'un ami fiable à 99.9%.

C'est exactement ce raisonnement que l'on a devant des publications scientifiques qui remette en question notre intuition commune, comme pour les expériences de mécanique quantique, heureusement qu'il n'est pas bayésien, sinon personne ne croirait à la possiblité des expériences de mécanique quantique, qui ne peuvent être réaliser que dans des labos bien équipés.

Bonne journée.

[A voir en vidéo sur Futura]

[Archi3]

Les exemples précédents montrent que comme M. Jourdain, on applique souvent les probabilités bayesiennes sans le savoir. On peut se demander alors pourquoi tout le monde ne se met pas d'accord sur les conclusions. Selon moi, comme je vais l'exposer sur des exemples, c'est souvent à cause d'une application biaisée de la méthode qu'on fait des erreurs, avec une évaluation incorrecte du prior ou de la réévaluation bayesienne (on a déjà vu un exemple humoristique avec xkcd).

Prenons quelques exemples :

* des expériences de "parapsychologie" s'appuyant sur des personnalités "anormales" et concluant avec un raisonnement "bayesien-style" : je crois en l'existence de phénomènes paranormaux car la réévaluation bayesienne est grande, à cause de la petitesse que j'estime de la probabilité d'avoir constaté cette expérience si ils n'existaient pas " (en terme de translation d'évidence, ils estiment ∆Ev grand car p(B|non(A)) est toute petite.
Le raisonnement de base est correct, la question est juste de savoir si p(B|non(A)) (la probabilité d'obtenir ces résultats si il n'y a pas de phénomènes paranormaux ) est si petite que cela : outre la possibilité évidente de fraude, il existe aussi souvent une quantité non publiée : le nombre d'essais qu'on a fait avec différentes personnes avant d'en trouver une "bonne" , ou "trial factor" : évidemment plus on essaie plus on a de chance de trouver des cas statistiquement rares. La probabilité est donc biaisée par des effets de sélection.

La conclusion importante est que l'application des probabilités bayesiennes est correcte si toutes les informations sont prises en compte de manière non biaisées . En biaisant ou cachant des informations (ce qui revient au même), on biaise des conclusions. Beaucoup de polémiques et controverses scientifiques (type tabac ou amiante) se basent en fait sur l'existence d'informations non prises en compte.

* de même pour les théories du complot type "9/11" ou "l'homme n'est jamais allé sur la Lune" : là aussi il n'est pas inintéressant de relever que l'argumentaire prend la plupart du temps l'apparence d'un raisonnement bayesien donc a priori correct avec des affirmations du type "il est très improbable que des tours s'écroulent comme ça si il y avait juste un avion et un incendie dedans" : la réponse "juste" me semblerait être : ok, mais comment faites vous pour estimer que c'est improbable et quels sont vos arguments ?"

* les grandes controverses scientifiques (copernicisme, darwinisme, relativité, et plus récemment sur le réchauffement climatique) et de façon générale les recherches sur des domaines encore inconnus (matière noire, etc...) peuvent aussi quasiment toujours être ramenées à une discussion en terme d'évidences et de translations bayesiennes, avec des questions du genre : "en quoi est ce que ce que j'observe peut être traduit en termes de translation d'évidence" ? et donc "en quoi est ce que j'estime ces observations probables -ou improbables- suivant mes différentes hypothèses? "

* "l'erreur" sur les neutrinos superluminiques vient d'une erreur type "xkcd" : si les données disponibles à un moment semblaient privilégier l'hypothèse de neutrinos superluminiques, en réalité la translation d'évidence n'était pas suffisante pour "inverser" le prior (très fort) que la relativité était juste. En effet la probabilité p(B|non(A)) ( dominée par la probabilité d'une erreur de mesure ) , n'était en fait pas suffisamment petite pour rendre la translation d'évidence bien plus grande que le prior - cette probabilité ayant été "oubliée" par beaucoup de raisonnements.


d'une façon générale, je trouve qu'il serait intéressant de faire un effort pour "décortiquer" le débat en terme de prior et de translation d'évidence pour discuter rationnellement de là où ça coince, plutôt que de se lancer des invectives du genre "vendu", "naïf" , "parano" (qui sont peut être vraies mais pas forcément expliquées !).


* il y a eu plusieurs fils où j'ai mis en avant la nature "bayesienne" et l'importance de ces notions dans des problèmes du paradoxe de Fermi ou la blague des moutons noirs : j'ai rencontré de vives résistances à ce raisonnement, soit par l'assertion que le problème n'était pas relevable du raisonnement bayesien avec des assertions du type " cela n'a rien à voir avec Bayes, il ne s'agit pas de privilégier des hypothèses, de faire un pari, d'éliminer des hypothèses, mais de savoir ce que l'on sait (ce qui n'a rien à voir avec des probabilités)" -assertion avec laquelle je désagrée totalement car je pense que tout "savoir" en tant que "théorie du monde" (c'est à dire une assertion sur la nature du monde physique et pas un "raisonnement logique pur" ) est toujours le résultat d'un genre d'évaluation bayesienne. Soit manifestement par une incompréhension de la nature du raisonnement bayesien, une confusion entre les prior et les réévaluations, une fausse compréhension des conclusions (il ne s'agit pas de "démontrer" que telle ou telle chose est impossible ou de "postuler" que telle autre est vraie, mais de leur affecter des estimations et réestimations de vraisemblance, ce qui est totalement différent).

Je ferai donc un dernier post sur l'application à l'IA et quelques élucubrations personnelles sur la notion de "rationalité", n'oubliez pas que ce fil est un débat et sentez vous libre d'intervenir en cas d'incompréhension ou de désaccord.

[Archi3]

Bonjour,

Voilà mon plus gros problème avec le bayésianisme.

Supposons que je n'ai jamais vu d'aurore boréal, et que je n'ai même jamais imaginé que cela puisse existé, et qu'un ami fiable (à 99.9% qui ne m'a jamais menti et que je sais honnête), me dise en avoir vu une, et bien vu qu'appriori la proba qu'il en existe est trés faible pour moi on va dire 10^-5, alors si je suis bayésien la proba pour qu'il existe des aurores boréal, même aprés le témoignage de mon ami, restera faible en dessous des 1%.

Ce qui la fou mal pour notre ami fiable à 99.9%.

ça ne la fout pas mal : c'est toi qui estimes ton ami moins fiable (1 chance sur 1000 de te mentir) que l'implausibilité d'une aurore boréale (1 sur 100 000). Si ton estimation est juste, tu auras 99 chances sur 100 d'avoir raison . Ca n'empêche pas de te tromper une fois sur 100 , et tu peux te lamenter sur la fois ou tu as eu tort. Mais les probabilités ne sont jamais des certitudes.

Mais quand on est pas bayésien on a tendance à croire que les aurores boréales existent avec une proba proche de 1, même si a priori pour nous cela avait trés peu de chance que cela soit le cas, aprés le témoignage d'un ami fiable à 99.9%.

C'est exactement ce raisonnement que l'on a devant des publications scientifiques qui remette en question notre intuition commune, comme pour les expériences de mécanique quantique, heureusement qu'il n'est pas bayésien, sinon personne ne croirait à la possiblité des expériences de mécanique quantique, qui ne peuvent être réaliser que dans des labos bien équipés.

Bonne journée.

en fait tu poses le problème à l'envers : si tu préfères croire à ton ami, ou à des publis scientifiques, c'est que tu n'estimes pas que sa fiabilité est inférieure à la probabilité du phénomène , et si tu ne le crois pas, c'est le contraire : tes actes traduisent tes croyances. Dans le dernier post j'argumenterai justement pourquoi le formalisme bayesien est le seul formalisme rationnel pour décrire nos croyances.

[Cotissois31]

la proba qu'il en existe est trés faible pour moi

Ne jamais avoir vu quelque chose sur un temps et un espace limité fournit un a priori de 50% et non pas "très faible". Il ne suffit pas d'écouter sa propre logique pour fournir un a priori. Un a priori doit répondre à un argumentaire convaincant et adapté à l'échelle de temps et d'espace recherché. Tout a priori non convaincant donne 50% = aucun a priori.

A l'heure où on sait très convenablement simuler des systèmes variés et vérifier la robustesse de la simulation, on ne se fait plus avoir par le manque d'expérience de ces systèmes et on arrive à fournir des a priori de très haute qualité avant même d'aller mesurer sur le terrain.

[Archi3]

ça ne la fout pas mal : c'est toi qui estimes ton ami moins fiable (1 chance sur 1000 de te mentir) que l'implausibilité d'une aurore boréale (1 sur 100 000).

et la bonne question est : sur quelles bases as-tu estimées ces probabilités?

[Archi3]

Comme promis voila le dernier post "introductif" , sur l'application des probabilités bayesiennes à l'intelligence artificielle, et des réflexions subséquentes plus personnelles. De fait (là encore je ne suis pas spécialiste) mais il apparait que l'application des probabilités bayesiennes a pris beaucoup d'importance pour l'IA, pour une raison très compréhensible : quand vous voulez faire faire une expertise à une IA, vous ne pouvez pas simplement lui "demander son avis" comme à un humain sans trop savoir comment elle l'a forgé. Elle ne peut que calculer des choses, et il faut lui dire comment les calculer. Et le théorème de Cox-Jaynes montre que sous des hypothèses qu'on peut considérer comme "normales" pour l'apprentissage, alors l'application de la théorie des probabilités est la seule solution non biaisée pour estimer des vraisemblances. L'application des formules bayesiennes est donc la seule utilisable par une machine non biaisée.

C'est là que je fais une interprétation personnelle (mais peut être a-t-elle été développée par d'autres ) , plus psychologique : on sent bien que dans l'esprit humain, on a à la fois des tendances "rationnelles" et des tendances "irrationnelles", plus affectives qui conduisent à des comportements ou des croyances que d'autres jugent absurde ou non fondées.
Mon hypothèse est que le coté rationnel s'assimile à l'application rigoureuse des probabilités bayesiennes, alors que le coté irrationnel en est le refus ou la mauvaise application. Une IA ne pourrait par définition qu'appliquer rigoureusement les probabilités bayesiennes car il n'y a rien d'autre de "calculable" : cette hypothèse explique pourquoi une IA n'est pas considérée comme "naturelle" et qu'on sentira toujours bien qu'elle se conduit différemment d'un être humain , ce qui transparait d'ailleurs dans les représentations fantasmées des robots ou des ordinateurs pensants type HAL. Ils sont imaginés comme 'trop" rationnels - et par la même inquiétants.

ceci ne porte pas de jugement de valeur ; on peut arguer (peut être avec raison) que le coté irrationnel de l'humain est nécessaire et aussi source de créativité (beaucoup d'oeuvres d'art par exemple sont issues de différentes "croyances") : il offre cependant je pense une piste pour expliquer ce qui est "rationnel" et ce qui ne l'est pas: ce qui est rationnel dans l'élaboration des théories du monde, c'est l'application non biaisée des probabilités bayesiennes.

[Archi3]

pour illustrer le dernier point, je reprends l'exemple de Dattier

Voilà mon plus gros problème avec le bayésianisme.

Supposons que je n'ai jamais vu d'aurore boréal, et que je n'ai même jamais imaginé que cela puisse existé, et qu'un ami fiable (à 99.9% qui ne m'a jamais menti et que je sais honnête), me dise en avoir vu une, et bien vu qu'appriori la proba qu'il en existe est trés faible pour moi on va dire 10^-5, alors si je suis bayésien la proba pour qu'il existe des aurores boréal, même aprés le témoignage de mon ami, restera faible en dessous des 1%.

Ce qui la fou mal pour notre ami fiable à 99.9%.

la question est la suivante : si on vous demande de dire dans cette hypothèse si vous croyez aux aurores boréales , et que vous ne vouliez pas obéir à ce que disent les probabilités bayesiennes , avec quelle autre méthode allez vous faire votre choix ?
Et la réponse du théorème de Cox-Jaynes est ; il n'en existe aucune autre qui soit générale.

[Paradigm]

Bonjour Archi3, bonjour à tous

Je vais donc tenter de résumer ce que j'en ai compris et pourquoi je pense que c'est un raisonnement "fondamental" au sens où il est à la base de la plupart des raisonnements sur le monde "réel" qu'on fait
...

L'inférence bayésienne semble aujourd'hui bien reconnu dans les différents domaines des sciences et de l'ingénierie. C'est une démarche de raisonnement pertinente pour traiter les problèmes de prise de décision sous "informations" incomplètes, incertaines. Le mots "information" pouvant désigner données, observations ou résultats expérimentaux c'est à dire l'ensemble des manifestations tangibles du phénomène étudié. Ces informations quantitatives doivent être complétée par des connaissances qualitatives a priori (d’expert en ce qui concerne le domaine de l'ingénierie) car la prise de décision ne s’appuie pas uniquement sur des données quantitatives.

Cette approche statistique développe un cadre formel pour traduire de façon quantitative l’expertise par des distributions de probabilité, dites lois a priori ou priors. Toute la gamme des informations quantitatives et qualitatives que peut recevoir le processus de décision est formalisée à travers un couple comprenant d’une part le modèle statistique de représentation du phénomène étudié et d’autre part le modèle de représentation des connaissances a priori. Ici, l’outil essentiel est le modèle au sens d'une construction mentale qui a pour but la traduction opérationnelle d’un ensemble de connaissances à des fins de déduction.

Le paragraphe 2.4 de ce livre donne un exemple d'interprétation opérationnelle possible de la formule de Baye.

L'approche bayésienne est aussi utilisée pour interpréter le formalisme probabiliste de la physique quantique : https://ncatlab.org/nlab/show/Bayesi...ntum+mechanics

Cordialement,
A noter l'ouvrage Probability Theory: The Logic of Science

[LeMulet]

C'est là que je fais une interprétation personnelle (mais peut être a-t-elle été développée par d'autres ) , plus psychologique : on sent bien que dans l'esprit humain, on a à la fois des tendances "rationnelles" et des tendances "irrationnelles", plus affectives qui conduisent à des comportements ou des croyances que d'autres jugent absurde ou non fondées.
Mon hypothèse est que le coté rationnel s'assimile à l'application rigoureuse des probabilités bayesiennes, alors que le coté irrationnel en est le refus ou la mauvaise application. Une IA ne pourrait par définition qu'appliquer rigoureusement les probabilités bayesiennes car il n'y a rien d'autre de "calculable" : cette hypothèse explique pourquoi une IA n'est pas considérée comme "naturelle" et qu'on sentira toujours bien qu'elle se conduit différemment d'un être humain , ce qui transparait d'ailleurs dans les représentations fantasmées des robots ou des ordinateurs pensants type HAL. Ils sont imaginés comme 'trop" rationnels - et par la même inquiétants.

Effectivement, l'hypothèse du cerveau baysien est une bonne hypothèse :

Le modèle prédictif suppose qu’à chaque instant notre cerveau génère des attentes sensorielles. Avant même de recevoir un stimulus, un signal descendant tente d’en annuler les conséquences sensorielles. Seule l’erreur, c’est-à-dire la différence entre la prédiction et l’observation, est représentée dans les décharges neuronales transmises. S’en déduit une prédiction simple : si l’on supprime l’entrée attendue, une réponse neuronale devrait être évoquée par l’absence d’un son attendu. Cette prédiction est vérifiée (Joutsiniemi & Hari, 1989). Le paradigme d’omission inattendue d’un stimulus attendu offre une manière simple d’isoler un signal prédictif et d’en étudier les propriétés d’organisation hiérarchique (Wacongne et al., 2011).

..//..

Conclusion

L’hypothèse du « cerveau bayésien » s’avère remarquablement productive dans de nombreux champs des neurosciences cognitives. Le comportement animal et humain suggère que les adultes et les enfants possèdent une vaste capacité d’inférence statistique à de multiples niveaux (perception, action, langage…). L’architecture même du cortex pourrait s’expliquer par la réplication, à plusieurs niveaux hiérarchiques, d’un même circuit neuronal bayésien. Dans le cours de 2012-2013, nous étudierons comment l’hypothèse bayésienne s’applique aux tout premiers apprentissages, lorsque l’enfant apprend à ajuster ses modèles internes en fonction de l’environnement qui l’entoure et de l’éducation qu’il reçoit.

http://www.college-de-france.fr/site...2-21-09h30.htm

[Archi3]

effectivement il ne fait aucun doute je pense que la plupart des comportements d'apprentissage et de "théorisation du monde " viennent d'évaluation bayesiennes. Qu'il y ait des mécanismes neurologiques "implémentant" ces raisonnements dans le cerveau ne peut que confirmer cette évidence (et c'est en soi aussi une réévaluation bayesienne positive de cette théorie !).
Mais la question que je tentais de lancer allait à un pas de plus en avant : c'est de m'interroger sur l'origine de l'irrationalité c'est à dire la négation ou la non application du raisonnement bayesien. Ce qui m'a frappé dans les discussions, c'est que quand le raisonnement bayesien conduit à une conclusion que l'on n'aime pas, on réagit facilement en niant sa validité - en fait de façon injustifiée car j'ai répondu à chaque fois que les soi-disant "contre-exemples" n'en étaient pas, ils étaient tout à fait bayesien dans leur raisonnement. Si le raisonnement bayesien est , comme je le crois, universellement rationnel , alors on ne peut pas le remettre en cause : on peut juste discuter des estimations des prior et des probabilités conditionnelles qu'on utilise (j'ai donné des exemples dans les "fausses sciences", où ce qui pèche, ce n'est pas l'emploi d'un raisonnement bayesien, mais des probabilités artificiellement trop faibles employées). Ou alors tomber dans la réaction irrationnelle.

[LeMulet]

C'est expliqué par Stanislas Dehaene il me semble.
L'inférence d'un fait ne rend pas compte de l'ensemble des données possible, mais des données "connues".
Et par "connu" il faut bien comprendre c qu'on entend par là.

Ca se fait à un niveau inconscient, avant même que les raisonnements "scientifiques", justifiés mathématiquement ne soient pris en compte.
Cette manière de procéder a été mis en évidence par exemple par le fait que les très jeunes enfants sont déjà capables de déduire des choses du monde alors qu'ils n'en connaissent quasiment rien.
La raison en est qu'il est possible de tomber juste très souvent sur la base de données partielles et scientifiquement irrecevable car le monde est "ordonné", logique.
Par exemple si on sort une boule bleu d'un sac et qu'on demande quelle sera la couleur de la prochaine boule que l'on retirera du sac, le plus vraisemblable serait, pour le cerveau, que ce sera une boule bleue.
C'est irrationnel, mais ça marche souvent dans des cas "analogues".

De plus, à plus haut niveau, la "plausibilité", la "vraisemblance" des déductions est basée quasi exclusivement sur une organisation hiérarchique des concepts.
Par exemple, dans le cas qui vous intéresse ici (apparemment d'après ce que j'en comprend sur l'origine de votre interrogation) , la vie est un concept général, l'humain est un concepts un peu moins général, et l'ET est un concepts encore moins général. L'ET en forme de poulpe avec un oeil rouge et un oeil vert serait un "concept" encore moins général.
Or nous ordonnons les concepts selon des liens abstraits (non directement et rationnellement en rapport avec le réel, mais sur la base de l'idée que nous nous faisons de la hiérarchisation des concepts) et donnons aux concepts des niveaux de vraisemblance sur cette base méthodologique.
Le cas général étant le plus vraisemblable et le cas particulier demandant plus de preuves, en l'absence de preuves et donc en absence de moyens pour identifier les concepts qui sont généraux ou particuliers, le cerveau peut nous induire en erreur dans notre jugement.

Les erreurs de jugement à ce niveau proviennent donc, à mon avis, d'une erreur d'appréciation dans l'ordonnancement de la généralité des concepts.

[minushabens]

J'ai déjà eu l'occasion de l'écrire ici mais je le répète: la principale raison à mon sens d'utiliser l'approche bayesienne par rapport à l'approche "fisherienne" du maximum de vraisemblance, c'est qu'en bayesien on a une intégrale à calculer alors qu'en maximum de vraisemblance on a affaire à une optimisation. Quand il y a beaucoup de variables (disons plusieurs dizaines) on ne sait plus faire de maximisation de manière efficace mais on peut encore calculer une intégrale. Les autres arguments relèvent pour moi de la philosophie plus que des mathématiques.

[Archi3]

Par exemple si on sort une boule bleu d'un sac et qu'on demande quelle sera la couleur de la prochaine boule que l'on retirera du sac, le plus vraisemblable serait, pour le cerveau, que ce sera une boule bleue.
C'est irrationnel, mais ça marche souvent dans des cas "analogues".

non justement, c'est tout à fait rationnel. Ce qui serait irrationnel serait de citer une autre couleur que le bleu ...
L'important est de ne pas confondre certitude et vraisemblance, c'est souvent sur ces confusions que se font les critiques d'un rayonnement bayesien. Donner une vraisemblance plus élevée à une des éventualités ne signifie pas du tout qu'on considère que les autres sont impossibles. Ce n'est donc pas une "erreur de jugement" si la réalité ne donne pas le résultat jugé le plus vraisemblable.

[LeMulet]

non justement, c'est tout à fait rationnel. Ce qui serait irrationnel serait de citer une autre couleur que le bleu ..

Comment ça, vous trouvez rationnel en sciences (qui est un outil permettant d'augmenter notre intelligence) de vous baser sur un cas unique pour produire une généralité ?

[Archi3]

J'ai déjà eu l'occasion de l'écrire ici mais je le répète: la principale raison à mon sens d'utiliser l'approche bayesienne par rapport à l'approche "fisherienne" du maximum de vraisemblance, c'est qu'en bayesien on a une intégrale à calculer alors qu'en maximum de vraisemblance on a affaire à une optimisation. Quand il y a beaucoup de variables (disons plusieurs dizaines) on ne sait plus faire de maximisation de manière efficace mais on peut encore calculer une intégrale. Les autres arguments relèvent pour moi de la philosophie plus que des mathématiques.

oui si tu ne regardes que les aspects techniques et scientifiques pour lesquels on évalue quantitativement des vraisemblances. Dans ce cas, les deux méthodes sont différentes et plus ou moins adaptées suivant les données. Mais en fait les débats où on en a parlé ne concernaient pas pour la plupart des estimations quantitatives de probabilité, mais leur utilisation pour arriver à des conclusions qualitatives (genre : doit on raisonnablement garder une des hypothèses ?) . Comme j'ai dit, dans ce cas, ce n'est pas le calcul exact qui est important, mais plutôt le jugement de savoir si la translation d'évidence et le prior sont comparable ou bien sont d'un ordre de grandeur au moins de différence (en me relisant j'ai dit qu'on pouvait conclure si la translation d'évidence était bien supérieure au prior mais en réalité l'inverse est aussi vraie). Ce n'est pas du quantitatif "précis" mais c'est néanmoins du quantitatif , pas juste de la philosophie.

[Archi3]

Comment ça, vous trouvez rationnel en sciences (qui est un outil permettant d'augmenter notre intelligence) de vous baser sur un cas unique pour produire une généralité ?

c'est rationnel pour estimer l'issue la plus probable, oui, sans autre information disponible. Ca ne veut pas dire que les autres possibilités sont exclues.

[Cotissois31]

Ce qui serait irrationnel serait de citer une autre couleur que le bleu ...

Il est tout à fait rationnel, au sens scientifique, de proposer des solutions qui sont connues pour exister.
Les boules rouges existent, les boules vertes existent.
Ou alors, il faut une définition particulière de la rationnalité.
L'enfant qui attend du bleu après avoir vu du bleu marque peut-être un point dans certains exercices.
Mais on espère qu'il saura avoir une logique plus complexe quand il aura l'expérience du monde...
Avec l'expérience, il verra qu'il existe des boules de nombreuses couleurs et que parfois il aura intérêt à donner une réponse au "pif", implicitement une loi de probabilité uniforme".

Sinon, j'insiste bien pour dire qu'une discussion rationnelle sur les probabilités actualisées (version optimiste des probabilités conditionnelles) suppose d'injecter des a priori experts.
Quand on découvre un sujet, on injecte les a priori calculés par des experts, disponibles dans les publications scientifiques.
Cela permet d'éviter la tendance à "je ne suis pas la conclusion de cet expert car j'attends confirmation".
Avec les probabilités, on n'a plus besoin d'attendre. (Du moment que les probabilités sont actualisées de manière convaincante).

[Archi3]

Mais on espère qu'il saura avoir une logique plus complexe quand il aura l'expérience du monde...
Avec l'expérience, il verra qu'il existe des boules de nombreuses couleurs et que parfois il aura intérêt à donner une réponse au "pif", implicitement une loi de probabilité uniforme".

pas du tout. Ca reviendrait à dire qu'il ne tient absolument pas compte d'une information pertinente. Il n'a jamais aucun "interêt" (au sens d'augmenter ses chances d'avoir raison) de citer une autre couleur que celle qui a été tirée.

Sinon, j'insiste bien pour dire qu'une discussion rationnelle sur les probabilités actualisées (version optimiste des probabilités conditionnelles) suppose d'injecter des a priori experts.
Quand on découvre un sujet, on injecte les a priori calculés par des experts, disponibles dans les publications scientifiques.
Cela permet d'éviter la tendance à "je ne suis pas la conclusion de cet expert car j'attends confirmation".
Avec les probabilités, on n'a plus besoin d'attendre. (Du moment que les probabilités sont actualisées de manière convaincante).

ah ben là tu prends la position inverse du début (et correcte) : on a toujours intérêt à tenir compte d'une information pertinente. A condition, dans le premier cas comme dans le second, de ne pas confondre "vraisemblance" et "certitude".

[Archi3]

pas du tout. Ca reviendrait à dire qu'il ne tient absolument pas compte d'une information pertinente. Il n'a jamais aucun "interêt" (au sens d'augmenter ses chances d'avoir raison) de citer une autre couleur que celle qui a été tirée.

pour éviter toute ambiguïté : j'aurais du rajouter bien sur : si c'est la seule information disponible. Si il y a d'autres informations, ça peut bien sur influencer son jugement (si par exemple il SAIT que les boules sont toutes de couleurs différentes, il est évident qu'il va exclure de retirer une boule bleue !)

[LeMulet]

si c'est la seule information disponible. Si il y a d'autres informations, ça peut bien sur influencer son jugement (si par exemple il SAIT que les boules sont toutes de couleurs différentes, il est évident qu'il va exclure de retirer une boule bleue !)

C'est bien de ça dont on parle.
"S'il y a d'autres information", c'est ce qu'on appelle les informations experts.
Par exemple, dans un monde "ordonné", pour le bébé, une chose en appelle généralement une autre, similaire.
Chaque évènement nouveau n'est pas une surprise.
Qu'un adulte entre dans la pièce n'est pas une surprise, et qu'un deuxième entre à son tour n'est à la limite une surprise que la première fois.
Ensuite, il "sait" que les évènements similaires s'enchainent, c'est ici ce qu'on appelle l'information experte (au niveau du bébé bien sur).
Donc il "sait" que tirer une boule bleu ne précède pas de tirer un père-nôel du sac, un serpent ou un gâteau.
Son monde "expert" est ordonné.

Sans les informations expertes, on sait bien qu'on ne peut pas estimer une probabilité à "la marche des choses".
Donc choisir la couleur d'une boule NECESSITE l'information expert, sans quoi faire un choix devient "irrationnel", ou peut-être mieux dit "se fait au hasard".

S'inventer un scénario au fonctionnement du monde lorsqu'on n'a AUCUNE information, est irrationnel... pour nous.

Par contre le choix au hasard est une stratégie possible que l'on retrouve chez certaines espèces avec peu de moyens intellectuels et ou perceptifs lorsqu'il s'agit d'agir (sans rester bloqué) alors que rien de permet de faire un choix...rationnellement.
Ce n'est pas dans ce cas que ce soit justifié mathématiquement, ou rationnel, mais c'est la manière la plus efficace d'agir.

On est d'accord de dire que faire toujours un choix erroné et rationnel sur la base d'informations "trop" partielles (c'est là le point en rapport avec une estimation) est moins efficace que de faire un choix au hasard pour se retrouver (dans certaines situations, pas toutes) avec une réussite de 50% ?

[Archi3]

On est d'accord de dire que faire toujours un choix erroné et rationnel sur la base d'informations "trop" partielles (c'est là le point en rapport avec une estimation) est moins efficace que de faire un choix au hasard pour se retrouver (dans certaines situations, pas toutes) avec une réussite de 50% ?

non pas du tout d'accord : le choix rationnel ne peut pas toujours être erroné, et toute information pertinente améliore la probabilité de succès par rapport à ne pas en tenir compte : on peut même considérer que c'est la définition d'une information pertinente.
Mais comme je dis, la méthode bayesienne ne marche que si on n'écarte pas délibérément des informations. L'erreur n'est pas de garder des informations "trop" partielles : elle serait seulement d'en écarter.
C'est trivial avec la notion de translation d'évidence : une probabilité à 50 % est une évidence nulle. Si une information t'apporte quelque chose (et pour cela, comme j'ai rappelé, il suffit que la probabilité qu'elle arrive est différente dans les deux hypothèses à considérer), alors la translation d'évidence sera toujours dans le sens de l'hypothèse pour laquelle la probabilité d'occurrence est la plus forte. Ne pas en tenir compte ne peut pas être meilleur qu'en tenir compte.

[Cotissois31]

A condition, dans le premier cas comme dans le second, de ne pas confondre "vraisemblance" et "certitude".

Si on calcule des probabilités dans le cadre d'une évaluation du monde inconnu, c'est bien pour éviter le mot "certitude" tout en orientant la stratégie pour le plus probable.

Je comprends que la théorie de Bayes est un formalisme utile pour analyser des points de vue et la rationalité, mais
1) il y a quand même beaucoup de points de vue qui n'ont pas l'ambition de respecter l'inférence bayésienne.
Un point de vue ne correspond pas fondamentalement à une recherche de vérité.
2) il faudrait alors définir la rationalité sur le principe de l'inférence bayésienne. Je ne suis pas sûr que la rationalité, au(x) sens actuels, se réduise à l'inférence bayésienne.

[Archi3]

2) il faudrait alors définir la rationalité sur le principe de l'inférence bayésienne. Je ne suis pas sûr que la rationalité, au(x) sens actuels, se réduise à l'inférence bayésienne.

c'est une suggestion, on peut en discuter (par exemple si tu donnes un contre-exemple que chacun jugera "rationnel" mais qui n'applique pas les prédictions bayesiennes).

[invite36041331]

Salut,

Je suis tombé sur cela (à 8:20) :



@Archi : j'aurais savoir si tu connais le théorème de complétude de Solomonoff, si oui j'aurais en savoir d'avantage.

Merci.

[invite36041331]

Bonjour,

Mais A et B, n'est pas la même dans le cadre de la théorie bayésienne que B et A, et cela est un gros problème.

Bonne journée.

[Archi3]

Salut,

Je suis tombé sur cela (à 8:20)
@Archi : j'aurais savoir si tu connais le théorème de complétude de Solomonoff, si oui j'aurais en savoir d'avantage.

Merci.

Bonjour

je ne viens plus qu'exceptionnellement sur le forum qui n'a plus rien d'un espace d'échange libre pour moi. Non je ne connaissais pas le théorème de Solomonoff, mais dans l'ensemble , ce que dit la video me parait très proche de ce que je disais en introduction du fil, que nous fonctionnons "rationnellement" en modifiant nos croyances par des réévaluations bayesiennes, et que par opposition "l'irrationalité" pourrait être définie justement comme le fait que nous ne tenons pas compte des réévaluations bayesiennes pour forger nos croyances, c'est à dire en terme simple que nous ne tenons pas compte des faits, et que nous refusons de les prendre en compte, voire même d'en discuter.

Sinon je ne comprends pas pourquoi tu dis que A et B , ce n'est pas la même chose que B et A, puisque la formule de Bayes repose justement sur l'égalité fondamentale p( A et B) = p(B et A) = p(A) p(B|A) = p(B)p(A|B)

[invite36041331]

Bonsoir,

Sinon je ne comprends pas pourquoi tu dis que A et B , ce n'est pas la même chose que B et A, puisque la formule de Bayes repose justement sur l'égalité fondamentale p( A et B) = p(B et A) = p(A) p(B|A) = p(B)p(A|B)

Par exemple l'expérience faîtes ici à 13:40



On a le choix entre 5 dés, les dés 4,6,8,12 et 20.

On se pose la question de savoir comment réviser notre conviction (quand à savoir le dé utiliser) quand on tire un 7 puis un 3 (on obtient le D8 avec une proba de 61 %)
On obtient pas les même proba si on savait qu'on avait tiré avec ce dé un 3 puis 7. (on obtient le D8 avec une proba de 48 % environs)

Donc ici savoir A et B, n'est pas la même chose que savoir B et A.

Bonne soirée.