https://pfspipe.ipmu.jp/jira This file is an XML representation of an issue en-us 8.3.4 803005 13-09-2019 https://pfspipe.ipmu.jp/jira/browse/REDMINE1D-36 1D Redmine <p><em><font color="#505f79"> Created on 2020-12-04 08:51:23 by Didier Vibert. % Done: 100</font></em></p> <p>we should try to integrate the likelihood under the peak instead of the posterior, ie not renormalize to unit integral, that is not divide by the evidence which encode the probability of the data (goodness of fit).</p> <p>This has not impact on the ordering of candidates for one spectra, but may help as a confidence indicator from one spectra to the other.</p> <p>In the purity/completness we could as well try to use the evidence (ie the likelihood integrated over the whole z range)</p> REDMINE1D-36

[RM-6165] use likelihood instead of posterior for merit

Task Normal Done Done Redmine-Jira Migtation Redmine-Jira Migtation Fri, 4 Jun 2021 01:20:17 +0000 Tue, 13 Jun 2023 06:10:49 +0000 Tue, 13 Jun 2023 06:10:49 +0000 0 2 <p>Comment by Didier Vibert on 2021-11-29 10:33:59:<br/> bon il semble que ce soit une mauvaise idée en fin de compte.</p> <p>sur la simulation ELcosmos, en remplaçant le merit (prob intégrée) par la vraisemblance intégrée (en log) on ne discrimine plus du tout entre les spurious et les targets:<br/> <img src="https://pfspipe.ipmu.jp/jira/images/icons/attach/noimage.png" imagetext="Capture%20d%E2%80%99%C3%A9cran%20de%202021-11-29%2011-10-56.png" align="absmiddle" border="0" /></p> <p>note: le calcul du nouveau merit est le suivant:<br/> log_merit_likelihood = log(merit) + max(log(evidence), 1700) - mean(log(evidence))</p> <p>les valeurs des évidences sont très étalées (range de taille exp(300)...):</p> <p><img src="https://pfspipe.ipmu.jp/jira/images/icons/attach/noimage.png" imagetext="Capture%20d%E2%80%99%C3%A9cran%20de%202021-11-29%2011-25-18.png" align="absmiddle" border="0" /><br/> <img src="https://pfspipe.ipmu.jp/jira/images/icons/attach/noimage.png" imagetext="Capture%20d%E2%80%99%C3%A9cran%20de%202021-11-29%2011-25-37.png" align="absmiddle" border="0" /></p> <p>Du coup, le merit (ie la fraction du pic sur le total de la pdf ) est noyé complètement par la valeur de l'évidence qui elle n'est pas du tout discriminante.<br/> Si on avait utilisé le chi2 réduit (ou pas, le nb de points &amp; param est le même pour tous les spectres) comme merit, on aurait eu aussi un truc pas discriminant du tout.... à tester ?</p> <p>Comment by Didier Vibert on 2021-11-29 10:35:44:<br/> Morgan a testé aussi de son côté l'utilisation les log_vraissemblance au lieu des log_posterieur pour l'apprentissage de la reliabilité, et ça ne marche pas du tout non plus, ce qui n'est pas surprenant au vu des résultats précédents...</p> Development Rank 0|zzs7ew: