https://pfspipe.ipmu.jp/jira This file is an XML representation of an issue en-us 8.3.4 803005 13-09-2019 https://pfspipe.ipmu.jp/jira/browse/REDMINE1D-309 1D Redmine <p><em><font color="#505f79"> Created on 2023-09-14 09:35:22 by Vincent Le Brun. % Done: 100</font></em></p> <p>en regardant la validation de pfs7_900s de la 0.44 j'ai vu des valeurs d'erreurs des flux éventuellement problématiques<br/> :<br/> LinemeasLinFLuxDirectIntegration : tout est à NaN<br/> LinemeasLineFLuxError: quelques valeurs, le reste à NaN<br/> LineMeasLineFittingError: des valeurs partout</p> REDMINE1D-309

[RM-8293] Linemeas : probleme dans les erreurs ?

Task Normal Done Done Redmine-Jira Migtation Redmine-Jira Migtation Thu, 14 Sep 2023 18:15:46 +0000 Thu, 28 Sep 2023 18:22:38 +0000 Thu, 28 Sep 2023 18:22:38 +0000 0 1 <p>Comment by Didier Vibert on 2023-09-14 12:25:35:<br/> alors, en principe, le code linemeas (avec le fitter lbfgs) est sensé sortir des valeurs pour LinemeasLineFLuxDirectIntegration &amp; LineMeasLineFittingError<br/> en revanche LinemeasLineFLuxError devrait être NaN partout...</p> <p>je viens de regarder le prermier spectre avec h5dump, et le problème est bien dans les outputs, ce n'est pas un problème vizu...</p> <p>je regarde.</p> <p>Comment by Didier Vibert on 2023-09-21 14:07:08:<br/> bon tout s'explique.</p> <ol> <li>LinemeasLineFLuxDirectIntegrationError est bien calculé, mais il manque une ligne pour le sortir dans le resultStore</li> <li>LinemeasLineFLuxError, n'est pas calculé avec le nouveau solver (lbfgsb) , il le sera via #8117<br/> mais une valeur peut quand même être obtenue: le solver lbfgsb étant assez sensible, lors du calcul de la solution initiale effectuée avec le solver linéaire, je ne lance pas le solver lbfgsb si le snr de la raie est trop faible (&lt;1). </li> <li>LineMeasLineFittingError correspond à autre chose (et porte peut-être mal son nom) est la racine carrée du chi2 calculé uniquement sur le support de la raie</li> </ol> <p>Comment by Didier Vibert on 2023-09-22 09:11:19:<br/> j'ai rajouté la sortie manquante @LinemeasLineFLuxDirectIntegrationError@</p> <p>MR: <a href="https://gitlab.lam.fr/CPF/cpf-redshift/-/merge_requests/546" class="external-link" rel="nofollow">https://gitlab.lam.fr/CPF/cpf-redshift/-/merge_requests/546</a></p> <p>=&gt; IT full, à cause des NAN remplacés par des valeurs </p> <p>Comment by Pierre-yves Chabaud on 2023-09-26 12:42:10:<br/> Merged into @develop@ (@5b2ed341@)</p> Development Rank 0|zzszk7: