Comment by Didier Vibert on 2023-09-14 12:25:35:
alors, en principe, le code linemeas (avec le fitter lbfgs) est sensé sortir des valeurs pour LinemeasLineFLuxDirectIntegration & LineMeasLineFittingError
en revanche LinemeasLineFLuxError devrait être NaN partout...

je viens de regarder le prermier spectre avec h5dump, et le problème est bien dans les outputs, ce n'est pas un problème vizu...

je regarde.

Comment by Didier Vibert on 2023-09-21 14:07:08:
bon tout s'explique.

1. LinemeasLineFLuxDirectIntegrationError est bien calculé, mais il manque une ligne pour le sortir dans le resultStore
2. LinemeasLineFLuxError, n'est pas calculé avec le nouveau solver (lbfgsb) , il le sera via #8117
   mais une valeur peut quand même être obtenue: le solver lbfgsb étant assez sensible, lors du calcul de la solution initiale effectuée avec le solver linéaire, je ne lance pas le solver lbfgsb si le snr de la raie est trop faible (<1).
3. LineMeasLineFittingError correspond à autre chose (et porte peut-être mal son nom) est la racine carrée du chi2 calculé uniquement sur le support de la raie

Comment by Didier Vibert on 2023-09-22 09:11:19:
j'ai rajouté la sortie manquante @LinemeasLineFLuxDirectIntegrationError@

MR: https://gitlab.lam.fr/CPF/cpf-redshift/-/merge_requests/546

=> IT full, à cause des NAN remplacés par des valeurs

Comment by Pierre-yves Chabaud on 2023-09-26 12:42:10:
Merged into @develop@ (@5b2ed341@)