[REDMINE1D-42] [RM-6123] set FittedTplMeiksinIdx output value to -1 when non applicable Created: 04/Jun/21  Updated: 13/Jun/23  Resolved: 13/Jun/23

Status: Done
Project: 1D Redmine
Component/s: None
Affects Version/s: None
Fix Version/s: None

Type: Task Priority: Normal
Reporter: Redmine-Jira Migtation Assignee: Redmine-Jira Migtation
Resolution: Done Votes: 0
Labels: None
Remaining Estimate: Not Specified
Time Spent: Not Specified
Original Estimate: Not Specified


 Description   

Created on 2020-11-13 14:38:44 by Didier Vibert. % Done: 100

FittedTplMeiksinIdx is an output given for each redshift solution and refers to the igm extinction curve selected for the model. The curves comes from Meiksin 2005, 7 curves times 11 redshift bins .The index goes from 0 to 6, selecting one of the 7 curves of the redshift bin corresponding to the redshift solution.

when the IGM extinction is not applied or when the the redshift is too small, there is no extinction applied. In such a case the output is currently left to zero.

A non-ambiguous value of "-1" should be set instead



 Comments   
Comment by yuki.moritani [ 13/Jun/23 ]

Comment by Mira Sarkis on 2021-06-30 16:25:56:

  • done for templatefitting.
  • done for tplCombination as part of issue #6086
  • already done for templatefittingLOG (since we disable igm once we determine that igm cannot be applied. IGM disabling happens pior to iterating over Meiksin values)
  • Note that there is nothing to do for linemodel since it uses TF and/OR TFLOG to fit the continuum (including selecting the best IGM value)
Comment by yuki.moritani [ 13/Jun/23 ]

Comment by Mira Sarkis on 2021-07-20 13:49:19:
Ajout d'un controle sur les valeurs de redshift dans TFLOG et sur les valeurs de lambda pour déterminer si la raie lya apparait ou pas.
Sinon, on désactive IGM et on sort -1 comme valeur par défaut pour l'indice IGM.

En conséquence de ce changement, pas mal d'indices IGM passe à -1 dans le it, nottament pour sp8 et qp8_qso_linemodel
Sinon, suite à la désactivation de l'IGM, ie., absence de l'appel à @::ApplyMeiksinCoeff@, des légeres différences (de l'ordre de 10-6 max) apparaissent sur la pdf et certaines valeurs (proba, continuumAmp, ) de sortie de se8_galaxy_templatefitting_fft). Ceci n'implique aucun changement sur les valeurs finales des redshifts.

Comment by yuki.moritani [ 13/Jun/23 ]

Comment by Didier Vibert on 2021-07-20 15:37:03:
Mira Sarkis wrote in #note-9:
>
> Sinon, suite à la désactivation de l'IGM, ie., absence de l'appel à @::ApplyMeiksinCoeff@, des légeres différences (de l'ordre de 10-6 max) apparaissent sur la pdf et certaines valeurs (proba, continuumAmp, ) de sortie de se8_galaxy_templatefitting_fft). Ceci n'implique aucun changement sur les valeurs finales des redshifts.

ça me gène un peu: normalement une multiplication par 1.0 ou son absence ne devrait pas changer le résultat (bit-perfect) ??

Comment by yuki.moritani [ 13/Jun/23 ]

Comment by Mira Sarkis on 2021-07-20 15:48:01:
Didier Vibert wrote in #note-10:
> Mira Sarkis wrote in #note-9:
> >
> > Sinon, suite à la désactivation de l'IGM, ie., absence de l'appel à @::ApplyMeiksinCoeff@, des légeres différences (de l'ordre de 10-6 max) apparaissent sur la pdf et certaines valeurs (proba, continuumAmp, ) de sortie de se8_galaxy_templatefitting_fft). Ceci n'implique aucun changement sur les valeurs finales des redshifts.
>
> ça me gène un peu: normalement une multiplication par 1.0 ou son absence ne devrait pas changer le résultat (bit-perfect) ??

oui sauf que pour TFLOG, on a aussi changé les valeurs de zrange et donc nPaddedSamples change aussi et comme on a vu dans l'issue #5988 des légères modifications sont introduites.

Comment by yuki.moritani [ 13/Jun/23 ]

Comment by Didier Vibert on 2021-07-21 07:47:08:
Mira Sarkis wrote in #note-11:
> Didier Vibert wrote in #note-10:
> > Mira Sarkis wrote in #note-9:
> > >
> > > Sinon, suite à la désactivation de l'IGM, ie., absence de l'appel à @::ApplyMeiksinCoeff@, des légeres différences (de l'ordre de 10-6 max) apparaissent sur la pdf et certaines valeurs (proba, continuumAmp, ) de sortie de se8_galaxy_templatefitting_fft). Ceci n'implique aucun changement sur les valeurs finales des redshifts.
> >
> > ça me gène un peu: normalement une multiplication par 1.0 ou son absence ne devrait pas changer le résultat (bit-perfect) ??
>
> oui sauf que pour TFLOG, on a aussi changé les valeurs de zrange et donc nPaddedSamples change aussi et comme on a vu dans l'issue #5988 des légères modifications sont introduites.

ah oui c'est vrai. donc c'est normal. je jette un coup d'oeil au code et je passe en feedback

Comment by yuki.moritani [ 13/Jun/23 ]

Comment by Didier Vibert on 2021-07-21 10:07:26:
merge request https://gitlab.lam.fr/CPF/cpf-redshift/-/merge_requests/180

Comment by yuki.moritani [ 13/Jun/23 ]

Comment by Pierre-yves Chabaud on 2021-08-10 12:39:17:
Merged into @develop@ : @2060ccb@

Generated at Sat Feb 10 15:28:42 JST 2024 using Jira 8.3.4#803005-sha1:1f96e09b3c60279a408a2ae47be3c745f571388b.