[REDMINE1D-70] [RM-5811] invalid values @ -1 Created: 04/Jun/21  Updated: 05/Jul/23  Resolved: 05/Jul/23

Status: Done
Project: 1D Redmine
Component/s: None
Affects Version/s: None
Fix Version/s: None

Type: Task Priority: Normal
Reporter: Redmine-Jira Migtation Assignee: Redmine-Jira Migtation
Resolution: Done Votes: 0
Labels: None
Remaining Estimate: Not Specified
Time Spent: Not Specified
Original Estimate: Not Specified


 Description   

Created on 2020-06-04 10:27:07 by Didier Vibert. % Done: 100

logFluxHa et la plupart des valeurs en sortie sont initialisées à -1 et conservent cette valeur si non utilisée.
pour logFLuxHa -1 est une valeur aberrante mais possible en fonction des unités.

Il faudrait définir des valeurs pour les différents cas suivants:

  • unused (eg amplitude du continu si pas de continu fitté)
  • not measurable (eg Ha pas dans la couverture)
  • error (eg log(0.) si le flux est mesuré à zero)

Il faudrait discuter, peut-être au cas/cas de la pertinence de distinguer ces cas. Si pas de distinction, NaN pourrait être une solution

Une fois implémenté, il en découlera une tâche pour adapter vizu.



 Comments   
Comment by Redmine-Jira Migtation [ 05/Jul/23 ]

Comment by Vincent Le Brun on 2020-06-04 10:32:26:
Didier VIBERT wrote:
> logFluxHa et la plupart des valeurs en sortie sont initialisées à -1 et conservent cette valeur si non utilisée.
> pour logFLuxHa -1 est une valeur aberrante mais possible en fonction des unités.
>
> Il faudrait définir des valeurs pour les différents cas suivants:
> * unused (eg amplitude du continu si pas de continu fitté)
c-a-d si la mesure du flux a échoué? je suggère flux =10^-100 (ou -1000 si c'est numériquement possible)
> * not measurable (eg Ha pas dans la couverture)
NaN
> * error (eg log(0.) si le flux est mesuré à zero)
si le flux mesuré est <1sigma, on fixe flux=10^-90
>
> Il faudrait discuter, peut-être au cas/cas de la pertinence de distinguer ces cas. Si pas de distinction, NaN pourrait être une solution
>
> Une fois implémenté, il en découlera une tâche pour adapter vizu.

Comment by Redmine-Jira Migtation [ 05/Jul/23 ]

Comment by Ali Allaoui on 2021-02-05 10:42:51:
also linked to https://projets.lam.fr/issues/6304

Comment by Redmine-Jira Migtation [ 05/Jul/23 ]

Comment by Vincent Le Brun on 2021-02-10 08:55:20:
Vincent LE BRUN wrote in #note-2:
> Didier VIBERT wrote:
> > logFluxHa et la plupart des valeurs en sortie sont initialisées à -1 et conservent cette valeur si non utilisée.
> > pour logFLuxHa -1 est une valeur aberrante mais possible en fonction des unités.
> >
> > Il faudrait définir des valeurs pour les différents cas suivants:
> > * unused (eg amplitude du continu si pas de continu fitté)
> c-a-d si la mesure du flux a échoué? je suggère flux =10^-100 (ou -1000 si c'est numériquement possible)
j'avais pas compris le cas, plutôt NaN
> > * not measurable (eg Ha pas dans la couverture)
> NaN
> > * error (eg log(0.) si le flux est mesuré à zero)
> si le flux mesuré est <1sigma, on fixe flux=10^-99.9
> >
> > Il faudrait discuter, peut-être au cas/cas de la pertinence de distinguer ces cas. Si pas de distinction, NaN pourrait être une solution
> >
> > Une fois implémenté, il en découlera une tâche pour adapter vizu.

Comment by Redmine-Jira Migtation [ 05/Jul/23 ]

Comment by Didier Vibert on 2021-02-10 20:26:54:
pour résumer, je propose donc ceci:

  • unused (eg amplitude du continu si pas de continu fitté) : @NAN@
  • not measurable (eg Ha pas dans la couverture) : @NAN@
  • error (eg log(0.) si le flux est mesuré à zero) : à déterminer au cas/cas.
    Pour le cas log(0), je propose @-INF@ qui existe en flottant IEEE , plutôt que -90/-1000, etc...(sachant qu'on a bien les résultats suivant en calcul flottant IEEE754: @log(0)=-INF@ et @exp(-INF)=0@)
    Pour les autres cas d'erreur il faudrait qu'il soit pris en charge par la gestion d'erreur, ie qu'un retour permette de savoir qu'il y a eu une erreur, ce qui permet de distinguer les cas NAN attendus sans erreurs des cas avec erreurs.

à vérifier avec Ali que c'est bon pour vizu/api python/hdf5

Comment by Redmine-Jira Migtation [ 05/Jul/23 ]

Comment by Vincent Le Brun on 2021-02-16 09:04:27:
c'est OK pour moi

Comment by Redmine-Jira Migtation [ 05/Jul/23 ]

Comment by Mira Sarkis on 2022-01-27 11:32:04:
https://gitlab.lam.fr/CPF/cpf-redshift/-/merge_requests/258

Mr pour amazed-output-analyze: https://gitlab.lam.fr/amazed/amazed-output-analyzer/-/merge_requests/7

Comment by Redmine-Jira Migtation [ 05/Jul/23 ]

Comment by Pierre-yves Chabaud on 2022-02-07 19:02:05:
Merged into @develop@ : @e49a562@

Generated at Sat Feb 10 15:29:00 JST 2024 using Jira 8.3.4#803005-sha1:1f96e09b3c60279a408a2ae47be3c745f571388b.