[REDMINE1D-55] [RM-5988] loglambda: améliorer le padding Created: 04/Jun/21  Updated: 05/Jul/23  Resolved: 05/Jul/23

Status: Done
Project: 1D Redmine
Component/s: None
Affects Version/s: None
Fix Version/s: None

Type: Task Priority: Normal
Reporter: Redmine-Jira Migtation Assignee: Redmine-Jira Migtation
Resolution: Done Votes: 0
Labels: None
Remaining Estimate: Not Specified
Time Spent: Not Specified
Original Estimate: Not Specified


 Description   

Created on 2020-09-22 12:05:35 by Didier Vibert. % Done: 100

réduire le padding fft pour gagner en temps d’exécution



 Comments   
Comment by Redmine-Jira Migtation [ 05/Jul/23 ]

Comment by Mira Sarkis on 2021-07-13 09:41:14:
Niveau gain de temps, @::precomputeContinuumFit@ passe, en moyenne par spectre:

  • de 10.2325 sec à 6.82625 sec en premiere passe, pour sp8
  • de 4.71625 sec à 3.5512 sec, pour qp8

Validation:

  • Pour qp8 on retrouve des différences mineurs de l'ordre de 1e-10 .
    • Dans le cas qp8+linemodel, certain résultats QSO du spectre 7726 change (e.g., lineRatioAmp passe de 0 à 13.4 et lineRatioIsmCoeff passe de 0 à 67.14)-->bug #6593
  • Pour se8 avec TF+fftprocessing: on a aussi des légères différences qui vont de 1e-7 (ZProba) à 1e-10. Les pdfs sont légèrement différentes mais l'allure reste identique.
  • Pour sp8, le spectre 386945, 420657 et 775371 ont leur IgmIdx qui passe à 0 (vs 3, 4, 5).
    Pour le spectre 386945, on a des différences de l'ordre de 1e-6 pour lfOII et de l'ordre de 1e-4 pour snrOII.
    Sinon tous les autres différences sont légeres de l'ordre <1e-8 et les PDFs sont presque identiques.
Comment by Redmine-Jira Migtation [ 05/Jul/23 ]

Comment by Mira Sarkis on 2021-07-19 11:56:40:
Les différences au niveau des indices IGM corresponent au fait que pour TFLOG on désactive IGM en se basant sur les bins des courbes meiksin sans prendre en compte l'entrée dans la couverture spectrale de la longueur d'onde 1216: donc on a une plage inermédiaire, pour laquelle certains z devront avoir un coeff -1 (actuellement mis à 0), et les autres un coeff dépendant du fit.

Ce bug sera corrigé dans l'issue #6123

Comment by Redmine-Jira Migtation [ 05/Jul/23 ]

Comment by Didier Vibert on 2021-07-19 12:14:15:
merge request: https://gitlab.lam.fr/CPF/cpf-redshift/-/merge_requests/181

Comment by Redmine-Jira Migtation [ 05/Jul/23 ]

Comment by Pierre-yves Chabaud on 2021-08-24 15:52:48:
Merged into @develop@ : @19eddd3@

Generated at Sat Feb 10 15:28:50 JST 2024 using Jira 8.3.4#803005-sha1:1f96e09b3c60279a408a2ae47be3c745f571388b.