https://pfspipe.ipmu.jp/jira This file is an XML representation of an issue en-us 8.3.4 803005 13-09-2019 https://pfspipe.ipmu.jp/jira/browse/REDMINE1D-55 1D Redmine <p><em><font color="#505f79"> Created on 2020-09-22 12:05:35 by Didier Vibert. % Done: 100</font></em></p> <p>réduire le padding fft pour gagner en temps d’exécution</p> REDMINE1D-55

[RM-5988] loglambda: améliorer le padding

Task Normal Done Done Redmine-Jira Migtation Redmine-Jira Migtation Fri, 4 Jun 2021 01:21:01 +0000 Wed, 5 Jul 2023 07:02:28 +0000 Wed, 5 Jul 2023 07:02:28 +0000 0 1 <p>Comment by Mira Sarkis on 2021-07-13 09:41:14:<br/> Niveau gain de temps, @::precomputeContinuumFit@ passe, en moyenne par spectre:</p> <ul> <li>de 10.2325 sec à 6.82625 sec en premiere passe, pour sp8</li> <li>de 4.71625 sec à 3.5512 sec, pour qp8</li> </ul> <p>Validation:</p> <ul> <li>Pour <b>qp8</b> on retrouve des différences mineurs de l'ordre de 1e-10 . <ul> <li>Dans le cas qp8+linemodel, certain résultats QSO du spectre 7726 change (e.g., lineRatioAmp passe de 0 à 13.4 et lineRatioIsmCoeff passe de 0 à 67.14)--&gt;bug #6593</li> </ul> </li> <li>Pour <b>se8</b> avec TF+fftprocessing: on a aussi des légères différences qui vont de 1e-7 (ZProba) à 1e-10. Les pdfs sont légèrement différentes mais l'allure reste identique.</li> <li>Pour <b>sp8</b>, le spectre 386945, 420657 et 775371 ont leur IgmIdx qui passe à 0 (vs 3, 4, 5).<br/> Pour le spectre 386945, on a des différences de l'ordre de 1e-6 pour lfOII et de l'ordre de 1e-4 pour snrOII.<br/> Sinon tous les autres différences sont légeres de l'ordre &lt;1e-8 et les PDFs sont presque identiques. </li> </ul> <p>Comment by Mira Sarkis on 2021-07-19 11:56:40:<br/> Les différences au niveau des indices IGM corresponent au fait que pour TFLOG on désactive IGM en se basant sur les bins des courbes meiksin sans prendre en compte l'entrée dans la couverture spectrale de la longueur d'onde 1216: donc on a une plage inermédiaire, pour laquelle certains z devront avoir un coeff -1 (actuellement mis à 0), et les autres un coeff dépendant du fit. </p> <p>Ce bug sera corrigé dans l'issue #6123 </p> <p>Comment by Didier Vibert on 2021-07-19 12:14:15:<br/> merge request: <a href="https://gitlab.lam.fr/CPF/cpf-redshift/-/merge_requests/181" class="external-link" rel="nofollow">https://gitlab.lam.fr/CPF/cpf-redshift/-/merge_requests/181</a></p> <p>Comment by Pierre-yves Chabaud on 2021-08-24 15:52:48:<br/> Merged into @develop@ : @19eddd3@</p> Development Rank 0|zzs7j4: