[REDMINE1D-358] [RM-8484] invalid parameters file in full IT Created: 16/Nov/23  Updated: 28/Nov/23  Resolved: 28/Nov/23

Status: Done
Project: 1D Redmine
Component/s: None
Affects Version/s: None
Fix Version/s: None

Type: Task Priority: Normal
Reporter: Redmine-Jira Migtation Assignee: Redmine-Jira Migtation
Resolution: Done Votes: 0
Labels: None
Remaining Estimate: Not Specified
Time Spent: Not Specified
Original Estimate: Not Specified


 Description   

Created on 2023-11-15 15:34:33 by Pierre-yves Chabaud. % Done: 100

There is an invalid parameters file in @linemeas_rules_balmersingle@ IT (part of full IT) :

<pre>
Traceback (most recent call last):
File "/net/CESAM/amazed/pychabau/venv/amazedpy3.9/lib64/python3.9/site-packages/pylibamazed/ParametersChecker.py", line 73, in json_schema_check
validate(instance=self.accessor.parameters, schema=self.jsonSchema, resolver=resolver)
File "/net/CESAM/amazed/venvs/amazed_shared_3.9_v1.0/lib/python3.9/site-packages/jsonschema/validators.py", line 1121, in validate
raise error
jsonschema.exceptions.ValidationError: 'balmersingle' is not one of ['all', 'no', 'strongweak', 'balmerSingle', 'ratiorange']

Failed validating 'enum' in schema['properties']['galaxy']['properties']['LineMeasSolve']['properties']['linemodel']['properties']['rules']:

{'description': 'Selects used rules (only for `lineRatioType=rules`)', 'enum': ['all', 'no', 'strongweak', 'balmerSingle', 'ratiorange'], 'title': 'Rules', 'type': 'string'}

On instance['galaxy']['LineMeasSolve']['linemodel']['rules']:
'balmersingle'
</pre>



 Comments   
Comment by Redmine-Jira Migtation [ 28/Nov/23 ]

Comment by Fanny Dufresne on 2023-11-16 12:26:34:
MR dataset parameters: https://gitlab.lam.fr/amazed/dataset-parameters/-/merge_requests/70

MR cpf redshift https://gitlab.lam.fr/CPF/cpf-redshift/-/merge_requests/566

Comment by Redmine-Jira Migtation [ 28/Nov/23 ]

Comment by Didier Vibert on 2023-11-17 11:44:48:
cf gitlab comment on cpf redshift MR https://gitlab.lam.fr/CPF/cpf-redshift/-/merge_requests/566

Comment by Redmine-Jira Migtation [ 28/Nov/23 ]

Comment by Didier Vibert on 2023-11-17 12:29:34:
pour info, @fdufresne j'ai copié ton rep d'output
<pre>
/net/CESAM/amazed/fdufresne/it/fix_issue_8484/2677c97c_b4f9b12_17190ac
</pre>
dans
<pre>
/net/CESAM/nas10c/scratch/dvibert/tmp/it/2677c97c_b4f9b12_17190ac
</pre>

pour obtenir les rapports sur tous les tests: @amzdiffit . /net/CESAM/amazed/it/develop/latest_full full@
(ça ne relance pas les tests, mais produit juste les rapport et résumés, qui ne sont pas produits lorsque qu'on lance les tests full...)

il y a quelques tests full qui ont des différences (en plus des 2 roman):

sp8_lm_linemeas_lbfgsb_velocityfit_false,
sp8_lm_linemeas_lbfgsb_lbdaoffsetfit_false,
se8_lm_secondpass_secondpasslcfittingmethod_svdlc,
se8_lm_secondpass_secondpasslcfittingmethod_svdlcp2

à vérifier si ces tests ont des différences à cause de cette issue où probablement à cause d'un autre merge depuis le dernier run des IT full ???

Sinon par rapport aux commentaires gitlab, ça n'apparait pas car les tests @lm_fittingmethod_random@ et @lm_firstpass_fittingmethod_random@ sont absents de la matrice de test.
il y a un écart de 4 tests entre la matrice linemodel est les tests dans linemodel_variations. Il manque les 2 random, et il reste les deux fittingmethod_lmfit qui aurait du disparaître lorsque on a supprimé lmfit... => à supprimer (dans ce ticket ?)

Comment by Redmine-Jira Migtation [ 28/Nov/23 ]

Comment by Didier Vibert on 2023-11-17 12:37:55:
ah je comprends le pb: cette issue est basée sur develop dont le dernier merge (changement de version lbfgspp #8436) produit des diff sur les IT full, mais que Pierre-Yves n'a pas pu produire...

Comment by Redmine-Jira Migtation [ 28/Nov/23 ]

Comment by Fanny Dufresne on 2023-11-17 12:50:40:
Ah ça me rassure un petit peu !

Comment by Redmine-Jira Migtation [ 28/Nov/23 ]

Comment by Fanny Dufresne on 2023-11-17 12:51:05:
Du coup je laisse la suite entre vos mains ?

Comment by Redmine-Jira Migtation [ 28/Nov/23 ]

Comment by Didier Vibert on 2023-11-17 13:23:45:
Fanny Dufresne wrote in #note-6:
> Du coup je laisse la suite entre vos mains ?

oui, on verra avec @pychabau comment il veut faire

Comment by Redmine-Jira Migtation [ 28/Nov/23 ]

Comment by Didier Vibert on 2023-11-17 14:44:47:
Fanny Dufresne wrote in #note-6:
> Du coup je laisse la suite entre vos mains ?

j'ai poussé sur dataset-parameters l'ajout des IT random dans la matrice linemodel et supprimé les tests lmfit.

Comment by Redmine-Jira Migtation [ 28/Nov/23 ]

Comment by Didier Vibert on 2023-11-21 15:55:39:
Didier Vibert wrote in #note-3:

> il y a quelques tests full qui ont des différences (en plus des 2 roman):
>
> sp8_lm_linemeas_lbfgsb_velocityfit_false,
> sp8_lm_linemeas_lbfgsb_lbdaoffsetfit_false,

=> ok ceux là sont des diffs de l'issue #8436

> se8_lm_secondpass_secondpasslcfittingmethod_svdlc,
> se8_lm_secondpass_secondpasslcfittingmethod_svdlcp2

Ces 2 diffs qu'on retrouve dans la branche d'Ali (ie merge de cette issue sur develop avant #8436) sont bien dû à cette issue.

cette issue modifie le paramètre suivant:
<pre>
"galaxy": {
"LineModelSolve": {
"linemodel": {

  • "secondpass": { - "secondpasslcfittingmethod": "svdlc" - }

    + "secondpasslcfittingmethod": "svdlc"
    }
    }
    }
    </pre>

si on regarde le fichier de param généré avant cette modif:
<pre>
"secondpass":

{ "halfwindowsize": 0.003, "continuumfit": "refitfirstpass", "secondpasslcfittingmethod": "svdlc" }

,
"secondpasslcfittingmethod": -1,
</pre>

=> donc le paramètre était listé à 2 niveaux différents, et c'est la valeur "-1" (aurait dû être une string...) provenant du parameters_base.json qui était prise en compte
=> le fitter svdlc n'a jamais été testé ! et idem pour svdlcp2

Le diff de @fdufresne est bien correct et active maintenant cette option. Tant mieux le code ne crashe pas. Je vais analyser les différences des sorties pour voir si elle me semble refléter le fonctionnement attendu...

On en profite pour modifier le parameters_base pour mettre une string ? et du coup autre chose que "-1" (il faut n'importe quoi différent de "svdlc" ou "svdlcp2" ). Peut être "no" ?
Ou alors @fdufresne tu le fait à l'occasion de ton refacto du générateur de param ?

Comment by Redmine-Jira Migtation [ 28/Nov/23 ]

Comment by Didier Vibert on 2023-11-22 09:02:21:

Les différences de @se8_lm_secondpass_secondpasslcfittingmethod_svdlc@ sont ok.
En revanche, la sortie de @se8_lm_secondpass_secondpasslcfittingmethod_svdlcp2@ est identique à @se8_lm_secondpass_secondpasslcfittingmethod_svdlc@, or elle ne devrait pas...

Par ailleurs, @fdufresne

m'a fait remarquer que la variation @extremacountB@ n'était pas activé à cause d'une mauvaise orthographe dans le parameters.json, cette issue corrige ce point, mais les sorties sont identiques à se8_main, or elle ne devrait pas non plus...

Ces 2 problèmes sont à résoudre dans une issue dédiée. (cf #8495 & #8496)

je passe celle-ci en feedback.

Comment by Redmine-Jira Migtation [ 28/Nov/23 ]

Comment by Pierre-yves Chabaud on 2023-11-24 14:41:15:
Merged into @develop@ (@3c15c613@)

Generated at Sat Feb 10 15:31:55 JST 2024 using Jira 8.3.4#803005-sha1:1f96e09b3c60279a408a2ae47be3c745f571388b.