Calcul erreur avec matrice jacobienne

[cpalperou]

Bonjour,
j'ai un ensemble de N données (x_i,y_i) avec les incertitudes s_i associées à y_i. i variant de 1 à N. Je dois fitter ces données par une fonction M(x) à 3 paramètres a,b,c. Cette fonction est non linéaire. Je dois donc minimiser le khi2 (somme des carrées des différences modèles - mesures divisé par le carré de l'erreur).
La minimisation ne me pose pas de problème, j'y arrive bien (Levenberg marquardt method).
J'ai besoin de l'erreur sur les paramètres retrouvés (a, b, c) et là, on me dit que la matrice de covariance des erreurs près du minimum est relié au hessien, lui même bien approché par le jacobien.
Même si je sais ce qu'est une matrice jacobienne et hessienne, je ne comprends pas comment je dois calculer mes erreurs.
Merci
-----

[invite179e6258]

tu veux réinventer les statistiques?

[cpalperou]

Non!!!
Je minimise le khi2, j'obtiens mes 3 paramètres, je cherche un ordre de grandeur de l'erreur sur les paramètres obtenus. Suis-je clair?
J'ai lu que cette erreur pouvait être extraite de la matrice des dérivées secondes (hessienne) qui est estimée dans des algorithme de type Levenberg-Marquardt ou pseudo-Newton. Je ne sais pas comment faire cette extraction!!!

[invite179e6258]

Non!!!
Je minimise le khi2, j'obtiens mes 3 paramètres, je cherche un ordre de grandeur de l'erreur sur les paramètres obtenus. Suis-je clair?

c'est très clair, mais il existe une méthodologie qui s'appelle la régression non-linéaire, et on peut trouver des dizaines de livres qui l'exposent (j'ai devant les yeux le Seber & Wild) et donc je ne vois pas ce que tu cherches.

[A voir en vidéo sur Futura]

[cpalperou]

Merci,
je n'ai pas ces livres et je ne trouve pas d'info sur internet. C'est pourquoi j'ai posé la question sur ce forum.
Apparemment, tu t'y connais en matière d'analyse des données. Je ne comprends donc pas que 'tu ne vois pas ce que je cherche'
Pour la 3ème fois afin que tu vois ce que je cherche:
'comment calculer les incertitudes sur les paramètres retrouvées lors d'une minimisation entre mesure et modèle?'
Peut-être un lien vers un site internet sur les régressions non linéraires?
encore merci

[invite179e6258]

quand je dis que je ne vois pas ce que tu cherches, c'est que je ne sais pas si tu veux juste résoudre un problème pratique qui se pose à toi, ou si tu veux apprendre la théorie.

Dans le premier cas, à ta place j'utiliserais un logiciel de stats, par exemple R qui est gratuit. Il y a des fonctions dans R de régression non linéaire avec pondération des observations, et elles te calculeront la variance des paramètres estimés.

Dans le second cas, comme je ne connais pas ton niveau en stats je ne pourrais que te conseiller de chercher sur le net avec les mots-clés "weighted least squares" et "nonlinear regression", peut-être en commençant par wikipedia.

[cpalperou]

Merci,
j'ai trouvé comment faire graçe à internet.
Je résume ci-dessous ce que j'ai compris:

Soit une série de N mesures (x_i,y_i) avec des incertitudes si. A ces données, j'associe le modèle F(p_k,x) avec n paramètres p_k.
L'optimisation consiste à déterminer le jeu de paramètres p_k qui minimise le khi2:

Après avoir trouvé le jeu de paramètre optimal {p_k}_opt, les incertitudes dp_k sont donnés par les éléments diagonaux de la matrice d'erreur e:

avec

et


Est-ce correct?

Si oui, mon blème est résolu

[Dlzlogic]

Bonjour,
Vous devriez répondre à Charlie :

quand je dis que je ne vois pas ce que tu cherches, c'est que je ne sais pas si tu veux juste résoudre un problème pratique qui se pose à toi, ou si tu veux apprendre la théorie.

Dans le premier cas, à ta place j'utiliserais un logiciel de stats, par exemple R qui est gratuit. Il y a des fonctions dans R de régression non linéaire avec pondération des observations, et elles te calculeront la variance des paramètres estimés.

Dans le second cas, comme je ne connais pas ton niveau en stats je ne pourrais que te conseiller de chercher sur le net avec les mots-clés "weighted least squares" et "nonlinear regression", peut-être en commençant par wikipedia.

Concernant votre utilisation du khi2, je ne vois pas très bien ce que ça vient faire là-dedans. Le khi2 est une méthode simplificatrice pour vérifier la qualité de certaines observations.

[cpalperou]

Je pense que le fameux khi2 a plusieurs utilisations potentielles.

Je veux résoudre un problème pratique, c'est à dire, trouver le modèle qui fit au mieux mes données:
Soit un ensemble d'observations, on veut souvent résumer les données en l'ajustant à un modèle qui dépend de paramètres réglables. Parfois, les paramètres du modèle proviennent d'une théorie sous-jacente que les données sont supposées satisfaire..
Pour optimiser ces paramètres, on minimise le khi2 (différence entre modèle et mesure au carré, pondérée ou non). C'est une procédure très classique en modélisation des données, elle permet de retrouver les paramètres du modèle et d'expliquer ainsi les observations.
Je viens de me procurer le livre "numerical recipes" ; On peut consulter un nombre restreint de page sur internet : http://apps.nrbook.com/empanel/index.html#
dans go to page, choisit directement la page 776 et lis celle là et les suivantes. Il est question du khi2 dans le cadre d'optimisation de modèle

[Dlzlogic]

Si vous avez à résoudre un problème pratique, exposez le en détail, listez les données etc.
Pour la théorie, je pense qu'il vaudrait mieux ouvrir un autre sujet.

Dans ce genre de question, il y a deux approches différentes
Soit on cherche à modéliser le problème physique, par exemple, il concerne une accélération, on aura forcément un x². On fait une belle formule avec beaucoup de variables et des constantes à déterminer. Par différents essais on valide un peu à la fois la formule, on supprime des variables, bref, on l'affine. C'est l'approche analytique
Soit on dispose d'observations, de mesures et on cherche une formule qui satisfait ces observations. C'est ce que vous appelez "fitter". Il existe des techniques pour cela. C'est la méthode synthétique.

Les deux approches sont fondamentalement différentes, et effectivement, la méthode du khi2 est utilisée pour vérifier dans le cas de la méthode analytique. Mais IL FAUT COMMENCER PAR AVOIR UNE FORMULE.

[cpalperou]

Les deux approches sont fondamentalement différentes, et effectivement, la méthode du khi2 est utilisée pour vérifier dans le cas de la méthode analytique. Mais IL FAUT COMMENCER PAR AVOIR UNE FORMULE.

Ca tombe pile poil bien, j'en ai une!!
J'expose mon problème en résumé:
1) Mesure satellitaire de la transmission atmosphérique T_i à différentes longueurs d'onde l_i avec l'incertitude e_i
2) Modèle: la loi de beer-lambert dit que la transmission atmos doit être égale à:

en sommant sur les différentes espèces atmos susceptibles de contribuer à l'atténuation du rayonnement.
3) Je minimise le khi2 en ajustant les N_j (méthode de levenberg marquardt) et j'en déduis la contribution des différentes espèces atmos susceptibles [...] ce qui me permet de calculer les concentrations de certaines de ces espèces présentes dans notre atmosphère
4) erreur sur les paramètres N_j? Ca, c'était l'objet de mon post initial. J'ai trouvé la façon de faire et l'ai déjà posté il y a quelques eures.

Merci de votre aide, problème résolu.