Méthode des moindres carrés ?

[invite2db9f308]

Bonjour,

Alors voila, je ne suis pas matheux mais j'ai besoin de vos lumières !
Je voudrais expliquer une variable Y par plusieurs variables X
J'ai un Y sur une colonne en output avec des valeurs comprises entre 1 et 100
J'ai 24 colonnes de Xi avec des variables standardisées.
Je voudrais, d'apres les observations, trouver l'équation :

Y = a1 X1 + a2 X2 + ... + a24 X24
avec les ai en coefficient de pondération.

Je dispose de Statsdirect et d'excel comme outils.

Mes questions :

1/ Quelle méthode (moindres carrés ?) utiliser pour résoudre ce pb ?
2/ Peux-t-on le faire avec excel ? et si oui comment ? (un lien vers une démarche simple serait le bienvenu)

Merci de votre aide
-----

[invite6d8e4836]

Bonjour


Solution 1:
On peut par exemple, écrire les vecteurs x en suite de colonnes. On obtient une matrice 100 lignes 24 colonnes. Je l'appelle A. Je range mes coefficients a dans un vecteur colonne de 24 lignes que j'appelle X.

J'ai alors Y=AX

Si B est la transposée de A, on résoud:

BY = BA X

BA est une matrice 24*24, BY est un vecteur de 24 lignes

X est donc égal à inverse(BA)*BY

Attention, l'inverse de BA n'est pas inverse(A) par inverse(B) car aucune de ces 2 dernières n'existe. Seule BA est une matrice carrée.

On peut montrer que ceci correspond à résoudre par les moindres carrés.
Inverser une matrice 24*24 est aisé pour certains programmes A CONDITION que la matrice soit de "bonne qualité"c'est à dire "bien conditionnée" pour utiliser le terme savant. Sinon il faut passer à:

Solution 2:

Si l'on a un système mal conditionné, on résoud en faisant la LU decomposition (c'est le terme) de A qui est la manière la plus astucieuse de procéder. Des codes comme MAPLE le font, ou sinon il faut aller chercher dans les ouvrages spécialisés. On décompose A de manière astucieuse et on élimine en quelque sorte les dimensions qui posent problème.

Si la méthode 1 suffit, super, sinon, remettez un post. J'ai pu aussi ne pas être clair.
Amicalement

JM

[kinette]

Bonjour,
Ce que tu te proposes de faire est une régression multiple.
Si tu souhaites faire des stats un peu plus élaborées que celles d'Excell et Statsdirect, tu peux utiliser R (logiciel gratuit).
Sur cette page: http://www.callisto.si.usherb.ca:808...20multiple.doc des explications sur la régression multiple et sa réalisation dans R.

K.orrélation

[invite8ab48d96]

Bonjour
Je ne suis pas si bon en mathématique mais je me trouve devant cette équation Y= a0 + a1X1 + a2X2 + a3X3 + a4X1 X2 + a5X1 X3 + a6X2 X3 + a7X12 + a8X22 + a9X32
Où il me faut trouve la valeur des facteurs a0, a1, a3, …a9.
J aimerais bien connaître la méthode des moindre carrés qui me permettra de trouve la valeur de chaque facteur.
Nb : les facteurs X1, X2, X3 et Y sont connue.

Merci de m’avoir aide

[A voir en vidéo sur Futura]

[invitec5eb4b89]

Ca ressemble toujours à une regression linéaire. Il suffit de suivre les conseils donnés plus haut !

Si ça ne fonctionne pas, il va falloir envisager d'autres méthodes (peut être une régularisation...).

Bon courage.

[invite8ab48d96]

Bonjour
Je ne suis pas si bon en mathématique mais je me trouve devant cette équation Y= a₀+ a₁X₁ + a₂X₂ + a₃X₃ + a₄X₁ X₂ + a₅X₁ X₃+ a₆X₂ X₃+ a₇X₁² + a₈X₂²+ a₉X²₃
Où il me faut trouve la valeur des facteurs a₀, a₁, a₃, …a₉.
J aimerais bien connaître la méthode des moindre carrés qui me permettra de trouve la valeur de chaque facteur.
Nb : les facteurs X₁, X₂, X₃ et Y sont connue.

Merci de m’avoir aide

[invitec5eb4b89]

C'est beaucoup plus joli comme ça...

Que donnent les Moindres Carrés Ordinaires pour l'estimation de tes paramètres ?

[invite8ab48d96]

Excusez
Je ne comprends pas votre question.
Plus précisément je veux faire une étude de surface de réponse qui me permet a travers se modèle polynomiale de traduire les variations des réponses. Mon problème se trouve sur la détermination des coefficients a0….a9. Il semblerait que la méthode de moindre carre permet de déterminé facilement se coefficients. Cette méthode je ne la connais pas si non la formule de calcul de chacun des coefficients.

[invitec5eb4b89]

Quelle est la question un peu plus précisément ??

Est-ce qu'il te faut juste une méthode (genre une "recette") pour calculer les coefficients, ou est-ce que tu veux comprendre la méthode ? Dans tous les cas : qu'est-ce que tu as déjà compris ou fait ?

La méthode des Moindres Carrés Ordinaires te permet d'estimer (en maximisant la vraisemblance) tes coefficients : â = (X'X)^-1X'y... Est-ce que donner cette formule te suffit ou est-ce que tu veux plus de précisions ?

[invitec424516b]

Moi si possible j'aimerais bien une explication.

En fait j'ai un problème où
avec a et b des réels et X et Y des vecteurs colonne

je trouve donc que trouver la solution revient à resoudre

et là un de mes prof m'a donné la solution :

mais je ne vois pas d'où viens ce résultat.

Si quelqu'un passe par là ...
Merci

[invitec5eb4b89]

Additionner des vecteurs et des scalaires ?!!

Soit une variable réelle y à expliquer en fonction d'un ensemble de mesures que l'on "range" dans la matrice (réelle aussi) X. On suppose que l'on dispose de n mesures en tout est qu'il y a p variables explicatives. Donc y est un vecteur à n composantes et X une matrice à n lignes et p colonnes.

On voudrait ajuster un modèle linéaire pour expliquer ! Attention, ici est un vecteur à n composantes et un vecteur à p composantes. On préfèrera donc pour la suite rajouter une colonne de 1 à X et incorporer le coefficient constant au vecteur . Le nouveau modèle est donc avec y inchangé, X qui a maintenant n lignes et p+1 colonnes et qui est devenu un vecteur à p+1 composantes.

On utilise pour cet ajustement la méthode dite des moindres carrés qui consiste à minimiser les carrés des résidus :

Réoudre ce problème d'optimisation revient à trouver le vecteur pour lequel la fonction a une dérivée qui s'annule. Là évidemment on est un peu embêtés puisque l'on veut dériver par rapport à une variable vectorielle. En développant un peu le calcul, on se rend vite compte que



On en déduit ...

Voilà, c'est un peu raccourci, mais j'espère que c'est utile !

[hmed_gc]

Bonjour
je veux faire une etude sur l'ifluence de plusieurs facteur sur une repense y, jai opté pour un polynom tlque: Y= a0+ a1X1 + a2X2 + a3X3 + a4X1 X2 + a5X1 X3+ a6X2 X3+ a7X12 + a8X22+ a9X23.
mais apparament je peux avoir plus de précision si je vais utilisé une fonction puissance tel que:
y=a .〖x1〗^a1 .〖 x2〗^a2 .〖x3〗^a3……..
et j'ai trouvé dans la littérature qu'on peut la résoudre par la methode des moindre carré non linéaire
si qlq un peux m'aidé sur cette methode
et merci