Bonjour,
J'ai tenté de chercher dans mes trois langues fétiches la généralisation des régressions linéaires aux fonctions continues et pour l'instant je reste apparemment sans réponses...
Comment cela se fait-il ? J'en déduis que la notion de régression à un autre nom dans le cas des fonctions continues ?
Par intuition, en considérant le cas d'une fonction f à approximer sur l'interval [c, d] je dirais qu'il faut trouver les coefficients a et b qui satisfassent
Merci beaucoup !
Ce que tu veux faire n'est pas standard. Ca ressemble à de la régression linéaire L1 (moindres valeurs absolues). Ce qui est plus classique c'est la régression non linéaire, tu peux chercher des informations avec ces mots clés : nonlinear model ou nonlinear regression.
Salut @minushabens. Huuum pas sûr que ce soit à quoi je fasse référence.
Je parle bien d'approximer une fonction continue par une fonction affine dans le cas le plus simple, et non pas un ensemble de points par une fonction affine, comme présenté dans le concept de régression linéaire.
Par exemple prenons la fonction x + sin(x) sur l'interval [0, +infty[.
Mon intuition est que l'approximation affine de cette fonction est la fonction x. Quelle méthode générale prouve(rait) que le cas où a = 1, b = 0, f(x) := x est l'unique fonction affine qui minimise la somme de la distance entre ax+b et x + sin(x), et donc son approximation linéaire optimale ?
Je crois que ca n'a pas de rapport avec la nonlinear regression qui semble toujours s'appliquer uniquement à l'approximation d'un ensemble de points ?
ah ok je n'avais pas compris. Mais donc ce n'est pas une généralisation de la régression que tu veux faire. Pourquoi choisis-tu la norme L1? On a de meilleures propriétés en général avec la norme L2.
Bonjour Tbop.
As-tu regardé ce que vaut la distance entre x+sin(x) et x sur [0,+oo[ ? A mon sens, elle n'existe même pas !!
Et même remarque que Minushabens : la généralisation de la méthode des moindres carrés est plutôt une norme L2.
Cordialement.
Arf oui tu as raison, ca n'a pas de sens sur [0, +infty] même si intuitivement il y a quand même un sens à donner à cette fonction x mais il faut une définition du problème plus générale donc.Envoyé par gg0
Mais on s'est comprit sur le l'énoncé du problème que j'essaye de poser sinon ? Comment trouver la fonction affine qui approche une fonction continue quelconque sur un interval fini.
Prenons le même exemple avec x + sin(x). Si je comprends bien on chercherait alors à minimiser la norme L2 en fonction de a et b ? e.g..
Heu ... sais-tu ce qu'est la norme L2 ?
Et évidemment, c'est toujours la norme de la différence (tu as oublié le - ).
Apparemment j'en aurais que de vagues souvenirs et je n'ai pas très bien compris comment vous vouliez l'appliquer.
J'en déduis que l'on parle alors de trouver a et b tel que:
Et donc résoudre
Ou en général
?
Oui, c'est ça.
Le résultat dépend fortement de a et b; par exemple pour c=2 et d=4, on trouve a = 0,1055 environ. Et pour c=0 et d=100, on retrouve la proximité avec x : a= 0,9989 environ et b = 0,0576 environ.
Sinon, le calcul se fait bien si f(x), f(x)² et xf(x) ont des primitives simples comme pour f(x) = x+sin(x); on est amené à résoudre un système linéaire de deux équations à deux inconnues.
Cordialement.
Génial ! Puis-je te demander comment cela se fait-il que cette méthode n'ait pas un nom propre comme les méthodes de régressions ?
Comment généraliser le concept à des intervals infinis ? On prend une approche Taylorienne ?
Comme cette méthode n'a pas grand intérêt (*), elle n'a pas de nom. Par contre, on pratique beaucoup l'approximation polynomiale, dont une des origines est de calculer des intégrales.
Cordialement.
(*) Comme quoi une bonne idée n'est pas toujours utile
Ok merci pour tout, en tout cas je suis content d'avoir appris quelque chose !
L'intérêt de la norme L2 par rapport à L1 c'est qu'elle est liée à une notion d'orthogonalité. Si l'ensemble des fonctions parmi lesquelles tu cherches une approximation (les fonctions linéaires dans ton exemple) est fermé et convexe dans l'espace fonctionnel L2 considéré, alors la minimisation que tu as écrite revient à une projection orthogonale, et donc on a tout de suite l'unicité de la solution. En L1 on n'a pas nécessairement d'unicité.
