Utiliser les multiplicateurs de Lagrange pour le "basis pursuit"

Karl_Marx
Modifié (January 2023) dans Analyse
Bonjour,
un sujet qui m’intéresse beaucoup en ce moment est le “compressed sensing”. C’est un problème d’optimisation qui se base notamment sur solutionner le problème suivant nommé “basis pursuit” : $\min_{\alpha} \| \alpha\| \text{ tel que } y=X\alpha$.

Plusieurs méthodes existent pour résoudre ce problème, mais je me suis demandé s'il n’était pas possible de le résoudre en utilisant le multiplicateur de Lagrange ? C’est un problème qui s’y porte bien. Pourtant, je ne trouve aucune documentation sur cette piste…

Quelqu’un aurait une idée ou une source à partager svp ? L’objectif serait d’obtenir une solution générique (dépendante de $X$ et $y$) et non pas juste un algorithme qui me renvoie une valeur.
Merci !

Réponses

  • Alain24
    Modifié (January 2023)
    Que représentent $\alpha$, s, t, y, X ? Pourquoi utilisez-vous ce vocabulaire en globish, n'y a-t-il pas de termes français pour désigner les entités que vous manipulez ?
  • Bibix
    Modifié (January 2023)
    Si c'est le problème classique, alors $\alpha \in \mathbb{R}^n, y \in \mathbb{R}^p$ et $X \in \mathbb{R}^{p \times n}$. Le terme "s.t." est standard
    (même en français) mais peut être remplacé par "s.c.", ce qui abrège : "sous contrainte".
    En fait, tout dépend de la norme que l'on utilise. Si c'est la norme $\|\cdot\|_2$, alors on peut résoudre le problème avec les multiplicateurs de Lagrange. Mais si la norme est $\|\cdot\|_1$ (ce qui est le problème de la basis pursuit), alors c'est beaucoup plus compliqué car le problème n'est plus différentiable. On peut cependant toujours obtenir le problème dual qui est linéaire. Mais un problème linéaire n'a pas de solution analytique avec des multiplicateurs de Lagrange, donc on utilise l'algorithme du simplexe.
  • Karl_Marx
    Modifié (January 2023)
    [Inutile de recopier l’avant dernier message. Un lien suffit. AD]
    Je pense que le problème est très clair comme il est présenté la :) . Merci néanmoins à Bibix de l'avoir clarifié.
    [L'ai-je bien corrigé ? AD]

  • Karl_Marx
    Modifié (January 2023)
    [Inutile de recopier l’avant dernier message. Un lien suffit. AD]
    Oui c'est la norme l1 pardon. Mais donc si je comprends bien, c'est une piste qui mène au même résultat : utiliser le simplexe.
Connectez-vous ou Inscrivez-vous pour répondre.