Hessienne

Ca revient à faire le produit scalaire tU.H.U, mais j'ai comme un doute sur la validité de l'énoncé sans contrainte supplémentaire : sauf erreur, il suffit de prendre f(x, y) = -x² pour s'en convaincre.

En fait, pas la peine de supposer qu'on a un extremum.

Si f est au dessus de son plan tangent, la hessienne est positive, si elle est en dessous, la hessienne est négative.
Si la signature de la hessienne n'est ni positive ni négative, il y a des valeurs propres des deux signes, et, un utilisant le lemme de Morse (ou Taylor intégrale à l'ordre 2), on voit qu'il existe deux courbes (en dimension 2...) sur lesquelles f croise son plan tangent

On parle de point selle en dimension 2.

par exemple, c'est le cas en 0 pour (x,y) -> x^2-y^2

en espérant ne pas avoir dit de connerie

tigerfou : tu dis "Si $X_0$ est un minimum local, cela entraine que la Hessienne est définie positive en ce point. Ok pour moi." Je ne suis pas sûr que ce soit vrai : si tu prends $f(x,y)=x^2$ alors tout point $(0,y)$ est un minimum local (et même global) et pourtant la hessienne n'est pas définie, elle est seulement positive (c'est la propriété que tu énonces).


Réciproquement lorsque la hessienne est seulement positive mais pas définie, on ne peut rien dire à mon avis : on peut avoir un minimum (cf exemple précédent) ou pas de minimum (exemple : $g(x,y)=x^2-y^4$ en $(0,0)$ "sauf erreur ou omission" comme dirait l'autre).

le poulpe : Oui belle synchronisation en effet :-)


tigerfou : L'approche proposée par le poulpe est très intéressante, plus géométrique. Le lien vers les balbutiements de la théorie de Morse est également important à noter. On peut néanmoins toujours se ramener au cas où la fonction et sa différentielle sont nulles au point considéré en soustrayant une application affine idoine, ce qui ne change pas la hessienne. Je te conseille vraiment d'imaginer la forme (localement) d'une forme quadratique selon le signe des valeurs propres.

Pour résumer un peu :
- si la forme hessienne est dégénérée (au moins une valeur propre nulle) on ne peut rien dire en termes d'extrémums ou de position par rapport au plan tangent parce qu'il peut y avoir contact d'ordre plus élevé : toutes les situations peuvent se présenter : méditer en l'origine les exemples $x^2+y^4$ (un seul point commun avec le plan tangent), $x^2$ (une courbe commune avec le plan tangent), $x^2-y^4$ (un point selle : deux courbes de points communs) ;
- si elle est définie (positive ou négative) alors on a un extremum et/ou un point où le plan tangent reste du même côté de la surface ;
- si elle a deux valeurs propres non nulles mais de signes opposés on a un point selle, ou "hyperbolique", décrit dans le premier point et non moins brillamment par le poulpe, et en particulier pas d'extremum.

Tout ça manque de dessins mais tu devrais trouver ton bonheur dans un cours standard de calcul différentiel (désolé, pas de référence sous la main pour l'instant). Sinon il me semble que l'article de la Wikipédia anglophone sur la théorie de Morse commence par une introduction abordable - et généreusement illustrée - à ces phénomènes.