Opérateur compact

Ok je comprends. C'est une norme 2 généralisée qui a l'avantage de s'exprimer comme "somme des valeurs propres" de TT*.
En dimension finie on sait que la norme de ce truc est la racine de la somme des valeurs propres : autrement dit la norme 2 des racines des valeurs propres. Ici évidemment les matrices sont infinies donc cette somme n'a pas forcément de sens. Mais avec la norme choisie on a une relation similaire qui est valable dans tous les cas avec l'hypothèse faite sur les valeurs propres : la norme de T est maintenant vue comme la norme p des racines des valeurs propres de TT*.

Si tu préfères imagine un théorème spectral avec une matrice infinie. Si ta matrice TT* est diagonale dans une bonne base, sa norme euclidienne est facile à avoir.
Maintenant, en règle générale, on a dit que cette matrice diagonale n'avait pas de trace bien définie. Mais on suppose que les racines de ces coefficients sur la diagonale sont l^p. On peut donc simplement élever à la puissance p/2 avant de prendre la trace qui a donc bien un sens puis ajuster la puissance de ce qu'on a obtenu.

Pour justifier cette définition à base de TT*, on peut dire que T et T* ont mêmes valeurs propres et commutent, donc pour faire le parallèle avec l'algèbre linéaire en dimension finie, si elles sont diagonalisables on peut les diagonaliser simultanément dans une même base (et je sais qu'il y a un théorème similaire pour les opérateurs de Hilbert-Schmidt). Le produit des deux matrices contient donc les carrés des valeurs propres de T : c'est pour ça qu'on considère les racines des valeurs propres de TT* dans la définition, puisque ce sont les valeurs absolues des valeurs propres de T (et le signe ne compte pas quand on prend la norme p ensuite).
Donc en fait la quantité tr(TT*)^p/2 est bien la norme p à la puissance p de T dans ce cas co-diagonalisable, et comme elle se généralise bien par son caractère intrinsèque on en fait une définition générale.

C'est en fait une autre écriture de la définition que je t'ai donnée, quelque part.

A vrai dire j'ai un doute sur leur définition, puisque dans tous les cas ils considèrent que ce sont seulement les valeurs singulières qui sont l^p, donc ignorent les valeurs propres qui ne sont pas positives. On ne peut donc prendre que celles-ci rien que pour donner un sens à la puissance p/2 (qui d'ailleurs a besoin que la matrice soit diagonalisée pour être définie), et pour sommer la norme p.
Donc peut-être que leur "trace" est une notation abusive qui ne désigne que la sommes des racines des valeurs propres positives de TT*.

Il y a une faute de frappe ou au moins une imprécision dans le parenthésage de la définition de l'image que tu as postée mathspe. Ces normes s'appellent normes de Schatten. Comme indiqué sur Wikipédia la définition est
\[
\|T\|_p^p = \mathrm{Tr}((T^*T)^{p/2}).

\] C'est donc l'opérateur $T^*T$ qui est élevé à la puissance $p/2$, pas la trace.

Mais j'imagine que tu aurais pu trouver tout seul la réponse en suivant la piste indiquée par le texte que tu lisais "For more properties of this class of operators [...]"