Il y a probablement des tas de méthodes. Bien sûr, le truc est trivialisé si on connaît la réduction des couples contragrédients, mais je vais traiter le truc à un niveau taupinal.
Par l'absurde, on suppose donc $(AB)^{n-1} \neq 0$ et $(BA)^{n-1} \neq 0$. Evidemment $BA$ est nilpotente, et ainsi $AB$ et $BA$ sont des blocs de Jordan nilpotents. Si on prend $X$ dans $\C^n \setminus \mathrm{Im}(BA)$, alors
$X$ est cyclique pour $BA$, et ainsi $AX$ sera cyclique pour $AB$ sauf si $AX \in \mathrm{Im}(AB)$. Mais si $AX$ est cyclique pour $AB$ alors on en déduit facilement que $\mathrm{rg} A=n$, ce qui a été exclu. Ainsi $AX \in \mathrm{Im}(AB)$ pour tout $X \in \C^n \setminus \mathrm{Im}(BA)$, puis par linéarité $\mathrm{Im} A \subset \mathrm{Im}(AB)$. Symétriquement $\mathrm{Im} B \subset \mathrm{Im}(BA)$. On trouve alors facilement, par itérations,
$\mathrm{Im} A \subset \mathrm{Im} ABA \subset \mathrm{Im} ABABA \subset \cdots \subset \mathrm{Im} A(BA)^n A=\{0\}$, donc $A=0$, puis $(AB)^{n-1}=0$, ce qui est absurde.
Il est classique que $AB$ et $BA$ ont même polynôme caractéristique. Donc $BA$ aussi est nilpotente.
Supposons par l'absurde que ni $(AB)^{n-1}$, ni $(BA)^{n-1}$ ne sont nulles. Alors les matrices $AB$ et $BA$ sont nilpotentes d'indice $n$, donc de rang $n-1$.
De là, il découle facilement que ${\rm ker}(AB)={\rm ker}(B)$ et ${\rm ker}(BA)={\rm ker}(A)$. Donc par récurrence ${\rm ker}((AB)^{n})={\rm ker}(B)$, ce qui est absurde.
On a $(AB)^n=(AB)^{n-1}.AB$ donc si $(AB)^n=0$ alors aussi $(AB)^{n-1}.AB=0$ et on déduit que $(AB)^{n-1}=0$ en multipliant à droite par l inverse de B puis l inverse de A. J'ai raté quoi ?C'est ma première bêtise 2023 ?
De là, il découle facilement que ${\rm ker}(AB)={\rm ker}(B)$ et ${\rm ker}(BA)={\rm ker}(A)$. Donc par récurrence ${\rm ker}((AB)^{n})={\rm ker}(B)$, ce qui est absurde.
OH ! Pour une fois que j'ai une réponse à donner sur un post d'etanche !!!
Je me posais la question aussi ! On a : $\ker(B) \subset \ker(AB)$ mais on a vu que $AB$ est de rang $n-1$ donc $\ker(AB)$ est de dimension $1$ d'après le théorème du rang.
Ainsi, $\ker(B)$ est de dimension $0$ ou $1$ mais $B$ n'est pas inversible donc $\dim(\ker(B))=1=\dim(\ker(AB))$ et ainsi, l'inclusion est en fait une égalité !
Par contre, le "par récurrence ..." qui suit, je ne comprends pas... Ah si, ça y est, j'ai compris ! ^^'
Par contre, le "par récurrence ..." qui suit, je ne comprends pas...
Si $X\in {\ker}((AB)^n )$, alors $(AB)^{n-1}(ABX)=0$. Donc $ABX\in {\ker}((AB)^{n-1})={\ker}(B)$ par hypothèse de récurrence. Donc $BA(BX)=0$, donc $BX=0$. Ainsi ${\ker}((AB)^n )\subseteq {\ker}(B)$, puis égalité, l'autre inclusion étant claire. J'espère m'être pas fourvoyé.
Oui c'est ce que j'ai fait sur mon brouillon en raisonnant par récurrence sur un entier $k \in \mathbb{N}^*$ plutôt car $n$ est supposé supérieur ou égal à $2$ dans l'énoncé d'etanche donc finalement j'ai compris ! Merci beaucoup pour cette preuve très intéressante !!!
Je vais pouvoir ajouter l'exercice à ma base de données !
Non, la question du fil dit que si $AB$ et $BA$ sont deux matrices nilpotentes (et que $A$ et $B$ sont non inversibles), alors l'une des deux est d'indice strictement plus petit que $n$ mais ne précise pas laquelle.
@gebrane Oui car $AB$ et $BA$ ont le même polynôme caractéristique. Comme celui de $AB$ est $X^n$ où $n$ est la dimension de l'espace $E$ entier (car $AB$ est nilpotente), celui de $BA$ est aussi $X^n$ et $BA$ est également nilpotente (théorème de Cayley-Hamilton).
Par contre, j'ai une question à laquelle j'ai réfléchi aujourd'hui !
Dans la preuve fournie par Paul Broussous que je remercie chaleureusement, on déduit au début du raisonnement que $AB$ et $BA$ sont de rang $n-1$ . Cette déduction découle du fait que quand on a un endomorphisme $u$ nilpotent d'ordre de nilpotence égal à $p$, la famille $(x,u(x),...,u^{p-1}(x))$ avec $x$ tel que $u^{p-1}(x) \neq 0$ est libre.
Je parviens à prouver la liberté de cette famille avec un raisonnement par l'absurde bien rigoureux mais aussi d'une autre manière pas vraiment rigoureuse pour le coup en appliquant $u$, $u^2$ , ... , $u^{p-1}$ à la combinaison linéaire nulle considérée. Je pense que cette dernière preuve cache en fait un raisonnement par récurrence mais je ne parviens pas à le formaliser clairement ! Comment peut-on s'y prendre?
Tu peux présenter une combinaison linéaire nulle $\lambda_0 x+\dots+\lambda_{p-1} u^{p-1}(x)=0$ et démontrer par récurrence forte (finie) la propriété $\lambda_k=0$.
Pour prouver la liberté de la famille je procède comme ça (plus simple) si $\lambda_0 x+\dots+\lambda_{p-1} u^{p-1}(x)=0,$ soit $i$ le plus petit indice tel que $\lambda_i\ne 0$, donc le problème devient $$\lambda_i u^{i}(x)+\dots+\lambda_{p-1} u^{p-1}(x)=0,$$ et on compose avec $u^{p-1-i}$ ce qui donne $\ \lambda_i u^{p-1}(x)=0$, donc $\lambda_i=0$ donc ...
Cette même démonstration permet de démontrer, sans utiliser le polynôme caractéristique, que si $(AB)^n=0$ alors $(BA)^n=0$ (dans $M_n(\C)$).
En effet $(AB)^n=0$ entraine que $(BA)^{n+1}=B(AB)^nA=0$ : si on avait $(BA)^n\neq0$ il existerait un vecteur $X$ tel que $(BA)^nX\neq0$ et par suite la famille $(X,(BA)X,\dots,(BA)^nX)$ de cardinal $n+1$ serait libre, impossible car $\dim(\C^n)=n$.
@NicoLeProf Tu n'as pas compris la mienne , elle est économique
Bah si je l'ai bien comprise celle-ci, je l'ai soulignée dans mon message précédent : on raisonne par l'absurde et on prouve la liberté de cette famille en obtenant une contradiction sur la définition de $i$ . Ce que je cherchais était la formalisation du raisonnement par récurrence car il faut savoir faire plusieurs preuves à l'agreg. Une récurrence peut être imposée dans un sujet d'écrit (c'est déjà arrivé ^^').
Euh non, $AB$ peut être nilpotente sans que $BA$ le soit. Avec l'exemple de JLT, on a $AB \neq 0$ et $BA = 0$... . Le polynôme minimal divise le polynôme caractéristique, mais l'inverse n'est pas vrai en général.
@Bibix, je ne vois pas le problème : la matrice nulle n'est-elle pas considérée comme une matrice nilpotente d'indice de nilpotence égal à $1$ ?
Nous n'avons pas parlé de polynôme minimal ici . Nous avons dit que $AB$ et $BA$ ont le même polynôme caractéristique. Comme celui de $AB$ est $X^n$ car $AB$ est nilpotente, celui de $BA$ est $X^n$ donc $BA$ est aussi nilpotente ($BA$ peut être nulle mais son polynôme caractéristique sera quand même égal à $X^n$ et elle est nilpotente d'indice de nilpotence égal à $1$ dans ce cas). Il y a pourtant équivalence entre "être nilpotent" et avoir un polynôme caractéristique égal à $X^n$ dans tous les cours que j'ai lus jusqu'à présent.
Et d'ailleurs, on peut prouver facilement que la seule matrice nilpotente diagonalisable est la matrice nulle... non? ^^'
Pas vraiment de doute pour le coup non mais de nombreux membres de ce forum sont vraiment brillants je trouve et il me semble bien que Bibix en fait partie ! Donc forcément, Bibix crée le doute à travers son message. Si je fais une erreur de raisonnement ou si ma définition d'endomorphisme nilpotent n'est pas bonne, j'aimerais donc avoir une explication ! ^^'
Sauf erreur, $(BA)^{n+1}=0$ suffit, merci @jandri ! Supposons $(AB)^{n-1}\neq 0$ et $(BA)^{n-1}\neq 0$. On a : $$\{0\}\varsubsetneq \ker B\subset \ker AB\varsubsetneq\cdots\varsubsetneq\ker (AB)^{n-1}\varsubsetneq\ker(AB)^n.$$ La première inclusion est stricte car $B$ n'est pas inversible. La dernière inclusion est stricte car $(AB)^{n-1}\neq 0$ et $(AB)^{n}=0$. Et pour tout $k\in\N^*$, si $\ker(AB)^k=\ker(AB)^{k+1}$ alors $\ker(AB)^{k+1}=\ker(AB)^{k+2}$, ce qui explique les autres inclusions strictes. Pour tout $k\in\N^*$ on note $d_k$ la dimension de $\ker(AB)^k$. On a : $$n\geqslant d_n=d_1+\sum_{k=1}^{n-1}d_{k+1}-d_k\geqslant d_1+n-1.$$ Il suit $d_1\leqslant 1$, puis $\ker B=\ker AB$. Comme $A$ n'est pas inversible non plus et comme $(BA)^{n+1}=B(AB)^nA=0$, on peut échanger les rôles de $A$ et de $B$, d'où $\ker A=\ker BA$. Enfin, si $X\in\ker(AB)^2$ alors $ABX\in\ker B$, donc $BX\in\ker A$, donc $X\in\ker AB$, d'où $\ker AB=\ker(AB)^2$, contradiction.
@Audeo si $(BA)^{n+1}=0$ alors on a trivialement $(BA)^n =0$. Car si $BA$ est nilpotente et si on note $p$ son indice de nilpotence alors $p\le n$, d’où $(BA)^n =0$.
Dans ce fil un argument souvent utilisé est que $AB$ et $BA$ ont même polynôme caractéristique, théorème dont je n'ai que de vagues souvenirs et qui n'est pas aussi évident que d'aucuns l'affirment . J'en essaie donc une démonstration
Si $A,B\in Gl_n(\mathbb{C})$ alors $AB=B^{-1}(BA)B$ donc $AB$ et $BA$ sont équivalentes et ont mêmes polynômes caractéristiques.
Pour $A,B$ quelconques le théorème vient par densité de $Gl_n(\mathbb{C})$ dans $M_n(\mathbb{C})$ puis par continuité des deux applications égales sur $Gl_n(\mathbb{C})$ $AB\mapsto P_{AB}(X)$ et $AB\mapsto P_{AB}(X)$ $BA\mapsto P_{BA}(X)$.
"Soient $M = \begin{pmatrix} -\lambda I & -B \\ A & I
\end{pmatrix}$ et $N = \begin{pmatrix} I & B \\ 0 & -\lambda I
\end{pmatrix}$.
L'identité $\det(MN)=\det(NM)$ fournit l'égalité des polynômes caractéristiques de $AB$ et de $BA$".
@gebrane : j'ai voulu montrer que les résultats bien connus sur les noyaux itérés suffisent. Pas de théorème du rang, pas de polynôme caractéristique, pas de "si $u^{k}=0$ et $u^{k-1}\neq 0$, alors il existe un vecteur $x$ tel que $(x,u(x),\dots,u^{k-1}(x))$ est libre".
Supposons $(AB)^{n-1}\neq 0$ et $(BA)^{n-1}\neq 0$.
D'une part : $$\{0\}\varsubsetneq \ker B\subset \ker AB\varsubsetneq\cdots\varsubsetneq\ker (AB)^{n-1}\varsubsetneq\ker(AB)^n,$$ les inclusions strictes étant justifiées par le fait que $B$ n'est pas inversible et que $(AB)^n=0$. D'où, avec $d_k:=\dim\ker(AB)^k$ : $$n=d_n=d_1+\sum_{k=1}^{n-1}d_{k+1}-d_k\geqslant d_1+n-1 \implies d_1\leqslant 1 \implies \ker B=\ker AB.$$ D'autre part : $$\{0\}\varsubsetneq \ker A\subset \ker BA\varsubsetneq\cdots\varsubsetneq\ker (BA)^{n-1}\varsubsetneq\ker(BA)^n,$$ les inclusions strictes étant justifiées par le fait que $A$ n'est pas inversible et que $(BA)^{n+1}=0$. En effet, si l'une des inclusions entre $\ker BA$ et $\ker(BA)^n$ n'était pas stricte, l'on aurait aussitôt $\ker(BA)^{n-1}=\ker(BA)^{n+1}=\C^n$. D'où, avec $D_k:=\dim\ker(BA)^k$ : $$n\geqslant D_n=D_1+\sum_{k=1}^{n-1}D_{k+1}-D_k\geqslant D_1+n-1 \implies D_1\leqslant 1 \implies \ker A=\ker BA.$$ Il en résulte que $\ker AB=\ker(AB)^2$, contradiction.
Pour tous et si on pose la question de étanche autrement Soit $X\in M_n(\C)$ vérifiant $X^k=0$ pour un certain k>1. Existe-t-il deux matrices A et B de $M_n(\C)$ vérifiant $X=AB$ et $(BA)^{k-1}=0$ je trouve la question difficile . Je ne sais pas faire.
On peut même remplacer $M_n(\C)$ par L(E): espace des endomorphismes sur un espace vectoriel E ou en une algèbre stellaire
Réponses
J'affirme péremptoirement que toute affirmation péremptoire est fausse
Voir Horn : https://www.sciencedirect.com/science/article/pii/0024379593000566
Ma bêtise 2 en 2023
Ma bêtise 3 en 2023. Merci @JLT Voici comment j'ai raisonné.
Par contre, j'ai une question à laquelle j'ai réfléchi aujourd'hui !
En effet $(AB)^n=0$ entraine que $(BA)^{n+1}=B(AB)^nA=0$ : si on avait $(BA)^n\neq0$ il existerait un vecteur $X$ tel que $(BA)^nX\neq0$ et par suite la famille $(X,(BA)X,\dots,(BA)^nX)$ de cardinal $n+1$ serait libre, impossible car $\dim(\C^n)=n$.
L'identité $\det(MN)=\det(NM)$ fournit l'égalité des polynômes caractéristiques de $AB$ et de $BA$".
Pour tous et si on pose la question de étanche autrement
Soit $X\in M_n(\C)$ vérifiant $X^k=0$ pour un certain k>1. Existe-t-il deux matrices A et B de $M_n(\C)$ vérifiant $X=AB$ et $(BA)^{k-1}=0$
je trouve la question difficile . Je ne sais pas faire.
On peut même remplacer $M_n(\C)$ par L(E): espace des endomorphismes sur un espace vectoriel E ou en une algèbre stellaire
https://les-mathematiques.net/vanilla/index.php?p=/discussion/2332700/exercices-oraux-2022-ens-x-minesponts-centrale-de-la-rms/p1 Merci