Équation polynomiale

Avec ta remarque sur le coeff deplus haut degré, $P$ est déterminé de manière unique par $P^{-1}(0)$ (l'ensemble de ses racines), qui est un sous-ensemble fini de $\mathbb{C}$. D'après les hypothèses, chacune des 3 applications:
$$
z\mapsto \bar z, \qquad S: z\mapsto z^2+z+1, \qquad T:z\mapsto z^2-z,
$$
doit être une permutation de $P^{-1}(0)$.

Je n’ai pas écrit que P en avait une, j’ai écrit « si »…

J'ai donné une autre méthode, mais il faudrait retrouver le fil.

@bestM: Si on reprend les applications $S$ et $T$ que j'ai données plus haut: $S(z)=z^2+z+1$, $T(z)=z^2-z$, on doit chercher un sous-ensemble fini de $\mathbb{C}$ clos sous l'action de $S$, $T$ et $z\mapsto \bar z$.
Tu as montré qu'un tel ensemble n'intersecte pas $\mathbb{R}$ (car pour $z_0\in \mathbb{R}$, $(S^n(z_0))_{n\geq 0}$ est non bornée), et est donc de cardinal pair (car clos sous $z\mapsto \bar z$).

Après, si mes calculs sont bons, on a $TS-ST = (z\mapsto 4z^3)$.
Je pense que ça suffit pour montrer que les orbites du semi-groupe engendré par $S$ et $T$ ne peuvent pas être finies (il faut encore travailler).

NB: Les solutions constantes sont $0$ et $1$ (pas seulement $P=0$).

@Chaurien:

Chaurien (dans le lien donné plus haut) a écrit:

La meilleure idée, je l'ai trouvée dans : Mathématiques & Pédagogie, revue de la SBPM (e.f.), Bruxelles, n° 167, 2008, p. 74. Cette idée est de prouver d'abord qu'il y a au plus un polynôme de degré donné qui convient, ce qui se fait sans mal. Ensuite, un polynôme-solution est de degré pair, et le produit de deux polynômes-solutions est aussi un polynôme-solution.

Est-ce que tu peux détailler le "au plus un", je ne vois pas.

Edit quelques heures plus tard: j'ai oublié un $+1$ dans mon expression de $T(z) := S(z-1) = z^2-z+1$ (et non $z^2-z$), ce qui fait que mon expression de $T\circ S-S\circ T$ est aussi fausse...

Astucieux. Cet argument d'unicité par degré court-circuite pas mal de choses. En particulier, si $P$ et $Q$ sont deux polynômes non constants solutions du problème, alors ils ont les mêmes racines (à multiplicité près), car on doit avoir $P^{\deg Q} = Q^{\deg P}$. On cherche donc au plus un ensemble de racines.
Après je ne vois toujours pas d'argument simple pour montrer qu'il n'en existe pas de non vide.

En me basant sur la méthode que Chaurien m'avait décrite dans une autre discussion, j'avais rédigé cette exercice de colle.

Énonce : On souhaite déterminer l'ensemble
\[\mathcal{S}=\big\{P\in\C[X]\mid P(X)P(X+1)=P(X^2+X+1)\big\}.
\] 1) Montrer que si $(P,Q)\in\mathcal{S}^2$, alors $PQ\in\mathcal{S}$.
2) Montrer que si $P\in\mathcal{S}$ est un polynôme non nul, alors $P$ est unitaire.
3) Soit $d\in\N$. Montrer qu'il existe au plus un polynôme $P\in\mathcal{S}$ de degré $d$.
4) En déduire tous les éléments de $\mathcal{S}$.

Quelques éléments de solution.
3) Si $(P,Q)\in\mathcal{S}^2$ avec $\deg(P)=\deg(Q)=d$, alors en notant $R=Q-P$, on a
\[P(X)R(X+1)+R(X)P(X+1)+R(X)R(X+1)=R(X^2+X+1),
\] ce qui est impossible, car $\deg(R)<d$.
4) Par résolution directe, on a que $X^2+1\in\mathcal{S}$. On en déduit que $(X^2+1)^n\in\mathcal{S}$ pour tout $n\in\N$. De plus, s'il existe $P\in\mathcal{S}$ de degré impair, alors $P^2$ est de la forme précédente, ce qui est impossible. On conclut que $\mathcal{S}$ est constitué du polynôme nul et des $(X^2+1)^n$ pour tout $n\in\N$.

Après avoir fouillé dans mes vieux messages, j'ai retrouvé la discussion que Chaurien cherchait : Oral x-ens : inégalité sur des complexes.

@Chaurien : le nom que tu cherches est P. Le Gall d'après tes messages dans la discussion indiquée ci-dessus.

Édit : Tu l'as retrouvé pendant que je rédigeais ce message ;-)

La répétition est la base de l’apprentissage !
(C’est ce qu’on m’a toujours dit)
...