Intégrale sur les matrices symétriques

$\newcommand{\d}{\mathrm{d}}$(je remplace le $a$ de l'enonce par $\alpha$)

Avec la methode Guego mais en remplacant sa base $(e_1,e_2,e_3)$ par $(f_1,e_2,f_3)$ avec $ f_1=\frac{1}{\sqrt{2}}(e_1+e_3)$ et $ f_3=\frac{1}{\sqrt{2}}(e_1-e_3).$ Si donc $x=af_1+ce_2+bf_3$ et en posant $ r=\sqrt{b^2+c^2}$ puis $b=r\cos t, \ c=r\sin t$ on obtient que les valeurs propres de $x^2$ sont $(a\pm r)^2/2$ et $$\d x=\frac{1}{2^{3/2}}\d a\d b\d c=\frac{1}{2^{3/2}}r\d r\d\theta da.$$ Ceci conduit à

\begin{align*}
I&=\int_{S_2}\frac{\d x}{\det(I_2+x^2)^{\alpha}}=2^{2\alpha}\int_{-\infty}^{\infty}\int_0^{\infty}\int_0^{2\pi}\frac{\d a r\d r \d\theta}{(2+(a+r)^2)^{\alpha}(2+(a-r)^2)^{\alpha}}\\
&=2\pi\times 2^{2\alpha}\int_{-\infty}^{\infty}\int_0^{\infty}\frac{\d a \, r\d r}{(2+(a+r)^2)^{\alpha}(2+(a-r)^2)^{\alpha}}=2\pi\times 2^{2\alpha-1}\iint_{x>y}\frac{(x-y)\d x\d y}{(2+x^2)^{\alpha}(2+y^2)^{\alpha}} \\
&=2\pi\times 2^{2\alpha-1}\int_0^{\infty}\int_0^{\infty} e^{-2s-2t} \frac{s^{\alpha-1}}{\Gamma(\alpha)} \frac{t^{\alpha-1}}{\Gamma(\alpha)} J(s,t)\d s\d t ,\tag{*}
\end{align*} avec $\quad\displaystyle J(s,t)=\iint_{x>y}e^{-sx^2-ty^2}(x-y)\d x\d y.$

Pour calculer $J(s,t)$ posons $s=1/2\sigma_1^2,\ t=1/2\sigma_2^2,$ et introduisons les deux variables aleatoires $X$ et $Y$ normales et indépendantes telles que $X\sim N(0,\sigma_1^2)$ et $Y\sim N(0,\sigma_2^2)$ ainsi que $Z=X-Y\sim N(0,\sigma_1^2+\sigma_2^2).$ Donc
$$J(s,t)=2\pi \sigma_1\sigma_2\mathbb{E}(Z1_{Z>0})=2\pi \sigma_1\sigma_2\sqrt{\sigma_1^2+\sigma_2^2}\int_0^{\infty}ze^{-z^2/2}\frac{\d z}{\sqrt{2\pi}}=\frac{\sqrt{\pi}}{2}\frac{\sqrt{s+t}}{st}$$ Après cela on injecte dans $(*)$, on fait le changement de variable $s=\rho \cos^2\theta, \ t=\rho \sin^2\theta,$ on utilise la formule $B(p,q)=2\int_0^{\pi/2}\cos^{2p-1}\theta \sin^{2q-1}\theta \d\theta$ et on arrive finalement à $$I=\frac{\pi^{3/2}}{2}\frac{\Gamma(2\alpha -\frac{3}{2})}{(\alpha-1)\Gamma(2\alpha-1)}.$$

Cette intégrale est extraite de L.K. Hua, Harmonic Analysis of Functions of Several Complex Variables in the Classical Domains, versions chinoise, russe et anglaise 1952,59, 63. Volume 6 Translations of the Mathematical Monographs , American Mathematical Society, page 33. La démonstration de Hua est indigeste, alors qu'on arrive au résultat  par la formule de Plancherel plus facilement.

Si des lecteurs sont amusés je propose l’intégrale plus facile $$\int_{S_n}\frac{dx}{\big(\mathrm{trace}(k^2I_n+x^2)\big)^a}$$ pour $n=2$ (je n'ai pas regardé le cas $n>2$).