Évaluation somme avec partie fractionnaire

Il me semble que l'on doit pouvoir prouver que \[\frac{S_2(n)}{n}\xrightarrow[n\rightarrow +\infty]{} \int_0^1 \left(\sqrt{\frac{1}{t}}-\left\lfloor \sqrt{\frac{1}{t}}\right\rfloor \right)^2dt = \int_1^{+\infty}\frac{2(u-\lfloor u\rfloor)^2}{u^3}du\]

Il reste alors à finir le calcul en découpant l'intégrale sur les intervalles $[k,k+1[$, $k\in\N^*$.

Après quelques calculs, j'obtiens : \[\int_1^{+\infty}\frac{2(u-\lfloor u\rfloor)^2}{u^3}du = 3-2\gamma-\frac{\pi^2}{6}\] si je n'ai pas fait d'erreurs.

C'est effectivement une somme de Riemann... mais d'une fonction pour laquelle les théorèmes usuels de convergence des sommes de Riemann ne s'appliquent pas.
Je ne connais qu'une façon de prouver la convergence... et elle utilise le théorème de convergence dominée de Lebesgue.

Je reviens sur ce sujet.
On n'utilise jamais la convergence dominée en arithmétique, car elle n'apporte que de trop faibles renseignements.
À mon sens, on peut procéder comme suit.

Soit $S_r(x) :=\sum_{n \leqslant x} \left\lbrace \left( \frac{x}{n}\right)^{1/r}\right\rbrace^r $ et $T$ un paramètre réel vérifiant $2 x^{\frac{1}{r+1}} \leqslant T \leqslant x$. On commence par écrire que
$$S_r (x) = \left( \sum_{n \leqslant T } + \sum_{T < n \leqslant x} \right) \left\lbrace \left( \frac{x}{n} \right)^{1/r} \right\rbrace^r = \sum_{T < n \leqslant x}  \left\lbrace \left( \frac{x}{n} \right)^{1/r} \right\rbrace^r+ O(T) := S_T(x) + O(T).$$
Ensuite
\begin{align*}
   S_T(x) &= \int_{T^-}^{x^+} \left\lbrace \left( \frac{x}{t} \right)^{1/r} \right\rbrace^r \, \textrm{d} \lfloor t\rfloor \\
   &= \int_T^x \left\lbrace \left( \frac{x}{t} \right)^{1/r} \right\rbrace^r \, \textrm{d}t - \int_{T^-}^{x^+} \left\lbrace \left( \frac{x}{t} \right)^{1/r} \right\rbrace^r \, \textrm{d} \{ t\} \\
   &= rx \int_1^{(x/T)^{1/r}} \frac{\{u\}^r}{u^{r+1}} \, \textrm{d}u - I_T(x) \\
   &= rx \int_1^\infty \frac{\{u\}^r}{u^{r+1}} \, \textrm{d}u + O_r(T) - I_T(x).
\end{align*}
Notons que la condition $T \geqslant 2 x^{\frac{1}{r+1}} $ permet d’assurer que les deux fonctions $t \mapsto \{(x/t)^{1/r}\}^r$ et $t \mapsto \{t\}$ n’ont aucun point de discontinuité en commun lorsque $t$ varie dans $\left[ T,x \right]$. Comme elles sont bornées et à variation bornée, ça assure l'existence de $I_T(x)$. Une IPP donne alors
\begin{align*}
   I_T(x) &= \int_{T^-}^{x^+} \{t\} \, \textrm{d} \left( \left\lbrace \left( \frac{x}{t} \right)^{1/r} \right\rbrace^r \right) + O(1) \\
   & \ll \sup_{T \leqslant t \leqslant x} \left( \{t\} \right) \times V_{T}^x \left( \left\lbrace \left( \frac{x}{t} \right)^{1/r} \right\rbrace^r \right) + 1 \\
   & \ll_r V_{T}^x \left( \left\lbrace \left( \frac{x}{t} \right)^{1/r} \right\rbrace \right)+ 1 \ll_r \left( \frac{x}{T} \right)^{1/r}.
\end{align*}
On a donc obtenu
$$\sum_{n \leqslant x} \left\lbrace \left( \frac{x}{n}\right)^{1/r}\right\rbrace^r =  rx \int_1^\infty \frac{\{u\}^r}{u^{r+1}} \, \textrm{d}u + O_r \left( T + \left( \frac{x}{T} \right)^{1/r} \right)$$
et le choix de $T = 3 x^{\frac{1}{r+1}}$ fournit alors
$$\sum_{n \leqslant x} \left\lbrace \left( \frac{x}{n}\right)^{1/r}\right\rbrace^r =  rx \int_1^\infty \frac{\{u\}^r}{u^{r+1}} \, \textrm{d}u + O_r \left( x^{\frac{1}{r+1}} \right).$$
Sauf erreur de ma part, je pense que cette démonstration doit tenir la route, à mon avis.

Je terminerais en signalant que d'autres résultats sur ce type de sommes existent depuis au moins les années 80. Par exemple, A. Mercier & W. G. Nowak (1987) ont montré avec des techniques de sommes d'exponentielles l'estimation suivante.

Soit $g$ une fonction croissante à valeurs strictement positives et $\alpha , \beta \geqslant 1$ réels. Alors
$$\sum_{n \leqslant x^{1/\alpha}} g(n) \left\lbrace \frac{x}{n^\alpha} \right\rbrace^\beta = \frac{x^{1/\alpha}}{\alpha} \int_1^x g \left( \left( \frac{x}{t} \right)^{1/\alpha} \right) \frac{\{t\}^\beta}{t^{1+1/\alpha}} \, \textrm{d}t + O \left( g \left( x^{1/\alpha} \right) x^{\lambda(\alpha)} (\log x)^{\delta_{2,\alpha}}\right)$$
où $\delta$ est le symbole de Kronecker et
$$\lambda(\alpha) := \begin{cases} \frac{2}{3(\alpha+1)} , & \textrm{si} \ 1 \leqslant \alpha \leqslant 2 \\ & \\ \frac{2}{3 + 2(\alpha+1)} , & \textrm{si} \ \alpha \geqslant 2. \end{cases}$$

Pour de petites valeurs de $r$, comme $r=1,2,3$, ça peut se faire. Pour $r \geqslant 4$ quelconque, ça me paraît à première vue plus délicat.

Pendant que j'y pense, il y a une autre expression de ta somme : par des manipulations et des inversions de sommations, on arrive à montrer que$$\sum_{n \leqslant x} \left \lfloor \left( \frac{x}{n} \right)^{1/r} \right \rfloor^r = \sum_{n_1 \leqslant x^{1/r}} \dotsb \sum_{n_r \leqslant x^{1/r}} \left \lfloor \min \left( \frac{x}{n_1^r} , \dotsc, \frac{x}{n_r^r}\right) \right \rfloor$$mais la présence de la partie entière pose un problème délicat d'estimation de cette somme multiple. En revanche, la somme$$\sum_{n \leqslant x} \left \lfloor \left( \frac{x}{n} \right)^r \right \rfloor$$avec $r \geqslant 2$ entier, se traite de manière plus simple : avec les techniques usuelles de sommes d'exponentielles, on peut montrer qu'elle est égale à$$x^r \zeta(r) + x \zeta (1/r) + O \left( x^{\frac{2r}{2r+5}} \log x \right).$$L'exposant sur $x$ peut sans doute être légèrement amélioré par l'emploi de paires d'exposants plus fines.

Si la conjecture de la paire d'exposants est vraie, alors, pour tout $\varepsilon > 0$
$$\sum_{n \leqslant x} \left \lfloor \left( \frac{x}{n} \right)^r \right \rfloor = x^r \zeta(r) + x \zeta(1/r) + O_{r, \varepsilon} \left( x^{ \frac{1}{2(r+1)}+ \varepsilon} \right)$$
qui est sans nul doute ce que l'on pourrait espérer de mieux dans ce problème.

Mais on est encore (très) loin d'une éventuelle démonstration de cette conjecture. Très !...

Ce n'est pas étonnant : le terme d'erreur dans le problème des diviseurs de Dirichlet est donné par$$\ll x^{\tfrac{k + \ell}{2(k+1)}}$$pour toute paire d'exposants $(k,\ell) \neq \left( \frac{1}{2}, \frac{1}{2} \right)$. Ici, il est donné par$$\ll x^{\tfrac{r(k + \ell)}{(r+1)(k+1)}}$$pour toute paire d'exposants $(k,\ell)$ vérifiant $\ell > rk$. Faire $r=1$ dans cette formule redonne bien l'exposant du problème des diviseurs de Dirichlet.