Notation de Landau

Peut-on avoir un extrait du texte ?

Cela signifie que ta fonction de diviseurs est majorée par $C(\varepsilon) \times n^\varepsilon$, où la constante dépend de $\varepsilon$.

Autrement dit, à chaque fois que tu as en indice de ton grand "O" des variables, cela indique que la constante impliquée dans le terme d'erreur dépend de ces variables. 

Note que l'on utilise en théorie des nombres indifféremment la notation $O_\varepsilon$ (Landau) ou $\ll_\varepsilon$ (Vinogradov), qui sont synonymes.

Exemple. $d(n) = O_\varepsilon (n^\varepsilon)$ ou bien $d(n) \ll_\varepsilon n^\varepsilon$ signifient
$$\forall \varepsilon > 0, \ \exists C(\epsilon) > 0, \ \forall n \in \mathbb{Z}_{\geqslant 1}, \ d(n) \leqslant C(\varepsilon) n^\varepsilon.$$
On peut même montrer que $C(\varepsilon) = \exp\left( \dfrac{2^{1/\varepsilon}}{\varepsilon \log 2} \right)$ est admissible.

La fonction $n \mapsto d(n)$, en général plutôt notée $n \mapsto \tau(n)$, est multiplicative, donc
$$\frac{d(n)}{n^\varepsilon} = \prod_{p^\alpha \| n} \frac{\alpha + 1}{p^{\alpha \varepsilon}}.$$ 
L'idée est alors de couper le produit en deux, selon que $p > 2^{1/\varepsilon}$ ou $p \leqslant 2^{1/\varepsilon}$. Dans le $1$er cas, l'inégalité de Bernoulli fournit
$$\frac{\alpha + 1}{p^{\alpha \varepsilon}} \leqslant \frac{2^\alpha}{p^{\alpha \varepsilon}} < \frac{2^\alpha}{2^{\alpha}} = 1$$
de sorte que
$$\frac{d(n)}{n^\varepsilon} \leqslant \prod_{\substack{p^\alpha \| n \\ p \leqslant 2^{1/\varepsilon}}} \frac{\alpha + 1}{p^{\alpha \varepsilon}}.$$ 
On suppose $0 < \varepsilon < \frac{1}{\log 4}$. La fonction $\alpha \mapsto \frac{\alpha + 1}{p^{\alpha \varepsilon}}$ admet un maximum en $\alpha = \frac{1}{\varepsilon \log p} - 1$ valant $\frac{e^{-1} p^\varepsilon}{\varepsilon \log p}$, d'où
$$\frac{d(n)}{n^\varepsilon} \leqslant \prod_{p \leqslant 2^{1/\varepsilon}} \frac{e^{-1} p^{\, \varepsilon}}{\varepsilon \log p} \leqslant \prod_{p \leqslant 2^{1/\varepsilon}} \left( \frac{2e^{-1}}{\varepsilon \log 2} \right) = \left( \frac{2e^{-1}}{\varepsilon \log 2} \right)^{\pi(2^{1/\varepsilon})}.$$
La majoration $\pi(x) \leqslant \frac{2x}{\log x}$, qui n'est d'ailleurs pas la meilleure (on peut remplacer $2$ par $1,25506$ si on veut), donne alors
$$\frac{d(n)}{n^\varepsilon} \leqslant \exp \left( \frac{2^{1+1/\varepsilon} \varepsilon}{\log 2} \log \left( \frac{2 e^{-1}}{\varepsilon \log 2} \right)\right) \leqslant \exp \left( \frac{2^{1/\varepsilon}}{\varepsilon \log 2} \right).$$