GÉOMÉTRIE, POINTS RATIONNELS ET ITÉRÉS DES AUTOMORPHISMES DE L’ESPACE AFFINE

par

Sandra Marcello

Résumé. — Nous étudions sur un corps de nombres les itérés des automorphismes de l’espace affine. Nous nous intéressons plus précisément aux points périodiques et aux points non-périodiques ; pour les premiers les questions sont analogues à celles posées pour les points de torsion des variétés abéliennes, pour les seconds les questions sont comparables aux problèmes de décompte de points rationnels sur les variétés. Dans le cadre de cette étude apparaissent de manière naturelle des invariants géométriques qui sont définis à partir des cones de diviseurs de variétés construites à partir des automorphismes de l’espace affine. Nous étudions et majorons ces invariants, nous obtenons pour l’un d’entre eux une borne qui dépend du degré dynamique, borne qui est atteinte pour certains automorphismes, en particulier la majoration est optimale

Abstract (Geometry, rational points, and iterates of automorphisms of the affine space)

We study over a number field, the iterates of automorphisms of the affine space. More precisely, we are interested in the periodic and non-periodic points ; for the former the questions are similar to the ones about torsion points on abelian varieties, for the latter the questions are similar to the problems on counting rational points on varieties. In order to study this problem, we define geometric invariants, which are defined thanks to the cone of divisors associated to some varieties constructed from the automorphisms. We study these invariants and bound them above for one of them we obtain a bound depending on the dynamical degree, this bound is reach by some automorphisms, in particular this bound is optimal

Classification mathématique par sujets (2000). — 11G50,14C20,14C22,14E5,14R10. Mots clefs. — Hauteurs, itérés, automorphismes de l’espace affine, degré dynamique, cone ample, cone effectif.

Table des matières

1. Introduction . . .................. .................. 3

Partie I. Aspect géométrique . . ........................ 9 2. Construction des invariants géométriques . . ............ 9

2.1. Cas de l’indice effectif . . ...................... 9 2.2. Cas de l’indice nef . . .......................... 11 2.3. Preuve de la proposition 2.1 et de son corollaire . . 11

3. Propriétés des indices . . .............. .............. 12 3.1. Stabilité par conjugaison linéaire . . . . . . . . . . . . . . 12 3.2. Relation entre les indices . . .................... 13 3.3. Généralisation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14

Partie II. Dynamique arithmétique . . .................. 14 4. Propriétés fonctorielles des hauteurs . . ........ ........ 14 5. Techniques combinatoires . . . . . . . . . . . . . . . . . . . . . . . . . . 16

5.1. Lemmes techniques . . ............ ............ 16 5.2. Preuve de la proposition 5.1 . . . . . . . . . . . . . . . . . . 18

6. Démonstration du théorème A . . . . . . . . . . . . . . . . . . . . . . 20 7. Illustration du théorème A . . ............ ............ 20

7.1. Valeurs numériques des indices effectif et effectif

arithmétique . . .............................. 20 7.2. Taille des orbites . . ............. ............. 21

8. Cas où le théorème A n’est pas optimal . . . . . . . . . . . . . . 21

Partie III. Majoration des indices . . . . . . . . . . . . . . . . . . . . 22 9. Preuve et illustration du théorème B . . ........ ........ 22

9.1. Automorphismes de degré dynamique 1 . . . . . . . . 22 9.2. Automorphismes de degré dynamique différent de 1

............................................ 23

9.3. Illustrations du théorème B . . .................. 24 10. Géométrie et indice ample . . ........................ 25

10.1. Étude de la résolution générique . . . . . . . . . . . . . . 25 10.1.1. Construction . . .......................... 25 10.1.2. Propriétés . . ............................ 26

10.2. Un résultat préliminaire . . .................... 26 10.3. Preuve théorème C . . ........................ 27

Appendice A. Résultats de dynamique arithmétique . . . . . . 29 A.1. Résultats généraux . . ............ ............ 29 A.2. Automorphismes réguliers . . ......... ......... 30 A.3. Situation produit . . ............. ............. 30 A.4. Exemples . . ................ ................ 31 Références . . .................... .................... 33

1. Introduction

Les conjectures maintenant classiques de Manin (voir [BM90] et [FMT89]) proposent un lien entre la géométrie d’une variété algébrique et une estimation asymptotique du nombre de ses points rationnels. Pour une synthèse et les derniers développements voir le séminaire Bourbaki [P01]. Ainsi, dans [BM90], dans le cadre de problèmes autour du décompte de points rationnels sur des variétés, V. Batyrev and Y. Manin définissent un invariant arithmétique et un invariant géométrique ce dernier coïncide dans le cas des diviseurs amples avec l’invariant de Nevanlinna. Dans ce même texte [BM90], les auteurs calculent ces invariants dans certains cas et énoncent des conjectures les concernant ; ainsi que nous ayons été amenée à définir des invariants géométriques des automorphismes de l’espace affine dans le cadre de l’étude des points rationnels périodiques ou non de ces applications n’a rien de surprenant, comme nous le montre le théorème A. Pour plus de précisions sur l’invariant de Nevanlinna nous renvoyons le lecteur à [HS00] F.5.4. Dans ce texte, nous nous intéressons notamment à une question du même type dans le cadre des itérés d’automorphismes de l’espace affine. Plus précisément nous nous intéressons à un problème de décompte de points rationnels dans les orbites des points non-périodiques et cherchons à trouver un lien avec la géométrie des applications que nous considérons. Nous nous intéressons également à la conjecture de Silverman sur les points périodiques isolés.

Définition 1.1. — Soit k un corps de nombres. Soit ϕ ∈ Aut(𝔸^{r}(k)). Soit P ∈ 𝔸^{r}(k). Ce point P est un point ϕ-périodique isolé si et seulement s’il existe n ∈ ℕ \ {0} tel que P est isolé (au sens de la topologie de Zariski) dans

{Q ∈ 𝔸^{r}(k) tel que ϕ^{n}(Q) = Q}.

Conjecture de Silverman : Soit k un corps de nombres. Soit ϕ ∈ Aut(𝔸^{r}(k)). L’ensemble des points périodiques isolés de ϕ est un ensemble fini.

Pour une formulation plus motivée des questions que nous considérons, nous revoyons le lecteur à [M2]. Dans [M3], nous considérons une question analogue dans le cas des corps p-adiques, question que nous relions à la conjecture de Silverman. Nous introduisons maintenant les notations et objets nécessaires notamment à la construction des invariants géométriques, puis donnons les résultats reliant arithmétique et dynamique. Nous nous plaçons pour les aspects géométriques et arithmétiques respectivement sur ℂ et \overline{ℚ}.

Nous notons 𝔸^{r} (resp. ℙ^{r}) l’espace affine (resp. projectif) de dimension r ≥ 2 et H l’hyperplan à l’infini. Lorsque ϕ ∈ Aut(𝔸^{r}) est un automorphisme de 𝔸^{r}, nous noterons encore ϕ : ℙ^{r}···→ ℙ^{r} l’application rationnelle induite et désignerons par Z(ϕ) le lieu de non-définition, i.e le lieu géométrique, contenu dans H, où ϕ n’est pas définie. De plus, si ϕ ∈ Aut(𝔸^{r}), alors ϕ est défini par des polynômes P_{1},...,P_{r}. On définit le degré algébrique ou degré de ϕ comme suit : deg(ϕ) = d = max_{i}(d_{i}) avec d_{i} degré total de P_{i}.

Définition 1.2. — Soit V une variété lisse projective. On dit que le morphisme birationnel π : V → ℙ^{r} est une résolution de ϕ (notée (π,V)) si ϕ ∘ π et ϕ^{−1} ∘ π sont des morphismes de V vers ℙ^{r}.

Remarque 1.3. — Parfois nous noterons : ψ = ϕπ et ψ′= ϕ^{−1} π.

Une telle résolution existe toujours comme nous le voyons, en prenant pour V la désingularisation de l’adhérence de Zariski dans (ℙ^{r})^{3} de

{(x,ϕ(x),ϕ^{−1} (x)) | x ∈ 𝔸^{r}}

et pour π = pr_{1} puisqu’alors ϕ ∘ π = pr_{2} et ϕ^{−1} ∘ π = pr_{3}.

Notations. — Si V est une variété, on note respectivement Pic_{ℚ}(V) et Pic_{ℝ}(V) son groupe de Picard tensorisé respectivement par ℚ et ℝ, Pic_{ℚ}^{+}(V) et Pic_{ℝ}^{+}(V) les cone fermés engendrés par les classes de diviseurs effectifs, Pic_{ℝ}^{a}(V) le cone (ouvert) engendré par les classes de diviseurs amples et enfin Pic_{ℝ}^{nef} le cone engendré par les classes de diviseurs nef (numériquement effectif).

Soit (π,V) une résolutionde ϕ et α ∈ ℝ, nous notons :

D(α,π,V) := (ϕ ∘ π)^{∗}H + (ϕ^{−1} ∘ π)^{∗}H − απ^{∗}H.

Pour des raisons arithmétiques qui apparaissent clairement dans l’énoncé du théorème B, nous introduisons :

α_{max,eff} (ϕ,π,V) := sup{α ∈ ℝ | D(α,π,V) ∈ Pic_{ℝ}^{+}(V)},
α_{max,amp}(ϕ,π,V) := sup{α ∈ ℝ | D(α,π,V) ∈ Pic_{ℝ}^{a}(V)}.
α_{max,nef}(ϕ,π,V) := sup{α ∈ ℝ | D(α,π,V) ∈ Pic_{ℝ}^{nef} (V)}.

Nous définissons également :

α(ϕ,eff) := sup{α_{max,eff} (ϕ,π,V)|π,V },
α(ϕ,amp) := sup{α_{max,amp}(ϕ,π,V)|π,V },
α(ϕ,nef) := sup{α_{max,nef}(ϕ,π,V)|π,V }.

Nous montrons que ces nombres ne dépendent pas de la résolution choisie, ce sont donc des invariants géométriques des automorphismes de l’espace affine. Nous les appelerons respectivement l’indice effectif, l’indice ample et l’indice nef d’un automorphisme de l’espace affine. Nous montrons que les indices ample et nef sont égaux. Nous utiliserons l’indice ample pour des applications arithmétiques, dans l’optique de ces mêmes applications arithmétiques, nous définissons : l’indice effectif arithmétique. Soit D ∈ Pic(V), m ∈ ℕ \ {0}. Nous noterons | D | le système linéaire associé au diviseur D et B_{m}(D) = ∩_{Δ∈|mD|}Δ les points base du système linéaire | mD |. Nous définissons :

B_{∞} (D) = ∩_{m≥1,mD∈Pic(V)}B(mD).

Nous notons,

C_{+} = {D ∈ Pic_{ℚ}^{+} | B_{∞} (D) ⊂ π^{−1} (H)}.

Remarque 1.4. — La propriété B_{∞} (D) ⊂ π^{−1} (H) est équivalente à : il existe m ≥ 1 tel que B_{m}(D) ⊂ π^{−1} (H).

Pour nos applications arithmétiques, nous nous intéressons à :

D(α,π,V) := (ϕ ∘ π)^{∗}H + (ϕ^{−1} ∘ π)^{∗}H − απ^{∗}H ∈ C_{+} .

Si pour tout α > 0 cette propriété n’est pas vérifiée nous posons alors α_{arith}(ϕ,π,V) = 0, dans le cas contraire nous définissons

α_{arith}(ϕ,π,V) = sup{α ∈ ℚ | D(α,π,V) ∈ C_{+}}.

Nous appellerons ce nombre, qui dépend a priori de la résolution choisie, l’indice effectif arithmétique de ϕ associé à la résolution (π,V).

La lettre h désigne la hauteur (de Weil) logarithmique normalisée usuelle (voir par exemple [HS00]).

Notations. — Nous définissons une fonction de comptage N(ϕ,P,B) pour les orbites des points non-périodiques.

N(ϕ,P,B) = N(B) = #{ϕ^{n}(P) | n ∈ ℤ, h(ϕ^{n}(P)) ≤ B}.

Pour B grand, nous dirons que N(B) est comparable à logB s’il existe a_{1},a_{2},a_{3},a_{4} ∈ ℝ tels que :

a_{1}logB + a_{2} ≤ N(B) ≤ a_{3}logB + a_{4}.

Si lim \frac{N(B)}{logB}= a alors, N(B) est dit équivalent à logB. On les note respectivement N(B) ≫≪ logB et N(B) ∼ alogB.

Définition 1.5. — Soit P = (x_{0},···,x_{r}) ∈ ℙ^{r}(\overline{ℚ}),on appelle degré de P, le degré de ℚ(P) i.e[ℚ(P) : ℚ], où ℚ(P) = ℚ( \frac{x_{i}}{x_{j}}, avec 0 ≤ i,j ≤ r et x_{j} ≠ 0).

Théorème A. — Soit ϕ un automorphisme de 𝔸^{r} de degré d ≥ 2. Supposons vérifiée l’une des deux conditions suivantes.

(H1) Il existe une résolution (π,V) de ϕ pour laquelle : α_{arith}(ϕ,π,V) > 2.

(H2) Soit α(ϕ,amp) > 2. Alors :

(P1) l’ensemble des points périodiques de ϕ est de hauteur bornée sur \overline{ℚ}, a fortiori l’ensemble des points périodiques de ϕ de hauteur et de degré bornés est fini ;

(P2) si P est non-périodique alors :

N(ϕ,P,B) ≫≪ logB.

Remarque 1.6. — – Nous obtenons plus précis si outre l’une des hypothèses (H1) ou (H2) les conditions suivantes sont vérifiées ; deg(ϕ) = deg(ϕ^{−1} ) = d et α_{arith}(ϕ,π,V) = \frac{d^{2}+1}{d} ou bien α(ϕ,amp) = \frac{d^{2}+1}{d} alors, nous avons :

N(ϕ,P,B) ∼ 2\frac{logB}{logd}.

– Dans le cas de la dimension 2, nous retrouvons ainsi une partie des résultats déjà connus pour le point (P1) la démonstration est due à L. Denis [Den95], pour le point (P2) la démonstration est due à l’auteure [M2].

Dans la partie suivante, nous relions certains indices au degré dynamique de l’automorphisme, le degré dynamique est défini comme suit (voir par exemple [S99]) :

Définition 1.7. — Soit ϕ un automorphisme affine. La limite suivante existe et défini le degré dynamique δ(ϕ) :

δ(ϕ) := inf_{n≥1}deg(ϕ^{n})^{1/n}

À partir de résultats de nature arithmétique nous obtenons une majoration des indices α(ϕ), en fonction du degré dynamique de ϕ et de ϕ^{−1} .

Théorème B. — Soit ϕ ∈ Aut(𝔸^{r}(ℂ)). Soit (π,V) une résolution de ϕ. Si δ(ϕ) = 1, nous posons alors δ_{1}(ϕ) = 1, sinon δ_{1}(ϕ) est défini comme suit : \frac{2}{logδ_{1}(ϕ)} = \frac{1}{logδ(ϕ)} + \frac{1}{logδ(ϕ^{−1} )}. Nous avons alors :

α(ϕ,amp) ≤ δ_{1}(ϕ) + \frac{1}{δ_{1}(ϕ)}.

Nous pouvons définir α(ϕ,arith) = sup_{π,V}α_{arith}(ϕ,π,V) de plus nous avons :

α(ϕ,arith) ≤ δ_{1}(ϕ) + \frac{1}{δ_{1}(ϕ)}.

Nous l’appellerons l’indice effectif arithmétique absolu.

Remarque 1.8. — Dans le cas de l’indice effectif arithmétique absolu la majoration est optimale dans le sens où nous avons des exemples pour lesquels cette borne est atteinte.

Le théorème B pour les automorphismes de degré dynamique 1 ; nous indique que l’indice ample est inférieur ou égal à deux ; à partir de résultats de nature arithmétique nous montrons que la réciproque de cette assertion est fausse.

La construction d’une résolution générique nous permet l’obtention d’une meilleure borne pour l’indice ample dans tous les cas en dimension 2 et dans certains cas en dimension supérieure.

Théorème C. — Soit ϕ ∈ Aut(𝔸^{r}). Supposons que dim(Z(ϕ)) = dim(Z(ϕ^{−1} )) = 0 alors :

α(ϕ,amp) ≤ 0.

Remarque 1.9. — Les conditions de ce théorème sont toujours vérifiées en dimension 2. Dans [M4], nous donnons notamment une autre preuve de ce résultat en dimension 2.

Le plan de ce texte est le suivant, nous construisons et étudions les invariants géométriques. Nous utilisons ces indices pour une application arithmétique, nous majorons ces invariants, nous montrons que la borne est atteinte pour l’indice effectif, puis nous majorons plus finement l’indice ample. Dans un souci de lisibilité pour le lecteur, nous avons regroupée, dans un appendice, les résultats de dynamique arithmétique que nous utilisons.

Remerciements. — Une partie des résultats énoncés dans le théorème A se trouve dans ma thèse effectuée sous la direction de Marc Hindry, c’est avec plaisir que je le remercie pour ses conseils et sa disponibilité. Ce travail a pris de l’ampleur lors de mon séjour à l’université de Ratisbonne (Regensburg), c’est également avec plaisir que je remercie Uwe Jannsen et toute l’equipe de théorie des nombres de Ratisbonne pour leur acceuil et cet environnement si stimulant.C’est également avec plaisir que je remercie Norbert Schappacher pour ses conseils et avec lui le réseau européen Arithmetic Algebraic Geometry (A.A.G), ainsi que le Max-Planck Institut für Mathematik, où ce travail a été achevé.

PARTIE I ASPECT GÉOMÉTRIQUE

2. Construction des invariants géométriques

Dans ce paragraphe, nous montrerons que les indices ample, effectif et nef sont des invariants géométriques des automorphismes de l’espace affine, ce qui revient à démontrer la proposition suivante ainsi que son corollaire.

Proposition 2.1. — Soit ϕ ∈ 𝔸^{r} de degré d ≥ 2. Soit (π_{1},V_{1}),(π_{2},V_{2}) deux résolutions de ϕ. Nous avons :

α_{max,eff} (ϕ,π_{1},V_{1}) = α_{max,eff} (ϕ,π_{2},V_{2})

et

α_{max,nef}(ϕ,π_{1},V_{1}) = α_{max,nef}(ϕ,π_{2},V_{2})

Corollaire 2.2. — Soit ϕ ∈ 𝔸^{r} de degré d ≥ 2. Soit (π_{1},V_{1}),(π_{2},V_{2}) deux résolutions de ϕ. Nous avons :

α_{max,amp}(ϕ,π_{1},V_{1}) = α_{max,amp}(ϕ,π_{2},V_{2})

2.1. Cas de l’indice effectif. —

Proposition 2.3. — Soit ϕ un automorphisme de 𝔸^{r} de degré d ≥ 2. Soit π : V → ℙ^{r} une résolution de ϕ. Soit π_{1} : V_{1} → V un morphisme birationnel. Alors π ∘ π_{1} : V_{1} → ℙ^{r} est encore une résolution de ϕ et

α_{max,eff} (π ∘ π_{1},V_{1}) = α_{max,eff} (π,V).

L’inégalité α_{max,eff} (π,V) ≤ α_{max,eff} (π ∘ π_{1},V_{1}) est claire, si π_{1} est birationnel régulier il s’agit de prouver l’autre inégalité ; de plus il y a égalité si π_{1} est un éclatement de centre lisse.

La démonstration de cette proposition 2.3 se ramène essentiellement au lemme 2.4 qui nous permet d’obtenir l’autre inégalité.

Lemme 2.4. — Soit Y et W deux variétés lisses projectives, avec W ⊂ Y, et W de codimension au moins 2.

\underline{Supposons}: Π : X → Y l’éclatement de W

\begin{aligned}X & ⊃ & E \\ Y & Π_{} & ⊃ & W & \end{aligned}

avec E → W fibré en ℙ^{r}, et r + dim(W) = dimX − 1. On a alors,

Π^{∗}(Pic(Y)) ∩ Pic^{+} (X) = Π^{∗}(Pic^{+} (Y)).

Nous utiliserons le résultat suivant sur les éclatements.

2.1.0.1. Rappel. — Soit X une variété projective lisse, Y une sous-variété projective non-singulière de codimension au moins 2. Soit π l’éclatement de X le long de Y, E le diviseur exceptionnel associé. Nous avons :

Pic(X) = π^{∗}(Pic(Y)) ⊕ ℤE.

(voir par exemple [H77] Chapitre II exercice 8.5) Les variétés sur lesquelles nous travaillons étant lisses, nous identifierons les diviseurs de Weil et les diviseurs de Cartier. Le symbole ≃ désigne l’équivalence linéaire de diviseurs.

Démonstration. — Rappelons que Pic(X) = Π^{∗}Pic(Y)⊕ℤE (voir paragraphe 2.1.0.1). La première inclusion est assez claire :

Π^{∗}(Pic(Y)) ∩ Pic^{+} (X) ⊇ Π^{∗}(Pic^{+} (Y)).

Montrons l’autre inclusion. Soit D ∈ Π^{∗}(Pic(Y)) ∩ Pic^{+} (X). Comme D ∈ Pic^{+} (X), on peut écrire

D ≃ ∑ m_{i}D_{i}+ mE

avec D_{i} effectifs irréductibles distincts de E et m,m_{i} ≥ 0. Comme Π est un isomorphisme hors du support de E, pour tout i, il existe D′_{i}∈ Pic(Y) tel que Π(D_{i}) = D′_{i}. Donc, Π^{∗}(D′_{i}) = D_{i}+ e_{i}E et e_{i} ∈ ℤ pour tout i. De plus, il existe Δ ∈ Pic(Y) tel que Π^{∗}(Δ) = D avec Δ = ∑ n_{j}Δ_{j} où Δ_{j} est irréductible. Ainsi, d’une part, nous avons D = Π^{∗}(Δ) = ∑ n_{j}Π^{∗}(Δ_{j}) et d’autre part

D ≃ ∑ m_{i}D_{i}+ mE = ∑ m_{i}Π^{∗}(D′_{i}) + (m − ∑ m_{i}e_{i})E

et par conséquent :

∑ n_{j}Π^{∗}(Δ_{j}) ≃ ∑ m_{i}Π^{∗}(D′_{i}) + (m − ∑ m_{i}e_{i})E,

donc (m − ∑ m_{i}e_{i}) = 0 ; ou encore D ≃ π^{∗}(∑ m_{i}D′_{i}), d’où le résultat.

Démonstration. — (proposition 2.3) Par hypothèse, nous avons :

(ϕππ_{1})^{∗}(H) + (ϕ^{−1} ππ_{1})^{∗}(H) ≃ α(π ∘ π_{1})^{∗}(H) + E_{1}

or E_{1} ∈ Pic^{+} (V_{1}), donc d’après le lemme 2.4, nous avons E_{1} ∈ π_{1}^{∗}(Pic(V)) ∩ Pic^{+} (V_{1}) donc, il existe E un diviseur effectif tel que E_{1} = π_{1}^{∗}(E). Nous avons donc l’autre inégalité.

2.2. Cas de l’indice nef. — D’après [Laz01] exemple 1.4.3, nous avons :

Lemme 2.1. — Soit f : V → W un morphisme propre surjectif de variétés lisses projective. Soit L ∈ Pic(W), alors :

L est nef si et seulement si f^{∗}(L) est nef.

Nous en déduisons immédiatement le lemme suivant :

Lemme 2.2. — Soit ϕ un automorphisme de 𝔸^{r} de degré d ≥ 2. Soit π : V → ℙ^{r} une résolution de ϕ. Soit π_{1} : V_{1} → V un morphisme birationnel. Alors π ∘ π_{1} : V_{1} → ℙ^{r} est encore une résolution de ϕ et

α_{max,nef}(π ∘ π_{1},V_{1}) = α_{max,nef}(π,V).

2.3. Preuve de la proposition 2.1 et de son corollaire. —

Démonstration. — Soit π_{1},V_{1},π_{2},V_{2} deux résolutions de ϕ. Il existe W une variété lisse projective et f un produit fini d’éclatements tels que : ψ := π_{2}^{−1} π_{1}f : W → V_{2} est un morphisme de variété lisse projective. Ainsi d’après la proposition 2.3 dans le cas de l’indice effectif et le lemme 2.2 pour l’indice nef nous avons, :

α(π_{1}) = α(fπ_{1}) = α(ψπ_{2}) ≥ α(π_{2}),

où suivant les cas α désigne α_{max,eff} ou bien α_{max,nef}. Pour obtenir l’inégalité inverse, il suffit d’inverser les rôles des deux résolutions.

La preuve du corollaire s’obtient immédiatement à l’aide du résultat suivant :

Proposition 2.5. — ([Dem96] proposition 6.6) Soit V une variété lisse projective. Nous avons :

\overline{Pic}^{a}(V) = Pic^{nef} (V).

En effet, nous en déduisons le lemme suivant.

Lemme 2.6. — Soit ϕ ∈ Aut𝔸^{r} de degré au moins deux. Soit (π,V) une résolution de ϕ. Nous avons :

α_{max,amp}(ϕ,π,V) = α_{max,nef}(ϕ,π,V).

Nous avons donc :

Proposition 2.7. — Soit ϕ ∈ Aut𝔸^{r}.Nous avons :

α(ϕ,amp) = α(ϕ,nef).

3. Propriétés des indices

3.1. Stabilité par conjugaison linéaire. — Nous nous intéressons maintenant de manière naturelle à des questions de stabilité des indices. Nous montrons que les indices ample et effectif sont invariants par conjugaison par une application linéaire.

Proposition 3.1. — Soit ϕ,f ∈ Aut(𝔸^{r}) avec deg(f) = 1. Nous avons alors,

α(ϕ,eff) = α(f^{−1} ∘ ϕ ∘ f,eff),
α(ϕ,amp) = α(f^{−1} ∘ ϕ ∘ f,amp).

Démonstration. — Soit ϕ ∈ Aut(𝔸^{r}). Soit f une application linéaire de 𝔸^{r}. Il existe V variété projective lisse et Π : V → ℙ^{r} morphisme birationnel tels que : ϕ ∘f ∘Π et ϕ^{−1} ∘f ∘Π morphismes de V dans ℙ^{r}. Comme f est une application linéaire, f^{−1} ∘ϕ ∘f ∘Π et f^{−1} ∘ϕ^{−1} ∘f ∘Π sont des morphismes de V dans ℙ^{r}. Soit H l’hyperplan à l’infini. Le symbole ≃ désigne l’équivalence linéaire de diviseurs.

(f^{−1} ϕfΠ)^{∗}(H) + (f^{−1} ϕ^{−1} fΠ)^{∗}(H)  = (ϕfΠ)^{∗}((f^{−1} )^{∗}(H)) + (ϕ^{−1} fΠ)^{∗}((f^{−1} )^{∗}(H))
≃ (ϕfΠ)^{∗}(H) + (ϕ^{−1} fΠ)^{∗}(H).

D’où le résultat.

Remarque 3.2. — La question de l’invariance, par conjugaison par un automorphisme affine, des indices ample, effectif et effectif arithmétique se pose de manière naturelle. Nous ne sommes pas parvenue à trancher. Néanmoins le théorème B, nous permet de définir l’indice ample conjugué et l’indice effectif arithmétique absolu conjugué :

α_{conj,}(ϕ,amp) = sup_{f∈Aut(𝔸^{r})} α(f^{−1} ϕf,amp),

α_{conj,}(ϕ,arith) = sup_{f∈Aut(𝔸^{r})} α(f^{−1} ϕf,arith).

En effet, le degré dynamique est invariant par conjugaison par un automorphisme de l’espace affine.

3.2. Relation entre les indices. — Nous avons une inégalité dans le cas général.

Proposition 3.3. — Soit ϕ ∈ Aut(𝔸^{r}). Alors :

α(ϕ,amp) ≤ α(ϕ,eff).

Ceci découle immédiatement du fait que Pic_{ℝ}^{a}(V) ⊂ Pic_{ℝ}^{+}(V), voir par exemple

[HS00] F.5.4.

Remarque 3.4. — Soit ϕ ∈ Aut(𝔸^{r}). Par définition nous avons :

α(ϕ,arith) ≤ α(ϕ,eff).

Dans tous les exemples que nous connaissons, nous avons égalité.

Proposition 3.5. — Soit ϕ ∈ Aut(𝔸^{r}), r ≥ 2 et deg(ϕ) = 1. Alors,

α(ϕ,amp) = α(ϕ,eff) = 2.

Démonstration. — De l’hypothèse deg(ϕ) = 1, nous déduisons immédiatement que ϕ et ϕ^{−1} s’étendent en des morphismes de ℙ^{r}, de là nous avons α(ϕ,eff) = 2. De plus, Pic(ℙ^{r}) = ℤ, or d’après [Laz01] ex. 1.23, tout diviseur effectif non nul est ample, d’où le résultat.

3.3. Généralisation. — Il est possible de considérer les indices ample et effectif comme étant les invariants gémétriques de l’application birationnelle ϕ̃: ℙ^{r} → ℙ^{r} associée à ϕ. Ainsi en vient-on de manière naturelle à définir les indices ample et effectif pour toute application birationnelle d’une variété lisse projective V de dimension au moins 2 munie d’une polarisation L, où L jouera le rôle de l’hyperplan à l’infini H. Nous noterons alors ces indices : α(ϕ,eff,L) et α(ϕ,amp,L). La preuve de la proposition 2.3 s’adapte mutatis mutandis à ce cas de figure.

PARTIE II DYNAMIQUE ARITHMÉTIQUE

Le théorème A s’obtient à l’aide des propriétés fonctorielles des hauteurs et de lemmes combinatoires.

4. Propriétés fonctorielles des hauteurs

La démonstration de la proposition suivante repose essentiellement sur les propriétés fonctorielles des hauteurs voir par exemple [HS00] B.3.

Proposition 4.1. — Soit ϕ ∈ Aut(𝔸^{r}). Alors, il existe c ∈ ℝ^{+} tel que pour tout point Q de 𝔸^{r}(\overline{ℚ}), on a :

h(ϕ(Q)) + h(ϕ^{−1} (Q)) ≥ αh(Q) − c  (1),

où α désigne suivant les cas α ∈ ℚ tel que 2 < α ≤ α(ϕ,arith) avec (π,V) ou α ∈ ℝ tel que 2 < α < α(ϕ,amp).

Remarque 4.2. — La constante c dépend la résolution choisie.

Démonstration. — Soit (π,V) une résolution de ϕ. Nous noterons ψ := ϕπ et ψ′:= ϕ^{−1} π. Si D est un diviseur de Weil sur V (variété projective non singulière), on notera h_{V,D}la hauteur sur V associée au diviseur D.

– Nous considérons tout d’abord le cas de l’indice effectif arithmétique. Par hypothèse, il existe une résolution (π,V) et E ∈ C_{+}(V) pour laquelle :

(ϕπ)^{∗}(H) + (ϕ^{−1} π)^{∗}(H) − α ≃ E  (2),

où ≃ désigne l’équivalence linéaire de diviseurs, et il existe m > 0 tel que pour tout (Q ∉ H) nous avons π^{−1} (Q) ∉ B_{m}(E).

h_{V,ψ^{∗}(H)}+ h_{V,ψ′^{∗}(H)}= h_{V,ψ^{∗}(H)+ψ′^{∗}(H)} + O(1)
h_{V,ψ^{∗}(H)}+ h_{V,ψ′^{∗}(H)}= h_{V,απ^{∗}(H)+E} + O(1)
h_{V,ψ^{∗}(H)}+ h_{V,ψ′^{∗}(H)}= αh_{V,π^{∗}(H)}+ h_{V,E}+ O(1)

Pour tout Q ∈ 𝔸^{r},(Q ∉ H), nous noterons Q̃ = π^{−1} (Q) par hypothèse il existe m > 0 tel que Q̃ ∉ B_{m}(E).

Ainsi, pour tout Q ∈ 𝔸^{r}(Q̄),

h_{V,ψ^{∗}(H)}(Q̃) + h_{V,ψ′^{∗}(H)}(Q̃) = αh_{V,π^{∗}(H)}(Q̃) + h_{V,E}(Q̃) + O(1).

Et par conséquent,

h(ψ(Q̃)) + h(ψ^{−1} (Q̃)) = αh(π(Q̃)) + h_{V,E}(Q̃) + O(1)

or, Q = π(Q̃), donc ψ(Q̃) = ψ ∘ π(Q) = ϕ(Q) d’où

h(ϕ(Q)) + h(ϕ^{−1} (Q)) = αh(Q) + h_{V,E}(Q̃) + O(1)

de plus, E est un diviseur effectif, m > 0 et Q̃ ∉ B_{m}(E), donc il existe c > 0 tel que :

h(ϕ(Q)) + h(ϕ^{−1} (Q)) ≥ αh(Q) − c.

– Cas de l’indice ample. Si E est un diviseur ample, alors il existe c tel que pour tout P, h_{E}(P) ≥ −c, nous pouvons donc adapter la preuve précédente. Le cone ample est ouvert d’où la nécéssité de considérer α < α(ϕ,amp).

5. Techniques combinatoires

L’énoncé suivant figure, sans démonstration dans [M1].

Proposition 5.1. — Soit ϕ un automorphisme de 𝔸^{r} de degré d ≥ 2 possédant un inverse de degré d′. Supposons qu’il existe c ∈ ℝ^{+} , α > 2 tel que pour tout point Q de 𝔸^{r}(\overline{ℚ}) :

h(ϕ(Q)) + h(ϕ^{−1} (Q)) ≥ αh(Q) − c.  (1)

(1) Notons Per(ϕ) l’ensemble des points périodiques de ϕ. Nous avons alors :

Per(ϕ) ⊂ \{Q ∈ 𝔸^{r}(\overline{ℚ}) | h(Q) ≤ \frac{c}{α − 2} \}.

(2) Soit a(α) = ^{\frac{α+(α^{2}−4)^{\frac{1}{2}}}{2}} . Pour tout point P non-périodique, on a

( \frac{1}{logd}+ \frac{1}{logd′}) ≤ liminf\frac{N(ϕ,P,B)}{logB}≤ limsup\frac{N(ϕ,P,B)}{logB}≤ \frac{2}{log(a(α))} . (2)

Remarque 5.2. — La minoration dans la relation (2) est vraie pour tout automorphisme affine ϕ. De plus, si on note δ (resp.δ′) le degré dynamique de ϕ (resp. de ϕ^{−1} ) ; on peut remplacer, dans cette même minoration, d et d′respectivement par δ et δ′(voir [M2] proposition 2.8 ).

La démonstration de la proposition 5.1 est essentiellement technique et utilise les propriétés de bases des hauteurs ainsi que des techniques classiques pour les suites. La démonstration de la proposition 5.1 est largement inspirée des articles de J. Silverman [Si94] et L. Denis [Den95].

5.1. Lemmes techniques. —

Lemme 5.3. — Soit ϕ un automorphisme de 𝔸^{r}, vérifiant la condition (1) alors, pour tout point P de 𝔸^{r} nous avons :

h(ϕ^{n}(P)) + h(ϕ^{−n} (P)) ≥ (a − a^{−1} )(a^{n}+ a^{−n})( h(P) − \frac{c}{α − 2} ) ,

avec a = ^{\frac{α+(α^{2}−4)^{\frac{1}{2}}}{2}} .

L’objectif est d’obtenir pour tout point P de l’espace affine une minoration de h(ϕ^{n}(P)) + h(ϕ^{−n} (P)) en fonction de h(P) et de constantes. Pour ce faire, nous utilisons une suite réelle associée de manière naturelle à l’inégalité (1), à savoir une suite qui vérifie le cas d’égalité avec des conditions initiales qui nous conviennent. Ensuite à l’aide d’un argument de sommation téléscopique, puis de minorations élémentaires, nous obtenons le résultat escompté.

Pour la preuve de ce lemme nous renvoyons le lecteur à [M2] lemme 3.3. Ce lemme nous permet d’obtenir la première partie de la proposition 5.1.

Pour avoir des informations sur l’orbite des points non-périodiques, nous utilisons le lemme suivant :

Lemme 5.4. — Soit ϕ un automorphisme du plan affine vérifiant la relation (1). Si P n’est pas un point périodique, alors les suites (h(ϕ^{n}(P)))_{n∈ℕ} et (h(ϕ^{−n} (P)))_{n∈ℕ} sont croissantes à partir d’un certain rang.

Démonstration. — Supposons qu’il existe m tel que h(ϕ^{m}(P)) ≤ h(ϕ^{m+1}(P)) et h(ϕ^{m+1}(P)) ≥ h(ϕ^{m+2}(P)). On a alors,

2h(ϕ^{m+1}(P)) ≥ h(ϕ^{m}(P)) + h(ϕ^{m+2}(P))

d’où en utilisant la propriété (1) avec Q = ϕ^{m+1}(P)

2h(ϕ^{m+1}(P)) ≥ αh(ϕ^{m+1}(P)) − c

et par conséquent,

c ≥ (α − 2)h(ϕ^{m+1}(P)).

Cependant, si P est non-périodique #\{m ∈ ℤ | h(ϕ^{m+1}(P)) ≤ \frac{c}{α−2} \} est fini. D’où la contradiction pour m assez grand. On procède de la même manière pour démontrer la croissance à partir d’un certain rang de la suite de terme général (h(ϕ^{−n} (P)))_{n∈ℕ}.

Remarque 5.5. — À partir d’un certain rang la suite (H_{n})_{n∈ℕ} est également croissante.

Le lemme suivant nous donne une minoration (indépendante du point considéré), de la limite inférieure de la hauteur de itérés.

Lemme 5.6. — Soit ϕ un automorphisme de l’espace affine 𝔸^{r} vérifiant la condition (1). Notons a = ^{\frac{α+\sqrt{α^{2}−4}}{2}} .

Alors pour tout point P non-périodique nous avons :

liminf_{n→+∞} \frac{logh(ϕ^{n}(P))}{nloga}≥ 1 .

Sa démonstration, que voici, nécessite l’utilisation des lemmes 5.3 et 5.4.

Démonstration. — Comme P n’est pas un point périodique, il existe n_{0}(P), tel que h(ϕ^{s}(P)) est une suite croisssante (cf. lemme 5.4) pour tout s > n_{0}(P), et tel que, h(ϕ^{s}P) ≥ \frac{ac}{2(a−1)} de là,

h(ϕ^{s+k}(P)) ≥ h(ϕ^{s−k}(P)), pour s > n_{0}+ k avec k > 0

d’où pour s > n_{0}+ k

2h(ϕ^{s+k}P) ≥ h(ϕ^{s−k}P) + h(ϕ^{s+k}P) = h(ϕ^{−k}(ϕ^{s}P)) + h(ϕ^{k}(ϕ^{s}(P))

donc, d’après le lemme 5.3

2h(ϕ^{s+k}(P))≥ c + (a − a^{−1} )(a^{k}+ a^{−k})(h(ϕ^{s}P) − \frac{c}{2})  (lemme 5.3)
≥ (a − a^{−1} )(a^{k}+ a^{−k})(h(ϕ^{s}(P)) − \frac{c}{2})  (c > 0 )
≥ (a − a^{−1} )(a^{k}+ a^{−k})\frac{1}{a}h(ϕ^{s}(P))  (car h(ϕ^{s}P) ≥ \frac{ac}{2(a − 1)} ).

Posons, c_{1} = \frac{1}{2}(1 − \frac{1}{a^{2}}). Nous avons alors,

h(ϕ^{s+k}(P)) ≥ c_{1}a^{k}h(ϕ^{s}P);

d’où en appliquant m fois cette inégalité :

h(ϕ^{s+mk}(P) ≥ c_{1}^{m}a^{km}h(ϕ^{s}(P) pour tout s > n_{0}+ k et tout m ≥ 0.

De là,

\frac{logh(ϕ^{s+mk}(P))}{s + mk}≥ (1 − \frac{s}{s + mk})loga + \frac{mlogc_{1}+ logh(ϕ^{s}(P)}{s + mk},

d’où le résultat par passage à la limite.

5.2. Preuve de la proposition 5.1. —

Démonstration. — (de la proposition 5.1) Le premier point résulte d’une simple application du lemme 5.3.

(1) D’après le lemme 5.3

h(ϕ^{n}(P)) + h(ϕ^{−n} (P)) ≥ (a − a^{−1} )(a^{n}+ a^{−n})(h(P) − \frac{c}{α − 2} ) + \frac{2c}{α − 2}

Soit P un point périodique. Il existe n ∈ ℕ tel que ϕ^{n}(P) = P, ainsi

\frac{c}{α − 2} [(a − a^{−1} )(a^{n}+ a^{−n}) − 2] ≥ h(P)[(a − a^{−1} )(a^{n}+ a^{−n}) − 2]

d’où le résultat.

Pour obtenir un encadrement de la taille des orbites, nous procédons tout d’abord à un encadrement de log(h(ϕ^{n}(P))), puis comptons les points de hauteur bornée de l’orbite.

(2) Taille de l’orbite

Pour tout P ∈ A^{r}(ℚ̄), h(ϕ^{n}P) ≤ d^{n}(h(P) + O(1)) en effet ϕ est une application rationnelle de degré d. Comme P n’est pas un point périodique, nous avons,

limsup_{n→∞}\frac{logh(ϕ^{n}P)}{nlogd}≤ limsup_{n→∞}\frac{nlogd + log(h(P))}{nlogd} = 1;

par conséquent, pour n > n_{0} nous avons :

nloga ≤ liminf_{n→∞}logh(ϕ^{n}P) ≤ limsup_{n→∞}logh(ϕ^{n}P) ≤ nlogd.

Le résultat pour n → −∞ s’obtient de manière analogue car par hypothèse ϕ^{−1} est un automorphisme affine dont l’application rationnelle associée est de degré d′, ainsi pour tout ε > 0 il existe n_{o} tel que pour tout n vérifiant |n|> n_{0} :

(1 − ε) |n| loga ≤ logh(ϕ^{n}P) ≤ (1 + ε) |n| log(max(d,d′))

pour tout | n |≥ n_{0}. Nous avons,

N(ϕ,P,B) = #{n ∈ ℤ | log(h(ϕ^{n}P)) ≤ logB}

on a :

\frac{logB}{(1 + ε)(\frac{1}{logd} + \frac{1}{logd′})} − 2n_{0}− 2 ≤ N(ϕ,P,B) ≤ \frac{2logB}{(1 − ε)loga} + 1

d’où le résultat.

6. Démonstration du théorème A

La démonstration du théorème A et de la remarque 1.6 se déduit immédiatement des propositions 4.1 et 5.1. Nous traitons le cas de l’indice ample sachant que la preuve pour l’indice effectif arithmétique est essentiellement la même.

Le cas d’équivalence 1.6 s’obtient comme suit :

Démonstration du théorème A. — Par hypothèse α(ϕ,amp) = \frac{d^{2}+1}{d} , de plus il existe n_{1} ∈ ℕ \ \{0\} tel que pour tout n > n_{1} nous avons α(ϕ,amp) − \frac{1}{n} > 2

Or a_{n} = ^{\frac{α(ϕ,amp)− \frac{1}{n}+\sqrt{(α(ϕ,amp)− \frac{1}{n})^{2}−4}}{2}} , donc lim_{n→∞} a_{n} = d de plus d = d′, doù :

lim_{|n|→∞} \frac{logh(ϕ^{n}P)}{nlogd}= 1

Ainsi, pour tout ε,il existe n_{0}(P,ε) tel que : (1−ε) | n |≤ log_{d}h(ϕ^{n}P) ≤ (1+ε) | n | pour tout | n |≥ n_{0}. Nous avons alors,

\frac{2log_{d}B}{1 + ε}− 2n_{0}− 2 ≤ N(ϕ,P,B) ≤ \frac{2log_{d}B}{1 − ε}+ 1

d’où

\frac{1}{1 + ε} ≤ liminf_{B→∞} \frac{N(ϕ,P,B)}{2log_{d}B}≤ limsup_{B→∞}\frac{N(ϕ,P,B)}{2log_{d}B}≤ \frac{1}{1 − ε}

d’où le résultat.

7. Illustration du théorème A

Nous illustrons le théorème A grâce aux calculs des invariants géométriques.

7.1. Valeurs numériques des indices effectif et effectif arithmétique. — Dans ce paragraphe, nous donnons les valeurs des deux invariants géométriques pour différents exemples, dans tous ces exemples a est une constante non nulle. J. Silverman a déterminé la valeur de l’indice effectif pour l’un de ces exemples, l’application de Hénon généralisée ([Si94]). Pour calculer ces indices nous avons utilisé la résolution canonique. Le détail des calculs est omis. Dans les exemples ci-dessous a est toujours une constante non nulle.

Application  degré  degré  indice  indice  indice
algébrique dynamique  effectif  arithmétique ample
ϕ(x,y) =  deg(ϕ)  δ(ϕ)  α(ϕ,eff)  α_{arith,can}(ϕ) α(ϕ,amp)
(y,y^{2}+ b + ax)  2  2  \frac{5}{2} = 2 + \frac{1}{2} [Si94]  \frac{5}{2}  ≤ 0
(y + ax^{3},x)  3  3  \frac{10}{3} = 3 + \frac{1}{3}  \frac{10}{3}  ≤ 0
(y + ax^{4},x)  4  4  \frac{17}{4} = 4 + \frac{1}{4}  \frac{17}{4}  ≤ 0

Remarque 7.1. — Pour les exemples de degré dynamique différents de 1, nous obtenons la borne maximale du théorème C. Sur les calculs effectués, nous observons : α(ϕ,eff) = α_{arith,conj}(ϕ,π,V) = δ(ϕ) + \frac{1}{deg(ϕ)}. Une question naturelle se pose, les indices amples et effectifs ne seraient-ils pas rationnels ?

7.2. Taille des orbites. — Dans les exemples ci-dessous a est toujours une constante non nulle. En appliquant ce théorème A nous obtenons que l’ensemble des points périodiques des applications suivantes est de hauteur bornée sur \overline{ℚ}, et pour les tailles d’orbites des points non-périodiques, nous avons :

Application degré dynamique taille de l’orbite
ϕ(x,y) =  δ(ϕ)  N(ϕ,P,B)
(y,y^{2}+ b + ax)  2  ∼ \frac{2logB}{log2} [Si94]
(y + ax^{3},x)  3  ∼ \frac{2logB}{log3}
(y + ax^{4},x)  4  ∼ \frac{2logB}{log4}

Un autre résultat que nous avons obtenu [M2] concernant les automorphismes réguliers (voir Annexe A théorème A.4), nous permet de retrouver ces résultats.

8. Cas où le théorème A n’est pas optimal

Dans certains cas, le théorème A ne donne pas un résultat optimal.

Nous considérons le cas de l’application de Nagata-“tordue” qui est définie comme suit :

\begin{aligned}ϕ : & 𝔸^{3} & → & 𝔸^{3} \\ & (X,Y,Z) & ↦ & \{ \begin{matrix}Y − 2(Y Z + X^{2})X − (Y Z + X^{2})^{2}Z \\ X + (Y Z + X^{2})Z \\ Z, \end{matrix} \end{aligned}

Le théoréme A.6 et la contraposée du théorème A nous permettent de conclure que si l’indice de l’application de Nagata-“tordue” vérifie respectivement α(ϕ,amp) > 2 et α(ϕ,aith > 2 , alors les deux conditions suivantes sont vérifiées :

– l’indice ample vérifie α(ϕ,amp) < \frac{26}{5},

– soit l’indice effectif arithmétique vérifie α(ϕ,arith) < \frac{26}{5}.

Cet exemple nous montre que dans ce cas le théorème A ne permet pas, dans ce cas, d’obtenir un résultat optimal. Il ne donnerait au mieux que “comparable à” logB, alors que le théoréme A.6 nous décrit précisement la taille des orbites.

PARTIE III MAJORATION DES INDICES

9. Preuve et illustration du théorème B

Pour démontrer le théorème B, nous considérons deux cas suivant que le degré dynamique est ou non égal à 1. Dans les deux cas, nous utilisons des résultats de dynamique arithmétique puis des arguments spécialisation pour le passage de \overline{ℚ} à ℂ.

9.1. Automorphismes de degré dynamique 1. — Nous utilisons des résultats de dynamique arithmétique que nous avons obtenus précédemment [M2]. Le théorème B pour les automorphismes affines de degré dynamique 1 s’obtient à partir de la proposition A.1, de la contraposée du théorème A et d’arguments de spécialisation pour le passage de \overline{ℚ} à ℂ.

Remarque 9.1. — La majoration est optimale, il suffit en effet de considérer l’identité qui est d’indice 2.

La situation produit (voir Annexe paragraphe A.3) nous permet de montrer que la réciproque de l’assertion du théorème B pour les automorphismes affines de degré dynamique 1 est fausse.

Nous pouvons par exemple considérer l’exemple suivant. Soit ϕ_{1} ∈ Aut(𝔸^{2}) une application triangulaire. Soit ϕ_{2} une application de Hénon généralisée, c’est-à-dire ϕ_{2}(x,y) = (p(x) − ay,x) avec p application polynomiale de degré au moins 2 et a une constante non nulle. L’automorphisme Φ a pour expression :

Φ(x,y,z,t) = (αx + q(y),βy + γ,p(z) − at,z),

avec aαβ ≠ 0 et p application polynomiale de degré au moins 2.

Des résultats de dynamique arithmétique pour la situation produit voir Annexe A paragraphe A.3, nous déduisons : si P = (x,y,z,t) avec P_{1} = (x,y) ∉ Per(ϕ_{1},k) et P_{2} = (z,t) ∈ Per(ϕ_{2},k) alors,

N(Φ,P,B) = N(ϕ_{1},P_{1},B).

Suivant le type d’automorphisme triangulaire et le point considérés, différents cas se présentent. Les tailles des orbites sont donc des fonctions qui asymptotiquement se comportent comme cB ou ce^{B}. Ainsi, de la contraposée du théorème A, nous déduisons α(Φ,amp) ≤ 2 de même que α(Φ,arith) ≤ 2. De plus, nous avons δ(Φ) = δ(ϕ_{2}) > 1, en effet une application de Hénon généralisée ϕ vérifie deg(ϕ) = δ(ϕ) (voir par exemple [S99]). La réciproque du théorème C (pour les automorphismes de degré dynamique 1) est donc fausse.

9.2. Automorphismes de degré dynamique différent de 1. — Soit ϕ un automorphisme de l’espace affine de degré dynamique δ(ϕ) > 1. Nous devons distinguer deux cas suivant que l’indice ample ou l’indice effectif arithmétique est ou non inférieur ou égal à 2. Si α(ϕ,amp) ≤ 2 ou α(ϕ,arith) ≤ 2, l’assertion est clairement vérifiée.

Dans le cas contraire, si α(ϕ,amp) > 2 ou α(ϕ,arith) > 2 le théorème B s’obtient essentiellement à partir de l’inégalité 2 de la proposition 5.1 modifiée par la remarque 3.3. La borne est optimale, elle est en effet atteinte, dans certains calculs explicites de l’indice que nous avons effectués (voir paragraphe 16). En effet sur ces exemples, nous avons égalité des degrés dynamiques et algébriques, et de plus l’application et son inverse ont même degré, la borne supérieure devient alors d + \frac{1}{d}.

Remarque 9.2. — Il est possible de définir de manière analogue une borne en fonction des degrés algébriques et nous avons alors δ_{1}(ϕ) ≤ deg_{1}(ϕ). Le nombre δ_{1}(ϕ) est clairement invariant par conjugaison par un automorphisme affine.

Il serait intéressant d’avoir une démonstration directe du théorème B.

9.3. Illustrations du théorème B. — Dans ce paragraphe, nous donnons différents exemples d’automorphismes de degré dynamique 1, qui nous permettent donc d’illustrer par des exemples le théorème C pour les automorphismes de degré dynamique 1.

Les automorphismes de degré dynamique 1 sont nombreux. Il s’agit notamment des applications triangulaires et élémentaires.

Définition 9.3. — Soit ϕ ∈ Aut(𝔸^{r}), vérifiant

ϕ(X_{1},...,X_{r}) = (a_{1}X_{1}+ F_{1}(X_{2},...,X_{r}),a_{2}X_{2}+ F_{2}(X_{3},...,X_{r}),
...,a_{r−1} X_{r−1} + F_{r−1} (X_{r}),a_{r}X_{r}+ F_{r});

avec F_{i} ∈ k[X_{i+1} ,...,X_{r}] pour 1 ≤ i ≤ r − 1 et a_{i} ∈ k^{∗}; ϕ est dite triangulaire.

Les applications triangulaires jouent un rôle important dans la classification des automorphismes du plan affine (voir [J42],[K53] et [FM89]).

Définition 9.4. — Soit ϕ ∈ Aut(𝔸^{r}), vérifiant

\begin{aligned}ϕ : & 𝔸^{r} & → & 𝔸^{r} \\ & (X_{1},..,X_{i},...,X_{r}) & ↦ & (X_{1},..,X_{i−1} ,X_{i}+ P(X_{1},..,X̂_{i},.,X_{r}),X_{i+1} ,...X_{r}) \end{aligned}

avec P polynôme ; ϕ est dite élémentaire.

Les applications élémentaires figurent également dans les travaux sur les automorphismes affines [E95]. L’application d’Anick est également de degré dynamique 1, elle est définie comme suit :

\begin{aligned}σ : & 𝔸^{4} & → & 𝔸^{4} \\ & (x,y,z,w) & ↦ & \{ \begin{matrix}x − (xz + yw)w \\ y + (xz + yw)z \\ z \\ w \end{matrix} \end{aligned}

Cette application est un contre-exemple potentiel à la conjecture des polynômes modérés qui concerne la classification des automorphismes de l’espace affine en dimension au moins 3 [E95]. Les applications ci-dessus, leurs conjuguées et leur conjuguées stable ont un indice ample et un indice effectif arithmétique vérifiant : α(ϕ,amp) ≤ 2 et α(ϕ,arith.) ≤ 2 (d’après les propriétés de stabilité de la taille des orbites par conjugaison et conjugaison stable [M2]).

10. Géométrie et indice ample

10.1. Étude de la résolution générique. —

10.1.1. Construction. —

Lemme 10.1. — Soit ϕ ∈ Aut(𝔸^{r}) de degré algébrique d > 2. Il existe X_{1} une variété projective lisse et ψ : X_{1} → ℙ^{r} un morphisme birationnel tel que ψ prolonge le morphisme ϕ : ℙ^{r}\ Z(ϕ) → ℙ^{r}.

Démonstration. — L’application ϕ : ℙ^{r} → ℙ^{r} définie par

ϕ(x) = ϕ(x_{1},···,x_{r+1} ) = (f_{1}(x),···,f_{r+1} (x))

est une application rationnelle, lui est donc associé un système linéaire. On note V = vect(f_{1},···,f_{r+1} ),et B = ∩_{f∈V \{0}}Z(f) le sous-schéma des points base. Donc d’après [F] paragraphe 4.4 nous avons le résultat désiré π_{1} est l’éclatement de ℙ^{r} le long de B et X_{1} est projectif car il peut être plongé dans ℙ^{r}× ℙ(V^{v}) et on identifie ℙ(V^{v}) avec ℙ^{r}. Nous noterons E le diviseur exceptionnel associé

Proposition 10.2. — Soit ϕ ∈ Aut(𝔸^{r}) de degré algébrique d ≥ 2. Il existe (π,V) une résolution générique.

Démonstration. — Il suffit d’appliquer le lemme 10.1 à ϕ et ϕ^{−1} . Nous obtenons alors deux variétes projectives lisses X_{1} et X_{2}, dont nous prenons le produit fibré au dessus de ℙ^{r}, pour obtenir la variété V.

Notations. — Nous noterons E et F les diviseurs exceptionnels associés à cette résolution.

10.1.2. Propriétés. —

Proposition 10.3. — Soit ϕ ∈ Aut(𝔸^{r}) de degré algébrique d ≥ 2. Soit (π,V) une résolution générique. Nous avons

ψ_{∗}(H^{♯}) = ψ′_{∗}(H^{♯}) = 0.

De plus, si dim(Z(ϕ)) = dim(Z(ϕ^{−1} )) = 0. Pour toute courbe irréductible C telle que C ⊂ H^{♯}, nous avons :

ψ_{∗}(C) = ψ′_{∗}(C) = 0.

Lemme 10.4. — ([S99] p.124) Soit ϕ un automorphisme non-linéaire de 𝔸^{r}. Nous avons alors :

ϕ(H \ Z(ϕ)) ⊂ Z(ϕ^{−1} ) et ϕ^{−1} (H \ Z(ϕ^{−1} )) ⊂ Z(ϕ).

Démonstration. — Par construction, et d’après le lemme 10.4 nous avons :

ψ(H^{♯}\ (H^{♯}∩ E) = ϕ(H \ Z(ϕ)) ⊂ Z(ϕ^{−1} ).

Or, Z(ϕ^{−1} ) est de codimension au moins 2, d’où le résultat. Le raisonnement est analogue dans le cas d’une courbe irréductible, si on suppose : dim(Z(ϕ)) = dim(Z(ϕ^{−1} )) = 0.

10.2. Un résultat préliminaire. —

Théorème 10.5 (Théorème de Kleiman ([Laz01] th 1.4.8.))

Soit X une variété (un schéma) complet. Si D est un ℝ-diviseur nef de X, alors pour toute sous-variété (schéma) irréductible V ⊂ X de dimension K, nous avons :

D^{K}.V ≥ 0.

10.3. Preuve théorème C. —

Démonstration. — Soit (π,V) la résolution générique de ϕ. Soit D ⊂ H^{♯}une courbe irréductible. D’après la proposition 10.3, nous avons :

ψ_{∗}(C) = ψ′_{∗}(C) = 0.

Dans le cas de la dimension 2, on considère H^{♯}. Calculons à l’aide de la formule de projection :

D(α,π,V).C = (ψ^{∗}(H) + ψ^{′∗}(H) − απ^{∗}(H)).C
= H.ψ_{∗}(C) + H.ψ′_{∗}(C) − αH.π_{∗}(C) = −αH.π_{∗}(C)

Or, H.π_{∗}(C) > 0. Donc en utilisant la contraposée du théorème de Kleiman 10.5, nous avons :

si α > 0 alors D(α,π,V) n’est pas un diviseur nef.

Donc d’après la proposition 2.1 et la proposition 2.7, nous avons :

α(ϕ,amp) = α(ϕ,nef) ≤ 0.

Remarque 10.6. — (1) Dans le cas de la dimension 2, si D(α,π,V) est un ℚ-diviseur le critère de Nakai-Moishezon ([H77] chapitre 5 théorème 1.10) est suffisant, on peut l’appliquer à un multiple entier de D(α,π,V).

(2) Comme nous le voyons dans la preuve ci-dessus, il est possible de remplacer l’hypothèse sur les dimensions par l’hypothèse plus faible suivante : (H) Il existe C ⊂ H^{♯} une courbe irréductible telle que : ψ_{∗}(C) = ψ′_{∗}(C) = 0. Une question naturelle se pose est-il possible d’affaiblir voir de supprimer cette hypothèse ?

Les automorphismes réguliers apparaissent de manière naturelle en dynamique holomorphe (voir [S99]).

Définition 10.7. — Soit ϕ un automorphisme de 𝔸^{r} avec r ≥ 2. L’automorphisme ϕ est dit régulier si deg(ϕ) > 1 et :

Z(ϕ) ∩ Z(ϕ^{−1} ) = ∅.

Lemme 10.8. — ([S99] proposition 2.3.2) Soit ϕ un automorphisme régulier de 𝔸^{r}. Nous notons l = dim(Z(ϕ^{−1} )) + 1, alors :

deg(ϕ)^{l} = deg(ϕ^{−1} )^{r−l} .

De plus, dim(Z(ϕ)) + dim(Z(ϕ^{−1} )) = r − 2.

Proposition 10.9. — Soit ϕ un automorphisme régulier de 𝔸^{3}. Soit (π,V) la résolution générique associée à ϕ.

Si deg(ϕ) ≥ deg(ϕ^{−1} ), on suppose qu’il existe une courbe irréductible C ⊂ H^{♯} telle que ψ_{∗}(C) = 0 alors,

α(ϕ,amp) ≤ 0.

La méthode est la même que pour démontrer le théorème C, on utilise simplement en plus la remarque 10.6 et le lemme 10.8, en effet en dimension 3 pour un automorphisme régulier l’un des deux lieux de non-définition (Z(ϕ) ou Z(ϕ^{−1} )) est de dimension 0.

Remarque 10.10. — De la même manière, nous obtenons le résultat suivant. Soit ϕ un automorphisme régulier de 𝔸^{r} vérifiant deg(ϕ) = deg(ϕ^{−1} )^{r−1} . Soit (π,V) la résolution générique associée à ϕ. S’il existe une courbe irréductible C ⊂ H^{♯} telle que ψ′_{∗}(C) = 0, alors α(ϕ,amp) ≤ 0.

Appendice A Résultats de dynamique arithmétique

La dynamique arithmétique s’intéresse aux comportements, sur \overline{ℚ}, d’endomorphismes de variétés, des variétés lisses projectives pour D. Northcott en 1950 [N50], des automorphismes de l’espace affine plus récemment [Si94], [Den95], [M1] et [M2]. Idéalement, il s’agit de relier la géométrie des applications à leur dynamique arithmétique, tout comme dans les travaux sur le nombre de points de hauteurs bornées des variétés (voir par exemple [P01]). Dans le théorème A.4, le lien entre la géométrie des applications et leur dynamique arithmétique est clairement établi.

A.1. Résultats généraux. — Nous donnons ici des résulats que nous avons utilisés ou qui les précisent. Nous renvoyons le lecteur à [M1], et [M2].

Nous avons tout d’abord le résultats général suivant :

Proposition A.1. — Soit ϕ un automorphisme de l’espace affine 𝔸^{r} et P un point non périodique de 𝔸^{r}(\overline{ℚ}). Si δ(ϕ) = 1, alors

lim_{B→+∞} \frac{N(ϕ,P,B)}{logB}= +∞.

Nous montrons que la ”taille des orbites” est essentiellement stable par conjugaison par un automorphisme affine ([M1] et [M2]). La notion de conjugaison stable est une généralisation de la notion de conjugaison par un automorphisme de l’espace affine (voir par exemple [E95]), nous montrons que la “taille des orbites” est également essentiellement stable par conjugaison stable ([M1] et [M2]).

Nous obtenons également un résultat plus précis que la proposition A.1 pour une certaine catégorie d’automorphismes de degré dynamique 1 : les automorphismes triangulaires.

Théorème A.2. — Soit μ^{∞} l’ensemble des racines de l’unité. Soit ϕ une application triangulaire de 𝔸^{r},

ϕ(X_{1},...,X_{r}) = (a_{1}X_{1}+ F_{1}(X_{2},...,X_{r}),a_{2}X_{2}+ F_{2}(X_{3},...,X_{r}),
...,a_{r−1} X_{r−1} + F_{r−1} (X_{r}),a_{r}X_{r}+ F_{r});

avec F_{i} ∈ k[X_{i+1} ,...,X_{r}] pour 1 ≤ i ≤ r − 1 et a_{i} ∈ k^{∗}.

Soit P = (x_{1},...,x_{r}) ∈ 𝔸^{r}(\overline{ℚ}) un point non périodique, alors :

– s’il existe i tel que a_{i} ∉ μ^{∞} et x_{i} ≠ 0 alors, N(ϕ,P,B) ≫≪ B;

– sinon logN(ϕ,P,B) ≫≪ B.

A.2. Automorphismes réguliers. — Une famille d’automorphismes affines se distingue naturellement en dynamique holomorphe [S99], il s’agit des automorphismes réguliers.

Définition A.3. — Soit ϕ un automorphisme de 𝔸^{r}, Z(ϕ) désigne le lieu de non-définition de l’application rationnelle (définie sur ℙ^{r}) associée à ϕ. L’automorphisme ϕ est dit régulier si deg(ϕ) > 1 et :

Z(ϕ) ∩ Z(ϕ^{−1} ) = ∅.

Nous relions la dynamique arithmétique des automorphismes réguliers à leur géométrie.

Théorème A.4. — Soit ϕ un automorphisme régulier de 𝔸^{r} de degré d et l = dimZ(ϕ^{−1} )+1. Pour tout point non périodique P de 𝔸^{r}(\overline{ℚ}), nous avons :

N(ϕ,P,B) ∼ \frac{r}{l} \frac{logB}{logd}.

En dimension 2, les applications de Hénon généralisées sont des automorphismes réguliers.

A.3. Situation produit. — Si ϕ_{i} ∈ Aut(𝔸^{r_{i}}) pour 1 ≤ s, nous définisons l’application Φ ∈ Aut(𝔸^{r_{1}+··· +r_{s}} ) de la façon suivante :

Φ(x_{1},···,x_{r_{1}+··· +r_{s}} ) = (ϕ_{1}(x_{1,1},···,x_{r_{1},1}),···,ϕ_{s}(x_{1,s},···,x_{r_{s},s})).

La connaissance du comportement des orbites de chaque application ϕ_{i}, nous donne le comportement des orbites de l’automorphisme ϕ.

Nous pouvons par exemple considérer l’exemple suivant : Soit ϕ_{1} ∈ Aut(𝔸^{2}) une application élémentaire. Soit ϕ_{2} une application de Hénon généralisée. L’automorphisme Φ a pour expression :

Φ = (αx + q(y),βy + γ,p(z) − at,z).

De plus, nous avons δ(Φ) = δ(ϕ_{2}).

Dynamique arithmétique de Φ :

• soit P = (x,y,z,t). Si P_{1} = (x,y) ∉ Per(ϕ_{1},k) et P_{2} = (z,t) ∈ Per(ϕ_{2},k) alors :

N(Φ,P,B) = N(ϕ_{1},P_{1},B).

Suivant le type d’automorphismes élémentaires différents cas se présentent. Les tailles des orbites sont donc des fonctions qui asymptotiquement se comportent comme cB ou ce^{B}.

• soit P = (x,y,z,t). Si P_{1} = (x,y) et P_{2} = (z,t) ∉ Per(ϕ_{2},k) alors :

N(Φ,P,B) ∼ 2\frac{logB}{logδ(Φ)} .

A.4. Exemples. — Nous donnons ici un autre exemple d’application de degré dynamique égal à1 : l’application d’Anick.

Proposition A.5. — L’application d’Anick a pour expression :

\begin{aligned}σ : & 𝔸^{4} & → & 𝔸^{4} \\ & (x,y,z,w) & ↦ & \{ \begin{matrix}x − (xz + yw)w \\ y + (xz + yw)z \\ z \\ w \end{matrix} \end{aligned}

Les orbites des points non périodiques de σ sont contenues dans les quadriques d’équations xz + yw = c, où c est une constante non nulle, elles ont pour taille N(B) ∼ c(x,y,z,w)e^{B}.

Théorème A.6. — L’application de Nagata-“tordue” est définie de la manière suivante :

\begin{aligned}ϕ : & 𝔸^{3} & → & 𝔸^{3} \\ & (X,Y,Z) & ↦ & \{ \begin{matrix}Y − 2(Y Z + X^{2})X − (Y Z + X^{2})^{2}Z \\ X + (Y Z + X^{2})Z \\ Z \end{matrix} \end{aligned}

Soit P un point non périodique, alors :

(1) Soit P de coordonnées (X,Y,Z) avec Z ≠ 0,

N(ϕ,P,B) ∼ 2log_{4}(B).

32 SANDRA MARCELLO

(2) Soit P de coordonnées (X,Y,0) N(ϕ,P,B) ∼ 2log_{3}(B).

Références

[BCW82] H. Bass, E. H. Connell et D. Wright, The Jacobian conjecture : reduction of degree and formal expansion of the inverse, Bull. Amer. Math. Soc.(N.S.) 7, 287–330 (1982).

[BM90] Victor V. Batyrev, Yuri I. Manin,Sur le nombre de points rationnels de hauteur borné des variétés algébriques, Math. Ann. 286,27-43 (1990).

[BT98] Victor V. Batyrev, Yuri Tschinkel, Tamagawa numbers of polarized algebraic varieties, Astérisque 251, 299-340 (1998).

[Dem96] Jean-Pierre Demailly, L^{2} vanishing theorems for positive line bundles and adjunction theory. Transcendental methods inalgebraic geometry (Cetraro, 1994), 1–97, Lecture Notes in Math., 1646, Springer, Berlin, (1996).

[Den95] L. Denis, Points périodiques des automorphismes affines, J. reine angew. Math. 467, 157-167 (1995).

[E95] A. van den Essen, Automorphisms of affine spaces, Proceedings of the conference on Invertible Polynomial Maps held in Curaçao, July 4-8 1994, Kluwer (1995).

[FS94] J. E. Fornaess, N. Sibony, Complex dynamics in higher dimension, Complex potential theory , NATO ASI series Math and Phys. Sci., vol C439, 131-186 (1994).

[FMT89] Jens Franke, Yuri I. Manin, Yuri Tschinkel, Rational points of bounded height on Fano varieties, Invent. math. 95, 421-435 (1989)

[FM89] S. Friedland, J. Milnor, Dynamical properties of plane polynomial automorphisms, Ergodic Theory Dynamical systems 9, 67-99 (1989).

[F] Fulton, Intersection theory, Second edition, Ergebnisse des Mathematik und ihrer Grenzgebiete.3 Folge A, Springer Verlag 1998.

[H77] R. Hartshorne, Algebraic geometry, Graduate Texts in Mathematics 52, Springer Verlag (1977).

[HS00] M. Hindry, J. Silverman, Diophantine geometry, an introduction, Graduate Texts in Mathematics 201, Springer Verlag (2000).

[J42] H. W. E. Jung, Über ganze birationale Transformationen der Ebene, J. reine angew. Math. 184, 161-174 (1942).

[K53] W. van der Kulk, On polynomial rings in two variables, Niew Archief voor Wiskunde 3 33-41 (1953).

[Laz01] R. Lazarsfeld, Positivity in algebraic geometry, manuscrit (2001).

[M1] S. Marcello, Sur les propriétés arithmétiques des itérés d’automorphismes réguliers, C. R. Acad. Sci. Paris, t.331, Série I,11-16 (2000).

[M2] S. Marcello, Sur la dynamique arithmétique des automorphismes de l’espace affine, Bulletin de la S.M.F. 31 229-257 (2003).

[M3] S. Marcello, Sur la dynamique arithmétique p-adique des automorphismes de l’espace affine (2003).

[M4] S. Marcello, Sur des invariants géométriques associés à des automorphismes du plan affine (2003).

[N50] D. G. Northcott, Periodic points on an algebraic variety, Ann. Math., 51, 167-177 (1950).

[P01] E. Peyre, Points de hauteur bornée et géométrie des variétés [d’après Y. Manin et al.], Séminaire Bourbaki volume 2000-2001 Astérisque 282 323-344 (2002).

[S99] N. Sibony, Dynamique des applications rationnelles de ℙ^{k}, Panoramas et Synthèses 8 (S.M.F.), 97-195 (1999) .

[Si94] J. Silverman, Geometric and arithmetic properties of the Hénon map, Math. Z. 215, 237-250 (1994).

4 novembre 2003 Sandra Marcello, Max-Planck-Institut für Mathematik, Vivatsgasse 7, 53111, Bonn,

Deutschland, • E-mail : marcello@mpim-bonn.mpg.de