Beiträge zur Algebra und Geometrie Contributions to Algebra and Geometry Volume 42 (2001), No. 2, 595-599.

Courbes et polygones faiblement convexes en courbure strictement négative pincée

Stéphane Grognet

Département de Mathématiques, Université de Nantes U. M. R. 6629, 2, rue de la Houssinière, BP 92208, F-44322 Nantes cedex 03 e-mail: grognet@math.univ-nantes.fr

Résumé. Des courbes de faible courbure géodésique sur une variété riemannienne à courbure strictement négative pincée peuvent être faiblement convexes. Il en découle que sur des surfaces à courbure négative 1/4-pincée les médiateurs ainsi que les domaines de Dirichlet de goupes discrets d’isométries ayant un nombre fini de faces sont faiblement convexes.

Abstract. Some curves with low geodesic curvature on a connected, simply connected riemannian manifold with pinched negative curvature happen to be weakly convex. It results that on a surface with 1/4-pinched negative curvature, the bisectors and Dirichlet domains of discrete groups of isometries with a finite number of faces are weakly convex.

1. Introduction

La convexité des ensembles dans les variétés riemanniennes a fait l’objet de nombreuse études parmi lesquelles on ne citera que [13, 14], la deuxième comportant une importante notice bibliographique. Pour ce même sujet dans les espaces vectoriels de dimension infinie, voir [7].

On se place sur une variété riemannienne complète connexe simplement connexe M de classe C^{∞}, munie d’une métrique riemannienne à courbure strictement négative pincée: −k_{0}^{2} ≤ K ≤ −k_{1}^{2} < 0. Étant donné une partie fermée G de M, on dit que la projection est unique quand la distance de tout point du complémentaire G^{C} à G est réalisée par un unique point de G. La projection de G^{C} dans ∂G qui à un point x associe l’unique point y tel que d(x, y) = d(x, G) est notée π.

0138-4821/93 $ 2.50 \begin{matrix}c \\ ◯ \end{matrix} 2001 Heldermann Verlag

Définition 1.1. [6] Une partie G de M est dite faiblement convexe si la projection est unique, et si pour tout point x du complémentaire G^{C}, l’horoboule ouverte associée au rayon géodésique [π(x), x) n’intersecte pas le fermé G : la demi-géodésique [π(x), x) se projette sur le point π(x).

Le théorème de Motzkin en courbure négative bornée −k^{2} ≤ K ≤ 0 [6] assure pour une partie fermée G de la variété M, l’équivalence des trois propriétés : la différentiabilité de la distance à G (sur le complémentaire), l’unicité de la projection, et la faible convexité de G. De plus, si l’une de ces conditions est vérifiée, l’application distance à G est de classe C^{1} et la projection π est localement lipschitzienne. Des parties qui ne sont pas géodésiquement convexes, comme les horosphères par exemple, peuvent être faiblement convexes.

Le médiateur de deux points a et b de M est défini comme l’ensemble des points situés à égale distance de a et b [8]. Le médiateur de deux points à l’infini a et b passant par x ∈ M est défini comme l’ensemble des points y ∈ M tels que B_{x}(a, y) = B_{x}(b, y) où B_{x}(a, .) désigne une fonction de Busemann [10]. Étant donné un groupe discret Γ d’isométries de M, son domaine de Dirichlet D_{Γ}(x) autour du point x ∈ M est un fermé étoilé par rapport à x et bordé par des médiateurs :

D_{Γ}(x) = {y ∈ M | d(y, x) ≤ d(y, Γx)}.

Un tel ensemble est géodésiquement convexe quand M est un espace hyperbolique. Dans ce cas la finitude géométrique correspond à celle du nombre de faces [1]. La question de la faible convexité de ces parties de M en courbure variable [6] est aussi valable pour les courbes dont la courbure géodésique est strictement inférieure à k_{1} (ce sont des quasi-géodésiques si la norme uniforme de la courbure géodésique est strictement inférieure à k_{1} [5]). La réponse au dernier cas est oui (théorème 2.1), ce qui règle le sort des médiateurs et des domaines de Dirichlet ayant un nombre fini de faces en dimension deux quand la courbure est 1/4-pincée (théorème 2.2).

2. Convexes faibles

Comme la courbure de la variété M est négative, le théorème de Cartan-Hadamard [2, 4] assure que la variété est difféomorphe à l’espace R^{n} et que deux points distincts de M ∪ ∂M sont joints par une unique géodésique, où ∂M est le bord hyperbolique (ensemble des points à l’infini) de M [9]. Étant donnés deux points distincts x ∈ M et y ∈ M ∪ ∂M, on note v(x, y) le vecteur unitaire tangent à M en x, qui dirige la géodésique joignant x à y.

Théorème 2.1. Soit M une variété riemannienne complète connexe simplement connexe à courbure strictement négative pincée : −k_{0}^{2} ≤ K ≤ −k_{1}^{2} < 0. Soit c une courbe de classe C^{2} sur M, dont la courbure est en tout point strictement inférieure à k_{1} en valeur absolue. La courbe c est faiblement convexe.

Démonstration. Soit x un point du complémentaire de c. Supposons qu’il existe deux points distincts y et z de c vérifiant d(x, y) = d(x, z) = d(x, c). La sphère de centre x et de rayon d(x, c) est tangente à la courbe c aux points y et z. Soit w le point de la courbe c situé entre les points y et z à distance maximale de x. On peut supposer que la courbe c est située sur une hypersurface tangente intérieurement en w à l’hypersphère de centre x passant par w. Les valeurs propres de la seconde forme fondamentale de l’hypersurface en question sont minorées en valeur absolue par la plus petite valeur absolue des valeurs propres de la seconde forme fondamentale de l’hypersphère. La minoration de cette dernière par k_{1} coth k_{1}d(x, w) est obtenue en suivant pas-à-pas le même cheminement que dans la première partie de la démonstration de la proposition 2.1 avec la submersion H(p) = d(p, x) de M \ {x} dans R. Le théorème de Meusnier énoncé pour les surfaces dans R^{3} dans [12] est encore valable ici et assure que la valeur absolue de la courbure de c en w est nécessairement supérieure (ou égale) à la plus petite valeur absolue du spectre de la seconde forme fondamentale de l’hypersurface, donc à k_{1} coth k_{1}d(x, w), ce qui contredit l’hypothèse ; donc la projection du point x est unique. La courbe est donc faiblement convexe ([6], théorème 1.2). □

Remarque. Une courbe dont la norme uniforme de la courbure est majorée (au sens large) par k_{1} est encore faiblement convexe, grâce à cette démonstration ; mais ce n’est plus forcément une quasi-géodésique, suivant l’exemple des horocycles du plan hyperbolique ([11], cas du flot φ_{t}^{λ} pour λ^{2} = 1).

Théorème 2.2. Soit Σ une surface riemannienne complète connexe simplement connexe à courbure strictement négative 1/4-pincée : −k_{0}^{2} ≤ K ≤ −k_{1}^{2} < 0 avec k_{0} < 2k_{1}. Les médiateurs d’Im Hof, les médiateurs d’Otal et les domaines de Dirichlet de groupes discrets d’isométries de Σ ayant un nombre fini de faces sont tous faiblement convexes.

Démonstration. La faible convexité des courbes lisses en question (les médiateurs) résulte du théorème 2.1 et de la proposition 2.1. Ces courbes sont des quasi-géodésiques [8, 10]. Pour les polygones limités par un nombre fini de telles courbes, les demi-droites géodésiques orthogonales extérieurement aux arêtes en chaque sommet partagent le complémentaire du polygone en zones où la projection coïncide avec la projection sur l’arête la plus proche ou bien coïncide avec la projection sur le sommet le plus proche. La projection sur le polygone est donc unique. □

Proposition 2.1. Soit M une variété riemannienne complète connexe simplement connexe à courbure strictement négative 1/4-pincée : −k_{0}^{2} ≤ K ≤ −k_{1}^{2} < 0, avec k_{0} < 2k_{1}. Les médiateurs d’Im Hof et les médiateurs d’Otal possèdent en tout point une seconde forme fondamentale dont le spectre est strictement majoré en valeur absolue par k_{1}.

Démonstration. Soient (a, b) deux points distincts de M × M ou de ∂M × ∂M. Dans le deuxième cas on choisit un point x sur la géodésique (a, b). On définit les submersions de M ou M \ {a, b} sur R :

H(y) = d(y, a) − d(y, b) si (a, b) ∈ M × M

et

H(y) = B_{x}(a, y) − B_{x}(b, y) si (a, b) ∈ ∂M × ∂M.

Pour v ∈ T^{1}M on note

∏_{v}

la projection orthogonale de l’espace tangent à M sur l’orthogonal de v. Le champ de gradient de H au point y ∈ M vaut

∇H(y) = v(y, b) − v(y, a).

En choisissant la normale unitaire n à l’hypersurface N d’équation H = 0, telle que

∇H = ∥∇H∥ · n,

la seconde forme fondamentale en tout point de N vaut, pour ξ ∈ n^{⊥} :

II(ξ) = − ⟨∏_{n} D_{ξ}n, ξ⟩ = −\frac{1}{∥∇H∥} ⟨∏_{n} D_{ξ}∇H, ξ⟩ .

Soit α l’angle entre v(y, b) et v(y, a). On a :

∥∇H∥ = 2 sin \frac{α}{2}, et ⟨n, v(y, a)⟩ = ⟨n, v(y, b)⟩ = sin \frac{α}{2}.

Les théorèmes de comparaison des champs de Jacobi [2] entraînent, pour ξ ∈ v(y, a)^{⊥} (avec la convention coth +∞ = 1) :

k_{1}[coth k_{1}d(y, a)]∥ξ∥^{2} ≤ ⟨−D_{ξ}v(y, a), ξ⟩ ≤ k_{0}[coth k_{0}d(a, y)]∥ξ∥^{2},

donc pour ξ ∈ n^{⊥}, on a :

k_{1}[coth k_{1}d(y, a)] · ∥ξ∥^{2} sin^{2} \frac{α}{2} ≤ ⟨∏_{n} −D_{ξ}v(y, a), ξ⟩

≤ k_{0}[coth k_{0}d(a, y)] · ∥ξ∥^{2} sin^{2} \frac{α}{2} ;

il vient : [k_{1} coth k_{1}d(a, y) − k_{0} coth k_{0}d(y, b)] · ∥ξ∥^{2} sin^{2} \frac{α}{2} ≤ II(ξ)

≤ [k_{0} coth k_{0}d(a, y) − k_{1} coth k_{1}d(y, b)] · ∥ξ∥^{2} sin^{2} \frac{α}{2}.

Dans le cas (a, b) ∈ ∂M × ∂M, le spectre de la seconde forme fondamentale est majoré en valeur absolue par k_{0} − k_{1} qui est strictement inférieur à k_{1}. Pour avoir le même résultat pour (a, b) ∈ M × M, il suffit de démontrer que pour p ∈]1, 2[, l’application continue :

A : [0, +∞[ →  [0, +∞[
x > 0 ↦ p coth px − coth x
0  ↦  0

est à valeurs dans [0, 1[. Pour x > 0 on a

A′(x) = p^{2} − 1 − A(x)(p coth px + coth x) ≤ p^{2} − 1 − (p + 1)A(x).

Le lemme de Gronwall [3] assure pour x > 0 :

A′(x) ≤ p^{2} − 1 + ∫_{0}^{x}(p^{2} − 1)(−p − 1) exp (∫_{s}^{x} −(p + 1)) ds,

d’où, pour x ≥ 0 :

A(x) ≤ (p − 1) (1 − e^{−(p+1)x}) < p − 1 < 1.
□

Références bibliographiques

[1] Bowditch, B. H.: Geometrical finiteness for hyperbolic groups. J. Funct. Anal. 113(2) (1993), 245–317.

[2] Cheeger, J.; Ebin, D.: Comparison theorems in riemannian geometry. North-Holland 1975, 29–42.

[3] Dieudonné, J.: Calcul infinitésimal. Hermann 1980, 2.3.4 p. 362.

[4] Gallot, S.; Hulin, D.; Lafontaine, J.: Riemannian Geometry. Second edition, Universitext 138, Springer, Berlin 1987.

[5] Grognet, S.: Flots magnétiques en courbure négative. Ergodic Theory Dynam. Systems 19 (1999), 413–436.

[6] Grognet, S.: Théorème de Motzkin en courbure négative. Geom. Dedicata 79 (2000), 219–227.

[7] Hiriart-Urruty, J.-B.: Ensembles de Tchebychev vs ensembles convexes: l’état de la situation vu via l’analyse convexe non lisse. Ann. Sci. Math. Québec 22(1) (1998), 47– 62.

[8] Im Hof, H.-C.: The family of horospheres through two points. Math. Ann. 240 (1979), 1–11.

[9] Klingenberg, W.: Riemannian geometry. De Gruyter, Berlin - New York 1982, 350–369.

[10] Otal, J.-P.: Sur la géométrie symplectique de l’espace des géodésiques d’une variété à courbure négative. Rev. Mat. Iberoamericana 8(3) (1992), 441–456.

[11] Paternain, G.; Paternain, M.: Anosov geodesic flows and twisted symplectic structures. International Congress on Dynamical Systems in Montevideo (a tribute to Ricardo Mañé), F. Ledrappier, J. Lewowicz, S. Newhouse eds, Pitman Research Notes in Math. 362 (1996), 132–145.

[12] Spivak, M.: A comprehensive introduction to differential geometry. Volume II, second edition, Publish or Perish, Houston 1979, 70–73.

[13] Walter, R.: Some analytical properties of geodesically convex sets. Abh. Math. Sem. Univ. Hamburg 4 (1976), 263–282.

[14] Walter, R.: Konvexität in riemannschen Mannigfaltigkeiten. Jahresber. Deutsche Math.- Verein. 83 (1981), 1–31.

Received February 2, 2000; revised version May 5, 2000; revised again September 20, 2000