Seminar Sophus Lie 1 (1991) 153–162

Quelques applications de la convexité à l’étude des fonctions sphériques sur un espace symétrique

Jacques Faraut

Les principales propriétés des fonctions sphériques se déduisent de leurs représentations intégrales. En particulier pour étudier le comportement asymptotique des fonctions sphériques on utilise le théorème de convergence dominée de Lebesgue et pour cela il faut être capable de majorer l’intégrant par une fonction intégrable fixe. Ce sont les propriétés de convexité de la N -projection qui permettent ces majorations. Le théorème de convexité de Kostant concerne les espaces riemanniens symétriques. Un analogue a été démontré récemment par K. Neeb pour les espaces symétriques ordonnés (cf l’exposé de K. Neeb dans ce volume).

Dans la première partie nous rappelons quelques propriétés des fonctions sphériques d’un espace riemannien symétrique. La deuxième partie concerne les espaces symétriques ordonnés. Les résultats qui y sont présentés font partie d’un travail en collaboration avec J. Hilgert et G. Olafsson, actuellement en préparation [2].

Fonctions sphériques sur un espace riemannien symétrique

Soit M = G/K un espace riemannien symétrique de type non compact. Le groupe de Lie G est semi-simple et connexe, K est un sous-groupe compact maximal constitué des points fixes d’une involution de Cartan θ de G. On note 𝔤 et 𝔨 les algèbres de Lie de G et K, et on pose

𝔭 = {X ∈ 𝔤 | θ(X) = −X}.

Soit 𝔞 un sous-espace de Cartan de 𝔭, c’est à dire un sous-espace abélien maximal. On choisit un système positif Δ^{+} dans le système Δ(𝔤, 𝔞) des racines restreintes, et on pose

𝔫 = ∑_{α∈Δ^{+}} 𝔤^{α}, N = exp 𝔫, A = exp 𝔞.

La décomposition d’Iwasawa peut s’écrire G = NAK. L’application

(n, Y) ↦ n exp(Y).x_{0}, x_{0} = eK,

définit un difféomorphisme de N × 𝔞 sur M. Si x = n exp(Y).x_{0} on pose

Y = A(x).

L’application x ↦ A(x), de M dans 𝔞 est appelée la N -projection. Pour g dans G on notera aussi A(g) = A(gx_{0}).

Le théorème de convexité de Kostant ([3], Chapter IV, Theorem 10.6, p. 476) nous dit que la N -projection de la K -orbite Kax_{0} du point ax_{0} (a ∈ A) est égale à l’enveloppe convexe C(log a) de W. log a, W désignant le groupe de Weyl.

{A(ka) | k ∈ K} = C(log a).

Les propriétés suivantes de la N -projection se déduisent facilement du corollaire 6.6, chapitre IV, p. 439 de [3]. Pour a dans A^{+} et n̄ dans N̄ = θ(N),

A(n̄) ∈ −^{+}\overline{𝔞}, (I.1) A(an̄a^{−1}) − A(n̄) ∈^{+} \overline{𝔞}, (I.2)

où ^{+}𝔞 est le cône ouvert dual de la chambre de Weyl positive 𝔞^{+} ,

𝔞^{+} = {X ∈ 𝔞 | ∀α ∈ Δ^{+}, α(X) > 0}.

Les fonctions sphériques φ_{λ} de l’espace symétrique M = G/K sont définies par l’intégrale suivante

φ_{λ}(x) = ∫_{K} e^{(iλ+ρ)(A(kx))}dk,

pour x dans M ou dans G, où ρ désigne la demi-somme des racines positives,

ρ = \frac{1}{2} ∑_{α∈Δ^{+}} m_{α}α.

Si x = a ∈ A, on peut transformer cette intégrale en une intégrale sur N̄,

φ_{λ}(a) = e^{(iλ−ρ)(log a)} ∫N̄ e^{(ρ−iλ)(A(an̄a^{−1}))}e^{(ρ+iλ)(A(n̄))}dn̄,

la mesure de Haar de N̄ étant normalisée de telle sorte que

∫N̄ e^{2ρ(A(n̄))}dn̄ = 1.

Cette représentation intégrale permet de déterminer le comportement asymptotique de φ_{λ} ([3], Chapter IV, Theorem 6.14, p. 447).

I.1. Théorème. Pour X dans 𝔞^{+} et si ℜ(iλ) ∈ 𝔞_{+}^{∗},

φ_{λ}(exp tX) ∼ c(λ)e^{(iλ−ρ)(tX)}, t → ∞,

où

c(λ) = ∫N̄ e^{(iλ+ρ)(A(n̄))}dn̄.

Démonstration. On montre que la fonction

n̄ ↦ e^{(iλ+ρ)(A(n̄))}

est intégrable si ℜ(iλ) ∈ 𝔞_{+}^{∗}, et que son intégrale c(λ) n’est pas nulle. D’autre part, si a_{t} = exp(tX),

lim_{t→∞} A(a_{t}n̄a_{−t}) = 0.

Pour démontrer le théorème il suffit de montrer qu’on peut appliquer le théorème de convergence dominée de Lebesgue. C’est là qu’interviennent les propriétés de convexité de la N -projection. Posons μ = ℜ(iλ). On peut trouver ε, 0 < ε < 1, tel que

ρ − εμ ∈ 𝔞_{+}^{∗},

On déduit alors des propriétés (I.1) et (II.2) que

\begin{aligned}(μ − ρ)(A(an̄a^{−1})) & ≥ (1 − ε)μ(A(an̄a^{−1})) \\ & ≥ (1 − ε)μ(A(n̄)). \end{aligned}

Par suite

|e^{(ρ−iλ)(A(an̄a^{−1}))}e^{(ρ+iλ)(A(n̄))}| ≤ e^{(εμ+ρ)(A(n̄))},

et cette dernière fonction est intégrable sur N̄.

Pour a dans A on note μ_{a} la mesure définie sur 𝔞 par

∫_{𝔞} f(X)dμ_{a}(X) = ∫_{K} f(A(ka))dk,

c’est à dire que μ_{a} est l’image par l’application k ↦ A(ka) de la mesure de Haar de K. C’est une mesure positive de masse totale égale à 1. D’après le théorème de convexité de Kostant son support est égal à C(log a). Nous pouvons écrire

φ_{λ}(a) = ∫_{𝔞} e^{iλ(X)}e^{ρ(X)}dμ_{a}(X).

Puisque φ_{wλ} = φ_{λ}, pour w dans W, la mesure e^{ρ}dμ_{a} est invariante par W.

Proposition I.2. Si λ appartient au tube 𝔞^{∗} + iC(ρ) de 𝔞_{ℭ}^{∗}, alors

|φ_{λ}(g)| ≤ 1.

Réciproquement Helgason et Johnson ont montré que si φ_{λ} est bornée, alors λ appartient au tube 𝔞^{∗} + iC(ρ) ([3], Chapter IV, Theorem 8.1, p. 458).

Démonstration. On remarque d’abord que φ_{iρ} ≡ 1, et aussi que φ_{−iρ} ≡ 1, puisque φ_{−λ}(g) = φ_{λ}(g^{−1}). Il en résulte que, pour w dans W, φ_{iwρ} ≡ 1.

D’autre part l’application

μ ↦ φ_{iμ}(a) = ∫_{𝔞} e^{−μ(X)}e^{ρ(X)}dμ_{a}(X)

est convexe. Si μ ∈ C(ρ),

μ = ∑_{w∈W} α_{w}wρ,

avec des nombres α_{w} ≥ 0, vérifiant

∑_{w∈W} α_{w} = 1,

et

φ_{iμ}(a) ≤ ∑_{w∈W} α_{w}φ_{iwρ}(a) = 1.

Ceci démontre la proposition puisque, pour λ, μ dans 𝔞^{∗},

|φ_{λ+iμ}(g)| ≤ φ_{iμ}(g).

II. Fonctions sphériques sur un espace symétrique ordonné

Considérons maintenant un espace symétrique non riemannien M = G/H de type régulier (voir [4], II). Le groupe de Lie G est semi-simple et connexe, la paire (G, H) est symétrique, c’est à dire qu’il existe une involution σ de G telle que

(G_{σ})^{0} ⊂ H ⊂ G_{σ},

où G_{σ} = {g ∈ G | σ(g) = g}, et où (G_{σ})^{0} est la composante connexe de l’élément neutre dans G_{σ}. On note 𝔥 l’algèbre de Lie de H et on pose

𝔮 = {X ∈ 𝔤 | σ(X) = −X}.

Il existe une involution de Cartan θ qui commute avec σ. Lui sont associés K, 𝔨 et 𝔭 comme dans la première partie. Dire que l’espace symétrique M = G/H est de type régulier signifie qu’il existe dans 𝔭 ∩ 𝔮 un vecteur non nul X_{0} invariant par K ∩ H. Dans ces conditions il existe un sous-espace de Cartan 𝔞 de 𝔭 qui est contenu dans 𝔭 ∩ 𝔮. De plus on peut supposer que X_{0} ∈ 𝔞 et que les valeurs propres de ad(X_{0}) sont −1, 0, 1. On note

𝔤 = 𝔤_{−1} + 𝔤_{0} + 𝔤_{1}

la décomposition de 𝔤 en sous-espaces propres de ad(X_{0}), et 𝔤_{0} est l’algèbre de Lie de G_{0} = Z_{G}(X_{0}). Dans le système de racines Δ_{0} = Δ(𝔤_{0}, 𝔞) on choisit un système positif Δ_{0}^{+} et on pose

Δ^{+} = Δ_{0}^{+} ∪ Δ_{1},

avec

Δ_{1} = {α ∈ Δ(𝔤, 𝔞) | 𝔤^{α} ⊂ 𝔤_{1}}.

Nous considérons dans 𝔞 les deux cônes suivants

C_{max} = {X ∈ 𝔞 | ∀α ∈ Δ_{1}, α(X) ≤ 0},
C_{min} = C_{max}^{∗},

et dans 𝔭 le cône convexe fermé C qui est H -invariant et tel que

C ∩ 𝔞 = C_{max}.

A ce cône est associé le semi-groupe S = exp(C)H, et ce semi-groupe définit sur M = G/H un ordre partiel invariant,

x = g_{1}x_{0} ≥ y = g_{2}x_{0} si g_{2}^{−1}g_{1} ∈ S (x_{0} = eH).

Nous définissons 𝔫, N et ρ comme dans la section 1, et de plus

𝔫_{0} = ∑_{α∈Δ_{0}^{+}} 𝔤^{α} = 𝔫 ∩ 𝔤_{0}, N_{0} = exp 𝔫_{0} = N ∩ G_{0}, ρ_{0} = \frac{1}{2} ∑_{α∈Δ_{0}^{+}} m_{α}α,

𝔫_{1} = ∑_{α∈Δ_{1}} 𝔤^{α} = 𝔤_{1}, N_{1} = exp 𝔫_{1}, ρ_{1} = \frac{1}{2} ∑_{α∈Δ_{1}} m_{α}α.

Alors N_{0} et N_{1} sont des sous-groupes de N, N_{1} est abélien, N_{0} normalise N_{1} et N = N_{0}N_{1} est un produit semi-direct. De plus G_{0} normalise N_{1} .

Au niveau de l’algèbre de Lie la décomposition

𝔤 = 𝔫 + 𝔞 + 𝔥,

est une somme directe, mais l’ensemble NAH n’est pas égal à G, c’est seulement un ouvert de G. L’application

(n, Y) ↦ n exp(Y).x_{0}

est un difféomorphisme de N × A sur l’ouvert NA.x_{0} . Pour x dans cet ouvert, x = n exp(Y).x_{0} , on pose

A(x) = Y.

Si a ∈ S ∩A = exp(C_{max}), l’orbite Ha.x_{0} est contenue dans NA.x_{0} , ([4],Lemma 8) et le théorème de convexité de K. Neeb ([4], Theorem 9, [5], Theorem IV.14) se traduit par, si a ≠ e,

{A(ha) | h ∈ H} = C(log a) + C_{min}.

De ce théorème on déduit les propriétés suivantes : pour n̄ ∈ N̄ ∩ NAH, a ∈ exp(C_{max}),

A(a^{−1}n̄a) − A(n̄) ∈ C_{min}, (II.1) A(n̄) ∈ −C_{min}. (II.2)

On montre que

N̄ ∩ NAH = N̄_{0}.Ω, Ω = exp D,

où D est un ouvert borné de \overline{𝔫}_{1} .

Exemple. Soient G = SL(n, 𝔽) (𝔽 = ℝ ou ℂ, H = SO(p, q) si 𝔽 = ℝ et H = SU(p, q) si 𝔽 = ℂ, p + q = n, p, q ≥ 1. L’involution σ de 𝔤 = M(n, 𝔽) est définie par

σ(X) = −I_{pq}X^{∗}I_{pq}, I_{pq} = ( \begin{matrix}I_{p} & 0 \\ 0 & −I_{q} \end{matrix} ) .

L’élément X_{0} est le suivant

X_{0} = ( \begin{matrix}αI_{p} & 0 \\ 0 & −βI_{q} \end{matrix} ) , α = \frac{q}{n}, β = \frac{p}{n}.

Nous avons 𝔤_{0} = sℓ(p, 𝔽) ⊕ sℓ(q, 𝔽) ⊕ 𝔽,

𝔤_{1} = 𝔫_{1} = \{( \begin{matrix}0 & x \\ 0 & 0 \end{matrix} ) | x ∈ M(p, q; 𝔽)\},

𝔤_{−1} = 𝔫_{−1} = \{( \begin{matrix}0 & 0 \\ y & 0 \end{matrix} ) | y ∈ M(q, p; 𝔽)\}.

Le sous-espace de Cartan 𝔞 est constitué des matrices diagonales réelles de trace nulle, et

C_{max} = {X = diag(t) | ∀i, j, 1 ≤ i ≤ p, p + 1 ≤ j ≤ n, t_{i} + t_{j} ≤ 0},
C_{min} = {X = diag(t) | ∀i, 1 ≤ i ≤ n, t_{i} ≤ 0}.

Le sous-espace 𝔮 est constitué des matrices X telles que I_{pq}X soit symétrique (resp. hermitienne), et le cône C est constitué des matrices X de 𝔮 telles que

ξ^{∗}I_{pq}Xξ ≤ 0,

pour tout vecteur ξ de 𝔽^{n} tel que ξ^{∗}I_{pq}ξ = 0.

Le domaine D est constitué des matrices

( \begin{matrix}0 & 0 \\ y & 0 \end{matrix} ) , y ∈ M(q, p; 𝔽),

telles que I_{p} − y^{∗}y soit définie positive.

Les fonctions sphériques de l’espace symétrique ordonné X = G/H sont définies par

φ_{λ}(x) = ∫_{H} e^{(ρ−λ)(A(hx))}dh.

Pour étudier la convergence de cette intégrale et le comportement asymptotique de la fonction φ_{λ} nous allons transformer cette intégrale en une intégrale sur N̄.

Pour n̄ ∈ N̄ ∩ NAH, on écrit n̄ = n exp A(n̄)u(n̄), et l’application

n̄ ↦ u(n̄)Z_{H}(A)

est un difféomorphisme de N̄ ∩ NAH sur H/Z_{H}(A). La fonction φ_{λ}(a) s’écrit

φ_{λ}(a) = e^{(ρ−λ)(log a)} ∫_{N̄∩NAH} e^{(ρ−λ)(A(a^{−1}n̄a))}e^{(ρ+λ)(A(n̄))}dn̄.

Avant de déterminer à quelle condition cette intégrale converge, considérons d’abord l’intégrale suivante

c_{Ω}(λ) = ∫_{Ω} e^{(ρ+λ)(A(n̄))}dn̄_{1}.

Proposition II.1. L’intégrale définissant c_{Ω}(λ) converge si

ℜλ + ρ ∈ C_{max}.

Démonstration. Puisque Ω est borné, il suffit de montrer que l’intégrant est borné. Or, d’après (II.2), A(n̄) ∈ −C_{min} , donc

ℜ(ρ + λ)(A(n̄)) ≤ 0,

et

|e^{(ρ+λ)(A(n̄))}| ≤ 1.

Nous ne connaissons pas actuellement le domaine de convergence exact. Pour certains exemples nous pouvons montrer qu’il est en fait strictement plus grand que

{λ | ℜλ + ρ ∈ C_{max}}.

II.2. Lemme. Soit Q un compact contenu dans Ω, et soit ν ∈ 𝔞_{ℂ}^{∗}. Il existe une constante M(Q, ν) telle que

|e^{ν(A(n̄_{0}n̄_{1}))}| ≤ M(Q, ν)|e^{ν(A(n̄_{0}))}|,

pour tout n̄_{0} de N̄_{0} et tout n̄_{1} de Q.

Démonstration. On utilise la décomposition d’Iwasawa G_{0} = N_{0}AK_{0} du groupe G_{0} , K_{0} = K ∩ G_{0} ,

n̄_{0} = n_{0} exp A(n̄_{0})u_{0}(n̄_{0}),

avec n_{0} ∈ N_{0} , u(n̄_{0}) ∈ K_{0} . Alors

\begin{aligned}n̄_{0}n̄_{1} & = n_{0} exp A(n̄_{0})u_{0}(n̄_{0})n̄_{1}, \\ A(n̄_{0}n̄_{1}) & = A(n̄_{0}) + A(u(n̄_{0})n̄_{1}), \end{aligned}

et u(n̄_{0})n̄_{1} varie dans le compact K_{0}Q quand n̄_{0} varie dans N̄_{0} et n̄_{1} dans Q. Ce compact étant contenu dans Ω on peut poser

M(Q, ν) = sup_{n̄_{1}∈K_{0}Q} |e^{ν(A(n̄_{1}))}|.

II.3. Théorème. Si a appartient à l’intérieur de S ∩ A, et si ℜλ + ρ ∈ C_{max} , l’intégrale définissant la fonction sphérique φ_{λ}(a) est absolument convergente.

Démonstration. Si a appartient à l’intérieur de S ∩ A, alors Ω_{a} = a^{−1}Ωa est relativement compact dans Ω. Posons μ = ℜλ. De la relation

A(n̄_{0}n̄_{1}) = A(n̄_{0}) + A(u(n̄_{0})n̄_{1}),

on déduit que

∫_{Ω} e^{(λ+ρ)(A(n̄_{0}n̄_{1}))}dn̄_{1} = e^{(λ+ρ)(A(n̄_{0}))}c_{Ω}(λ).

En utilisant le lemme II.2 nous obtenons

\begin{matrix}∫_{N̄∩NAH} |e^{(ρ−λ)(A(a^{−1}n̄a))}e^{(ρ+λ)(A(n̄))}|dn̄ \\ ≤ M(\overline{Ω_{a}}, ρ − μ)c_{Ω}(μ) ∫N̄_{0} e^{(ρ−μ)(A(a^{−1}n̄_{0}a)}e^{(ρ+μ)(A(n̄_{0}))}dn̄_{0}. \end{matrix}

La valeur de cette dernière intégrale est précisément la fonction sphérique

φ_{−iμ}^{0}(a^{−1}) = φ_{iμ}^{0}(a)

de l’espace riemannien symétrique G_{0}/K_{0} , car, pour n̄_{0} dans N̄_{0} ,

ρ(A(n̄_{0})) = ρ_{0}(A(n̄_{0})).

II.4. Théorème. Supposons que ℜλ ∈ 𝔞_{+}^{∗} et que ℜλ + ρ ∈ C_{max} . Pour X dans −𝔞^{+} ,

lim_{t→∞} e^{(λ−ρ)(exp tX)}φ_{λ}(exp tX) = c_{0}(λ)c_{Ω}(λ).

Démonstration. Posons a_{t} = exp tX. Puisque, pour n̄ ∈ N̄,

lim_{t→∞} A(a_{−t}n̄a_{t}) = 0,

il suffit de montrer qu’on peut appliquer le théorème de convergence dominée de Lebesgue. Pour t_{0} > 0 l’ensemble

ω = ⋃_{t≥t_{0}} a_{−t}Ωa_{t}

est relativement compact dans Ω. D’après le Lemme II.2, pour μ = ℜλ, n̄ = n̄_{0}n̄_{1} ,

\begin{matrix}|e^{(ρ−λ)(A(a_{−t}n̄a_{t}))}| \\ ≤ M(ω̄, ρ − μ)e^{(ρ−λ)(A(a_{−t}n̄_{0}a_{t}))}. \end{matrix}

La démonstration se poursuit comme celle du théorème I.1. On peut trouver ε, 0 < ε < 1, tel que

ρ_{0} − εμ ∈ 𝔞_{+}^{∗},

et alors

\begin{matrix}|e^{(ρ−λ)(A(a_{−t}n̄a_{t}))}e^{(ρ+λ)(A(n̄))}| \\ ≤ M(ω̄, ρ − μ)e^{(εμ+ρ_{0})(A(n̄_{0}))}e^{(μ+ρ)(A(u(n̄_{0})n̄_{1})}, \end{matrix}

qui est une fonction intégrable sur N̄_{0} × Ω.

Remarquons que dans les théorèmes II.3 et II.4 on peut remplacer la condition ℜλ + ρ ∈ C_{max} par la condition

∫_{Ω} |e^{(λ+ρ)(A(n̄_{1}))}|dn_{1} < ∞.

Dans certains cas il est possible de vérifier que ces conditions sont différentes. En particulier lorsque G = SL(2, ℝ), H = SO(1, 1), la représentation intégrale de la fonction sphérique s’écrit, si a_{t} = exp(−tX_{0}) (t > 0), λ = −sρ (s ∈ ℂ),

φ_{λ}(a_{t}) = ∫_{−∞}^{∞}(ch^{2} θe^{t} − sh^{2} θe^{−t})^{− \frac{s+1}{2}} dθ.

Cette intégrale converge si ℜs > −1. Or la condition ℜλ + ρ ∈ C_{max} signifie que ℜs > 1.

C’est aussi le cas pour les espaces G/H avec G = SL(n, ℂ) et H = Su(p, q) pour lesquels il est possible de calculer explicitement l’intégrale définissant les fonctions sphériques [1].

References

[1] Faraut, J., Algèbres de Volterra et transformation de Laplace sphérique sur certains espaces symétriques ordonnés, Symposia mathematica 29 (1987), 183–196.

[2] Faraut J., J. Hilgert, and G. Olafsson, “Harmonic analysis on ordered symmetric spaces”, en préparation.

[3]  Helgason S., “Groups and geometric analysis”, Academic Press, 1984.
[4]  Neeb K. H., Convexity theorems in harmonic analysis, dans ce volume.

[5] —, A convexity theorem for semi-simple symmetric spaces, Preprint TH Darmstadt, 1991.

[6]  Olafsson G., “Causal symmetric spaces”, Math. Gotting. 15 (1990).

Analyse Complexe et Géométrie Département de Mathématiques Université Pierre et Marie Curie 4, place Jussieu, F-75252 Paris cedex 05, France

Received October 16, 1991