Formules de Représentation Intégrale

pour les Domaines de Cartan

Atallah Affane

Received: May 31, 1999

Communicated by Joachim Cuntz

Abstract. For a bounded, symmetric and circled domain D in C^{n}, considered as the unit ball of some Jordan triple system V, we give Koppelman-Leray and Cauchy-Leray formulas. These formulas supply us integral operators for solving the equation \overline{∂}u = f when f is a closed (0, q) form with coefficients in C^{0}(\overline{D}). These operators, constructed by the help of the generic norm of V, are invariant by some Lie subgroup in the group of biholomorphic transformations of D and the solutions obtained satisfy an estimation of growth at the boundary.

2000 Mathematics Subject Classification: 32M15, 32F20.

Keywords and Phrases: \overline{∂}-problem, bounded symmetric domains.

1. introduction.

Nous appellerons domaine de Cartan tout ouvert borné D de C^{n} qui soit

• symétrique, c’est à dire que pour tout z de D, il existe une transformation biholomorphe involutive φ ∈ Aut(D) dont z est un point fixe isolé.

• cerclé, c’est à dire qu’il contient l’origine et qu’il est stable par les trans-

formations du type z ⟶ e^{it}z, t ∈ R. Un domaine de Cartan est dit irréductible s’il n’est pas produit de deux autres domaines. La classification de tels domaines fournit quatre classes dénombrables et deux domaines exceptionnels, le premier dans C^{16}, le second dans C^{27}. Pour la classe des boules de Lie et le premier domaine exceptionnel, des formules de représentation intégrale ont été établies par Roos [7]. Plus tard, Hachaichi [2] a donné, pour la classe du disque généralisé, une formule permettant de résoudre le \overline{∂}-problème avec une estimation de croissance au bord. Dans ce travail, nous mettons à profit une approche algébrique, approche développée dans [5] et qui consiste à considérer un domaine de Cartan D comme la boule unité d’un système triple de Jordan V (associé canoniquement) pour obtenir deux formules générales, la première du type Koppelman-Leray, la seconde du type Cauchy-Leray. Ces formules, construites à l’aide de la norme générique de V, fournissent des opérateurs de résolution f ⟶ T f du \overline{∂}-problème avec une donnée dans C^{0}(\overline{D}) et vérifiant des estimations de la forme:

sup_{z∈D} | T f(z)d(z, ∂D)^{N} |≤ C sup_{z∈D} | f(z) |

où d est la distance usuelle et N un entier positif fonction de la dimension, du rang et du genre de V. Il s’avère que T est invariant par un certain sous groupe de Lie H du groupe des automorphismes de V, c’est à dire:

T (h^{∗}f) = h^{∗}(T f) ∀h ∈ H.

Lorsque D est irréductible, H n’est autre que le stabilisateur de l’ origine dans Aut(D). Dans la seconde section, nous rappellons certains éléments de la théorie des systèmes triples de Jordan qui permettent d’une part de prouver que les domaines de Cartan sont à pseudo-bord, de l’autre de construire de manière naturelle des sections de Leray. Dans les sections suivantes, nous donnons les formules annoncées et comme tous les éléments intervenant dans leur élaboration sont invariants par le stabilisateur de l’origine dans Aut(D), l’invariance des opérateurs de résolution sera assurée.

2. Les domaines de Cartan et les systèmes triples de Jordan.

La référence pour toutes les notions introduites dans cette section est [4], [5] et [6]. Nous appellerons système triple de Jordan (en abrégé ST J) un espace vectoriel V de dimension finie sur C muni d’ un triple produit

\begin{matrix}V & × & V & × & V & ⟶ & & & V \\ x & & y & & z & ⟶ & \{ & x & y & z & \} \end{matrix}

C-bilinéaire et symétrique en (x, y), C-antilinéaire en z et vérifiant l’identité

{xy{uvz}} − {uv{xyz}} = {x{yuv}z} − {{uvx}yz}.

Dans la suite, nous utiliserons les notations suivantes:

\{xyz\} = D(x, y)z = Q(x, z)y ; Q(x) = \frac{1}{2}Q(x, x)

B(x, y) = 1 − D(x, y) + Q(x)Q(y)

et nous désignerons par Aut(V) le groupe des isomorphismes h de V tels que:

h({xyz}) = {h(x)h(y)h(z)} ∀x, y, z ∈ V.

Représentation Intégrale pour les Domaines de Cartan 3

Un sous-système de V est un sous espace-vectoriel W tel que {W W W } ⊆ W. Un idéal est un sous-espace vectoriel I tel que {IV V } + {V IV } ⊆ I et nous dirons que V est simple s’il ne possède pas d’idéal propre, semi simple s’il est somme d’idéaux simples. Un ST J est dit hermitien positif (en abrégé ST JHP) si la forme hermitienne ⟨u | v⟩ = trD(u, v) est définie positive. En fait, tout ST JHP est semi-simple. Pour tout ce qui suit, V désigne un ST JHP de dimension n et ⟨. | .⟩ son produit hermitien. Un élément e de V est dit tripotent si Q(e)e = e. Lorsque deux tripotents e et e′ vérifient l’une des propriétés équivalentes suivantes:

D(e, e′) = 0 ; D(e′, e) = 0 ; {eee′} = 0 ; {e′e′e} = 0

nous dirons qu’ils sont fortement orthogonaux. A tout tripotent e correspond une décomposition de V dite de Pierce. De fait, D(e, e) est un endomorphisme de V auto-adjoint pour la forme hermitienne ⟨. | .⟩ et ne peut admettre comme valeurs propres que 0, 1 et 2. D’où la décomposition orthogonale

V = V_{0} ⊕ V_{1} ⊕ V_{2}

V_{i}(e) étant le sous espace propre associé à la valeur propre i. Chacun des V_{i}(e) est un sous système de V et on a la formule:

{V_{0}V_{2}V } = {V_{2}V_{0}V } = 0. (1)

Un tripotent e ≠ 0 est dit minimal si V_{2}(e) = Ce. Un repère est une famille maximale {e_{i}}_{i=1,...,r} de tripotents minimaux fortement orthogonaux deux à deux. Comme deux repères sont conjugués par Aut(V), tous les repères ont même cardinal que nous appellerons rang de V et noterons r. La hauteur d’un tripotent e sera par définition le rang du sous système V_{2}(e) qui est aussi le nombre d’éléments d’une décomposition de e en somme de tripotents minimaux fortement orthogonaux deux à deux. Voici maintenant trois résultats de la théorie des ST J qui nous serons utiles.

Théorème 2.1. Un élément x de V s’écrit de manière unique

x = λ^{1}e_{1} + ... + λ^{s}e_{s}

où {e_{i}}_{i=1,...,s} est une famille de tripotents fortement orthogonaux deux à deux et 0 ≤ λ^{1} < ⋯ < λ^{s} des nombres réels. Cette écriture s’appelle décomposition spectrale de x. De plus, la fonction x ⟶| x |= λ^{s} est une norme que nous appellerons norme spectrale de V. La distance associée sera appellée distance spectrale et notée δ.

Théorème 2.2. i) La boule unité pour la norme spectrale d’un ST JHP est un domaine de Cartan, irréductible si et seulement si V est simple. ii) Un domaine de Cartan est de manière canonique la boule unité d’un ST JHP V. De plus, V est simple si et seulement si D est irréductible. Le stabilisateur de l’origine dans Aut(D) est alors exactement Aut(V).

Pour tout tripotent e le sous-système V_{0}(e) est un ST JHP et nous noterons D_{e} sa boule unité ouverte pour la norme spectrale. Comme conséquence de l’unicité de la décomposition spectrale, les sous ensembles e + D_{e} sont disjoints deux à deux.

Théorème 2.3. Soit pour j = 1, ..., r M_{j} l’ensemble des tripotents de hauteur j, D_{j} = {e + y; e ∈ M_{j} et y ∈ D_{e}}, p_{j} : D_{j} ⟶ M_{j} l’application qui à x ∈ D_{j} associe l’unique e ∈ M_{j} tel que x ∈ D_{e}. Alors -Les M_{j} et les D_{j} sont des sous variétés analytiques réelles localement fermées de V et les p_{j} : D_{j} ⟶ M_{j} sont des fibrés analytiques localement triviaux. Les M_{j} sont compacts. La frontière ∂D est la réunion des D_{j.} -La codimension de D_{j} est la dimension complexe de V_{2}(e), e étant un point quelconque de M_{j}. -M_{r} est la frontière de Shilov de D. -Aut(V) est un groupe de Lie compact opérant sur chaque D_{j}.

Lemme 2.1. Posons D^{j} = D_{j} ∪ ... ∪ D_{r} pour j = 1, ..., r. Alors D_{j} est un ouvert dense de D^{j}.

Preuve:

i) Montrons que D^{j+1} est fermé dans D^{j}. Soit s > j et {x_{l}}_{l≥1} une suite dans D_{s} convergente vers x ∈ D^{j}. Puisque M_{s} est compact, nous pouvons supposer que x_{l} = y_{l} + e_{l} où les e_{l} convergent vers e dans M_{s}, y_{l} ∈ V_{0}(e_{l}) et | y_{l} |< 1. A la limite, il vient x = y + e avec y ∈ V_{0}(e) et | y |≤ 1. Si | y |< 1, alors x ∈ D_{s}. Sinon, le théorème 2.1 appliqué à y comme élément du sous-système V_{0}(e) donne y = λ^{1}ε_{1} + ... + λ^{t}ε_{t} + ε_{t+1}. Puisque ε_{t+1} ∈ V_{0}(e), on vérifie à l’aide de la formule (1) que e+ ε_{t+1} est un tripotent et que V_{2}(e) ⊆ V_{2}(e+ ε_{t+1}); alors x ∈ D_{τ} , τ ≥ s étant la hauteur de e+ ε_{t+1}. Ainsi, D_{j} est ouvert dans D^{j}. ii) Soit s > j, x ∈ D_{s} et λ^{1}ε_{1} + ⋯ + λ^{t}ε_{t} + ε_{t+1} sa décomposition spectrale; comme la hauteur de ε_{t+1}est aussi sa hauteur dans le sous-système V_{2}(ε_{t+1}), il possède une décomposition ε_{t+1} = σ_{1} + ⋯ + σ_{s} en tripotents minimaux fortement orthogonaux deux à deux choisis dans V_{2}(ε_{t+1}). D’autre part, la formule (1) entraine que les ε_{i} et les σ_{j} sont fortement orthogonaux deux à deux pour 1 ≤ i ≤ t et 1 ≤ j ≤ s. Soit x_{l} = λ^{1}ε_{1}+⋯+λ^{t}ε_{t}+α_{l}(σ_{j+1}+⋯+σ_{s})+σ_{1}+⋯+ σ_{j} où 0 < α_{l} < et lim α_{l} = 1. Par construction, x_{l} ∈ D_{j} et lim x_{l} = x. Ceci prouve que D^{j} ⊆ \overline{D}_{j}. Ce lemme et le théorème 2.3 assurent que D est à pseudo-bord au sens de [8] et que la formule de Stokes y est donc valable.

Dans tout ce qui suit, V sera identifié à C^{n} par le choix d’une base orthonormale pour le produit hermitien ⟨. | .⟩ . Alors detB(x, y) est un polynome holomorphe en x, antiholomorphe en y et relié au noyau de Bergman k(x, y) de D par la formule: det B(x, y) = (volD)^{−1}k(x, y)^{−1} ∀x ∈ D, ∀y ∈ D. (2)

Rappellons aussi la formule de transformation:

k(x, y) = Jφ(x)k(φ(x), φ(y))\overline{J}φ(y) ∀φ ∈ Aut(D) (3)

(Ici Jφ désigne le jacobien de φ et \overline{J}φ son conjugué).

Une propriété particulière des domaines de Cartan est que:

k(0, z) = k(z, 0) = k(0, 0) ∀z ∈ D.

Par ailleurs, lorsque V est simple, il existe un entier positif g et un polynome irréductible N(x, y) tel que:

N(0, 0) = 1 et det B(x, y) = N(x, y)^{g}.

N(x, y) s’appelle la norme générique et g le genre. Par construction, N(x, y) est holomorphe en x, antiholomorphe en y et vérifie:

N(x, y) = \overline{N(y, x)} et N(x, 0) = N(0, x) = 1 (4)

Si V = V_{1} ⊕ ... ⊕ V_{m} où chaque V_{i} est un idéal simple de norme générique N_{i}(x_{i}, y_{i}), nous poserons:

N((x_{1}, ..., x_{m}), (y_{1}, ..., y_{m})) = Π_{1≤i≤m}N_{i}(x_{i}, y_{i}),

L(x, y) = N(x, y)N(y, x) − N(x, x)N(y, y).

Nous introduisons aussi le groupe de Lie:

Aut′(V) = {h = (h_{1}, ..., h_{m}); h_{i} ∈ Aut(V_{i})}.

Etant donné un repère {e_{i}}_{i=1,...,r} et x_{j} = a_{j}^{1}e_{1} + ... + a_{j}^{r}e_{r} pour j = 1, 2 nous avons la formule:

N(x_{1}, x_{2}) = (1 − a_{1}^{1}\overline{a}_{2}^{1})...(1 − a_{1}^{r}\overline{a}_{2}^{r}). (5)

Proposition 2.1. i) N(x, y) ≠ 0 ∀x ∈ D, ∀y ∈ \overline{D.} ii) N(y, y) = 0 ∀y ∈ ∂D. iii) ∀x ∈ D, ∀y ∈ \overline{D,} L(x, y) ≥ 0 avec égalité si et seulement si x = y.

Preuve: Il suffit de l’établir dans le cas où le système V est simple.

i) On a d’après la définition de B(x, y), B(x,λy) = B(λx, y) pour tout λ dans R ce qui donne:

N(x, λy) = N(λx, y) ∀λ ∈ R, ∀x ∈ V, ∀y ∈ V. (6)

Soit x ∈ D et y ∈ \overline{D}; puisque D est une boule centrée en l’origine, il existe λ ∈ R, y′ ∈ D tels que λx ∈ D et y = λy′. Nous aurons donc N(x, y) = N(x, λy′) = N(λx, y′). Or d’après (2), N(λx, y′) ≠ 0. ii) C’est une application de la formule (5) en observant que l’un des facteurs du terme de droite est nul. iii) Soit ⟨., .⟩ le produit hermitien usuel de l^{2}(N), {φ_{p}}_{p∈N} une base hilbertienne de l’espace des fonctions holomorphes de carré intégrables et Φ : D ⟶ l^{2}(N) définie par Φ(x) = {φ_{p}(x)}_{p∈N}. On sait que:

k(x, y) = ⟨Φ(x), Φ(y)⟩ ∀x ∈ D, ∀y ∈ D.

L’inégalité à établir n’est autre que celle de Cauchy-Schwartz et l’égalité n’a lieu que si Φ(x) et Φ(y) sont colinéaires, ce qui exige x = y. Enfin, pour x ∈ D et y ∈ ∂D, d’après les points i) et ii), on a L(x, y) > 0.

Lemme 2.2. On a l’inégalité:

inf_{y∈D} | N(x, y) |≥ δ(x, ∂D)^{r} ∀x ∈ D.

Preuve: Soit x un point de D. Si x = 0, il suffit d’appliquer la formule (4). Soit donc x ≠ 0 et considérons sur D × D la fonction Ψ(u, y) = N(| x | u, y)^{−1}. C’est une fonction holomorphe en u, antiholomorphe en y et continue sur \overline{D × D} d’après le i) de la proposition 2.1. Pour u fixé dans \overline{D}, le principe du maximum donne un point t dans M_{r} tel que:

| Ψ(u, y) |≤| Ψ(u, t) | ∀y ∈ \overline{D}.

Toujours, par le principe du maximum appliqué maintenant à la fonction w ⟶ Ψ(w, t), il existe un point s ∈ M_{r} tel que | Ψ(u, y) |≤| Ψ(s, t) | . Mais en combinant la formule (6) et le iii) de la proposition 2.1, on obtient:

| Ψ(s, t) |≤ (N(| x |^{\frac{1}{2}} s, | x |^{\frac{1}{2}} s)N(| x |^{\frac{1}{2}} t, | x |^{\frac{1}{2}} t))^{− \frac{1}{2}} .

Or, d’après la formule (5), le terme de droite de cette inégalité vaut (1− | x |)^{−r}. Pour conclure, il suffit de prendre u = \frac{x}{| x |} et de remarquer que

D étant la boule unité, l’inégalité 1− | x |≥ δ(x, ∂D) a lieu. Nous adopterons la notation suivante:

(u, v) = ∑_{1≤j≤n}u^{j}v^{j} ; ⟨u | v⟩ = (u, \overline{v}) pour u et v dans C^{n}

et μ désignera la forme de Cauchy-Leray:

μ(u, v) = \frac{(n − 1)!}{(2iπ)^{n}} ∑_{1≤j≤n}(−1)^{j+1} \frac{u^{j}}{(u, v)^{n}} Λ_{m≠j}du^{m} Λ_{1≤k≤n}dv^{k}

définie sur {(u, v) ≠ 0}. On sait que μ est fermée. Nous terminerons cette section par le fait que toutes les notions qui y sont introduites^{1} sont invariantes par le groupe Aut′(V).

3. La formule de Koppelman-Leray.

Dans cette section, nous adaptons aux domaines de Cartan qui en général ne sont ni strictement pseudo-convexes, ni de classe C^{1} par morceaux la démarche de [3]. Le développement de Taylor du polynome holomorphe u ⟶ N(u, t) au point u = v s’écrit

N(u, t) = N(v, t) + (α(u, v, t), (v − u)) (7)

où

α^{k}(u, v, t) = − ∫_{0}^{1} \frac{∂N}{∂x^{k}} (u + s(v − u), t)ds.

Les α^{k}(u, v, t) sont des polynomes holomorphes en (u, v) et antiholomorphes en t. Posons alors ω(z, ξ) = α(z, ξ, ξ); par construction et d’après les points i) et ii) de la proposition 2.1, ω est une section de Leray pour le domaine D holomorphe en z c’est à dire ( ω(z, ξ), ξ − z) ≠ 0 pour tout z dans D et ξ dans ∂D. On introduit la section de Bochner-Martinelli σ(z, ξ) = \overline{ξ} − \overline{z} et la section d’homotopie:

η(z, ξ, λ) = (1 − λ)\frac{ω(z, ξ)}{(ω(z, ξ), ξ − z)} + λ\frac{σ(z, ξ)}{(σ(z, ξ), ξ − z)}

définie pour ξ ≠ z, (ω(z, ξ), ξ − z) ≠ 0 et 0 ≤ λ ≤ 1. A l’aide de ces sections, on construit les formes différentielles:

Ω = \frac{(n − 1)!}{(2iπ)^{n}} ∑_{1≤j≤n}(−1)^{j+1} \frac{\overline{ξ}^{j} − \overline{z}^{j}}{(σ(z, ξ), ξ − z)^{n}} Λ_{m≠j}(d\overline{ξ}^{m} − d\overline{z}^{m}) Λ_{1≤k≤n}dξ^{k}

1norme spectrale, produit hermitien, norme générique, composantes D_{j} etc..

Documenta Mathematica 5 (2000) 1–13

\underline{Ω} = \frac{(n − 1)!}{(2iπ)^{n}} ∑_{1≤j≤n}(−1)^{j+1}η^{j}(z, ξ, λ) Λ_{m≠j}(\overline{∂}_{z,ξ} + d_{λ})η^{m}(z, ξ, λ) Λ_{1≤k≤n}dξ^{k}.

Remarque 3.1. Pour une transformation h ∈ Aut′(V), une section ρ(z, ξ) telle que \overline{ρ}(h(z), h(ξ)) = h(\overline{ρ}(z, ξ)) et une section ρ′(z, ξ) vérifiant ρ′(h(z), h(ξ)) = h(ρ′(z, ξ)), la forme différentielle

∑_{1≤j≤n}(−1)^{j+1}ρ^{j}(z, ξ) Λ_{m≠j}dρ^{m} Λ_{1≤k≤n}dρ^{′k}

est invariante par la transformation h̃(z, ξ) = (h(z), h(ξ)).

Ceci provient seulement du fait que si h ∈ Aut′(V) alors | det h |= 1. D’autre part, pour h ∈ Aut′(V) l’identité N(h(z), h(ξ)) = N(z, ξ) donne après calcul direct:

\overline{α}(h(z), h(ξ), h(t)) = h(\overline{α}(z, ξ, t)). (8)

Etant donnée une (0, q) forme f à coefficients continus sur \overline{D}, on définit par intégration partielle par rapport à ξ les formes différentielles:

B_{D}f(z) = ∫_{ξ∈D} f(ξ)ΛΩ(z, ξ) R_{∂D}^{ω}f(z) = ∫_{0}^{1} dλ ∫_{ξ∈∂D} f(ξ)Λ\underline{Ω}(z, ξ, λ)

T f = (−1)^{q}(B_{D}f + R_{∂D}^{ω}f).

Pour q = 0, on a B_{D}f = 0 et R_{∂D}^{ω}f = 0 tandis que pour q ≥ 1, on obtient des formes de type (0, q − 1) en z.

Lemme 3.1. Les opérateurs B_{D} et R_{∂D}^{ω} sont invariants par Aut′(V) c’est à dire:

h^{∗}B_{D}f = B_{D}h^{∗}f et h^{∗}R_{∂D}^{ω}f = R_{∂D}^{ω}h^{∗}f ∀h ∈ Aut′(V).

Preuve: Pour h ∈ Aut′(V), notons h̃ l’endomorphisme de V × V défini par h̃(z, ξ) = (h(z), h(ξ)). Il est trivial que la remarque 3.1 s’applique aux sections ρ(z, ξ) = σ(z, ξ) et ρ′(z, ξ) = ξ. D’après la formule (8), elle est également applicable pour ρ = η et ρ′ = ξ; on obtient ainsi h̃^{∗}Ω = Ω et h̃^{∗}\underline{Ω} = \underline{Ω}. Il suffit donc, d’effectuer dans les intégrales définissant B_{D}h^{∗}f et R_{∂D}^{ω}h^{∗}f le changement de variable h(ξ) = τ pour retrouver h^{∗}B_{D}f et h^{∗}R_{∂D}^{ω}f.

Théorème 3.1. Etant donnée une (0, q) forme (q = 1, ..., n) f continue sur \overline{D} telle que \overline{∂}f soit aussi continue sur \overline{D} on a:

f = T \overline{∂}f + \overline{∂}T f.

En particulier, pour q = 1, ..., n et si \overline{∂}f = 0, T f est solution de l’équation \overline{∂}u = f. De plus, cet opérateur de résolution T vérifie:

T h^{∗}f = h^{∗}T f ∀h ∈ Aut′(V).

Enfin, il existe C > 0 tel que

sup_{z∈D} | T f(z)δ(z, ∂D)^{r(n−1)} |≤ C sup_{z∈D} | f(z) | .

Preuve: Du moment que l’on a construit ci-dessus une section de Leray holomorphe en z et que la formule de Stokes est applicable, il suffit de reprendre mutadis mutandis les paragraphes [1.6]-[1.12] de [3] pour avoir la formule de représentation intégrale annoncée. La propriété d’invariance de T résulte directement du lemme 3.1. Pour l’estimation de croissance au bord, toujours suivant [3], on n’a besoin de l’établir que pour l’opérateur R_{∂D}^{ω}. Or d’après les calculs effectués dans le paragraphe [2.2] de [3], les coefficients de R_{∂D}^{ω}f sont des combinaisons linéaires d’ intégrales de la forme:

E(z) = ∫_{ξ∈∂D} \frac{f_{I}(ξ)Γ(z, ξ)}{N(z, ξ)^{n−s−1} ⟨z − ξ | z − ξ⟩^{(s+1)}} Λ_{m≠j}d\overline{ξ}^{m} Λ_{1≤k≤n}dξ^{k}

où 0 ≤ s ≤ n − 2, 1 ≤ m ≤ n, f_{I} est un coefficient de f et Γ une expression ne dépendant que de la section ω et vérifiant une inégalité du type

| Γ(z, ξ) |≤ C | z − ξ | ∀z ∈ D, ∀ξ ∈ D.

Appliquons le lemme 2.2, il vient:

δ(z, ∂D)^{r(n−1)} | E(z) |≤ C sup_{z∈D} | f(z) | ∫_{ξ∈∂D} | z − ξ |^{−(2n−3)} ∀z ∈ D.

Mais par la formule de Stokes, cette dernière intégrale se majore par

∫_{ξ∈D} | z − ξ |^{−(2n−2)} qui est bornée en z.

4. La formule de Cauchy-Leray.

Appliquons l’identité (7) pour u = z, v = ξ, t = ξ, puis pour u = z, v = ξ, t = z, il vient:

N(z, ξ) = N(ξ, ξ) + (α(z, ξ, ξ), ξ − z) ; N(z, z) = N(ξ, z) + (α(z, ξ, z), ξ − z).

On aura alors L(z, ξ) = (s(ξ, z), ξ − z) avec

s(ξ, z) = N(ξ, z)α(z, ξ, ξ) − N(ξ, ξ)α(z, ξ, z).

Il est évident que s(z, z) = 0 et donc il existe C > 0 tel que:

| s(ξ, z) |≤ C | ξ − z | ∀z, ξ ∈ \overline{D}. (9)

Sur l’ouvert { L(z, ξ) ≠ 0}, considérons la forme différentielle:

K(ξ, z) = \frac{(n − 1)!}{(2iπ)^{n}} ∑_{1≤j≤n}(−1)^{j+1} \frac{s^{j}(ξ, z)}{(s(ξ, z), ξ − z)^{n}} Λ_{m≠j}ds^{m} Λ_{1≤k≤n}(dξ^{k} − dz^{k}).

C’est l’image réciproque de μ par l’application qui à (z, ξ) associe (s(ξ, z), ξ−z); elle est donc fermée. Pour 1 ≤ q ≤ n, on note K^{q} la composante de bidegré (n, n − q) en ξ et de bidegré (0, q − 1) en z.

Lemme 4.1. Soit des ST JHP simples V_{i}, de boule unité Δ_{i} pour i = 1, ..., m, V = ⊕ V_{i} et D la boule unité de V. Notons Aut′(D) = {φ = (φ_{1}, ..., φ_{m}); φ_{i} ∈ Aut(Δ_{i}) ∀i = 1, ..., m.}. Pour un point z de D et φ dans Aut′(D) telle φ(0) = z, on a

L(z, ξ) =| N(z, ξ) |^{2} L(0, φ^{−1}(ξ)) ∀ξ ∈ D.

Preuve: Il s’agit d’appliquer plusieurs fois la formule (3) à chacun des systèmes simples V_{i}.

Lemme 4.2. i) On a l’inégalité

L(0, τ) ≥| τ |^{2} ∀τ ∈ D.

ii) Pour tout point z ∈ D, il existe C_{z} > 0 et un voisinage U_{z} tels que:

L(z, ξ) ≥ C_{z} | z − ξ |^{2} ∀ξ ∈ U_{z}.

Preuve:

i) Par la formule (4) on a L(0, τ) = 1 − N(τ, τ) pour tout τ dans D. Or, la décomposition spectrale d’un point τ ∈ D s^{’}écrit τ = λ^{1}e_{1} + ... + λ^{r}e_{r} où les e_{i} constituent un repère et | τ |= sup λ^{i}; d’après l’identité (5) on aura N(τ, τ) ≤ 1− | τ |^{2} ce qui suffit. ii) Soit z ∈ D, puisque Aut′(D) opère transitivement sur D, choisissons φ ∈ Aut′(D) tel que φ(0) = z. D’après le théorème des accroissements finis, il existe un voisinage W de z et une constante C > 0 tels que | φ^{−1}(ξ) |≥ C | z−ξ | pour tout ξ dans W. On conclut alors en utilisant le lemme 4.1 et le point i).

Ainsi, pour z ∈ D fixé et tenant compte de l’inégalité (9), la fonction s(ξ, z)/L(z, ξ)^{n} est intégrable sur D. On peut donc définir pour toute forme différentelle u de type (0, q − 1), (2 ≤ q ≤ n+ 1), la (0, q − 2) forme:

\overline{T} u(z) = (−1)^{q} ∫_{ξ∈D} u(ξ)ΛK^{q−1}(ξ, z).

Lemme 4.3. i) \overline{∂}_{ξ}K^{1}(ξ, z) = 0 et pour q ≥ 2, on a \overline{∂}_{ξ}K^{q}(ξ, z) = −\overline{∂}_{z}K^{q−1}(ξ, z). ii) Pour q ≥ 2, on a K^{q}(ξ, z) = 0 lorsque z ∈ D et ξ ∈ ∂D.

Preuve:

i) Provient du fait que la forme différentielle K est fermée. ii) En reprenant l’expression de K, on constate que K^{q} provient de la somme:

∑_{1≤j≤n}(−1)^{j+1} \frac{s^{j}(ξ, z)}{(s(ξ, z), ξ − z)^{n}} Λ_{m≠j}\overline{∂}s^{m} Λ_{1≤k≤n}dξ^{k}.

D’autre part, un calcul direct donne:

\overline{∂}_{z}s^{i}(ξ, z)Λ\overline{∂}_{z}s^{j}(ξ, z) = 0 ∀z ∈ D, ξ ∈ ∂D et 1 ≤ i, j ≤ n.

Ceci assure le lemme pour q ≥ 3. Pour q = 2, on constate après calcul que K^{2} est multiple de

∑_{i≺j}(−1)^{j+i}(s^{i}\overline{∂}_{z}s^{j} − s^{j}\overline{∂}_{z}s^{i}) Λ_{k≠i,j}\overline{∂}_{ξ}s^{k}

et on vérifie que sur \{z ∈ D, ξ ∈ ∂D\}, on a s^{i}\overline{∂}_{z}s^{j} − s^{j}\overline{∂}_{z}s^{i} = 0 ∀ 1 ≤ i, j ≤ n.

Lemme 4.4. Il existe C > 0 telle que:

| φ(τ) − φ(0) |≤ C | τ | ∀φ ∈ Aut(D), ∀τ ∈ D

Preuve: Comme D est la boule unité, on a | φ(τ) |≤ 1 pour tout τ dans D et φ dans Aut(D). D’après la formule de Cauchy pour les polydisques, il existe C > 0 telle que:

sup_{φ∈Aut(D), |τ|≤ \frac{1}{2}} | D_{τ} φ |≤ C.

Le théorème des accroissements finis donne alors le lemme sur \{| τ |≤ \frac{1}{2}\}. Sur le complémentaire \{| τ |≥ \frac{1}{2}\} l’inégalité à établir est triviale.

Théorème 4.1. Soit pour 1 ≤ q ≤ n + 1 une (0, q − 1) forme u continue sur \overline{D} telle que \overline{∂}u soit aussi continue sur \overline{D}, alors:

i) si q ≥ 2, on a u = (−1)^{q}\overline{T} \overline{∂}u + \overline{∂}_{z}\overline{T} u.

ii) pour q = 1, on a u(z) = ∫_{ξ∈∂D} u(ξ)K^{1}(z, ξ) − \overline{T} \overline{∂}u(z) ∀z ∈ D.

iii) \overline{T} (h^{∗}u) = h^{∗}(\overline{T} u) ∀h ∈ Aut′(V). iv) On suppose V = ⊕_{1≤i≤m}V_{i} et pour tout i, soit k_{i}, g_{i}, r_{i}, δ_{i}, Δ_{i} les noyaux

de Bergman, genres, rangs, distances spectrales et boules unité de chacun des STJHP simples V_{i}. Posons N(i) = r_{i}(2n − g_{i}); alors il existe C > 0 telle que:

sup_{(z_{1},...,z_{m})∈D} Π_{1≤i≤m}δ_{i}(z_{i}, ∂Δ_{i})^{N(i)} | \overline{T} u(z_{1}, ..., z_{m}) |≤ C sup_{z∈D} | u(z) | .

Preuve: Grace au lemme 4.3, on peut reprendre le raisonnement du paragraphe 1 de[1] et obtenir ainsi les points i) et ii). iii) Par ailleurs la formule (8) assure que la remarque 3.1 est applicable pour les sections ρ = s et ρ′(z, ξ) = ξ − z; on aura ainsi h̃^{∗}K = K pour tout h dans Aut′(V) et après le changement de variables ξ′ = h(ξ) dans l’intégrale qui définit \overline{T} (h^{∗}u), on retrouve h^{∗}\overline{(T} u). iv) Les coefficients de \overline{T} u(z)sont des combinaisons linéaires d’intégrales de la forme:

F (z) = ∫_{ξ∈D} \frac{R_{I}(z, ξ)u_{I}(ξ)s^{j}(ξ, z)}{L(z, ξ)^{n}}

où u_{I} est un coefficient de u, R_{I} un polynome et j = 1, ..., n. Soit φ ∈ Aut′(D) telle que φ(0) = z; on aura à l’aide du lemme 4.1 et du i) du lemme 4.2 l’inégalité:

| \overline{T} u(z) |≤ Csup_{t∈D} | u(t) | ∫_{ξ∈D} \frac{| s(ξ, z) |}{| φ^{−1}(ξ) |^{2n}| N(z, ξ) |^{2n}}

Effectuons le changement de variable ξ = φ(τ) puis utilisons le lemme 4.4 et la formule (9), cette intégrale sera majorée par:

∫_{τ∈D} | Jφ(τ) |^{2}| τ |^{1−2n}| N(z, φ(τ) |^{−2n} .

Mais la formule (3) donne:

| Jφ_{i}(τ_{i}) |^{2}= k_{i}(0, 0)k_{i}(z_{i}, z_{i}) | k_{i}(z_{i}, φ_{i}(τ_{i})) |^{−2}

et on conclut alors en appliquant le lemme 2.2 à chaque V_{i}.

References

[1] P. Charpentier, Formules explicites pour les solutions minimales de l’équation \overline{∂}u = f dans la boule et le polydisque de C^{n}. Ann. Inst. Fourier 30, 4 (1980), 121-154.

[2] M. S. Hachaichi, Formules de représentation intégrale des formes différentielles et application à la résolution de l’équation de Cauchy-Riemann dans le disque généralisé de M_{n}(C). Thèse de Doctorat d’Etat, U.S.T.H.B. Alger (1998).

[3] G. M. Henkin, J. Leiterer, Theory of functions on complex manifolds. Birkhauser-Verlag. Basel-Boston-Stuttgart (1984).

[4] O. Loos, Jordan pairs. Lect. Notes in Math. Vol 460 (1975).

[5] O. Loos, Bounded symmetric domains and Jordan pairs. Univ. of California at Irvine (1977).

[6] G. Roos, La géométrie des domaines hermitiens symétriques et les systèmes triples de Jordan. Univ. de Poitiers, dpt de Math. Prépublication n^{∘}18 (1985).

[7] G. Roos, Fonctions de plusieurs variables complexes et formules de représentation intégrale. Thèse de Doctorat d’Etat. Paris VII (1983).

[8] L. Schwartz, Cours d’analyse. Hermann. Paris (1967).

Atallah Affane

Institut de Mathématiques U.S.T.H.B, B.P. 32 El Alia Bab Ezzouar Algiers, Algeria. atallahaffane@hotmail.com 14

Documenta Mathematica 5 (2000)