Stabilité en Niveau 0,

pour les Groupes Orthogonaux Impairs p-Adiques

Colette Moeglin

Received: December 16, 2003 Revised: December 3, 2004

Communicated by Peter Schneider

Abstract. The general problem we discuss in this paper is how to prove stability properties for a linear combination of characters of irreductible discrete series of p-adic groups. Here we give ideas on how to reduce the case where the Langlands parameter is trivial on the wild ramification group to the case where this Langlands parameter factorizes through the Frobenius; we handle only the case of an odd orthogonal group. The principal result is that the localization commutes with the Lusztig’s induction.

2000 Mathematics Subject Classification: 22E50

Keywords and Phrases: representations of p-adic groups, stability, discrete series, Langands parameter

Précisons tout de suite que dans ce qui suit, F est un corps extension finie de ℚ_{p} avec p ≠ 2 et même pour le théorème principal p grand. Le but de ce travail est de produire des fonctions sur les groupes p-adiques orthogonaux impairs dont les intégrales orbitales sur les éléments elliptiques réguliers ne dépendent que des classes de conjugaison stable. Au passage, on produit aussi des fonctions dont la somme des intégrales orbitales à l’intérieur d’une classe stable fixée est nulle. A la fin du papier, on interprète ce résultat en terme de stabilité des représentations elliptiques de niveau 0 pour ces groupes orthogonaux. Si l’on a bien prédit les signes qui dépendent encore de la traduction en terme d’algèbre de Hecke de l’induction de Lusztig (ceci devrait être l’objet de [2]), c’est la somme des représentations dans un paquet qui est stable et ces combinaisons linéaires engendrent l’espace distributions stables combinaison linéaires de représentations elliptiques.

Stabilité en Niveau 0, pour les Groupes Orthogonaux… 529

Dans le détail, on commence par rappeler ce qu’est une représentation de niveau zéro et comment on peut lui associer un pseudo-coefficient; ce n’est pas nouveau et n’est pas au cœur du papier. C’est quand on passe à la description des paramètres de ces représentations que l’on entre dans le vif du sujet. On décrit ces paramètres en terme d’ensemble d’orbites unipotentes de groupes complexes convenables et de systèmes locaux sur ces orbites; la façon classique de faire cela est de considérer le morphisme de Langlands-Lusztig, ψ, de W_{F} ×SL(2, ℂ) dans Sp(2n, ℂ) (le groupe dual) et de décomposer d’abord la restriction de ψ à W_{F}. Ici on décompose la restriction de ψ au sous-groupe de W_{F} noyau de l’application W_{F} →< F r > (où F r est un Frobénius) et c’est dans le commutant de l’image par ψ de ce sous-groupe que vivent les orbites unipotentes et systèmes locaux ci-dessus. Pour faire cette classification, on utilise le fait que ψ est de niveau 0 (cf la définition donnée dans le texte) mais ceci n’est pas une hypothèse importante à cet endroit. On peut alors utiliser les méthodes de Lusztig et la représentation de Springer généralisée pour associer aux systèmes locaux trouvés, des fonctions sur des groupes finis, qui sont en fait des parahoriques en réduction du groupe orthogonal de départ; c’est là que l’hypothèse de niveau 0 intervient. Ce sont les faisceaux caractères de Lusztig. On remonte ces fonctions sur le groupe parahorique en les rendant invariantes par le radical pro-p-unipotent et on les prolonge par zéro pour en faire des fonctions sur le groupe orthogonal. Ce sont ces fonctions pour lesquelles on peut calculer le comportement des intégrales sur les classes de conjugaison d’éléments elliptiques à l’intérieur d’une classe de conjugaison stable. Avec cette méthode, ce ne sont pas des combinaisons linéraires de paramètres de Langlands qui donnent des objets stables mais directement certains paramètres; c’était déjà le cas en [8] et ici c’est expliqué en 5.1. On revient à des combinaisons linéraires plus habituelles en faisant une opération style transformation de Fourier, cf. 6.1. Pour finir, on veut interpréter ces fonctions comme un ensemble de pseudo coefficients pour les représentations elliptiques (elliptiques au sens d’Arthur) de niveau zéro (cf. 6.2); vu ce qui est rappelé au début de ce papier, pour le faire on doit calculer ce que l’on appelle la restriction aux parahoriques des représentations, c’est-à-dire calculer l’action de chaque parahorique dans la sous-représentation formée par les vecteurs invariants sous l’action du radical pro-p-unipotent du dit parahorique. Pour cela, on a besoin de 2 résultats. Le premier est un résultat non disponible (cf. [2]) qui ramène l’étude de l’algèbre de Hecke des représentations induites de cuspidales de niveau 0 pour un groupe réductif à des algèbres de Hecke de représentations induites à partir de cuspidales de réduction unipotente pour des groupes réductifs convenables; ici ce résultat fera intervenir d’autres groupes orthogonaux et des groupes unitaires et il y aura sans doute un signe et même si on voit les idées le calcul est loin d’être acquis. Il faut ensuite savoir calculer la restriction aux parahoriques des représentations de réduction unipotente pour ces groupes orthogonaux et unitaires. Pour les groupes orthogonaux, c’est essentiellement fait en [12] (nous l’avons déjà utilisé dans [8]) et pour les groupes unitaires c’est fait dans [7]. Moyennant ces restrictions, on a donc une bonne description de pseudo coefficient pour les représentations elliptiques de niveau 0 des groupes orthogonaux considérés ici. Et en utilisant les résultats d’Arthur ([1]) qui ramènent les problèmes de stabilité pour des représentations elliptiques à la stabilité des intégrales orbitales en les éléments elliptiques de leurs pseudo-coefficients, on en déduit une description des paquets stables de représentations elliptiques de niveau zéro. Tout ceci est réminiscent de [8]. Pour finir cette introduction, je remercie Anne-Marie Aubert pour les conversations que nous avons eues et le texte qu’elle a écrit pour moi, ainsi que Jean-Loup Waldspurger qui m’a fait un nombre certain de calculs.

1 Représentations de niveau zéro.

En suivant les définitions usuelles et en particulier celles de [8], on appelle réseau presque autodual un réseau L de V tel que

ω_{F} L̃ ⊂ L ⊂ L̃.

Pour L un réseau presque autodual comme ci-dessus, on note K(L) le stabilisateur du réseau et U(L) le radical pro-p-unipotent. Plus généralement, on appelle chaîne de réseaux presque autoduaux une famille L_{.} = (L_{0}, L_{1}, ⋯, L_{r}) de réseaux de V telle que:

ω_{F} L̃_{r} ⊂ L_{r} ⊂ ⋯ ⊂ L_{1} ⊂ L_{0} ⊂ L̃_{0}.

Et on généralise de façon évidente la définition de K(L_{.}) et U(L_{.}). Une description totalement explicite de ces objets a été donnée en [8] 1.2. On y a en particulier défini la notion d’association. Soit π une représentation irréductible de G(F); on dit que π est de niveau 0 s’il existe un réseau presque autodual L tel que l’espace des invariants sous U(L), π^{U(L)} est non nul; c’est une définition standard reprise en particulier de [3]. On note alors π_{L} la représentation de K(L)/U(L) dans ces invariants; c’est une représentation (non irréductible en général) d’un groupe réductif sur le corps 𝔽_{q}. La notion de représentation de niveau zéro pour les groupes GL est de même ordre et nous l’utiliserons. La construction de pseudo-coefficients pour les séries discrètes (ou plus généralement les représentations elliptiques au sens d’Arthur) faite en [8] 1.9 (iv) s’étend au cadre des représentations elliptiques de niveau 0. C’est ce que nous allons expliquer dans cette partie.

1.1 Support cuspidal

Soit π une représentation irréductible de G(F); on appelle support cuspidal de π la donnée d’un sous-groupe de Levi M de G, qui est le Levi d’un parabolique défini sur F et une représentation cuspidale π_{cusp} de M(F) tel que π soit quotient de l’induite de π_{cusp} (grâce à un parabolique de Levi M). La donnée de (M, π_{cusp}) est alors définie à conjugaison près par le groupe de Weyl de G. A partir de maintenant, on suppose que π est de niveau zéro. Il résulte de [9] 6.11 que π_{cusp} l’est aussi (le groupe G étant remplacé par M). On vérifie alors que l’on peut construire une chaîne de réseaux presque autoduaux, L_{.} de V, en bonne position par rapport à M, telle que π_{cusp} ait des invariants (non nuls) sous U(L_{.}) ∩ M(F) =: U_{M}(L_{.}); on note π_{cusp}^{U_{M} (L_{.})} cet espace d’invariants. On note K_{M}(L_{.}) := K(L_{.})∩M(F) et π_{cusp}^{U_{M} (L_{.})} est naturellement une représentation du groupe fini K_{M}(L_{.})/U_{M}(L_{.}); elle est cuspidale. On note χ_{cusp} la donnée de cette représentation et du groupe fini qui opère; cela sous-entend que la donnée d’une chaîne de réseaux presque autoduaux, L_{.,cusp} ait été faite. Un tel choix n’est pas unique mais il l’est à association près. Il résulte de [9] que pour L un réseau presque autodual de V, la représentation π_{L} n’est pas nulle si et seulement si K(L) est associé à un sous-groupe parahorique contenant K(L_{.,cusp}) et le support cuspidal de π_{L} comme représentation du groupe fini K(L)/U(L) est conjuguée de χ_{cusp}. On note C(K(L))_{χ_{cusp}} l’ensemble des fonctions sur le groupe fini K(L)/U(L) engendré par les caractères des représentations irréductible ayant un conjugué de χ_{cusp} comme support cuspidal. Et on note C(K(L))_{cusp,χ_{cusp}} la projection de l’espace C(K(L))_{χ_{cusp}} sur l’ensemble des fonctions cuspidales. Lusztig associe aux représentations des groupes finis et donc à χ_{cusp} un élément semi-simple s_{χ} dans un certain groupe sur \overline{𝔽}_{q}, le groupe Sp(2n′, \overline{𝔽}_{q}) × O(2n′′, \overline{𝔽}_{q}). La classe de conjugaison de s_{χ} dans GL(2n, \overline{𝔽}_{q}) est elle bien définie. On dira que s_{χ}, ou plutôt sa classe de conjugaison, est la classe de conjugaison semi-simple associée à χ_{cusp}.

1.2 Représentation elliptique

Comme en [8] 1.7, on utilise la notion de représentation elliptique telle que précisée par Arthur; c’est, une représentation elliptique est une combinaison linéaire de représentations tempérées. Si l’on fixe un Levi M de G, Levi d’un sous-groupe parabolique de G défini sur F et une représentation cuspidale π_{cusp} de M(F), on dit que la représentation elliptique, π, est de support cuspidal (M, π_{cusp}) si toutes les représentations irréductibles qui interviennent dans sa combinaison linéaire ont cette propriété; et on dit qu’elle est de niveau 0 si le support cuspidal est de niveau 0.

1.3 Pseudo-coefficients

On reprend les notations de 1.1, en particulier χ_{cusp} et C(K(L))_{cusp,χ_{cusp}}. En suivant [8], on remonte tout élément f de C(K(L))_{cusp,χ_{cusp}}, en une fonction sur K(L) invariante par U(L) et on la prolonge en une fonction notée f^{G} sur G(F) en l’étendant par 0 hors de K(L). Par cette procédure, on obtient une fonction cuspidale sur G(F), c’est-à-dire une fonction dont les intégrales orbitales sur les éléments semi-simples non elliptiques sont nulles. Quand on somme cette construction sur tous les supports cuspidaux de niveau 0, on construit ainsi un morphisme de ⊕_{L/∼}C(K(L))_{cusp} dans l’ensemble des fonctions cuspidale sur G(F). On note P s_{ell,χ_{cusp}}^{G} := ⊕_{L/∼}C(K(L))_{cusp,χ_{cusp}} que l’on munit d’un produit scalaire. Pour définir ce produit scalaire, il faut fixer un ensemble de représentants des groupes K(L) modulo association (les sommes sur K cidessous signifient la somme sur un ensemble de représentants)

(∑_{K} ϕ_{K}, ∑_{K} ϕ′_{K}) = ∑_{K} w(K)^{−1}(ϕ_{K}, ϕ′_{K})_{K},

où le dernier produit scalaire est le produit scalaire usuel sur un groupe fini et où w(K) est un volume décrit en [8] 1.6. Quand on somme cette construction sur l’ensemble des supports cuspidaux de niveau 0, on définit P s_{ell,0}^{G} muni d’un produit scalaire. La décomposition suivant les supports cuspidaux (modulo conjugaison) est une somme directe. On rappelle la construction des pseudo coefficients pour les représentations elliptiques de niveau 0 faite (essentiellement) en [8] 1.9. et qui repose sur les travaux de [10] et de [4] Pour tout K comme ci-dessus, définissons B(K) (resp. B(K)_{χ_{cusp}}) une base de C(K)_{cusp} (resp. C(K)_{cusp,χ_{cusp}}) et pour toute représentation virtuelle tempérée, D, posons

ϕ_{D} := ⊕_{K} ∑_{f∈B(K)} w(K)\overline{D(f^{G})}f;

ϕ_{D,χ_{cusp}} := ⊕_{K} ∑_{f∈B(K)_{χcusp}} w(K)\overline{D(f^{G})}f.

Théorème. L’application D ↦ ϕ_{D} induit un isomorphisme de l’espace engendré par les caractères des représentations elliptiques de niveau 0 sur P s_{ell,0}^{G}. Cet isomorphisme est compatible à la décomposition suivant le support cuspidal. On peut récrire ϕ_{D} sous la forme la plus utilisable. On pose:

φ_{D} := ∑_{K} w(K)tr_{K}(D),

où tr_{K}(D) est la trace pour la représentation de K/U_{K} dans l’espace des invariants de la représentation D sous U_{K} (le radical pro p-unipotent de K). On note proj_{ell}φ_{D} la projection de φ_{D} sur les fonctions cuspidales (cette projection se fait pour chaque parahorique K individuellement). On sait alors définir (proj_{ell}φ_{D})^{G} qui est un pseudo coefficient de D si D est elliptique (cf [8] 1.9 (iv)). Si D a χ_{cusp} (cf. ci-dessus) pour support cuspidal, alors proj_{ell}φ_{D} ∈ ⊕_{K}C[K]_{cusp} Remarque. Avec les notations ci-dessus, (proj_{ell}φ_{D})^{G} est un pseudocoefficient de la représentation elliptique D.

On rappelle aussi que d’après Arthur [1] 6.1, 6.2 (on a enlevé l’hypothèse relative au lemme fondamental en [8] 4.6) une combinaison linéaire D de représentations elliptiques est stable si et seulement si les intégrales orbitales de φ_{D}^{G} sont constantes sur les classes de conjugaison stable d’éléments elliptiques réguliers.

2 Classification des paramètres discrets de niveau 0

On considère les couples (ψ, ϵ) de morphismes continus suivants:

\begin{matrix}ψ : W_{F} × SL(2, ℂ) → Sp(2n, ℂ) \\ ϵ : Cent_{Sp(2n,ℂ)}(ψ) → \{±1\}, \end{matrix}

où, en notant I_{F} le sous-groupe de ramification de W_{F}, la restriction de ψ à I_{F} est triviale sur le groupe de ramification sauvage et où le centralisateur de ψ dans Sp(2n, ℂ) n’est pas inclus dans un sous-groupe de Levi de Sp(2n, ℂ). De tels couples sont appelés des paramètres discrets de niveau 0; comme la condition ne porte que sur ψ et non sur ϵ, on peut dire aussi que ψ est discret de niveau 0 sans référence à ϵ.

2.1 Morphismes de paramétrisation

Pour donner la classification des morphismes comme ci-dessus, il est plus simple d’avoir fixé un générateur du groupe abélien I_{F} /P_{F}, où P_{F} est le groupe de ramification sauvage. Et pour cela, il est plus simple de fixer une extension galoisienne modérément ramifiée E/F et de ne considérer que les morphismes ψ qui se factorisent par le groupe de Weil relatif W_{E/F}. On fixe F r une image réciproque d’un Frobénius de l’extension non ramifiée dans W_{E/F} et s_{E} un générateur du groupe multiplicatif du corps résiduel de E. Dans ce cas la restriction de ψ à I_{F} est déterminée par l’image de s_{E}. A conjugaison près c’est donc la donnée des valeurs propres de la matrice image de s_{E} par ψ qui détermine cette restriction. On va donc fixer cette restriction en la notant χ, c’est à dire fixer une matrice de Sp(2n, ℂ) dont les valeurs propres sont des racines de l’unité d’ordre premier à p. On peut donc oublier E et garder χ et considérer que χ est déterminé par une collection de racines de l’unité, l’ensemble des valeurs propres ensemble que l’on note V P (χ). Pour u ∈ V P (χ) on note mult(u) la multiplicité de u en tant que valeur propre. L’action du Frobenius transforme χ en χ^{q}, ainsi si u ∈ V P (χ) alors u^{q} ∈ V P (χ) et mult(u) = mult(u^{q}). Comme χ est à valeurs dans Sp(2n, ℂ), l’espace propre pour la valeur propre u est en dualité avec l’espace propre pour la valeur propre u^{−1}, d’où aussi mult(u) = mult(u^{−1}). A l’intérieur de V P (χ) on définit l’équivalence engendrée par la relation élémentaire u ∼ u^{q}. On note [V P (χ)] les classes d’équivalence et si u ∈ V P (χ), on note [u] sa classe d’équivalence. On vérifie que s’il existe u ∈ V P (χ) tel que u^{−1} ∉ [u] alors le centralisateur de ψ est inclus dans un sous-groupe de Levi de Sp(2n, ℂ); on suppose donc que u^{−1} ∈ [u] pour tout u. Pour tout u ∈ V P (χ), u ∉ {±1}, on définit ℓ_{[u]} comme le plus petit entier tel que u^{−1} = u^{q^{ℓ_{[}u]}}; le cardinal de la classe [u] est alors 2ℓ_{[u]}. On pose: m([u]) := mult(u) où u ∈ V P (χ) dans la classe de [u] comme la notation le suggère. On remarque que

2n = m(1) + m(−1) + ∑_{[u]∈[V P (χ)],u∉{±1}} m([u])2ℓ_{[u]}.

Soit M un entier et U une orbite unipotente de GL(M, ℂ); on dit que U est symplectique (resp. orthogonale) si tous les blocs de Jordan sont pairs (resp. impairs) et on dit qu’elle est discrète si son nombre de blocs de Jordan d’une taille donnée est au plus 1. D’où la notation symplectique discrète et orthogonale discrète qui allie les 2 définitions. Proposition. L’ensemble des homomorphismes ψ ci-dessus (c’est-à-dire discrets et de niveau 0), pris à conjugaison près, dont la restriction à I_{F} est conjuguée de χ est en bijection avec l’ensemble des collections d’orbites unipotentes {U_{[u],ζ}, [u] ∈ [V P (χ)], ζ ∈ {±1}}, de groupe GL(m([u], ζ), ℂ), ce qui définit l’entier m([u], ζ) (éventuellement 0) avec les propriétés suivantes:

∀[u] ∈ [V P (χ)], m([u], +) + m([u], −) = m([u]);

pour tout [u] ∈ [V P (χ)], u ≠ ±1, l’orbite U_{[u],+} est une orbite symplectique discrète, l’orbite U_{[u],−} est une orbite orthogonale discrète et les orbites U_{[±1],±} sont des orbites symplectiques discrètes. L’intérêt de ramener la classification à une collection d’orbites unipotentes est de pouvoir ensuite utiliser la représentation de Springer généralisée pour construire des représentations de groupes de Weyl, puisque l’on aura aussi des systèmes locaux sur ces orbites. On a décrit avant l’énoncé comment on comprenait la restriction de ψ à I_{F}; pour avoir la restriction de ψ à W_{F}, il faut encore décrire l’image du relèvement du Frobénius, F r, à conjugaison près. Par commodité et uniquement dans cette démonstration, on note V l’espace vectoriel ℂ^{2n} et pour u ∈ V P (χ), on note V [u] l’espace propre correspondant à cette valeur propre. Les conditions que doivent vérifier ψ(F r) sont: être une matrice symplectique et induire un isomorphise entre V [u] et V [u^{q}] pour tout u ∈ V P (χ). Pour traduire ces conditions, fixons u ∈ V P (χ). Il faut distinguer les 2 cas: premier cas: u ≠ ±1. On remarque que ψ(F r^{q^{2ℓu}}) induit un isomorphisme de V [u] dans lui-même. On note F_{u} cet homomorphisme. Le groupe GL(V [u]) s’identifie naturellement à un sous-groupe de Sp(2n, ℂ). Comme on ne cherche à classifier les morphismes ψ qu’à conjugaison près, on peut encore conjuguer sous l’action de GL(V [u]); cela se traduit sur F_{u} par la conjugaison habituelle. A conjugaison près F_{u} est donc déterminé par ses valeurs propres dont on note V P (F_{u}) l’ensemble. On vérifie encore que si V P (F_{u}) contient un élément autre que ±1, alors l’image de ψ est incluse dans un sous-groupe de Levi propre de Sp(2n, ℂ). Pour ζ ∈ {±1}, on note V [u, ζ] l’espace propre pour la valeur propre ζ de F_{u}. On remarque pour la suite que V [u, ζ] est muni du produit scalaire:

∀v, v′ ∈ V [u, ζ], < v, v′ >_{u}:=< v, ψ(F r)^{q^{ℓu}} v′ > .

Et, pour v et v′ comme ci-dessus:

< v, ψ(F r)^{q^{ℓu}} v′ > = < ψ(F r)^{−q^{ℓu}} v, v′ >
= ζ < ψ(F r)^{−q^{ℓu}} F_{u}v, v′ >
= ζ < ψ(F r)^{q^{ℓu}} v, v′ >  (1)
= −ζ < v′, ψ(F r)^{q^{ℓu}} v >
= −ζ < v′, v >_{u} .

(2)

Ainsi, la forme < , >_{u} est symplectique pour ζ = 1 et orthogonale pour ζ = −1. Il est facile de vérifier que cette forme est non dégénérée. Ces constructions se font donc pour tout u ∈ V P (χ) différent de ±1. De plus ψ(F r) induit une isométrie de V [u, ζ] sur V [u^{q}, ζ]; ceci permet de définir intrinsèquement l’espace orthogonal ou symplectique V ([u], ζ) pour tout [u] ∈ [V P (χ)] muni du produit scalaire < , >_{[u]}. deuxième cas: u ∈ {±1}. On définit ici F_{u} comme l’action de ψ(F r) comme automorphisme de V [u]. On vérifie comme ci-dessus que si F_{u} a des valeurs propres autres que ±1, l’image de ψ se trouve dans un Levi de Sp(2n, ℂ); on définit donc encore V [u, ζ] pour ζ = ±1 les valeurs propres de F_{u}. Mais ces espaces sont ici des espaces symplectiques par restriction de la forme symplectique. Comme ψ(SL(2, ℂ)) commute à ψ(W_{F}) les images des éléments unipotents de SL(2, ℂ) s’identifient à des éléments unipotents des automorphismes des espaces V ([u], ζ) pour tout [u] ∈ [V P (χ)] et tout ζ ∈ {±1}. A conjugaison près, le morphisme ψ restreint à SL(2, ℂ) est même uniquement déterminé par l’orbite de ces éléments. Ce sont ces orbites qui sont notées U_{[u],ζ} dans l’énoncé. Comme les éléments de ψ(SL(2, ℂ)) commutent à ψ(F r) et respectent la forme symplectique, ils respectent chaque forme < , >_{u}. Ce sont donc des orbites unipotentes du groupe d’automorphismes de la forme. Il reste à remarquer que si l’une de ces orbites a 2 blocs de Jordan de même taille, alors l’image de ψ est incluse dans un Levi. Réciproquement la donnée des orbites permet de reconstruire (à conjugaison près) l’homomorphisme ψ. Remarque. Soit χ comme ci-dessus et identifions les racines de l’unité d’ordre premier à p de ℂ avec leurs analogues dans \overline{𝔽}_{q}. Les éléments de V P (χ) avec leur multiplicité définissent donc un élément de GL(2n, \overline{𝔽}_{q}) dont la classe de conjugaison est bien définie. Avec cette remarque, on peut associer à χ un élément semi-simple s_{χ} bien défini à conjugaison près dans GL(2n, \overline{𝔽}_{q}). C’est l’analogue du s_{χ} de 1.1.

2.2 Système local

On fixe ψ, ϵ commme dans l’introduction de cette section et on reprend les notations de la preuve précédente en notant Jord(U_{[u],ζ}), où [u] ∈ [V P (χ)] et ζ ∈ {±1}, l’ensemble des blocs de Jordan des orbites unipotentes associées à ψ. Remarque. Le centralisateur de ψ est isomorphe à

∏_{[u]∈V P (χ)} ∏_{α∈Jord(U_{[u],ζ})}{±1}.

L’image du centre de Sp(2n, ℂ) dans ce commutant est l’élément −1 diagonal. Ainsi ϵ s’identifie à une application de ∪_{[u]∈[V P (χ)];ζ∈{±1}}Jord(U_{[u],ζ}) dans {±1}. En reprenant la preuve précédente, on voit que le commutant de ψ s’identifie au commutant de ψ(SL(2, ℂ)) vu comme sous-ensemble de ×_{[u]∈[V P (χ)]} ×_{ζ=±} Aut(V ([u], ζ), < , >_{u}). On sait calculer ce commutant. C’est alors un produit de groupes orthogonaux ×_{[u],ζ} ×_{α∈Jord(U_{[u],ζ})} O(mult_{α}, ℂ), où mult_{α} est la multiplicité de α comme bloc de Jordan de l’orbite en question; pour ψ discret cette multiplicité est 1. Pour avoir ce résultat la seule hypothèse utilisée est que U_{[u],ζ} est symplectique si < , >_{u} est symplectique et orthogonale sinon. On aura aussi à regarder le cas elliptique où cette hypothèse sur le type de U_{[u],ζ} est satisfaite mais pas la multiplicité 1; on utilisera alors cette description. Dans le cas de la multiplicité 1, le groupe orthogonal se réduit à {±1}; d’où l’énoncé, l’identification du centre étant immédiate. Remarquons encore que quelle que soit la multiplicité, on peut voir le ϵ comme une application de ×_{[u],ζ}Jord(U_{[u],ζ}) dans {±1}.

3 Faisceaux caractères.

3.1 Construction de fonctions.

Soit m ∈ ℕ; on utilisera fréquemment la notation D(m) pour l’ensemble des couples d’entiers (m′, m′′) tels que m = m′ + m′′. On fixe χ un morphisme comme en 2.1. On reprend les notations [V P (χ)] de 2.1. Pour tout [u] ∈ [V P (χ)] avec [u] ≠ ±1, on a défini les entiers m([u]) (qui sont les multiplicités des valeurs propres). On pose n([u]) = m([u]) si [u] ≠ ±1 et n(1) = m(1)/2, n(−1) = m(−1)/2. Pour (n′_{[u]}, n′′_{[u]}) ∈ D(n([u])), on note ℂ[Ŵ_{n′_{[u]},n′′_{[u]}}] := ℂ[𝔖̂_{n′[u]}] ⊗ ℂ[𝔖̂_{n′′[u]}] et ℂ[Ŵ_{D([u])}] l’espace vecto-

riel ⊕_{(n′_{[u]},n′′_{[u]})∈D(n([u])}ℂ[Ŵ_{n′_{[u]},n′′_{[u]}}], où les chapeaux représentent les classes d’isomorphie de représentations du groupe chapeauté. Pour u = ±1, la situation est plus compliquée à cause de l’existence de faisceaux caractères cuspidaux. On garde la même notation (pour unifier) mais on remplace 𝔖̂_{n′[u]} et 𝔖̂_{n′′[u]} par l’ensemble des symboles de rang n′[u] respectivement n′′[u] de défaut impair respectivement pair; il est rappelé en [13] 2.2, 2.3 comment ces symboles paramétrisent aussi des représentations irréductibles de groupes; un symbole de défaut impair, I =: 2h+1, et de rang n′([u]) paramétrise une représentation du groupe de Weyl de type C et de rang n′([u]) − h^{2} − h. Dans le cas du défaut pair, il faut admettre les défauts négatifs; dans la référence donnée tout est expliqué avec précision, les difficultés venant de la non connexité des groupes orthogonaux pairs et du fait que pour un tel groupe il faut regarder simultanément la forme déployée et celle qui ne l’est pas. Grosso modo, un symbole de défaut pair, 2h′′, et de rang n′′([u]) paramétrise une représentation d’un groupe de Weyl de type C de rang n′′([u]) − (h′′)^{2}. Fixons maintenant un ensemble de paires (n′[u], n′′[u]) ∈ D(n([u]). On pose:

n′ := ∑_{[u]∈[V P (χ)];[u]≠[±1]} n′[u]ℓ_{[u]} + (n′[1] + n′[−1]),

n′′ := ∑_{[u]∈[V P (χ)];[u]≠[±1]} n′′[u]ℓ_{[u]} + (n′′[1] + n′′[−1]).

On pose ♯ = iso si G est déployé et ♯ = an sinon. On note alors K_{n′,n′′} un sousgroupe parahorique (non connexe) de G dont le groupe en réduction, \overline{K}_{n′,n′′} est isomorphe à SO(2n′ + 1, 𝔽_{q}) × O(2n′′, 𝔽_{q})_{♯} (cf. 1.1). Il est bien défini à association près. On note M un sous-groupe de \overline{K}_{n′,n′′} isomorphe à

×_{[u]≠[±1]}U(n′[u], 𝔽_{q^{2ℓ[u]}}/𝔽_{q^{ℓu}}) × SO(2(n′[1] + n′[−1]) + 1, 𝔽_{q})
×_{[u]≠[±1]}U(n′′[u], 𝔽_{q^{2ℓ_{[u]}}} /𝔽_{q^{ℓu}}) × O(2(n′′[1] + n′′[−1]), 𝔽_{q})_{♯};

ci-dessus, on n’a pas précisé le plongement car cela n’a pas d’importance, sur les corps finis il n’y a qu’une classe de formes unitaires. On note \underline{n′} et \underline{n′′} les collections (n′[u]) et (n′′[u]) comme ci-dessus. Grâce à Lusztig (étendu au cas non connexe cf. [13] 3.1 et 3.2), on sait associer à un élément de ℂ[Ŵ_{\underline{n′},\underline{n′′}}] et à χ une fonction sur M, la trace du faisceau caractère associé. Puis on définit cette fonction sur \overline{K}_{n′,n′′} (par induction); c’est une fonction invariante par conjugaison. En sommant sur toutes les décompositions D(χ), on construit ainsi une application de ℂ[Ŵ_{D(χ)}] dans l’ensemble des fonctions ⊕_{n′,n′′∈D(n)}ℂ[\overline{K}_{n′,n′′}]. On remonte ensuite de telles fonctions en des fonctions sur K_{n′,n′′} par invariance et on les prolonge à SO(2n + 1, F)_{♯} par 0. On note k_{♯,χ} cette application. Quand on fait une somme directe de ♯ = iso avec ♯ = an, on la note k_{χ}.

3.2 Support cuspidal des faisceaux caractères

Dans cette section, on fixe quelques notations relatives aux faisceaux caractères quadratiques unipotents; elles viennent essentiellement (à des modifications formelles près) de [13] 3.1 et 3.7 lui-même fortement inspiré de Lusztig. Les difficultés viennent de la présence de faisceaux caractères cuspidaux; c’est le cas des groupes orthogonaux impairs et pairs qui a été sommairement expédié ci-dessus qu’il faut préciser. Pour les groupes orthogonaux impairs, SO(2m′ + 1, 𝔽_{q}) on forme les faisceaux caractères quadratiques unipotents avec la donnée d’un couple ordonné de 2 symboles de défaut impair dont la somme des rangs est m′. Notons Λ′_{+}, Λ′_{−} ces 2 symboles et I_{+}, I_{−} leurs défauts. On écrit encore I_{±} =: 2h′_{±} + 1 en utilisant le fait que les défauts sont impairs. On retrouve alors à peu près les notations de [13] 3.7. On considère le couple d’entier (h′_{+} + h′_{−} + 1, |h′_{+} − h′_{−}|) et le signe σ′ := + si h′_{+} ≥ h′_{−} et − sinon. Dans ce couple d’entiers, l’un des nombres est pair et l’autre est impair; on note r′_{p} celui qui est pair et r′_{im} celui qui est impair. On note n′_{±} le rang de Λ′_{±} et on pose N′_{±} := n′_{±} − h′_{±}(h′_{±} + 1). Ainsi Λ′_{±} paramétrise une représentation du groupe de Weyl de type C de rang N′_{±}. Tandis que le couple r′_{im}, σ′r′_{p} détermine un faisceau cuspidal pour le groupe SO(r_{im}^{′2} + r_{p}^{′2}, 𝔽_{q}) et l’on a: 2N′_{+} + 2N′_{−} + r_{im}^{′2} + r_{p}^{′2} = 2m′ + 1. Pour les groupes orthogonaux pairs, O(2m′′, 𝔽_{q})_{♯}, on forme un faisceau caractère quadratique unipotent à l’aide d’un couple ordonné de 2 symboles euxmêmes ordonnés au sens qu’un symbole est formé de 2 ensembles de nombres (avec des propriétés). Au sens habituel, l’ordre des ensembles n’a pas d’importance et le défaut est la différence entre le cardinal de l’ensemble ayant le plus d’élément (au sens large) et celui de l’ensemble ayant le moins d’éléments (au sens large). Ici, les 2 ensembles sont ordonnés et le défaut est la différence entre le cardinal du premier ensemble et celui du deuxième, ainsi le défaut peut-être négatif. On demande uniquement que les défauts soient pairs (0 est un nombre pair). On note Λ′′_{+}, Λ′′_{−} le couple des 2 symboles et P_{+}, P_{−} la valeur absolue de leur défaut et ζ_{+}, ζ_{−} les signes des défauts; on fera une convention sur le signe quand le défaut est 0 ci-dessous, pour le moment on n’en a pas besoin. Ainsi P_{±} sont des nombres positifs ou nuls pairs. On pose encore r′′_{±} := (ζ_{+}P_{+} ± ζ_{−}P_{−})/2; on a ainsi 2 éléments de ℤ de même parité. On note n′′_{±} le rang de Λ′′_{±} et N′′_{±} := n′′_{±}−(h′′_{±})^{2} (où h′′_{±} = 1/2P_{±}). Ainsi Λ′′_{±} paramétrise une représentation du groupe de Weyl de type C de rang N′′_{±}. Tandis que le couple r′′_{+}, r′′_{−} détermine un faisceau cuspidal pour le groupe O(r_{+}^{′′2} + r_{−}^{′′2}, 𝔽_{q}) (cf. [13] 3.1) et l’on a: 2N′_{+} + 2N′_{−} + r_{+}^{′′2} + r_{−}^{′′2} = 2m′′. On aura à considérer simultanément 2 couples ordonnés formé chacun de 2 symboles (Λ′_{ϵ}, Λ′′_{ϵ}); ϵ ∈ {±} où, pour ϵ = + ou −, Λ′_{ϵ} est de défaut impair, I_{ϵ} et Λ′′_{ϵ} est de défaut pair ζ_{ϵ}P_{ϵ} avec P_{ϵ} ∈ ℕ et ζ_{ϵ} ∈ {±} avec ici la convention que si P_{ϵ} = 0 alors ζ_{ϵ} = (−1)^{(I_{ϵ}−1)/2}. Pour ϵ = +1 ou −1, on pose précisément Ŵ_{D(n[ϵ])} l’ensemble des couples de symboles Λ′_{ϵ}, Λ′′_{ϵ} comme ci-dessus dont la somme des rangs vaut n[ϵ]. Ainsi Ŵ_{D(n[+1])} ×Ŵ_{D(n[−1])} est un ensemble en bijection avec l’ensemble des quadruplets de symboles ordonnés dont le premier et le troisième sont de défaut impair et les 2 autres de défaut pair avec des conditions sur la somme des rangs. On pourra donc interpréter cet ensemble en utilisant ce qui est ci-dessus comme un ensemble des couples de représentations quadratiques unipotentes des groupes SO(2m′ + 1, 𝔽_{q}) × O(2m′′, 𝔽_{q}) où m′ + m′′ = n[+1] + n[−1]. Avec cette interprétation et ce que l’on a vu ci-dessus, les défauts des symboles déterminent des faisceaux cuspidaux, c’est-à-dire, combinatoirement, des nombres entiers \underline{r} := (r′_{+}, r′′_{+}, r′_{−}, r′′_{−}) et un signe σ′ avec r′_{+} positif et impair, r′_{−} positif ou nul et pair et r′′_{+}, r′′_{−} des entiers relatifs de même parité. On pose alors |\underline{r}| le quadruplet (r′_{+}, |r′′_{+}|, r′_{−}, |r′′_{−}|). C’est lui qui permet de construire des fonctions de Green utiles pour la localisation (cf. 4.1).

On note ℂ[Ŵ_{D(n[+1])}] ⊗ ℂ[Ŵ_{D(n[−1])}] l’espace vectoriel de base Ŵ_{D(n[+1])} × Ŵ_{D(n[−1])}.

3.3 Représentation de Springer-Lusztig

On fixe (ψ, ϵ) un paramètre discret de niveau 0 et on note encore χ la restriction de ψ au groupe de ramification de W_{F}. A un tel paramètre, on a associé une collection d’orbites U_{[u],ζ} où [u] ∈ [V P (χ)] et ζ ∈ {±1} et ϵ s’identifie à un caractère du groupe des composantes du centralisateur d’un élément de U_{[u],ζ}; on voit donc ϵ comme un morphisme de ∪_{[u],ζ}Jord(U_{[u],ζ}) dans {±1} (cf. 2.2). Pour [u] ∈ [V P (χ)], [u] ≠ ±1, on pose U_{[u]} := U_{[u],+} ∪ U_{[u],−} ou plutôt l’orbite unipotente de GL(m([u]), ℂ) engendrée et on pose:

n′[u]_{ψ,ϵ} := ∑_{α∈Jord(U_{[u]});ϵ(α)=+1} α,  n′′[u]_{ψ,ϵ} := ∑_{α∈Jord(U_{[u]});ϵ(α)=−1} α.

On définit alors U′_{[u]} comme l’orbite unipotente de GL(n′([u])_{ψ,ϵ}, ℂ) ayant comme bloc de Jordan l’ensemble des α blocs de Jordan de U_{[u]} pour lesquels ϵ(α) = +. On définit de même U′′_{[u]}. Pour u = ±1, on pose:

n′[u]_{ψ,ϵ} = ∑_{α∈Jord(U_{[u],+})} α,  n′′[u]_{ψ,ϵ} = ∑_{α∈Jord(U_{[u],−})} α.

Pour unifier les notations, on pose ici aussi U′_{[u]} := U_{[u],+} et U′′_{[u]} := U_{[u],−}. Cette collection de paires (n′[u]_{ψ,ϵ}, n′′[u]_{ψ,ϵ}) est naturellement notée \underline{n}′_{ψ,ϵ}, \underline{n′′}_{ψ,ϵ} et on voit la représentation de Springer-Lusztig comme l’élément de ℂ[Ŵ_{\underline{n}′_{ψ,ϵ},\underline{n′′}_{ψ,ϵ}}] défini ainsi: soit [u] ∈ [V P (χ)], [u] ≠ ±1; Springer a associé à l’orbite U′_{[u]} une représentation de 𝔖_{n′[u]_{ψ,ϵ}}, non irréductible en général, dans la cohomologie de la variété des Borel (on regarde toute la représentation pas seulement celle en degré maximal). Cela définit donc un élément de ℂ[𝔖̂_{n′[u]_{ψ,ϵ}}]. On fait la même construction en remplaçant U′_{[u]} par U′′_{[u]} et on obtient un élément de ℂ[𝔖̂_{n′′[u]_{ψ,ϵ}}]. Soit maintenant u = ±1. Ce sont les constructions de Lusztig qui sont rappelées en [8] 5.5 (et [12] 5.1). Ici la situation est un peu plus compliquée puisque l’on a 4 orbites les U_{u,ϵ′}, pour u, ϵ′ ∈ {±1} avec des systèmes locaux et non pas 2 comme dans [8]. A chacune de ces orbites, U_{u,ϵ′} avec son système local est associé par la correspondance de Springer généralisée, un entier noté k_{u,ϵ′} et une représentation non irréductible en général du groupe de Weyl de type C, W_{N_{u,ϵ′}}, où l’on a posé N_{u,ϵ′} := 1/2(∑_{α∈Jord(U_{u,ϵ′})} α − k_{u,ϵ′}(k_{u,ϵ′} + 1)). On considère les 2 couples indexés par le choix d’un élément u dans {±1} (k_{u,+} + k_{u,−} + 1, |k_{u,+} − k_{u,−}|) et les 2 signes ζ_{u} qui sont le signe de k_{u,+} − k_{u,−} quand ce nombre est non nul; s’il est nul le signe est (−1)^{k_{u,+}} par convention. Dans les couples l’un des nombres est impair et on le note I_{u} et l’autre est pair et est noté P_{u}. En regardant le produit tensoriel de la représentation de W_{N_{u,+}} avec celle de W_{N_{u,−}}, on obtient une représentation du produit qui se traduit en terme de couples de symboles dont le premier est de défaut I_{u} et le deuxième de défaut ζ_{u}P_{u}. C’est donc ainsi que l’on construit un élément de ℂ[Ŵ_{n′(u)_{ψ,ϵ},n′′(u)_{ψ,ϵ}}].

3.4 Induction, restriction

Je ne connais pas d’autre justification aux constructions faites ci-dessous que le fait que le résultat énoncé en [8] 5.5 et démontré en [12] suggère la conjecture de 6.2. Il s’agit de construire une application ρ ∘ ι de ℂ[Ŵ_{D(χ)}] dans lui-même. Cela provient d’un produit tensoriel d’applications ρ_{[u]} ∘ ι_{[u]} de même nature pour tout [u] ∈ [V P (χ)]. Ces applications sont définies en [8] 3.18 pour [u] = [±1] et [8] 3.1 et 3.2 dans le cas de [u] ≠ [±1]; on en rappelle la définition d’autant que l’on en donne une présentation un peu différente. Considérons le cas où [u] ≠ ±1; on note W_{m[u]} le groupe de Weyl de type C et de rang m([u]). Pour (n′[u], n′′[u]) ∈ D(m[u]), on définit de même W_{n′[u]}, W_{n′′[u]}; il existe une application naturelle de W_{n′[u]} × W_{n′′[u]} sur 𝔖_{n′[u]} × 𝔖_{n′′[u]}. On peut ainsi remonter des représentations de 𝔖_{n′[u]}×𝔖_{n′′[u]} en des représentations de W_{n′[u]} × W_{n′′[u]}; ensuite on tensorise la représentation obtenue par le caractère sgn_{CD} de W_{n′′[u]}. Puis on induit pour trouver un élément de ℂ[Ŵ_{m[u]}]. L’application ι_{[u]} est la somme sur toutes les paires dans D(m[u]) de toutes ces opérations; ι_{[u]} définit alors un isomorphisme de

⊕_{(n′[u],n′′[u])∈D(m[u])}ℂ[𝔖̂_{n′[u]} × 𝔖̂_{n′′[u]}] → ℂ[Ŵ_{m[u]}].

Fixons encore (n′[u], n′′[u]) ∈ D(m[u]). On voit maintenant 𝔖_{n′[u]} × 𝔖_{n′′[u]} comme un sous-ensemble de W_{n′[u]} × W_{n′′[u]}. Il y a en fait 2 façons presque naturelles d’envoyer le groupe 𝔖_{m} dans le groupe W_{m} (m ∈ ℕ); la première est l’homomorphisme évident σ ↦ w avec w(±i) = ±σ(i) pour tout i ∈ [1, m]. La deuxième façon n’est pas un homomorphisme de groupe car elle est définie par σ ↦ w avec w(±i) = ∓σ(i); bien que cette application n’est pas un morphisme de groupe, elle est équivariante pour l’action adjointe. En revenant à notre inclusion cherchée c’est le produit de la première façon appliquée à 𝔖_{n′[u]} avec la deuxième appliquée à 𝔖_{n′′[u]}. Cela permet alors de restreindre des éléments de ℂ[Ŵ_{m[u]}] en des éléments de ℂ[𝔖̂_{n′[u]} × 𝔖̂_{n′′[u]}]. En sommant ces constructions sur toutes les paires dans D(m[u]), on obtient ρ_{[u]}. Contrairement à ι_{[u]}, ρ_{[u]} n’est pas un isomorphisme mais ce qui est important mais qui n’intervient que de façon cachée dans 6.2 est que le composé ρ_{[u]} ∘ι_{[u]} est un isomorphisme si on se limite aux fonctions à support dans les éléments U-elliptiques, c’est-à-dire aux permutations qui se décomposent en produit de cycles de longueur impaire (cf. loc. cit.). On va décrire d’une autre façon cette application ρ ∘ ι précisément quand on se limite aux permutations qui se décomposent en produit de cycles de longueur impaire, en utilisant le fait qu’induire puis restreindre peut aussi se faire en sens inverse, d’abord restreindre puis induire. Pour cela soit m ∈ ℕ; on note D(m) l’ensemble des couples (m′, m′′) tels que m = m′+m′′ et DD(m) l’ensembles des quadruplets (m^{i,j}; i, j ∈ {′,′′ }) tels que ∑_{i,j} m^{i,j} = m. Soit (m′, m′′) ∈ D(m) et (m^{i,j}) ∈ DD(m); on dit que (m^{i,j}) <_{d} (m′, m′′) si m′ = m^{′,′} + m^{′,′′} et (m^{i,j}) <_{e} (m′, m′′) si m′ = m^{′,′} + m^{′′,′} (d est pour direct et e pour entrelacé). On notera plus génériquement \underline{m} et \underline{\underline{m}} les éléments de D(m) et de DD(m). Pour \underline{m} ∈ D(m), on considère de façon évidente le groupe 𝔖\underline{m} = 𝔖_{m′} × 𝔖_{m′′}; on définit de même les groupes 𝔖\underline{\underline{m}} pour \underline{\underline{m}} ∈ DD(m). On note χ\underline{\underline{m}} le signe

(−1)^{m^{′′,′′}}. Fixons \underline{m} ∈ D(m); pour \underline{\underline{m}} ∈ D(m), on définit l’application res_{d,\underline{m},\underline{\underline{m}}} de ℂ[𝔖̂\underline{m}] dans ℂ[𝔖̂\underline{\underline{m}}] comme l’application de restriction évidente si \underline{\underline{m}} <_{d} \underline{m} et 0 sinon. Et on note ind_{e,\underline{m},\underline{\underline{m}}} l’application de ℂ[𝔖̂\underline{\underline{m}}] dans ℂ[𝔖̂\underline{m}] qui est l’induction si \underline{\underline{m}} <_{e} \underline{m} et 0 sinon; ici il faut, pour l’induction, considérer l’inclusion naturelle de 𝔖\underline{\underline{m}} dans 𝔖\underline{m} où l’on échange d’abord 2e et 3e facteur. Remarque. Fixons \underline{m}_{0} ∈ D(m) et considérons ρ ∘ ι comme une application de ℂ[𝔖̂_{\underline{m}_{0}}] dans ⊕_{\underline{m}∈D(m)}ℂ[𝔖̂\underline{m}]. On a alors, en se limitant aux fonctions invariantes de support l’ensemble des permutations ayant des cycles de longueur impaire:

ρ ∘ ι = ⊕_{\underline{m}∈D(m)} ∑_{\underline{\underline{m}}∈DD(m)} ind_{e,\underline{m},\underline{\underline{m}}} ∘ (χ\underline{\underline{m}}res_{d,\underline{m}_{0},\underline{\underline{m}}})

Le seul point est de remarquer que sur les permutations n’ayant que des cycles de longueur impaire le signe χ\underline{\underline{m}} coïncide avec sgn_{CD} tel que définit ci-dessus. Définition. Dans la suite, on définit ρ ∘ ι comme dans la remarque ci-dessus.

Les définitions du cas [u] = [±1] sont plus compliquées (cf. [8] en particulier 3.18 et 3.19) à cause de la partie cuspidale. On les présente ainsi. On fixe ϵ ∈ {±1}; on doit définir une application de Ŵ_{D(n[ϵ])} dans ℂ[Ŵ_{D(n[ϵ]})] que l’on prolongera linéairement en un endomorphisme de ℂ[Ŵ_{D(n[ϵ]})]. Et on veut l’interpréter comme une restriction suivie d’une induction tordue par un caractère. Un élément de Ŵ_{D(n[ϵ])} est la donnée de deux symboles l’un de défaut impair et l’autre de défaut pair dont la somme des rangs est n′[ϵ]. De façon beaucoup plus compliquée mais équivalente (et qui permet de parler de représentations) c’est la donnée: d’un entier impair I_{ϵ}, d’un entier pair P_{ϵ}, d’un signe ζ_{ϵ}, de 2 entiers N′_{ϵ}, N′′_{ϵ} tous ces nombres vérifiant l’égalité N′_{ϵ} + N′′_{ϵ} + (I_{ϵ}^{2} + P_{ϵ}^{2} − 1)/4 = n[ϵ] et de 2 représentations irréductibles l’une de W_{N′_{ϵ}} et l’autre de W_{N′′_{ϵ}}, les groupes de Weyl de type C et de rang écrit en indice. On suppose que ζ_{ϵ} = (−1)^{(I_{ϵ}−1)/2} si P_{ϵ} = 0. On pose ζ̃_{ϵ} := (−1)^{(I_{ϵ}−1)/2}ζ_{ϵ}; en particulier, on a ζ̃ = 1 si P_{ϵ} = 0. On note χ̃ le caractère trivial si I_{ϵ} > P_{ϵ} et le caractère sgn_{CD} sinon.

On définit une application de ℂ[Ŵ_{N′_{ϵ}} × Ŵ_{N′′_{ϵ}}] dans

⊕_{(M′_{ϵ},M′′_{ϵ})|M′_{ϵ}+M′′_{ϵ}=N′_{ϵ}+N′′_{ϵ}}ℂ[Ŵ_{M′_{ϵ}} × Ŵ_{M′′_{ϵ}}]

par restriction puis induction tordue de façon similaire le cas des groupes symétriques; c’est-à-dire que l’on fixe M′_{ϵ}, M′′_{ϵ} avec M′_{ϵ} + M′′_{ϵ} = N′_{ϵ} + N′′_{ϵ} et considère les quadruplets N_{ϵ}^{i,j} où i, j ∈ {′,′′ } vérifiant N_{ϵ}^{i,′} + N_{ϵ}^{i,′′} = N_{ϵ}^{i} pour i =′ et ′′ et N_{ϵ}^{′,j} + N_{ϵ}^{′′,j} = M_{ϵ}^{j} pour j =′ et ′′, s’il en existe (sinon on ne fait rien pour ce choix de M′_{ϵ}, M′′_{ϵ}). On restreint la représentation de W_{Ñ′_{ϵ}} × WÑ′′_{ϵ} au groupe ×_{i,j}W_{N_{ϵ}^{i,j}}, on tensorise la restriction par le caractère de ce groupe

qui vaut: sgn_{CD}^{(1−ζ_{ϵ})/2} sur W_{N_{ϵ}^{′,′′}}, χ̃ sur W_{N_{ϵ}^{′′,′}}, 1 sur W_{N_{ϵ}^{′,′}} et χ̃sgn_{CD}^{(1+ζ_{ϵ})/2} sur W_{N_{ϵ}^{′′,′′}}. On induit au groupe W_{M′_{ϵ}} ×W_{M′′_{ϵ}} après avoir échangé les 2e et 3e facteurs, c’està-dire W_{N_{ϵ}^{′,′′}} et W_{N_{ϵ}^{′′,′}}. Puis on somme sur tous les quadruplets. Ensuite on

identifie ⊕_{(M′_{ϵ},M′′_{ϵ})|M′_{ϵ}+M′′_{ϵ}=N′_{ϵ}+N′′_{ϵ}}ℂ[Ŵ_{M′_{ϵ}}×Ŵ_{M′′_{ϵ}}] à l’ensemble des combinaisons linéaires de base les couples de symboles ordonnés le premier de défaut impair égal à I_{ϵ} et le deuxième de défaut pair égal à ζ̃_{ϵ}P_{ϵ}. C’est la construction de [8] 3.18 que l’on a complètement explicitée. C’est assez compliqué; remarquons que la présence du caractère χ̃ n’a joué de rôle dans [8] qu’en 5.5. Il en est de même ici, ce caractère ne joue aucun rôle sauf dans l’énoncé de la conjecture 6.2. La prise en compte de ζ_{ϵ} dans la définition, elle joue un rôle mais dans la définition de k_{χ}, ζ_{ϵ} aussi joue un rôle et en fait ces 2 prises en compte se compensent en grande partie (cf. la preuve de 4.2).

4 Localisation

4.1 Localisation des faisceaux caractères

On va avoir besoin d’une formule due à Lusztig qui calcule les faisceaux caractères au voisinage des points semi-simples en terme de fonctions de Green. Elle est écrite en toute généralité dans [5] et explicitée dans certains cas dans [13] et [8]; c’est la présentation de [13] par.7 que l’on reprend. On fixe un élément semi-simple g_{s} de SO(2n + 1, F)_{♯} et on suppose que toutes les valeurs propres de g_{s} sont des racines de l’unité d’ordre premier à p. On fixe aussi g_{u} un élément topologiquement unipotent de SO(2n + 1, F)_{♯} commutant à g_{s}. On suppose qu’il existe un parahorique K_{n′,n′′} (pour n′, n′′ convenables) contenant g_{s}g_{u} et on note s, u les réductions de g_{s} et g_{u} modulo le radical prop-unipotent. On se donne aussi \underline{n} ∈ D(χ) que l’on suppose relatif à (n′, n′′) au sens ∑_{[u]∈[V P (χ)]} n′([u])ℓ_{[u]} = n′ et ∑_{[u]∈[V P (χ)]} n′′([u])ℓ_{[u]} = n′′. Dans la suite, on fixe, pour ϵ ∈ {±1}, des données I_{ϵ}, P_{ϵ}, ζ̃_{ϵ} comme dans les paragraphes précédents, c’est-à-dire une donnée cuspidale c̃usp; on a choisi cette notation pour qu’elle soit analogue à celle de la fin de 3.4. Donc en particulier, la propriété de ζ̃_{ϵ} est de vérifier ζ̃_{ϵ} = + si P_{ϵ} = 0. Et dans l’espace vectoriel

⊕_{ϵ∈{±1}} ⊕_{m′(ϵ),m′′(ϵ);m′(ϵ)+m′′(ϵ)=m(ϵ)} ℂ[Ŵ_{m′(ϵ)}] ⊗ ℂ[Ŵ_{m′(ϵ)}]

on ne regarde que les sous-espaces vectoriels correspondant aux symboles relatifs à ces donnés cuspidales. Pour manifester cette restriction, on ajoute c̃usp en indice. En fonction de ce que l’on a rappelé en 3.2 cela revient au même que de regarder les représentations des différents groupes ×_{ϵ∈{±1}}W_{N′(ϵ)} × W_{N′′(ϵ)}, où W est un groupe de Weyl de type C et où les nombres N′(ϵ), N′′(ϵ) vérifient les conditions:

2N′(ϵ) + 2N′′(ϵ) + (I_{ϵ}^{2} + P_{ϵ}^{2})/2 = m(ϵ).

On utilise la convention que si P_{ϵ} = 0 alors ζ̃ = +1. On pose ζ_{ϵ} = (−1)^{(I_{ϵ}−1)/2}ζ̃_{ϵ} et on retrouve la convention de 3.4 que si P_{ϵ} = 0, alors ζ_{ϵ} = (−1)^{(I_{ϵ}−1)/2}. Soit alors ϕ un élément de ℂ[Ŵ_{\underline{n},c̃usp}]. Le point est de calculer k_{χ}(ϕ)(g_{s}g_{u}) à l’aide des fonctions de Green du commutant de s dans le groupe K_{n′,n′′} en réduction. Pour le faire, on suppose s elliptique. On décrit d’abord le commutant de g_{s} dans SO(2n + 1, F); on note [V P (g_{s})] l’ensemble des valeurs propres de g_{s} regroupées en paquets λ et λ′ sont dans le même paquet s’il existe a ∈ ℕ tel que λ′ = λ^{q^{a}}. On note m([λ]) la multiplicité de λ. Si λ ≠ ±1, on note ℓ_{[λ]} := 1/2 |[λ]|. Pour unifier pour ϵ = ±, on pose ℓ_{ϵ} = 1. Pour λ ≠ ±1, on note F_{2ℓ_{[λ]}} l’extension non ramifiée de F de degré 2ℓ_{[λ]} et il existe une forme hermitienne (pour l’extension F_{2ℓ_{[λ]}}/F_{ℓ_{[λ]}}) < , >_{[λ]} sur l’espace vectoriel sur F_{2ℓ_{[λ]}} de dimension m([λ]) tel que la partie du commutant de g_{s} relative à la valeur propre λ soit précisément le groupe unitaire de cette forme. Des formes hermitiennes, comme ci-dessus, il y en a exactement 2 qui se distinguent par la parité de la valuation du déterminant, donc par un signe que nous noterons ϵ_{[λ]}. Si l’on note U_{ϵ_{[λ]}} le groupe de la forme correspondant à ϵ_{[λ]}, on rappelle que U_{ϵ_{[λ]}} ≃ U_{−ϵ_{[λ]}} si m([λ]) est impair; mais nos constructions dépendront de ϵ_{[λ]} comme en [8] 3.3 et suivants, et il faut donc garder la distinction. Une valeur propre dans {±1} introduit une forme orthogonale < , >_{±} (± est ici le signe de la valeur propre considérée) sur un F -espace vectoriel de dimension m(±1) et la partie du commutant qui lui correspond est le groupe orthogonal de la forme; on utilise la notation η_{±} et ϵ_{±} pour le signe du discriminant et l’invariant de Hasse; il y a toujours un problème sur la normalisation du discriminant et ici on suit les conventions de [8], c’est-à-dire que le discriminant est invariant par ajout de plans hyperboliques mais il n’est donc pas additif. Le signe du discriminant est l’image du discriminant par le caractère quadratique non ramifié de F^{∗} et la non additivité n’est un problème pour le signe du discriminant que si −1 n’est pas un carré. Remarquons tout de suite, puisque l’on en aura besoin, que toutes les quantités qui viennent d’être introduites sont constantes sur la classe de conjugaison stable de g_{s} sauf la famille des ϵ_{[λ]} pour [λ] ∈ [V P (g_{s})]. Cette famille est soumise à la condition ×_{[λ]}ϵ_{[λ]} = ♯ et l’ensemble de ces familles soumises à cette condition paramétrise l’ensemble des classes de conjugaison dans la classe de conjugaison stable de g_{s} dans SO(2n + 1, F)_{♯}. Si l’on enlève la condition de produit, l’ensemble plus grand paramétrise la classe de conjugaison stable de g_{s} dans SO(2n + 1, F)_{iso} ∪ SO(2n + 1, F)_{an}.

Revenons au parahorique K_{n′,n′′} que l’on a fixé au début et qui contient g_{s} et g_{u}. On définit s, u comme ci-dessus. Décrivons le commutant de s dans la partie réductive du parahorique; on écrit s = (s′, s′′) avec s′ ∈ SO(2n′ + 1, 𝔽_{q}) et s′′ ∈ O(2n′′, 𝔽_{q}). Les valeurs propres de s sont les ”mêmes“ que celles de g_{s} ; pour [λ] ∈ [V P (g_{s})], on note m′([λ]) la multiplicité d’un élément λ ∈ [λ] comme valeur propre de s′ et m′′([λ]) l’analogue pour s′′. On a m′([λ]) + m′′([λ]) = m([λ]). De même pour [λ] ∈ [V P (g_{s})], λ ≠ ±1, il existe une forme hermitienne < , >′_{[λ]} (resp. une forme hermitienne < , >′′_{[λ]}) sur un 𝔽_{2ℓ_{[λ]}} espace vectoriel de dimension m′([λ]) (resp. m′′([λ])) et des formes orthogonales pour λ = ±1, telles que le commutant de s′ (resp. s′′) dans SO(2n′+1, 𝔽_{q}) (resp. O(2n′′, 𝔽_{q})) soit les éléments de déterminant 1 dans le produit (resp. le produit) des groupes de ces formes. Il y a évidemment des rapports entre < , >′_{[λ]}, < , >′′_{[λ]} et < , >_{[λ]}. Supposons d’abord que λ ∉ {±1}. Si ϵ_{[λ]} = 1 (défini ci-dessus), alors m′′([λ]) est nécessairement pair alors que ce nombre est impair si ϵ_{[λ]} = −1, ensuite < , >′_{[λ]} ⊗ < , >′′_{[λ]} est obtenu par réduction (à l’aide d’un réseau convenable) de < , >_{[λ]}. Supposons maintenant que λ ∈ {±1}. Alors m′′([λ]) a la même parité que v_{F} (η_{[λ]}). On note η′_{[λ]} et η′′_{[λ]} les discriminants des formes < , >′_{[λ]} et < , >′′_{[λ]}; on les voit comme des signes, c’est-à-dire qu’au lieu de regarder le discriminant comme un élément de 𝔽_{q} modulo les carrés, on regarde sont image dans {±1}. Si v_{F} (η_{[λ]}) est pair, l’image de η′′_{[λ]} dans 𝔽_{q}^{∗}/𝔽_{q}^{∗2} est ϵ_{[λ]} tandis que si v_{F} (η_{[λ]}) est impair c’est l’image de η′_{[λ]} dans le même groupe qui est ϵ_{[λ]}. De plus le signe du discriminant de < , >_{[λ]} vérifie: sgn(η_{[λ]}) = sgn(−1)^{m′([λ])m′′([λ])}(−1)^{v_{F} (η_{[λ]})}ϵ_{[λ]}η_{[λ]}^{i}, où i([λ]) =′ si v_{F} (η_{[λ]}) est pair et ′′ sinon. On pose ici pour [λ] ≠ [±1], W_{\underline{m}_{gs} (λ)} := 𝔖_{m′_{gs} (λ)} × 𝔖_{m′′_{gs} (λ)}. Pour λ = ±1, il y a des difficultés liées à l’existence de faisceaux cuspidaux; ici on ne s’intéresse qu’aux fonctions de Green et les paramètres pour la partie cuspidales sont alors des quadruplets d’entiers positifs ou nuls. On écrit les choses comme on en aura besoin; on avait fixé ci-dessus une donnée cuspidale, c̃usp; on note |cusp| un quadruplet d’entiers positifs ou nuls, |r|_{ϵ′}^{i} pour i ∈ {′,′′ } et ϵ′ ∈ {±1}, qui est la partie cuspidale pour les fonctions de Green. Ce quadruplet dépend de c̃usp par les formules: |r|′_{+1}, |r|′_{−1} est à l’ordre près le couple I_{+} + I_{−}, |I_{+} − I_{−}| avec |r|′_{+1} impair par hypothèse et |r|′′_{+1}, |r|′′_{−1} est à l’ordre près le couple P_{+} + P_{−}, |P_{+} − P_{−}| avec |r|′′_{+1} ≥ |r|′′_{−1} si et seulement si ζ_{+}ζ_{−} = (−1)^{1+(I_{+}+I_{−})/2}. On pose alors pour λ ∈ {±1} que l’on note plutôt ϵ′, et pour un couple d’entier m′(ϵ′), m′′(ϵ′) vérifiant m′(ϵ′) + m′′(ϵ′) = m(ϵ′)

W_{m′(ϵ′),m′′(ϵ′),|cusp|} := W_{1/2(m′(ϵ′)−|r′_{ϵ′} |^{2})} × W_{1/2(m′′(ϵ′)−|r′′_{ϵ′} |^{2})}

étant entendu que ce groupe est nul si l’un des indices n’est pas un entier positif ou nul. Pour la donnée d’un ensemble de couple \underline{m}_{g_{s}} := \{m′(λ), m′′(λ) ∈ D(m_{g_{s}}(λ))\}, on pose W_{\underline{m}_{gs} ,|cusp|} le produit des groupes définis ci-dessus. Et les fonctions de Green donnent une application de ℂ[Ŵ_{\underline{m}_{gs}}] dans l’ensemble des fonctions à support unipotent du commutant de g_{s} dans SO(2n′ +1, 𝔽_{q})×O(2n′′, 𝔽_{q}); cela s’interprète encore comme des fonctions à support dans l’ensemble des éléments topologiquement unipotents de K_{n′,n′′} commutant à g_{s}. Quand on somme sur tous les \underline{m}_{g_{s}}, on définit ℂ[Ŵ_{D(g_{s}),|cusp|}] et on s’autorisera la suppression du cusp quand il n’y a pas d’ambiguité. On revient maintenant à ϕ et donc pour tout [u] ∈ [V P (χ)] on a un élément (n′[u], n′′[u]) ∈ D(m([u])) de telle sorte que ∑_{[u]∈[V P (χ)]} n′[u]ℓ_{[u]} = n′ et on rappelle que l’on a aussi fixé une donnée cuspidale, c̃usp. On note \underline{n} l’ensemble de ces paires et on a défini W_{\underline{n},c̃usp}. On va définir une application de ℂ[Ŵ\underline{n}] dans ℂ[Ŵ_{\underline{m}_{gs}}]. Mais on a besoin d’un certain nombre d’objets intermédiaires. Soit une collection de paires \underline{ν}([u], [λ]) = (ν′([u], [λ]), ν′′([u], [λ])) soumises aux conditions, où ℓ_{[u]} et ℓ_{[λ]} sont comme ci-dessus (pour a, b des entiers, on note (a, b) le pgcd de ces nombres):

∑_{[u]} ν̃([u], [λ])ℓ_{[u]}/(ℓ_{[u]}, ℓ_{[λ]}) = \underline{m}_{g_{s}}([λ]);

la somme de couples, se fait terme à terme. Et on a aussi:

∑_{[λ]} ν([u], [λ])/(ℓ_{[u]}, ℓ_{[λ]}) = \underline{n}([u]).

On pose W_{ν([u],[λ])} := 𝔖_{ν′([u],[λ])} ×𝔖_{ν′′([u],[λ])} si soit [u] soit [λ] n’est un élément de {±1}. Pour traiter le cas de ±1, on réutilise la donnée de la partie cuspidale |cusp| et on pose, pour ϵ ∈ \{±1\} et ϵ′ ∈ \{±1\} W_{\underline{ν}([ϵ],[ϵ′])} = W_{1/2(ν′([ϵ],[ϵ′])−(|r|′_{ϵ′})^{2})} × W_{1/2(ν′′([ϵ],[ϵ′])−(|r|′′_{ϵ′})^{2})}; en particulier cela sous-entend que ces nombres écrits en indice sont des entiers positifs ou nuls (sinon le groupe défini est 0). Et on note W_{\underline{ν}(χ,g_{s}),cusp} l’union de tous ces groupes. Pour δ =′ ou ′′ et pour [u] ∈ [V P (χ)], [λ] ∈ [V P (g_{s})], on a besoin de définir une application de W_{ν^{δ}([u],[λ])} dans W_{n^{δ}([u])_{[λ]}} et dans W_{n^{δ}([λ])_{[u]}} on précisera dans chaque cas les rapports entre les entiers ν^{δ}([u], [λ]), n^{δ}([u])_{[λ]} et ν^{δ}([λ])_{[u]}. Cette application n’est pas un morphisme de groupes mais simplement compatible à l’action adjointe; au passage, on définit aussi une fonction invariante par conjugaison sur W_{ν^{δ}([u],[λ])} que l’on note χ_{[u],[λ]}^{δ}. Le point qui n’est pas nouveau est que pour les groupes unitaires qui interviennent soit pour [u] quand [u] ≠ ±1 soit pour [λ] quand [λ] ≠ ±1, un tore n’est pas vraiment associé à un élément du groupe symétrique convenable mais au produit d’un tel élément par un Frobénius. On décrit ces constructions au cas par cas: premier cas: [u], [λ] ∈ ±1; ici, on veut ν^{δ}([u], [λ]) = n^{δ}([u])_{[λ]} et l’application de W_{ν^{δ}([u],[λ])} = W_{ν^{δ}([u],[λ])} dans W_{n^{δ}([u])_{[λ]}} = W_{n^{δ}([u])_{[λ]}} est l’identité. On fait une construction analogue en remplaçant [u] par [λ]. Quand à la fonction χ_{[u],[λ]}^{δ} c’est l’identité sauf si

u = λ = −1 où c’est le sgn_{CD}(−1)^{ν^{δ}([u],[λ])(q−1)/2}. deuxième cas: [u] ≠ [±1], [λ] ≠ [±1] et ℓ_{[u]} et ℓ_{[λ]} sont divisibles par la même puissance de 2 (cette dernière condition donne des renseignements sur les tores des groupes unitaires intervenant). L’application de W_{ν^{δ}([u],[λ])} = 𝔖_{ν^{δ}([u],[λ])} dans 𝔖_{n^{δ}([u])_{[λ]}} se décrit quand n^{δ}([u])_{[λ]} = ν^{δ}([u], [λ])ℓ_{[λ]}/(ℓ_{[u]}, ℓ_{[λ]}). A une permutation dont les cycles sont (α_{1}, ⋯, α_{r}) on associe la permutation de cycles (α_{1}ℓ_{[λ]}/(ℓ_{[u]}, ℓ_{[λ]}), ⋯, α_{r}ℓ_{[λ]}/(ℓ_{[u]}, ℓ_{[λ]})). Quand on considère [λ] au lieu de [u], on échange simplement les rôles de ℓ_{[u]} et ℓ_{[λ]}. Pour décrire la fonction χ_{[u],[λ]}^{δ}, on a besoin d’une notation auxiliaire. On pose, pour α ∈ ℕ, y ∈ ℚ:

ϕ_{α,[λ],y} := y^{−1}(ℓ_{[λ]})^{−1}(λ^{α} +λ^{αq} +⋯+λ^{αq^{ℓ_{[λ]}−1}} +λ^{−α} +λ^{−αq} +⋯+λ^{−αq^{ℓ_{[λ]}−1}}),

où λ est n’importe quel élément dans [λ]. Alors sur l’élément w associé aux cycles α_{1}, ⋯, α_{r}, χ_{[u],[λ]}^{δ}(w) = ∏_{s∈[1,r]} ϕ_{α_{s},[λ],(ℓ_{[u]},ℓ_{[λ]})}. troisième cas: [u] ≠ [±1], [λ] ≠ [±1] et ℓ_{[u]} et ℓ_{[λ]} ne sont pas divisibles par la même puissance de 2. Ici on veut alors, n^{δ}([u])_{[λ]} = 2ν^{δ}([u], [λ])ℓ_{[λ]}/(ℓ_{[u]}, ℓ_{[λ]}). A une permutation dont les cycles sont (α_{1}, ⋯, α_{r}) on associe, ici, la permutation de cycles (2α_{1}ℓ_{[λ]}/(ℓ_{[u]}, ℓ_{[λ]}), ⋯, 2α_{r}ℓ_{[λ]}/(ℓ_{[u]}, ℓ_{[λ]})). Quand on considère [λ] au lieu de [u], on échange simplement les rôles de ℓ_{[u]} et ℓ_{[λ]}. Et la fonction χ^{δ}([u], [λ]) vaut sur ce w, ∏_{s∈[1,r]} ϕ_{α_{s},[λ],(ℓ_{[u]},ℓ_{[λ]})/2}. quatrième cas: u = ±1 et [λ] ≠ [±1]. Ici on veut n^{δ}([u])_{[λ]} = ν^{δ}([u], [λ])ℓ_{[λ]} et n^{δ}([λ])_{[u]} = ν^{δ}([u], [λ]). L’application de 𝔖_{ν^{δ}([u],[λ])} dans 𝔖_{n^{δ}([λ])_{[u]}} est l’identité. L’application de 𝔖_{ν^{δ}([u],[λ])} dans W_{n^{δ}([u])_{[λ]}} envoie l’élément w de cycle (α_{1}, ⋯, α_{r}, α′_{1}, ⋯, α′_{r′}), où les α sont pairs et les α′ impairs sur l’élément de W_{n^{δ}([u])_{[λ]}} qui correspond à 2 partitions (α_{1}ℓ_{[λ]}, ⋯, α_{r}ℓ_{[λ]}; α′_{1}ℓ_{[λ]}, ⋯, α′_{r′}ℓ_{[λ]}). Quand à la fonction χ^{δ}([u], [λ]), c’est l’identité si [u] = [+1] et est constante de valeur (−1)^{ν^{δ}([u],[λ])(1+q^{ℓ_{[λ]}} )/2} pour [u] = [−1]. cinquième cas: [u] ≠ [±1] et λ = ±1. On échange les rôles de [u] et [λ] dans le cas ci-dessus. Il faut aussi prendre en compte une contribution de la partie cuspidale; là il n’y a pas de groupes mais simplement une fonction à définir, χ_{cusp,\underline{ν}}^{δ} (où δ ∈ \{′,′′ \} comme ci-dessus) qui dépend de \underline{ν} ∈ D(χ, g_{s}) et de w ∈ W\underline{ν}. Pour cela, on pose χ_{+,\underline{ν}}^{δ}(w) := (−1)^{∑_{[u]∈[V P (χ)]−\{±1\}} ν^{δ}([u],+)}sgn_{CD}w_{ν^{δ}(+,+)}w_{ν^{δ}(−,+)} et une définition analogue, χ_{−,ν}^{δ} en remplaçant + par −. On note aussi ϵ_{I} (resp. ϵ_{P}) le signe tel que I_{ϵ_{I}} − I_{−ϵ_{I}} > 0 (resp. P_{ϵ_{P}} − P_{−ϵ_{P}} > 0); si les 2 nombres sont égaux à 0, on prend le signe ϵ_{I} = ϵ_{P} = + par convention et si l’un seulement des nombres vaut 0, alors on prend par convention ϵ_{I} = ϵ_{P}. On pose r′_{im} l’élément impair du couple (I_{+} + I_{−})/2, |I_{+} − I_{−}|/2 et l’on a (x′ ∈ ℕ ne nous sert à rien mais est le δ(r′, r′′) de [13] et il en est de même pour x′′):

χ′_{cusp,\underline{ν}}(w) = q^{x′}(−1)^{(q−1)(r′−1)/4}×

(χ′_{+,\underline{ν}}(w)χ′_{−,\underline{ν}}(w)η′_{+}(g_{s})η′_{−}(g_{s}))^{(I_{ϵ_{I}} −1)/2} \begin{cases}1 si ϵ_{I} = + \\ η′_{−}(g_{s})χ′_{−,\underline{ν}}(w) si ϵ_{I} = −. \end{cases}

ci-dessous y′′ est r′′_{+} si ce nombre est pair, et r′′_{−} − 1 sinon,

χ′′_{cusp,\underline{ν}}(w) = q^{x′′}(−1)^{(}y′′(q − 1)/4)(η′′_{+}(g_{s})η′′_{−}(g_{s})χ′′_{+,\underline{ν}}χ′′_{−,\underline{ν}})^{(I_{ϵ_{P}} −1)/2}
1 si ζ_{ϵ_{P}} > 0 et ϵ_{P} = +
η′′_{−}(g_{s})χ′′_{−,\underline{ν}}(w) si ζ_{ϵ_{P}} = + et ϵ_{P} = −
η′′_{+}(g_{s})χ′′_{+,\underline{ν}}(w) si ζ_{ϵ_{P}} = − et ϵ_{P} = −
η′′_{+}(g_{s})η′′_{−}(g_{s})χ′′_{+,\underline{ν}}(w)χ′′_{−,\underline{ν}}(w) si ζ_{ϵ_{P}} = − et ϵ_{P} = +.

Le produit de ces 2 fonctions se simplifie un peu. On écrit ce produit comme le produit des 3 termes C_{cusp} qui est une constante, c_{cusp}(g_{s}) := (η′_{+}(g_{s})η′_{−}(g_{s}))^{(I_{ϵ_{I}} −1)/2}(η′′_{+}(g_{s})η′′_{−}(g_{s}))^{(I_{ϵ_{P}} −1)/2}×

\begin{cases}1 si ζ_{ϵ_{P}} = + \\ η′_{+}(g_{s})η′_{−}(g_{s}) si ζ_{ϵ_{P}} = − \end{cases} × \begin{cases}1 si ϵ_{I} = + \\ η′_{−}(g_{s}) si ϵ_{I} = − \end{cases} × \begin{cases}1 si ϵ_{P} = + \\ η′′_{−}(g_{s}) si ϵ_{P} = − \end{cases}

χ_{cusp,\underline{ν}}(w) := (χ′_{+,\underline{ν}}(w)χ′_{−,\underline{ν}}(w))^{(I_{ϵ_{I}} −1)/2}(χ′′_{+,\underline{ν}}(w)χ′′_{−,\underline{ν}}(w))^{(I_{ϵ_{P}} −1)/2}×

\begin{cases}1 si ζ_{ϵ_{P}} = + \\ χ′_{+\underline{ν}}(w)χ′_{−,\underline{ν}}(w) si ζ_{ϵ_{P}} = − \end{cases} ×\begin{cases}1 si ϵ_{I} = + \\ χ′_{−,\underline{ν}}(w) si ϵ_{I} = − \end{cases} ×\begin{cases}1 si ϵ_{P} = + \\ χ′′_{−,\underline{ν}}(w) si ϵ_{P} = − \end{cases}

Supposons maintenant donné \underline{n} ∈ D(χ) et \underline{m} ∈ D(g_{s}). Soit \underline{ν} ∈ D(χ, g_{s}) et on suppose que les égalités suivantes sont vérifiées: pour δ ∈ {′,′′ }, pour tout [u] ∈ [V P (χ)],

∑_{[λ]∈[V P (g_{s})]} ν^{δ}([u], [λ])2^{x_{[u],[λ]}}ℓ_{[λ]}/(ℓ_{[u]}, ℓ_{[λ]}) = n^{δ}([u]),

où x_{[u],[λ]} = 0 sauf si ℓ_{[u]}/(ℓ_{[u]}, ℓ_{[λ]}) ou ℓ_{[λ]}/(ℓ_{[u]}, ℓ_{[λ]}) est pair, où il vaut 1. Et pour δ ∈ {′,′′ }, pour tout [λ] ∈ [V P (g_{s})],

∑_{[u]∈[V P (χ)]} ν^{δ}([u], [λ])2^{x_{[u],[λ]}}ℓ_{[u]}/(ℓ_{[u]}, ℓ_{[λ]}) = m^{δ}([λ]),

où x_{[u],[λ]} est comme ci-dessus. En faisant des produits convenables des constructions ci-dessus, on a une application de W\underline{ν} d’une part dans W\underline{n} et d’autre part dans W\underline{m}. Partant donc d’un élément de ℂ[Ŵ\underline{n}] on peut le restreindre en un élément de ℂ[Ŵ\underline{ν}], le multiplier par le χ′_{cusp,\underline{ν}}χ′′_{cusp,\underline{ν}} ∏_{[u]∈[V P (χ)],[λ]∈[V P (g_{s})]} χ′([u], [λ])χ′′([u], [λ]) puis l’induire en un élément de ℂ[Ŵ\underline{m}]. L’application cherchée est la somme sur toutes les collections \underline{ν}(χ, g_{s}) comme ci-dessus. Elle est notée, loc_{g_{s},\underline{m}}. Définition. Pour g_{s} comme ci-dessus, on note loc_{g_{s}} := ∑_{\underline{m}∈D(g_{s})} loc_{g_{s};\underline{m}}.

On rappelle que les fonctions de Green définissent, pour \underline{m} ∈ D(g_{s}), une application de Ŵ\underline{m} dans les fonctions sur le centralisateur de s (la réduction de g_{s}) dans la réduction de K_{n′,n′′}; on remarque que n′ et n′′ sont déterminés par \underline{m}. On remonte ensuite en des fonctions sur un sous-groupe compact ouvert convenable du centralisateur de g_{s} dans SO(2n + 1, F)_{♯} par invariance sous le radical pro-p-unipotent puis on les prolonge par zéro en des fonctions sur ce centralisateur. On note Q cette application. On peut donc définir Q(loc_{g_{s}}(ρ)) pour ρ ∈ Ŵ\underline{n} où \underline{n} ∈ D(χ) (avec une donnée cuspidale fixée) Remarque. La définition précédente ne dépend de g_{s} dans sa classe de conjugaison stable que par le facteur c_{cusp}(g_{s}). Pour cette section, plutôt que de travailler avec k_{χ} qui a été normalisé pour avoir de bonnes propriétés (cf. [13]), on énonce un résultat pour un analogue de k_{χ} non normalisé, c’est-à-dire que les fonctions de Green généralisées associent, pour \underline{n} fixé dans D(χ) et une donnée cuspidale fixée c̃usp, à un élément du groupe w ∈ W_{\underline{n},c̃usp} une fonction sur un groupe fini convenable. Et, pour ϕ une représentation de W_{\underline{n},c̃usp}, on a défini k_{χ}(ϕ) := ∑_{w∈W_{\underline{n},c̃usp}} λ(w)tr(ϕ)(w)k_{χ}(w), où λ(w) est un caractère qui dépend de la donnée cuspidale. On utilise ici simplement k_{χ}^{nn}(ϕ) l’analogue en supprimant λ. La raison est que ρ ∘ ι dépend aussi du support cuspidal et que l’on ne s’intéresse qu’au composé k_{χ} ∘ ρ ∘ ι; les normalisations s’annulent partiellement et il vaut donc mieux ne pas se fatiguer à les faire. Et on a, pour g_{u} un élément topologiquement unipotent qui commute à g_{s}: Lemme: Pour c̃usp, \underline{n} et ϕ comme ci-dessus, (i)k_{χ}^{nn}(ϕ)(g_{s}g_{u}) = Q(loc_{g_{s};\underline{m}}(ϕ))(g_{u}). (ii)On a les égalités d’intégrales orbitales (où le groupe est mis en exposant)

I^{SO(2n+1,F)_{♯}}(g_{s}, k_{χ}^{nn}(ϕ)) = I^{Cent_{SO(2n+1,F)}^{0}g_{s}}(g_{u}, Q(loc_{g_{s}}(ϕ)).

(i) C’est un problème sur le groupe fini SO(2n′ +1, 𝔽_{q})×O(2n′′, 𝔽_{q}) où il s’agit de localiser au voisinage de la réduction de g_{s} le faisceau caractère associé à \underline{ρ}. Cela a été fait en toute généralité par Lusztig et il faut expliciter ses formules. En [8] 2.16, on a traité le cas où [V P (χ)] est réduit à +1 mais il n’y a pas de restriction sur g_{s}. En [13] est traité le cas où [V P (χ)] et [V P (g_{s})] contiennent +1 et −1. La formule de Lusztig s’applique aux faisceaux caractères associés à des éléments de W_{D(χ)} et non pas aux représentations de ce groupe. La démonstration de [13] 7.1 qui se place dans ce cadre est très générale et elle montre que le seul point est le calcul de la constante notée z_{2} en loc.cit. Cette constante est la somme des valeurs du caractère déterminé par χ sur les conjugués de s. Le calcul est plus compliqué qu’en loc.cite mais c’est le calcul des χ′([u], [λ]) et χ′′([u], [λ]). Ensuite [13] 7.2 déduit le résultat cherché. (ii) pour pouvoir utiliser (i), on décompose l’orbite de g_{s} sous SO(2n + 1, F)_{♯} en orbites sous K_{n′,n′′} (le parahorique qui sert à la définition de k_{χ}(\underline{ρ})). Ces orbites sont paramétrées par les éléments de D(g_{s}); seuls comptent les orbites qui coupent K_{n′,n′′} et pour cela il faut la relation:

∑_{[λ]∈[V P (χ)]} m′([λ])ℓ_{[λ]} = n′.

Si cette relation n’est pas satisfaite, on remarque que les sommes intervenant sont vides et loc_{g_{s};\underline{m}}(\underline{ρ}) = 0. On n’a donc pas à se préoccuper de cette condition. Ensuite on calcule l’intégrale sous chaque K_{n′,n′′}-orbite en utilisant (i). Il y a clairement des mesures à prendre en compte; c’est fait en [8] 3.17, le |W (d)| n’intervient pas pour nous car il a été pris en compte quand on travaille avec des représentations des groupes W et non les éléments de ces groupes et les constantes (c(γ), c(γ)_{♯} de loc.cit) ont été mises dans la définition de loc_{g_{s}}.

4.2 Restriction des représentations et localisation des faisceaux caractères

Dans cette section, il s’agit de montrer que l’opération de restriction aux parahoriques des représentations commute à l’action de restriction des caractères auprès des éléments semi-simples elliptiques, même si l’on ne peut l’exprimer en ces termes tant que la conjecture 6.2 n’est pas démontrée. En plus comme on peut s’y attendre, vu la complexité des formules, il n’y a vraiment commutation que dans les cas favorables. On fixe une donnée cuspidale, cusp, pour les faisceaux caractères, c’est-à-dire pour nous, 2 entiers impairs, I_{+} et I_{−} et 2 entiers pairs P_{+}, P_{−} ainsi que 2 signes ζ_{+}, ζ_{−} avec la convention que si pour ϵ = ±, P_{ϵ} = 0 alors ζ_{ϵ} = (−1)^{(I_{ϵ}−1)/2}. Dans ℂ[Ŵ_{D(χ)}], on ne considère que la partie relative à cette donnée cuspidale; on définit comme en 3.4 une autre donnée cuspidale c̃usp simplement en changeant les signes, ζ̃_{±} := (−1)^{(I_{±}−1)/2}ζ_{±} et on reprend la notation χ̃ de loc.cite; on note˜ l’application évidente de la partie de ℂ[Ŵ_{D(χ)}] relative à cusp dans son homologue relative à c̃usp qui en terme de représentation de groupes de Weyl est tout simplement l’identité (mais on a changé le support cuspidal) composé avec la multiplication par le caractère χ̃. Soit g_{s} un élément semi-simple elliptique dont les valeurs propres sont des racines de l’unité d’ordre premier à p. On reprend la notation [V P (g_{s})] pour signifier l’ensemble des valeurs propres de g_{s} regroupées en paquets λ, λ′ sont dans le même paquet s’il existe a ∈ ℕ tel que λ′ = λ^{q^{a}}; la multiplicité d’une valeur propre λ est notée m([λ]) car elle ne dépend que du paquet auquel λ appartient. On note D(g_{s}) l’ensemble des décompositions {(m′([λ]), m′′([λ])) ∈ D(m([λ]))\}_{[λ]∈[V P (g_{s})]}; pour chaque élément \underline{m} ∈ D(g_{s}), on a une classe d’association de parahorique K_{n′,n′′} où n′ = ∑_{[λ]} m′([λ]) et à l’intérieur de ce parahorique une classe de conjugaison d’éléments semi-simples de réduction semi-simple elliptique incluse dans la classe de conjugaison de g_{s}; on connait les valeurs propres des éléments dans cette classe de conjugaison. Pour \underline{m} ∈ D(g_{s}), on reprend la notation W\underline{m} de 4.1. On a défini ci-dessus des opérations de localisation de ℂ[Ŵ_{D(χ)}] dans ℂ[Ŵ\underline{m}]; en sommant sur tous les éléments de D(g_{s}), on définit donc une application de localisation de ℂ[Ŵ_{D(χ)}] dans ℂ[Ŵ_{D(g_{s})}] que l’on note loc_{g_{s}}. On remarque que ρ ∘ ι se définit aussi de ℂ[Ŵ_{D(g_{s})}] dans lui-même; ce sont exactement les définitions de [8] 3.1, 3.2 et 3.9, 3.10. On les présente un peu différemment de façon similaire aux formules de 3.4. Précisément, on note DD(g_{s}) l’ensemble des u-plets {m^{i,j}([λ]); i, j ∈ {′,′′ }, [λ] ∈ [V P (g_{s})]}. Pour \underline{\underline{m}} ∈ DD(g_{s}), on définit Ŵ\underline{\underline{m}} de façon similaire à 3.4, la partie cuspidale possible étant simplement donnée comme en 4.1 (notée |cusp|). Et ici, ρ∘ι est la somme sur tous les \underline{\underline{m}} ∈ DD(g_{s}) de la restriction à W\underline{\underline{m}} suivie de l’induction après

avoir tordu par (−1)^{∑_{[λ]∉\{±1\}} m^{′′,′′} ([λ])}(sgn_{CD})_{|W_{N{′′,′′ \atop +}} ×W_{N{′′,′′ \atop −}}}, les notations et

les inclusions entre les groupes étant celles décrites en 3.4. Pour traiter tous les cas, on pose encore quelques définitions. Pour ϵ′ ∈ {±1}, on note X_{ϵ′} l’endomorphisme de ℂ[Ŵ_{D(g_{s})}] qui est la tensorisation par le caractère trivial sur tous les facteurs sauf Ŵ_{m′′(ϵ′)} où il vaut sgn_{CD}, suivie par l’inversion des facteurs relatifs m′(ϵ′) et m′′(ϵ′) (à ce stade cette inversion est assez formelle mais elle a de l’importance quand ensuite on applique ρ ∘ ι). On rappelle la donnée cuspidale fixée et on reprend les notations ϵ_{I} et ϵ_{P} de 4.1. On note X_{cusp} l’endormophisme de ℂ[Ŵ_{D(g_{s})}] défini par:

X_{cusp} := \begin{cases}1 si ϵ_{I} = ϵ_{P} et ζ_{ϵ_{P}} = + \\ X_{+}X_{−} si ϵ_{I} = ϵ_{P} et ζ_{ϵ_{P}} = − \\ X_{(−1)^{1+(I_{+}+I_{−})/2}} si ϵ_{I} ≠ ϵ_{P} et ζ_{ϵ_{P}} = − \\ X_{(−1)^{(I_{+}+I_{−})/2}} si ϵ_{I} ≠ ϵ_{P} et ζ_{ϵ_{P}} = +. \end{cases}

Lemme: Fixons la donnée cuspidale comme ci-dessus. Alors le diagramme ci-dessous est commutatif pour tout élément g_{s} comme en 4.1:

ℂ[Ŵ_{D(χ)}]  →^{ρ∘ι} ℂ[Ŵ_{D(χ)}]
↓X_{cusp} ∘ loc_{g_{s}} ∘˜  ↓loc_{g_{s}}
ℂ[Ŵ_{D(g_{s})}]  →^{ρ∘ι} ℂ[Ŵ_{D(g_{s})}]

Pour démontrer ce lemme, on réintroduit le groupe auxiliaire W_{DD(χ)} et son avatar W_{DD(g_{s})} qui permettent de calculer ρ ∘ ι. De même, on réintroduit W_{D(χ,g_{s})}. On espère que le lecteur voit une localisation de W_{DD(χ)} vers W_{DD(g_{s})} qui utilise le groupe W_{DD(χ,g_{s}))} suggérée par les notations; ce groupe est construit comme tous les groupes de même type mais en utilisant des collections d’entiers ν^{i,j}([u], [λ]) pour i, j ∈ {′,′′ }, [u] ∈ [V P (χ)] et [λ] ∈ [V P (g_{s})] qui vérifient:

∑_{i,j,[u]} ν^{i,j}([u], [λ])ℓ_{[u]}(ℓ_{[u]}, ℓ_{[λ]})^{−1} = m_{g_{s}}([λ]) (∗)

et une égalité de même type en échangeant les rôles de [u] et de [λ].

On écrit le diagramme:

ℂ[Ŵ\underline{n}]  →^{res} ℂ[Ŵ_{DD\underline{n}(χ)}] →^{ind} ℂ[Ŵ_{D(χ)}]
↓ res  ↓ res  ↓ res
ℂ[Ŵ_{D(χ,g_{s})}] →^{res} ℂ[Ŵ_{D\underline{n}(D(χ,g_{s}))}] →^{ind} ℂ[Ŵ_{D(χ,g_{s})}]
↓ ind ↓ ind ↓ ind
ℂ[Ŵ_{D(g_{s})}] →^{res} ℂ[Ŵ_{DD(g_{s})}] →^{ind} ℂ[Ŵ_{D(g_{s})}]

Expliquons ce qu’est l’objet central, le W_{D\underline{n}(D(χ,g_{s}))} est un sous-groupe de W_{D(D(χ,g_{s}))}; les collections ν^{i,j}([u], [λ]) qui servent à le construire sont astreintes aux relations de (*) mais aussi à, pour tout i ∈ {′,′′ } et pour tout [u] ∈ [V P (χ)]:

∑_{j,[λ]} ν^{ij}([u], [λ])ℓ_{[λ]}(ℓ_{[u]}, ℓ_{[λ]})^{−1} = n^{i}[u].

Un diagramme comme celui-ci est commutatif, le seul point est une formule à la Mackey du genre res ∘ ind = ind ∘ res; une telle formule nécessite des sommes: précisément considérons un groupe fini H avec des sous-groupes H′, H′′. Soit aussi une représentation de dimension finie, ρ′ de H′ et on calcule la restriction à H′′ de l’induite de ρ′ à H. Cette restriction est isomorphe à la somme sur γ dans un ensemble de représentants des doubles classes H′\H/H′′ des induites à H′′ de la représentation ρ′ transportée par γ et restreinte au groupe γ^{−1}H′γ ∩ H′′ (dans [8], ce raisonnement est utilisé en 3.19 ce qui suit (4)). Comme en loc.cit il y a la difficulté que les inclusions ne sont pas complètement évidentes. On applique cette formule 2 fois, pour le carré en bas à gauche, et pour le carré en haut à droite. Pour le carré en bas à gauche, on l’applique avec H′ = W_{D(χ,g_{s})}, H = W_{D(g_{s})} et H′′ = W_{DD(g_{s})}. Les doubles classes sont précisément indexées par DD(χ, g_{s}); en effet, pour [λ] ≠ [±1], [λ] ∈ [V P (g_{s})], on a à considérer les doubles classes:

×_{[u]∈[V P (χ)]}𝔖_{ν′([u],[λ]}\𝔖_{m′([λ)]}/𝔖_{m^{′,′} ([λ])} × 𝔖_{m^{′,′′} (λ)}

et un objet analogue où ′ est remplacé par ′′, en tenant compte du fait que l’inclusion de 𝔖_{ν′([u],[λ])} dans 𝔖_{m′([λ])} est décrite dans ce qui précède l’énoncé (il faut multiplier les cycles des permutations par ℓ_{[u]}/(ℓ_{[u]}, ℓ_{[λ]})). L’ensemble de ces doubles classes est bien indexé par les collections (ν^{i,j}([u], [λ]); i, j ∈ ′,′′, [u] ∈ [V P (χ)] soumises aux conditions:

∀[u] ∈ [V P (χ)], ∀i ∈ {′,′′ }, ν^{i,′}([u], [λ]) + ν^{i,′′}([u], [λ]) = ν^{i}([u], [λ]),

∀i, j ∈ {′,′′ }, ∑_{[u]∈[V P (χ)]} ν^{i,j}([u], [λ])ℓ_{[u]}/(ℓ_{[u]}, ℓ_{[λ]}) = ν^{i,j}([λ]).

Et ensuite il reste à identifier ×_{(ν^{i,j}([u],[λ]);i,j∈′,′′,[u]∈[V P (χ)]} ×_{i,j∈′,′′,[u]∈[V P (χ)]} 𝔖_{ν^{i,j}([u],[λ])} avec ×_{γ}γ^{−1}H′γ ∩ H′′ (avec les notations précédentes). Si λ = ±1, dans les objets ci-dessus, il faut remplacer certains groupes symétriques par des groupes de Weyl de type C; cela ne change rien.

On a un raisonnement du même type à faire pour le carré en haut à droite du diagramme.

Le point maintenant à considérer est que ρ ∘ ι n’est pas exactement ind ∘ res écrit sur les lignes; il faut tordre les éléments de la colonne du milieu. Le même phénomène se produit pour loc_{g_{s}} et c’est ce qui motive l’introduction de l’endomorphisme X_{cusp}: pour [u] ∈ [V P (χ)] et [λ] ∈ [V P (g_{s})] regardons par quelle fonction il faut multiplier le facteur ℂ[⊗_{i,j∈{′,′′}}Ŵ_{ν^{i,j}([u],[λ])}] avant d’induire pour arriver dans ℂ[Ŵ_{D(g_{s})}] pour que l’on obtienne le même résultat qu’en faisant le chemin, première ligne horizontale et dernière ligne verticale. Dans toute la discussion ci-dessous, on néglige, dans les flèches verticales tous les termes dépendant symétriquement de ν^{i,j}(., .), symétriquement en i, j; c’est ce que l’on peut appeler de la torsion symétrique car elle ne gêne pas la commutation du diagramme.

Supposons d’abord que λ ≠ ±1. Si [u] ≠ ±1, la ligne horizontale multiplie par le signe (−1)^{ν^{′′,′′} ([u],[λ])} et la ligne verticale n’introduit que de la torsion symétrique; si on fait le chemin de gauche, i.e. première ligne verticale et dernière ligne horizontale, c’est pareil et l’on n’a pas de problème de commutation.

Si [u] = ±1, la ligne horizontale du haut tensorise par sgn_{CD}w_{ν^{′′,′′} ([u],[λ])}χ̃ si ζ_{u} = (−1)^{(I_{u}−1)/2}; si cette égalité n’est pas vérifiée c’est une autre torsion mais il faut alors aussi tenir compte de la torsion dans la définition de k_{χ} et la combinaison des 2 ramènent à la formule sgn_{CD}w_{ν^{′′,′′} ([u],[λ])}χ̃. Quand on fait l’autre chemin, on trouve la multiplication par χ̃ qui est introduite par l’application ˜ puir le signe (−1)^{ν^{′′,′′} ([u],[λ])}; ces 2 signes coïncident grâce à la définition de l’inclusion donnée en 4.1.

Reste le cas où λ = ±1; on note alors ϵ′ au lieu de λ; on rappelle que les inclusions des groupes 𝔖_{m} dans W_{m} (pour m un entier) considérées sont telles que (−1)^{m} est aussi la valeur du sgn_{CD} de l’image par l’inclusion. On ne parlera donc que de sgn_{CD}. A priori il y a une différence quand [u] ≠ ±1 et son contraire mais comme ci-dessus, cette différence s’efface quand on tient compte de la défintion de k_{χ}; on oublie aussi le signe χ̃ qui est pris en compte par l’application˜ . Ainsi la première ligne horizontale et la définition de k_{χ} introduisent la multiplication par sgn_{CD}(w_{ν^{′′,′′} ([u],ϵ′)}); la ligne verticale multiplie par le signe de la forme

∏_{i=′,′′}(sgn_{CD}w_{ν^{i,′} ([u],ϵ′)})^{(I_{ϵ_{I}} −1)/2}(sgn_{CD}w_{ν^{i,′′} ([u],ϵ′)})^{(I_{ϵ_{P}} −1)/2}

× \begin{cases}1 si ζ_{ϵ_{P}} = + \\ w_{ν^{i,′′} ([u],ϵ′)} si ζ_{ϵ_{P}} = − \end{cases}

et si ϵ′ = − il faut encore multiplier par le caractère

\begin{cases}1 si ϵ_{I} = + \\ ∏_{i=′,′′} sgn_{CD}w_{ν^{i,′} ([u],−)} si ϵ_{I} = − \end{cases} ×\begin{cases}1 si ϵ_{P} = + \\ ∏_{i=′,′′} sgn_{CD}w_{ν^{i,′′} ([u],−)} si ϵ_{P} = − \end{cases} ×

\begin{cases}1 si (I_{ϵ_{I}} + I_{ϵ_{P}})/2 est impair \\ ∏_{i=′,′′} sgn_{CD}w_{ν^{i,δ}([u],ϵ′} \end{cases}

où δ =′ si (I_{ϵ_{I}} − 1)/2 est impair et (I_{ϵ_{P}} − 1)/2 est pair et δ =′′ sinon. Par l’autre chemin, l’application verticale introduit un caractère similaire à celui qui vient d’être écrit sauf que ce qui était ν^{i,′} devient n^{′,i} et ce qui était ν^{i,′′} devient n^{′′,i}. Il n’y a donc pas de difficulté quand ce qui intervient vraiment est un produit sur (i, j) ∈ {′,′′ }. C’est le cas quand ϵ_{I} = ϵ_{P} et ζ_{ϵ_{P}} = +. L’introduction du X_{cusp} est exactement fait pour résoudre les autres cas. Vérifions la commutativité du diagramme; on pose ζ = 0 si ζ_{ϵ_{P}} = + et 1 sinon et on pose aussi ϵ = 0 si ϵ_{I} = ϵ_{P} et 1 sinon et finalement, on pose Σ := (I_{ϵ_{I}} + I_{ϵ_{P}})/2). On vérfie que X_{cusp} n’est autre que le produit X_{+}^{1+ζ+Σ}X_{−}^{1+ϵ+ζ+Σ}. On étudie le chemin horizontal puis vertical; il s’introduit donc, d’abord le signe sgn_{CD}w_{ν^{′′,′′} ([u],ϵ′)} puis par la dernière flèche verticale, un signe χ_{cusp}. Mais pour les problèmes de commutation, on peut multiplier ce signe par n’importe quel signe de la forme ∏_{i,j∈{′,′′}} sgn_{CD}w_{ν^{i,j}([u],ϵ′_{0})}, où ϵ′_{0} ∈ {±1} comme expliqué ci-dessus. Ce qui veut dire qu’au lieu d’utiliser χ_{cusp} tel qu’il a été écrit, on peut utiliser

(χ′′_{+}χ′′_{−})^{1+Σ+δ}(χ′′_{−})^{ϵ} = (χ′′_{+})^{1+δ+Σ}(χ′′_{−})^{1+δ+ϵ+Σ}.  (∗)

Quand on fait la dernière flèche verticale, en terme de w_{ν^{i,j}} cela devient un produit sur tout [u] ∈ [V P (χ)] de

∏_{i∈{′,′′}} sgn_{CD}w_{ν^{i,′′} ([u],+)}^{1+δ+Σ} ∏_{i∈{′,′′}} sgn_{CD}w_{ν^{i,′′} ([u],−)}^{1+δ+ϵ+Σ}.

En incorporant le signe de la ligne horizontale, on trouve, un produit sur tout [u]

sgn_{CD}w_{ν^{′,′′} ([u],+)}^{1+δ+Σ}sgn_{CD}w_{ν^{′′,′′} ([u],+)}^{δ+Σ}sgn_{CD}w_{ν^{′,′′} ([u],−)}^{1+δ+ϵ+Σ}sgn_{CD}w_{ν^{′′,′′} ([u],−)}^{δ+ϵ+Σ}. (∗∗)

On examine maitenant le chemin utilisant d’abord la première flèche verticale puis l’action de X_{cusp} et la dernière ligne horizontale. Dans X_{cusp} on commence par multiplier par un caractère qui est exactement le caractère (*) qui s’introduit par la flèche verticale après la simplification effectuée ci-dessus. Finalement, pour ce chemin, il suffit de regarder le caractère de la dernière ligne horizontale en tenant compte de l’inversion éventuelle. Or on a inversion entre m′(+) et m′′(+) par hypothèse si δ + Σ est impaire et inversion entre m′(−) et m′′(−) si δ + ϵ + Σ est impaire. L’inversion entre ′ et ′′ a pour effet que ρ ∘ ι introduit le signe sgn_{CD}w_{ν^{′,′′} ([u],ϵ′)} au lieu de sgn_{CD}w_{ν^{′′,′′} ([u],ϵ′)}. On trouve donc exactement le caractère (**). Cela termine la preuve.

5 Stabilité

5.1 Stabilité, définition

On reprend encore les définitions de [8]; soit G un groupe classique qui est donc le groupe des automorphismes d’une forme (ici orthogonale ou unitaire); on doit considérer simultanément 2 formes de ce groupe correspondant à 2 formes orthogonale ou unitaire, séparée dans le cas orthogonal par l’invariant de Hasse et dans le cas unitaire par la parité de la valuation du déterminant. On note ces 2 formes G_{iso} et G_{an} en imposant que G_{iso} est la forme quasidéployée et que G_{an} est l’autre groupe; dans tous les cas, G_{an} est une forme intérieure de G_{iso} mais éventuellement, on a même un isomorphisme G_{an} ≃ G_{iso}; ces 2 formes interviennent dans le calcul du centralisateur d’un élément semi-simple tel que fait dans 4.1 et les constructions dépendent de la forme orthogonale ou unitaire qui intervient et pas seulement de son groupe d’automorphismes, d’où la nécessité de garder la différence dans les notations. On sait définir la classe de conjugaison stable de tout élément fortement régulier de G_{♯} pour ♯ = iso ou an et on sait aussi définir une inclusion de l’ensemble des classes de conjugaison stable de G_{an} dans l’ensemble des classes de conjugaison stable dans G_{iso}. Soit ϕ = (ϕ_{iso}, ϕ_{an}) une fonction dans C_{c}^{∞}(G_{iso})⊕C_{c}^{∞}(G_{an}); on dit qu’elle est stable si les intégrales orbitales de ϕ_{iso} et de ϕ_{an} sont constantes sur les classes de conjugaison stable et si les intégrales orbitales de ϕ_{iso} et de ϕ_{an} se correspondent pour l’inclusion des classes stables pour G_{an} dans les classes stables de G_{iso} et ϕ_{iso} a une intégrale nulle sur les classes stables de G_{iso} ne provenant pas de G_{an}); il a évidemment fallu fixer des mesures cohérentes. On dit que ϕ est semi-stable si ϕ_{iso} et ϕ_{an} sont stables mais si pour tout γ fortement régulier dans G_{an}, l’intégrale orbitale de ϕ_{an} sur la classe de conjugaison stable de γ est l’opposée de l’intégrale de ϕ_{iso} sur la classe de conjugaison stable dans G_{iso} correspondant à celle de γ. On dit que ϕ_{iso} est instable si pour tout γ fortement régulier l’intégrale sur la classe de conjugaison stable de γ est nulle; on définit de même ϕ_{an} instable et on dit que ϕ est instable si ϕ_{iso} et ϕ_{an} sont instables. Soit \underline{n} ∈ D(χ) avec une donnée cuspidale cusp; on dit que

1. \underline{n}, cusp est stable si ϵ_{I} = ϵ_{P}, ζ_{+} = ζ_{−} = +, |I_{ϵ} − P_{ϵ}| = 1 pour ϵ = ± et n′′[u] = 0 pour tout [u] ∈ [V P (χ)].

2. On dit que \underline{n}, cusp est semi-stable si ϵ_{I} = ϵ_{P}, ζ_{+} = ζ_{−} = −, |I_{ϵ} − P_{ϵ}| = 1 pour ϵ = ± et n′([u]) = 0 pour tout [u] ∈ [V P (χ)].

3. On dit que \underline{n}, cusp est instable dans tous les autres cas.

Remarque. Soit (ψ, ϵ) un paramètre discret de niveau zéro. Le couple \underline{n}_{ψ,ϵ}, cusp qui lui est associé avec la représentation de Springer-Lusztig est stable si et seulement si pour tout [u] ∈ [V P (χ)] ≠ [±1], ϵ_{[u]} est le caractère trivial et si U_{[±1],−} = ∅ (avec les notations de 2.1); \underline{n}_{ψ,ϵ}, cusp est semi-stable si ϵ_{[u]} ≡ −1 pour tout [u] ∈ [V P (χ)] ≠ [±1] et si U_{[±1],+} = ∅. Et \underline{n}_{ψ,ϵ}, cusp est instable dans tous les autres cas.

On rappelle les formules données dans 3.3. Pour [u] ≠ [±1], la traduction de n′([u]) = 0 ou n′′([u]) = 0 en terme du caractère du groupe des composantes est claire . Le cas de u = ±1 est plus compliqué. On regarde d’abord la partie cuspidale; à chaque orbite U_{u,ϵ′} munie de son caractère du groupe des composantes est associé un entier k_{u,ϵ′} par la représentation de Springer généralisée. On fixe u, ϵ′ ∈ {±1} et on montre d’abord l’équivalence:

k_{u,ϵ′} = 0 ⇔ |I_{u} − P_{u}| = 1 et ζ_{u} = ϵ′.

En effet, on vérifie d’après les formules données que k_{u,ζ_{u}} = (I_{u} + P_{u} − 1)/2 et k_{u,−ζ_{u}} = (|I_{u} − P_{u}| − 1)/2. Et l’équivalence est alors claire, en tenant compte du fait que I_{u} est impair alors que P_{u} est pair par hypothèse. Ensuite, c’est presque les définitions que U_{u,ϵ′} = 0 est équivalente à k_{u,ϵ′} = 0 et n^{δ}(u) = 0 où δ =′ si ϵ′ = + et ′′ si ϵ′ = −.

5.2 Stabilité, théorème

On fixe une donnée cuspidale cusp et \underline{n} ∈ D(χ). Théorème. soit ϕ ∈ ℂ[Ŵ_{\underline{n},cusp}] et soit Φ := k_{χ} ρ ∘ ι(ϕ). Alors Φ est stable si et seulement si \underline{n}, cusp est stable; de même Φ est semi-stable si et seulement si \underline{n}, cusp est semi-stable et Φ est instable si et seulement si \underline{n}, cusp est instable. On suit la méthode de [8] 3.20 (qui démontre le même théorème dans le cas où [V P (χ)] = [1]. On écrit Φ := (Φ_{iso}, Φ_{an}). On fixe un élément semisimple fortement régulier g ∈ SO(2n + 1, F)_{iso} et on étudie les intégrales orbitales de Φ_{iso} pour les éléments de la classe de conjugaison stable de g ainsi que celles de Φ_{an} pour la classe de conjugaison stable dans SO(2n + 1, F)_{an} quand elle existe. Il est clair que ces intégrales orbitales sont nulles si g n’est pas elliptique et compact. On écrit g = g_{s}g_{u} comme en 4.1. L’ensemble [V P (g_{s})] est indépendant de g dans sa classe de conjugaison stable et quand g varie dans sa classe de conjugaison stable vue dans SO(2n + 1, F)_{iso} ∪ SO(2n + 1, F)_{an} g_{s} varie exactement dans sa classe de conjugaison stable dans SO(2n + 1, F)_{iso} ∪ SO(2n + 1, F)_{an}. Les classes de conjugaison dans la classe de conjugaison stable de g_{s} sont paramétrées ([11] 1.7) par les collections {♯_{[λ]} ∈ {+1, −1} ≃ {iso, an}}_{[λ]∈[V P (g_{s})]} de telle sorte que si g_{s} correspond à la collection {♯_{[λ]}(g_{s}); λ ∈ [V P (g_{s})]} le commutant de g_{s} est isomorphe au produit Aut((F′_{[λ]})^{m_{[λ]}}, < , >_{♯_{[λ]}(g_{s})}) où F′_{[λ]} est une extension non ramifiée de degré 2 de F_{[λ]} l’extension non ramifiée de F de degré ℓ_{[λ]} (2ℓ_{[λ]} est le cardinal de l’ensemble [λ]) et où < , >_{♯_{[λ]}(g_{s})} est une forme unitaire (pour l’extension F′_{[λ]} de F_{[λ]}) dont le déterminant est de valuation paire ou impaire suivant que ♯_{[λ]}(g_{s}) = 1 ou −1, si [λ] ≠ ±1 et est une forme orthogonale si [λ] = [±1] (il n’y a alors pas d’extension de degré 2 à considérer); dans ce dernier cas, on a la même propriété que précédemment mais ”parité de la valuation du déterminant” étant remplacé par invariant de Hasse. Pour décrire les classes de conjugaison dans la classe de conjugaison stable de g, il faut encore décrire où varie g_{u} quand g_{s} est fixé. Comme on appliquera le début de la section 3 de [8] tel quel, nous n’avons pas besoin de faire cette description et on renvoie le lecteur à loc. cite. Fixons maintenant g = g_{s}g_{u} ∈ SO(2n + 1, F)_{iso} ∪ SO(2n + 1, F)_{an} comme ci-dessus et calculons I_{g}(Φ). On note ♯(g) l’élément iso ou an tel que g ∈ SO(2n + 1, F)_{♯(g)}. On a défini la fonction de Green Q(loc_{g_{s}}(Φ)) en 4.1; c’est une fonction à support les éléments topologiquement unipotents sur le groupe

×_{[λ]∈[V P (g_{s})],[λ]≠±1} U(m(λ), F′_{[λ]}/F_{[λ]})_{♯_{[λ]}(g_{s})}×

SO(m([1]), F)_{♯_{[1]}(g_{s})} × O(m([−1]), F)_{♯_{[−1]}(g_{s})},

où les notations sont celles de 4.1. L’élément g_{u} définit une classe de conjugaison d’éléments topologiquement unipotents dans ce groupe. Pour la suite on notera (loc_{g_{s}}(Φ))_{[λ]} la fonction sur le groupe indexé par [λ] définie par (loc_{g_{s}}(Φ)) quand les points dans les groupes indexés par [λ′] ≠ [λ] sont fixés. Fixons une classe de conjugaison stable dans SO(2n + 1, F) d’éléments semisimples réguliers C_{st}; sans restreindre la généralité, on les suppose compacts (sinon les intégrales orbitales sont nulles). On note génériquement C les classes de conjugaison incluses dans C_{st}; les classes de conjugaison le sont pour un groupe, c’est-à-dire qu’une telle classe C correspond à une valeur de ♯ qui est notée ♯(C). Pour chaque classe C, on fixe un élément g(C) ∈ C. On a à calculer pour Φ comme ci-dessus et pour ♯ fixé I^{st,♯}(C_{st}, Φ) := ∑_{C∈C_{st},♯(C)=♯} I^{SO(2n+1,F)_{♯}}(g(C), Φ). On écrit chaque g(C) = g_{s}(C)g_{u}(C). On établit une relation d’équivalence entre les C ∈ C_{st} par C ∼ C′ si g_{s}(C) est conjugué de g_{s}(C′); on les supposera alors égaux. On écrira donc g_{s}([C]) plutôt que g_{s}(C). Il existe une classe stable d’éléments semi-simples dont les valeurs propres sont des racines de l’unité d’ordre premier à p, C_{s,st} tel que g_{s}([C]) soit un représentant des classes de conjugaison dans C_{s,st}. On l’utilisera plus bas mais tout d’abord, on écrit:

I^{st,♯}(C_{st}, Φ) := ∑_{[C]∈C_{st}/∼,♯(C)=♯} ∑_{C∈[C]} I^{Cent_{SO(2n+1,F)_{♯}(gs([C]))}}(g_{u}(C), loc_{g_{s}([C])}ρ∘ι ϕ).

On utilise 4.2 pour récrire, pour [C] fixée:

∑_{C∈[C]} I^{Cent_{SO(2n+1,F)_{♯}(gs([C]))}}(g_{u}(C), loc_{g_{s}([C])}ρ ∘ ι ϕ)

= ∑_{C∈[C]} I^{Cent_{SO(2n+1,F)_{♯}(gs([C]))}}(g_{u}(C), Q ρ ∘ ι X_{cusp}loc_{g_{s}([C])}˜ (ϕ)).

On utilise tout de suite le fait que [V P (g_{s}([C]))] est indépendant de [C] dans C_{st}; ce qui varie sont les invariants des formes < , >_{[λ]}, cf. 4.1 et ci-dessus. On remplace donc la notation [V P (g_{s})] par [V P (C_{st})]. On décompose la somme ci-dessus en produit sur les [λ] ∈ [V P (C_{st})] et on constate qu’elle est nulle si l’une des composantes Q ρ ∘ ιX_{cusp}(loc_{g_{s}([C]}˜ (ϕ))_{[λ]} est instable. La condition d’instabilité pour ce genre de fonction (c’est à dire pour des fonctions dans l’image de Q ρ∘ι) est décrite dans [8] 3.4 pour les groupes unitaires (c’est-à-dire ici pour [λ] ≠ ±1) et en [8] 3.12 pour les groupes orthogonaux (c’est-à-dire ici pour [λ] = [±1]). Pour [λ] ≠ [±1], on a instabilité si m′([λ])m′′([λ]) ≠ 0. Pour λ ∈ {±1}, on a les données pour le support cuspidal des fonctions de Green qui sont |c̃usp| c’est-à-dire: |r′_{ϵ}| := (I_{+} + ϵδI_{−})/2, où δ = + ou − de façon à ce que |r′_{+}| soit impair et |r′′_{ϵ}| := |((−1)^{(I_{+}−1)/2}ζ_{+}P_{+} + ϵ(−1)^{(I_{−}−1)/2}ζ_{−}P_{−})/2|. Ainsi δ = (−1)^{1+(I_{+}+I_{−})/2} et |r′′_{ϵ}| = |(P_{+} + ϵδζ_{+}ζ_{−}P_{−})|. Pour que les intégrales ne soient pas nulles, il faut que M′(λ) := m′(λ) − (r′_{λ})^{2} soit un entier pair (≥ 0) et la même propriété pour M′′(λ) := m′′(λ) − (r′′_{λ})^{2}. Pour ϵ = ±, le terme correspondant à λ = ϵ est instable si et seulement si soit ||r′_{ϵ}| − |r′′_{ϵ}|| > 1 soit r′_{ϵ}r′′_{ϵ}M′′(ϵ) ou soit M′(ϵ)M′′(ϵ) = 0. On remarque que

|r′_{ϵ}| − |r′′_{ϵ}| = |I_{+} + ϵδI_{−}| − |P_{+} + ϵδζ_{+}ζ_{−}P_{−}|.  (∗)

On a donc instabilité si l’une des conditions I_{+} + I_{−} − |P_{+} + ζ_{+}ζ_{−}P_{−}| ∈ {−2, 0, 2}, |I_{−}−I_{−}|−|P_{+}−ζ_{+}ζ_{−}P_{−}| ∈ {−2, 0, 2} n’est pas satisfaite. On remarque que I_{+}+I_{−}−|I_{+}−I_{−}| ≥ 2 et que si P_{+}P_{−} ≠ 0, P_{+}+P_{−}−|P_{+}−P_{−}| ≥ 4 pour des questions de parité. Ainsi si ζ_{+}ζ_{−} ≠ +, c’est-à-dire vaut - et si P_{+}P_{−} ≠ 0 la différence entre I_{+} + I_{−} − |P_{+} − P_{−}| et |I_{+} − I_{−}| − (P_{+} + P_{−}) est au moins 6. On ne peut donc avoir les deux conditions satisfaites en même temps. Ainsi, on a instabilité si P_{+}P_{−} ≠ 0 mais ζ_{+}ζ_{−} = −. Si P_{+}P_{−} = 0, en reprenant les notations, ϵ_{I} et ϵ_{P} de 4.1, on a donc P_{−ϵ_{P}} = 0 et on vérifie que nécessairement I_{−ϵ_{I}} = 1. On a donc déjà démontré que l’on a instabilité sauf si soit ζ_{+}ζ_{−} = + soit P_{−ϵ_{P}} = 0 et I_{−ϵ_{I}} = 1. Récrivons les conditions (*) ci-dessus sous la forme plus simple (I_{ϵ_{I}} − P_{ϵ_{P}}) ± (I_{−ϵ_{I}} − P_{−ϵ_{P}}) ∈ {−2, 0, 2} et encore

(I_{ϵ_{I}} − P_{ϵ_{P}}) ∈ {−1, 1}; (I_{−ϵ_{I}} − P_{−ϵ_{P}}) ∈ {−1, 1}.  (∗)_{cusp}

On rappelle la convention que ϵ_{I} = ϵ_{P} si (I_{+} − I_{−})(P_{+} − P_{−}) = 0 et que ϵ_{I} = ϵ_{P} = + si I_{+} = I_{−} et P_{+} = P_{−}. On a donc instabilité au moins s’il existe [λ] ∈ [V P (C_{st})] tel que m′([λ])m′′([λ]) ≠ 0 (en remplaçant m′ par M′ et m′′ par M′′ si λ = ±1 ou si (*)_{cusp} n’est pas satisfaite ou encore s’il existe ϵ = ± tel que M′([ϵ]) = 0, M′′(ϵ) ≠ 0 et r′_{ϵ}r′′_{ϵ} ≠ 0. Par les références déjà données, on sait aussi quand ces sommes partielles ne dépendent que de l’invariant ♯_{[λ]} de < , >_{[λ]} ou sont indépendantes du choix de [C] dans C_{g_{s}}. Il faut simplement faire attention que loc_{g_{s}[C]} dépend de [C] dans C_{st} par ce qui est noté c_{cusp}(g_{s}) en 4.1 et donc (en supprimant ce qui est encore indépendant) par le signe:

(η′_{+}η′_{−})^{(I_{ϵ_{I}} −1)/2}(η′′_{+}η′′_{−})^{(I_{ϵ_{P}} −1)/2} ×\begin{cases}1 si ζ_{ϵ_{P}} = + \\ η′′_{+}η′′_{−} si ζ_{ϵ_{P}} = − \end{cases} ×\begin{cases}1 si ϵ_{I} = ϵ_{P} = + \\ η′_{−}η′′_{−} si ϵ_{I} = ϵ_{P} = − \\ η′_{−} si ϵ_{I} = −, ϵ_{P} = + \\ η′′_{−} si ϵ_{I} = +, ϵ_{P} = −. \end{cases}

Il est temps d’utiliser les propriétés des formes < , >_{ϵ} pour ϵ = ± et de leur “réduction” (rappelées en [8] 3.11): η′_{ϵ}η′′_{ϵ} est calculé par le discriminant de la forme < , >_{ϵ} et η′_{ϵ} comme η′′_{ϵ} sont soit l’invariant de Hasse soit son opposé (le choix dépend du discriminant). Ainsi, dans la formule ci-dessus, si ϵ_{I} ≠ ϵ_{P}, c_{cusp}(g_{s}([C])) dépend de l’invariant de Hasse de l’une des formes < , >_{ϵ} et pas de l’autre: en effet le premier terme dépend du produit des 2 invariants de Hasse, le deuxième terme dépend soit du produit soit vaut 1 et le troisième terme dépend de l’un des invariants de Hasse exactement. Par contre si ϵ_{I} = ϵ_{P} alors c_{cusp}(C) dépend du produit des invariants de Hasse quand ζ_{ϵ_{P}} = − et est constant si ζ_{ϵ_{P}} = +.

Comme la seule chose qui est fixée pour les classes de conjugaison dans la classe de conjugaison stable de g_{s} à l’intérieur d’un groupe SO(2n + 1, F)_{♯} où ♯ est fixé est le produit sur tous les [λ] des invariants ♯_{[λ]} (qui sont les invariants de Hasse pour λ = ±1), on voit aisément que l’on a encore instabilité s’il existe [λ] ∈ [V P (C_{st})] tel que le terme correspondant dépend de l’invariant ♯_{[λ]} de la forme < , >_{[λ]} et qu’il existe λ′ ∈ [V P (C_{st}] tel que le terme correspondant ne dépend pas de l’invariant de la forme < , >_{[λ′]}. Et on aura stabilité si aucun des termes n’en dépend et semi-stabilité si tous les termes en dépendent. Ainsi la stabilité se produit quand m′′([λ]) = 0 pour tout [λ] ∈ [V P (C_{st})] − {−1, +1} et si le produit des termes correspondant à +1 et −1 est aussi indépendant des invariants de Hasse. Comme on l’a vu ci-dessus, il faut distinguer le cas ϵ_{I} ≠ ϵ_{P} du cas où l’on a égalité. Supposons d’abord que ϵ_{I} = ϵ_{P}; dans ce cas, si ζ_{ϵ_{P}} = +, c_{cusp}(C) est indépendant des invariants de Hasse, il faut donc aussi que les intégrales en soient indépendantes et donc que M′′(+1) = M′′(−1) = 0.

Par contre si ζ_{ϵ_{P}} = −, toujours sous l’hypothèse ϵ_{I} = ϵ_{P}, il faut |r′_{ϵ}||r′′_{ϵ}| = 0 et M′(ϵ) = 0 pour ϵ = ±. Pour avoir stabilité, on a déjà vu qu’il faut P_{−ϵ_{P}} = 0 et I_{−ϵ_{I}} = 1. La condition |r′_{ϵ}||r′′_{ϵ}| = 0 écrite pour ϵ = δ, donne (I_{+} + I_{−})|(P_{+} − −P_{−})| = 0. D’où P_{+} = P_{−} = 0 et on retrouve aussi I_{ϵ_{I}} = 1 en utilisant (∗)_{cusp}. D’où par convention ζ_{+} = ζ_{−} = + ce qui contredit ζ_{ϵ_{P}} = −.

Terminons le cas de la stabilité quand ϵ_{I} = ϵ_{P}; la stabilité est alors équivalente à m′′([λ]) = 0 pour tout [λ] ≠ ±1 et pour λ = ±1, il faut M′′(λ) = 0, ζ_{+} = ζ_{−} = + et (*)_{cusp}. On remarque que la condition ϵ_{I} = ϵ_{P} couplée avec (*)_{cusp} est équivalente à |I_{+} − P_{+}| = 1 et |I_{−} − P_{−}| = 1. Il faut encore utiliser le fait que la localisation est non nulle si l’ensemble D(χ, g_{s}) n’est pas vide; c’est-à-dire qu’il existe donc une collection ν′([u], [λ]), ν′′([u], [λ]) satisfaisant à:

m′([λ]) = ∑_{[u]∈[V P (χ)]} ν′([u], [λ])ℓ_{[u]}/(ℓ_{[u]}, ℓ_{[λ]}),

m′′([λ]) = ∑_{[u]∈[V P (χ)]} ν′′([u], [λ])ℓ_{[u]}/(ℓ_{[u]}, ℓ_{[λ]}),

pour tout [λ] ≠ [±1] et une formule analogue quand λ ∈ {±1}. On a aussi, avec les mêmes notations, pour tout [u] ∈ [V P (χ)] ≠ ±1:

n′([u]) = ∑_{[λ]∈[V P ([C])]} ν′([u], [λ])ℓ_{[λ]}/(ℓ_{[u]}, ℓ_{[λ]}),

ν′′([u]) = ∑_{[λ]∈[V P ([C])]} ν′′([u], [λ])ℓ_{[λ]}/(ℓ_{[u]}, ℓ_{[λ]});

et une formule analogue pour u ∈ {±1}. On en déduit que les conditions n′′([u]) = 0 (si u ≠ ±1) et N′′(±1) = 0 sont équivalentes à leurs analogues pour m′, m′′ et [λ]. Pour la stabilité, reste à voir le cas où ϵ_{I} ≠ ϵ_{P}. On a vu que c_{cusp}(g_{s}(C)) dépend de l’un des invariants de Hasse; il faut donc que les intégrales dépendent elles aussi de l’un des invariants de Hasse exactement. Mais on doit donc avoir l’une des conditions r′_{ϵ}r′′_{ϵ} = 0 qui nécessairement entraîne soit I_{+} = I_{−} soit P_{+} = P_{−}. Et on a donc immédiatement une impossibilité avec les conventions sur ϵ_{I} et ϵ_{P}. Cela termine la preuve en ce qui concerne la stabilité. Pour la semi-stabilité: le raisonnement est du même type, il faut pour tout λ ≠ ±1, m′(λ) = 0. Pour λ = ±1, on vérifie qu’il faut ϵ_{I} = ϵ_{P} (c’est comme ci-dessus), puis M′′(λ) = 0 et ζ_{+} = ζ_{−} = −. Ensuite, on se rappelle des échanges induits par X_{cusp}; on doit échanger ν′([u], ϵ′) et ν′′([u], ϵ′) pour tout [u] ∈ [V P (χ)] et tout ϵ′ = ±1 (cf. 4.1). On en déduit que la semi-stabilité est équivalente à ce que n′([u]) = 0 pour tout [u] ≠ ±1 dans [V P (χ)], n′(±1) = 0 ainsi que les conditions déjà écrites sur la partie cuspidale. Cela termine la preuve.

5.3 Traduction en termes de paramètres

La remarque ci-dessous vient d’idées de Lusztig avec des compléments pour les groupes non connexes de [13]. On considère l’ensemble des quadruplets d’entiers positifs ou nuls introduit dans 3.3, pour u = ± et ϵ′ = ±, k_{u,ϵ′} et on pose I_{ϵ} l’entier impair du couple (k_{u,+} + k_{u,−} + 1, |k_{u,+} − k_{u,−}|) et P_{ϵ} l’entier pair. On pose aussi ζ_{u} le signe de k_{u,+} − k_{u,−} avec la convention que si ce nombre est nul ζ_{u} = (−1)^{k_{u,+}} ce qui est compatible avec la convention de 4.1 car (I_{u} − 1)/2 = k_{u,+} dans ce cas. Remarque. Avec les notations précédentes, on a l’équivalence des conditions:

∀u ∈ {±}; |I_{u} − P_{u}| = 1 et ζ_{u} = + ⇔ ∀u ∈ {±} k_{u,−} = 0;

∀u ∈ {±}; |I_{u} − P_{u}| = 1 et ζ_{u} = − ⇔ ∀u ∈ {±} k_{u,+} = 0.

On a pour u = ±, |I_{u} − P_{u}| = 1 + k_{u,−ζ_{ϵ}} et la remarque en découle. La remarque précédente motive la définition: Définition. Soit ψ, ϵ un paramètre discret de niveau 0. On reprend les notations de 2.1 et 3.3. On dit qu’il est stable si pour tout [u] ∈ [V P (χ)] l’orbite U′_{[u]} = 0; il est semi-stable si pour tout [u] ∈ [V P (χ) l’orbite U′′_{[u]} = 0 et il est instable sinon. Corollaire. L’espace des fonctions associées via la représentation de Springer-Lusztig et les faisceaux caractères à un paramètre discret de niveau zéro est formé de fonctions stables, semi-stables ou instables si et seulement si le paramètre est stable, semi-stable ou instable. Avec la remarque, cela résulte de 5.2 et de la définition ci-dessus.

6 Interprétation

6.1 Transformation de Fourier

Dans les conjectures de Langlands, les propriétés de stabilité ne s’expriment pas comme dans le corollaire ci-dessus. Ce ne sont pas certains paramètres qui sont stables mais au contraire ce sont des combinaisons linéaires. Les 2 façons d’exprimer le résultat se déduisent l’une de l’autre par une transformation style transformation de Fourier. Plus précisément, on fixe χ et on fixe des orbites U_{[u]} pour tout [u] ∈ [V P (χ)] vérifiant les conditions de 2.1 et on note \underline{U} := \{U_{[u]}; [u] ∈ [V P (χ)]\}. On note 𝔓_{χ,\underline{U}} l’espace vectoriel complexe de base l’ensemble des paramètres discrets de niveau 0 tels que la restriction de ψ à I_{F} × SL(2, ℂ) (cf. 2.1) soit déterminée par χ et \underline{U}. Le principe est de définir un produit scalaire sur cet espace, < , > et de définir la transformation F, en posant:

∀p ∈ 𝔓_{χ,\underline{U}}; F(p) := ∑_{p′∈𝔓_{χ,\underline{U}}} < p, p′ > p′

Et si on a donné les bonnes définitions, on doit obtenir que l’application F transforme les paramètres stables au sens de 5.3 en des combinaisons linéaires stables à la Langlands; on renvoie aux paragraphes suivants pour expliquer cette dernière notion. Cela a déjà été fait dans [8] par. 6 dans ce qui est, en fait, le cas le plus difficile; en effet la difficulté vient de ce qu’il faut travailler avec des paramètres elliptiques et non pas des paramètres discrets et cette difficulté n’apparaît vraiment que quand [V P (χ)] contient +1 et/ou −1. On dit qu’une orbite unipotente d’un groupe linéaire complexe est elliptique symplectique (resp. orthogonale) si ses blocs de Jordan sont tous pairs (resp. impairs) intervenant avec multiplicité au plus 2; pour le calcul du commutant, il n’y a pas de changement majeur au lieu d’avoir des groupes O(1), on a un groupe O(2) chaque fois qu’il y a multiplicité 2 (cf. 2.1). Disons qu’un paramètre ψ, ϵ est elliptique de niveau 0 si ψ_{|W_{F}} est modérément ramifié comme en 2.1 et avec les notations de loc.cite, pour tout [u] ∈ [V P (χ)] et pour tout ζ = ±1, l’orbite U_{[u],ζ} est elliptique symplectique ou orthogonale (la différence entre symplectique et orthogonale étant comme en 2.1). On remarque qu’il y a une différence pour [u] ≠ [±1] et pour [u] = [±1]. En effet dans le premier cas, il revient au même de dire que U_{[u]} est discrète (resp. elliptique) que de dire que chaque U_{[u],ζ}, pour ζ = ±1 est discrète ou elliptique et de plus, ce qui est le plus intéressant est que U_{[u]} détermine chaque U_{[u],ζ}. Ce n’est plus le cas si [u] = [±1]; dans ce deuxième cas la multiplicité d’un bloc de Jordan dans U_{[u]} a comme seule obligation d’être inférieure ou égale à 4 et le point le plus grave est que U_{[u]} ne détermine pas chaque U_{[u],±}. Ici u = ±1. On considère l’espace vectoriel complexe de base les quadruplets (U_{[u],±}, ϵ_{[u],±}) et on note ℂ[Ell_{[u]}] son sous-espace vectoriel engendré par les éléments

∑_{ϵ_{[u],+},ϵ_{[u],−}}( ∏ ; \begin{matrix}α_{+} ∈ Jord(U_{[u],+}); mult_{+}(α_{+}) = 2, \\ α_{−} ∈ Jord(U_{[u],−}); mult_{−}(α_{−}) = 2 \end{matrix} ϵ_{[u],+}(α_{+})ϵ_{[u],−}(α_{−}))(U_{[u],±}, ϵ_{[u],±})

où U_{[u],±} est fixé et la somme ne porte que sur les ϵ_{[u],±} fixés sur l’ensemble des α_{±} dans Jord(U_{[u],±}) dont la multiplicité mult_{[u],±}(α) est 1. On a défini en [8] 6.11 une involution de ℂ[Ell_{[u]}]; il faut transporter le F du (i) de loc.cit par la bijection rea du (ii) de loc. cit.. C’était même une isométrie, mais on n’insiste pas la-dessus ici. C’est trop technique pour qu’on redonne la définition. On note F_{[u]} cette involution. Considérons maintenant le cas de [u] ≠ ±1; on pose ici ℂ[Disc_{[u]}], l’espace vectoriel complexe de base les éléments U_{[u]}, ϵ_{[u]} où est U_{[u]} est discrète (c’està-dire que tous ses blocs de Jordan ont multiplicité 1). Pour définir l’application F_{[u]}, on définit le produit scalaire:

< (U_{[u]}, ϵ_{[u]}), (U′_{[u]}, ϵ′_{[u]}) >_{[u]}:= \begin{matrix}0, si U_{[u]} ≠ U′_{[u]}, \\ σ(U_{[u]})σ(ϵ_{[u]})σ_{[u]}(ϵ′_{[u]}) ∏_{{α∈Jord(U_{[u]}) \atop ϵ_{[u]}(α)=−1}}ϵ′_{[u]}(α) sinon, \end{matrix}

où tous les σ sont des signes dépendant de l’objet dans la parenthèse; ici on n’a besoin que de σ_{[u]}(ϵ′_{[u]}). On le prend égal à ×_{α∈Jord(U_{[u]}),α≡1[2]}ϵ′_{[u]}(α). On pose alors F_{[u]}(U_{[u]}, ϵ_{[u]}) := ∑_{ϵ′_{[u]}} < (U_{[u]}, ϵ_{[u]}), (U_{[u]}, ϵ′_{[u]}) >_{[u]} (U_{[u]}, ϵ′_{[u]}).

On remarque aisément que F_{[u]}^{2} = 2^{|Jord(U_{[u]})|}F_{[u]}. Pour homogénéiser, on définit aussi ℂ[Ell_{[u]}]; c’est l’espace vectoriel engendré par les éléments:

∑_{ϵ_{[u]}}( ∏_{α∈Jord(U_{[u]});mult(α)=2} ϵ_{[u]}(α))(U_{[u]}, ϵ_{[u]})

où U_{[u],±} est fixé et la somme ne porte que sur les ϵ_{[u],±} fixés sur l’ensemble des α_{±} dans Jord(U_{[u],±}) dont la multiplicité mult_{[u],±}(α) est 1. On étend F_{[u]} à ℂ[Ell_{[u]}] en étendant la formule déjà donnée en précisant simplement que le produit ne porte que sur les α dont la multiplicité comme bloc de Jordan est 1. On pose ℂ[Ell_{χ}] := ⊗_{[u]∈[V P (χ)];[u]}ℂ[Ell_{[u]}]. Et on définit F := ⊗_{[u]∈[V P (χ)]}F_{[u]}

6.2 Restriction aux parahoriques des représentations

On a défini la représentation de Springer-Lusztig en 3.3; suivant [7] 6.5, on modifie légèrement cette définition dans le cas des groupes unitaires, on la note alors SpL_{ell}; cela induit alors un changement dans 3.3 que l’on marque par le changement de notation de SpL_{ell}. Soit (ψ, ϵ) un paramètre discret (ou elliptique) de niveau 0; on note ϵ_{Z} la restriction de ϵ à l’élément non trivial du centre de Sp(2n, ℂ). Pour ♯ = iso ou an, on dit que ϵ_{Z} = ♯ si ϵ_{Z} = 1 quand ♯ = iso et −1 sinon. On note |D| l’involution de [2] et [10] qui envoie une représentation irréductible sur une représentation irréductible. Conjecture: Il existe une bijection entre les paramètres discrets de niveau 0 ayant χ comme restriction à I_{F} et vérifiant ϵ_{Z} = ♯ et les séries discrètes de niveau zéro du groupe SO(2n + 1, F)_{♯} ayant χ comme élément semi-simple de leur support cuspidal: (ψ, ϵ) ↦ π_{ψ,ϵ} qui s’étend en une bijection, notée rea, entre ℂ[Ell_{χ}] et l’espace vectoriel complexe engendré par les représentations elliptiques au sens d’Arthur ayant χ comme élément semi-simple de leur support cuspidal avec la propriété: pour tout paramètre discret de niveau zéro, (ψ, ϵ), k_{χ}(ρ ∘ ι) SpL_{ell}(ψ, ϵ) est un pseudo-coefficient de |D|rea F(ψ, ϵ) (ou plus exactement a les mêmes intégrales orbitales qu’un pseudo-coefficient en les points semi-simples réguliers elliptiques de SO(2n + 1, F)_{♯}). Cette conjecture est démontrée dans [12] pour les représentations de réduction unipotente.

Cette conjecture est motivée par ([7] 7.) bien qu’il y ait une différence entre les signes; cette différence doit traduire un signe provenant de la traduction en terme d’algèbre de Hecke de l’induction de Lusztig (ce qui devrait être l’objet de [2]). En [7], le signe qui s’introduit est ∏_{u≠±1} ∏_{α∈Jord(U_{[u]});α≡m([u])+1[2]} ϵ′(α) alors qu’ici on a fait le produit sur les blocs de Jordan impair.

6.3 Interprétation des résultats de stabilité

On a vu en [8] 4.6 (à la suite d’Arthur) que la stabilité des représentations elliptiques se lit sur les intégrales orbitales des pseudo-coefficients, en admettant la conjecture de 6.2 on peut décrire les combinaisons linéaires de représentations discrètes qui sont stables. Soit ψ, ϵ un paramètre discret de niveau 0 de restriction le caractère χ à I_{F}. On note encore ϵ_{Z} la restriction de ϵ au centre de SO(2n + 1, F)_{♯} (où ♯ = iso ou an) et on dit que ϵ_{Z} = ♯ si ϵ_{Z} = + quand ♯ = iso et − quand ♯ = an.

Théorème. Ici on admet la conjecture de 6.2. Soient ♯ = iso ou an et ψ un paramètre discret de niveau 0.

(i) La combinaison linéaire:

∑_{ϵ;ϵ_{Z}=♯} π_{ψ,ϵ}

est stable pour le groupe SO(2n + 1, F)_{♯}. De plus dans le transfert entre SO(2n+1, F)_{an} et SO(2n+1, F)_{iso}, les combinaisons linéaires ϵ_{Z} ∑_{ϵ;ϵ_{Z}=♯} π_{ψ,ϵ} se correspondent (ici ♯ est vu comme un élément de ±1). (ii) toute combinaison linéaire des représentations π_{ψ,ϵ} pour ϵ variant avec ϵ_{Z} = ♯ est instable si elle n’est pas proportionnelle à la combinaison écrite en (i). On fixe ♯ = iso ou an et on note ℂ[Ell_{χ}]_{stable,♯} le sous-espace de ℂ[Ell_{χ}] formé de l’image par rea des combinaisons linéaires stables de représentations elliptiques pour SO(2n + 1, F)_{♯}. Et on note ℂ[Ell_{χ}]_{st,sst} le sous-espace de ℂ[Ell_{χ}] engendré par les paramètres elliptiques de niveau 0, stables ou semistables. On reprend les notations U′([u]) et U′′([u]) de 3.3, l’espace ci-dessus est donc naturellement la somme directe des 2 sous-espaces, l’un (resp. l’autre) engendré par les paramètres (ψ, ϵ) tels que U′′_{[u]} = 0 (resp. U′_{[u]} = 0) pour tout [u] ∈ [V P (χ)]. Avec la conjecture et le théorème de 5.2 (complété par la remarque de 5.1), on sait que rea ∘ F induit entre ℂ[Ell_{χ}]_{st,sst} et ℂ[Ell_{χ}]_{stable,iso} ⊕ ℂ[Ell_{χ}]_{stable,an}. Il suffit donc de calculer l’image par F d’un paramètre (ψ, ϵ) elliptique de niveau 0 qui soit stable ou semi-stable et de reprojeter sur l’espace vectoriel engendré par les paramètres (ψ, ϵ) vérifiant ϵ_{Z} = ♯ quand ♯ est fixé. Fixons donc ζ = ± et calculons l’image F(ψ, ϵ) en supposant que pour tout [u] ∈ [V P (χ)] l’orbite U_{[u]}^{δ} = 0, où δ =′ si ζ = + et δ =′′ si ζ = −. On espère que le lecteur comprendra une décomposition F(ψ, ϵ) = ×_{[u]∈[V P (χ)]}F_{[u]}(ψ_{[u]}, ϵ_{[u]}). Et on calcule F_{[u]}(ψ_{[u]}, ϵ_{[u]}) en supposant d’abord que [u] ≠ [±1]; d’après la définition, on a

F_{[u]}(ψ_{[u]}, ϵ_{[u]}) = σ(U_{[u]})σ_{[u]}(ϵ_{[u]}) ∑_{ϵ′_{[u]}} σ_{[u]}(ϵ′_{[u]})( ∏_{{α∈Jord(U_{[u]}) \atop ϵ_{[u]}(α)=−1}} ϵ′_{[u]}(α))(ψ_{[u]}, ϵ′_{[u]}).

Or ϵ_{[u]}(α) = ζ par hypothèse pour tout α; la formule ci-dessus se simplifie donc si ζ = + en

F_{[u]}(ψ_{[u]}, ϵ_{[u]}) = σ_{[u]}(ϵ_{[u]}) ∑_{ϵ′_{[u]}} σ_{[u]}(ϵ′_{[u]})(ψ_{[u]}, ϵ′_{[u]}).

Par contre si ζ = −, elle se simplifie en:

F_{[u]}(ψ_{[u]}, ϵ_{[u]}) = σ_{[u]}(ϵ_{[u]}) ∑_{ϵ′_{[u]}} σ_{[u]}(ϵ′_{[u]})( ∏_{α∈Jord(U_{[u]})} ϵ′_{[u]}(α))(ψ_{[u]}, ϵ′_{[u]}).

Le cas de [u] = [±1] est exactement celui traité en [8] 6.12, et le résultat est analogue à ci-dessus.

En revenant au produit, on obtient dans le cas ζ = +, avec σ un signe qui dépend de ψ, ϵ:

F(ψ, ϵ) = σ ∑_{ϵ′}(ψ, ϵ′).

Dans le cas ζ = −, dans la formule s’ajoute ∏_{α∈∪_{[u]}Jord(U_{[u]})} ϵ′(α) qui n’est autre que ϵ′_{Z}. Quand on sépare les 2 morceaux, celui correspondant à ♯ = iso et ♯ = an, ϵ′_{Z} est constant dans chaque morceau. Pour pouvoir en déduire le résultat de stabilité cherchée, il faut utiliser la conjecture 6.2 qui permet de calculer les intégrales orbitales des caractères des représentations pour les éléments elliptiques. Mais il faut d’abord enlever |D|. Or pour toute représentation π irréductible et pour tout élément elliptique γ de G le caractère de π et de |D|π coïncident en γ au signe (−1)^{rg_{G}−rg_{Pcusp,π}}, où P_{cusp,π} est le sous-groupe parabolique de G minimal pour la propriété que res_{P} (π) est non nulle. Pour π de la forme π(ψ, ϵ), (−1)^{rg_{G}−rg_{Pcusp,π}} = ∏_{α∈∪_{[u]}Jord(U_{[u]});α≡0[2]} ϵ(α). On a ainsi démontré que la distribution

∑_{ϵ′}( ∏_{α∈∪_{[u]}Jord(U_{[u]})} ϵ′(α))π(ψ, ϵ′)

est stable et que pour ♯ = iso ou an les seules distributions stables sont les sous-sommes de la somme ci-dessus où l’on ne somme que sur les ϵ′ tels que ϵ′_{Z} = ♯. Cela donne le résultat annoncé.

References

[1] Arthur J. : On local character relations, Selecta Math. 2, 1996, pp. 501-579

[2] Aubert A.-M. : Dualité dans le groupe de Grothendieck de la catégorie des représentations lisses de longueur finie d’un groupe réductif padique,TAMS, 347, 1995, pp. 2179-2189 avec l’erratum publié dans TAMS, 348, 1996, pp. 4687-4690

[3] Aubert A.-M., Kutzko P., Morris L. : Algèbres de Hecke des représentations de niveau zéro des groupes réductifs p-adiques. Applications, version très préliminaire communiquée à l’auteur

[4] Courtès F. : Distributions invariantes, prépublication

[5] Lusztig G. : Intersection cohomology complexes on a reductive group, Inventiones 75, 1984, pp. 205-272

[6] Lusztig G. : Green functions and character sheaves, Ann of Math 131, 1990, pp. 355-408

[7] Mœglin C.: Stabilité pour les représentations elliptiques de réduction unipotente: le cas des groupes unitaires, prépublication Février 2003 [8] Mœglin C., Waldspurger J.-L.: Paquets stables de représentations

tempérées et de réduction unipotente pour SO(2n + 1) prépublication, Inst. Math. Jussieu 294, 2001.

[9] Moy A., Prasad G. : Jacquet functors and unrefined minimal K-types, Comment. Math. Helvetici 71, 1996, pp. 98-121

[10] Schneider M., Stuhler U. : Representation theory and sheaves on the Bruhat-Tits building Publ. Math. IHES 85, 1997, pp. 97-191

[11] Waldspurger J.-L. : Intégrales orbitales unipotentes et endoscopie pour les groupes classiques non ramifiés Astérisque 269, 2001

[12] Waldspurger J.-L. : Représentations de réduction unipotente pour SO(2n + 1): quelques conséquences d’un article de Lusztig prépublication Inst. Math. Jussieu 298, 2001, à paraître dans recueil en l’honneur de Shalika.

[13] Waldspurger J.-L. : Une conjecture de Lusztig pour les groupes classiques prépublication, 2002

Colette Moeglin

CNRS, Institut de mathématiques de JUSSIEU Paris moeglin@math.jussieu.fr