Soutenance de thèse de Sarah DIJOLS

Cette thèse est une contribution à l'étude des représentations distinguées et comporte deux parties indépendantes. La première s'intéresse à la Conjecture d'injectivité généralisée formulée par Casselman et Shahidi en 1998. Le seconde est un travail en commun avec Dipendra Prasad. Soit un groupe connexe quasi-déployé défini sur un corps non-Archimédien de caractéristique nulle. On suppose que l'on se donne un sous-groupe parabolique standard de décomposition de Levi P=MU ainsi qu'une représentation irréductible tempérée $tau$ de M. Soit $nu$ un élement dans le dual de l'algèbre de Lie de la composante déployée de M; on le choisit dans la chambre de Weyl positive. La représentation induite $I_P^G(tau_{nu})$ est appelée module standard. Quand la représentation $tau$ est générique (pour un caractère non-dégénéré de U), i.e a un modèle de Whittaker, le module standard $I_P^G(tau_{nu})$ est également générique. De plus, par un résultat de Rodier tout module standard générique a un unique sous-quotient générique. Casselman et Shahidi ont conjecturé que cet unique sous-quotient générique apparaissait nécessairement comme sous-représentation dans le module standard $I_P^G(tau_{nu})$. Cette conjecture a été démontrée dans le cas des groupes classiques $SO(2n+1), Sp(2n)$, et $SO(2n)$ quand $P$ est un sous-groupe parabolique maximal de $G$, par Hanzer en 2010. Dans notre travail, nous formulons et étudions ce problème dans le contexte d'un groupe réductif quasi-déployé quelconque en nous appuyant principalement sur la forme du support cuspidal, $sigma_{lambda}$, de cet unique sous-quotient irreductible générique. La forme explicite du support cuspidal est étudiée en utilisant la correspondance entre points résiduels dominants de la fonction $mu$ et diagrammes de Dynkin pondérés. A partir de cette correspondance, nous introduisons la notion de emph{segments résiduels} et associons à un tel segment résiduel, un emph{ensemble de sauts}, une notion qui s'inspire des blocs de Jordan tels qu'étudiés par Moeglin et Tadic dans leur enquote{Construction de séries discrètes pour les groupes p-adiques classiques}. Essentiellement, ces notions nous permettent de réduire notre argumentation au cas des séries principales non ramifiées. Une fois la représentation irréductible générique cuspidale $sigma$ fixée, l'on peut étudier l'ensemble $Sigma_{sigma}: = left{alpha in Sigma_{text{red}}(A_{M_1})| mu^{(M_1)_{alpha}}(sigma) = 0right}$. C'est un système de racines dans le sous-espace vectoriel $a_{M_1}^*$. Nous utilisons et prouvons l'existence de plongements stratégiques pour le sous-quotient irréductible générique lorsqu'il est de carré intégrable; puis nous utilisons des opérateurs d'entrelacement à noyau non-générique. Ces outils nous permettent de prouver la Conjecture pour tout groupe connexe quasi-déployé tel que les composantes irréductibles de $Sigma_{sigma}$ sont de type $A,B,C$ ou $D$. Le large cadre dans lequel nous avons démontré ces résultats semble de bon augure pour démontrer la conjecture en toute généralité. Dans la deuxième partie de cette thèse nous étudions les modèles symplectiques pour les groupes unitaires. Nous prouvons d'abord qu'il n'existe pas de representation cuspidale du groupe quasi-déployé $U_{2n}(F)$ qui soit distinguée par son sous-groupe $Sp_{2n}(F)$ pour $F$ un corps local non-Archimédien. Nous prouvons ensuite le théorème équivalent pour un corps global: il n'existe pas de représentation cuspidale de $U_{2n}(A_k)$ qui ait une période symplectique non nulle pour $k$ un corps de nombres ou corps de fonctions. Nous donnons une classification complète du groupe unitaire quasi-déployé en quatre variables sur un corps local ou global qui ont une période symplectique non-nulle en utilisant la correspondance Théta. Finalement, nous proposons une conjecture pour la classification de toutes les représentations d'un groupe unitaire quasi-déployé distinguées par $Sp_{2n}(F)$.

This thesis is a contribution to the study of distinguished representations and is made up of two independant parts. The first is concerned with the Generalized Injectivity Conjecture formulated by Casselman and Shahidi in their paper enquote{On irreducibility of standard modules for generic representations} published in 1998. The second is a joint work with Dipendra Prasad. Let $G$ be a quasi-split connected reductive group over a non-Archimedean local field $F$ of characteristic zero. We assume we are given a standard parabolic subgroup $P$ with Levi decomposition $P=MU$ as well as an irreducible, tempered representation $tau$ of $M$. Let now $nu$ be an element in the dual of the real Lie algebra of the split component of $M$; we take it in the positive Weyl chamber. The induced representation $I_P^G(tau_{nu})$ is called a standard module. When the representation $tau$ is generic (for a non-degenerate character of $U$), i.e. has a Whittaker model, the standard module $I_P^G(tau_{nu})$ is also generic. Further, by a result of Rodier any generic induced module has a unique irreducible generic subquotient. Casselman and Shahidi have conjectured that the unique irreducible generic subquotient of a standard module $I_P^G(tau_{nu})$ is necessarily a subrepresentation. This conjecture known as the Generalized Injectivity Conjecture was proved for the classical groups $SO(2n+1), Sp(2n)$, and $SO(2n)$ for $P$ a maximal parabolic subgroup, by Hanzer in 2010. In our work, we formulate and study this problem in the context of any quasi-split reductive group while mostly relying on the form of the cuspidal support, $sigma_{lambda}$ of this unique irreducible generic subquotient. Explicit forms of the cuspidal support are studied using the correspondence between dominant residual points of the $mu$ function and Weighted Dynkin diagrams. %Using this correspondence an explicit description of dominant residual points is achieved. We introduce the notion of emph{residual segments} and associate to such residual segment, emph{set of Jumps} inspired by the notion of Jordan blocks studied in Moeglin and Tadic enquote{Construction of discrete series for classical p-adic groups}. These notions somehow help in reducing the argumentation to the case of unramified principal series. Once the irreducible generic cuspidal representation $sigma$ is fixed, one can study the set $Sigma_{sigma}: = left{alpha in Sigma_{text{red}}(A_{M_1})| mu^{(M_1)_{alpha}}(sigma) = 0right}$. It is a root system of the subspace $a_{M_1}^*$. We use and prove the existence of strategic embeddings for irreducible generic discrete series representations and further use intertwining operators with non-generic kernel. These tools allow us to prove the Generalized Injectivity Conjecture for any quasi-split connected reductive group such that the irreducible components of $Sigma_{sigma}$ are of type $A,B,C$ or $D$. The larger framework in which we have studied this conjecture is a first step to prove it in full generality. The second part of this thesis is concerned with symplectic models for unitary groups. We prove that there are no cuspidal representations of the quasi-split unitary groups $U_{2n}(F)$ distinguished by $Sp_{2n}(F)$ for $F$ a non-archimedean local field. We also prove the corresponding global theorem that there are no cuspidal representations of $U_{2n}(A_k)$ with nonzero period integral on $Sp_{2n}(k) backslash Sp_{2n}(A_k)$ for $k$ any number field or a function field. We completely classify representations of quasi-split unitary group in four variables over local and global fields with nontrivial symplectic periods using methods of theta correspondence. We propose a conjectural answer for the classification of all representations of a quasi-split unitary group distinguished by $Sp_{2n}(F)$.