Partant de la représentation de l’algèbre de Lie du groupe (nilpotent, connexe et simplement connexe) par des opérateurs différentiels rationnels dont l’existence est liée à la conjecture de Gelfand et Kirillov et démontrée dans Nghiêm Xuân Hai (Ann. Inst. Fourier, 33-4 (1983), 95–133), on calcule explicitement la transformation de Fourier-Plancherel de . En particulier, on obtient la mesure de Plancherel comme une mesure à densité sur un ouvert de Zariski du spectre antihermitien du centre de l’algèbre enveloppante .
On obtient naturellement le noyau de toutes les représentations unitaires du dual réduite en même temps, avec de très bonnes propriétés : analyticité, décroissance à l’infini, et surtout, les éléments de matrices généralisées qui sont donnés par les valeurs de ces noyaux apparaissent comme des fonctions propres au sens des distributions pour l’action à gauche et à droite d’une sous-algèbre commutative de .
On donne enfin l’interprétation des représentations en termes d’opérateurs Fourier-Intégraux et on obtient un résultat remarquable : La transformation de Fourier-Plancherel se réalise avec un opérateur Fourier-Intégral à phase rationnelle et la Transformation inverse est juste de phase opposée. On obtient explicitement la transformation de Fourier des opérateurs différentiels polynomiaux sur . En illustration de ces résultats, on donne le calcul explicite et rapide de cette phase pour les groupes de Lie nilpotents “assez commutatifs” (en sont les groupes de Heisenberg, les groupes de degré de nilpotence , les groupes triangulaires de matrices).
The Fourier Plancherel transform for nilpotent Lie groups is given by exponentiating an infinitesimal representation of the Lie algebras by differential antisymmetrical operators of degree at most one.
This transform can be written as a Fourier Integral operator the amplitude of which is the exponential of a rational phase and the inverse Transform is given by the opposite phase.
The phase, which is polynomial except a division by a central polynomial, gives also the Fourier transform of regular differential operators on the group and the amplitude, which is an analytic function, is also the eigendistribution of a maximal abelian sub-algebra of differential operators on the group.
The rank-two case is computed as an application.
@article{AIF_1984__34_1_1_0, author = {Nghi\^em Xu\^an Hai}, title = {La transformation de Fourier Plancherel analytique des groupes de Lie. II : les groupes nilpotents}, journal = {Annales de l'Institut Fourier}, volume = {34}, year = {1984}, pages = {1-37}, doi = {10.5802/aif.948}, mrnumber = {85k:22020b}, zbl = {0498.43009}, language = {fr}, url = {http://dml.mathdoc.fr/item/AIF_1984__34_1_1_0} }
Nghiêm Xuân Hai. La transformation de Fourier Plancherel analytique des groupes de Lie. II : les groupes nilpotents. Annales de l'Institut Fourier, Tome 34 (1984) pp. 1-37. doi : 10.5802/aif.948. http://gdmltest.u-ga.fr/item/AIF_1984__34_1_1_0/
[1] Fourier Transform of smooth functions on certain Nilpotent Lie groups, Jour. Funct. Anal., 37 (1980), 203-217. | MR 81f:22012 | Zbl 0456.43006
&[2] Algèbres enveloppantes, Gauthier-Villars, Paris, 1974. | MR 58 #16803a | Zbl 0308.17007
[3] A connection between Nilpotent Lie Groups and Oscillatory integrals associated to singularities, Pacific Jour. Math., 73 (1977), 329-364. | MR 58 #28270 | Zbl 0383.22009
[4] Sur les corps liés aux algèbres enveloppantes, Publ. Math. IHES, n° 31 (1966), 5-20. | Numdam | MR 34 #7731 | Zbl 0144.02104
&[5] La Transformation de Fourier-Plancherel analytique des groupes de Lie. I. Algèbres de Weyl et opérateurs différentiels, Ann. Inst. Fourier, 33-4 (1983), 95-133. | Numdam | MR 85k:22020a | Zbl 0498.43008
,[6] Une variante de la conjecture de Gelfand-Kirillov et la Transformation de Fourier-Plancherel. C.R.A.S., Paris, tome 293, série 1, p. 381-384. | MR 82m:17004 | Zbl 0472.43008
[7] Construction analytique de la Transformation de Fourier-Plancherel des groupes de Lie. Cours de 3è Cycle Orsay, Université de Paris-Sud (1979), Publ. Math. Orsay, (1979) n° 79.06. | Zbl 0477.43011
[8] Algèbres de Heisenberg et géométrie symplectique des algèbres de Lie, Publ. Math. Orsay (1978) n° 78.08. | MR 80g:17005 | Zbl 0392.17007
[9] Harmonic analysis on the Poincaré Group : | Zbl 0174.55702
I. Generalized matrix elements, Comm. Math. Phys., 12 (1969), 331-350.
II. The Fourier Transform, Comm. Math. Phys., 22 (1971), 301-320. | Zbl 0221.43015
[10] Sur certaines représentations d'une algèbre de Lie résoluble complexe (I), Bull. Sc. Math., 97 (1973), 105-128. | MR 49 #7323 | Zbl 0275.17003
[11] Unitary representations of nilpotent Lie Groups, Uspekhi Math. Nauk., 17 (1962), 57-110. | MR 25 #5396 | Zbl 0106.25001
[12] Leçons sur les représentations des groupes, Dunod, Paris, 1967. | MR 36 #311 | Zbl 0152.01201
[13] Unitary representations of solvable Lie Groups, Ann. Sci. Ec. Norm. Sup., 4è Série, 4 (1971), 457-608. | Numdam | MR 55 #12866 | Zbl 0238.22010