Канонические и граничные представления Текст научной статьи по специальности «Математика»

УДК 517.98

Канонические и граничные представления 1

© В. Ф. Молчанов, А. А. Артемов, Л. И. Грошева

Ключевые слова: канонические представления; граничные представления; симметрические пространства; псевдо-ортогональная группа; преобразование Березина.

Излагается общая концепция канонических представлений. Она иллюстрируется тремя примерами: плоскость Лобачевского с действием группы 811(1,1), сфера в Еп с действием обобщенной группы Лоренца 80о(1, п — 1), порождаемым надгруппой 80о(1,?г), та же сфера с действием той же обобщенной группы Лоренца, но с надгруппой 8Ь(п, К).

В настоящей работе мы излагаем общую концепцию канонических представлений и рассматриваем три примера: (1) плоскость Лобачевского (однородное пространство) с действием группы Эи(1,1) и надгруппой 8Ь(2, С); (и) единичная сфера 5"-1 в К", группа С - псевдо-ортогональная группа 80о(1,п — 1) (обобщенная группа Лоренца), действие группы С на б1"-1 задается надгруппой С = ЭОо(1, п)\ (ш) та же сфера с той же группой, но с другой надгруппой

- группой ЭЬ(п,К); в двух последних случаях сфера не является однородным многообразием, открытые орбиты - гиперболоиды (их связные части).

§ 1. Канонические представления

Канонические представления на эрмитовых симметрических пространствах С/К были введены в работах Ф. А. Березина [4] и А. М. Вершика, И. М. Гель-фанда и М. И. Граева [5] - для нужд квантования и квантовой теории поля. Эти представления действуют сдвигами в функциях на й/К и являются унитарными относительно некоторого нелокального скалярного произведения, теперь называемого формой Березина. Они являются деформациями квазире-гулярного представления группы О, действующего сдвигами в пространстве Ь2 на (3/К (ядро скалярного произведения в Ь2 есть дельта-функция, это -локальное скалярное произведение). Разложение квазирегулярного представления на однородном пространстве на неприводимые составляющие есть основная задача абстрактного (некоммутативного) гармонического анализа. Появление нелокального скалярного произведения делает теорию (некоммутативный

1 Работа поддержана грантами: РФФИ 09-01-00325 а, Научной Программой "Развитие На-

учного Потенциала Высшей Школы" РНП.1.1.2.1474 и Темпланом 1.5.07.

гармонический анализ) значительно более богатой и интересной как для самой математики, так и для ее приложений.

Изучение канонических представлений на эрмитовых симметрических пространствах С/К стало в последнее время привлекательной и популярной задачей для математиков из многих стран: Г. ван Дейк, С. Хилле (Нидерланды), А. Унтерберже, М. Певзнер, А. Паскуале (Франция), Т. Номура, Т. Кобая-си (Япония), Г. Чжанг (Швеция), Б. Орстед (Дания), Дж. Арази (Израиль), Г. Упмайер (Германия), М. Энглис (Чехия), Ю. А. Неретии (Россия) и других.

Наша главная идея состоит в расширении этого важного понятия - канонического представления - и распространении его с класса эрмитовых симметрических пространств С/К, рассматривавшегося ранее, на другие классы симметрических полупростых пространств С/ Н.

Мы считаем, что естественно было бы отказаться от слишком стеснительного условия унитарности, нужно позволить каноническим представлениям действовать в достаточно широких пространствах функций и даже более того -в пространствах сечений линейных расслоений, в частности, в пространствах обобщенных функций. Эти пространства не обязательно гильбертовы (или банаховы). Более естественной для такой цели является структура ядерного пространства. Кроме того, естественным является расширение рамок для изучения гармонического анализа: теория должна включать действие группы С не только на ее однородных пространствах, но и на многообразиях с нетранзитивным действием группы 6\^В качестве таких многообразий мы берем флаговые пространства надгрупп (7.

Наш подход состоит в следующем. Пусть (7 - полупростая группа Ли и С!

- надгруипа для О, это означает, что С есть подгруппа группы С и эта подгруппа - сферическая, т.е. выделяется из С некоторой инволюцией. Пусть Р -максимальная параболическая подгруппа группы (7, пусть Я\, А € С, - серия представлений группы С, индуцированных характерами (одномерными представлениями) подгруппы Р. Представления Я\ могут зависеть еще от некоторых дискретных параметров, сейчас мы их не пишем. Как правило, представления И.\ неприводимы. Они действуют в функциях на некотором компактном многообразии О, (пространстве флагов для надгруппы (7).

Обозначим через Я\ ограничения представлений Я\ на группу (3:

Я\ = Я)

Мы называем эти представления Я\ каноническими представлениями группы С. Они действуют в функциях на Г2.

Вообще говоря, многообразие О не является однородным пространством группы (7, эта группа имеет несколько орбит на П. Открытые С-орбиты являются полупростыми симметрическими пространствами С/ //,. Подгруппы Я* получаются как пересечения Н\ = С П <д~1 Рд^, где дг - некоторые элементы из <0. Эти подгруппы могут оказаться неизоморфными. Многообразие есть замыкание объединения открытых С-орбит.

Серия представлений Яд обладает сплетающим оператором Яд: он сплетает представления со значениями параметра Л и А* = N — А, где N - некоторое число, зависящее от П. Композиция этого оператора и инволюции, выделяющей группу (7 в б, порождает некоторый оператор С}д, который играет важную роль во всей теории. Мы называем этот оператор <3д преобразованием Березина. Он сплетает канонические представления с параметрами А и А*.

Канонические представления Яд порождают граничные представления. Это представления группы (7, связанные с границами (7-орбит С/Я*, эти границы состоят из {7-орбит меньшей размерности. Граничные представления распадаются на два типа: представления одного типа действуют в обобщенных функциях, сосредоточенных на объединении 6' границ, представления другого типа действуют в струях, трансверсальных к 5 (в коэффициентах рядов Тейлора по степеням "расстояния" до границы). Эти два типа двойственны друг другу. Появление граничных представлений связано как раз с широкой трактовкой понятия канонического представления. Граничные представления интересны как сами по себе (вообще, изучение представлений в обобщенных функциях, сосредоточенных на подмногообразиях, - одна из самых "горячих тем "и интригующих задач в некоммутативном гармоническом анализе), так и с точки зрения разложения канонических представлений, они "склеивают" представления на отдельных орбитах (7/ Я;.

Наряду с указанным понятием канонического представления можно рассматривать несколько другую его версию (более раннюю): ограничение канонических представлений в первом смысле на какую-нибудь одну (7-орбиту С/Я в Г2. Оба варианта должны быть предметом изучения. Но первый из них приводит к более естественной и прозрачной теории. Например, в первом варианте легко написать оператор, обратный к преобразованию Березина (Зд, это - оператор <3д., а во втором - это трудная задача.

Для пара-эрмитовых симметрических пространств (7/Я (см. ниже) канонические представления тесно связаны с квантованием в духе Березина, см. [12| Здесь роль переполненной системы играет ядро (функция) сплетающего оператора для представлений группы С максимально вырожденных серий. С одной стороны, преобразование Березина переводит контравариантные символы в ковариантные, с другой - его ядро (функция) дает умножение в алгебре ковариантных символов.

Основными задачами развиваемой теории являются следующие:

а) разложить канонические представления на неприводимые составляющие (тот факт, что канонические представления не обязательно унитарны, вносит особые трудности в эту задачу и предъявляет особые требования к построению теории);

б) найти дискретные составляющие канонических представлений, эквивалентные частям граничных представлений;

в) разложить граничные представления (как нами обнаружено, решение этой задачи тесно связано с мероморфной структурой преобразований Пуассона и Фурье, ассоциированных с каноническими представлениями);

г) разложить преобразование Березина (основной объект в теории квантования) по операторам Лапласа;

д) найти асимптотику преобразования Березина, когда комплексный параметр, нумерующий канонические представления, стремится к бесконечности, это включает в себя отыскание принципа соответствия из теории квантования по Березину, заметим, что указанный параметр тесно связан с "постоянной Планка", таким образом, в теорию включается постоянная Планка, принимающая комплексные значения;

е) найти взаимодействие преобразований Пуассона и Фурье, упомянутых выше, с операторами Ли надгруппы.

Однородные пространства С/Я, для которых ставятся сформулированные задачи, это симметрические полупростые пространства. Такие пространства образуют обширный и крайне важный класс (как для математики, так и для приложений - в космологии, квантовой теории, теории относительности и т.д.) однородных пространств.

Подкласс римановых симметрических пространств (здесь инвариантная метрика положительно определена) более прост в изучении. При переходе от римановых пространств к другому подклассу - псевдоримановых симметрических пространств (здесь инвариантная метрика не является знакоопределенной) трудности в изучении гармонического анализа резко возрастают.

Мы ставим своей задачей изучение некоммутативного гармонического анализа в основном именно на псевдо-римановых симметрических полупростых пространствах.

Среди всех симметрических полупростых пространств С/Я (как римановых, так и псевдо-римановых) выделяется подкласс симплектических симметрических пространств. Именно на пространствах этого класса должно строиться квантование в смысле Березина. В свою очередь, класс симплектических симметрических пространств включает в себя следующие основные подсемейства:

а) эрмитовы симметрические пространства;

б) полукэлеровы симметрические пространства;

в) пара-эрмитовы симметрические пространства;

г) комплексификации эрмитовых симметрических пространств.

Пространства семейства а) - римановы, пространства остальных семейств

- псевдо-римановы. Произвольное симплектическое пространство есть прямое произведение пространств из указанных четырех классов.

Возвращаясь к вопросу о надгруппе, укажем, что для семейств а) и б) в качестве надгрупп можно взять комплексификации С0 группы С, а для семейств

в) и г) - прямые произведения С х С.

Помимо симплектических симметрических пространств важный класс образуют гиперболические пространства - вещественные (гиперболоиды), комплекс-

ные, кватернионные и октавное:

ЭОоО?, <7)/8О0(р, д - 1),

8р(р, ч)/Яр(р, д - 1) х Эр(1),

^4,-2о/8рт(9).

Комплексные гиперболические пространства являются полукэлеровыми симметрическими пространствами.

В настоящей работе мы проводим изложенную программу для следующих многообразий (см. [15], [14], [10], [2]):

а) плоскость Лобачевского Б в реализации Пуанкаре (единичный круг); она есть однородное пространство С/К, где С = 311(1,1), К - диагональная подгруппа в С (максимальная компактная подгруппа в С), так что И - эрмитово симметрическое пространство; в качестве надгруппы мы берем группу (7 = ЭЬ(2, С);

б) многообразие П - единичная сфера 5га-1 размерности п — 1 в К", группа й - псевдо-ортогональная группа ЭОо(1,п — 1) (обобщенная группа Лоренца), действие группы (7 на Г2 задается надгруппой С = 80о(1,п); это действие не транзитивно, открытые орбиты - полы двуполостного гиперболоида, они диф-феоморфны пространству Лобачевского;

в) та же сфера в 1" с той же самой обобщенной группой Лоренца (7, но действие группы задается другой надгруппой С - группой ЭЦп, Е), это действие не транзитивно, открытые орбиты - однополостный гиперболоид И НОЛЫ двуполостного гиперболоида.

Отметим, что в [11] рассматривались унитарные канонические представления на гиперболических пространствах (это - однородные пространства) в случае, когда надгруппой служит специальная линейная группа.

Приведем некоторые обозначения.

N = {0, 1, 2, ... }, 2, М, С - множества целых, вещественных, комплексных чисел, соответственно, И* - мультипликативная группа вещественных чисел (К* = К\{0}).

Знак сравнения = всегда обозначает сравнение по модулю 2.

Мы используем следующее обозначение для характера (гомоморфизма в мультипликативную группу комплексных чисел) группы К*:

= |£|*^п££,

где I е К*, ц е С, е € Ъ. Этот характер зависит только от класса вычетов числа £ по модулю 2, так что обычно мы берем £ € {0,1}.

Для многообразия М через Т>(М) обозначается пространство комплекснозначных бесконечно дифференцируемых функций на М с компактным носителем, снабженное обычной топологией. Через Т>'(М) обозначается пространство обобщенных функций на М - антилинейных непрерывных функционалов на V{M).

Для группы Ли С через Се обозначается связная компонента единицы.

Если группа Ли обозначается заглавной латинской буквой, то ее алгебра Ли обозначается соответствующей строчной готической буквой.

Для алгебры Ли д мы обозначаем через Епу(д) ее универсальную обертывающую алгебру.

Дифференцируемое представление Т группы Ли С порождает представление алгебры Ли д (дифференциал представления Т) и, следовательно, представление алгебры Епу(д). Для этих порожденных представлений мы сохраняем тот же самый символ (в данном случае Т), который обозначает представление группы.

Пусть полуторалинейная форма на Т>(М)

((1х - некоторая (^-инвариантная мера на М) инвариантна относительно пары представлений (Т, 5) группы Ли С, действующих в Т>(М), т. е.

Тогда мы можем распространить представление Т на пространство Т>\М) обобщенных функций на М с помощью формулы (1.2), в которой (Я, /) обозначает значение функционала Р из Т>'(М) на основной функции / из Т>(М). Для полученного представления в обобщенных функциях мы сохраняем тот же символ (в данном случае Т). Это в самом деле есть расширение первоначального представления Т: пространство Т>(М) вкладывается в Т>'(М), если мы сопоставим функции Р из Т>(М) функционал / (Р, /) из Т>'{М) с помощью формулы

(1.1), а формула (1.2) и дает требуемое расширение.

Аналогично, пусть А - оператор в Т>(М) и А* - сопряженный ему, т. е. такой, что для всех F и / из Т>(М) имеет место

(ід)

([т(д)Р, ад/) = (Г,/)

или, что все равно

(Т(з)р, /) = {р зог1)/).

(1.2)

(1.3)

§ 2. Канонические представления на плоскости Лобачевского

2.1. Плоскость Лобачевского

Реализуем плоскость Лобачевского как единичный круг Б : гг < 1 на комплексной плоскости С. Пусть Б - единичная окружность гг = 1 и й = й и 5. Группа С = ви (1,1) действует транзитивно на Б и 5 дробно-линейными преобразованиями

аг + Ъ { а Ь \ _ ,Г

г і—> г ■ д = -—, <? = I т - I , аа — Ьо — 1.

Ьг + а ’ \ Ъ а

Стационарная подгруппа точки г = 0 - максимальная компактная подгруппа К группы (7, состоящая из диагональных матриц, так что Б — С/К. Обозначим

р = 1 — 21.

Инвариантная относительно (7 мера с1и(г) на Б есть

йи{г) = р~2йхс1у.

Представление 17 группы С действует в функциях на Б сдвигами:

№)/)(*) = /(*■</)■

Пространство, на котором действует и, будет специально указываться, если

нужно. В частности, представление II на пространстве Ь2(Б, с1и) является уни-

тарным относительно скалярного произведения

(/» - / /(*)/»(*) <М*)- (2.1)

«/ £>

Пусть Т>(Б) - пространство ограничений на Б функций из Х>(С) с индуцированной топологией, Т)'(Б) - пространство обобщенных функций на С с носителем из Б. Рассмотрим скалярное произведение относительно меры Лебега на

Г —

<Я,/Ь= / Р(г)1(г)<1х(1у, г = х + гу. (2.2)

•/£>

Пространство Т>(Б) вкладывается в ТУ(Б), если мы сопоставим функции /г е Т>(Б) функционал / (-» (/г, /)п, / е 1)(£)). Будем обозначать значение обобщенной функции ^ е ТУ (Б) на / е Т>(Б) в таком же виде: (Р, /)0.

2.2. Элементарные представления группы С/{±Е}

Напомним некоторый материал об основной неунитарной серии представлений группы (7, которые являются тривиальными на центре, см. [6].

Представление где а Є С, группы Є действует в пространстве Х)(5'):

(Та(д)(р)(з) = <р(з ■ д)\Ьз + а\2<т.

Пусть сів обозначает евклидову меру на 5': (1,5 = <1а для * = е1а. Скалярное произведение из Ь2(5, сів):

[ ф(8)ф()<І8 (2.3)

Js

инвариантно относительно пары (Тст,Т_г_ 1).

Если а Z, то Та неприводимо и эквивалентно Т-а-\. Оператор Аа на Х>(5), задаваемый формулой

(Дг^Хв) = [ |1 - вг>| 2,7 2у(ь)(1у, Js

сплетает представления Та и Т-а-1, т.е. Т-а-\(д)Аа = АаТа(д). Полуторалинейная форма {Ааф, <р)з инвариантна относительно пары (Та, Т^). В частности, для а € М эта форма является инвариантной эрмитовой формой для Та.

Возьмем в Т>(Б) базис фт{я) = яит, где т 6 Ъ. Он состоит из собственных функций оператора Аа:

Аафт ®ш(<^)^тп)

где

ат(а) = 2*(-1Г ^~21Г -----V <25)

Г(—а + ?тг)Г(—а — т)

Мы специально обозначим этот множитель с т = 0 (это есть с-функция Хариш-Чандры):

](<?) = а0(а) = 2тгГ(-2а - 1)/Г2(-а). (2.6)

Композиция операторов АаА_а-\ есть скалярный оператор:

АаА_а-\ = ——т-т- ■ Е,

2ттш{а)

где ш(и) - "мера Планшереля" (см. ниже пункт 2.4):

= ^{а + \)С1ёС71Т’ ^

так что

ЛеШ-* - !) =

27Гы(сг)

Оператор А„, также как и множитель з'(сг), является мероморфной функцией от а - с простыми полюсами в точках а — —(1/2) + к, ^ 6 N.

Имеется 4 серии унитаризуемых неприводимых представлений: непрерывная серия: Та, а = —1/2+гр, р € И, скалярное произведение определяется формулой

(2.3); дополнительная серия: Та, — 1 < а < 1, скалярное произведение - форма (Аа'ф,ф)з с подходящим коэффициентом; голоморфная и антиголоморфная серии, состоящие из подфакторов представлений Та, а € Ж.

2.3. Преобразования Пуассона и Фурье, сферические функции

Функция ipo из T>(S), тождественно равная единице, является К-инвариантом в представлении Та. Согласно общей схеме [9], определим ядро Пуассона P„(z, s), z & D, s £ S, формулой

Pa(z, s) = (Ta(g~1)xpo)(s) = p-°|1 - zs\2rT,

где z = 0 ■ g. Оно порождает два преобразования: Пуассона и Фурье.

Преобразование Пуассона Ра : V(S) —> C°°(D) определяется формулой:

(Р„ф)(г) = [ Pa(z, s)<p(s)ds =р~а f |1 - zs\2aip(s)ds. (2.8)

J s Js

Оно является целой функцией по а и сплетает и U. Из формулы (2.4) для

m = 0 и (2.6) имеем

РоАу = j{o)P-a-i.

Введем на D "полярные координаты" p,s:z = rs, где s Е S, р = 1 — г2.

Теорема 2.1 Пусть Для а £ (1/2) + Z преобразование Пуассона К-финитной

функции у имеет следующее разложение по степеням р:

со СО

(p^)(z) = р-° ■ pk+pa+1 •pk■ ^

k=0 fc=0

где Сcr>k и Дг^ - некоторые линейные непрерывные операторы в V(S) (явные выражения см. ниже (2.Ц))- Оба ряда сходятся в D абсолютно. Операторы Ca<k являются интегральными, a Da^ дифференциальными. Между ними имеются соотношения:

AaDak = j(a)C-<r-i'k, (2.Ю)

AaC0jt = j(<T)D.0-i,fc. (2.11)

Операторы Ca^ u Аг,ь так же как u Ат, являются диагональными в базисе фт, а следовательно, коммутируют друг с другом.

Доказательство. Достаточно взять в качестве ір функции фт. Согласно

Эта радиальная часть является четной по т. Ее можно выразить через функцию Лежандра Р™(с), где с = (2/р) — 1, используя [3] 3.7(15), и через гипергео-метрическую функцию Гаусса, используя [3] 3.2(17):

коэффициенты ат определены в (2.5). Рассмотрим следующий степенной ряд из этой формулы:

Коэффициенты —т2) являются многочленами от —т2 степени [/с/2] с

коэффициентами, рациональными по а. Так как —т2фт = (в2 / (1а2)'фт (где й = ею), то из (2.12) и (2.13) следует, что операторы Са^ и Г)ак определены на пространстве Р(5) и для них фт являются собственными функциями с собственными значениями ат(—а — 1)ъик(—о — 1, —т2) и j(a)wk(o^, —т2), соответственно. Определим операторы \Уа.к на пространстве Т>(3) следующим образом:

= ъик [а, Д5),

где = сР/йа2 - оператор Лапласа-Бельтрами на в. В частности, \Vcfl = 1. Тогда

Отсюда следуют соотношения (2.10) и (2.11), а также то, что операторы Са,к и непрерывны. Абсолютная сходимость следует из абсолютной сходимости гипергеометрического ряда. □

Приведем явную формулу для \Уа,к :

(2.8) имеем

(РаФгп)(,%) ТІ<т,т{р)Фт(,^) у

где

Г2^ /1-і- 2г \п

= (-1 Гуо + —*со81)

Яг,т(р) = (1 -р)т/2{ат(-сГ - 1) р ^(-сг, -а + т;-2сг;р)

(2.12)

ОО

(1 - р)т/2Р(а + 1, а + 1 + т; 2а + 2;р) = ^и^(<7, -т2)рк. (2-13)

к=0

С а. к — ^4—а—іИ^_ сг—1,&, Т)а,к

(2.14)

где

^ = П[(, + 1 + 2г)2 + Д*]

г=0

Операторы Waj. имеют простые полюсы в полуцелых сг, удовлетворяющих неравенствам (—к — 1)/2 ^ а ^ —3/2. Поэтому операторы С„^ и имеют простые полюсы в полуцелых сг, удовлетворяющих неравенствам а ^ (к — 1)/2 и сг ^ (—А; — 1)/2, соответственно.

Обозначим через С^к и вычеты операторов Са,к и Da k в полюсе сг = ц. Имеет место соотношение

Cfitk+2fj.+l "Ь 0.

Для произвольных <р из V(S) (не обязательно Я-финитных) равенство в

(2.9) является асимптотическим. Если а € 1/2 + Z, то преобразование Пуассона Ра(р имеет разложение, подобное (2.9), с коэффициентом In р перед одним из степенных рядов.

Преобразование Фурье Fa : ~D(D) —> T>(S) определим формулой

iFaf)(s) = [ f(z)pa(z, s)dv(z) = [ f(z)p~a~211 - zs\2adxdy, z = x + iy.

Jd j d

Оно является целой функцией по сг. Это преобразование сплетает U и Та. Используя формулу (2.4) для m = 0 и (2.6), получим

AaFa = j{o)F_a_ j.

Преобразования Пуассона и Фурье сопряжены друг другу:

(Pa<pJ) = (<p,Fwf)s

(здесь в левой части стоит скалярное произведение (2.1)).

Назовем сферической функцией Фст, отвечающей представлению Т„, преобразование Пуассона А'-инварианта фо: Фст = Рафо- Сферическая функция принадлежит пространству C°°(D) и ее можно выразить через функцию Лежандра Ра'

Фa{z) = 2ттРа(с), с = (2/р) - 1.

2.4. Разложение квазирегулярного представления

Теорема 2.2 Представление и группы С сдвигами в пространстве Ь2(И, dv) (квазирегулярное представление) разлагается в прямой интеграл неприводимых унитарных представлений непрерывной серии с кратностью 1. А именно, сопоставим каждой функции / € Т>(0) совокупность {Ра/} соответствующих ей компонент Фурье непрерывной серии (а = —(1/2) + гр, р > 0/ Это соответствие С-эквивариантно. Имеет место формула обращения:

/ОО

•оо

dp

а=—(1/2)+гр

и формула Планшереля:

/ОО

<1р, (2.15)

оо <г=-(1/2)+»р

и (а) дается формулой (2.7). Следовательно, указанное соответствие мюэюно распространить с Т)(И) на Ь2(П,ди).

Нам более удобно брать интегралы по всей оси К, а не по ее половине [0, оо). Это возможно в силу четности по р подинтегральных функций, что отражает эквивалентность Та и Т_ст_!. Формула Планшереля для плоскости Лобачевского

- это классический результат, однако наше выражение для формулы обращения является, по-видимому, новым.

Пусть - дельта-функция на Б, сосредоточенная в точке 0:

(*,/) = /( о).

Теорема 2.2 равносильна разложению ее по сферическим функциям:

/ОО

ио(а)Ч>а

•ОО

др.

<т=-(1/2)-Нр

Последняя формула с помощью усреднения по подгруппе К сводится к формуле Мелера-Фока [3].

2.5. Разложение формы Березина Ядро Березина для О определим формулой

Е^ »>=с<А> Л'с(А)=(-А -

где Л £ С. Это ядро инвариантно относительно диагонального действия группы С. Следовательно, оно получается сдвигом из функции Е\{уо) одного переменного:

Е\(уо) = Е\( 0, ии) = с(А)(1 — и/ъй)~х.

Ядро Березина порождает полуторалинейную форму на простран-

стве Т>(В), называемую формой Березина. Разложим ее по инвариантным полуторалинейным формам (эрмитовым для Л 6 1), отвечающим представлениям Т

± а•

Теорема 2.3 Пусть /, Н 6 Т)(В). Тогда для 11еА < —1/2 и А = —1/2 мы имеем

/ОО

о;(а)А(А,а)(^/,^_1Л)3 др, (2.16)

-оо <т=-(1/2 )+гр

для к — (1/2) < 11еА < к + (1/2), А; € М, и А = к + (1/2) мы имеем

/ОО ^ 1

+ Е Л^(Л)-а _ ч^А-т^А-т/, (2-17)

°° тп=0 3т>

для ИеА = к — (1/2) и X ^ к — (1/2) имеем

/ОО 1 -1

+ Е +^Лк(А)———(Лл_^А_к/, (2.18)

Символ интеграла в (2.17) и (2.18) означает точно такой же интеграл, как

в (2.16), сумма в (2.18) содержит такие же слагаемые, что и сумма в (2.17).

Множители Л и Ат даются формулами

Г(—А — а — 1)Г(—А + а)

Л(А,сг) = Лт(А) =

Г(—А — 1)Г(—А) ’

—2А + 2 т, - 1 Г(А + 1)Г(А + 2) 2-7Г2 т!Г(2А — т + 2)

Доказательство. Для ИеА < —(1/2) утверждения теоремы следуют из разложения обобщенной функции Е\(г) по сферическим функциям Ч!а(г)\

ОО

Ех= J ы(о)А(Х,а)Ч>„

dp.

cr=-(l/2)+ip

Последняя формула с помощью усреднения по подгруппе К сводится к разложению функции F(c) — (с+ 1)А по функциям Лежандра Р„(с) на промежутке [1, оо), см. [7] 7.135(2).

При аналитическом продолжении этого разложения по А из области ReA <

— (1/2) в правой части появляются дополнительные слагаемые, так как некоторые полюсы сг = А — т и а = — X + т — 1, m € N подинтегральной функции (полюсы функции А) пересекут линию интегрирования - линию Rea = —1/2. Эти разложения Е\ приводят к формулам (2.16) - (2.18). □

Из формул (2.16) и (2.17) мы видим, что форма с(А)_1£?а является положительно определенной для А < 0. Пусть U\ - унитарное пополнение U относительно этой формы. Назовем U\ унитарными каноническими представлениями. Формулы (2.16) и (2.17) дают разложение U\ иа унитарные неприводимые представления. Это разложение состоит из представлений непрерывной серии для А < —1/2. Для —(1/2) < А < 0 надо добавить дополнительное слагаемое 7a, ринадлежащее дополнительной серии.

Ядро Березина порождает также оператор, называемый преобразованием Березина. Обозначим его так же как и форму Березина В\. Для ReA < —(1/2) он ограничен на L2(D,dv). Для ReA < — 1 оператор может быть распространен на пространство T>(D). Тогда В\ 1 = 1. Это объясняет выражение для с(А).

П7<

2.6. Канонические представления

Сначала напомним некоторый материал о сферических представлениях над-группы (7 = ЭЪ(2, С). Для А € С обозначим через Т>\(С) пространство функций / из С'00(С) таких, что функция \г\2Х /(—1/г) тоже входит в С’°°(С). Представление Яд группы С действует на пространстве Т>^\_2(С) следующим образом:

отображает д-2 (С) в Vд(С) и сплетает Я\ с Я_д_2- Композиция Я_д_2Яі есть

скалярный оператор:

Операторы Яд(д), где д € С = 311(1,1), коммутируют с /_д_2,

В этом параграфе каноническими представлениями Яд группы С мы называем ограничения представлений Яд на группу С, действующих в пространстве

сплетает Яд и Я_д„2- Интеграл абсолютно сходится для Ие А > —1, на другие А он распространяется по аналитичности до мероморфной функции. Его ядро есть ядро КОМПОЗИЦИИ с(А) В\ о I—д—2* Однако КОМПОЗИЦИЯ (5-Д-2<Зд не есть скалярный оператор.

Скалярное произведение (2.2) инвариантно относительно пары (Яд,Я_д_2):

(ЛаЫ/)^) = /{г-д)\0г + 6\ 2А 4

где

Оператор Яд, определенный формулой

Я_л_2ЯА = с(А)с(—А - 2) Е,

(Яд ШЛ)П = (Е,Я_-х_2{д-1)1)о.

Полуторалинейная форма

инвариантна относительно пары (Яд, -%)• Она связана с формой Березина:

(/,/г)д = £д(рЛ+2/,^+2/г).

Представление Я\ и оператор (^)\ можно распространить на пространство

ТУ (Б).

2.7. Граничные представления

Каноническое представление Я\ порождает два представления Ь\ и Мд, связанных с границей 5. Первое действует в обобщенных функциях, сосредоточенных на границе 5, второе - в коэффициентах Тейлора по р.

Пусть Т,к(П), к 6 М, обозначает пространство обобщенных функций из Т>'(0) вида:

С = <Роб(р) + ч>\8'(р) + ... + 1рк5{к)(р).

где 5(р) - дельта-функция Дирака на прямой, 5^к\р) - ее производные, (р € Р(5). Пусть Е(В) = иЕ*;(£)). Представление Я\ сохраняет £(£>) и фильтрацию £о(-0) С Е](/)) С .... Представление есть ограничение представления Я\ на пространство £(£>).

Сопоставим обобщенной функции С столбец (<ро, • • ■, Щ, 0,0,...). Тогда

представление Ь\ есть верхняя треугольная матрица с диагональю Т_д_1, Т_д,

Т'-л+ь— _

Для функции / € Т)(Б) рассмотрим ее ряд Тейлора ао + а\р + а2р2 + ..., где ак = а*(/) - функции из Р(5). Пусть а(/) - столбец (а0(/), а^/), а2(/),.. .)• Представление Мд группы С действует на этих столбцах по формуле:

М\(д)а(/) = а(ДлЫ/).

Оно есть нижняя треугольная матрица с диагональю Т_д_ 2, Т_д_з, Т_д_ 4,....

Значение обобщенной функции ^5^ш\р) на функции / € Т)(0) выражается через коэффициенты Тейлора этой функции /:

(^(т)(р),/Ь = ^(-1Гт!(^,ат(/)>5. (2.19)

Следовательно, между 1/А и Мд существует двойственность.

Обобщенную функцию из Е*;(£)) можно распространить на более широкое пространство чем Т>(Б). А именно, пусть Тк(И) - пространство функций / на Б класса С00 на Д и 5 и имеющих разложение Тейлора порядка к:

/(г) = ао + о,1 р + а2р2 + ... + акрк + о(рк),

равномерное относительно я € 5, где ат = ат(/) 6 Т){3). Тогда (2.19) сохраняется для / € Тк(Б).

2.8. Преобразование Пуассона, связанное с каноническим представлением

Преобразование Пуассона Р\,а, связанное с каноническим представлением Их, получается умножением преобразования Пуассона Рст на р~х~2 и, стало быть, задается формулой:

(Ра<р)(г) = р^х~а~2 [ |1 -

•/Я

Оно сплетает Т_ст_ 1 и Яд. Со сплетающими операторами Аа и его связывают соотношения:

Р\,оА(Г = Р\, — СГ— 1)

Я\Р\,о = Л(А, сг)Р_а_2|СГ. (2.20)

Преобразование Р\<а имеет разложение, подобное (2.9), с множителями р~х~а~2 и р~А+сг“1 перед рядами. Назовем эти множители ведущими. Следовательно, Р\А мероморфно по а с полюсами в точках:

а — X — к, а = —Л — 1 + 1, (2.21)

где к, I Е N. Все эти полюсы - простые, за исключением случая, когда Л €

— (1/2) + N и полюс /л принадлежит обеим сериям (2.21), т. е. 0 ^ к, I ^ 2А + 1 и

к + I = 2А + 1, в этом случае полюс ц - второго порядка. Первый коэффициент

Лорана сплетает Т_м_1 и

Если полюс р принадлежит только одной из серий (2.21), то он простой и вычет Р\^ в этом полюсе равен:

Рх,х-к = - *06,ь (2-22)

Р\,-\-1+1 — - ~ ^ —£х,1 ° Ах-и (2.23)

где £х,к ~ следующий оператор Т>(Б) —> Ек(П):

= Е(-1)т7Г^-ТТ»'л-1„¥> ■

тп-0 ' >'

Пусть полюс ^ принадлежит обеим сериям (2.21). В этом случае 2А + 1 € N. Если А Е N, то полюс /и. - простой и вычет равен любой из правых частей формул (2.22) и (2.23). Если А Е —1/2 + ^ то ц - полюс второго порядка, явные выражения коэффициентов в главных частях ряда Лорана мы опустим.

Оператор £х,к мероморфен по А с простыми полюсами в точках А € 1/2 + Н, для которых А + 3/2 ^ к ^ 2А + 1. Он сплетает Т^х-1+к и Ь\.

Возьмем в (2.20) вычеты в точке а = А — к, получим

<2х£х,к = \(-1)кЩ(-Х - 1 4- к)Ак(\)Р-х-2,х-к. (2.24)

Запишем обобщенные функции £д,к{Ф) Для к = 0,1,2,3, опуская аргумент р у дельта-функций:

(рб,

(рб' - ^рд,

<р5" - (Л - 1)^' + ^ ц [2Л2(Л - 1)у -Ч#" - \(* - 2)р6" + 4(2Л3_3)[2(Л - 1)2(Л - 2)<р - чГ\8 +

+ 8(2Д1-3)|~2А2(Л “ 1!(Л " + ЗЛ^"1'5'

2.9. Преобразование Фурье, связанное с каноническим представлением

Преобразование Фурье Рд](Т, связанное с каноническим представлением Яд, действует по формуле

(^А,<т/)(з) = [ |1 - гё\2арх~а/{г)(1х(1у, г = х + гу,

7 и

для / € £>(£>) интеграл абсолютно сходится для 11е<т > —1/2, 11е(А ± а) > — 1 и распространяется мероморфно.

Преобразование Фурье сплетает Я\ и Та. Оно сопряжено преобразованию Пуассона:

(-Ра.,<г/, V?)® = (/, Р-\-2,аЧ>)о- (2.25)

Это позволяет перенести на Рд1<т соответствующие утверждения для Рд.о-- В частности,

Ат^а,<т = j(cr)Fx-<r-l,

Р-\-2,аЯх = Л(А,£7-)Рл,<г,

полюсы по а располагаются в точках:

<т = -А - 2 - А:, а = А+1 + г, (2.26)

где к, I £ N. Все эти полюсы простые, за исключением случая, когда А 6 —3/2 — N и полюс (I принадлежит обеим сериям (2.26), т. е. 0 ^ к, I ^ —2А — 3 и к + I — —2А — 3, тогда полюс /л второго порядка.

Первый коэффициент ряда Лорана в полюсе ц сплетает Яд и Тм.

Если полюс // принадлежит только одной из серий (2.26), то он простой и вычет ^ в этом полюсе равен:

Р\-\-2-к = — 2 — к)Ь\'к,

Рл,л+1+/ — — 2^-А~2-^А.г ’

где Ь\к - граничный оператор Т>(Б) —> Т>(3), который определяется с помощью коэффициентов Тейлора:

к

М/) = X! И^-2-к,к-тОт(/). (2.27)

т=0

Оператор Ьа.а- мероморфен по Л с простыми полюсами в точках Л € —5/2 — М,

для которых —Л — 1/2 ^ к ^ —2Л — 3. Он сплетает Я\ и Т^х-2-к-

Формула, обратная формуле (2.27), имеет вид:

к

ак{1) = ^2 УУ\+1+т,к-тЬ\,т(Л, (2.28)

т=0

так что Ьад-(/) "образуют базис" в пространстве последовательностей о(/). Сопряженность (2.25) дает сопряженность вычетов:

Фх,*(/)> <р)з = 2^ (/,С-а-2дМЬ-

Это позволяет (вместе с (2.28)) выразить "старый базис" ср5^к\р) через элементы "НОВОГО баЗИСа" ^А,т(<^):

fc А-'

^(р) = У](-1)&-т-Г 6,т(^-А-1+т^-ш^). (2.29)

^' т\

т=0

Операторы Ьх.т-1 Где т ^ к, естественным образом распространяются на пространство Тк(В).

2.10. Разложение граничных представлений

Пусть Уа,/с ~ образ оператора

Теорема 2.4 Пусть А ф 1/2 + N. Тогда граничное представление Ьх диаго-нализуемо, т.е. £(£>) разлагается в прямую сумму пространств к Є ^ ограничение Ь\ на Ух.к эквивалентно представлению Т_А-і+ь

Пусть Л Є 1/2 + N. Тогда для к ^ А + 1/2 пространство Ек(0) остается диагонализуемым, как и выше. Для к Є М, таких что А + 3/2 ^ к ^ 2А + 1, обозначим образ Р\,х-к через У[к. Это пространство содержится в Е&(/}), так что Е(О) разлагается в прямую сумму подпространств Уд,*, А; < А + 1/2 и к ^ 2А + 2, и подпространств У^к, А + 3/2 ^ к < 2А + 1.

Теорема 2.5 Пусть А £ 1/2 + N. Ограничение представления Ь\ на подпространство Удг1 + VI к, где к + I = 2А + 1, А + 3/2 ^ к ^ 2А + 1, эквивалентно жордановой клетке второго порядка, так что Ь\ эквивалентно прямой сумме жордановых клеток (количество клеток равно А + 1/2), представлению Т-1/2 и представлений Т\+1, Т\+2,....

Например, 1/з/2 эквивалентно {Т'а = (д/йа)Та)

Т-Ь/2 0 0 0 Т' 3/2 0

0 Т-3/2 0 Т' 1 1/2 0 0

0 0 Т-1/2 0 0 0

0 0 0 Т\/2 0 0

0 0 0 0 Тз/2 0

0 0 0 0 0 Х5/2

V

/

Подобным образом разлагается граничное представление Мд. Оно диагона-лизуемо для А ф —5/2 — N. Пусть А £ —5/2 — N. Определим операторы Ъ'х к для к £ N и таких, что —А — 1/2 ^ к < —2А — 3 формулой

К,к = 2^'Ы_1Ра,м) М = -А - 2 - к.

Тогда на подпространстве, натянутом на 6д,/ и Ь'Хк, I = —2А — 3 — к, М\ эквивалентно жордановой клетке второго порядка, так что М\ содержит —А — 3/2 жордановых клеток.

2.11. Пространство К-инвариантных обобщенных функций, сосредоточенных

на границе

Обозначим через Т,т(В)к и Т,(В)К подпространства в Ек(В) и Е(В), соответственно, состоящие из /^-инвариантных обобщенных функций. Тогда коэффициенты в (2.8) - постоянные функции.

В пространстве Е(В)К мы имеем два базиса: первый состоит из обобщенных функций

второй состоит из обобщенных функций

Са.О; Са,1) • • • ) Са,тп) • • • 5

где Са,ш = £л,т(^о)- Пересечение У\>гпГ\Т.(В)к одномерно, базисом в нем служит как раз Са,™-

Второй базис ортогонален относительно формы (•, -)а, соотношения ортогональности таковы:

(Са,Ш! Са,гп)а /3(А, 7Т2.),

(Са,гп) Са,г)а = о, г ф т,

где

/3(А, т) = 6(A)

Ъ(\) = (5,5)х = -

(2A)(2m)(2A + 1 -т)(т)’ тгГ(А + 2)Г(2А + 1)

Г3(А + 1)

Элементы рассматриваемых базисов выражаются друг через друга следующим образом:

с - yv Л(т-.)М

ts Vа/ (2A-2m+ 2)1*1 \fc/ (-2A + 2A:)lm-fcl ,/c'

k=0

Имеет место следующее разложение

(1 °° и

ехр (и—^5(р) = ^7 Р(-А + /с, -А + /с; -2А + 2/с; -и) ■ Сад,

Р к=о

где Р - гипергеометрическая функция Гаусса.

Попарные скалярные произведения элементов первого базиса таковы:

(6^т\р),5{г\р))А = - 7гГ(Л + 1)г(А + 2)г(2А“т~г+1)

.к

Г2(А - m + 1)Г2(А - г + 1)

= Ь(А) •(-!)“

xm+r{(-A)H(-A)[r]}2

(_2A)tm+r]

Производящая функция

f m ит vr Ф(А; и, у) = > стг(А) • — • —

т\ г\

т,г=О

для чисел

стг{А) = г/гт • ^{m\v)^{T\p))А, т,Г Є N 6(A)

выражается через гипергеометрическую функцию Гаусса, аргумент которой многочлен от и, v второй степени:

Ф(А; и, v) = F(—А, —А; —2А; —и — v — uv).

Эту формулу можно переписать в виде:

^exp (u—^J5(p),exр (г’^“)(^(р))л = ^(А) ' F(~А, —А; —2А; —и — v — uv).

2.12. Разложение канонических представлений

Мы ограничимся общим случаем: Л лежит в полосах

4 : -3/2 + к < ИеЛ < -1/2 + к, к е Ъ,

Случай (А): А € /о.

Теорема 2.6 Пусть А £ /о- Тогда каноническое представление Я\ разлагается в прямой интеграл представлений непрерывной серии с кратностью единица. А именно, сопоставим каждой функции / € Т>(0) совокупность {РХ а/}, а — — 2 + гр, р > 0. Это соответствие С-эквивариантно. Имеет место формула обращения:

/ОО

ш(а)Рх-(Т-1Рх,а/ др. (2.30)

---(1/2 )-Ир

Полуторалинейная форма (., .)д разлагается следующим образом:

/ОО

^(сг)Л(А,а)(РА,Сг/,Рл_^_1 % (2-31)

оо ’ <г=-(1/2)+»р

Доказательство. Пусть /, /г € Т>(В), тогда, поскольку А € /о, обе функции РА+2/, р~А/г принадлежат ^2(^, а?г^), и из (2.15) и (2.25) следует разложение:

/ОО

о^ХРа,—^^,„/,/*)

•ОО

Это дает (2.30). Заменяя здесь / на (За/, получим (2.31). □

др.

<т=—(1/2)-Мр

Для действительных А 6 /о эта теорема дает разложение унитарных канонических представлений.

Случай (В): А € 4+1, к € N. Распространим (2.30) аналитически по А из полосы А € /о в полосу 4+1. Полюсы сг = А- ти(7 = —А — 1 + т, т ^ к по-динтегральной функции (полюсы преобразования Ра,-<т-1) пересекают линию интегрирования Ие а = —1/2 и дают дополнительные слагаемые. После распространения получим:

/

/ОО К

+ 5>А,т(/), (2.32)

00 т=0

где символ интеграла означает точно такой же интеграл, как в (2.30), и

(-1)™ 1 ТГА,т 2 | —: - - | г £х,т ° Рх,—А—1+т-

ш! д—А — 1 + т)

Аналогично, распространение (2.31) дает

/ОО к

+ £ Лт(Л)(^А,А_т/, ^_х_1+тЛ>5, (2.33)

00 т=О

где символ интеграла означает точно такой же интеграл, как в (2.31).

Операторы 7Г\т распространяются на Т,к(П). Действительно, для т ^ к образ Р_д_2,а-ш лежит в пространстве Тк{0) (так как старшие коэффициенты рГп и р2А+1-т есть о(^)). Это же ВврНО И ДЛЯ Р_д_2 _Д_1+т. СлеДОВатеДЬНО, обобщенные функции из Ек(0) применимы к функциям из этих образов. По двойственности (2.25) распространяются Рд л_т и а следовательно,

и 7Гд!ТО на Т,к(В). В частности, мы имеем

Р\,А—ш ° £а,тп = ^'^-А-1+т 1

•Ра,а-ш ° 6,я = 0, в ф т.

Это говорит о том, что оператор 7Гд1Ш на пространстве

Эк(Б) = Р(Я) + Т,к(Г>)

есть оператор проектирования на У\1т.

Разложение (2.32) распространяется на обобщенные функции / из Т,к(0). В этом случае интеграл исчезает и (2.32) дает разложение обобщенной функции / по ее проекциям на У\,т-

Используя (2.24), мы убеждаемся в том, что Т>к(0) содержится в области определения формы (.,.)д. В частности, мы имеем "соотношения ортогональности":

(7ГА,ш(/),7Гд,ш(/1))а = Аш(А)(^д,д_т/,Рд1_д_1+т/г)5,

(7ГА,т(/),7Гд,5(^))А = 0, 8 ф 771,

так что (2.33) - "теорема Пифагора" для разложения (2.32). Итак, в случае (В) имеет место теорема:

Теорема. 2.7 Пусть А € 1к+ъ А; € N. Тогда пространство Т>(В) должно быть дополнено до Т>к(0). На этом пространстве Яд расщепляется в сумму двух слагаемых: первое разлагается как Яд в случае (А), второе разлагается в прямую сумму к+1 неприводимых представлений Т_д_х, Т_д,..Т_д_1+^. А именно, сопоставим каждой функции / £ Т>к(0) совокупность {-Рд>0-/, тгл,т(/)}> г^е а — —1/2 + гр, р > 0 и гп = 0,1,... ,к. Это соответствие С-жвива,риантно. Функция / восстанавливается с помощью формулы обращения (2.32). Более того, имеет место "формула. Планшереля" (2.33) для формы (.,.)д.

Для —1/2 < А < 0 эта теорема дает разложение унитарных канонических представлений.

Случай (С): Л € 1-к-1> А: € N. Распространим (2.30) из /о налево в 1-к-\-Здесь полюсы а = —А — 2 — ?писг = А + 1 + т, т ^ к подинтегральной функции (полюсы Р\,<т) дают дополнительные слагаемые. Имеем:

/ОО к

+ £пА,т(/), (2.34)

00 ш=0

где символ интеграла означает точно такой же интеграл, как в (2.30), и

ПА,т — .7 \ Т 7 Т ^ А,Л |1-| т ° Ь\ т.

](\ + 1 + т)

Обозначим через образ преобразования Ра,а+1-нв- Операторы Па,™ оказы-

ваются операторами проектирования на И/д]ГП. Если ат(/) = 0, т ^ к, то рА+2/ принадлежит пространству к2(1), с1и), так что в (2.34) исчезает сумма. Отсюда следует, что для каждой / £ Т>(0) коэффициенты Тейлора а0,, а к такие же, как и в сумме из (2.34). Это приводит к формулам (2.28) и (2.29).

Теорема 2.8 Пусть А € 1-к-ъ ^ 6 N. Тогда представление Я\, рассматриваемое па пространстве 7^(0), расщепляется па два слагаемых. Первое действует на подпространстве, состоящем из функций /, для которых ат(/) = 0 при т ^ к. и разлагается как Яд в случае (А), второе действует па сумме И'\т; т ^ к, и разлагается в прямую сумму к + 1 неприводимых представлений Т-А-Ъ Т-А, ■ • •; Т_х-1+к-

§ 3. Обобщенная группа Лоренца. Ее представления, связанные с конусом

Мы используем [6]. Возьмем в пространстве М", п ^ 4, билинейную форму

[х,у\ = Х\У\ + х2у2 + ■■■ +Хпуп.

Пусть I - матрица этой формы: I = diag{ —1,1,..., 1}. Мы рассматриваем группу С = ЭОо(1,га — 1), это связная компонента единицы группы линейных преобразований д пространства М”, сохраняющих форму [ж, у]. Мы будем считать, что С действует в М” справа: х хд, в соответствии с этим мы будем записывать вектор в виде строки.

Пусть С есть конус [х,х] = 0, х ф 0. Группа Є действует транзитивно на каждой из его двух пол: С+ = {жі > 0} и = {жі <0}.

Возьмем сечение 5 конуса С плоскостью х\ = 1. Оно состоит из точек з = (1, я2,вп), в2 + + = 1) так что оно есть сФеРа в Кп_1- Пусть - оператор

Лапласа-Бельтрами на в и - евклидова мера на Б:

(І32 - * ‘(%3к- • .^5^

*■—га—

Представление Т„, а £ С, группы G действует на V(S):

(r„(9V)W = v(^)(«9«.

Эрмитова форма

($,<p)s = ^ ^(s) V’(s) инвариантна относительно пары (Тст, Т2_„_?), т. е.

(Ta(g)i/>,<p)s = ('il>,T2-n-7f(9~1)<P)s

Оператор Аа на T>(S), определенный формулой

(A„v?)(s) = [ ( - М)2-"-' (p(t) dt,

Js

сплетает представления Та и Тъ-п-а-

Т2-п-а(д) Аа — Аа Та(д), д £ G.

Он мероморфно зависит от а с (простыми) полюсами в точках а £ (2 — n)/2 + N.

Пусть К - подгруппа в G, состоящая из элементов к, коммутирующих с /, она сохраняет координату х\. Эта подгруппа есть максимальная компактная подгруппа группы G, она изоморфна SO(п — 1). Ограничение представления Та на К есть представление р подгруппы К вращениями в 'D(S). Оно разлагается в прямую однократную сумму неприводимых представлений 7Г/, действующих в пространствах I £ N. Пространство н\п ^ состоит из ограничений на

S однородных гармонических многочленов от Ж2, хп степени I. Пространства Щп являются собственными подпространствами оператора Аа и оператора Дs- Собственное значение оператора As на равно щ = 1(3 — п — I).

Композиция операторов Аа и А2-п-сг есть скалярный оператор:

А^—п—а Аа — г,

87хш(а)

где

со(а) = 2~"~2 тг~п sin^<r+^7r • (2<т+п—2) Г(—а) Г(сг+п—2) (3.1)

(как мы увидим позже, и>(сг) есть "мера Планшереля"). Представление Та и оператор Аа могут быть продолжены на V'(S).

Представление Та неприводимо для всех а, кроме ct€Nhct€2 — п — N. Если Та неприводимо, то Та эквивалентно Т^-п-а (с помощью А„ или его вычета).

Имеется три серии неприводимых унитаризуемых представлений Та и их подфакторов: (1) непрерывная серия: Та, а £ (2—п)/2+Ж, скалярное произведение есть (ф, <p)s] (2) дополнительная серия: Та, 2—п < а < 0, скалярное произведение есть const-(Ааф, (p)s', (3) дискретная серия: Trd\ г £ N, представление Тг'1)

действует в фактор-пространстве Т>(3)/Ег, где Ег = ЯдП 1)+н[п 1^ + ...+Яг" скалярное произведение индуцируется формой (Агф, <р)в,

Л -_______I____л -

^ р/2-п _\

I ( 2--О)

представления Тг'1> эквивалентны представлениям Т^-п-тч действующим в подпространстве ^2 н\п~1\ I ^ г + 1.

Назовем расширенной дискретной серией совокупность представлений Тг^, г € М, дискретной серии вместе с представлениями Тг дополнительной серии с целыми г, (2 — п)/2 < г < 0.

§ 4. Гармонический анализ на гиперболоидах

Рассмотрим в К” однополостный гиперболоид X и двуполостный гиперболоид у, определенные уравнениями [х,х] — 1 и [х,х] = — 1, соответственно. Гиперболоид У распадается на две полы У+ = {^1 ^ 1} и У~ = {а^ ^ —1}. Каждая из них есть пространство Лобачевского размерности п — 1. Группа С действует (линейно) на X, У+, У~ транзитивно. Стационарная подгруппа Н точки х° = (0, ...,0,1) € X изоморфна ЗОо(1,?г — 2). Стационарная подгруппа точки у0 = (1,0,..., 0) € У+ есть К = БО(п — 1).

Многообразия X, 3^+, У~ являются симметрическими пространствами группы С. Первое из них псевдо-риманово, второе и третье - римановы. Ранг всех этих пространств равен 1.

Метрика на гиперболоидах, инвариантная относительно С, равна ±[дх,йх]. Соответствующая мера есть

дх\..Ахк---дхп

“х = —ы—

Пусть М. = Х,У+,У~. Обозначим через Им представление группы С в функциях на М. сдаигами:

{им(д)1){х) = 1{хд).

Оно сохраняет скалярное произведение из Ь2:

if, h)M = / f{?) h(x) dx,

Jm

т.е.

(uM(g)f,h)M = {f,uM{g~l)h)M-

Следовательно, представление Um, действующее на L2(M,dx), унитарно (ква-зирегулярное представление).

Представление 1/м на Т>(Л4) может быть расширено до представления и_м на Т>\М).

Подпространство в Т>\Б), состоящее из Я-инвариантных функций в представлении Та, имеет размерность 2. Для а общего положения (а ф — 1 — М) базис образован двумя (е = 0,1) обобщенными функциями ва>е(з) = [ж0, в]*7’* = Подпространство в Т>\Б), состоящее из /Г-инвариантных функций в представлении Та, одномерно, оно порождается функцией ва, тождественно равной 1. Эти инварианты порождают преобразования Фурье

Распространим первые из них на все сг, убирая полюсы с помощью множителя:

Преобразования Фурье отображают пространства Т>(Х) и Т>(У+) в пространство Т>(Б) и сплетают представления [Уд-- и и у с представлением Та, соответственно.

Для г € N и е = г + 1 функция Ра^/ определяет компоненту Фурье дискретной серии, лежащую в Т>(Б)/Ег.

Теорема 4.1 Квазирегулярное представление и группы С на Ь2(Х,дх) разлагается в прямой интеграл унитарных неприводимых представлений непрерывной серии с кратностью два и представлений расширенной дискретной серии с кратностью один. А именно, сопоставим функции f 6 Т>(Х) совокупность ее компонент Фурье непрерывной серии {F(TJef}, а = (2 — п)/2 + {р, и расширенной дискретной серии -Рг+Е/, где г - целое > (2—п)/2 и е = г+1. Это соответствие (?-эквивариантно. Имеет место формула Планшереля:

где суммирование происходит по целым г > (2 — п)/2 с условием е = г + 1, дается формулой (3.1),

Члены ряда можно записать как скалярные произведения компонент Фурье с положительными множителями перед ними. Следовательно, указанное со-

Г ОС

(/, = / Ш(СГ) (Р<т,е1,Г2-п-сг,Л)з

сг=(2—п)/2+1р

др

«/ —ОС

= 2~3 тт2~п (-1 )(г-£+1)/2 г(

г + п — 2 + £

ж

г + 2 — £ 2

)

2

ответствие можно распространить на Ь2(Х,с1х).

Теорема 4.2 Квазирегулярное представление и группы С на Ь2(У+,дх) разлагается в прямой интеграл унитарных неприводимых представлений непрерывной серии с кратностью один. А именно, сопоставим функции / € Т>(У+) совокупность ее компонент Фурье непрерывной серии {Еа/}, а = (2 — п)/2+гр. Это соответствие С-эквивариантно. Имеет место формула Планшереля:

/ОО •СЮ

Следовательно, указанное соответствие можно распространить на Ь2(у+, (1х).

др.

<т=(2—п)/2-Нр

Нам удобнее писать в теоремах интегралы по всей оси, подинтегральные функции в них четны по р. В интегралах можно писать вместо Для а = (2 — п)/2 + ір мы имеем:

и ( —г— + ір) =2 ” 17Г п рвіарп

2 — п —+'р

Оператор Аа переводит инварианты в в такие же инварианты с множителем и с заменой а на 2 — п — а. Для единообразия обозначим ваЕ = #+е, в„ = в~е. Тогда

=7±(^,е) в2-п-а,£,

где

(о-, е) = 7(а) ^(а, е), (4.1)

7(сг) = 2-" ^п-4)/2Г(ст + 1) -а),

4-/ ч , ■ ( П\ ■ П7Г

V (^,е) = ( —!) 8111 ^<7 + — ^ 7Г — ЭШ — ,

рГ(а,£) = — 8тсг7г.

Множители (сг, е) являются аналогами с-функции Хариш-Чандры. Мы имеем:

^(<7, е) ;-±(2 -п -<г,е) = {87гш(сг)}-1.

§ 5. Канонические представления на сфере. Первый вариант

Этот вариант заключается в том, что две полы двуполостного гиперболоида мы склеиваем в (п — 1)-мерную сферу по их бесконечно удаленным точкам, она есть сечение конуса в расширенном пространстве Мп+1, так что в качестве надгруппы С для группы (3 = 80о(1, п — 1) мы берем псевдо-ортогональную группу 8О0(1, п).

5.1. Представления надгруппы, связанные с конусом.

В этом параграфе мы еще раз напомним некоторый материал о представлениях, связанных с конусом, для группы

Расширим пространство М", в котором действует б, до пространства Ега+1, добавляя координату хп+1, и введем в Кп+1 билинейную форму

[[я, у]\ = -Х1У1 + Х2'У2 +-Ь Хп+1 уп+1.

Группа С сохраняет эту форму. Как и раньше, мы считаем, что (7 действует справа.

Пусть С обозначает конус [[ж, ж]] = 0. х ф 0 в Мп+1. Он распадается на две полы С+ : х\ > 0 и С- : Х\ < 0.

Для А € С обозначим через Рд(С+) пространство функций / класса С°° на С+, однородных степени Л:

/(Ьх) = Ьх/(х), х € С+, £ > 0.

Представление Я\ группы С действует в £>1_п_д(С+) сдвигами:

(Яд (д)Л(х) = /(хд), х еС+, д её.

Пусть О - сечение конуса С (или его полы С+) гиперплоскостью х\ = 1. Оно состоит из точек и = (1, щ, ■ ■ ■, ип+1), и\ + ... + гх2+1 = 1, так что оно есть единичная сфера в Мп. Пусть с1и - евклидова мера на Г2. Функции из Т>\(С+) полностью определяются своими ограничениями на О. Эти ограничения образуют все пространство Т>(П). В нем представление Яд реализуется следующим образом:

(Яд(д)Л(и) = / {ид/(ид) 1) (ид)\~п~Х- (5-1)

Эрмитова форма

</>Л)п = / 1(и)Ь(и)<1и (5.2)

инвариантна относительно пары (Я\^, Я^^д):

(ЯхШ, /г)а = </, Д1_п_а(р~1)Л)п. (5.3)

Оператор В\ на Т>(С1), определенный формулой

(Вх/)(и)= [ [{-и,у]}х/(у)^у

сплетает Яд с /?1_„_д. С формой (5.2) он взаимодействует так:

Ш,Ь.)п = (1,Вф)п (5.4)

Композиция Вд и есть скалярный оператор:

BABi_n_A = 7(A) • Е, (5.5)

где

7(A)-1 = (27г)~"(2А + п — 1)Г(—А)Г(А + п — 1) cos ^А + тт.

Представление Я\ и оператор В\ можно распространить на Т>'(П) формулами (5.3) и (5.4).

Вложим группу G в группу G как подгруппу, сохраняющую координату хп+\. Она коммутирует с диагональной матрицей J = diag{l,.. ., 1, — 1}.

Две функции в\^(и) = и^+i, где v = 0,1, принадлежат они инвари-

антны относительно G в представлении R\ (и всякая G-инвариантная функция есть их линейная комбинация). Оператор В\ переводит функцию 9 в функцию в\с множителем:

Вхд!-п-Х,и = (—1)^с(А,

где

С(Л, и)-1 = (—1)г/2А+п-17г(п-3)/2Г(2 - п - А)Г ^А +

Л П\ , П7Г

cos (А + -J тг - (-1) cos —

п — 1'

X

Мы имеем

с(А, и) с(1 — п — А, гу) = 7(А)-1. (5.6)

5.2. Канонические представления

Для 1/ = 0,1 обозначим через Т>\^(С+) и Х>„(Г2) подпространства в Т>\(С+) и Т>(^1), соответственно, состоящие из функций четности и относительно инволюции </:

/М = (~1У/(х). (5.7)

Пусть Я\, А € С, обозначает ограничение представления Я\ на группу С. Операторы Я\(д), д £ О, коммутируют с ,/, так что они сохраняют оба подпространства Т>„(£1), и = 0,1. Следовательно, Я\ распадается на два представления Я\^. Эти представления Я.\^, А £ С, V = 0,1, группы С назовем каноническими представлениями. На 'Е,1_п_а]„(С+) они действуют сдвигами, а на Т>„(£1) - посредством правой части формулы (5.1). Их можно распространить на пространство Т>1(П) обобщенных функций / из и'(Г1) четности и относительно 7. Полуторалинейная форма (5.2) инвариантна относительно пары (Я\Д1_п_д ).

Пусть У и [У+ _ сечения конуса С и его полы С+ гиперплоскостью хп+\ = 1, соответственно. Первое из них можно отождествить с двуполостным гиперболоидом У~. точке х = (хь ..., хп) из У мы сопоставляем точку х = (х\,..., хп, 1) из у. Второе можно отождествить с пространством Лобачевского У+.

Группа С имеет три орбиты на при действии и > ид/(ид) 1, а именно, две открытые орбиты Г2+ = {ип+1 > 0} и Г2_ = {ип+1 < 0} (размерности п — 1) и одну орбиту Ос = {ип+1 = 0} размерности п — 2. Последнюю можно отождествить с многообразием 5 из § 1: точке й = (^1,..., вп) из 51 мы сопоставляем точку (0, в1,..., вп) из Г20. Множество ГУ = Г2+ и можно отождествить с двуполостным гиперболоидом У = У. Отображение строится с помощью образующих конуса С: точке и из П сопоставляем точку х = и/ип+\ из У. Меры на У и Г2 связаны так:

пространство Т>1-п-\^(У+) функций на [У+. Оно содержит Т>(У+) и содержится в С'00(3^+). На нем (и в частности, на Т>(У+)) представление Я\^ становится представлением (7 сдвигами.

Пусть функция / принадлежит Т>1_п_х^(С+). Ее ограничения /(и) на О и

Лемма 5.1 Пусть / € 2?1_п_л,1,(С+). ЕслиКеХ > —и — п/2, то ее ограничение на У+ = У+ принадлежит Ь2(У+,с1х).

Определим оператор <5а,у : ,(С) —* Т>Хи(С) формулой

Я\,и = с(А, и) Вх о 3,

так что в 0-реализации мы имеем

Она инвариантна относительно пары (ЯХ:І/, ЯХі/). В частности, для вещественных А она - эрмитова форма, инвариантная относительно ЯхНазовем оператор и и форму (/, Н)\ і, преобразованием Березина и формой Березина, соответственно.

Перейдем от О к Используя свойство четности (5.7) и соотношение (5.8), мы можем переписать (5.9) и (5.11) как интегралы по У+ и 3^+ х

сіх = Ігіп+іІ1 пс1и.

Ограничим функции из Рі_п_Аі1у(С+) на У+ = >’+. Мы получим некоторое

/(ж) на У+ = С+ связаны так:

/(и) = «І+ї *’7(4 —>х = и/\ип+і\.

(5.8)

Он сплетает Ях<и с Яі-п-\<и. В силу (5.5) и (5.6) мы имеем

Q\,u Е.

Пусть (/, К) Аі„ - полуторалинейная форма:

(5.9)

(5.10)

(/> Л)а,„ = ^(<Эа,^/, Л)п-

(5.11)

с ядром (назовем его ядром Березина)

Е\,и{х,у) = с(Л, 1^)|([ж,у\ + 1)А + (-1 )"([х,у] - 1)А}.

Обобщенные функции л,1У на О переходят в функцию на 3^+, тождественно равную единице. Оператор С^х,» переводит ее в себя.

5.3. Граничные представления

Каноническое представление Я\^ порождает следующие представления „ и МХи, связанные с границей многообразий О* (граничные представления). Введем на Г2 полярные координаты ип+\, я, где в € Б:

и = (*> \Л ~и1+1 ' 52, ■ • ■, у) 1 - и2п+1 - 8п, ип+1).

Мера (1и в этих координатах есть ди = (1 — и2+1)7йип+гйв, где 7 = (п — 3)/2.

Пусть / - функция из Д,(Г2). Рассмотрим ее как функцию от полярных координат гхп+1,5. Рассмотрим ее ряд Тейлора ао + 01^+1 + аги2+1 + ... по степеням ип+1. Здесь ат = ат(/) - функции из Т>(Б). Обозначим через Е^(Г2), А: € М, V = 0,1, пространство обобщенных функций из Т)'и(И), имеющих вид

к

^2<Рт(*)б(т\ип+1),

771=0

где 1рт € Т>(3). 6 - дельта-функция Дирака на прямой, 5^ - ее производные, т = V. Пусть ЕДО) = иЕ^(П).

Обозначим через а£(/) коэффициенты Тейлора функции /* = (1 — "и2+1)7/. Мы имеем

ОО ОО

(1 = Е<(Л“»+1-

&=0 /с=0

Это позволяет выразить а*к(/) через ак{[) и обратно - посредством треугольных матриц с единичной диагональю.

Обобщенная функция 1р(з)5(-т\ип+1) действует на функцию / € Р„(Г2) следующим образом:

(^К+О.Лп = (-1Гш!{»>.<С(Л>®- (5.12)

Обозначим через Ь\ и ограничение представления Я\ „ на Е„(П). Это представление записывается в виде верхней треугольной матрицы с диагональю Т2-п-х+т, т € М, ?71 = и. Обобщенные функции из Е£(Г2) можно распространить

естественным образом на некоторое пространство, более широкое, чем Г>„(Г2). А

именно, пусть Т^(£1) - пространство функций / класса С°° на $1* и ^о четности

V по ип+1 и имеющих разложение Тейлора порядка к:

/(и) = ао + а,1«п+1 + • ■ • + йки^+1 + о(и^+1),

где ат € Т>(3). Тогда (5.12) сохраняется для / <Е 7^(0) с т ^ к.

Пусть а(/) обозначает столбец из коэффициентов Тейлора ат(/). Представление МЛ,„ действует на этих столбцах:

МхАаНЛ = а(ЯхМ))-

Оно записывается в виде нижней треугольной матрицы с диагональю Тх_„_А_т т € М, т = гл

Мы не касаемся здесь вопросов разложения и Мд^. Заметим только, что аналогично [8], эти представления разлагаются в прямые суммы неприводимые составляющих для А общего положения: А ф (2 — п)/2 + N и А ф —п/2 — N. соответственно. Эти разложения даются простыми полюсами преобразований Пуассона и Фурье, см. пункт 5.4. Полюсы второго порядка дают жордановы клетки.

5.4. Преобразования Пуассона и Фурье, связанные с каноническим

представлением

Отображение Рх,1/,<г '■ ^>(3) —» С'°°(0/), задаваемое формулой

сплетает Т2-П-0 с ЯА,„. Поэтому назовем его преобразованием Пуассона, связанным с каноническим представлением Я\^. Здесь мы рассматриваем Яд,,, как ограничение на С°°(0,') представления Яд„, действующего на обобщенных функциях из Х>'(Г2).

Преобразование Пуассона взаимодействует со сплетающими операторами Аа и С)\,и следующим образом:

соэ(А + п/2)-к + (—1)" соз(<7 + п/2)тг сов(А + п/2)тт + (—1)" соз(п/2)7г

Функция Л имеет следующие свойства (отражающие эквивалентность Та к Т2-п-а и свойство (5.10)):

Р\,и,оА<у —

(^\,иР\,и,сг = Л(А, 1/, (у)Р\—п—Х,1/,СГ,

где

Л(А, и, 2 — п — а) = Л(А, и, а), Л(А, и, <т)Л(1 — п — А, V, а) = 1.

Она имеет полюсы в точках

ст = А — к, а = 2 — п — X +1 (5.16)

и нули в точках

сг = 1 — п — А — к, ст = А + 1 -М, (5.17)

где к, I е N и к = V, I = и.

Определим следующие дифференциальные операторы и IV* к на Т)(Б).

Мы используем производящие функции. Рассмотрим следующие степенные ря-

ды по р:

/-1 \//2 <7 п — 1 + / п \ , . и

(1-р)//2^( ---------------------2---------------; а+2'Р) =

' ' к=0

(1-р)-‘/2р(^±§^, + = Х>:.*мЛ

^ ' к=о

где Р - гипергеометрическая функция Гаусса, /ц = 1(3 — п — /) - собственные

числа оператора Лапласа-Бельтрами Д$ на 5'. Коэффициенты в рядах - мно-

гочлены от щ степени к с коэффициентами, рационально зависящими от ст. Например,

( \ _ ( ((4 - га - сг — 2А:)/2)^ г]

- ( 1) 2^ 22г г, ^ _ г), (о. + п/2)[г] х

Г—1

х ^ ^ + (ст + п — 2 + 2т) (ст + 1 + 2т)

772=0

Они имеют простые полюсы в точках а = —(п/2) — т, 0 ^ т ^ к — 1. Положим

У?а,к = Шк(<Г, Ая), №*,к = ™£(ст, л5),

так что и 1Г* к - многочлены от Д$ степени к с коэффициентами, рациональными по ст. Например,

И^,о = 1, (5-18)

И/.д = 7 т [ - А5 + (ст + п - 2)(ст + п - 1)].

2{2а + п)

Теорема 5.2 Для К-финитной функции <р € ^(Б) и о (2 — п)/2 + 2 преобразование Пуассона имеет следующее разложение по степеням ип+\:

(Р\,„,*<р)(и) = А а’и^2(С^к(р)(8) ■ и2пк+1

к=0

оо

+ <+г~1,г/ Есд^х*) • (5-19)

к=0

I

где и имеет полярные координаты un+\,s, см. пункт 5.2,

Da,k j(0") W^a,kj

Са,к = А2-п-а W2-n-o,k■ (5.20)

Эта теорема доказывается аналогично [1]. Операторы Da f. - дифференциальные, Catk - интегральные. На каждом Hi операторы С^, Da k, Waj,: и Аа -скалярные, поэтому они коммутируют друг с другом.

"Ведущие" множители и1~+1~х~а’1' и u~^<T~1,v в (5.19) дают полюсы преобразования Пуассона P\iU,a- Они располагаются в полюсах функции Л(Л, и, а), см. (5.16). Если полюс /і принадлежит только одной из серий (5.16), то он -простой, и Ра,iv7 имеет в нем вычет

Р\,и,\-к = 2 ■ ^ j(А - к) • £А,к, к = и,

(-і У

P\,u,2-n-x+i — —2—^—£а,( 0 ^4л-ь I = v,

где £а,к ~ оператор T>(S) —> Е^(Гі), к Є N, к = і/, определенный следующим образом:

&,*(¥>)= Е • ^~2т)К+і)-

0^m^fc/2 ^

Он сплетает T2-n-x+k с La.i- и зависит от Л мероморфио - с простыми полюсами в точках А Є (4 — n)/2 + N такими, что Л + п/2 ^ к ^ 2А + п — 2.

Если полюс /х принадлежит обеим сериям (5.16), то А Є (2 —n)/2 + N и полюс

- второго порядка. Лорановские коэффициенты можно написать аналогично [15].

Возьмем вычет обеих частей (5.13) в <т = А — к, к = и, мы получим

QxA\k = -{-l)vk\j(2 -п-Х + к)- М(А,к) • Рі_п_а,„,а-ь (5.21)

где

. n_! (2А + п — 2 — 2к) sin Хтт

М(А, к) = (~2тг)

сов(А + п/2)тт + (—I)1" соз(п/2)7г Г(А + п - 1)Г(А + 1)Г(А + п - 2 - к) к\ Г(2А + п - 1 - к)Т(Х + 1 - к) '

Отображение ,и,а '■ А/(^) —> Р(,5’), определенное формулой (с тем же

ядром, что преобразование Пуассона):

,u,af)(s)= [ [[и, s\YuX+l'vf(u)du. J и

(Рх

назовем преобразованием Фурье, связанным с каноническим представлением Ях,и- Оно сплетает с Та и зависит от а мероморфио. Преобразования Пуассона и Фурье сопряжены друг другу:

(Ра,^/, = (/, Рх-п-а,^)п- (5.22)

Преобразование Фурье взаимодействует со сплетающими операторами Аа и

0,\,„ следующим образом:

= з(а)Рх^ 2-п-а, (5.23)

^1-п-а,1/,о-<За,1/ — Л(А, г/, <т)Рд^1(Т. (5.24)

Полюсы преобразования Фурье располагаются в нулях (5.17) функции Л.

Если полюс ц принадлежит только одной из серий (5.17), то он простой и РЛ ,Л(Т

имеет в нем вычет

Рп—А—к 2,7(1 71 А /ь) * к — и,

^А,1/,А+1-Н = — 2Л_л-2-( ° Ь\,1, I = и,

где бдд _ "граничный" оператор Т>и(П) —> ^>(5), определяемый через коэффициенты Тейлора (см. пункт 5.3):

МЯ = Е ИЪ-п-д-м-т (<(/)). (5.25)

0^га$С/с/2

Он сплетает с /7\_гг_д_л; и мероморфен по А с простыми полюсами в точках

А е — (п + 2)/2 — М, такими что —А + (2 — п)/2 ^ к ^ 2 — А — п. Соотношение

(5.22) дает соотношение для вычетов:

<М/Ы* = ^</,Сх-„-А,*И)п. (5.26)

Операторы Ьд,т с т ^ к можно распространить естественным образом на пространство Тк(П).

Если полюс /х принадлежит обеим сериям (5.17), то А € —п/2—Ми он второго порядка. Лорановские коэффициенты можно написать аналогично [13].

Формула (5.25) выражает Ьх,к(1) через коэффициенты Тейлора аот(/) посредством треугольной матрицы с единичной диагональю. Следовательно, коэффициенты ат(/) можно выразить через 6д1/£(/). Вот явные выражения:

^т(/) — ^ ^ ЭД^А-Ц+т—2г,г ^А,т—2г(/)^ ,

0^г^т/2

эту формулу можно доказать подобно аналогичным формулам в [13], [15]. Для а* (О имеем:

<,(/)= £ №'л+1+„-2г,г(6а.™-2г(/))- (5.27)

0^г^т/2

В свою очередь, формула (5.27) с (5.26) дает выражение "старого базиса" (рб^(ип+1) в ЕДГ2) через "новый базис" ^д^:

(рб^ \ип+1) = ^ ] Тт~—~2гУ. ^’та_2г (^2—п—А+т—2г,г(^)^ ■

0<г^ш/2 ' ''

5.5. Преобразования Пуассона и Фурье в полюсах друг друга

Преобразования Пуассона и Фурье в полюсах друг друга, т.е.

рА,!/,А+И-Ш1 Рх,и,2—п—А+Ш) Рх,1У,Х—ту

где т = V, обладают некоторыми специальными свойствами. Для первых двух

гг) —2А—п—тм тт «->

из них ведущие множители - это гг"+1 и ип+1 . Первый множитель - мно-

гочлен от ип+\. Фиксируем А; € N и возьмем 11е А < —к — п/2. Тогда для всякого т = 0,1,... ,к второй множитель есть о(ик+1), так что, в частности, образы преобразований Р\^,х+1+т и Рх^,\-п-х-т лежат в Тк(П), и мы можем применить к ним граничные операторы ЬХ)Г, г ^ к. Эти граничные операторы оказываются обратными операторами для преобразований Пуассона - с точностью до множителя или оператора А„. А именно,

Теорема 5.3 Пусть А; € N. Пусть Ие А < —к — п/2. Тогда для т ^ к и т = и мы имеем:

Ьх,т 0 Рх,и,\—п—\—т ^А+1+т; (5.28)

^А,ш ^ -^А,1/,А+14-т ЛА + 1 + т)-Е, (5.29)

а для г,т ^ к,г ф т, мы имеем

Ь\,г ° Рх,1/,1—п—Х—т 0; (5.30)

^А,г ° Ра,^, А4-14-т 0. (5.31)

Доказательство. Расмотрим (5.28) и (5.30). Композиция Ь^г ° Р\д-п-А-т есть оператор Т>(3) —> Р(5), сплетающий Т\+1+т с Т1_п_а-г- Следовательно, если г ф т, то этот оператор равен нулю. Если г = т, то он есть оператор А\+\+т с ТОЧНОСТЬЮ ДО множителя. По (5.19) коэффициент ДЛЯ Рх,и,\-п-\-т<Р перед и™+1 есть С\-п-х-т$ который равен Ах+1+т(р, см. (5.20) и (5.18). С другой стороны, старший член в Ь\ т есть коэффициент Тейлора ат. Следовательно, композиция Ьх,т 0 Рх,и,\-п-х-т ~ это в точности Ах+1+щ■ Аналогично доказываются (5.29) и (5.31). □

При условиях теоремы 5.3 мы можем применить обобщенные функции из Е£(Г2) к образам преобразований Пуассона, участвующим в теореме 5.3. Следовательно, в качестве / в (5.26) мы можем взять функцию из этих образов. В результате, используя теорему 5.3, мы получаем следующее действие базисных обобщенных функций из £^(П).

Теорема 5.4 Пусть А; € N. Пусть Б,е А < —к — п/2. Тогда для т ^ к и т = и мы имеем

(6-п-А,тМ,^Д-„-А-т¥?Ь = {-1)тт\(Ах+1+т-ф,(р)з,

(£1-п-Х,т(г1’)’Р\,и,\+1+т‘Р}п = (“ 1)^! ^(А + 1 + т) (^, ^)5,

а для г,т ^ к, г ф т, мы имеем

(^1-п-А,г('0)) ^А.уД-п-А-тУ3)^ =

(С1-п-А,г(^)) ^А,1/,А+1+т¥’)п =

Теперь, используя соотношение (5.22), мы можем распространить преобразования Фурье Ра,у,2-п-а+ш и Ра,1/,а-ш на обобщенные функции С из £^(Г2), т ^ к.

А именно, для ИеЛ > (2 — п)/2 + к (мы заменили Л на 1 — п — Л) и т ^ к, т = г^,

мы полагаем:

(Ра,1/,Л= (С; Р1-7г-А,1/,А-т<^)^’

(Р\,1/,2-п-\+т(,1 ф)в — (С, Р1-п_а,^2-п-А+от^)п-

Тогда из теоремы 7.12 следует:

Теорема 5.5 Преобразования Фурье /*а,1/,2-п-А+то и Е\.м,\-т являются обратными преобразованиями для £а,гп ~ с точностью до множителя или оператора А„, а именно, имеют место соотношения - для т,г ^ к и т = г = и:

( 1) ?п!У12_ п_ а+ш)

^А,,,2-п-А+т ° 6,т = (-1)тт! ^(2 - П - А + Тп) • Е,

Е\,и,\—т О 6,г = о, г ф т,

Е\^2-п-\+т ° &,г = о, г Ф т.

Эти формулы показывают, что отображения Ра^^-п-а+ш и -Ра^.а-тп, определенные первоначально как отображения в пространство Х>'(5) обобщенных функций на 5, на самом деле являются отображениями в пространство 1^(5).

Теорема 5.6 Имеет место формула

QХ,иР\,1/,Х+1+т = Т(\,ТП) ■ ^1—п—Х,т 0 ^1—п—А—пи (5.32)

где т = I/ и

Г(А + п — 1)Г(А + 1) вт(Л + п/2)тг • tg Атг

’ Г(2А + п + т) со8(А + п/2)я-+ (—1)" соз(га/2)7г

Доказательство. Мы имеем право положить <т = А+1+тв (5.13): в этой точке преобразование Пуассона Р\-п-\^,а имеет полюс, но функция Л(А, и, а) имеет нуль. Раскрывая эту неопределенность, мы получаем искомую формулу. □

5.6. Разложение канонических представлений

Мы ограничимся общим случаем: А лежит в полосах

1к — {А : —п/2 + к < ИеА < (2 — га)/2 + к} , к € 2.

Случай (А): Л Е /о-

Возьмем функции / € Т>1-п^х^(С+) и Н € Рд„(С+) и рассмотрим их ограничения /(ж) и /1(ж) на У+. Поскольку Л € /о, по лемме 5.1 обе функции /(ж) и }ъ(х) принадлежат Ь2(У+, с1х). Напишем для них формулу Планшереля (7.29) и перейдем в этой формуле к ограничениям /(и) и к(и) функций / и к на О, см. (5.8). Левая часть превращается в (1/2)(/, Н)п. Компоненты Фурье Рст/ и Р2_„_о=/г становятся (1/2)Р\^а/ и (1/2)Р1_п_д 1/2_га_5:/г. Следовательно, мы получаем

{/,н)п = /I

<т=(2—п)/2+гр

йр.

Теперь, используя соотношение (5.22), мы перебросим преобразование Фурье с /г, на / - как преобразование Пуассона. Мы получим формулу, которая дает разложение функции /, рассматриваемой как обобщенная функция (из 2У (Г2)):

/

/'°° 1

= J -Ра,1^,2—п—

/

<г=(2—гг)/2+гр

др.

(5.34)

Теперь возьмем функции / 6 Х>1_„_а,,/(С+) и 1г € Т>1_п_х„(С+). Тогда, поскольку А € /о, обе функции /(ж) и /г(х) принадлежат Ь2(У+,дх). Возьмем форму Березина от этих функций. В силу ограниченности формы Березина в полуполосе (1 — п)/2 < ЛсА < (2 — 77.)/2 мы можем написать разложение этой формы. Переходя, как и выше, к /(и) и к{и), мы получаем разложение формы (/> - пока еще для /д“:

Г°° 1

(/, Ь)а,* = / -ы(<т)А(А, г/, о-)(Ра,„)(Т/, Рх^2_п_^Ь)3

о — оо

а=(2—п)/2+гр

йр (5.35)

С помощью (5.11), (5.10), (5.24) и (5.14), (5.15) мы распространяем это разложение на всю полосу /о-

Теорема 5.7 Пусть А € /о- Тогда каноническое представление Ях^ разлагается в прямой интеграл представлений непрерывной серии с кратностью один. А именно, сопоставим всякой функции / € совокупность ее компонент

Фурье {Ра,1/,ст/} с а = (2 — тг)/2 + гр. Это соответствие С-эквивариантно. Имеет место формула обращения, см. (6.13), и разложение формы Березина (/,/?,)а,см. (5.35).

Саве (В): А € 4+1, А: 6 N.

Продолжим (5.34) аналитически по А из полосы /о направо - в полосу 4+1-При этом линию интегрирования 11е ст = (2 — гг.)/2 пересекают полюсы подин-тегральной функции (это полюсы преобразования Пуассона) и дают дополнительные слагаемые. Мы получаем

/ОО

+ Е7Гл’™(/)’

•оо

(5.36)

где суммирование происходит по т = 0,1,..., к, пп = и, интеграл означает правую часть (5.34) и

где суммирование происходит по т = 0,1,... ,к, т = и, интеграл означает правую часть (5.35).

разование Фурье Рд.^г-п-А+т, входящее в 7Гл,т, уже распространено, см. пункт

5.5. Таким образом, операторы 7Гл,то с т ^ к определены на пространстве

Разложение (5.38) также можно распространить на это пространство. В частности, для обобщенных функций из ££(Г2) интегралы в (5.36) и (5.38) исчезают. Обозначим через У\1 т образ оператора £х,т (или 7Гл,то)-

Теорема 5.8 Операторы тгх,т, гп ^ к, действующие на пространстве Т>к(П), являются проекторами на пространства У\^т, т. е. имеют место соотношения

Доказательство. Соотношения (5.39) и (5.40) проверяются с использованием теоремы 5.5. Докажем (5.41) и (5.42). По (5.37) и (5.21) мы имеем

По теореме 5.3 это равно нулю для г ф гп и равно правой части (5.41) для г = т в силу (5.23). □

т\

(5.37)

Аналогично аналитическое продолжение (5.35) дает:

(5.38)

Операторы (5.37) с т ^ к можно распространить на Е^(Г2), поскольку преоб-

Х£(П) = Р„(П) + £*(П).

^"Л,т^"Л,т ^Л,гп)

7ГА,т7ГА,г = о, г Ф т.

Кроме того, имеют место "соотношения ортогональности":

(5.39)

(5.40)

(5.41)

(5.42)

Применяя (5.26), мы получаем

(тга,т(/), ^А,г(/г))л,1/ = ^М(\, m)j(2 - п — Х + г) 1 X

X (Ьі—п—\,гР\—п—\,и,\-тР'\,и,2-п—\+тІі Рх,ц,2—п—Х+г^)^'

Мы видим, что разложение (5.38) - это "теорема Пифагора" для разложения (5.36). Таким образом, в случае (В) мы имеем:

Теорема 5.9 Пусть А € 4+ъ А; € N. Тогда пространство Т>„(П) нужно дополнить до пространства Т>к(0). На последнем пространстве представление Я\^ распадается в сумму двух слагаемых: первое разлагается как представление Я,Х у в случае (А), второе разлагается в прямую сумму неприводимых представлений Тъ-п—х+т с т = 0,1,..., к, т = и. А именно, сопоставим всякой функции / из Т>к(С1) совокупность {Рл,1лст/) 7Га,»/,т(/)}; где а = (2 — п)/2 + 1р и т = 0,1,..., к, т = и. Это соответствие С-жвивариантно. Функция / восстанавливается с помощью формулы обращения (5.36). Кроме того, имеет место "формула Планшереля" (5.38) для формы Березина.

Для —га/2 < А < 0 теоремы 5.9 и 5.7 дают разложение унитарных канонических представлений.

Случай (С): А € 1-к-1, к £ N.

Продолжим (5.34) аналитически по А из полосы /о налево - в полосу 1-к-\ ■ Здесь линию интегрирования Г1е<т = (2 — п)/2 пересекают полюсы

(7 = 1—п — А — т, ст = А + 1 + т, т ^ к, т, = и, (5.43)

подинтегральной функции (это полюсы преобразования Фурье Ра,1/,<т) и дают дополнительные слагаемые. Мы получаем

/ОО

+ (5-44)

•сю

где суммирование происходит по т = 0,1,... ,к, т = и, интеграл означает правую часть (5.34) и

Пд,т — 3(,^ + 1 + ^"0 Р\,1/,\+1+т ° ,т-

Теперь продолжим (5.35). Здесь полюсы (5.43) оказываются полюсами обоих преобразований Фурье. К счастью, функция А как функция от а имеет нули (первого порядка) в полюсах преобразования Фурье. Следовательно, полюсы

(5.43) подинтегральной функции являются простыми. После продолжения мы получаем

/ОО

+ '£2N(\,m)(Al-n-x-mbx,mf, Ьл,т%, (5.45)

-оо

где суммирование происходит по т = 0,1,..., &, т = и, интеграл означает правую часть (5.35) и

ДГ(А, т) = ^(-1)тт! ДА + 1 + т)”1 Т( А, т), (5.46)

АI

Т(А, т) см. (5.33).

Обозначим через ^а.ш образ пространства 2\(П) под действием преобразования ПА т. Операторы ПА,т с т ^ к можно распространить на пространство Тк(П), поскольку операторы Ьх,т с т < к определены на этом пространстве. В частности, можно применить Па,ш к Ра,г, г ^ к, и мы вправе рассматривать произведения Пд)ГППд1Г, где гп,г ^ к.

Теорема 5.10 Операторы ПА]77г, т ^ к, являются проекторами на Т\^т, а именно, имеют место соотношения:

где т = и, а Л^(А,77і) дается (5.46).

Доказательство. Соотношения (5.47), (5.48) проверяются с помощью (5.29) и (5.31). Соотношения (5.49), (5.50) проверяются с помощью (5.32), (5.26), (5.29) и (5.31). □

Формулы (5.49), (5.50) показывают, что (5.45) есть "теорема Пифагора" для разложения (5.44). Таким образом, в случае (С) мы имеем

Теорема 5.11 Пусть А Є І-к-і, к Є N. Тогда представление ЯАі„, рассматриваемое на пространстве Тк(П), распадается на сумму двух слагаемых. Первое действует на подпространстве функций, для которых их коэффициенты Тейлора ат(/) равны нулю для т ^ к, и разлагается как представление в случае (А), второе разлагается в прямую сумму неприводимых представлений Т!_п_д_Ш; т ^ к, т = и, действующих на сумме пространств 'Р\т. Имеет место ф>ормула обращения, см. (5.44), и "формула Планшереля" для формы Березина, см. (5-45).

§ 6. Канонические представления на сфере. Второй вариант

Этот вариант [2] заключается в том, что обе полы двуполостного гиперболоида и однополостный гиперболоид мы проектируем центральным образом на (■л — 1)-мерную сферу. Надгруппой для 80о(1,тг — 1) служит ЭЦтг,®^).

Рассмотрим следующую серию представлений 7гА]„, АєС, ь> = 0,1, надгруппы (7 = ЭЦтг, М). Пусть Р - ее параболическая подгруппа, состоящая из верхних блочно треугольных матриц р, соответствующих разбиению ті = (п — 1) + 1:

(5.47)

(5.48)

Кроме того, имеют место "соотношения ортогональности":

(ПЛ,т(/).ПдіГВ(Л))А,„ = ЛГ(А,7п){Лі_п_А_тЬА>т(/),Ьдт(й))5 (ПА,т(/), %г(/і))Аі„ = 0, г ф т,

(5.49)

(5.50)

6.1. Надгруппа. Максимально вырожденные представления

Представления 7Га,„ индуцируются характерами группы Р.

Сначала реализуем тх\<и в однородных функциях. Пусть „ (М") - пространство функций / из G°°(]Rn\ {0}), удовлетворяющих следующему условию однородности:

f{tx) = tx'vf(x), х€Г\{0}, t € М \ {0}.

Представление группы G действует в этом пространстве сдвигами:

тгаМ f(x) = f(x9)•

Теперь рассмотрим "компактную картину". Обозначим через (х,у) и |х| евклидовы скалярное произведение и норму в М":

(х, у) = Х\У1 + ... + хпуп, \х\ = \Jx\ + ... + х2п.

Сферу |х| = 1 мы обозначим Г2, как и в § 5. Обозначим через подпро-

странство функций / в Т>(0.) четности V.

/(-и) = (_1 Yf(u), иеП.

Представление 7Гд „ группы G действует в VU(Q) следующим образом:

= /(j~j) N|A> 3€G.

Эрмитова форма (5.2) инвариантна относительно пары (тг\1„,тг_х_п„):

<тга Ая)/> h)Q = (f, 7г_д_П]1/(<7-1)/;,)п, д € G.

Эта формула позволяет распространить представления на пространство Т>'и(П) обобщенных функций на Q четности и.

Представления 7Гд;1> неприводимы, за исключением Л € N, I/ = А и Л 6 — п—N, и = Л + п.

Определим оператор В\:„ на VU(Q):

{B\,uf)(u)= [ [u,v]~x~n'v f(v) dv.

Jn

Интеграл абсолютно сходится при Re Л < — п + 1 и распространяется меро-морфно на всю комплексную плоскость Л. Он сплетает представления тт\^ и

А—п.у-

^ - А—п,и(д) BXl/ = д €: G,

где

т?а Ад) = nxAJg"11)-

Аналогично § 3 пусть Н\п\ I € N, обозначает пространство гармонических функций на сфере П степени I. Такое пространство с I = и является собственным пространством для оператора Bx,v с собственным значением

Мы имеем:

В—\—п,и В\ и — 7(А, V) ■ Е, где 7(Л,г/) = 6;(Л) Ь/(—А—п), I = I/, так что

7(А, и) = 2"+: 7гп 2 Г(А+1) Г(1—А—п) сов^А+^тг — соз^+^тг

6.2. Канонические представления

Канонические представления Я\^, АбС, и = 0,1, группы (2 = 80о(1,п — 1) мы определяем как ограничения представлений 7г_л_П!„ надгруппы С на группу С. Представление Я\^ группы С действует в 2?„(Г2) по той же формуле, что и 7Г—А—71,1/*

(Ла^Ы/)(м) = /(|^) М-А-п, деС.

Эрмитова форма (/, /г)п инвариантна относительно пары (Д\,ю И-\-п^):

(я^Ш, Л)п = </, Я-д-^Ог1)^, а € с. (6.1)

Назовем преобразованием Березина оператор

Q\,V с(^> ^) Я_А—71,ю

где с(А, у) = ЬДА)-1, так что

Он сплетает с Я,~\-п,и- Вот его интегральное выражение:

(<2а,«//)(«) = с(Л,»/) [ [и,у]х'и /(у) с1у.

./п

Он имеет полюсы (первого порядка) в точках Аб — 1—I/—2М. С формой ( , )п оператор <5а,1/ взаимодействует так:

(<Эх,Л,Ь)п = (1,(ЭхЖ (6.2)

Композиция С2-\-п^ (5а,1/ есть тождественный оператор:

ф-А-п,1/ <5а^ = Е. (6.3)

Представление Яд^ и оператор <2а,у могут быть продолжены на Х^(П) - с помощью (6.1) и (6.2).

Назовем формой Березина полуторалинейную форму

h) = (Q^uf, h)n-

Действие и н-> ид/\ид\, gEG, группы G на Г2 не транзитивно. Имеется 5 орбит: 3 открытые орбиты: : [и, и] < 0, щ > 1/л/2 (северная полярная

шапка), fi+ : [и, и\ > 0 (сферический пояс), VIZ : [и, и] < 0, щ < —1/у/2

(южная полярная шапка), и между ними 2 орбиты размерности п — 2 (сферы): Qq : [и, и] =0, щ = 1/V2, : и] = и\ = ~ 1/\/2.

Отобразим гиперболоиды X, У+, У~ и конус С на с помощью центрального проектирования: х і—> и = х/\х\. Тогда мы получим многообразия Г2+,Г2І, ГГ и Qq , соответственно.

Меры dx на гиперболоидах и du на сфере связаны следующим образом:

dx = \х\п du = | [и, и] | "^2 du.

Для функций f(u) с носителями в X представление R\tU эквивалентно представлению Ux в функциях f(x) на X четности и. То же самое верно и для У+ и [V- (без условия четности).

6.3. Граничные представления

Каноническое представление R\v порождает два представления Ь\ и М\. связанных с границей fi0 = fig U Пг7 многообразий (открытых орбит) Г2±. Эта граница задается уравнением [и, и] = 0. Представление L\ действует в обобщенных функциях, сосредоточенных на По, представление М\ действует в многочленах Тейлора (струях) от a = [и, и].

Рассмотрим "северную" полусферу North, заданную условием U\ > 0. Введем на Q North полярные координаты a, s, где а = [и, и] = 1 — 2-u2, -1 1 и

s Є S, следующим образом:

и = {uuyjl-u\s2,...^l-u\sn) =

1—a jl+a

~~2~’ V ~~2~

В этих координатах мера du есть

du = 2~n/2 (l+a)(n“3)/2 (1 - а)-1/2 da ds. (6.4)

Для функции / Є £>„(fi) рассмотрим ряд Тейлора ее ограничения на ПNorth по степеням а

f(u) ~ со + с\а + с2а2 + ...,

Имея в виду (6.4), рассмотрим также функцию

/» = (1 + а)("-3>/2 (1 — а)-1/2 /(и)

и ее коэффициенты Тейлора обозначим с*т. Коэффициенты ст и с*т выражаются друг через друга с помощью треугольной матрицы с единицами по диагонали.

Обозначим через Е*;(0) пространство обобщенных функций сосредоточенных на ц| и имеющих в полярных координатах (а, в) следующий вид:

С = <А) 0*Жа) + <£>1(«М'(а) + + Рк^б^^а),

где 6(а) - дельта-функция Дирака на действительной прямой, </?о, • • •, <рк -функции из Т>(5). Значение обобщенной функции <р(8)б(т\а) на функции / € £>(Г2) дается следующей формулой

((р(8)6{гп\а),/)п = I <р(з) 6{тп\а) /{и) (1и =

" ^Мог±Н = 2-"/2 (-1

(6.5)

Положим:

Е(П) = и £*(«)•

к=0

Каноническое представление сохраняет !С*(Г2), к € N. Обозначим через Ь\ ограничение представления „ на Е(Г2).

Поставим В СООТВеТСТВИе обобщенной фуНКЦИИ ( Столбец (<у£>0, (рх,..., <рь, 0,...). Тогда Ь\ есть верхняя треугольная матрица:

( Т2-п-\ * * ... \

о Т4-„_Л *

0 0 Т6_п_а ...

V

Пусть с[/] есть столбец (со, С1, с2,...). Вообще, обозначим через Д(5) пространство последовательностей с = (со, с\, с2,...), где ст € ’^>(5')- Отображение / |—> с[/] есть изоморфное отображение пространства Р(5') на Л(5). Представление М\ действует на -4(5):

М\(рМЛ = с [Яа,„(з)/]

(оно не зависит от £/). Это представление есть нижняя треугольная матрица:

МА =

( Т_А_„ 0 0

* Т- Л-п-2 0

* * Т-Х-п-

... \

V

Имеет место дуальность между Ьд и М\.

Для обобщенной функции ( € Е^(Г2) (напомним, что аирр ( С £2^), обозначим через обобщенную функцию из Р'У(Г2) такую, что ее ограничение на Г^ЛГог£/1 есть С,, т.е.

СмМ = СМ + (-1ГС(-«).

Следовательно, для С = <р(з)б^(а) имеем

(СМ,/Ь = 2(2-п)/2(-1 Г гп\ (<е,с*т)3,

Обозначим пространство обобщенных функций через £{^(Г2), и обозначим Е^^(О) = и£^(Г2). Ясно, что Е^(Г2) изоморфно Е^(Г2) и £^(£7) изоморфно Е(Г2). Ограничение представления Н\ „ на Е^(Г2) эквивалентно представлению Ь\.

Представления Ь\ и М\ разлагаются по представлениям Та точно так же, как в работе [8].

Обобщенные функции из Е^(Г£) можно распространить естественным образом на некоторое пространство, более широкое, чем Р„(Г2). А именно, пусть

- пространство функций / класса С°° на каждой С-орбите, четности и и имеющих разложение Тейлора порядка к:

/(и) = со + С\а Н--1- скак + о(ак),

где сто € '£>(3). Тогда (6.5) сохраняется для / £ с гп ^ к.

6.4. Преобразования Пуассона

Определим преобразования Пуассона РХи а, связанные с каноническим представлением Яд,!/) следующим образом

{рх,^)(и) = [щи\{±Х~п~а)/2 [ [и, а]0'" ф) дз

(мы используем обобщенные функции , х^_ на действительной прямой).

Обозначим через С£°(£2±) пространство функций /(и) класса С°° и четности

V на многообразии Г2±. Преобразование РХи а есть оператор Т>(3) —» С£°(Г2±). Он сплетает представления Т2_п_ст и Я\у.

ЯхЛз) Р^о = р£и* Ъ—Ля), 9 е С.

Для параметров в общем положении преобразование Пуассона взаимодействует с оператором Аа по формуле

РХ,и,а А« = ЗЧ*, ") Р\,»,2-п-а>

а с преобразованием Березина следующим образом (см. [2]):

Теорема 6.1 Имеют место следующие формулы:

Р\,и,* = л (А, І/, сг) РГл_„і1/,(Т + л_+(А>г/,а) Р±х_п^, (6.6)

= Л+-(А,«/, а) РГЛ_„,+ А++(А, */, а) Р\_п^ (6.7)

Числа Л** образуют матрицу (зависящую от А, и) а):

М =

л— Д-+ л+~ л++

Вот ее явное выражение:

\ Л(Л>1'>СГ) ( С08^7Г СОБ^ТГ

М(А,у,<г)= л_у_ ( л+п—і/

где

р/-А+<т\ ті / -А-п-о-+2 \

Л(А ,и,а)= 4 2 > 1 2 ^

г(_А^+1) р(-Л—п+»+1у

Матрица М есть своего рода "собственное число" преобразования Березина С^а,1/• Приведем некоторые свойства матрицы М (штрих означает матричную транспозицию):

М(—А—п, и, сг) М(А, 1/, сг) = Е,

М(А, I/, сг)' = М(А, и, 2—п—ст).

Нам потребуется в пункте 6.7 вычет Мт(А, г/) матрицы М(А, и,2 — п — а) в точке сг = А — 2т, т € М:

М (\ \ - ^(^0 ( СОЪ^Ж (-1)т+1 соб А+” "к

Ш ’ С08^р7Г V (-1)тС08^7Г -С08Л+у-'%

где

^т(^і ^0 — К'Є8сг=д_2тЛ(А, и, сг) —

2(-1)тГ(- А + т + 1 -п/2) ш!Г(^+1) Г(—л—п+У+Ту~-

(6.8)

Кроме того, матрица Мт(Х,и), получающаяся из этой матрицы делением ее столбцов на j~(А — 2т, и), j+(X — 2т, I/), соответственно, т.е матрица

есть (см. (4.1))

\га

Теорема 6.2 Пусть а ф (2 — п)/2 + Ъ. Для К-финитной функции (р 6 'Е,(5) ее преобразования Пуассона имеют следующие разложения по степеням а = [и, и}:

ОО

ТП=0

ОО

+ (—I)1" а+’А+<т_2)/2 2<Т+п~2^2^ (а, и) ^2(^т^)ат,

171=0

где и Е П имеет полярные координаты (а, я), см. § 5, 1У^т - некоторые дифференциальные операторы (многочлены от оператора Лапласа-Бельтрами Д5 на в степени т, см. ниже) и

(-'а^гп ^2—п—а ^2-п—а,т-

Эта теорема доказывается аналогично соответствующей теореме из [1].

Множители о4 А " (Т^2, а± А+сг~2)/2 дают полюсы преобразований Пуассона в плоскости сг, зависящие от Л, они располагаются в точках

а=Х—2к, <7=2—тг—А+2/, к, / € М, (6-11)

так что Р± зависят от а мероморфно.

Полюсы преобразований Пуассона - простые, кроме случая, когда обе последовательности (6.11) пересекаются и полюс принадлежит их пересечению (в этом случае его порядок 1 или 2).

Дифференциальные операторы \Уа:ГП определяются с помощью производящей функции:

КЛа) = (1 + а)'2-"-'"2 Р , °-±±=1 .

где Р - гипергеометрическая функция Гаусса. Разложим функцию Уа^(а) в ряд по степеням а:

ОО

УоАа) = У, ™к ак.

к=О

Эти коэффициенты и)к являются многочленами от /1; = /(3 — п — /) с коэффициентами, рациональными по сг:

уок = и]к(а,щ),

именно,

/4-п-а \1к~г]

^ I 2 к)

~ 2Т г\ (к - г)! (сг + |)[г1

Г— 1

х [щ + (сг + п - 2тп)(а + 1 + 2т)],

771=0

п 2 а

<Г+2; ГТ^

для г = 0 произведение П считается равным 1. Напомним, что число щ = 1(3 — п — I) является собственным значением оператора Лапласа-Бельтрами на пространстве Н\п см. § 3. Положим:

УУа>к = ъик(а,А3).

Как функция от а оператор \Уа^ является мероморфной функцией, с полюсами (простыми) в точках а = — гаг — га/2, О^тга^А; — 1, к ^ 1. Например,

И',.,, = 1,

2 — га — сг / . га — 2\

^ = ~2ТТп~ ( !!+—2~)'

Запишем вычеты Р\и ^ преобразований Пуассона в простых полюсах /г. Оказывается, что эти вычеты являются операторами, действующими из Т>„(3) в пространство £^(П), см. пункт 6.3. Определим следующий оператор

га |

(хМ = £ (-Ц' тЁгл, «<т-г>(а),

г=0 ''7П Г'-

действующий из ДДЗ) в £т(0). Он сплетает представление Т2_п_А+2т с представлением Ь\\

^А ,т ° ^2 71—А4 2 т ^А ° ^А,т-

Для гаг ^ 1 он зависит от А мероморфно - с простыми полюсами в точках А = гаг + г + (2 - га)/2, г = 0,1,..., гаг — 1. В частности, £а,о(¥>) = <Ка)-

В соответствии с пунктом 6.3 определим операторы : Т>(8) * ^ГП (Я):

«$.(*>) = (6»)м,

так что

га

«К», />п = 2(2"”,/2 (-1)" т! £ №-к,М,0».

г=0

Через них выражаются вычеты преобразований Пуассона:

= 2<А+”-2Ч/2(=р1)‘(-1)‘'^'±(Л-2к,1/)ейЫ,

2-„-Л+2< = -2<Л+“-2<)/2 (4=1)' (-1Г^{Ц(Лл-2|(*>))-

6.5. Преобразования Фурье

Преобразования Фурье Р*иа, связанные с каноническим представлением определяются как операторы, сопряженные преобразованиям Пуассона,

они имеют такие же ядра (с заменой Л на —А - п), именно, есть оператор

Т>„(П) —* Т>(8), определяемый формулой

{РХг,Л) (в) = / К «Г’" [и,и](±~а)/2 /(и) А*.

Фактически интегрирование ведется по Интегралы сходятся абсолютно для 11е (А+сг+п) > 0, 11е (А — а + 2) > 0 и распространяются мероморфно по А и сг.

Преобразование Фурье сплетает с Та:

ЪЛз) = из) ^ 3 е с-

Сопряженность

= (/,

с преобразованием Пуассона позволяет перенести утверждения для преобразования Пуассона на преобразование Фурье. Например,

А* и) Р\,1>,2—п—а

РГл-п,^ Ях,* = А (А, I/, а) + Л~+(А, и, а)

За,„ = А+-(А, I/, а) + Л++(А, а)

Преобразование Фурье имеет полюсы в точках

а = — А—п—2/с, сг = А+2+2/, /с,/€М. (612)

Полюсы простые, если последовательности (6.12) не пересекаются.

Запишем вычеты в простых полюсах /л. Для этого определим "граничные" операторы Ь\гп : Т>и(£1) —> Т>(8), используя коэффициенты Тейлора с*к,

см. пункт 6.3:

га

Ьа,тп(/) = ^ , ^-А-п-2т,г(ст_г)-г=О

Эти граничные операторы Ъ и операторы £ сопряжены:

(й_„,„(9),/>о = 2(2-“)/2(-1Гт! (6-13)

Оператор 6л,т сплетает представления Яд,!/ И Т-Х-п-2тп-

Ъ\,т = Т—Х—п—2т(д) ^А,ггм 9 ^

он мероморфен по А с простыми полюсами в точках А = —(п/2) — т — г — 1,

г = 0,1,..., т — 1.

Вычеты преобразования Фурье выражаются через граничные операторы:

= 2<2-”-а-2^2(±1)‘(-1)‘';±(-А-п-2*:^)Ьлл(Л, ^,л+м/ = -2,2~”А И|" (±1)' (-1)" Л-л-»-* МЛ-

6.6. Преобразования Пуассона и Фурье в полюсах друг друга

Преобразования Пуассона и Фурье в полюсах друг друга имееют некоторые специальные свойства.

Сначала рассмотрим преобразования Пуассона:

р± р±

А,!/,—А—п—2т> А,1/,А+2+2т'

Разложение этих преобразований по степеням а имеет ведущие множители а™ и а±А-1-т-”/2. Следовательно, для Ие Л < —2к — 1 — п/2 одно из двух слагаемых в разложении преобразований (6.14), которое содержит а±А_1~т~"^2, есть о(ак) при а —> 0. Поэтому мы будем рассматривать следующую линейную комбинацию преобразований Пуассона

р(т) _ р+ \ (_1 \т р—

\,у А,!/,—А—п-2т ' V / А,у,—А-п-2т‘

Для этого преобразования ведущие множители - это многочлен ат и а±А 1 т п^2. Следовательно, для Г1е А < —2к — 1 — п/2 и т = 0,1,..., к разложение преобразования есть

ОО

(РЙЧОО = (-1)^2(А+"+2-)/2 ат £ {С-х-п-2тМ(*) «Г + *(“*)•

г=0

Напомним, что Са$ = А^-п-а- Следовательно, мы можем применить к Р^<р граничные операторы Ьд.ш, 0 ^ т ^ к.

Теорема 6.3 Пусть А: € N. Пусть 11е А < —2к — 1 — п/2. Тогда для т ^ к мы

имеем

Ьх,т{Р&)(Р) = (-1)" 2{Х+п+2т)/2Ах+2+2т^

и для г,т ^ к, гфт, имеем

= о.

При тех же условиях, что и в теореме 6.3, мы можем применить обобщенные функции из (О) к образам преобразований Пуассона, участвующим в теореме 6.3. Используя соотношение дуальности (6.13), получим

Теорема 6.4 Пусть А; € N. Пусть 11е А < —2к — 1 — п/2. Пусть г,т ^ к. Тогда имеют место следующие "соотношения ортогональности

о = (-!)-+”• 2(Л+“+2”^ т! (Ах+2+1тф^)8,

(5-л-„,г(’/>), = о, г^т.

Это позволяет (снова используем (6.13)) распространить преобразование Фурье

р(т)__ р+ I /_1 '\"г р-

\,ь>,\—2т ' V / Л,гу,Л—2т

на обобщенные функции £€£^(0), т^к. Именно, для 11е Л > 2к + 1 — п/2 (мы заменяем Л на —Л — п) мы полагаем:

<*£?<»« = (с, г*$_^,г)а.

Тогда теорема 6.4 влечет

Теорема 6.5 Пусть к £ N. Пуст,ъ Ые А > 2к + 1 — п/2. Пусть г,т. ^ к. Преобразования Фурье являются "обратными" отображениями к £х,т с точностью до оператора Аа, а именно, имеют место следующие соотношения:

РхР&и-ф) = (-1)‘/+т т\ 2(2-"-Л+2т)/2 Л2_п_А+2т ф,

= °> г^т-

Эти формулы показывают, что отображения определенные первона-

чально как отображения £^(0) —> Р'(5), на самом деле оказываются отображениями £^(Г2) —> Х>(5).

Преобразования появляются также при взаимодействии оператора (,'х,т и преобразования Березина.

Теорема 6.6 Имеют место следующие формулы

= К&Р™ „V, (6.14)

Qx.Pt''О = (6.15)

множители К^т и Ь^т даются формулами:

Ту'(^) _ г\{Х+2—п—2т)/2 (2—п)/2 Г( —А+2т) Г( — А + ГП+1 — п/2)

Кх’т - Г( — А + 2т + 1 — п/2)

X {Г(^^) Г(-Л-"а+У + 1)}-1.

гМ = 2(А/2)+п+ш-1 (п—2)/2 Г(А + 2т + 1 + п/2) ^

А,т Г(А + п + 2тп) Г(А + т + 1 + п/2)

А + п — ^ + 1\ _/А -Ь г/ + Г

Доказательство. Возьмем вычет в точке а = А—2т для любой из двух формул (6.6) и (6.7), мы получим (6.14). Коэффициент К^т равен (в обоих случаях получаем одно и то же):

|2(а+п-2ш)/2(т1)ш 7-±(д _ 2т, и)}'1 • Ие3<т=л-2тА±’+ =

= 2(-А-"+2т)/2(-1)т+1 т!{ эт А7г ■ 7(А — 2т)}-1 • ЛТО(А, г/),

где Лт(Л, и) дастся формулой (6.8). Подставляя сюда (4.1) и (6.8), получим коэффициент К.

Применим к (6.14) оператор В силу (6.3) получим (6.15) с заменой

Л на —Л — п. Множитель Ь^т равен {А"11/д_пт}-1. □

6.7. Разложение канонических представлений

Для прозрачности изложения мы ограничимся общим случаем: Л лежит в полосах

—п — 2 2 — п

/д. : ----—---Ь 2/с < ИеЛ < ——— Ь 2/с, к£^.

Случай (А): Л € /о-

Мы рассуждаем аналогично [13]. Пусть / Е Х>_л-п,1/(К”), /г € Т>Хи(М.п). Тогда, ограничивая / и к на У+, получаем / и /г из Ь‘2(У+,с1у), а каноническое представление становится представлением 11у+. Используя формулу Планшере-ля для ^+, см. § 4, получим следующее разложение ограничения функций / и к на С1:

/ОО

<^/> г:-х^2-п^3 *Р-

•оо

Здесь и дальше все интегралы с а берутся при а = (2 — п)/ + 1р, р€М.

Теперь, используя сопряженность из пункта 6.5, перебросим преобразование Фурье с к на / как преобразование Пуассона. Получим:

/ОО

"И (Р\,»,2-п-а ^,а/> Л>П ^Р-

•оо

Эта формула дает разложение функции / как обобщенной функции из Т>'и{£1):

/ОО

ш(?) -п-<т ар1 (6-16)

•ОО

Аналогично, используя ограничение функций /, к на X, получим следующее разложение:

/ОО

“М -,Р^1)(у)Лр +

ОО

+ £ ^ {Р?,з-п-г (6.17)

где суммирование берется по целым г > (2 — п)/2, таким, что г=г/ + 1, волна над Р и Я означает, что эти преобразования соответствуют нормализованному Я-инварианту

^ = гГ+;+1)-1^.

Объединяя формулы (6.16) и (6.17), получим разложение функции /(и) на всей сфере Г2:

/ОС

{Р\,и,2-п-а р-^5 + Рг^-п-а Р\,и,а1) <1Р +

-оо

+ £ ^ Р^,2-п-г *&.,/• (6-18)

Теперь разложим форму Березина

к) = (Ф^/, Л)п = (/, <2а,»п-

Пусть /€Р_а-п,1/(^п), Тогда ограничения функций /, /1 на ^+

и Л’ принадлежит Ь2(У+,с1у) и Ь2(Х,йх), соответственно. Используя формулу

(10.3) и формулы для композиции С^Р (теорема 6.1), получим разложение для

f,heVv{n):

/ОО

ш(а) Е Ла,/3(А, и,2 — п — а) (^/, ^2_п__Л)5 ф +

■°° а,0

+ £ ^ Л++(Л, „, 2 - п - г) (Р+и>г/, ^2_п_г%, (6.19)

где а,/3 £ {—,+}■ Заметим, что Л~+(А,г/,2 — п — г) обращается в нуль при

Г=!У+1.

Таким образом, в случае (А) имеем

Теорема 6.7 Пусть Л € /о- Тогда каноническое представление Ях^ разлагается в прямой интеграл представлений Та непрерывной серии с кратностью

2 и представлений расширенной дискретной серии Т^ и Тг с кратностью 1. А именно, сопоставим функции / 6 Т>„(0.) совокупность ее компонент Фу-рье <т = (2 - п)/2 + гр; (2 - п)/2 < г < 0, г Е Р+^г/, геП,

г=и + 1. Это соответствие С-эквивариантно. Имеет место формула обращения (6.18) и "формула Планшереля" (6.19) для формы Березина.

Случай (В): Л € Н+ъ & £ N.

Продолжим разложение (6.18) аналитически по А из /о в Д+х, /с £ N. Некоторые полюсы по а подинтегрального выражения пересекают линию интегрирования - прямую 11е а = (2 — п)/2. Это полюсы а = А — 2т и а = 2 — п — А + 2т, т = 0,1,...,к, преобразований Пуассона РХи2_П_(Т- О™ Дают дополнительные слагаемые в правой части. Пары полюсов (А — 2т, 2 — п — А + 2т) дает дополнительный член, равный умноженному на 4-7Г вычету подинтегральной функции в точке а = А — 2т. После продолжения получим:

/ОО к

+Е +Е (6.20)

00 г т=О

где интеграл и ряд означают то же, что и в (6.18), и

7гА,у,ш(/) — —4л — {Рд1„12-п-А+2ш^А,1/,А-2ш/ + ^у,2-п~Л+2т-^у,А-2т/} ■

Используя формулы для вычетов преобразований Пуассона, получим

*гЛ,„,т(/) = 4тг ш(А - 2т) (-1)"+™^ 2(л+«-2™)/2 х

т!

х

Образ оператора тг\^т совпадает с образом оператора .

Продолжим теперь (6.19) в Ік+і- Сейчас полюсы а = А — 2т и сг = 2 — п — А + 2т, т = 0,1,..., А:, подинтегральной функции - это полюсы множителей А“,/3(А, V. сг). После продолжения получим:

Ву

/оо к

+£ + £ £ т^м(Ах-2™^,„,л_2т/, ре_ті,)3,

•ОО „ _ /Э

(6.21)

т=0 а,/3

где интеграл и ряд означают то же, что и в (6.19),

Т^(А) и) = /(А-2ти) Кез-А-2-Ла/3(Л- ^ 2 - п ~ °)

Вспоминая выражения (6.9), (6.10) и подставляя их в (6.21), получим

/ОО ^

+ Е +Е 2т*Й?/, (6-22)

00 Г 771=0

где интеграл и ряд означают то же, что и в (6.19),

Т(А,1/,т) = 4тг ц(А - 2т)(-1)1/+1 -■ 9 т =

вшЛ7Г • о/(А — 2т)

= 4тг ш(А - 2т)(—1)1/+т • 2А“2т+1 • тг(2“")/2 х Г(—Л+2т) Г( — А + т+1— п/2)

Г( — А + 2т + 1 — п/2) Г(^±1) Г(^=^±1)'

Заметим, что эта "мера Планшереля" Т(А, и, т) только множителем отличается от ш(А - 2т)/<^.

Оператор тгдг/то, т^к, можно распространить из Г\,(Г2) на пространство

£^(Г2), потому что преобразования Фурье, участвующие в этих операторах, уже распространено, см. пункт 6.6. Таким образом, операторы тг\^>т с т^к определены на пространстве

vVtk(Q) = vv^ql) + ^)^n).

Теорема 6.8 Операторы т:т, т ^ к, действующие на пространстве Т>к(0), являются проекционными операторами, проектирующими на пространства У\,т, яг.е. имеют место соотношения:

тг\,и ,777 ТТЛ ,і/,т КХ,и ,771)

7ГА,1/,г — 0) Ніфі .

Кроме того, на этом пространстве определена форма Березина В\^

и имеют место "соотношения ортогональности ":

Вх,»Ы,т(Л,1Г-х^М) = Г(Л,1/,т)Мл-2т^й)/, ^^5, ^а^(7Га,і/,ш(/),7Гл,^г(/і)) = 0, т^г.

Эта теорема вытекает из результатов пункта 6.6.

В частности, для обобщенной функции / Є Е^(Г2) получаем ее разложение по ее проекциям на пространства Ух,т, т^к:

к

/ = Е 7ГА,1.,т(/)-

777=0

Итак, в случае (В) имеем

Теорема 6.9 Пусть ХєІк+ъ kєN. Тогда пространство Т)„(уї) нужно дополнить до пространства 1^(0) = В этом пространстве

представление Пху раскладывается в сумму двух слагаемых: первое разлагается как Яху в случае (А), второе разлагается в сумму к+1 неприводимых представлений Т2-п-х+2т, тп=0,1,..., к. Имеет место формула обращения, см. (6.20), и "формула Планшереля" для формы Березина, см. (6.22).

Как следует из соотношений ортогональности (теорема 6.8), формула (6.22) есть "теорема Пифагора" для (6.20).

Случай (С): А Є І-к-1, к Є N.

Продолжим разложение (6.18) аналитически по Л из /о в І-к-і, к Є N. Здесь полюсы а = А + 2 + 2гга и а = —А —п —2т, т — 0,1,..., к, подинтегральной функции (это - полюсы преобразований Фурье РХиа) дают добавочные слагаемые в правой части:

/ОО к

+ Е +Е П^тШ, (6-23)

'°° г т=О

где интеграл и ряд означают то же, что и в (6.18), и

Пх,и,т(Л = (-1Г4тго;(А + 2 + 2т) -22-"-А-2т)/2х

X Р^\А_х-п-2тЬх,т(Л). (6.24)

В самом деле, пара полюсов (А — 2т, 2 — п — А + 2т) при пересечении линии интегрирования дает дополнительный член, равный умноженному на — Атт вычету подинтегральной функции в точке а = А + 2 + 2т, а именно,

—47Г ш(А + 2 + 2т) ^Рху-Х-п-2тР\у,\+2+2т^ + РХу-Х-п-2т РХ,и,Х+2+2т^} '

Подставляя выражения для вычетов преобразований Фурье, получим (6.24).

Оператор Пх,„,т сплетает Тх+2+2т и Ях,и- Обозначим через \¥\11/>т образ пространства Т>„(П) под действием преобразования Иху,т- Операторы Пд т с т ^ к можно распространить на пространство 7^С(Г2), поскольку операторы 6д,т с 7П ^ к определены на этом пространстве. В частности, можно применить Па,тп к И'а.у.г, г ^ к, и мы вправе рассматривать произведения Па^.шПа.^г, где т, г ^ к. Следующая теорема доказывается с помощью теорем пункта 6.6.

Теорема 6.10 Операторы гп ^ к, являются проекторами, на Тх-т, а

именно, имеют место соотношения:

ПА,1/,тПА,1/,7тг Па

Па,1/,шПа,цг 0, т Ф т.

Кроме того, имеют место "соотношения ортогональности":

ВхЛПхгАП’Щ,^)) = N(\,V,m)(A-X-n-2mЪx,m(f),bJ,m(h))s,

ЙА,„(ПА)У,т(/),Пд^г(/1)) = 0, гфт,

где

УУ(А,и,т) = (-1у+т 22~п тг-"/2 т! • шп (а + тг х

Г(А + 2т + 2 + п/2) Г(—А — 2 — 2т)

Х Г(А + т+1 + п/2) Х

Теперь продолжим (6.19) ИЗ /о в 1-к-1-

Теорема 6.11 Для А £ 1-к-ъ & € М, форма Березина раскладывается следующим образом

/ОО к

+ Е Л^(Л.1/.Ш)(Л-А-п-2тЬА,т(/)А,ш(/г'))5! (6-26)

■°° г т=0

где интеграл и ряд означают то же, что ив (6.19), Л^(А, I/, т) дается формулой (6.25).

Доказательство. Здесь полюсы а = А+2+2т и а = —Х—п — 2т, ш = 0,1,..., /с, подинтегральной функции оказываются полюсами обоих преобразований Фурье, так что каждое из четырех слагаемых (а,/3 £ {+, —}) имеет полюс второго

порядка. К счастью, вся сумма этих четырех слагаемых имеет полюс толькс первого порядка (старшие лорановские коэффициенты взаимно уничтожаются) и вычет получается в обозримом виде. □

Следовательно, формула (6.26) есть "теорема Пифагора" для (6.23).

Таким образом, в случае (С) мы имеем

Теорема 6.12 Пусть А € 1-к-ъ к € N. Тогда представление Ях^, рассматриваемое на пространстве Т£(0.), распадается на сумму двух слагаемых. Первое действует на подпространстве функций, для которых их коэффициенты Тейлора ст(/) равны нулю для т ^ к, и разлагается как представление Я\ и в случае (А), второе разлагается в прямую сумму неприводимых представлений Тл+2+2т(~ Т_д_п_2т); т ^ к, действующих на сумме пространств \Ух,и,т, т ^ к. Имеет место формула обращения, см. (6.23), и "формула Планшереля" для формы Березина, см. (6.26).

Литература

1. А. А. Артемов. Преобразование Пуассона для однополостного гиперболоида. Матем. сб.. 2004. Том 195. № 5. 33-58.

2. А. А. Артемов. Канонические представления на сфере с действием псевдо-ортогональной группы. Вестник Тамбовского ун-та. Серия: Естеств. и техн. науки. 2008. Том 13. Вып. 6. 445-473.

3. Г. Бейтмен, А. Эрдейи. Высшие трансцендентные функции. Гипсргеомет-рическая функция, функции Лежандра. М.: Наука. 1965.

4. Ф. А. Березин. Квантование в комплексных симметрических пространствах. Изв. Акад. Наук СССР, сер. матем.. 1975. том 39. № 2. 363-402.

5. А. М. Вершик, И. М. Гельфанд, М. И. Граев. Представления группы БЬ(2,Я), где Я - кольцо функций. Успехи матем. наук. 1973. Том 28. № 5. 83-128.

6. Н. Я. Виленкин. Специальные функции и теория представлений групп. М.: Наука. 1965.

7. И. С. Градштейн, И. М. Рыжик. Таблицы интегралов, сумм, рядов и произведений. М.: Физматгиз. 1963.

8. Л. И. Грошева. Канонические и граничные представления на пространстве Лобачевского. Вестник Тамбовского ун-та. Серия: Естеств. и техн. науки. 2004. Том 9. Вып. 3. 306-311.

9. В. Ф. Молчанов. Гармонический анализ на однородных пространствах. Итоги науки и техн. Совр. пробл. матем. Фундам. напр.. ВИНИТИ. 1990. Том 59. 5-144.

10. В. Ф. Молчанов. Канонические представления на двуполостных гиперболоидах. Записки научных семинаров ПОМИ РАН. 2006. Том 331. 91-124.

11. G. van Dijk, S. Hille. Canonical representations related to hyperbolic spaces. J. Funct. Anal.. 1997. Vol. 147. 109-139.

12. V. F. Molchanov. Quantization on para-Hermitian symmetric spaces. Amer. Math. Soc. Transl./ Ser. 2, 1996, vol. 175 (Adv. in Math. Sci.—31), 81-95.

13. V. F. Molchanov. Canonical and boundary representations on a hyperboloid of one sheet. Acta Appl. Math.. 2004. Vol. 81. Nos. 1-3. 191-204.

14. V. F. Molchanov. Canonical representations on the two-sheeted hyperboloid. Indag. Math.. 2005. Vol. 16. Nos. 3-4. 609-630.

15. V. F. Molchanov, L. I. Grosheva. Canonical and boundary representations on the Lobachevsky plane. Acta Appl. Math.. 2003. Vol. 79. Nos. 1&2. 59-77.

Поступила в редакцию 25 апреля 2009 г.

Keywords: canonical representations; boundary representations; symmetric spaces; pseudo-orthogonal group; Berezin transform.

A general conception of canonical representations is presented. It is illustrated by three examples: the Lobachevsky plane with an action of the group SU(1,1), the sphere in 1" with an action of the generalized Lorentz group G = SOo(l,n - 1) generated by the overgroup SOo(l, n), the same sphere with an action of the same generalized Lorentz group but with the overgroup SL(n, K).