Канонические и граничные представления на комплексных гиперболических пространствах Текст научной статьи по специальности «Математика»

УДК 517.98

Канонические и граничные представления на комплексных гиперболических пространствах 4

© Л. И. Грошева

Ключевые слова: канонические представления, граничные представления, комплексные гиперболические пространства

Дано разложение канонических и порожденных ими граничных представлений на комплексных гиперболических пространствах

Decompositions of canonical and generated by them boundary representations on complex hyperbolic spaces are given

Мы даем подробное изложение наших кратких сообщений [4], [5] о разложении канонических и порожденных ими граничных представлений для комплексных гиперболических пространств G/K, где G = SU(n—1,1), K = U(n—1). Пространство G/K мы реализуем как единичный шар в Cn—1 с дробно-линейным действием группы G. Канонические представления мы определяем как ограничения на G представлений максимально вырожденных серий "надгруппы" G = SL(n, C)

§ 1. Псевдоунитарная группа SU(n — 1,1)

Возьмем в пространстве Cn, n ^ 3, эрмитову форму

[х> у] = —x1 у1 — - - - — xn—1yn—1 + xn Уп- (1-1)

Пусть G есть группа SU(n—1,1), она состоит из матриц g Е SL(n, C), сохраняющих форму (1.1):

[xg,yg] = [х,у]- (1-2)

Мы будем считать, что группа G действует в Cn справа : х ^ хд, так что мы будем записывать вектор из Cn в виде строки.

Пусть I - матрица формы (1.1), это - диагональная матрица с диагональю Ai ...,\n, где

Al = - - - = An— 1 = —1,An = 1-

Условие (1.2) равносильно тому, что

g—1 = ig I, (1.3)

4Работа поддержана грантами: РФФИ 07-01-91209 ЯФ_а, Научной Программой "Развитие Научного Потенциала Высшей Школы" РНП.2.1.1.351 и Темпланом 1.5.07.

где штрих означает транспонирование.

Разобьем матрицы д из О на блоки соответственно разбиению п = (п —1) + 1:

д = ( ^)' (1")

где а - матрица порядка п — 1, в - столбец из Сп-1, 7 - строка из Сп-1, 6 -комплексное число. Тогда для матрицы д-1 из условия (1.3) получаем

-1 ( а —1'

*-1 = I і I ■ (15)

так что (Ет - единичная матрица порядка т)

аа' — вв = Еп-1, (1-6)

а^' — ві = 0, (1.7)

^а/ — 8@' = 0, (1.8)

—1~/ + іі = 1 • (1-9)

Пусть К - подгруппа блочно диагональных матриц

* = (00) ■ (1 • 10)

где а Є и(п — 1), |Ь| = 1, Ь = (ёе1 а)-1. Она изоморфна унитарной группе и(п — 1) и является максимальной компактной подгруппа в О.

Обозначим через А однопараметрическую подгруппу матриц

еЬ Ь 0 вЬ Ь

а* = | 0 Еп-2 0 ]• (1 • 11)

вЬ Ь 0 еЬ Ь

Для группы О справедливо разложение Картана

О = КАК, (1 • 12)

т. е. всякий д Є О можно представить в виде д = к1ак2 , где к1}к2 Є К, а Є А.

Алгебра Ли 0 группы О состоит из матриц X порядка п, удовлетворяющих соотношению

X' = —іхі •

Базис в 0 образован матрицами Хкт = Ект — ХкХтЕтк, к < т , и Укт =

і(Ет + ХкХтЕтк), к ^ т, где Ект - "матричная единица" (с единицей на

месте (к, т) и нулями на остальных местах).

Алгебра Ли 0 распадается в прямую сумму

0 = к + Р, (1 13)

где к - алгебра Ли группы K, p - подпространство, ортогональное к в смысле формы Киллинга. В блочном виде, отвечающем разбиению n = (n — 1) + 1, см. выше, матрицы из к и p имеют вид, соответственно

v 0 \ / о £7 ^

0 0 У U о )’

где V - косоэрмитовая матрица порядка n — 1, £ - строка из Cn—1. Базис в

к образован матрицами Xkm, k < m < n, и Ykm с k ^ m < n, базис в p

образован матрицами Xkn и Ykn с k < n. Элемент Казимира в универсальной обертывающей алгебре Env (g) с точностью до множителя есть

А0 = — |{ X/ AkAmXkm + X/ AkAmYkm}- (1-14)

k<m k^m

Этот элемент Ag мы тоже будем называть элементом Казимира, он принадлежит центру универсальной обертывающей алгебры. Всякая максимальная абелева подалгебра в p одномерна, в качестве таковой возьмем подалгебру а, базисом которой служит матрица A0 = X1n, так что at = exp tA0, см. (1.11).

§ 2. Комплексное гиперболическое пространство

Пусть (z,w) обозначает стандартное скалярное произведение в Cn—1:

(z,w) = Z1W1 + - + Zn—1Wn—1, (2-1)

пусть \ z\ - соответствующая норма: \ z\ = \J(z, z). Как и раньше, мы считаем, что векторы z - это строки.

Пусть D - открытый единичный шар \ z\ < 1 в Cn— 1, пусть S - его граница \ z\ = 1 (это - сфера размерности 2n — 3), пусть D = D U S.

Для z Е Cn—1 обозначим

p =1 — (z,z) = 1 — zz7 - (2-2)

Тогда D и S задаются условиями: p > 0, p = 0, соответственно.

Рассмотрим дробно-линейное действие группы G на Cn—1:

z« + Y ,п

z w z = z'g = —y (2-3)

где матрица g Е G записана в блочном виде (1.4). Правая часть (2.3) определена на некотором плотном множестве в Cn—1, зависящем от g - там, где zfi + 8 = 0 (при в = 0 это - все пространство Cn—1).

Теоpема 2.1. Замкнутый шар D входит в область определения функции z ^ z ■ g для любого g Е G. Он инвариантен относительно этого действия и распадается на две орбиты: шар D и его граница S.

Доказательство. Сначала покажем, что при | г1 ^ 1 знаменатель в (2.3), т.е. гв + 8, не обращается в нуль для любого д Є О. Из соотношений (1.6)-(1.9) для д-1 следует: —в в + 88 =1, откуда | в| < | 8|. Применяя неравество Коши-Буняковского, получаем оценку | гв| ^ | z| ■ | в| < | 8|, откуда | гв + 8| > 0 для | z| ^ 1. Следовательно, правая часть (2.3) определена на V для любого д Є О.

Следующее соотношение будет полезно и в дальнейшем:

___ 1 — (г, ш) .

1 — (г,ш) =--------х - - , (2-4)

Х ’ 1 (гв + 8)(шв + 8)’ 1 '

где, см. (2.3), г = г ■ д, ш = ш ■ д.

Полагая в (2.4) ш = г, получаем

г = | гв + 8\>, (2^5)

где р = 1 — (г, г). Из (2.5) следует, что V и Б инвариантны относительно действия

(2.3) группы О.

Остается показать, что V и Б являются О-орбитами.

Сфера Б является даже К-орбитой. В самом деле, действие (2.3) для матрицы

(1.10) из К есть г ^ Ь-1га. Возьмем сначала а из ЯО(п — 1). Такая матрица переводит вектор е1 = (1,0,^, 0) в произвольный единичный вектор г =

(г1, • • • , гп) с вещественными координатами. Далее, диагональная матрица diag {е*"1,

• • • + ап = 0, из К переводит вектор г в вектор г с координатами = гі е%ві, где а1 + • • • + 2а^- + • • • + ап = ві. Последняя система разрешима однозначно относительно ак при любых вк.

Точно так же доказывается, что любая сфера | г| = г является К-орбитой.

Теперь для того чтобы показать, что V есть О - орбита, достаточно показать, что начало координат г = 0 может быть переведено с помощью группы О в точку на любой сфере | z| = г < 1. Для этого достаточно взять в О гиперболическое вращение (1.11), оно переводит г = 0 в г = (ШЬ, 0, • • • , 0). □

п

е

Стационарная подгруппа точки г = 0 есть подгруппа К. Она состоит из неподвижных точек для инволюции д ^ 1д1. Следовательно, шар V есть однородное пространство О/К и оно есть полупростое симметрическое пространство. Пространство О/К называется комплексным гиперболическим пространством. Размерность пространства О/К равна 2п—2, ранг равен 1. Поскольку К компактна, пространство О/К - риманово. Оно обладает положительно определенной метрикой йв2, инвариантной относительно О. Пространство р можно отождествить с касательным пространством к V = О/К в точке 0, его размерность равна 2п — 2.

Теоpема 2.2. Метрика йв2 на V, инвариантная относительно О, есть

йв2 = —{р (йг,йг) + (г,йг)(г,йг)}. (2.6)

Мы опустим доказательство, содержащее достаточно длинные вычисления, отметим только, что в доказательстве используется матрица дх Є О специального вида, переводящая 0 в г Є V :

д = — ( VрЕ + (1 + ^Р)-1г'г г ) (2 7)

* = -/р I г 1 ) • (2'7)

В переменных г1, • • • , гп-1,г 1, • • • ,гп-1 на V оператор Лапласа-Бельтрами

есть (он отвечает метрике 4ds2):

г,]

Пусть обозначает евклидову меру на V:

О*

А = (іі — гг) д-ді• (2-8)

= dx1 •••йхп-1йу1 •••вуп-1, (2.9)

= (г/2)п—1 dz1 • • • dzn-1 dz1 • • • dzn-1•

где гк = хк + іук. Тогда мера, отвечающая ds2, есть

dv(г) = р-п dz• (2^ 10)

Оператор А и мера dv на V инвариантны относительно О. Поскольку мера dv(г) инвариантна, из (2.10) и (2.4) следует, что мера dz при отображении г ^ г = г ■ д преобразуется так

dI = | гв + і—0' dz• (2.11)

Нам потребуются выражения оператора А в различных системах координат на V.

Предварительно напомним некоторые формулы для оператора Лапласа

т д2 А = ^ зЩ

г=1 г

в Ет. Введем в Ет полярные координаты: х = г ■ и, где г = ^/хї+ГТГ+Хт2, и пробегает единичную сферу Б в Мт. Тогда

. д2 т — 1 1 .

А = Я~~2 + + 2Аз,

дг2 г г2

где Аз - оператор Лапласа-Бельтрами на сфере Б, отвечающий евклидовой метрике. Возьмем в качестве локальных координат на Б переменные и1, • • • , ит, кроме одного из них. Тогда

д2

А' = £ — °2 — (т — ад,

где

Шг

д_

дші

Евклидова мера йш на единичной сфере Б есть:

— £

йш

йші... йшк .. .шт | шк |

дифференциал с крышкой надо опустить, в качестве локальных координат взяты все ші,... , шт, кроме шк. Мера всей сферы равна

2пт/2

Г(т/2)

Пусть т четно: т = 21 и Мт есть пространство С1, сфера Б задается уравнением ев + ... + віві — 1. Запишем вк в показательной форме: вк — ркегак, к — 1,... ,1. Тогда Б задается уравнением р\ +... + рі — 1. В качестве локальных координат на Б можно взять все рк, кроме одного, например, р1,... , рі-1, и все ак. В этих координатах евклидова мера йв на Б записывается следующим образом

йв — рі... р-ійрі... йрі—ійаі... йаі.

Вернемся к шару V. Сначала запишем переменные гі,. форме:

гк — гк егак, к — 1, 2,...,п — 1.

Тогда

— = 1 е-г°к' д

дгк 2

д

дгк Гк дак д

А = Іе*к( А + І. .____________

дгк 2 \дгк Гк дак

Подставляя это в (2.8), получим

А

4

+ £

, хп-1 в показательной

к,т 1 д2 Гк 2 дак2

Гк дГк

£

к,т

д2

дакдат

(2.12)

(2.13)

где р = 1 — ^ г к2, переменные к и т пробегают 1,... , п— 1. Вектор с координатами г1, ... , гп-1 пробегает часть единичного открытого шара в К”-1, расположенную в положительной камере г1 ^ 0,... ,гп-1 ^ 0. Теперь в эту часть единичного шара введем полярные координаты г, и, где 0 ^ г < 1, вектор и = (и1,..., ип-1) пробегает часть единичной сферы Бп-2 в К”-1, расположенную в указанной выше положительной камере, т.е. щ2 + ... + ип-12 = 1, и1 ^ 0,... , ип-1 ^ 0. А именно,

гк = гик, к = 1,...,п — 1.

После достаточно длинных вычислений получаем

+ Г2

. 1 ( д2 (2п — 3 \ д

А = 4 р№ — ПдГ +

1

д,„-2 — (п—цеик д- +

к

1 д ^ 1 д2

+ ^ ик дик + ^ ик2 дак2- кС дакда^, (2-14)

к к к,т

где А^п-2 - оператор Лапласа-Бельтрами на сфере Бп-2: и\ + ... + и2п-і — 1, отвечающий евклидовой метрике.

С другой стороны, перепишем (2.8) так:

А — р {Ь2 — ZZ}, (2.15)

где

Пусть гк — жк + гук. Тогда Ь2 есть умноженный на 1/4 оператор Лапласа в Ж2п 2 и, следовательно,

1 ( д2 2п — 3 д 1 А \

2 — 4 (дГ2 + Г дГ + Г2 V, (. )

где А^ - оператор Лапласа-Бельтрами на сфере Б: гг' — 1. По (2.12), (2.13) получаем

Z + Z — Г-?-, Z — Z — —г £ -а.

дг дак

Т7\ 2 (^ ~т?\ 2

то

Так как ^ + Z) — ^ — Z) — 4ZZ,

ZZ—4

Г— . , /

8г/ ^ дак дат

к,т

+ Е (217)

Подставляя (2.16) и (2.17) в (2.15), получаем

1 Г/т 2\ д2 (2п — 3 \ д 1 ^ д2

4 р\(1 — Г) дг2 + I-г- — Г)дГ + г2 А — ^ юда,

к,т

Сравнивая (2.18) с (2.14), видим, что

д 1 д 1 д2

Ая = Азп-2 — (п — 1^£ ик д + £ д + £ 2 д 2. (2.19)

^ дик “ ик дик “ ик2 д«к2

Выделим в (2.18) (или в (2.14)) радиальную часть оператора А ( действующую на функции, зависящие только от г):

г 1 2 д2 1 (2п — 3 \ д ,011П,

1 =4 рдг2 + 4 р(—---------ЧвТ' (2/20)

где, напомним, р — 1 — Г2.

Рассмотрим на V функцию с — с(г):

1 + г2

С — , Г — | г1. (2.21)

1 — Г2

Функция г ^ с, определенная (2.21), отображает взаимно однозначно промежуток [0,1) на промежуток [1, то). Из (2.43) получаем

2 с — 1 2 2 ,

г2 —-------, р —--------, с — - — 1. (2.22)

с+1 с+1 р

Радиальная часть Ь оператора А есть

—2 —

Ь —(с2 — 1)^-2 + (п — 2 + пс) — . (2.23)

ас2 ас

Введем в V полярные координаты г, в:

г — Гв, (2.24)

где г - то же самое, что и раньше (г — у гг'), в - точка единичной сферы Б. Тогда евклидова мера в V есть

—г — г2п-3—г—в, (2.25)

где —в - евклидова мера на сфере Б. Инвариантная относительно О мера —V (см. (2.10)) есть

—V — р-пг2п-3—г—в — (2.26)

— 2-п(с — 1)п-2—с—в. (2.27)

Пусть и обозначает представление группы О сдвигами в функциях на V:

(и (д)/\(г) — / (г-д). (2.28)

Представление и, действующее в пространстве Ь2^'О,, является унитарным относительно скалярного произведения

(/Л)— /(г) Мг) ^(г). (2.29)

JV

Теоpема 2.3. В представлении и элемент Казимира Ар переходит в оператор Лапласа-Бельтрами А:

и (Ар) — А.

Доказательство. Операторы и (А0) и А - дифференциальные операторы второго порядка на V, инвариантные относительно О. Поскольку ранг пространства

V равен 1, алгебра О-инвариантных дифференциальных операторов порождается

одним оператором А. Следовательно, два указанных оператора отличаются только числовым множителем:

и (А0\ — Л А.

Чтобы найти этот множитель, вычислим значения этих операторов на функции / — гг' — г2. Используя формулу (2.18), получаем

А/ — Р (п — 1 — г2). (2.30)

Теперь вычислим и(А0) /. Так как / зависит только от радиуса г, то элементы X из подалгебры к в представлении и обращаются в нуль на /. Поэтому в формуле (1.14) нужно оставить элементы, лежащие в р, а именно, Хкп и Укп, к < п. Действие оператора и (А0) на / сводится к действию на / оператора и (Ар), где

и (Ар\ — 1 £(Х2п + (2.31)

к<п

Мы имеем

и (Хкп\

и (Укп)

так что

и (ар\ — £ дім +^—Z2—* — 'Чт &+V'

Применяя этот оператор к /, получим р (п — 1 — г2). Это совпадает с (2.30), следовательно, Л — 1. □

Обозначим через пространство ограничений на V функций из О(Сп-і) с индуцированной топологией и через О (V) пространство обобщенных функций на Сп-і с носителями в V. Рассмотрим скалярное произведение из Ь2 на V по мере —г:

{Р,/ъ — I Р(г)Лг) —г. (2.32)

V

Пространство О (V) вкладывается в О' (V) с помощью этой формы. Мы будем записывать значение обобщенной функции Р Є О' (V) на функции / Є V) тоже в виде р, / )v.

§ 3. Усреднение по подгруппе К

— 9 7 + 9 -7

— т;-------гк Z + тст----------гк Z,

9гк 9гк

— Ц — ------------гкZ + ---+ гкZ

\ 9гк 9гк

Мы используем [3]. Сопоставим функции f Е Р) функцию (М^ (с) на

[1, то), определенную следующим образом:

Mf) (с) = 2-п (с — 1)”-2/ f М (в,

в

где с связано с г посредством (2.21). Образ М отображения М состоит из функций К(с) на [1, то), которые можно представить в виде

К(с) = (с — 1)п-2и(с), (3.1)

где и Е О (К). При этом

и(1) — 2-пП2п-2/(0). (3.2)

Другими словами, пространство М состоит из ограничений на полуось [1, то)

функций К из О (К), имеющих в точке с =1 нуль порядка ^ п — 2. Топология в М вносится из О (К.

Из выражения (2.27) для меры (и(г) следует, что если Ф(г) - локально интегрируемая функция на Р, зависящая только от г, так что Ф(г) = Р(с(г)), то

j ф(-)/(г) ^(г) — у Р(с)м/(с) —с. (3.3)

V і

Пусть М' - сопряженное пространство для М (пространство антилинейных непрерывных функционалов). Сопряженное отображение М' есть линейный

( \ К

гомеоморфизм пространства М' на пространство О' (V] обобщенных функций на V, инвариантных относительно К. При отображении М' оператор А получается из его радиальной части Ь, см. (2.23), т.е.

М' о Ь — А о М'.

Отображение М переводит оператор Ь*, сопряженный оператору Ь относительно меры —с, т.е.

М о А — Ь* о М.

Вот его выражение:

—2 —

Ь* — (с2 — 1) — + [2 — п + (4 — п)с] — + 2 — п.

—с2 —с

Для а Є С обозначим через О' (V, К, а) подпространство обобщенных функций Ф на V, инвариантных относительно К и удовлетворяющих уравнению

АФ — а(а + п — 1)Ф, (3.4)

и обозначим через М'(а) подпространство функционалов Р в М', удовлетворяющих уравнению

ЬР — а(а + п — 1)Р (3.5)

Понятно, что о и 1 — п — о дают одни и те же подпространства.

Отображение М’ есть линейный изоморфизм пространства ЛЛ'(о) на пространство В’ {V, К, о)

§ 4. Собственные функции радиальной части оператора Лапласа-Бельтрами

В этом параграфе мы найдем все решения уравнения (3.5) в пространстве М', т.е. мы укажем базис в пространстве М'(а).

Сначала изучим классические решения дифференциального уравнения

ЬаУ — Ху (4.1)

на полуоси [1, то), где

Ьа = ((? — 1) — + 2 [а + (а + 1)с] (4.2)

А = —(а + т + 1)(а — т), (4.3)

а, т Е С. Если мы положим а = а0 = (п — 2)/2 и т = о + (п — 2)/2, то уравнение

(4.1) превратится в (3.4). Заменой с = 1 — 2Ь уравнение (4.1) приводится к

гипергеометрическому уравнению (см. [1], 3.2) с параметрами а = а + т + 1, Ь = а — т, с = 1 + 2а.

Рассмотрим следующие решения уравнения (4.1) в комплексной плоскости г ( заменяя в (4.1) с на г):

2-а 1 — г р(г) = Г(1 + 2а) Р(а + т + 1,а — т; 1 + 2а; —2— ^ ’ (4’4)

«(г)=2т Г2га+++)1} <2+1)-“-Т-1-

{ 2 )

• Г (а + т + 1, а + т + 1; 2т + 2; --),

4 1 +

где Г - гипергеометрическая функция Гаусса, см. [1] гл. 2), Г - гамма-функция Эйлера, степень понимается в смысле главного значения. Если надо указать параметры, мы пишем Р(а, т; г),... Заметим, что при т = а + к и т = —ак — 1, к Е N функция Р(г) есть многочлен от г степени к.

Функции Р(г) и Q(z) определены и аналитичны в плоскости г с разрезом (—то, —1] для Р и (—то, 1] для Q. Функция Р(г) определена для всех комплексных значений а, т, функция Q(z) - для всех, кроме т Е —а — 1 — N.

Асимптотика функций Р(с) и Q(c) при с ^ +то такова:

Р(с) ~ р • с-а+т + р* • с-а-т-1,

Q(c) - д^с~а~т-1,

где

звездочка означает замену т на —т — 1.

Теоpема 4.1. Для всякого а Є С пространство М.'(а) одномерно, базисом служит функция Р(с), - рассматриваемая как функционал

Доказательство. Уравнение (3.5) имеет два линейно независимых решения ( в классическом смысле). Их можно различить по поведению в точке с = 1. Одно из них имеет предел в этой точке, так что оно непрерывно на [1, то), второе ведет себя как (с — 1) ~п+1. Обозначим соответственно эти решения через Р\(с) и Р2(с). Сопоставим им функционалы р и Р из М с помощью интеграла:

Интегралы существуют, сингулярность функции Р2(с) погашается множителем (с — 1)п-2 в (3.1). Оператор Ь действует на Р так:

Применим интегрирование по частям и используем тот факт, что Рг(с) удовлетворяет уравнению (3.5). Мы получим:

Для Р\(с) правая часть равна нулю, а для Р2(с) она равна 2(п — 2)и(1), см. (3.1). Таким образом, из двух функционалов р и р только Р входит в ЛЛ'(о).

Осталось показать, что уравнение (3.5) в М не имеет решений, сосредоточенных в точке с = 1 .

ГО

1

ГО

1

ГО

1

Пусть функционал Р из М сосредоточен в с =1. Тогда он есть линейная комбинация производных дельта-функции:

Р = ам 5(м\с — 1) + ... + а0 5(с — 1), где ам = 0. Используем формулу

хт 5(к) (х) = (—1)т к(т) 5(к-т)(х).

Получаем, что

Ь Р = ам^ 2(п — N — 3) £(м+1)(с — 1) + ...

Следовательно, чтобы Р удовлетворял (3.5), необходимо N = п — 3. Но тогда он равен 0 на М, поскольку к(с) содержит множитель (с — 1)п-2. □

§ 5. Спектральное разложение оператора Ьа

Рассмотрим на [1, то) дифференциальный оператор Ьа, определенный формулой

(4.2), и уравнение (15.1) с Л, данным (4.3). Сделаем замену: у = V О-1, где

О (с) = (с — 1)а. Мы получим следующее уравнение для V:

Ь V = т (т + 1) V, где 2 2

~ , 2 , & d 2а2

Ь =(с2 — 1) ^ + 2^ +

dc2 dc 1 — с

Оператор Ь имеет 2 линейно независимых решения, они могут быть взяты так, что одно ведет себя при с ^ то как (с— 1)а, другое - как (с— 1)-а. Предположим, что \ Ке а\ < 1/2. Тогда собственные функции квадратично интегрируемы на каждом ограниченном отрезке в [1, то).

Пусть А - совокупность функций р из Ь2(1, то), которые абсолютно непрерывны на каждом компактном отрезке, лежащем внутри полуоси [1, то) и для которых Ь р принадлежит Ь2(1, то).Для функций р из А определены два граничных значения А(р) и В(р) в точке с = 1, а именно, если а = 0, то

А(Р) = 1}т(с — 1)-а {ар(с) + (с — 1)р'(с)},

В(р) = 11^1(с — 1)^ ар(с) — (с — 1)р'(с)} ,

а если а = 0, то

А(р) = ££{ р(с) — (с—1)1п(с—1) р/(с)}, В (р) = Ит(с — 1)Р/(c), 0^1

здесь штрих обозначает производную.

Эти граничные значения определенные и для собственных функций у оператора Ь, они связаны с коэффициентами в асимптотике f при с ^ 1, а именно, если а = 0, то

f (с) ~ 2а Аи) (с — 1)а + -2- В у) (с — 1)-а,

а если а = 0, то

у(с) ~ А(у) + В(у) 1п(с — 1)-

Поставим следующее граничное условие в с = 1 :

В(р) = 0.

Это условие определяет оператор в Ь2(1, то), который мы снова обозначим Ь. Он имеет плотную область определения.

Пусть ((Р, к)) обозначает скалярное произведение в Ь2(1, то):

{{F,h)) = F(c) h(c) dc.

Теорема 5.1. Оператор Ь в Ь2(1, то) имеет непрерывный спектр кратности 1, лежащий на (—то, — 4]. Соответствующее разложение по собственным функциям (равенство Парсеваля) есть:

{{F, h))

П {{F,GP)){{GP,h))

r=-(1/2) +ір

dp,

(5.1)

где

П = —- (2т + 1) sin 2тп • Г2(а — т) Г2(а + т + 1).

8п2

Теорема доказывается с помощью теоремы Титчмарша-Кодаиры [б].

(5.2)

Рассмотрим частный случай: пусть Р (с) - такая функция, что Р (с) = (с — 1)-а для 1 ^ с ^ d, Р (с) = 0 для с > d. Пусть к(с) = (с — 1)а и(с), где и € Д(М). Тогда левая часть (5.1) равна и (с) dc. При d -— 1 она ведет себя как и(1)^— 1). Аналогично, ((У, ОР)) есть Р(с) dc, это ведет себя как Р(1)• (d— 1). Следовательно,

u(1) = P(1) / П {{GP,h))

r=-(1/2)+ір

dp

P(1) / П / (c — 1)2a P(c) u(c) dc

1

r=-(1/2)+ір

dp.

(5.З)

30

oo

oo

§ 6. Основная неунитарная серия представлений, связанная с О/К

В этом параграфе мы даем описание серии представлений группы О, связанной с пространством О/К (серии представлений, индуцированных характерами минимальной параболической подгруппы, связанной с К). Представления этой серии эквивалентны представлениям группы О = Яи(п — 1,1), связанных с конусом. Представления псевдоунитарной группы О = Яи(р,д), связанные с конусом, изучались ранее, см., например, [8]. Наш случай д = 1 имеет некоторые отличия от общего случая

р > 1, д > 1, кроме того, мы используем несколько иную реализацию этих представлений, более естественную в этом случае. Тем не менее мы ограничимся здесь только изложением результатов.

Возьмем сферу Б из § 2. Представления Та, а € С, группы О действует в Р(Б) по формуле

Т(9)р (в) = р(в^д)\вР + £|2ст, (6.1)

где в € Б, матрица д из О записана в блочном виде (1.4), действие в — в • д

дается (2.3).

Евклидова мера dв на Б при действии в — ^ = в • д преобразуется следующим образом:

ds = | вв + 5\2-2п dв.

В частности, мера dв инвариантна относительно К.

Пусть (ф, р)з - скалярное произведение в Ь2^Б, dв):

(ф,р)я = ! ф(в)р(в) dв. (6.2)

Из (6.1) следует, что эта форма инвариантна относительно пары (Та ,Т1-п-^, т.е.

(ТаФ, д)5< = ^, Т1-п-а р)з• (6-3)

Рассмотрим ограничение представления Та на К. Для матрицы к € К имеем

(Та (к)р)(в) = р(Ь-1ва).

Это ограничение не зависит от а, обозначим его через п.

Известно, что пространство О (Б) распадается в прямую сумму подпространств Н(1), I € N состоящих из ограничений на Б однородных гармонических многочленов от х1,у1,... ,хп-1,уп-1 степени I. Здесь Хк = Ке гк, у к = 1т гк. Тем же символом Н(1) обозначим и пространство самих этих многочленов. Пространство Н(1) инвариантно относительно ЯО(2п — 2). Относительно К оно приводимо (при I >

0). Пусть А(г) и А(г) обозначают соответственно пространства аналитических и антианалитических многочленов от х1, ... , гп-1 степени г. Относительно К они неприводимы. Пространство Н(1) распадается в прямую сумму подпространств 'К('ш), где т есть пара (u,v), и^ € N и + V = I, определяемых так:

'К('ш) = [А(и) ® A(v)] и Н(1).

Пространство 'К('ш) имеет старший вес (и, 0,... , 0, —V), здесь п — 1 координат, и размерность

т \ п Г(и + п — 2)Г^ + п — 2)

йт н(т) = (1 + п — 2)г( +1)г( +1)г(-----------ггг?----2).

!(и + 1)i(v + 1)!(п — 1)!(п — 2)

Пространства 'К('ш) попарно ортогональны. Пары т будем называть весами. Множество их обозначим через Ш. Оно есть решетка целых точек в квадранте и ^ 0, V ^ 0.

Теорема 6.1. Представление п группы К в Р^Б) распадается в прямую однократную сумму неприводимых представлений п('ш), действующих в пространствах Н(т).

Возьмем 4 вектора на плоскости: е1 = (1,0),е2 = (0,1),е3 = (0, —1),е4 =

(—1, 0), и следующие 4 линейные функции от т = (и^), зависящие от а:

в1(а; т) = а — и,

в2(а; т) = а — V,

в3(а; т) = а + V + п — 2,

в4(а; т) = а + и + п — 2.

Назовем прямую вг(а; т) = 0 на плоскости векторов т = (и, V) барьером для Та, если эта прямая и множество {вг(а; т) < 0} имеют непустое пересечение с множеством весов Ш. Барьер разбивает Ш на две не пустые части: внутренность барьера {вг(а; т) ^ 0} и внешность барьера {вг(а; т) < 0}. Барьеры существуют только при а € N (г =1, 2) и а € 1 — п — N (г = 3, 4). Если вг = 0 есть барьер, то мы обозначим через У = Уа>г подпространство в О (Б), которое есть прямая сумма подпространств Н(т) с {вг(а; т) ^ 0}. Для краткости мы будем писать У /V] вместо Уг/{Уг П У]) .

Теорема 6.2. Подпространства Уа,і инвариантны относительно Та. Всякий неприводимый подфактор получается с помощью этих Уа,і. Представления Та приводимы, только если а Є N или а Є 1 — п — N. Для каждого такого а имеется 4 неприводимых подфактора: для а Є N это

Уі П У2, У1/У2, У2/У1, Б (в)/{Уг + У2)

, для а Є 1 — п — N это

Б(в)/(Уз + Уа)Уз/Уа, У4/У3, Уз П У4.

Представления Та неприводимы, если а не входит в N и (1 — п — ^.

Для подфактора У обозначим через Ш (У) совокупность весов т Є Ш, входящих в У (т.е. 'К('ш) входит в У). Для подпространства и, инвариантного относительно Та, обозначим через и^ его ортогональное дополнение относительно формы (6.2). Тогда Ш(иШ\Ш(и) и и± инвариантно относительно Т-^-п+1.

Для подфактора У = Р/Ц представления Та подпространство У * = /Р± есть подфактор для Т-^-п+1. Имеем Ш(У) = Ш(У*). Назовем V* дуальным подфактором для У. Например, для Уа-,1ПУа-,2 дуальным является Б^Б) / {У-а-п+1>3+ У-а—п+1,4) .

Теорема 6.3. В представлении Та элемент Казимира Д0 переходит в умножение на число: ( )

Та (Д0) = а(а + п — 1) ■Е. (6.4)

Доказательство. Достаточно рассмотреть а общего положения: а € ^. Тогда Та неприводимо. Так как Д0 лежит в центре универсальной обертывающей алгебры, то по неприводимости Та имеем Та (Д0) = ЛЕ. Чтобы найти Л, применим это равенство к тождественной единице в = 1.

Пусть X € 0. Запишем X в блочном виде (1.4). Здесь а = —а', 7 = в ,

5 + 5 = 0. Из (2.31) получаем

(Та(Х)р) (в) = (Ьхр) (в) + 2а Ке(в,5) ■ р(в), (6.5)

где

( Ь хр) (в) =

йі

(ьхР)(в) = ^ ^ пР(в ■ еХ)-

і=0

Для р = в получаем:

(Та (X )в) (в) = 2а Ке(вв).

Видим, что это равно нулю для X € к (тогда в = 0). Поэтому в формуле (1.14 нужно оставить элементы из р, т.е. Xkn и Укб, так что действие оператора Та (Д0 на в сводится к действию оператора Та (Др), см. (13.54а). По (6.5) мы получаем

Та (Xкп)в = 2а Ке вк, Та (Укп)в = 2а Ке (гвк),

Ъ&кп^ = а(2 — вк — вк) + а2(вк + вк)2, (6.6)

Т (Укп)в = а(2 + вк + вк) — а2(вк— вк)2. (6.7)

Складывая (6.6) и (6.7), суммируя по к = 1,...,п — 1 и умножая на 1/4, получаем, что ( )

Та (Др)в = а(а + п — 1),

что и дает (6.4). □

Теперь найдем непрерывные операторы А в О , сплетающие представления Та и ТТ:

тт(д)А = АТа(g), д € О, (6.8)

а также операторы, сплетающие подфакторы в этих представлениях. Равенство

(6.8) равносильно тому, что

Тт(X)А = АТа(X), X € 0,

Теорема 6.4. Ненулевой сплетающий оператор существует в следующих случаях: т = а и т = 1 — п — а. В первом случае такой оператор есть скалярный оператор (умножение на число), во втором для всякого неприводимого подфактора У представления Та существует единственный с точностью до множителя оператор, отображающий У на дуальный подфактор У * представления Т1-п-а и сплетающий эти подфакторы.

Рассмотрим оператор Ла на Б (Б), определяемый интегралом:

(Аар)(в) = [ \ 1 — {в,і)\2-2п-2ар(і) &. (6.9)

Js

Интеграл абсолютно сходится при Ке а < (1 — п) /2 и распространяется по аналитичности на плоскость а до мероморфной функции.

Теорема 6.5. Оператор Ла сплетает Та с Т1-п-а:

Т1-п-а(д) Ла = Ла Та(д), д Є С. (6.10)

На подпространстве 'К('ш) он есть умножение на число:

Лар = а(а,т)р, р Є 'К('ш), (6-11)

где

а(а,т) = 2(—1) п"-1 Г(1 — п — 2а)г2(2 — п — а). (6.12)

п Г( — А(а;т))

і=1

В частности, обозначим

і(а) = а(а,0) = 2пп 1 Г(1г2 (п )2а). (6.13)

г2 (—а)

Этот множитель есть с-функция Хариш-Чандры.

Композиция Аа А1-п-а есть скалярный оператор:

1

Ла Л1-п-а = -Г^Т Е, (6.14)

^(а)

где

^1(а) = (—1)п 4 п1 2п (2а + п — 1) від 2ап ■ Г2(—а)Г2(а + п — 1).

Это доказывается вычислением произведения а(а, т)а(1 — п — а, т), см. (6.12), оказывается, оно не зависит от т. В частности,

і(а)і (1 — п — а) = ~^. (6.15)

^(а)

Оператор Ла имеет простые полюсы в точках а = (1 — п + к)/2, к Є N т.е.

в тех же точках, что и функция Г(1 — п — 2а). Оператор

Г(1 — п — 2а)-1 Ла (6.16)

является целой функцией от а, не обращающейся в нуль ни при каком а (он рассматривается на всем Б (Б)).

Для а Є N оператор (6.16) имеет по а нуль первого порядка на У-,1/У-,2 и Уа,2/Уа,1 и нуль второго порядка на У-,1 П Уа>2.

Множитель і (а) имеет полюсы первого порядка в точках а = 1-п+к, к =

0,1,... ,п — 2, и точках а Є 1/2 + N он имеет нули первого порядка в точках а Є N.

Вычеты оператора Ла и множителя і (а) в полюсе ^ будем обозначать через Л^ и і(^), соответственно.

Из теорем 18.1 и 18.2 следует, что если представление Та неприводимо, то оно эквивалентно Т1-п--, эквивалентность дается оператором Ла или его вычетом.

С формой (6.2) оператор Ла взаимодействует следующим образом:

{Л-ф,P)s = {ф,Л-P)s.

Это позволяет распространить его на обобщенные функции на Б.

Найдем полуторалинейные формы Н(ф,р) на Б (Б), инвариантные относительно пары (Та ,Тт), т.е.

Н(Т- (д)Ф,Тт (д)р) = Н (ф,р),

а также на подфакторах и/У и Р/Ц, тогда ф Є и, р Є Р и Н (ф, р) = 0, если ф Є и или р Є Ц.

Теорема 6.6. Ненулевая полуторалинейная сформа Н(ф,р), инвариантная относительно пары (Та, Тт) - на Б (Б) или на паре инвариантных подфакторов существует только в следующих случаях: т = 1 — п—а, т = а. В первом случае Н совпадает с точностью до множителя с формой (6.2). Во втором случае сформа Н выражается с помощью формы (6.2) и сплетающего оператора Л из теоремы 18.1:

Н (ф,р) = {Лф,р)s.

Теперь найдем, когда Та унитаризуемо. Для этого мы полагаем т = а в теореме 19.1 и форма Н(ф, р) должна быть эрмитовой (т.е. Н(ф, р) вещественно) и положительно определенной. Для а мы получаем две возможности:а =1 — п — а и а = а.

В первом случае мы имеем Ке а = (1 — п)/2, представления Та с таким а образуют непрерывную серию унитарных представлений, они действуют в Ь2(Б, с1в).

Рассмотрим теперь второй случай: а = а, т.е. а € К. Сначала рассмотрим неприводимый случай.

Теорема 6.7. Неприводимое представление Та, а € К, унитаризуемо для а из интервала (1-п, 0). Инвариантное скалярное произведение есть, например,

3 (аУ1{А° ф,р)я. (6-17)

Эти представления образуют дополнительную серию унитарных представлений.

Теперь рассмотрим приводимый случай: а € N или а € 1 — п — N. Из (19.4) мы видим, что если Н('ш) определен снаружи некоторого барьера, то Н('ш) = 0 внутри его. Следовательно, мы должны искать инвариантные эрмитовы положительно определенные формы на неприводимых подфакторах. Приведем результат.

Теорема 6.8. Вот список неприводимых подфакторов для Та, представления на которых унитаризуемы:

a) Б (Б)/(Уа>1 + У-2), а Є N

b) Уа,3 П У а,4, а Є 1 — п — N5

с) У0,1 П У0,2, Б(Б) / (У1-п,3 + У1-п,4).

Инвариантное скалярное произведение в случае а) есть {Aаф,р)S, в случае Ь) есть {£ Лаф,р)s с некоторым коэффициентом. В случае с) представление в подфакторах есть единичное представление.

Представления, указанные в а) и Ь), образуют дискретную серию. Эти представления с а и 1 — п — а эквивалентны.

§ 7. Преобразования Пуассона и Фурье

Пространство К-инвариантов в О (Б) одномерно, базисом служит тождественная единица в (т.е. ф(о,о). В соответствии с общей схемой [7] ядро Пуассона Ра(г, в), г € V, в € Б, дается формулой

Ра(г,в) = (Та (д-1)в)(в), где д и г связаны тем, что г = 0 - д.

Лемма 7.1. Ядро Пуассона имеет следующее выражение:

Ра(г,в) = р-а \ 1 — (г,в)\2а. (7.1)

где, напомним, р =1 — (г, г) = 1 — г2.

Доказательство. В качестве д возьмем матрицу (2.7). Обратная матрица д-1 получается из нее заменой г на —г. Поэтому, если д-1 имеет блочный вид

(1.4), то

1 2а

\ вв + 5\2а = ~(—вг' + 1) = р-а \ 1 — (г,в)\2а,

что и дает (7.1). □

Ядро Пуассона порождает два преобразования: преобразование Пуассона и преобразование Фурье.

Преобразование Пуассона Ра: О(Б) ^ СГХ('П) определяется формулой:

(Рар)(г) = J Ра (г, в)р(в) в,в = (7.2)

= р-а ! \ 1 — (г,в)\2а р(в) в,в. (7.3)

Формулу (7.2) можно переписать так:

(Рар) (г) = (Та (g-1)в, р)5 ■ (7-4)

Преобразование Ра есть целая функция от а. Оно сплетает Т1-п-а с и:

РаТ1-п-а (д) = и(д)Ра. (7.5)

Из этой формулы и из теорем 2.3 и 6.3 следует, что

ДРа р = а(а + п — 1)р, (7.6)

т.е. образ преобразования Пуассона Ра состоит из собственных для Д функций с собственным числом а (а + п — 1).

Возьмем формулу (6.11) с т = 0 и р = в:

Аа в = 3 (а)в,

Отсюда в силу (6.10) следует:

Ра Аа = 3 (а)Р1-п-а. (20.9)

Найдем асимптотику (главный член) преобразования Пуассона на границе, т.е. при г ^ 0 (г = \ г\). Рассмотрим полярные координаты г, в на V: г = гв,

0 ^ г < 1, в € Б, так что р =1 — г2.

Лемма 7.2. При г ^ 1 имеем

(Ра р) (г) ~ р-а (А1-п-а р) (в) + р(а+п-1)/2 3 (а)Р(в), (7.8)

где р = 1 — г2. Формула (7.8) понимается следующим образом: при Кеа > (1 — п)/2 главным членом асимптотики является первое слагаемое в правой части, при Ке а < (1 — п)/2 - второе.

Доказательство. Пусть Ке а > (1 — п)/2. Тогда в интеграле (7.3) можно перейти к пределу при г ^ 1 (см. §18 об абсолютной сходимости интеграла

(6.10)). Сравнивая с (6.9), получим

(Рар) (г) ~ р-а (А1-п-ар) (в). (7.9)

Теперь применим эту формулу к Лар вместо р. По (7.7), (6.14), (6.15) получим

і (а) (р1-п-ар) (г) ~ р-а і (а)і (1 — п — а)р(в).

Сократим на і (а) и затем заменим а на 1 — п — а, получим, что при Ке а <

(1 — п)/2:

(рар)(г) ~ р1-п-а і (а)р(3). (7.10)

Объединяя (7.9) и (7.10), получим (7.8). □

Найдем, как действует преобразование Пуассона Р- на функции из пространства 'К('ш), см. § 6.

Лемма 7.3. Преобразование Пуассона Ра от функции р Є 'К('ш) есть произведение этой сфункции р на функцию, зависящую только от радиуса г:

(Рар)(г) = Еа,-ш(г) р(в), (7.11)

где г = гв, 0 ^ г < 1,5 Є Б.

Доказательство. Пусть р Є 'К('ш). Обозначим f (г) = (Рар)(г) и ^(в) =

f (гв). Для фиксированного г рассмотрим отображение р ^ fr пространства

'К('ш) в пространство Б(Б). Группа К действует в функциях р и fr - по представлениям Та и и - одинаково. В самом деле, пусть к Є К имеет блочный вид (1.10), тогда (Та(к)р) (в) = р(Ь-1ва) и (и(k)f) (г) = f (Ь-1га) = f (г • Ь-1ва) = ^(Ь-1ва). По

(7.5) отображение р ^ fr перестановочно с действием К, в силу теоремы 17.2 оно есть умножение на число. Это число К зависит от г и от а, т. □

Лемма 7.4. Для а Є (1/2)^ радиальная часть Ка,т (г) имеет следующее выражение

Ка,(г) = (1 — р)ш/2 |р-а а(1 — п — а, т)Б (и — а,ь — а; 2 — п — 2а; р) +

+гра+п-1 і (а)Б (и + а + п — 1, V + а + п — 1; п + 2а; р) | , (7.12)

где Б - гипергеометрическая функция Гаусса [1] гл.2, а(а,т) - собственные числа оператора Ла, см. (6.12), р =1 — г2.

Доказательство. Применим к (7.11) оператор А, см. (13.40). Так как Функция р входит в Н(1), I = и + V, то р - собственная функция оператора Аs с собственным числом I (4—2п—I). Функция р есть однородный многочлен от егак, к = 1,... ,п — 1, степени | и — VI (переменные ак даны в § 2). Поэтому р является

собственной функцией оператора Аа = ^ ^ д2/дакдас собственным числом

— (и — V)2. Все это вместе с (7.9) дает для К = Ка,т(г) уравнение

ЬК + 1 р

4

К = а(а + п — 1)К, (7.13)

где Ь - радиальная часть оператора А, см. (2.20).

Перейдем в (7.13) от переменной г к переменной р =1 — г2:

2. .С2К. . СК 1/(4 — 2п — 1)р и — ь2 . ч|„

р (1 " р) — р(р + п — 2) Ир, ^ 4(1 — р) +— р — а(а + п - К =°'

(7.14)

Теперь в этом уравнении сделаем замену функции: К = р а у. Для этой функции у получаем уравнение:

сРу г ] Су Г/(4 — 2п — /) (и — ь)

йр

р(1 — р)^~2 + 2 — п — 2а — (1 — 2а)р

Это уравнение имеет два линейно независимых решения, их можно взять так, что в точке р = 0 они ведут себя как 1 и р2а+п~1 (при а = (1 — п)/2). При Ке а > (1 — п)/2 в силу леммы 20.2 мы должны оставить такое решение, которое в точке р = 0 имеет предел, т.е. регулярно в точке р = 0.

Наконец, сделаем еще одну замену функции: у = (1 — р)1/2 х. Для функции х получаем уравнение

сРх

йх

р(1 — р)^т; + 2 — п — 2а — (1 — 2а + /)р —----(и — а)(ь — а)х = 0.

ар2 I J ар

Это - гипергеометрическое уравнение с параметрами а = и — а, Ь = ь — а, с =2 — п — 2а. Мы должны взять такое решение этого уравнения, которое при Ке а > (1 — п)/2 регулярно в р = 0. Соответствующее решение уравнения (7.14) есть

р~а (1 — р)1/2Г (и — а,ь — а; 2 — п — 2а; р) , (7.15)

где а = (2 — п + к)/2, к € N. Уравнение (7.14) не изменяется при замене а на 1 — п — а. Поэтому функция, которая получается из решения (7.15) с помощью этой замены, тоже является решением (7.14), линейно независимым с (7.15). При этом а не должно входить в (1/2^. Для функций р из 'К('ш) имеем А1_п_а р = а(1 — п — а,т)р. Поэтому, используя найденные решения уравнения (7.14) и лемму 20.2, мы получаем (7.12). □

Рассмотрим функцию

Ва,т (р) = (1 — р)1/2Б (и + а + п — 1,ь + а + п — 1; 2а + п; р) , участвующую в (7.12), так что

Ка,т = р~а а(1 — п — а, т) В1-п-а,т + ра+п~13(а) Ва,ш и разложим ее в ряд по степеням р:

сю

Ва,т (р) = £ Ьк рк. (7.16)

к=0

Пусть Хш и - собственные числа на 'К('ш) операторов А^ и Аа, соответственно:

= /(4 — 2п — /), 11т = —(и — у)2. Коэффициент Ьк есть многочлен от \ы, ііт степени к с коэффициентами, рационально зависящими от а, с простыми полюсами в точках —п/2, —(п + 1)/2,..., —(п + к — 1)/2. Например:

Ьо

Ьі

Ь2

V + (а + п — 1)2

2а + п ,

= 1

2(2а + п)(2а + п + 1)

— (2а + п) ^ + (а + п)2 |

V + (а + п)2 — (п — 1) V + (а + п)

где V = (р — Л)/4, и мы не пишем индекс т.

Обозначим через Ша,и оператор на Б^Б), для которого подпространства Н(т) являются собственными с собственными значениями Ьи. Оператор Ша^ получается, если в выражении для Ьи подставить вместо Лт и операторы и Да, соответственно. Например,

а,0

1,

(7.17)

1

2а + п

т (А« — Аз) + (а + п — 1)2

4

Оператор Ща,к есть многочлен от А^, Аа степени к с коэффициентами, рациональными по а. Он имеет полюсы первого порядка в точках а = — (п + т)/2, т =

0,1,... ,к — 1, к ^ 1.

Теорема 7.5. Пусть 2а Є Z. Для К-финитной функции р из Б(Б) ее преобразование Пуассона имеет следующее разложение по степеням р:

(Рар) (г) = р-а^2 Р) («) • рк + ра+П-^ (Ос,кр) (*) • р

к=0

к=0

(7.18)

где г = гв, 0 ^ г < 1, в Є Б, р =1 — г2

О

а, к

а,к,

Са,к А1—п—а ^^1—п—а.к.

(7.19)

(7.20)

1

2

к

Теорема следует из (7.11), (7.12), (7.16), (6.11).

Операторы Па,и - дифференциальные, операторы Са,и - интегральные. Операторы Са,и, Ба,к, Ша,и, Аа диагональны в "базисе" Н(т), поэтому они коммутируют друг с другом.

Из формул (7.19), (7.20) и (6.14), (18.20) следуют соотношения между операторами С и О:

Аа Оа,к і (а')С1-п-а,к,

Аа Са,к і (а')О1-п-а,к.

Будем записывать разложение в ряд Лорана оператора Са,к в полюсе а = р в виде

С Си,к + ◦ +

Са,к + С и,к + ...

а — р

и аналогично для оператора Оа,к.

Лемма 7.6. Операторы Са,к и Ба,к имеют по а простые полюсы в полуцелых а и целых а < 0, причем к должно удовлетворять неравенствам: к ^ 2а + п — 1 для Са,к и к ^ —(2а + п — 1) для Оа,к. Имеет место соотношение для вычетов в полюсе р:

Ср,г + Оц,к = 0, I — к = 2р + п — 1. (7.21)

Доказательство. Множество полюсов оператора Ба,к - это объединение (дизъюнктное) множеств полюсов множителя і (а) и оператора Ща,к. Следовательно, Оа,к имеет простые полюсы в точках а целых или полуцелых таких, что (1 — п — к)/2 ^ а ^ —1/2, ив точках а Є 1/2 + N.

Для оператора Са,к картина несколько более сложная. Его полюсы содержатся (из-за формулы (7.20)) в объединении множеств полюсов операторов А1-п-а и Щ1-п-а,к. Это - все целые или полуцелые а (т.е. 2а Є 2) причем к ^ 2а + п — 1.

Пусть р - полюс операторов Са,к или Оа,к. Тогда 2р + п — 1 - целое число. Поскольку Ра не имеет полюсов, из (7.18) получаем соотношение для вычетов

(7.21). Но для р Є N оператор Оа,к не имеет полюса в р, т.е. = 0. Следовательно, С^,к = 0 для р Є N. Это доказывает нашу лемму. □

Причина того, что С^,к = 0 при р Є N состоит в том, что Кег Щ1-п-^,к содержится в образе оператора А1-п-/1. В самом деле, по (7.20) имеем Сц,к = Щ1-п-^,к А1-п-ц, откуда и получается утверждаемое равенство.

Если а Є 1/2 + Z, то Рар имеет разложение типа (7.12) с множителем 1пр перед одним из двух рядов, см., например, [1] 2.10. Мы опустим эти весьма длинные разложения.

Второе преобразование, порождаемое ядром Пуассона, это - преобразование Фурье Га: О(Р) ^ О(Б), определяемое формулой:

(Ра /)(в) = / /(г) Ра (г,в) dV(г) =

Jv

= [/(г)р-а-п\ 1 — {г,в)\2а dz, (7.22)

Jv

где dz - евклидова мера, см. (2.9). Оно сплетает и и То:

^ и(д) = Та(д) , (7.23)

так что

о Д = а(а + п — 1) ,

от а зависит целым образом. По (6.11) имеем

Аа К = з (а) Е!-п-а.

Для функции f Е 0(0) назовем функцию Ро f компонентой Фурье функции f, отвечающей представлению То.

Преобразования Пуассона и Фурье сопряжены друг другу:

(Ро ) = (>р,Ро f )в, (7.24)

в левой части стоит скалярное произведение из Ь2(О, dv).

§ 8. Сферические функции

Сферической функцией, отвечающей представлению То, а Е С, назовем преобразование Пуассона К-инварианта в, см. § 7:

Фо^) = (Рав) ^).

Она принадлежит 0^(0). По (7.11) и (7.12) получаем явное выражение

Фо^) = р~° 3(1 — п — а)Р (—а, —а; 2 — п — 2а; р) +

+ ра+п-1) з (а) р (а + п — 1, а + п — 1; 2а + п; р) ,

где z = гв, 0 ^ г < 1, 5 € 5, р =1 — г2. Это можно преобразовать, используя [1] 2.10(3), в следующее выражение:

Фо-(^ = ^2п-1 Р ^а + п — 1, —а; п — 1; 2 ^ > (8.1)

где с = (2/р) — 1, см. (2.22). Вспомним функцию Р из § 4, см. (4.4), мы видим, что Фо^) только множителем отличается от Р(а,т; с) с а = (п — 2)/2, т = а + (п — 2)/2, а именно,

Фом = 2п/ пп-1 Р (, а + с) . (8.2)

Наше определение сферической функции отличается от обычного нормировкой: у нас ее значение в z = 0 равно П2п-1, а не 1.

Сферическую функцию Фо можно рассматривать как обобщенную функцию на О, а именно, ее значение на функции f Е О (О) есть

(Фо ,f ) = (вРо f )з,

Функция Фо обладает следующими свойствами: а) она инвариантна относительно К - она зависит только от г (или от р); б) она является собственной функцией оператора Лапласа-Бельтрами Д:

Эти свойства следуют из (8.1), (7.6).

При а Є N и при а Є 1 — п — N сферическая функция является многочленом от с степени а или 1 — п — а соответственно.

Приведем некоторые оценки для сферических функций, отвечающих представлениям непрерывной серии.

Теорема 8.1. Пусть а = (1 — п)/2 + ір, р Є К. Для всякого компактного множества В, содержащегося в V, существует число С > 0 такое, что для всякой функции / Є О^) с носителем в В выполняется неравенство:

Доказательство. Пусть Н - такая функция из 0(0), что Н^) ^ 0, Н^) = 1 на В. Тогда цН, где ^ = тах | f ^) |, есть мажоранта для f. Оценим преобразование Фурье, используя (7.22):

А Фст = а(а + п — 1) Фст;

(8.4)

она обладает следующим свойством симметрии по а:

(Ра /) (з) ^ С1 р,

где

в

Положим здесь Б,е а = (1 — п)/2. Тогда С1 зависит только от В, и

(Фст,/) ^ Ср,

(8.5)

где

V

Теперь применим оценку (8.5) к функции Ак/ и используем (8.4). □

§ 9. Разложение квазирегулярного представления

Теорема 9.1. Квазирегулярное представление и группы С в пространстве Ь2 (V, dv) разлагается в интеграл неприводимых унитарных представлений непрерывной серии с кратностью 1. А именно, сопоставим сфункции / Є О^) совокупность ее компонент Фурье { Ра / } непрерывной серии, здесь а = (1 — п)/2 + ір, р > 0. Это соответствие С-эквивариант,но. Имеет место формула обращения:

/

а=(1-п)/2+ір

dр,

где

ш(а) = - п п (2а + п — 1) віп (2а + п) п ■ Г (—а) Г (а + п — 1), 8

и формула Планшереля

(9.1)

(9.2)

(/. К)

{Ра/, Р1-п-а>>)е

а=(1-п)/2+ір

dр.

(9.3)

Следовательно, это соответствие f ^ f }, распространяется на все пространство Ь2 (V, dv).

Нам удобнее брать интегралы по К, а не по [0, то). Это можно делать, поскольку подинтегральная функция четна по р, - это отражает эквивалентность Та и Тх_п-о.

Доказательство. Пусть f Е 0(0). Ее усреднение по К, см. § 14, есть (Mf) (с) = (с — 1)п-2 и (с), где и Е О (К). Перепишем формулу (5.3) для этой функции и(с) в виде:

ГО /ГО

и(1) = Р(1) J J (с — 1) а Р(с) и(с) dc 1

dр,

(9.4)

т = -1/2+ір

где П и Р(с) даются формулами (5.2) и (4.4), так что Р(1) = |2“ Г(1 + 2а)| . В

силу того, что и Е 0(0), эту формулу (9.4) можно продолжить аналитически по а из области \ Ке а\ < 1/2 в точку а = (п— 2)/2. Обозначим еще т = а + (п — 2)/2. Тогда получим

ГО /ГО

и(1) = Р(1) J ПІ J Р(с) М/(с) dc 1

dр,

а=-(1-п)/2+ір

где Р и П берутся для а = (п — 2)/2, т = а + (п — 2)/2, так что Р(1) = 12(2-п)/2 Г(п — 1)| . Теперь выразим функцию Р через Фп по (8.2), используем

ГО

го

формулы (3.2) и (3.3). Мы получим

ГО

/(0) = / ш(а) (Ф,/)

а=(1—п)/2+ір

— ГО

где

&/ ) = / (0).

Формулу (9.5) можно переписать как формулу разложения этой дельта-функции по сферическим функциям непрерывной серии:

Применим (9.6) к сдвинутой функции и(д)/, / Є 0(0). Пусть г = 0 • д. Мы получим

здесь мы последовательно использовали (8.3), (7.23), (6.3), (7.4). Мы получим

Заменяя здесь / на /, мы как раз и получим (9.1).

Теперь докажем (9.3). Сначала покажем, что интеграл в (9.7) сходится абсолютно и равномерно на всяком компакте В С О. По непрерывности представления и объединение носителей всех функций и(д)/, для которых 0 • д Є В, есть некоторый компакт Bf С О. По теореме 9.1, примененной к Bf, существует С > 0 такое, что для всякого г = 0 • д Є В выполняется неравенство

ГО

йр.

(9.6)

—ГО

ГО

(9.7)

—ГО

ГО

/(г) = J {Р1—п—а /) (г)

а=(1—п)/2+ір

йр.

(9.8)

—ГО

(Фа, и(д)/) | « С • тах | (Д* и(д)/) (С) | • р2 +

Поскольку А коммутирует со сдвигами, мы имеем

тах | (А* иШ) (С)| = тах \ (и(д) А*/) (<)| = шах \ (А‘/) (()\

так что для всех г = 0 • д Е В и всех к Е N имеем

(Фа,и(д)/) | ^ С*

р +

откуда и следует наше утверждение об абсолютной и равномерной сходимости интеграла (функция и при а = (1 — п)/2 + гр ведет себя при р ^ ж как \р\2п-‘3).

Теперь заменим в (9.8) f на к, умножим на f (г) и проинтегрируем по г по мере dv(г). В силу доказанного выше мы можем в правой части переставить интегрирования по р и по г. Внутренний интеграл, т.е.

J f (г) (Рх-п-а Кк) (г) dv(г),

V

есть ^,Р1-п-а Бак). По (7.24) он равен (Ех-п-а f, Еак)3. Заменим в интеграле а на 1 — п — а. Функция и (а) при этом не меняется, и мы получим (9.3). □

"Мера Планшереля" и (а) связана с множителем ](а), см. (6.13), следующим образом

3(а) ](1 — п — а) = 2 1 ( ) • (9-9)

2пи(а)

§ 10. Разложение формы Березина

Ядро Березина на О есть следующая функция от двух переменных г,т Є О:

л

, (10.1)

Ел(г,ш) = с(А)

где А Є С и

(1 - (г,™))(1 - (™,г)) (1 - (г,г))(1 - (^,^))

Ф) = ^ —ц. (ш.'2)

Из (2.4) следует, что оно инвариантно относительно диагонального действия группы О:

Ех(г • д,т • д) = Ех(г,т). (10.3)

Следовательно, оно может быть получено сдвигами из функции

Ех('ш) = Е\(0,т) = о(Х) (1 — (т,т))-х.

Ядро Березина порождает полуторалинейную форму Б\^, к) на Б (Б):

Вл(/,к) = Ел(г,иі) /(г) Н('ш) йи(г) йи(,ш).

Т>хТ>

Интеграл абсолютно сходится при всех Л Є С, так что эта форма Б\ является целой функцией от Л. Из (10.3) следует, что форма Березина инвариантна относительно сдвигов. При Л Є К она эрмитова.

Разложим эту форму по полуторалинейным формам (при а Є К эти формы эрмитовы), отвечающим представлениям Та.

Теорема 10.1. Пусть /,Н Є 0(0). Тогда для Ке Л< (1 — п)/2 и для Л = (1 — п)/2 мы имеем

В\(ї,к)= и(а)Л(Л,а) (Ра 1,Рх—п—ак)8 йр, (10.4)

У Л а=(1—п)/2+гр

— 7

для (1 — п)/2 + к < Ке Л < (3 — п)/2 + к и для Л = (1 — п)/2 + к, к Є N мы

имеем

7 к

/ к 1

+ ^ ^ Лт(Л) ^(л — 2т) (А—т Рх—т/,Р-^—тк)3 (1°.5)

—ж т~0

и для Ке Л = (1 — п)/2 + к, Л = (1 — п)/2 + к, к Є Н, мы имеем

7 к—1 1 1

Вл(М)=у ^+2Лк(Л) ЛЛ _ 2к) (А— Р— /,Р;—кН)я. (10.6)

—сю

Интеграл в (10.5) и (10.6) обозначает точно такой же интеграл, что и в

(10.4), сумма в (10.6) содержит такие же слагаемые, что и сумма в (10.5),

л/л ) Г(-А + а)г(-А - а - п + 1) (107)

Л(А'а) = Г(—А) Г(—А - п + 1) • (10'7)

Лга(А) = (-1)”+1 п2-2п (а - т + ^ х

Г2(А - т + п - 1) Г(А + 1) Г(А + п) (10 8)

Г2(А - т + 1) т! Г(2А - т + п)

Доказательство. Пусть f € 0(0). По § 14 ее усреднение есть (с- 1)п-2 и(с). Возьмем в (5.1) О (с) = С(с)К (с), Н(с) = и(с), где

к(0=[ ^1^

и, напомним, 0(с) = (с - 1)". Получим

((СК,п)) = / П • ((СК,аР))((СР,и)) йр. (10.9)

і т=—1/2+гр

Вычислим Т = ((ОК,ОР)):

Т

С + 1 2

Сделаем замену с = 2і + 1 и подставим (4.4), тогда 2а+1

Т

Г(1 + 2а) 70

Этот интеграл можно найти в [2] 20.2(9), так что

Т = 2

а+1 Г( —Л — а + Т )Г( —Л — а — Т — 1)

г2(—Л)

Интеграл (10.10) абсолютно сходится при условиях

Ке а > —1/2, Ке (т — а — Л) > 0, Ке (—т — а — 1 — Л) > 0.

Ке а > Ке Л, Ке (1 — п — а) > Ке Л.

іа (і + 1) Р(а + т + 1,а — т; 1 + 2а; і) йі. (10.10)

(10.11)

Пусть Ке А < (1 - п)/2. Тогда условия (10.11) позволяют взять а = (п - 2)/2. Положим еще т = а + (п - 2)/2, тогда условия (10.11) дают

(10.12)

Равенство (10.9), полученное из (5.1) при условии | Ке а\ < 1/2, может быть аналитически продолжено по а в точку а =(п - 2)/2. Мы получим

с + 1

И/(с) йс

ПТ Р(с) И/(с) йс

а=(1—п)/2+гр

йр. (10.13)

По (13.44) имеем ((с + 1)/2) = р х. Умножим обе части (10.13) на с(Л), см.

(24.2), используем (3.3) и перейдем от Р к , см. (8.2), мы получим

(Ех,/) = / и(а)Л(Л,а)(Ф*,/)

а=(1—п)/2+гр

йр,

(10.14)

где ш и Л даются формулами (9.2) и (10.7), соответственно.

Формула (7.14) справедлива при условии Ке А < (1 - п)/2. Это условие получается из обоих неравенств (10.12), если там взять Ке а = (1 - п)/2.

Теперь продолжим разложение (10.14) аналитически по А из полуплоскости Ке А < (1-п)/2. Когда мы делаем такое продолжение, правая часть приобретает дополнительные слагаемые - из-за того, что полюсы подинтегральной функции (это полюсы функции Л) пересекают или попадают на путь интегрирования -прямую Ке а = (1 - п)/2.

Функция Л(А, а) - как функция от а - имеет полюсы в точках

а = Л — к, а = 1 — п — Л — I,

х

ОО

х

30

2

где к,1 € N.

При продолжении в полосу (1 — п)/2 + к < Ке Л < (3 — п)/2 + к, к € N пара полюсов а = Л — т и а = 1 — п — Л — т, где т = 0,1,... ,к, пересекает прямую Ке а = (1 — п)/2 и дает дополнительное слагаемое Бт к правой части. Это слагаемое Бт равно умноженной на 2п разности вычетов подинтегральной функции в точках а = Л — т и а = 1 — п — Л — т или умноженному на 4п вычету в а = Л — т. Вычисляя этот вычет, мы получаем, что

где Лт(Л) дается формулой (10.8).

Пусть эта пара полюсов попадает на линию Ке а = (1 — п)/2. Тогда если эти полюсы различны, то вклад этой пары равен половине дополнительного слагаемого, указанного выше. Если эти полюсы совпадают, то оба они равны (1 — п) /2, так что Л = т + (1 — п) /2 и дополнительное слагаемое исчезает из-за множителя 2Л — 2т + п — 1 в ^(Л — т).

Итак, мы получаем следующие разложения обобщенной функции Е\(г) по сферическим функциям: для Ке Л < (1 — п)/2 и для Л = (1 — п)/2 имеем:

для (1 — п)/2 + к < Ке Л < (3 — п)/2 + к и для Л = (1 — п)/2 + к, где к Є N имеем

интеграл в (10.16) и (10.17) обозначает точно такой же интеграл, что и в (10.15), сумма в (10.17) содержит такие же слагаемые, что и в (10.16).

Теперь с каждой из формул (10.15) - (10.17) поступим точно так же, как с

и(д)к, к Є 0(0), 0 • д = г, умножим на f (г) и проинтегрируем по г Є V по мере йи(г). В правой части можно переставить интегрирования по р и по г (рассуждая как в доказательстве теоремы 23.1), в результате получим формулы

При Л = к Є N множитель Л(Л, а) обращается в нуль, так что интеграл в

(10.16) и (10.17) исчезает. Получаемое разложение тесно связано с разложением тензорного произведения конечномерного аналитического представления

°т Лт (Л)ФА —т

го

йр,

(10.15)

—го

(10.16)

—го

наконец, для Ке Л = (1 — п)/2 + к, Л = (1 — п)/2 + к, мы имеем

го

(10.17)

—го

формулой (9.5) в доказательстве теоремы 9.1: применим ее к сдвинутой функции

(10.4), (10.5), (10.6). □

пи со старшим весом (к, 0, . . . , 0) на сопряженное ему антианалитическое представление пи со старшим весом (0,... , - к).

При А Є N сумма в (10.5) содержит неопределенность. Чтобы избавиться от нее, надо записать слагаемые в виде і(а)-1(Га/, Ла Ра к}8, где а = 1 — п - А + т.

Рассмотрим вместо формы Березина Б \ форму с ядром (10.1) без множителя с(А), т.е. рассмотрим форму Б'х = с(А)-1 Б\. Тогда в разложениях (10.4) - (10.6) надо заменить Л и Лт соответственно на

Л/ ) = п-1 Г( А + а) Г( А - а - п + 1)

Л (А, а) = п Г2(-А) ’

л_„ л п - 1 \ Г2(А - т + п - 1)

Лт(А) = п1 п (А - т + ^ X

х

Г2(Л — m +1)

Г2(Л + 1)

m! Г(2А — m + n)

Выясним знак этих множителей при вещественном А. Тогда действуют формулы

(10.4) и (10.5). Мы видим, что Л > 0 при а = (1 — n)/2 + ip и А Е N (при А Е N имеем Л' = 0) и что Л^ > 0 при 0 ^ m < А + (n — 1)/2.

В (10.4) и (10.5) участвуют скалярные произведения для непрерывной и дополнительной серии, см. (6.2) и (6.17). Следовательно, эрмитова форма Б'х,

А Е R, является положительно определенной при А < 0.

Обозначим через U\, А < 0, унитарное пополнение представления U относительно формы Б'х. Назовем эти U\ унитарными каноническими представлениями группы G. Формулы (10.4), (10.5) дают разложение представления U\ на неприводимые унитарные представления: при А ^ (1 — n)/2 оно состоит из представлениий непрерывной серии, а при (1 — n)/2 < А < 0 - из представлений непрерывной серии и конечного числа представлений дополнительной серии, а именно, представлений Tx-m, 0 ^ m < А + (n — 1)/2.

Ядро Березина дает также интегральный оператор с этим ядром, обозначим его снова через Б , он называется преобразованием Березина:

(Б лf )(z) = J Бх(z,w) f (w) dv(w).

D

При Re А < (1 — n)/2 преобразование Березина Б л - ограниченный оператор в L2(V,dv). В самом деле, функция Л(А, а) с а = (1 —n)/2+ip при фиксированном А, Re А < (1 — n)/2, как функция от p непрерывна и быстро убывает на бесконечности:

Л - const • \p\-2Reл-п е-"и

последнее следует из формулы [1] 1.18(6) для асимптотики гамма-функции.

Мы можем распространить оператор Бл на D (D) при Re А < 1 — n (см. выражение (2.10) для меры dv). Тогда Бл 1 = 1. Это объясняет выражение для с(А), см. (10.2).

Пусть А ^ — ж. Тогда по [1] 1.18(4) мы имеем

Бл - 1 — 1 Д.

А

Это дает принцип соответствия для квантования по Березину на V. Больше того, мы можем написать полное асимптотическое разложение оператора Б при А ^ -то:

оо ^ т-1 ^

Б\ = —- ]Т (д - к(к + п - 1)) ■ -— -----------тг-т,

^т! 11 V ^ V (-А - п)—)

т=0 к=0

где а= а (а - 1)... (а - т +1).

§ 11. Канонические представления

Канонические представления группы С = ЯИ(п - 1,1) мы определяем как ограничения на С представлений максимально вырожденных серий "надгруппы"

С = ЯЬ(п, С). А именно, это представления Ял, А Є С, группы С, действующие в Б (V) по формуле

(Ял(9)1) (*) = I(* ■ Я)№ + ^)-2Л-2п,

где матрица 9 Є С записана в блочном виде (1.4), г ■ 9 см. в (2.3).

Скалярное произведение (2.32) инвариантно относительно пары (Ял, Я_л_п) :

(Ял №,1)^ = (Р,К-Л-п(9-1)1 )в ■ (11.1)

Это следует из (2.11).

Определим на Б (V) оператор ЦЛ:

(ЦЛ 1 )(г) = J | 1 - ^^^Л 1 ^ ІЇ.'Ш.

V

Интеграл абсолютно сходится при Ке А > -1 и распространяется по аналитичности во всю комплексную плоскость А до мероморфной функции. Этот оператор сплетает Ял и Я-Л-п:

Я—х-п (д)Цх Цл Ял (д).

Это следует из (2.4) и (2.11). Следовательно, полуторалинейная форма

(М)л = с(А) (Цх1,Н)в (11.2)

инвариантна относительно пары (Ях,Ях). В частности, при вещественном А эта форма - инвариантная эрмитова форма на Б (V)). Здесь с(А) - множитель

(10.2).

Представление Ял и оператор Цл могут быть распространены на пространство Б' (V) обобщенных функций - с помощью формулы (11.1) и формулы

(Ях1,Ь)в = (1,0\^)в,

соответственно. Представления Ял на Б'[V) мы тоже будем называть каноническими.

Форма (11.2) связана с формой Березина:

(М)л = Бх (рЛ +п 1,рх+п к)

Лемма 11.1. Оператор Ц Л переводит функцию ра в функцию пп—1 Г(а + 1)

— + ) F(—А,-А; а + п; 1 - р). (11-3)

!(а + п)

где Б - гипергеометрическая функция Гаусса.

Доказательство. Поскольку ра инвариантна относительно К, то и ЦЛра тоже инвариантна относительно К, т.е. зависит только от г = | г\. Поэтому достаточно вычислить Цлра в точке г = (г, 0,... , 0). Это значение равно

J\1 - гт1\2Л (1 - (т,т))а Лхи. (11.4)

V

Запишем |1 - гт1\2Л в виде произведения (1 - гт1)Л(1 - г7ш1)Л и оба множителя разложим в биномиальный ряд (при Ке А < 0). Мы получим (11.4) в таком виде

£ (к)(-г)к™к £ (А)(-г)ш1(1 - (™, ™))а ^. Т) к=0 ' ' 1=0 ' '

При Ке а > - 1 можно переставить интегрирование и суммирование, получим

£ £ (к) (к) (-г)к+'1 (1 - (и-'МГ Ли. (11.5)

По § 25 интеграл здесь равен 0 при к = I, а при I = к он равен (см. (25.5), где

надо взять т = (к, 0,..., 0), —2а = а + п)

п-1 к!Г(а + 1) п-1 к! Г(а + 1)

п • ——;--------------т = П

Г(к + а + п) (а + п)к Г(а + п)

Подставляя это в (11.5), получим ряд

п—1 Г(а + 1) о (-А)к(-А)к г2к Г(а + п) (а + п)к к! ’

что и есть (11.3). По аналитичности этот результат распространяется из области Ке А < 0, Ке а > — 1. □

§ 12. Граничные представления

Каноническое представление Я\ порождает два представления Ь\ и Ы\, связанные с границей Б шара О. Первое из них действует на обобщенных функциях, сосредоточенных на Б, второе - на струях, ортогональных Б, т.е. на многочленах Тейлора от р в точке р = 0.

Обозначим через Дк(О), к Є N пространство обобщенных функций из Б'(О), имеющих вид

p(s)5{k)(p), (12.1)

где 5(р) - дельта-функция Дирака на вещественной прямой (линейный функционал),

5(к)(р) - ее производная к-го порядка, р Є Б(Б), в шаре О введены полярные координаты: г = т^, 0 ^ г < 1, s Є Б, р =1 — г2. Положим

Ек О) = До(О) + Ді(О) + ... + ДкО), Е(О) = и ЕкО).

Представление Я\ сохраняет Е(О) и фильтрацию

До(О) = Ео(О) С Еі(О) С ...

(но не сохраняет каждое Дк(О), к ^ 1). Обозначим через Ь\ ограничение представления Я\ на пространство Е(О).

Обобщенная функция С из Ек (О) есть

С = Ро^5^ + рі^)5'(р) + ... + Рк (^5{к\р).

Сопоставим такой С столбец (р0,р1,... ,рк, 0, 0,...) со счетным числом координат. Тогда Ь есть верхняя треугольная матрица:

Ь

=

( Ті-п-\ 0 0

* *

Т2-п-\ *

0 Т3-п-Х

0

0

0

V

\

/

В самом деле, используя (2.5) и свойство однородности производной дельтафункции, мы имеем для ( = р(в)б(к)(р):

Ях(д)( = р(3) б(к) (р) | гв + б|-2 Л-2п =

= р(в)6(к) (р) | гв + б|-2 Л-2п+2к+2 =

= р(в) ев + б|-2 Л-2п+2к+2 + ...,

где в = в ■ д, матрица д имеет блочный вид, многоточие обозначает линейную

комбинацию производных дельта-функции 8(^')(р) с ] < р, коэффициентами которой служат произведения функции р(в) на некоторые функции из Б (Б), не зависящие от р.

Далее, для функции f из Б(О) рассмотрим ее ряд Тейлора а0+а\р+а2р2 + ... по степеням р. Здесь ак = ак(f) - функции из Б(Б). Пусть a(f) - столбец (ao(f), а^), a2(f),...). Обозначим через А(Б) пространство последовательностей

(столбцов) а = (а0,а1,...), где ак Е Б (Б). Отображение / ^ а(/) есть отображение пространства Б(О) на пространство Л(Б) - в силу известной теоремы Бореля. Представление М \ группы О действует на пространстве Л(Б) по формуле

М\ (д) а(/) = а(Вх (д)/)•

Это представление записывается в виде нижней треугольной матрицы:

Мх

( Т-х-п 0 0 ... \

* Т-Х-п-1 0 • • •

* * Т-Х-п-2 •••

... ... ... ...

Лемма 12.1. Значение обобщенной функции (12.1) на функции / Е Б('Р) может быть выражено через коэффициенты Тейлора функции /* = (1— р)п-2/ или коэффициенты Тейлора функции /:

{Р$(к) (р),/)

V — ^ (— 1) к {'Р,ак (/*))я

п—2

1=0

(—1)к к\^^(-1)1[ 1 ) {р,ак-г(/))<

1

12.2)

:і2.з)

2

Доказательство. Меру йг на V можно записать так:

йг =^(1 — Р)п-2 йрйв, (12.4)

где, как и выше, г = тв, 0 ^ т < 1, в Е Б, р =1 — г2. Поэтому получим

1

(^{к) (р),/ =1 f! ф) 5{к)(р) Мтв) йРйв=

5 0

= 2(—1)к к\ J р(в) ак(/*)(тв) йв,

з

что и есть (12.2). Наконец, коэффициенты Тейлора функции /* выражаются через коэффициенты Тейлора функции / с помощью разложения (1 — р)п-2 по формуле бинома Ньютона. Это дает (12.3). □

Таким образом, имеется двойственность между представлениями Ь\ и М\. В частности, можно было бы написать связь между элементами матриц Ь\ и М_х_п, однако, мы не будем вдаваться в эти подробности.

Обобщенные функции из £ к (V) можно распространить на пространство, более широкое, чем 0(0). А именно, пусть Тк(V) обозначает пространство

функций / на V класса Сна V и на Б, имеющих разложение Тейлора порядка к:

/ (г) = ао + а1 р + а2Р2 + ... + акрк + о(рк),

равномерное по в Е Б здесь ат = ат(/) - функции из Б (Б). Лемма 28.1 справедлива и для / из Тк(V), в формулах (12.2), (12.3) нужно считать т ^ к.

§ 13. Преобразование Пуассона, связанное с каноническим представлением

Назовем преобразованием Пуассона, связанным с каноническим представлением ЯЛ, отображение РЛ,а пространства Б (Б) в пространство С™(р), задаваемое формулой

(РХ,ар) (г) = р-Л-а-п ! \ 1 — ^, в)\2а р(в) йв.

5

Оно сплетает Т1-п-а и ЯЛ:

Я\ (я)Р\,а = Р\,аТ1-п-а (я) , Я Е О.

Теорема 13.1. Со сплетающими операторами Ла и QЛ, см. § 18 и § 27, преобразование Р\а взаимодействует так:

Р\а Ла = ] (а) Рл,1-п-а, (13.1)

с(А) QXPX,а = Л(А,а) Р—\-п,а, (13-2)

здесь ](а), с(А), Л(А,а) -множители, которые задаются сформулами (6.13),

(10.2), (10.7).

Доказательство. Формула (13.1) сразу следует из (7.7).

Обозначим через Ь оператор Q Л Р\а. Его ядро (функция) есть

Ь(г,в) = J\1 — (г,и))\1Л (1 — {ю,'ю))-х-а-п\1 — ('ш,в)\2а й'ш. (13.3)

Оператор Ь сплетает Т1-п-а с Я-\-п. Следовательно, его ядро удовлетворяет уравнению

\ гв + $\2Л Ь(г • я, в) = Ь(г, в • я-1) \ вв1 + 51\1а (13.4)

для всякого я Е О, здесь используется блочный вид матрицы Я Е О, блоки

матрицы я-1 снабжены индексом 1. Возьмем в (13.4) г = 0, в качестве матрицы g возьмем матрицу (13.7) с заменой г на £, тогда я-1 получается из (13.7) заменой г на —£. Обозначим д = 1 — (£,£). Тогда мы имеем г • я = 0 • я = С, гв + $ = $ =

1/л/9, вв1 + $1 = (—в£ + 1)/^/д Подставляя это в (13.4), получаем

—/ 2а х

Ь(С,в) = Ь(0,в • я-1) \ 1 — в£\ дЛ-а.

С другой стороны, если g принадлежит подгруппе K, то по (13.4) имеем

L(z • g,s) = L{z,s • g-1).

В частности, так как точка z = 0 неподвижна для K, мы имеем

L(0, s) = L(0, s • g-1). (13.5)

Поскольку K действует транзитивно на S, равенство (13.5) показывает, что величина L(0, s) не зависит от s и равна, например, L(0, e1), e1 = (1, 0,... , 0). По (13.3) имеем

L(0, e1) = J \ 1 — w1\2a (1 — (w,w))-x-a-n dw.

D

Такой интеграл уже вычислен: он есть (11.4) с r =1, т.е. с p = 0, и еще нужно соответственно изменить показатели. По (11.3) получаем

тт ^ пП-1 Г(1 — Л — а — п) Т?! л ^

L(0, ei) = —Г(1 — д — а)— F (—а, —а'; —А — а;1) =

пп-1 Г(1 — А — а — п)Г( — А + а) П36)

= П ------------Г2(—Д)-------------------------------------■ (136)

мы использовали формулу [1] 2.1(14) для значения гипергеометрической функции в единице. Сравнивая (13.6) с (10.2) и (10.7), видим, что с(А) L(0, e1) = Л(А,а).

Функция от (,s, стоящая в правой части (29.9) без множителя L, есть ядро

преобразования P-\-n,a. П

Умножим разложение (7.18) на p-X-a-n. Мы получим разложение по степеням p преобразования Р\,а от K-финитной функции р G D(S) для 2а G Z:

оо СО

(Рх,а)p)(z) = p-X-a-nJ2 C°uP • pu + P-X+a-1Y^ D*,vP • pv, (13.7)

u=0 v=0

где z = rs, 0 ^ r < 1, p =1 — r2, s G S. Множители p-X-a-n и p-X+a-1 дают полюсы преобразования P\, a по а, они располагаются, соответственно, в точках

а = А — к, а =1 — п — А + l, (13.8)

где k,l G N. Таким образом, Р\, а мероморфно зависит от а - с полюсами в точках (13.8).

Две серии точек (13.8) имеют непустое пересечение, если 2А+п — 1 G N, т.е. А

- целое или полуцелое число ^ (1 — п)/2. Если точка ц входит в это пересечение, т.е. i = А — к = 1 — п — А + l, то для k,l G N выполняется следующее:

0 ^ k,l ^ 2А + п — 1, к + l = 2А + п — 1, l — к = 2^ + п — 1. (13.9)

Лемма 13.2. Полюсы а = ц преобразования Р\,а - простые, за исключением случая, когда обе серии (13.8) пересекаются, т.е. 2 А + п — 1 € N а полюс ц принадлежит их пересечению, причем при целых А полюс ц (тогда ц -тоже целое) должен быть отрицательным, в этом случае ц - полюс второго порядка.

Доказательство. Рассмотрим сначала по отдельности слагаемые

ра-х-1+ Ва.и р, (13.10)

из второй суммы в (13.7). Для того чтобы полюс ц = А — к был полюсом второго порядка для (13.10), нужно, чтобы оба сомножителя в (13.10) имели полюс. Для этого, во-первых, Ц (и, стало быть, А) должно быть целым или полуцелым и, во-вторых, должны выполняться два неравенства (второе - по лемме 7.6):

1 — А — 1 + V < 0 и V ^ —21 — п +1. Их можно переписать так:

—2А + 2к — п +1 ^ V ^ к.

Отсюда следует, что к ^ 2А + п — 1 и 1 ^ 1 — п — А. Так как 2А € ^, то эти два неравенства дают, что две серии (13.8) пересекаются и полюс ц принадлежит этому пересечению. Для случая, если А - целое (тогда и ц - тоже целое) надо добавить условие ц < 0 (в силу леммы 7.6).

Напишем старший лорановский коэффициент произведения (13.10) в полюсе

1 = А — к в случае, когда ц - полюс второго порядка. Первый множитель имеет полюс при —А + 1 — 1+ V ^ —1, т.е. при V ^ к, а второй (по лемме 7.6) -при V ^ —21 — п +1, т.е. - в силу (13.9) - при V ^ к — I. Таким образом, V должно удовлетворять неравествам к — I ^ V ^ к, и еще должно быть ц < 0 при целом А. По [3] и § 7 старший лорановский коэффициент (т.е. коэффициент при (а — 1)-2) есть

(—1)‘-* ^^ в,Vр • а“->(р), (13.11)

где, напомним, к — I ^ V ^ к.

Аналогично рассматриваются слагаемые

р — <Г — \—П+и ^ир (13.12)

из первой суммы в (13.7). Снова получаем, что две серии (13.8) имеют непустое пересечение, а полюс 1 =1 — п — А + I входит в это пересечение. Произведение (13.12) имеет полюс второго порядка в ц, если I — к ^ и ^ I, причем если А -целое, то 1 < 0. Старший лорановский коэффициент этого произведения равен

—(—1)'-и (—у С^иР • 6(,-и>(р). (13.13)

Количество слагаемых в (13.7), имеющих полюс второго порядка, одинаково для первой и второй сумм, оно равно 1 + шт{к, /}. Эти слагаемые естественно

группируются в пары: слагаемые с п,ь такими, что и — V = 2^ + п — 1. Учитывая последнее равенство в (13.9), получаем, что к — V = I — и. Вспоминая (7.21), мы видим, что (13.11) и (13.13) совпадают. Следовательно, вся сумма (13.7) имеет полюс второго порядка в указанных точках ц. □

Напишем разложение Лорана преобразования Пуассона Рх,а в полюсе л первого или второго порядка соответственно в виде (мы выписываем только главные части):

р

Г> ____ х , М I

Р\, а =----------Г

а — л

Р:

Р

х,а —

Г

Р,

Х,^

+....

(13.14)

(13.15)

(а — ц)2 а — л

Старший лорановский коэффициент (т.е. рх,а для полюса первого порядка и

рХ,а для полюса второго порядка) сплетает Т1—п—М с Ях. Для полюса ц второго порядка имеем

рх(д)рх,м = рх,м Т1-п-м(д), (13.16)

Ях(д)рх,м = рх,м Т1-п-м(д)— рх,м Т[-п-м(д)^ (13.17)

Т = —Т

а —а а.

Напишем коэффициенты Лорана, указанные в (13.14) и (13.15).

Если полюс ц принадлежит только одной из серий (13.8), то он - простой и

где

Рр

х,х-к

(—1)

к!

](\ — к) £х,к,

Рх,1—п—

п—х+/

I!

£х,1 ◦ Ах—1,

(13.18)

(13.19)

где £х,к - следующий оператор ^ Ек (О) :

£х,к (р) = У^(—1)

к

г=0

(к — г)!

Шх—к,гV • $(к—г)(р),

операторы Ша,г определены в § 7. Пусть полюс ц принадлежит обеим сериям

(13.8). Тогда, напомним, 2А + п — 1 Е N. Пусть ц - простой. Это может быть, если А Е N и л Е N. Тогда Рх>М равен сумме правых частей (13.18) и (13.19).

Пусть, наконец, полюс ц - второго порядка. В этом случае ц = А — к =

1 — п — А + I, параметры к,1 удовлетворяют условиям (13.9) и еще ц < 0 для целого А.

Если к ^ /, то

Р

(-1У х,м = —2 —I!— £х,1 ◦ Ах—1,

(13.20)

г

к (___-) к-, ^

Рл^ = 2 V (Г-Ц7 Б,,р • Мк-,’(р)

а если к ^ I, то

~ (--)к-Р л, ц = 2 ы і (у) Сл , к,

Рл,цР = — £

к!

(і)-" ^

=. V—Цц ^

(-3.2-)

(-3.22)

(-3.23)

где

О,

С

Ц , "

Ц , " 5

ц > "

и < к — I,

С ц , « — Бц ,,- и ^ 1 — к,

Б

Б

ц,, >

ц,,

у < к — I,

Бц,, — Сц,и- у ^ к — 1

ц,и

в последних формулах и и у связаны равенством и — у = 2ц + п — -(= I — к). Напомним, что Ац и і(^) обозначают вычеты оператора Ла и множителя

І (а), см. § 18. При выводе формул (13.20) - (13.23) использовалось соотношение

(7.21).

Оператор Сл,к мероморфно зависит от Л, он имеет простые полюсы в целых и полуцелых Л таких, что

п

(-3.24)

для этого необходимо, чтобы Л было целым или полуцелым таким, что А ^

1 — п/2 (т.е. 2А + п — 2 е М). Оператор £\,к сплетает Т\-п-\+к с Ь\, см. § 12.

Предположим, что полюс ц = А — к принадлежит только первой серии в

(13.8), тогда он - простой. Возьмем вычет обеих частей (13.2) в этой точке. Используя (13.18), мы получим:

c(Л')QЛ^Л,к = ^ (—-)к к! І (- — п — Л + к)Лк (Л) Р-Л-и,Л-к-

(-3.25)

где Лк(Л) дается формулой (10.8).

Назовем преобразованием Фурье, связанным с каноническим представлением Ях, отображение Б-а пространства Б (V) в пространство Б (Б), задаваемое формулой

(Р- ,а / )(в) = J 1 1 —(г,8)\2а РХ-а / (г) (141)

V

Его можно распространить с Б (V) на Б (V): для / е Б (V) интеграл (14.1) абсолютно сходится при

п1 Ие и > —2—, Яе (Л — и) > — 1

и продолжается по и и Л мероморфно.

Оно сплетает Ях с Та:

Б-а Я-(д) = Та(д) Бх,а■ (14.2)

Это преобразование сопряжено с преобразованием Пуассона, связанным с каноническим представлением:

Р-а/,^)е = ^)т> ■ (14.3)

Это позволяет перенести на преобразование Фурье соответствующие утверждения для преобразования Пуассона.

Теорема 14.1. Со сплетающими операторами Ла и Q- преобразование Фурье Бх,а взаимодействует следующим образом:

Ла Р-,а 3 (и) Р—, 1-п-а >

Р-х-п,а ■ с(Л) Q- = Л(Л, и) Б-а, где 3(и), с(Л), Л(Л,и) - множители (6.13), (10.2), (10.7).

Преобразование Фурье Б-,а имеет полюсы по и в следующих точках

и = —Л — п — к, и = Л +1 + I, (14.4)

где к,1 е N. Эти две серии точек имеют непустое пересечение, если — 2Л — п — 1 е М, т.е. если Л - целое или полуцелое число ^ (—п — 1)/2. Если точка ц входит в это пересечение, т.е. ц = —Л — п — к = Л +1 + /, то для к, I выполняются условия:

0 ^ к,1 ^ —2Л — п — 1, к + I = —2Л — п — 1, I — к = 2^ + п — 1. (14.5)

Лемма 14.2. Полюсы и = ц преобразования Бх,а - простые, за исключением случая, когда обе серии пересекаются, т.е. —2Л—п—1 е М, а полюс ц принадлежит, их пересечению, причем при целых Л полюс ц (тогда ц - тоже целое) должен быть отрицательным, в этом случае ц - полюс второго порядка.

Для лорановских коэффициентов преобразования Фурье мы используем обозначения, аналогичные обозначениям для преобразования Пуассона, см. § 13.

Старший лорановский в полюсе ц (т.е. Р-,м, если ц - полюс первого порядка,

и Бх,ц, если ц - полюс второго порядка), сплетает Ях с Тм. В частности, если ^

- полюс второго порядка, то

Р-,ц К-(д) = Т^(д)р-,^ (14.6)

и кроме того,

Р-,»р-(д) = Т1 (д) Р-,»+ Тм(д) Р(14.7)

Напишем лорановские коэффициенты Р-^ и Р- ^.

Если полюс ц принадлежит только одной из серий (14.4), то он - простой и

Р-,---п-к = 2 3 ( — Л — п — к) Ь-,к, (14.8)

р-,-+1+1 = — ^ Л---п-г Ь-,г. (14-9)

где Ь->к - "граничный" оператор, отображающий Б (V) в Б (Б), который определяется через коэффициенты Тейлора следующим образом:

к

Ь-,к(/) = £ Ш---п-к,т ат(/*) = (14.10)

т=0

= £ { £<"1)^п — 2) «'---«-«-г-г 1 а,(/), (14.11)

(считается, что Ша^ = 0 при V < 0). Этот оператор сплетает Я- с Т---п-к:

Ь-,к ◦ Я-(д) = Т---п-к(д) ◦ Ь-кк.

Пусть полюс ц принадлежит обеим сериям (14.4). Тогда, напомним, — 2Л — п — 1 е N. Пусть ц - простой. Это может быть, если —Л — п е N и ц е N. Тогда вычет р-,ц равен сумме правых частей (14.8) и (14.9).

Пусть, наконец, полюс ц - второго порядка. Тогда ц = —Л — п — к = Л +1+1, числа к,1 удовлетворяют условиям (14.5) и еще ц < 0 для целого Л. Если к ^ I, то

р-,^ = —Л---п-гЬ-,г, (14.12)

1к

Р-,^/ = 2 £ Б^ а-(/*), (14-13) у=0

а если к ^ I, то

Р'-,» = РЫ Ь-,к, (14.14)

1г

Р-/ = — 2 £ с»и аг-/), (14.15)

и=0

операторы , и, Б^ь определены в § 13.

Докажем, например, (14.8) с (14.10). Из (14.3) следует, что

к (__1)к-,

(р-.---п-к/, = 3 — — п — I/, V • . (14.16)

г=0 ( )-

Вспомним выражение (12.4) для меры йг. Тогда сумма из правой части (14.16) преобразуется к виду:

1 к

2

г=0

Операторы Д^ и Да самосопряжены относительно скалярного произведения (■, - )з из Ь2(Б, ds), поэтому для оператора Ш-х-п-к г сопряженным будет Ш-Х-п-к,, Следовательно,

1к

фх,-х-п-кI, Р)я = 2 І— “ п - к) £ ^-х-п-к,г ак-г(/*),¥>)<

2

г=0

что и дает (14.8) с (14.10).

Попутно мы доказали сопряженность операторов £ и Ь:

(-1)к

Ф-,к(/),¥)я = 2 к, (/,£---п,к ф)т>. (14.17)

Аналогично доказываются остальные формулы для лорановских коэффициентов ((14.9), (14.12) - (14.15)), при этом еще используется самосопряженность операторов

^ О ^ О

С^и,сц,и,Б^,Б^ относительно (■, ■)s.

Оператор Ь-, к - мероморфная функция от Л, он имеет простые полюсы по Л в целых или полуцелых Л таких, что

п

— Л — ^ ^ к ^ —2Л — п — 1, (14.18)

для этого необходимо, чтобы Л было целым или полуцелым таким, что Л ^ —п/2 — 1 (т.е. —2Л — п — 2 е ^.

Операторы Ь-, т для т ^ к можно распространить естественным образом на пространство Тк (V), см. § 12.

Лемма 14.3. Коэффициенты Тейлора выражаются через значения граничных операторов:

к

ак (/) = £ ^-+1+т,к-т Ь-,т(/), (14.19)

т=0

Доказательство леммы будет дано позже - в § 16. Поскольку Ша,0 = 1, мы видим, что последовательность а(/) коэффициентов Тейлора выражается через последовательность Ь-(/) = (Ь-к0(/), Ь-к1(/),...) с помощью бесконечной нижней треугольной матрицы с единицами на диагонали (считаем, что последовательности

- столбцы).

Лемма 14.4. "Старый базис"р8(к')(р) в пространстве £(£>) выражается через новый базис £-,т(р) - следующим образом:

р6(к)(р) = (—1)к к! £ —Г £-’т\ £ ^ (п — 2 ) • ™1-п--+т,к-т-г V

т=0 ! \ г=0 '

(14.20)

(считается, что у = 0 при V < 0).

Доказательство. Подставим в формулу (12.3) выражения коэффициентов Тейлора по формуле (14.19). Мы получим:

1 п-2 , ^

1 ' -\к 7„т ^ / л\г <п 2

№(к)(р).1 )ъ = 1 (-1)к к! £ (-1)' (" “ 2)

к-1

^ ^ (^,^>Х+1+т,к-'-т Ьх,т(І)) Я'

т=0

Для оператора Wх+l+m, ^ сопряженным является Wх+l+m у, затем мы используем

(14.17) с т вместо к, в итоге получаем

п 2 к ' / гл\ / 1+т

•(£- - - п,т (^-+1+т ,к г т V,/' ^.

Заменяя здесь —Л — п на Л и принимая соглашение, что ^ = 0 при V < 0, получаем (14.20). □

В этом параграфе мы разлагаем граничные представления Ь- и М- из § 12.

Мы существенно используем информацию из § 13 и § 14 о полюсах и лорановских разложениях преобразований Пуассона и Фурье, связанных с каноническими представлениями.

Пусть У-,к - образ оператора £-,к, см. § 13. Это пространство содержится в Ек (V), его проекция на пространство Дк (V) есть все это пространство. Это дает следующую теорему.

Теорема 15.1. Пусть 2Л + п — 2 е N т.е. Л не является целым или полуцелым числом ^ 1—п/2. Тогда граничное представление Ь- диагонализуемо, что означает, что Е('П) разлагается в прямую сумму пространств У-,к, к е N инвариантных относительно Ь-} и ограничение представления Ь- на пространство У-,к эквивалентно представлению Т1-п--+к (эквивалентность дается оператором £-, к ).

Пусть теперь Л + п — 2 е N. Тогда для к < Л + п/2 пространство Ек (V) диагонализуемо - точно так же, как сказано в теореме 31.1, а именно,

Ек = У-, 0 + У-, 1 + ... + У-, к

в слагаемых действуют соответственно представления Т1-п--, Т2-п--,... , Т1-п--+к.

Далее, рассмотрим такие к, что

п

Л +2 ^ к ^ 2Л + п — 1. (15.1)

Для таких к оператор £-,к имеет полюс, см. (13.24), так что У-,к не определено, преобразование Пуассона Р-, --к имеет полюс второго порядка - как для полуцелых, так и для целых Л, поскольку в этом случае для полюса ц = Л — к выполняется ц ^ —п/2 и, стало быть, ц < 0. Для к, удовлетворяющих (15.1) обозначим через У-,к образ отображения р->--к. В силу (13.21) проекция этого пространства на Дк(V) есть все Дк(V). Следовательно, все пространство Е(Р) есть прямая сумма подпространств У-,к с к < п/2 и к > 2Л + п — 1 и подпространств У- к, для которых к удовлетворяет (15.1).

Рассмотрим подпространство У->г+У- к, где I - число, связанное с к посредством

(13.9). По (15.1) выполняется к > I. В силу (13.20) пространство У-г есть

образ отображения Р- , --к. Подпространство У-,г + У- к в Е(Р) инвариантно относительно Ь-. Это вытекает из (13.16) и (13.17). Выясним, чему эквивалентно ограничение представления Ь- на У-, г + У- к. Сопоставим паре функций р,Ф из Б(0 элемент из У-, г + У- к следующим образом:

(у,ф) ^ р-,№ + р-,»Ф, (15.2)

где ц = Л — к. По (13.16), (13.17) получаем

Ь-(9)(Р-, »У + р, »ф) = = р-, ц(Т1-п-Лд)у — Т[-п-^(д)ф) + р-, » Т1-п-^(д)ф.

Это есть образ пары (у1,ф1) при отображении (15.2), где

УЛ = ( Т1-п-»(д) —Т1-п-^(д) \ (у Ф1) V 0 Т1-п-^(д) ) \Ф

Таким образом, ограничение представления Ь- на У-,г+У- к эквивалентно "жордановой клетке"

Т‘Т" —Тт~п~0 • (15.3)

0 Т 1-п-» /

Эта клетка не может быть диагонализована. В самом деле, для элемента Казимира Дд мы имеем Та (Дд) = а(а + п — 1), см. (6.4). Поэтому Т'а (Дд) = 2а + п — 1, так что клетка (15.3) на элементе Казимира есть

/ ^ + п — 1) 2^ + п — 1 \ ( )

V 0 ц(ц + п — 1) ^ ’ (15.4)

умноженная на единичный оператор в Б (Б). Матрица (15.4) есть в самом деле жорданова клетка при ц = (1 — п)/2. В нашем случае это последнее условие выполняется, поскольку ц ^ —п/2. Итак, мы доказали следующую теорему.

Теорема 15.2. Пусть 2Л + п — 2 е N. Ограничение представления Ь-на подпространство У-,г + У- к, где к + I = 2Л + п — 1 , Л + п/2 ^ к ^

2Л + п — 1, эквивалентно жордановой клетке второго порядка (15.3), где ц =

Л — к. Следовательно, представление Ь- эквивалентно прямой сумме таких жордановых клеток в количестве [(2Л + п)/2] (квадратные скобки обозначают, целую часть), представления Т(1-п)/2, если 2Л + п нечетно, и представлений Т-+1,Т-+2,....

Заметим, что представление Т1-п-» эквивалентно представлению Т», так что клетку (15.3) мы можем записать также как

( Т» —П-п-» \

V 0 Т1-п-» ) ’

поэтому матрица представления Ь- в "новом базисе" , указанная в теореме 31.2, имеет ту же самую диагональ, что и матрица Ь- в "старом базисе" , см. §28,

ТХ. Т1-п--, Т2-п--,...

Теперь разложим второе граничное представление М- из § 12.

Пусть — 2Л — п — 2 е N т.е. Л не является целым или полуцелым числом ^

— 1 — п/2. Тогда операторы Ь-,к, см. § 14, определены для всех к е N. Обозначим через т- отображение, которое каждой последовательности а = (а0,а1}...) из

А(Б), см. § 9, сопоставляет последовательность Ь- = (Ь-,0, Ь-, 1}...) по формулам (14.11). Это отображение задается нижней треугольной матрицей с единичной диагональю. Обратное отображение т-1 дается формулами (14.19).

Теорема 15.3. Пусть —2Л — п — 2 е N. Тогда граничное представление М- диагонализуемо. Это означает, 'что на последовательностях Ь- оно есть диагональная матрица с диагональю {Т---п,Т---п-1,Т---п-2,... } (т.е. матрица т- М), т-1 есть указанная диагональная матрица).

Теорема сразу получается из (14.11).

Пусть —2Л—п—2 е N. Тогда операторы Ь-^ не определены для к, удовлетворяющих неравенству (14.18), т.е.

п

— Л — ^ ^ к ^ —2Л — п — 1. (15.5)

Для таких к преобразование Фурье Г-,а имеет полюс второго порядка в точке ц = —Л—п—к. Определим для таких к операторы Ь- к для к из (15.5) следующим образом:

Ь- к = •/ \ р-,»} № = —Л — п — к.

3 Ы

По (14.13) эти операторы являются линейными комбинациями операторов ат (т.е. операторов / ^ ат(/)) с т = 0,1,... ,к, причем коэффициент при ак равен

1. Обозначим через Ь- последовательность, которая получается из указанной выше последовательности Ь- заменой Ь-,к на Ь-,к при к, удовлетворяющих (15.5). Отображение т'у,, которое каждой последовательности а е А(Б) ставит в соответствие последовательность Ь-, задается нижней треугольной матрицей с единичной диагональю. Следовательно, т- отображает А(Б) на себя. Обратное отображение т- задается тоже нижней треугольной матрицей с единичной диагональю. Из

(14.6) и (14.7) вытекает теорема:

Теорема 15.4. Пусть —2Л—п—2 е N. Тогда представление М), в последовательностях тЬ имеет (—2Л —п)/2] жордановых клеток второго порядка, а именно, матрица Т-к Мх т-1 есть нижняя треугольная матрица с диагональю Т---п, Т---п-1,Т---п-2,..., причем матричные элементы, не равные нулю, стоят на пересечении к-ой строки и 1-го столбца, где к + I = —2Л — п — 1, к > I, так что жордановы клетки, о которых шла речь выше, располагаются в пересечении строк и столбцов с номерами к,1.

Жордановы клетки, указанные в теореме, имеют вид

Т» ^ 0

— 23 (^)-1 Т» А1-п-» Т»

где ц - полюс, определенный условием I — к = 2^ + п — 1, см. (14.5). Оператор Т», стоящий в левом верхнем углу, можно заменить на Т1-п-».

Для простоты мы ограничимся разложением канонических представлений Я\, для которых Л лежит в вертикальных полосах

— 1 — П 7 ТЛ Л 1 — П 7

~— + к < И,е Л < ——— + к.

Случай (А): Л Є 10-

Теорема 16.1. Пусть Л Є 10. Тогда каноническое представление Я\ разлагается в прямой интеграл представлений непрерывной серии с кратностью единица.

А именно, сопоставим каждой функции / из Р('П) совокупность /}, а =

(1 — п)/2 + ір. Это соответствие С-эквивариантно, см. (14.2). Справедлива сформула обращения

/ = и(а) Р-,1-п-а Р-,а / йр. (16.1)

,/ а={1-п)/2+гр

-Ж

где Р-га - преобразование Пуассона из §29, и (а) дается формулой (9.2). Кроме того, полуторалинейная форма ( , )^ см. (11.2), разлагается следующим образом:

(/Л)\= ш(а)А(Л,а) {РХ- /,Р^1-п-- к}3 &р. (16.2)

3 ° а=(1-п)/2+гр

Доказательство. Пусть Ке Л > (—1 — п)/2. Тогда пространство р-+п Б(Р) содержится в Ь2(^, йи), см. выражение (2.10) для меры йи. Применим формулу обращения (9.1) к функциир-+п/, где / е Б(Р). Вспоминая определения преобразований Пуассона и Фурье, связанных с каноническими представлениями, мы получим

(16.1). С другой стороны, разложение (10.4) формы Березина В справедливо при Ке Л < (1 — п)/2. Значение этой формы на паре р-+п/, р- +пН есть (/, Н)-, см.

§ 11. Таким образом, для Ке Л е 10 справедливы обе формулы (16.1) и (16.2).

□

Если к тому же Л вещественно, то теорема 16.1 дает разложение унитарных канонических представлений для таких Л. Это верно даже для всех Л < (1 — п) /2, поскольку унитарные канонические представления действуют в унитарном пополнении пространства Б('Р), а пространство р-+п Б('Р) совпадает с Б(Р).

Теорема 16.2. Пусть Л Е 10. Тогда для всех <Е 0(Т>) справедливо

разложение

(1,^^ = и (а) (Рх,1-и-а Рх,а 1,Ь)Т) дьр. (16.3)

У » а=(1-п)/2+гр

Доказательство. Если КеЛ € 10, то обе функции рх+п f и р-хН принадлежат Ь2(V, (1и). Применим формулу Планшереля (9.3) к этим двум функциям. Учитывая формулу (13.51) для скалярного произведения в Ь2('Р, (!и) и выражение (13.22а) для меры dv, получим

= и(а) (Бх,а f,F-J-nЛ-n-a Ь)8

Теперь, используя (14.3), получим (16.3). □

dp.

а=(1-п)/2+гр

Теорема 16.2 говорит, что при Л Е 10 разложение (16.1) справедливо не только в смысле поточечной сходимости на V (это верно даже для КеЛ > (—1 — п)/2), а в смысле сходимости в пространстве обобщенных функций П'(^).

Случай (В): Л € 1к+1, к € N.

Продолжим аналитически по Л разложение (16.1), рассматриваемое в П'(^), из полосы Ке Л Е 10 в полосу Ке Л € 1к+1, к Е N. Полюсы а = Л — т и а = 1 — п — Л+т, т = 0,1,... ,к, подинтегральной функции (это - полюсы преобразования Пуассона Рх,1-п-а), пересекают линию интегрирования Ке а = (1 — п)/2 и дают добавочные слагаемые, а именно, пара полюсов с одним и тем же т = 0, 1, . . . , к дает слагаемое

4п и(1 — п — Л + т) Рх,х-ш Fx,l-n-х+m f■

Подставляя сюда (13.18) (с заменой к на т) и вспоминая (9.9), получаем, что это слагаемое есть значение на f оператора

(—1)т 1

Пх,т — 2 I ■ "ТТ: л Г Сх,т ◦ FX,1—n—X+m■ (16.4)

т! ] (1 — п — Л + т)

Итак, после продолжения разложения (16.1) из полосы 10 в полосу 1к+1 получим

к

f = / +£ Пх,т и), (16-5)

^ т=0

—х>

где интеграл обозначает правую часть (16.1).

Аналогично, продолжение разложения (16.2) дает разложение

к

и^)х = / + £ Лт(Л) (^,х-т f,FX, 1-п-х+т к)3, (16^6)

т

т=0

где интеграл обозначает правую часть (16.2), множители Лт(Л) даны в (10.8).

Лемма 16.3. Пусть Л Е 1к+1. Тогда образы преобразований Пуассона Р-х-п,х-т и Р-х-п,1-п-х+2т, т = 0,1,...,к принадлежат пространству Тк(V). Кроме того, разложение по степеням р функций Р-х-п,х-ту и Р-х-п,1-п-х+ту начинается со степени рт, а именно,

(Р-х-п,х-т'У)(г) = Л1-п-х+тУ ■ рт + ■ ■ ■ , (16.7)

(Р-х-п,1-п-х+тУ)^) = з (1 — п — Л + т)у ■ рт + .... (16.8)

Доказательство. Для Р-х-п,х-ту множители перед суммами в (13.7) - это рт и р2х+п-т-1 соответственно. Второй множитель есть о(рк), поскольку Ке Л Е 1к+1. Следовательно, функция Р-х-п,х-ту входит в Тк(V). Слагаемое в (13.7) с наименьшей степенью р есть Са,0у■ рт, где а = Л — т. По (26.36) и (7.17) оно есть Л1-п-х+ту ■ рт. Аналогично рассматривается функция Р-х-п,1-п-х+ту. Здесь слагаемое с наименьшей степенью р есть Оа,0у ■ рт, где а = 1 — п — Л + т. По (7.19) и (7.17) оно есть 3(1 — п — Л + т)у ■ рт. □

С помощью этой леммы мы можем распространить преобразования Фурье FX,X-m и FX,1-n-X+m, т = 0,1,..., к, на пространство £к(V). А именно, имея в виду соотношение сопряженности (14.3), мы полагаем для £ Е £к (V):

^х,х-т £,У)3 = (С,Р-х-п,х-т У)р, (16-9)

^х, 1-п-х+т £,у)3 = (£, Р-\-п,1-п-\+2т у) р, (16-10)

где у Е О(Б). Обобщенные функции £ из £к (V) могут быть применены к указанным в (16.9), (16.10) преобразованиям Пуассона.

Мы можем явно указать действие преобразований Фурье из (16.9), (16.10) на обобщенные функции £ = ^х,г (у) из £к(V). А именно, имеет место следующая лемма.

Лемма 16.4. Пусть Ке Л Е 1к+1, пусть т,г Е {0,1,... ,к}. Тогда

Р'х,х-т ° Сх,т = 2 (—1)т т! Л1-n-x+m, (16.11)

Fx,x-m ° Сх,т = 0, т = г, (16.12)

Fx,1-п-х+т ° £х,т = 2 (— 1)тт!з(1 — п — Л + т), (16.13)

Рх,і-п-\+т ◦ £\,т = 0, т = г.

(16.14)

Доказательство. Оператор Р\,\-т о £х,г сплетает представления Т1-п-\+г с Т\-т, см. § 13 и § 14. Поскольку при т = г эти представления не эквивалентны, получаем (16.12). Теперь докажем (27.10). По (16.9) имеем

(РХ,Х-т £\т (ф),у)3 (С\,т(ф), Р-~\-,п,~\-т У) х>'

По (29.28) и (7.17) имеем

£\,т(Ф) = Ф • ё(т)(р) + (16.15)

где многоточие содержит производные дельта-функции меньшего порядка. Применяя

(16.15) к (16.7) с заменой Л на Л и вспоминая выражение (12.4) для меры dz, мы получим

(РХ,Х-т £Х,т(ф),У)Я = 2 -1)т т! ^, Л1-п-Х+т У)3.

Перебрасывая здесь оператор Л с у на ф, получим (16.11). Аналогично доказываются (16.14) и (16.13), здесь используется (16.8). □

Формулы (16.11) - (16.14) показывают, что отображения Р\,\-т и Р\1-п-\+т пространства (V), определенные сначала как отображения (V) —— Р'(Б),

на самом деле являются отображениями (V) — Б(£).

Поэтому операторы п\,т, т = 0,1,... ,к, см. (16.4), могут быть тоже распространены на Ек (V).

Определим пространство

Бк ф) = Б(Р) + £к (V).

Операторы п\,т, т = 0,1,... ,к, определены на этом пространстве.

Лемма 16.5. Пусть Л Є 1к+1. Оператор п\>т, т = 0,1,...,к, является оператором проектирования пространства Бк (V) на пространство У\,т, см.

§ 15.

Лемма следует из (16.13), (16.14).

Разложение (16.5) тоже распространяется с пространства Б(О) на пространство Бк(V). Для и Є £к(V) интеграл в (16.5) исчезает (в самом деле, оператор Р\, а о , т сплетает представления Т1-п-\+т с Та, а = (1 — п)/2 + ір, он равен нулю, поскольку эти представления не эквивалентны), так что (16.5) становится разложением обобщенной функции и Є £к (V) по ее проекциям в У\,т:

к

f = £ ПХ,т и).

т=0

Используя (13.25), мы получаем, что Бк(V) входит в область определения формы (■, -)х. В частности, мы имеем соотношения ортогональности:

(пх,т (1' ), пх,т (Ь))х Лт(Л) X, х-т!', FX, 1-п-х+тЬ) ^,

(пх,т (f), ПЛ, г (^х = 0, т = Г,

так что (16.6) есть "теорема Пифагора" для разложения (16.5).

Итак, в случае (В) мы имеем

Теорема 16.6. Пусть Л Е 1к+1, к Е N. Тогда пространство 0(0) должно быть пополнено до пространства Бк (V). На этом пространстве Бк (V) каноническое представление Ях распадается в сумму двух слагаемых: первое разлагается как Ях в случае (А), второе разлагается в сумму к+1 неприводимых представлений Т1-п-х, Т2-п-х, ..., Тк-п-х,. Жордановых клеток нет. А именно, сопоставим функции f Е Бк(V) совокупность {FX,af, )}, где а = (1 — п)/2 + 1р, т =

0,1,... ,к. Это соответствие С - эквивариантно. Функция f восстанавливается по формуле обращения (16.5). Кроме того имеется "формула Планшереля"

(16.6) для сформы (■, ■)х.

Для вещественных Л в интервале ((1 — п)/2,0) эта теорема дает разложение унитарных канонических представлений.

Случай (С): Л Е 1-к-1, к Е N.

Теперь мы продолжаем (16.1) из полосы Ке Л Е 10 налево. Здесь дополнительные слагаемые получаются из-за полюсов а = —Л — п — т и а = Л +1+ т, т = 0,1,... ,к, подинтегральной функции, это - полюсы преобразования Фурье Fx,a. Мы получаем

ж к

/ = / +ЁПх,т ^(16.16)

^ т=0

-ж

где интеграл обозначает правую часть (16.1) и

Пх,т ТТТ : : : Г Рх,х+1+т ° Ьх,т (16-17)

3(Л + 1 + т)

Оператор Пх,т является оператором, отображающим 0(0) на образ преобразования Рх,х+1+т. Его можно распространить на пространство %, (V), поскольку операторы Ьх,т, т = 0,1,... ,к, определен на этом пространстве. В частности, его можно применять к образам преобразований Рх,х+1+г, г = 0,1,... ,к (по лемме 32.3, где надо взять Л вместо — Л — п).

Лемма 16.7. Пусть Л Е 1-к-1, пусть т,г Е {0,1,... ,к}. Тогда

Ьх,т (Рх,х+1+т у) = 3 (Л + 1 + т) у, (16.18)

Доказательство. Оператор ЬЛ.т о РЛ.Л+1+, сплетает представления Т-\-п-г с Т—Л—п—т. Это дает (16.19). Для доказательства (16.18) применим ЬЛ.т к (16.8),

где надо заменить —Л — п на Л. Поскольку ЬЛ.т(/) = ат(/) + ... по (14.11), мы

получаем (16.18). □

Лемма 16.8. Операторы ПЛт, т = 0,1,...,к, являются операторами проектирования на образы преобразования РЛ.Л+1+т, т.е.

П2,т = Пл,т, (16.20)

Пл,т Пл,г = о, т = г. (16.21)

Доказательство. По (16.17) имеем

ПЛ,т ПЛ.’ Т7Т : I ' ч Г7Т ' I ' Г РЛ.Л+1+т о ЬЛ,т о РЛ.Л+1+, о ЬЛ,г.

] (Л + 1 + т) ] (Л + 1 + г)

Формулы (16.20), (16.21) получаются из (16.18), (16.19), соответственно. □

Лемма 16.9. Пусть Л Є 1—к—1. Для всякой функции / из Б(Р) ее коэффициенты Тейлора ат(/), т = 0,1,... ,к, точно такие же, как у суммы из (16.16), т.е.

к

ат(/) = ат Пл,г (/)) , т = 0,1,... ,к.

г=0

Доказательство. Сначала вычислим значения операторов Ьл.т на сумме из

(16.16). По (16.18) и (16.19) имеем

к

Ьл,т(^ ПЛ,г (/)) = ЬЛ,т (/), (16.22)

г=0

т.е. операторы Ьл.т имеют одно и то же значение на / и на сумме из (16.16).

С другой стороны, ЬЛ.т(/) выражаются через коэффициенты Тейлора ат(/) с помощью треугольной матрицы с единичной диагональю. Поэтому из (16.22) вытекает утверждение леммы. □

Теперь мы можем доказать лемму 14.3. Разложение Пл., (/) по степеням р имеет вид:

к—г

Пл,(/) = р’^ Фл+і+г» (Ьл, (/)) • р + о(рк),

»=0

мы использовали (16.17), (13.7), (7.19). Поэтому

k m

Щ, (f ^У\+1+т,т-т (Ьх,г (f ))•

r=0 r=0

Наконец, мы можем сформулировать итоговую теорему для случая (C).

Теорема 16.10. Пусть \ Е I-k-1, к Е N. Тогда каноническое представление R\, рассматриваемое на пространстве Tk+1(V), распадается в сумму двух слагаемых. Первое из них действует в подпространстве функций f таких, что am(f) = 0, m = 0,1, • • • ,к, и разлагается как R\ в случае (A) (в прямой интеграл представлений непрерывной серили). Второе действует на сумме образов преобразований Пуассона P\,\+1+m, m = 0,1,---,к, и разлагается в прямую сумму к + 1 неприводимых представлений T-\-n, T-\-n-1, • • •, T-\-n-k (образ каждого преобразования Пуассона - инвариантное подпространство).

Здесь нет жордановых клеток.

Что касается продолжения в полосу I-k-1 разложения (16.2), то полюсы подинтегральной функции, пересекающие путь интегрирования, оказываются полюсами второго порядка, так что добавочные слагаемые даются громоздкими формулами, мы их опустим.

Литература

1. Г. Бейтмен, А. Эрдейи. Высшие трансцендентные функции. Гипергеометрическая функция, функции Лежандра. М.: Наука, 1965.

2. Г. Бейтмен, А. Эрдейи. Таблицы интегральных преобразований. Том II.

М.: Наука, 1970.

3. И. М. Гельфанд, Г. Е. Шилов. Обобщенные функции и действия над ними.

М.: Физматгиз, 1958.

4. Л. И. Грошева. Преобразования Пуассона и Фурье, связанные с каноническими представлениями на комплексном гиперболическом пространстве. Вестник Тамбовского унив. Сер. Естеств. и техн. науки, 2004, том 9, вып. 1, 83-86.

5. Л. И. Грошева. Разложение канонических представлений на комплексном гиперболическом пространстве. Вестник Тамбовского унив. Сер. Естеств. и техн. науки, 2004, том 9, вып. 1, 86-88.

6. Н. Данфорд, Дж. Т. Шварц. Линейные операторы. Спектральная теория.

М.: Мир, 1966.

7. В. Ф. Молчанов. Гармонический анализ на однородных пространствах.

Итоги науки и техн. Сер. Совр. пробл. матем. Фундам. напр. / ВИНИТИ, 1990, том 59, 5-144.

8. V. F. Molchanov. Кергезе^а^опз of рзе^о-ип^агу gro^s associated with a cone. Lobachevskii Journal of Math., 1999, vol. 3, 221-241.