О множестве разреза на двухступенных свободных группах Карно Текст научной статьи по специальности «Математика»

ISSN 2079-3316 ПРОГРАММНЫЕ СИСТЕМЫ: ТЕОРИЯ И ПРИЛОЖЕНИЯ т. 9, №4(39), с. 319-360 УДК 517.977

А. П. Маштаков

О множестве разреза на двухступенных свободных

группах Карно

Аннотация. Рассматривается задача о субримановых кратчайших на двухступенных свободных нильпотентных группах Ли Такие группы также известны как группы Карно. Эта задача является модельной в субримановой геометрии и, в некотором смысле, простейшей из нерешенных на сегодняшний день задач. Несмотря на обильную группу симметрий, множество разреза известно лишь в случаях малой размерности п = 2, 3. В общем случае известна гипотеза Рицци—Серреса о множестве разреза. В статье выписаны уравнения геодезических, исследованы непрерывные симметрии гамильтоновой системы ПМП и предложен метод редукции гамильтоновой системы по симметриям. Приведена идея доказательства гипотезы 1^71—8еггез для общего случая. Случаи малой размерности п = 2, 3,4 изучены детально. Приведены изображения волновых фронтов, наглядно показывающие расположение точек разреза в размерностях п = 2, 3.

Ключевые слова и фразы: Субриманова геометрия, геодезические, кратчайшие, множество

разреза, группы Карно.

Введение

В данной статье рассматривается классическая задача субримановой (СР) геометрии, которая, несмотря на наличие обильной группы симметрий, остается не до конца изученной в общем случае. Более точно, рассматривается семейство задач о субримановых кратчайших на двуступенных свободных нильпотентных группах Ли Сп = Мп х 50 (п), параметризованное параметром п £ М, п > 2. Такие группы также известны как группы Карно, см. [1]. Известно, что для каждой заданной размерности п существует единственная субриманова структура на

Исследование выполнено за счет гранта Российского научного фонда (проект № 17-11-01387) в Институте программных систем им. А.К. Айламазяна Российской академии наук.

© А. П. Маштаков, 2018

© Институт программных систем имени А. К. Айламазяна РАН, 2018 © Программные системы: теория и приложения (дизайн), 2018

Сп, имеющая вектор роста

характеризующаяся тем,

что алгебра Ли левоинвариантных векторных полей на <С„ является нильпотентной ступени 2 (то есть все коммутаторы выше второго порядка равны нулю). Впервые такая задача была рассмотрена в работах [2,3]. Отметим, что такие структуры задают нильпотентную аппроксимацию [4] для широкого класса СР задач, возникающих в приложениях. Нильпотентная аппроксимация является простейшей структурой, локально приближающей исходную систему и сохраняющей свойство управляемости. Точная постановка задачи приводится в Разделе 2.

Субриманова геометрия [1] является быстро развивающейся областью математики, лежащей на пересечении дифференциальной геометрии, уравнений в частных производных, теории оптимального управления и вариационного исчисления, метрического анализа [5], теории групп и алгебр Ли, и других важных областей математики. Она имеет богатые приложения в механике [6-8], робототехнике [9], моделировании зрения [10,11], машинной графике [12-15] и т.д.

СР геометрия исследует геометрические характеристики субрима-новых структур, заданных тройкой (М, А, (•, •}}, где М — гладкое многообразие размерности ё1ш(М} = к, А С ТМ — распределение ранга т < к, (•, •} — скалярное произведение, заданное на распределении А. Заметим, что скалярное произведение (•, •} задает метрику £(•) = у/(•, •} на М, которая позволяет измерять длину допустимых (иначе говоря "горизонтальных") кривых 7 : [0, Т] ^ М, вектор скорости которых лежит в А: 7(2) € А.у^) для п.в. 2 € [0, Т].

В ситуации общего положения (т.е. при выполненном условии Хермандера [1]), теорема Рашевского-Чжоу [1] гарантирует, что любые две точки д и д' могут быть соединены допустимой кривой 7: 7 (0) = д, 7(Т} = д'. При этом длина кривой /(7) определяется стандартным способом /(7) = у/('у(г), 7(т)} ёт. Кривая минимальной длины среди всех таких 7 называется СР кратчайшей.

Одним из центральных вопросов СР геометрии является построение множества разреза (относительно заданной точки д € М). Множество разреза состоит из точек разреза д' — конечных точек СР кратчайших (выходящих из точки д) максимальной длины, то есть таких кратчайших, которые не являются куском другой кратчайшей. СР геодезической называется допустимая кривая, достаточно малые дуги которой являются СР кратчайшими.

Отметим, что в Евклидовом случае (М = Мк , п = к) кратчайшие являются прямыми линиями, оптимальными до бесконечности. В этом

случае геодезические являются кратчайшими, и множество разреза является пустым множеством. При этом максимальная длина любой кратчайшей равна бесконечности.

Ситуация меняется в случае римановой геометрии (п = к). Например, на двумерной сфере (М = «2) геодезические являются дугами больших окружностей, но кратчайшими являются только дуги длины не более чем половина экватора, см. напр. [16]. Интуитивно это соответствует тому факту, что если при движении из точки д в точку д' вдоль дуги большой окружности длина пути оказалась больше половины экватора, то изначально "выгоднее" двигаться из точки д в противоположном направлении. Здесь "выгоднее" означает, что при движении из точки д в противоположном направлении вдоль той же дуги окружности, точка д переходит в точку д' с длиной пути меньше, чем половина экватора. Таким образом, в случае римановой геометрии на сфере множество разреза (относительно точки д) состоит из одной точки (диаметрально противоположной д).

Случай сферы является простейшим случаем римановой геометрии с непустым множеством разреза. Если вместо сферы рассмотреть эллипсоид вращения, то ситуация усложняется. Карл Густав Якоб Якоби первым исследовал задачу о геодезических на эллипсоиде вращения, см. [17]. Он показал, что множество разреза на эллипсоиде вращения гомеоморфно отрезку. Также он установил наличие сопряженных точек, формирующих каустику.

Сопряженные точки характеризуется тем, что через них проходит огибающая к семейству геодезических. Известно, что отрезок геодезической не является кратчайшей, если он содержит сопряженные точки. Сопряженные точки играют важную роль в исследовании оптимальности геодезических, поскольку они дают верхнюю оценку на время разреза (время потери оптимальности). Однако для построения множества разреза знания одних лишь сопряженных точек как правило недостаточно. В ситуации общего положения, геодезическая теряет оптимальность в точке Максвелла, наступающей раньше первой сопряженной точки. Точкой Максвелла называется точка, в которую приходит две (или более) различных геодезических одинаковой длины, см. [18]. Заметим, что в случае сферы множество разреза совпадает с первой каустикой, однако уже на эллипсоиде вращения сопряженные точки наступают после точек разреза.

Ситуация еще более усложняется в случае субримановой геометрии (п < к). Уже для СР структур на К3 точки разреза вдоль геодезических,

выходящих из начала координат О, могут быть расположены в сколь угодно малой окрестности О, см. [19,20]. Отметим, что множество разреза для СР структур на группах Ли известно лишь в нескольких простых случаях: группа Гейзенберга ^ [3,21] (случай (2,3)); группа <С3 [22] (случай (3,6)); группы 80(3), 8И(2), 8Ь(2) с метрикой Кил-линга [23]; группа 8Е(2) [24], группа 8Н(2) [25], группа Энгеля [26], нильпотентные СР задачи ступени 2 коранга 2 [27].

В данной статье рассматривается задача, являющаяся модельной и в некотором смысле простейшей из нерешенных на сегодняшний день задач субримановой геометрии. В ней имеется значительная группа симметрий (вращения и растяжения), которая позволяет понизить размерность системы. Несмотря на это, попытки описания множества разреза в общем случае С„ пока увенчались лишь гипотезой Rizzi-Serres [28], доказанной при п = 2, 3.

Случай ^2 представляет собой хорошо известную задачу Дидоны — краеугольный камень СР геометрии. Эта задача, также именуемая субримановой задачей на группе Гейзенберга, была исследована в работах [3, 21]. В частности, было показано, что кратчайший допустимый путь между конечными точками в <&2 является сегментом винтовой линии, а его проекция на плоскость — дугой окружности. Такой сегмент винтовой линии перестает быть кратчайшим путем после того, как его плоская проекция начинает пробегать окружность второй раз. Субримановы сферы с центром в начале координат в этой модели имеют форму яблока с особенностями на полюсах. Случай ^2 подробно разобран в Разделе 3.1.

Случай <Сз исследован в работе [22]. Используя представление действия кососимметричной матрицы на вектор в виде векторного произведения, автору удалось описать замыкание множества разреза на <Сз как решение некоторого явно заданного уравнения. Случай <Сз подробно разобран в Разделе 3.2.

Статья имеет следующую структуру. Во введении происходит знакомство с ключевыми понятиями субримановой геометрии, приводится описание задачи, кратко рассказывается о ее истории, известных результатах и открытых проблемах. Раздел 1 содержит определения базовых математических понятий, используемых в статье. В разделе 2 определяется понятие двухступенной свободной нильпотентной группы Ли (Раздел 2.1); приводится постановка задачи и перечисляются ее известные свойства (Раздел 2.2); применяется принцип максимума Понтрягина (ПМП) (Раздел 2.3); исследуются непрерывные симметрии

(Раздел 2.4) и выписываются решения (Раздел 2.5) гамильтоновой системы ПМП; приводится гипотеза Rizzi—Serres о множестве разреза для общего случая <С„ (Раздел 2.6). Далее в Разделе 3 идет детальное рассмотрение случаев малой размерности п = 2, 3, 4. В Заключении приводится резюме проделанной работы, обсуждаются планы и перспективы дальнейших работ.

1. Математическая справка

В этом разделе приводятся определения используемых базовых математических понятий. Предполагается, что читатель знаком с такими понятиями как: группа, гладкое многообразие, касательное и кокасательное расслоение, дифференциал гладкого отображения. Определения этих понятий можно посмотреть, например, в [29,30].

Начнем с общих определений из математического анализа.

Определение 1. Гладким векторным полем на гладком многообразии М называется гладкое отображение X, ставящее в соответствие каждой точки д из М касательный вектор в д:

X : М ^ ТМ : д ^ X(д) € ТдМ.

В координатах векторное поле записываются X = ^"=1 ХД^д^. Таким образом, векторное поле X можно понимать как оператор дифференцирования функций на М. Оно является гладкими, если все компоненты Xi — гладкие функции. Далее мы всегда будем подразумевать гладкость многообразий и векторных полей. Значение векторного поля в точке д обозначается X(д).

Определение 2. Пусть задан диффеоморфизм ф : М ^ N многообразий М и N. Обозначим дифференциал ф в точке д € М через фФ,д : ТдМ ^ Tф(q)N. Пусть на М задано векторное поле X. Обозначим через ф,^ векторное поле на N, получаемое действием отображения ф на векторное поле X, заданное формулой

(ф,X)(ф(д)):= ф^(X(д)), Уд € М.

Теперь вспомним некоторые определения из теории групп Ли.

Определение 3. Множество О называется группой Ли, если О является гладким многообразием, снабженным групповой структурой, и групповые операции (умножение и взятие обратного элемента) в О гладкие.

В данной статье рассматриваются линейные группы Ли О, то есть такие группы Ли, элементы которых представляются обратимыми матрицами. В таком представлении единица группы М соответствует единичной матрице, групповая операция соответствует матричному произведению, а обратный элемент соответствует обратной матрице.

Определение 4. Алгеброй Ли называется линейное пространство с бинарной операцией [•, •], которая является билинейной, кососимметричной и удовлетворяющей тождеству Якоби.

Касательное пространство ТцО к линейной группе Ли О является линейным пространством. Более того, оно наделено дополнительной операцией, матричным коммутатором

[А, В ] = АВ - В А £ ТыО, А, В £ ТыО,

которая удовлетворяет условиям Определения 4. Таким образом, пространство ТцО с матричным коммутатором есть алгебра Ли.

Определение 5. Касательное пространство к группе Ли О в единичном элементе называется алгеброй Ли группы Ли О:

0 = ТМО.

Обозначим умножение слева на элемент д в О через Ьд : О ^ О : д' ^ дд'. Заметим, что Ьд является диффеоморфизмом О для каждого д £ О.

Определение 6. Векторное поле X на группе Ли О называется левоинвариантным, если для каждого д £ О выполнено (Ьд)*Х = X.

Любое левоинвариантное векторное поле X на группе Ли О однозначно определяется своим значением в единице. А именно, X удовлетворяет соотношению X(д) = Ьq^,X(М). С другой стороны, векторное поле заданное формулой X(д) = для некоторого

V £ ТцО является левоинвариантным. Таким образом алгебра Ли 0 изоморфна алгебре Ли левоинвариантных векторных полей на О.

Наконец перейдем к определениям, связанным с субримановой (СР) геометрией на группах Ли.

Определение 7. Путь О — группа Ли, О = к. Левоин-вариантной СР структурой на О называется левоинвариантное подрасслоение касательного расслоения Д С ТО ранга п < к, снабженное левоинвариантным скалярным произведением {•, •} на Д.

Субриманову структуру можно определить с помощью ортонорми-рованного репера Xi,..., Xn € Д С g:

Дq = span(Xi(q), .. .Xn(q)), (Xj(q),Xj (q)) = öj, = 1, ...n,

где q € G, а öj — символ Кронекера.

Определение 8. Субримановой кратчайшей (СР кратчайшей) называется липшицева кривая y : [0, T] ^ G такая, что Y(t) € Д7(() для почти всех t € [0, T], и длина кривой

l(Y)= Г V(Y(t),Y(t)) dt

J0

минимальна среди всех таких кривых, соединяющих две заданные точки y(0) = q0 и y(T) = q1.

Задачу поиска СР кратчайшей между двумя заданными точками называют СР задачей. Традиционный подход к решению СР задач основан на теории оптимального управления [31]. А именно, см. [29], СР кратчайшая дается решением задачи оптимального управления

(1) Y(t) = ui(t)Xi(7 (t)) + ... + Un(t)Xn(Y (t)),

(2) y(0) = q0, Y (T )= q1,

(3) 1(y) = J ^u?(t) + ... + un(t) d t ^ min.

Замечание 1. Критерий оптимальности — минимум, функционала субримановой длины 1(y) = fT VSn=i (t) d t может быть эквивалентно заменен на минимум функционала действия J(y) = i n=i u2 (t) d t . Переход от 1(y) к гладкому функционалу J(y) является стандартным приемом в исследовании СР задач, см. [29]. В силу неравенства Коши-Буняковского, минимизация 1(y) равносильна минимизации J(y), однако вычисления становятся проще при работе

с J(Y).

Определение 9. СР геодезической называется кривая на G, достаточно малые дуги которой являются СР-кратчайшими.

Заметим, что в случае левоинвариантных СР структур на группах Ли всякая геодезическая 7, выходящая из произвольной точки q0 € G, получается действием левого сдвига Lqo на соответствующую геодезическую y, выходящую из единичного элемента Id группы, т.е. 7(t) = Lqo y(t), поэтому достаточно ограничиться случаем q0 = Id.

В терминах теории управления, СР геодезические являются экстремальными траекториями задачи оптимального управления (1)-(3) и находятся как решение горизонтальной подсистемы гамильтоновой системы ПМП [29]. В этой статье рассматриваются только нормальные геодезические, т.е. удовлетворяющие ПМП в нормальном случае. Заметим, что условие Гоха [29] в СР задачах на <С„ влечет отсутствие строго анормальных геодезических. В силу теоремы единственности решения гамильтоновой системы с заданным начальным условием, СР геодезические на О однозначно определяются начальным значением сопряженных переменных (начальным ковектором). Несложно показать, что любая геодезическая допускает натуральную параметризацию (длиной дуги) ||7(£)|| = 1. Выбор натуральной параметризации геодезических эквивалентен сужению пространства всех возможных ковекторов £ Т*АО на поверхность уровня гамильтониана £ Н С Т^О.

Отображение, переводящее начальный ковектор £о и момент времени £ > 0 в конечную точку соответствующей нормальной геодезической 7(4), называется экспоненциальным отображением в задаче оптимального управления:

Ехр(£о,£) = 7(4), £о £Н, I > 0.

Определение 10. Точка, в которой СР геодезическая 7 теряет оптимальность называется точкой разреза вдоль 7. Соответствующей момент времени называется временем разреза

¿с«((7) := вир{£ > 0 | 7 оптимальна на [0,4]}.

Заметим, что поскольку СР геодезические на О однозначно определяются начальным значением ковектора £о £ Н, время разреза иногда удобно задавать как функцию от начального ковектора:

tcut(£0) := вир{£ > 0 | 7(4) = Ехр(£о,£) оптимальна на [0,4]}.

Определение 11. Множеством разреза (относительно точки до £ О) называется объединение точек разреза вдоль всех возможных СР геодезических, выходящих из точки до £ О

Сиу (О) := {7(^^(7)) | 7 геодезическая, 7(0) = до}.

В силу левоинвариантности, множество разреза Си^о (О) имеет вид Сиу (О) = Ьдо Си^(О), где Си^(О) обозначает множество разреза относительно единичного элемента М. Альтернативное определение

через экспоненциальное отображение имеет вид

Си^(О) := {Ехр(£о,^(Со)) | Со £ Н}.

Определение 12. Множество конечных точек всех геодезических, выходящих из заданной точки до £ О, за время Т > 0 называется волновым фронтом 'радиуса Т (относительно точки до):

:= { 7(Т) | 7 геодезическая, 7(0) = до} .

В терминах экспоненциального отображения, волновой фронт радиуса Т > 0 относительно М определяется

ШТ := { Ехр(Со, Т) | Со £Н} .

Определение 13. Часть волнового фронта, состоящая из конечных точек (только) оптимальных геодезических, называется субримановой сферой.

Определение 14. Критические значения экспоненциального отображения Ехр называются сопряженными точками (относительно 1ё). Момент (первого) вырождения называется (первым) сопряженным временем. Объединение всех (первых) сопряженных точек называется (первой) каустикой:

K(G) Exp(£o,tco„j)

Co е T;dG, det(dExp)|(5oji_j) =0,

Vt е (0,tco„j) : det(dExp)|(5o T} = 0

Геометрически, сопряженные точки характеризуются тем, что через них проходит огибающая к семейству геодезических.

2. Оубриманова задача на двухступенных свободных нильпотентных группах Ли

2.1. Двухступенные свободные нильпотентные группы Ли

Группа Ли G на пространстве Rk называется двухступенной нильпотентной группой Ли ранга n, если ее алгебра Ли разлагается в прямую сумму подпространств, таких что

(4) 0 = 01 © 02, [01, 0l] = 02, [01, 02] = [02, 02] =0, где dim 01 = n, dim 02 = k — n.

Группа Ли О снабжена левоинвариантной СР структурой, индуцированной выбором скалярного произведения (•, •} на подпространстве 01. Рассмотрим базис левоинвариантных векторных полей 0, т.ч.

(5) 01 = врап(Хь...,Хп), #2 = врап(Уь ... ,Ук—п),

где {Х1,.. . Хп} задает ортонормированный репер для (•, •} на подпространстве 01. В этом базисе соотношения (4) принимают вид

(6) ![Х Хз] = ^г=1П с3 ^ с3 = —3 ь ^ = 1,..., та,

\[Х',У^-] = [У*,У-] =0, г = 1,... ,п, = 1,...,к - п.

Рассмотрим семейство кососимметричных матриц {С1,..., Ск—п}, составленных из структурных констант (с-) алгебры Ли по правилу С; = ), 1 = 1,...,к — п, и соответствующее подпространство кососимметрических операторов на 01, представленное линейной комбинацией этого семейства матриц

С := врап(Сь ..., Ск—п) С 50(01).

В данной статье рассматриваются двухступенные свободные нильпотентные группы Ли <С„ ранга п, то есть такие группы, что их алгебра Ли не имеет других соотношений кроме (6). Для них выполнено С = 50(01) и матрицы С; = (с3), 1 = 1,..., к — п, образуют базис С.

Алгебра Ли 0 представляется семейством векторных полей на Мк = Мп © Мк—п (используя координаты (х, г) € Мп ® Мк—п)

(7)

к—п

3=1 ;=1

У = , 1 = 1,...,к -

Для свободной группы Ли Сп выполнено

к = ""+1). в этой

ситуации пространство Мк = Мп ® Мк—п удобно представить в виде Мк = Мп ® (Мп Л Мп). Далее мы всегда будем использовать это представление и обозначать Сп := Мп ® Л2Мп. Пространство Л2Мп отождествляется с пространством 50 (п) кососимметричных матриц

т т

V Л т = V ® т — т ® V ,

где v,w € Мп, а операция ® означает произведение Кронекера.

Обозначим ц = (х, у) € Сп, х € Мп, у € 50 (п). Используя канонический базис {Е;т}к;<т<п для 5о(п), кососимметричная матрица у разлагается у = ^;<т Угт£;т.

1

Базисные левоинвариантные векторные поля Хг принимают вид

Хг = дхн - (ег Л х)1тду1т, г = 1,...,п,

(8)

Хг] := дуц, 1 < г<. < п,

где {в1,..., еп} — стандартный базис М".

Для всех г < . выполнено [Хг, X] ] = дy¿j. В частности, векторные поля (8) образуют алгебру

0 = 01 Ф 02, 01 =врап(Хь...,Х„), 02 = 8рап(ду^. )г<.

Существует единственная структура группы Ли на М" Ф Л2М" такая, что векторные поля Хг являются левоинвариантными. Групповая операция для нее имеет вид

Ь(ж,у)(х', у') = (х + х',у + у' + х Л х'). 2.2. Задача оптимального управления

Задача поиска субримановой кратчайшей между двумя заданными точками на &п формулируется в виде задачи оптимального управления

(1)-(3).

Заметим, что в силу левоинвариантности, решение для произвольных до, д1 £ получается действием левого сдвига на решение, выходящее из единицы группы О = {х = 0, у = 0}, поэтому без ограничения общности достаточно рассмотреть случай до = О.

Эта задача формулируется как задача оптимального управления

(9) ( х = и, х, и £ М", [ у = х Л и, у £ во(п),

(10) х(0) = у(0) = 0, х(Т) = х1, у(Т) = у1,

ГТ " 2 (

(11) 3 (7) = / ]

о

и (г) , х ё г ->• шт,

о ^ 2

где граничные значения х1 , у1 заданы, а искомые управления и1 , . . . , и" — вещественнозначные функции из класса Ьто(0,Т).

Традиционный подход к задаче (9)—(11) состоит из этапов:

(1) Доказательство существования СР кратчайших;

(2) параметризация СР геодезических с помощью ПМП;

(3) выбор СР кратчайших среди СР геодезических с помощью условий оптимальности второго порядка и детального изучения структуры семейства СР геодезических.

В задаче (9)-(11) первый пункт является стандартным следствием теоремы Рашевского-Чжоу и теоремы Филиппова [29]. Второй пункт является известным результатом. Впервые корректное интегрирование гамильтоновой системы ПМП было выполнено в работе [32]. Заметим, что условие Гоха влечет отсутствие строго анормальных геодезических, поэтому достаточно исследовать только нормальный случай ПМП. Далее в этом разделе мы проделаем этот пункт в наиболее простом виде. Третий пункт является важной открытой задачей, привлекающей интерес многих ученых. Проблема состоит в том, что, несмотря на наличие обильного набор симметрий и относительную простоту выражений для геодезических, время разреза в общем случае остается неизвестным. Полное решение задачи получено лишь в случаях малой размерности п = 2, 3 [3, 21, 22,33]. Для произвольного п в работе [28] сформулирована гипотеза о структуре множества разреза. Идея доказательства гипотезы приводится в данной статье, однако формальное доказательство (или опровержение) для различных п > 4 требует аккуратного анализа и пока остается открытым.

2.3. Применение принципа максимума Понтрягина

Управляемая система (9) записывается через X' в виде

(12) 7 = иЛ + ... + ИпХп.

ПМП [29] является необходимым условием оптимальности в задачах оптимального управления. Применим ПМП для системы (12) с критерием оптимальности (11). Условие Гоха [29] влечет отсутствие строго анормальных экстремалей, поэтому достаточно ограничиться рассмотрением нормального случая ПМП.

Введем левонивариантные гамильтонианы Л', линейные на слоях кокасательного расслоения

Л = (А,X'}, = (А,ХУ}, Л € Т*Сп.

Здесь (•, •} означает стандартное действие ковектора на вектор.

Функция Понтрягина Ни в нормальном случае имеет вид

Н„ = «1^1 + ... + ИпЛп — 1 («1 + ... + «п) .

Условие максимума дает выражение для экстремальных управлений И' = Л' и гамильтониана Н = шах„екп Ни

(13) н =1 (л2 +... + лп).

Горизонтальная часть гамильтоновой системы ПМП получается подстановкой экстремальных управлений в систему (12):

(14) 7 = Н1Х1 + ... + й„Х".

Теперь выведем уравнения для вертикальной части гамильтоновой системы ПМП, используя формализм скобок Пуассона, см. [1].

Напомним, что по определению скобки Ли между левоинвари-антными векторными полями удовлетворяют соотношениям

Х]] = Хг], [Xi, Х]к] = 0 [Хг], Хк1] =

В левоинвариантных задачах, структура скобок Ли совпадает со структурой скобок Пуассона для левоинвариантных гамильтонианов:

{Нг, Н] } = р] , {р]к , М = 0, {рг] , рк|} = 0. Дифференцируя Нг, г = 1,..., п, вдоль экстремалей, получаем Н1 = {Н1, Н} = Н2Р12 + Н3Р13 + ... + Н"Р1", ^2 = {Н2, Н} = Н1Р21 + Н3Р23 + ... + Н"Р2",

hn = {hn, H} = hiPnl + ^2Р„2 + ... + h„-ip„ (n-1).

Дифференцируя pij, 1 < i < j < n, вдоль экстремалей, получаем

1 n n

pij = {Pij, H} = 1 {Pij , ^ hk } = ^ hk {Pij, hk } = fc=1 fc=1

Вводя обозначения

h := (h1,. .., hn)T € Rn, p := (pij) G so(n),

приходим к следующему утверждению.

Утверждение 1. Нормальная гамильтонова система ПМП для двухступенных свободных нильпотентных групп Ли имеет вид

\ x = h, J h = ph,

(15) \y = x Л h, \p = °.

(горизонтальная часть) (вертикальная часть)

2.4. Непрерывные симметрии гамильтоновой системы ПМП

СР структуры на двухступенных свободных нильпотентных группах Ли обладают большим набором симметрий, а именно они инвариантны

относительно вращений и неоднородных растяжений. Это важное свойство формализуется в виде следующих утверждений.

Утверждение 2. Гамильтонова система (15) инвариантна относительно действия группы ВО(п) Э Д :

(х, у, Л, р) ^ (Дх, ДтуД, ДЛ, ДтрД).

Доказательство. Требуется проверить, что динамика (15) сохраняется при замене переменных

х = Дх, у = ДуДт, Л = ДЛ, р = ДрДт.

Действительно,

X = ДХ = ДЛ = к,

у = ДуДт = Д(х Л Л)ДТ = (Дх) Л (ДЛ) = X Л Л, Л = ДЛ, = Д(рЛ) = Д(ДТ рД)Л = рДЛ = рЛ, р = Др = 0.

В этом выводе мы использовали ассоциативность матричного умножения, свойство внешнего произведения Д(у Л и>)Дт = (Ду) Л (Ди>) и ортогональность матрицы Д: Дт = Д-1. □

Утверждение 3. Гамильтонова система (15) инвариантна, относительно действия группы растяжений Б = {Б^ | к > 0}, где

Вк:

(х, у, Л, р) ^ (кх, к2у, кЛ, р), к > 0.

Доказательство. Требуется проверить, что динамика (15) сохраняется при замене переменных

х = кх, у = к2у, к = кЛ, р = р.

Действительно,

х ^ кх ^ кЛ ^ к,

у = к2у = к2(х Л Л) = (кх) Л (кЛ) = х Л к, Л = кЛ- = к(рЛ) = р(кЛ) = кк, р = /р = 0.

Итак, мы показали что (15) остается неизменной при действии Б^. □

2.5. Интегрирование гамильтоновой системы ПМП

Выпишем явные формулы для СР геодезических на двухступенных свободных нильпотентных группах Ли. СР геодезические являются решением горизонтальной части гамильтоновой системы (15).

Вначале проинтегрируем вертикальную подсистему. Обозначим (Ло,ро) € Кп х во(п) начальные значения ковектора (Л(0),р(0)). Уравнение р = 0 означает, что матрица р постоянна: р(£) = ро. Уравнение Л = рЛ задает систему линейных дифференциальных уравнений с постоянными коэффициентами на компоненты Л. Решение находится в виде матричной экспоненты = еРо4Ло. Заметим, что компоненты в явном виде записывается как линейная комбинация функций вт(А'£), еов(А'£) и 1, где А', г = 1,..., |_п/2] — собственные значения матрицы ро, см. [32]. Мы не будем их здесь приводить ввиду громоздкости формул и ограничимся компактным представлением в виде матричной экспоненты.

Напомним, что мы рассматриваем геодезические, выходящие из начала координат х(0) = у(0) = 0. Теперь, зная решение вертикальной подсистемы, решение горизонтальной части сводится к элементарному интегрированию

Замечание 2. В силу инвариантности относительно 8О(п), см. Утверждение 2, выбором подходящего вращения Д можно зафиксировать начальный ковектор Л(0) = (1, 0, .. ., 0). Такое упрощение избавляет от необходимости вычислять матрицу еРоЯ целиком, поскольку становится достаточно вычислить ее первый столбец.

2.6. Гипотеза о множестве разреза

Несмотря на наличие обильного набора симметрий и относительную простоту выражений для СР геодезических на двухступенных свободных нильпотентных группах Ли, время разреза в общем случае остается неизвестным. Также неизвестным остается множество разреза Си!;о(Сп)— множество точек в <Сп где геодезические теряют оптимальность.

(16)

ГИПОТЕЗА 1 (Rizzi-Serres, [28]). Множество разреза Си!;0(Сп) состоит из неподвижных точек (ж, у) € М" е л2М" = <с„ нетривиальных ортогональных преобразований Д € О(п), тождественно действующих на подпространстве кегу:

С := {(ж,у) € | у = 0, ЗД € О(п) : ^ Д^Дт!^ } .

Здесь 1 обозначает тождественное преобразование

Далее будет предложен метод сводящий доказательство гипотезы к вопросу существования корней заданной системы уравнений. Перед этим сформулируем следующее вспомогательное утверждение.

ЛЕММА 1. Пространство 50(п) Э у представляется кососиммет-рическими матрицами. Выбором подходящего вращения Д € ЯО(п) любая матрица (у^-) € 50(п) может быть приведена к блочно-диаго-нальному виду

... 0 \ : ... : 0

0 ... Jm.

(^) = Д (уу )ДТ

Ол

\ 0 ... Оп-2т )

где Ог = {0}, 1 € {1,..., (п — 2т)}, (п — 2т) =ё1шкег(у.у) > 0; матрицы 1 €{1,т}, имеют вид J; = ^ ^ ^' где € М — модуль 1-го

собственного значения матрицы (у^-).

Доказательство. Поскольку матрица (у^-) подобна своей транспозиции (у^-)Т = — (уг^-), то они должны иметь одинаковые собственные значения. Отсюда следует, что собственные значения (у^-) всегда попадают в пары ±2 (за исключением нечетномерного случая, когда имеется дополнительное непарное нулевое собственное значение). Утверждение является стандартным фактом из теории матриц, см. например [34, ур. 2], и следует из спектральной теоремы для вещественных кососимметрических матриц, которая утверждает что отличные от нуля собственные значения г являются чисто мнимыми и, следовательно, имеют вид ¿21, —¿21,..., ¿2т, — ¿2т, где гг € М. □

0

Со € Hn С ZqG„, Hn — < Со €

Идея доказательства Гипотезы 1. Пусть Gn — Rn х so(n). Напомним, см. Опр. 11, что множеством разреза называется объединение точек разреза вдоль всех возможных СР геодезических y(t), выходящих из O — {x — 0, y — 0} € Gn:

Cuto(Gn) :— {y(íc«í(y)) | Y оптимальная геодезическая, y(0) — O}.

В силу ПМП, см. Раздел 2.3, любая СР геодезическая y(í) на группе Gn является решением горизонтальной части гамильтоновой системы (15) с заданным начальным ковектором Со — (ho,po) € Hn:

Y(t) — Exp(Co,t),

где Exp(Co,t) — экспоненциальное отображение, переводящее ковектор Со €Hn С Tg и момент времени t > 0 в конечную точку геодезической y(í) — (x(t),y(t)), а множество Hn определено далее.

Заметим, что в силу гамильтоновой системы (15) начальный ковектор Co € Tg Gn должен лежать на поверхности уровня Гамильтониана H(Co) — 2 ЕГ=1 h,?(0) — 2, см. (13):

H(Co) — 1} ^ Sn-1 х so(n).

Обозначим teMÍ(Co) момент потери оптимальности (время разреза) для геодезической Y(t) — (x(t),y(t)) с начальным ковектором Co € Hn:

tc«í(Co) :— sup{t > 0 | Y(t) — Exp(Co,t) оптимальна на [0,t]}.

Обозначим Wt волновой фронт на Gn радиуса t > 0, см. Опр. 12,

Wt :— {Exp(Co,t) | Co €H„,t > 0} С Gn.

Обозначим Cut o Gn множество разреза на Gn относительно точки O — {x — 0,y — 0}, см. Опр. 11, CutoG„ — {Exp(Co, WCo)).

Ввиду отсутствия строго анормальных геодезических можно показать, что множество разреза является множеством точек первого самопересечения волнового фронта при всех t > 0. Это утверждение характеризует точки разреза в Gn тем, что они соединены с O двумя (или более) различными СР кратчайшими:

(17)

па Cut G ^ qf — C a%¡ : íExp(Co,t1) — Exp(Co ,t1) — q € Cut o Gn ^ =14 o — C o € Hn : i w, /n , ч „ , „ .4

iVt € (0,t1) : Exp(Co,t) — Exp(Co,t)

Теперь, когда все определения даны, выполним несколько упрощений, опираясь на знание симметрий системы (15), см. Раздел 2.4.

I) Рассмотрим отображение, переводящее множество начальных ковекторов £о в конечные точки СР геодезических единичной длины:

Ехрл : Н„ ^ С„ : £о ^ (ж1, у1) = Ехр(£о, 1) С <С„.

Множество = {Ехрл(£0) | £о € Нп} С Сп задает волновой фронт единичного радиуса. Исходя из сказанного выше, заключаем, что множество разреза на волновом фронте Шл имеет вид

г- ^ =,с ис ^ и ЕхР1(ео)=ЕхР1(ёо), 1

1с«4(4о) = (4о) = 1 I

В силу Утверждения 3, Си^(С„) является объединением орбит

В:

точек разреза Си^(С„) под действием группы симметрии растяжения

(18) Сп^(<С„) = В Си^(<С„).

Таким образом, используя симметрию растяжения, мы показали, что задача исследования Си^(<С„) сводится к Си^(<С„), то есть к исследованию точек разреза вдоль геодезических единичной длины.

II) Воспользуемся вращательной симметрией Д € ЯО(п), см. Утверждение 2, и приведем систему (15) к простейшему виду.

В силу Леммы 1, выбором подходящего вращения Д € £0(3) матрица р € 50(п) приводится к блочно-диагональному виду

\

0

0 )

где т — число ненулевых собственных векторов матрицы р, а А; — модуль 1-го собственного значения.

( 0 —А1 А1 0

Л = ДрДТ =

0 -Ат

0

0 ... 0 ...

0

0

А

0

т

0

Таким образом, гамильтонова система (15) принимает вид

(19)

X 1 = hi,

X 2 = h-2,

X2m-1 = h-2m-1

X 2m h2m

X 2m+1 = h

2m+1,

x n hn,

^ij xi h j h j Xj

h 1 = —A^, h 2 = A1h1,

h2m-1 = — Amh2m h2m = Amh2m-1, h 2m+1 = 0,

h n = 0,

Ai = 0.

В силу теоремы единственности решение 7(t) = (X(t),y(t)) системы (19) однозначно определяется n + m начальными значениями h1(0), ..., hn(0), A1, ..., Am. Таким образом, факторизация вертикальной подсистемы системы (15) по вращательной симметрии R позволяет существенно понизить размерность начального ковектора Со = (hо,р) € Hn с ^n(n2+1) — 1 j до (n — 1 + m) < (n — 1 + [ППJ). Здесь мы так же использовали h(0) € Sn-1.

Напомним, что геодезические 7(t) = (x(t),y(t)) в общем случае находятся x(t) = RTX(t), y(t) = RTy(t)R. Заметим также, что собственные значения матрицы y(t) остаются неизменными при действиях R € SO(n) и могут быть использованы, в качестве инвариантных координат z в образе Exp на факторпространстве so(n)/SO(n).

III) Теперь вернемся к исследованию структуры множества разреза Cut 0 (Gn). Предположим, что hj(0) = 0. Заметим, что в случае Aj = 0 проекция геодезической Y(t) на плоскость (X^X^) является прямой линией, оптимальной до бесконечности. В силу непрерывности субрима-нова расстояния и гладкости Exp заключаем, что геодезическая 7(t), соответствующая значениям Aj из достаточно малой окрестности нуля, оптимальна при t € [0, t1 ], t1 > 1, то есть

II AM < е ^ WY) > 1.

Таким образом, мы приходим к необходимому условию того, что Y(1) не является конечной точкой оптимальной геодезической:

(20)

WY) < 1 ^ IIA| > е.

Это рассмотрение означает, что А, соответствующие геодезическим 7(2) оптимальным при 2 € [0,1], надо выбирать из некоторой окрестности начала координат.

Возвращаясь к общему случаю ж(£) = ДТж(£), у(2) = ДТу(£)Д заметим, что точка разреза может появиться как неподвижная точка вращательной симметрии Д. Отметим, что такие точки удовлетворяют условию гипотезы. Для окончательного доказательства гипотезы требуется проверить, что экспоненциальное отображение инъективно до момента времени, когда конечная точка соответствующей геодезической становится неподвижной точкой вращательной симметрии. Это требует аккуратного анализа уравнений для конкретного п. □

В заключении раздела приведем еще одно важное наблюдение.

Утверждение 4. Геодезическая 7(2) = Ехр(Ло, А, 2) является оптимальной до бесконечности ¿си4(7) = ^ ||А|| = 0.

Доказательство. Интегрируя гамильтонову систему ПМП (19) при ||А|| = 0, находим что решение дано прямой линией с направляющим вектором Л-о € £"-1. Заметим, что прямые линии оптимальны до бесконечности. Это следует из соотношения ¿(а, 6) > ¿кп (а, 6) между субримановым и евклидовым расстояниями. □

3. Частные случаи малых размерностей

В этом разделе идет детальное рассмотрение случаев малой размерности п = 2, 3,4.

3.1. Случай (2,3). Группа Гейзенберга

Случай (2,3) представляет собой субриманову задача на группе Гейзенберга С, также известную как задача Дидоны, и имеет богатую историю. Случай (2,3) является полностью исследованным: для него получено явное выражение для времени разреза, изучено множество разреза и построен оптимальный синтез. В данном параграфе собраны основные результаты по этой задаче.

Геометрически задача ставится следующим образом: для заданных точек А и В на плоскости требуется найти кривую 7 минимальной длины такую, что фигура, ограниченная кривой 7 и отрезком АВ имеет заданную алгебраическую площадь £ (при обходе по замкнутому контуру 7 и АВ в положительном направлении, см. рис. 1).

>в Дано А,Ве М2

s,<„/ Требуется

s = T.,s,. 0'

Jr

Рис. 1. Геометрическая интерпретация случая (2,3)

Решением задачи Дидоны являются дуги окружностей, а их подъем в М3, где третья координата представляет собой площадь фигуры, ограниченной дугой и опорной хордой, является винтовыми линиями.

Сформулируем эту задачу в виде задачи оптимального управления на группе Гейзенберга ©2. Обозначим (ж1,ж2,у) € Требуется найти липшицеву кривую 7 : [0, Т] ^ ©2, такую что

7(2) = «1 (4)^1(7(¿))+М2(^)х2(7(2)), (управляемая система)

(21)

7 (0) = q0, ) = q1, l(q) = J + u2(t) dt ^ min,

(граничные условия) (критерий качества)

где д0, д1 € ©2 заданы; XI = — Х2ду и Х2 = дХ2 + — левоинвари-антные векторные поля на ©2; управления «1, « — вещественнозначные функции из класса Ьто(0,Т).

В силу неравенства Коши-Буняковского, минимизация функционала СР длины I равносильна минимизации функционала действия

,т

(22)

J(q) = /0 2 («Kt)+ ua(t)) dt ^ min.

Переход от l к гладкому функционалу J является стандартным приемом в исследовании субримановых задач, см. [29]. При таком переходе вычисления становятся проще. Далее мы всегда будем рассматривать задачу J(q) ^ min.

Замечание 3. Компонента y(T) является удвоенной площадью плоской фигуры, ограниченной замкнутым контуром

(7 = {(x(t),y(t)) 11 е [0,T]}) и (AB = {Т(x(T),y(T)) | Т е [0,1]}).

Такой выбор y обусловлен тем, что векторные поля Xi и X2 имеют наиболее простой вид (не содержат множителя i перед dy).

Применение ПМП, см. Раздел 2, дает следующую гамильтонову систему для экстремальных траекторий:

' x i = hi, (h 1 = h2h3,

(23) ^ x¿2 = h2, < h2 = -hih3, ,y = xih2 - X2hi. Ih3 = 0.

(горизонтальная часть) (вертикальная часть)

Легко проверить, что при h.3 = 0 решением являются отрезки прямых линий (xi(t),X2(t), y(t)) = (hi(0)t, h2(0)t, 0). При h.3 = 0, используя натуральную параметризацию t = Z(y(í)) ^ hi + h2 = 1,

hi = cos a, h2 = sin a, a G R/2nZ для экстремальных траекторий, получаем следующее решение:

'xi(t) = БЗ (sin(a) - sin (a - h3Í)), (hi(t) = cos (a - th3),

(24) ^X2(í) = (cos (a - h3t) - cos(a)), <h2(t)=sin(a - th3), y(t) = hih(sin(h3t) - h3t). Ih3 = h3(0).

Заметим, что в общем случае (xi(t),x2(t) является дугой окружности,

/ sin(a) cos(a) \

проходящей через начало координат, с центром в точке ( ;,--) и

радиусом hi, а y(t) выражается хорошо известной формулой удвоенной площади кругового сегмента.

На рис. 2 изображен волновой фронт — множество конечных точек всех геодезических заданной длины. Внешняя часть волнового фронта до точек самопересечения (точек разреза) образует СР сферу — множество конечных точек оптимальных геодезических. Заметим, что в точках самопересечения волновой фронт не является гладким, и СР сфера является поверхностью вращения, напоминающей по форме яблоко. Несложно проверить, что множество разреза совпадает с первой каустикой и является осью Oy с выколотой точкой — началом координат. Геодезические в случае h.3 = 0 (прямые на плоскости Oxi^) оптимальны до бесконечности. Геодезические в общем случае h.3 = 0 (витки спиралей) теряют оптимальность после первого полного витка. Таким образом, время разреза наступает, когда геодезическая приходит на ось Oy. Используя (24), находим

2П

tcut = min{t > 0 | xi(t) = X2(t) =0} = —г.

|h3|

Рис. 2. Волновой фронт и геодезические в задаче (2,3)

Теперь покажем, как за счет вращательной симметрии SO(2) можно свести задачу (2,3) к почти римановой задаче на плоскости Грушина, и тем самым понизить размерность с трех до двух. Для наглядности повторим Утверждение 2 в случае G и убедимся, что система (23) действительно сохраняется при вращении в плоскости Ox

(cosф — sinф 0 \ sinф cos ф 0 € SO(2), 0 0 1 /

q = (Xi,X2,y)T = ñ^(xi,X2,y)T, h = {hi1h,21h3j = Яф(Ь,\, h-2, h3)T.

Дифференцируя q(t) и h(t) в силу системы (23), находим

X1 = h1, i hi = h2h3,

X2 = h2, < h2 = —h1h3,

У = Xih2 — X 2 hi. [h 3 = 0.

Таким образом, гамильтонова система не меняется при переходе к новым координатам q, h, следовательно вращение Дф является симметрией системы (23).

Теперь, чтобы понизить размерность, выберем представителя

на каждой орбите вращательной симметрии. Для простоты будем выбирать такого представителя из плоскости Ож1у, то есть для которого Х2 = 0. Из условия Й0 (ж1, Х2, у)Т = (¿1, 0, у)т найдем соответствующее значение угла вращения ф:

соэ ф = —, эш ф =--2, где г = ¿2 + ¿2.

¿2 г

Обозначим полученное отображение через Р : М3 ^ .

Р :

¿1 у

_ ( ¿1/г ¿2/г 0 0 0 1

¿1

¿2 У

«фР :

¿1 у = У

г,

и подействуем Р на векторные поля Х1, Х2:

"¿2 у

р X = ( ¿1/г ¿2/г 0

0

0

1

— I

РХ2

¿1/г Ж2/г 0 0 0 1

0 1

¿1

¿1/г -¿2

¿2/г ¿1

Выбирая представителями на орбите вращения векторные поля в плоскости Ож1у (то есть ¿2 =0 и следовательно ¿1 = г), получаем следующие векторные поля редуцированной системы:

У := РАи=о = (1, 0)т, У := РЛ^о = (0,г)т.

Таким образом, (21) сводится к задаче на плоскости (г, у)

(25)

г(£) = Ы1(г), г(0)=0, г(Т)= г1,

уУ(^) = «2(*)г(*), у(0)=0,у(Т)= у1,

/• т 1 ./о 2

Задача (25) является классическим примером почти римановой задачи [4]. Плоскость М2, снабженная метрикой ё I2 = ё г2 + -1 ё у2, порождаемой полями У1, У, называется плоскостью Грушина. Задача (25) называется почти римановой задачей на плоскости Грушина в честь В.В. Грушина, первым исследовавшим аналитические свойства оператора Ь = У? + У22 = д- + г2ду [35]. Термин "почти риманова" используется в случаях, когда риманова метрика является вырожденной в некоторых точках. На плоскости Грушина вырождение происходит на прямой г = 0.

точка разреза

Рис. 3. Геодезические, волновой фронт и сфера на плоскости Грушина

Применение ПМП [31] к задаче (25) в канонических координатах (г, € Т*М2 (называемых также координатами Дарбу) дает

следующую гамильтонову систему, определяющую почти римановы геодезические на плоскости Грушина:

Р1, /р! = -Р2г,

(26) \у = Р2Г2, \р2 =0

2,

(горизонтальная часть) (вертикальная часть)

с гамильтонианом Н(г, у,Р1,Р2) = 2 (р2г2 + Р?) .

Нормальные геодезические, параметризованные длиной дуги, являются проекциями на плоскость (г, у) решений системы (26), лежащих на поверхности уровня Н = ! .В силу начального условия г(0) = у(0) = 0 существуют два семейства таких траекторий, заданных начальными значениями р1(0) = ±1, Р2(0) = € К

] г(*) = ±*, у(*)=0, при = 0,

(27) г(*) = ±, „(*) = , при Р0 = 0.

Почти римановы геодезические на плоскости Грушина получаются из СР геодезических на группе Гейзенберга ^ редукцией по вращательной симметрии. Геодезические и волновой фронт в задаче (25) изображены на Рис. 3. Множеством разреза является прямая г = 0 с

выколотой точкой — началом координат. Время разреза равно

п

tcut = | о .

Таким образом, мы показали как задача (21) сводится к задаче (25) меньшей размерности. Далее покажем, как можно еще уменьшить размерность за счет симметрии растяжения.

Несложно проверить, что система (21), а значит и (25), см. Утверждение 3, обладает симметрией — неоднородным растяжением

: (г, у,Р1,Р2) ^ (кг, к2у, кр1,р2), к > 0.

В отличие от вращательной симметрии, ^ не сохраняет параметризацию геодезических — скорость движения вдоль геодезических изменяется в к раз

^ (Н ) = 1 (р2к2г2 + к2р2) = к2н.

Этот факт означает, что полное исследование задачи не может быть сведено к одномерному случаю, как это было сделано при использовании вращательной симметрии Д^. Однако все же некоторые важные характеристики для исходной задачи могут быть получены. В частности, наличие симметрии растяжения означает, что сферы разных радиусов имеют одинаковую форму и переходят друг в друга под действием а значит множество разреза является объединением орбит всех точек разреза на сфере фиксированного радиуса.

Заметим, что действие ^ оставляет инвариантными подпространства у > 0, у< 0 и у = 0, следовательно, чтобы выполнить редукцию задачи (21), требуется выбрать по одному представителю из каждого инвариантного подмножества. Прямая у = 0 не представляет интереса, поскольку геодезические являются прямыми линиями, оптимальными до бесконечности. Случай у < 0 симметричен случаю у > 0, они переходят друг в друга при смене знака Таким образом, достаточно провести редукцию для полуплоскости у > 0.

Покажем как можно построить множество разреза в полуплоскости у > 0. Как было сказано выше, можно без ограничения общности зафиксировать радиус сферы Т. Выберем в качестве представителя прямую у = 1. Конечные точки геодезических {(г(Т),у(Т))|у(Т) > 0}

проецируются с помощью ^ на прямую у =1 при выборе к = Л—.

)

При этом г(Т) переходит в =: г(Т). Положим Т =1, тогда из

Рис. 4. Проекция волнового фронта на прямую у = 1

явных формул для геодезических (27) получаем

£ 4р0 э1п(р2) £ вт(2р0) - 2р0 .

Точка разреза характерна тем, что в ней оканчиваются несколько различных геодезических одинаковой длины. Известно, что = то при р0 = 0. В силу непрерывности субриманова расстояния заключаем, что в достаточно малой окрестности р0 € (0, е) геодезические единичной длины оптимальны, а значит они не имеют точек разреза, и отображение р0 ^ £ инъективно. Точка разреза наступает при наименьшем р0, когда свойство инъективности теряется. Нетрудно увидеть, что такой момент наступает при р0 = п, и точкой разреза является £ = 0, см. Рис. 4.

3.2. Случай (3,6)

Случай (3,6) был впервые исследован в работе [22]. В частности, используя инвариантность системы относительно группы вращений БО(3), автору удалось построить каустику (множество точек, через которые проходит огибающая для семейства геодезических) и доказать, что множество разреза совпадает с каустикой. Таким образом, точка разреза на любой геодезической в этой задаче является первой сопряженной точкой. В данном параграфе собраны основные результаты по этой задаче.

Обозначим д = (¿, у) € Сз = М3 Х5о(3). Требуется найти липшицеву кривую 7 : [0, Т] ^ Сз, такую что

(28)

7(1) = м^Х^)) + «2(0X2(7(1)) + «з(^)Хз(7 (1)),

7(0) = (0, 0), д(Т)= д1 = (^1,у1),

/• т 1

= /о 2 («1(1) + м2(1) + «3(1^ ё 1 ^ т1п,

где д1 € Сз задано; управления м — вещественнозначные функции из класса (0, Т); Х^ — базисные левоинвариантные векторные поля на Сз. В координатах (¿1, ¿2, ¿3, у1, у2, уз) на Сз:

Х1 = дЖ1 + ¿зд^ - ¿2дуз, Х2 = дЖ2 - ^зду! + ^10^3 ,

Хз = дЖз + ^д«. - ^д^.

Замечание 4. Координаты у^ получаются из разложения матрицы у по базисным элементам алгебры Ли 50 (3):

000

0 0 1

0 1 0

50(3) Э у = у1 0 0 1 + у2 0 0 0 + уз -10 0

0-10

1 0 0

0 0 0

Применение ПМП, см. Раздел 2, дает следующую гамильтонову систему для экстремальных траекторий:

¿с 1 = Л-1, ас 2 = Л-2, ±з = Л-з, (29) у/1 = ¿2^3 - ¿3^2,

2/2 = ¿3^1 - ¿1^3,

кууз = ¿1 ^2 - ¿2^1, (горизонтальная часть)

Л1 = ^2^4 + Лз Лб, Л-2 = -^1^4 + ЛзЛб, Лз = -Л^б - ^2^6,

с4 = 0, с б =0, > 6 = 0.

(вертикальная часть)

Используя симметрию относительно БО(3), см. Утверждение 2, вертикальная часть гамильтоновой системы (29) приводится к виду

(30)

с 1 = - АЛ-2, с 2 = А^1, .с з = 0,

где А = у/Л4 + Лб + Лб — собственное значение матрицы р € 50(3).

Используя параметризацию t = l(Y(t)) ^ h2 + + h3 = 1, hi = a cos a, h2 = a sin a, h3 = \J 1 — a2, a G [0, 1], a G R/2nZ, получаем следующее решение:

Íxi (t) = a (sin(a + At) — sin(a)), Г h2 (t) = a cos(a + At), x2(t) = a(cos(a) — cos(a + At)), < h2(t) = asin(a + At), x3 (t) = tV1 - a2, 1 h3 (t) = V1 — a2,

Íyi(t) = aV!-°2 (2(sin(a) - sin(a + At)) + At(cos(a) + cos(a + At))), y2(t) = aV!-a2 (2(cos(a + At) - cos(a)) + At(sin(a) + sin(a + At))), y3(t) = f2( At - sin(At)).

Уравнения для переменных xi и yi системы (31) задают экспоненциальное отображение, переводящее начальный ковектор и момент времени в конечную точку геодезической Exp : (a, a, A,t) ^ (x(t),y(t)). Факторизуя образ экспоненциального отображения по вращательной симметрии, см. Утверждение 2, получим трехмерное пространство М>о х R инвариантов (x,x), (y, y), (x, y) (более точно, область (x,y)2 < x2y2), где (•, •) обозначает стандартное скалярное произведение в R3. При этом прообраз экспоненциального отображения факторизуется по вращениям в плоскости (hi, h.2). После такой факторизации записываем экспоненциальное отображение exp : (a, A, t) ^ ((x, x), (x, y), (y, y)) на фактор-пространствах

(x, x) = ^ (2a2 - (a2 - 1) A2t2 - 2a2 cos(At)), (x, y) = 2 ^A2t2 + At sin(At) + 4 cos(At) - 4),

(y, y) = 2(4 (4 (3a2 - 4) At sin(At) - 4 (a2 - 1) (A2t2 - 4) cos(At)) + 2(4 (a2(- cos(2At)) - 15a2 + 16 - 2 (a2 - 2) A2t2).

В работе [22] показано, что множество разреза совпадает с каустикой, состоящей из точек первого вырождения exp. Несложно показать, что каустика состоит из нетривиальных неподвижных точек вращательной симметрии x = ñx = 0, y = ñyñT = 0, T G SO(3). Такие точки образуют множество

(31) P3 = {(x, y) G R3 х R3 | y = 0, 3s G R : x = sy}.

Заметим, что для исследования множества разреза достаточно найти точки разреза на волновом фронте при фиксированном t.

Рис. 5. Волновой фронт и множество разреза в задаче (3,6)

Множество разреза при произвольном 1 > 0 состоит из орбит таких точек при действии симметрии растяжения т ^ к^, у ^ к2у, к > 0, см. Утверждение 3. На Рис. 5 приведено совместное изображен волнового фронта при 1 =1, каустики и множества разреза.

3.3. Случай (4,10)

Обозначим д = (¿, у) € С

: Х5о(4). Требуется найти липшицеву

кривую 7 : [0,Т] ^ &4, такую что

7(1) = М1(1)Х1(7(1)) + И2(1)Х2(7С0) + мз(1)Хз(7 (1)),

(32)

7(0) = (0, 0), д(Т)= д1 = (Ж1,у1),

Гт 1

1(7)= / о(«2(*)+ м2(1) + «з(*)+ «4(*)) ё 1 ^ т1г 02

где д1 € С задано; управления и — вещественнозначные функции из класса (0, Т); — базисные левоинвариантные векторные поля на &4. В координатах (¿1,..., ¿4, у1,..., уб) на ^4:

Х1 = дЖ1 - ^ду. - ¿зду2 - ¿4ду3, Х2 = дх2 + ¿1ду1 - ¿зду4 - ¿4ду5, Хз = дхз + ¿1ду2 + ¿2ду4 - ¿4ду6, Х4 = дх4 + ¿1ду3 + ¿2ду5 + ¿зду6.

Применение ПМП, см. Раздел 2, дает следующую гамильтонову

систему для экстремальных траектории:

(33)

¿1 = Л-1, = ^2^7 + ^3^5 — ^4^6,

¿2 = ^2, Л2 = —^1^7 — — ^4^8,

¿3 = Л-з, Л3 = —^1^5 + Л^Лд — ^4^10

¿4 = ^4, Л-4 = ^1^6 + ^2^8 — ^3^10,

< У1 = ¿1^3 — Жз^1, У2 = ¿4^1 — ¿1^4, Л-5 = 0,

Лб = 0,

У3 = Ж1^2 — ¿2^1, = 0,

У4 = ¿4^2 — ¿2 ^4, Л-8 = 0,

У5 = ¿3^2 — ¿2^3, Лд = 0,

У6 = ¿3^4 — ¿4^3, = 0.

(горизонтальная часть) (вертикальная часть)

Замечание 5. Координаты получаются из разложения матрицы у по базисным элементам алгебры Ли 50 (4):

50(4) э у =

/ 0 Уз У1 -У2

У3 0 У5 У 4

У1 У5 0 У6

\ У2 У4 — Уб 0

Используя симметрию относительно группы БО(4), см. Лемму 1, вертикальная часть гамильтоновой системы (33) приводится к виду

(34)

'^1 = —Л1^2, Л-2 = Л^1,

^3 = —Л2^4,

М4 = Л2^з.

Здесь Л1 = л/Т — В > 0, Л2 = Т + В > 0 — модули собственных

значений матрицы р € 50(4), где Т = — 1 Тг (р2), В = у^ёё^^рУ+Т2".

Напомним, что при переходе от (33) к (34) было использовано преобразование р * ДрДт, Д € БО(4):

/ 0 Л7 Л-5 — Л6 N / 0 —Л1 0 0

— Л7 0 — Лд — Л« * Л1 0 0 0

— Л-5 Лд 0 0 0 0 —Л

V Л-6 Л-8 — ^1с 0 \ 0 0 Л2 0

Используем параметризацию t = ¿(7(2)) ^ h2 + + h§ + h2 = 1,

hi = a cos ai, Jh.3 = %/1 — a2 cos «2, a G [0,1],

a2,

h2 = a sin a1, [h4 = V1 — a2 sin a2, ai G

Замечание 6. Случай Л1Л2 = 0 рассматривается отдельно.

(1) При ||Л||2 = Л2 + Л2 = 0 решение x(t) является прямой линией в пространство R4. Такие решения оптимальны до бесконечности и не вносят вклада в множество разреза, см. Утверждение 4.

(2) Пусть ||Л|| > 0, Л1Л2 =0. Без ограничения общности положим Л1 > 0, Л2 = 0. Тогда решение x¿(í), h¿(í) имеет вид

'h1(t) = a cos(a1 + Л1t), Г x1(t) = ^ (sin(«1 + Л^) — sin(«1)),

h2(t) = asin(a1 + Л12), I x2(t) = (cos(a1) — cos(a1 + Л12)),

h3(t) = a/1 — a2 cos(«2), I x3(t) = /1 — a2 cos(a2)t,

,h4(t) = /1 — a2 sin(«2), [x4(t) = /1 — a2 sin(a2)t.

Несложно показать, что в этом случае геодезические теряют оптимальность в момент, когда точка (x1 (t),x2(t)) пробегает полную окружность. Заключаем, что tcut = ^ и множество разреза Cuto удовлетворяет Гипотезе 1.

При Л1Л2 = 0 получаем следующее решение для xi (t) и hj(t):

h1(t) = a cos(a1 + Л12), h2(t) = a sin(a1 + Л12), h3(t) = a/1 — a2 cos(a2 + Л^), ,h4(t) = a/1 — a2 sin(a2 + Л^), (36) ( x1 (t) = ^ (sin(a1 + Л12) — sin(a1)),

x2 (t) = 1a (cos(a1) — cos(a1 + Л12)), X3 (t) = ^p22 (sin(«2 + Л22) — sin(«2)),

/1 2

kx4(t) = v 1^a (cos(a2) — cos(a2 + Л^)),

Напомним, что в силу (18), для исследования множества разреза достаточно найти точки разреза на волновом фронте Wq(G4) единичного радиуса t =1. Такие точки удовлетворяют условию: существует две различные геодезические (x1(t), y1(t)) ^ (x2(t), y2(t)), приходящие за единичное время в одну точку (x1(1), y1(1)) = (x2(1), y2(1)):

з(«1 ,«2,л1,Л2) = («2,«2,Л2,Л2) :

Exp1(«1, a1, Л1, Л1) = Exp1 («1, «2, Л2, Л2).

Обозначим Mí := , sinф := a, cosф := \J\ — a2, G [0, ], и приведем систему (36) к следующему виду:

'xi(1) = sinфcos(ai + мД rhi(1) = sinфcos(ai + 2pi),

X2(1) = sinifL sinфsin(ai + Mi), I h2(1) = sinфsin(ai +2pi),

X3(1) = cosф cos(«2 + M2), I hs(1) = cosф cos(«2 +2m2),

(1) = ^^ cosф sin(a2 + m2), 1^4(1) = cosф sin(«2 + 2M2).

Заметим, что углы (ф, ai + 2mi, «2 + 2M2) являются координатами Хопфа [36] на трехмерной сфере S3 э h. При этом угол в := «i + 2mi задает вращение в плоскости (hi, h.2), а угол в := «2 + 2m2 задает вращение в плоскости (h.3, h4). Эти вращения Д^ = R(hL,h2), Д(л.3,л,4) являются частью симметрии i? G SO(4), см. Утверждение 2, инвариантной относительно вращений вокруг собственных векторов - матрицы р G so (4). При этом Др = Д— i? — оставшаяся часть симметрии i?, использованная для приведения матрицы р к виду (35), задается двумя углами, которые вместе с углами в и в параметризуют всю группу SO(4).

Условие (17) означает, что потенциальными кандидатами на точки разреза являются неподвижные точки вращательной симметрии

Expi(ho,-о) = Expi(ho,-o), ho = Д^Л-о.

Заметим, что Д^ оставляет точку (x(1),y(1)) неподвижной тогда и только тогда, когда одно из следующих условий выполнено: о вращение Дх вокруг собственных векторов z матрицы y(1) соответствует повороту на угол ф^, кратный периоду ф^ = 2k¿n, k G Z.

оо точка (x(1),y(1)) является неподвижной точкой вращательной симметрии Дж(ф) = Д(Ж1,Ж2

(37)

^ = (ф1, ф2) G (R/2nZ) х (R/2nZ) : {Х((}| = Д:й))Ха)ДТ(Ф),

где ) обозначает поворот в плоскости ) на угол .

Рассмотрим случай о. Условие ф = 2кп для системы (3.3) означает

(38) 3к1, к2 € Z : (а1 + = 2к1п) && (а2 + р2 = 2к2п).

Это условие задает точку разреза только тогда, когда вращение Д^ не является тривиальным. Таким образом приходим к условию

(и

(ai + pi)/2nZ = (ai +2pi)/2nZ, («2 + M2)/2nZ = («2 + 2M2)/2nZ

В силу (38) это означает

= 2пк или ^2 = 2пк,

к G Z.

Осталось лишь заметить, что в силу (20) значение к € Z, определяющее точку разреза, должно быть положительным и минимальным.

Рассмотрим случай оо. Несложно показать, что условие (37) выполнено тогда и только тогда, когда собственные вектора ¿1, ¿2 матрицы у ортогональны плоскостям (ж1,ж2) и (жз,ж4), то есть, в силу Леммы 1, имеющей вид

У(1) =

( 0 Уз(1) 0 0

—Уз(1) 0 0 0

0 0 0 Уб(1)

\ 0 0 —Уб(1) 0

Далее заметим, что х1, Х2, уз и хз, Х4, уб связаны

'ас i = hi,

ас 2 = h-2,

,уз = xih2 — X2hi,

'h i = —h^Ai, h-2 = hiAi,

Д i =0,

'X 3 = ^3, (}ьз = -^2,

X4 = ^4, < к4 = ^зЛ2,

,У6 = хз^4 - Х4^з, 1лЛ2 = 0,

уравнениями одинакового вида, аналогичным системе (23).

Таким образом, значение уз (4) является удвоенной площадью сегмента окружности (х1(т),Х2(т)), т € [0,4]. Аналогично для уб и (хз, Х4):

уз(4) = ЛГ (Л14 - 81п(Л1*)), уб(4) = (Л24 - 8т(Л2*)).

Отличие от системы (23) заключается в том, что движение вдоль окружностей происходит с различной скоростью

2 2 2 2 2 2 2 2 ас2 + X2 = a = sin (-0) = const, x3 + а4 = 1 — a = cos (—) = const.

(39)

Необходимое условие того, что (x(1),y(1)) является точкой разреза на волновом фронте единичного радиуса, имеет вид

sin ф^^ cos(ai + pi) = sin фcos(ái + /ti), sinф^^^ sin(a1 + /1) = sinф^^ sin(a1 + /1), sin2 (ф)2))1—^^^^^^^ = ^2(ф) },

sin ф^ COs1«2 + /2) = sin фSi^1COs(á2 + /2), sin ф^ sin(«2 + /2) = sin фsin(«2 + /2),

sin2(ф)2) 2—25Ум 2} = ™2(ф)202 —2У2},

(ф,«1,/1 ,«2,/2) = (ф, «1, /1, "2, /2),

„ф,ф € [0, f ], /i, / € R+, «i, «i € R/2nZ.

Заметим, что (39) выполняется либо когда выполнено (38), то есть вкладывается в случай о, либо когда (ф = 0)||(ф = П).

В заключении этого раздела заметим, что если окружность сделала полный оборот в плоскости (^1,^2), то вращение R(xi ,Х2} этой плоскости, оставляет конечную точку (ж1(1),ж2(1),y(1)) = (0, 0, y(1)) неподвижной. В силу того что R(xi,x2} не влияет на плоскость (жз,ж4), все точки q1 = (x(1),y(1)) соединены с O однопараметрическим семейством геодезических 7(t) = (x(t),y(t)) = Ехр(ф, «1, «2,/1,/2, t). Следовательно q1 является точкой Максвелла. Получаем верхнюю оценку на время разреза tCMÍ(7) < 1. В случае равенства tCMÍ(7) = 1 имеем q1 € Cuto(&4). Чтобы показать, что tcut(7) = 1 остается убедиться, что не существует другой более короткой геодезической, соединяющей точку q1 с началом координат O, то есть действительно выполнено ¿(Ехр1(ф, «1, «2,/1,/2), O) = 1.

Такие точки могут появиться если существуют симметрии га-мильтоновой системы, отличные от рассмотренных вращательной симметрии и симметрии растяжения. Результаты численного моделирования показывают, что такой симметрии не существует и экспоненциальное отображение Exp(£o,t) действительно является инъективным до момента, когда конечная точка соответствующей геодезической Y(t) = Exp(£o,t) является неподвижной точкой вращательной симметрии R € SO(4). Это подтверждает Гипотезу 1 в случае n = 4.

4. Заключение

В статье рассмотрена задача о субримановых кратчайших на двухступенных свободных нильпотентных группах Ли Gn. Эта задача

является модельной в субримановой геометрии и, в некотором смысле, простейшей из нерешенных на сегодняшний день. Несмотря на обильную группу симметрий, множество разреза известно лишь в случаях малой размерности п = 2, 3. В общем случае <С„ сформулирована гипотеза о структуре множества разреза.

В статье произведен обзор ключевых понятий субримановой геометрии, проиллюстрированных в случае <С„. В общем случае 2 < п € N выписаны уравнения геодезических, исследованы непрерывные симметрии гамильтоновой системы ПМП и предложен метод редукции гамильтоновой системы по симметриям. Приведена идея доказательства гипотезы Rizzi-Serres о множестве разреза для общего случая. Случаи малой размерности п = 2, 3, 4 были детально изучены. Приведены изображения волновых фронтов, наглядно показывающие расположение точек разреза в размерностях п = 2, 3.

Подводя итог, скажем, что редукция системы по непрерывным симметриям является мощным методом, дающим возможность существенно понизить размерность задачи. Изображения волновых фронтов снабжают геометрической интуицией о множестве разреза, подтверждающей гипотезу Rizzi-Serres. В дальнейшем планируется продолжить детальное исследование случая ^4 и привести явное выражение для множества разреза. Далее планируется произвести полное формальное доказательство гипотезы Rizzi-Serres.

Список литературы

[1] R. Montgomery, A tour of subriemannian geometries, their geodesics and applications, Mathematical Surveys and Monographs Publication, vol. 9, University of California, C'A, 2002. ,url; 319 320 331

[2] B. Gaveau. "Principe de moindre action, propagation de la chaleur et estimees sous elliptiques sur certains groupes nilpotents", Acta Mathematica, 139 (1977), pp. 95-153. I 1320

[3] R. W. Brockett. "Control theory and singular Riemannian geometry", New Directions in Applied Mathematics, Occasion of the Case Centennial Celebration (April 25/26, 1980), eds. P.J. Hilton, G.S. Young, 1982, PP- 11-27. 320 322 330

[4] A. Bellaïche. "The tangent space in sub-Riemannian geometry", Sub-Riemannian Geometry, eds. A. Bellaiche, J. J. Risler, Birkhâuser, Basel, 1996, pp. 1-78. S20 342

[5] С. К. Водопьянов. «Геометрия пространств Карно-Каратеодори, квазиконформный анализ и геометрическая теория меры», Владикавк. матем. жури., 5:1 (2003), с. 14-34. 01 ' 320

[6] А. В. Борисов, И. С. Мамаев, И. А. Бизяев. «Динамические системы с неинтегрируемыми связями: вакономная механика, субриманова геометрия и неголономная механика», УМН, 72:5(437) (2017), с. 3-62.

^320

[7] А. П. Маштаков, Ю. Л. Сачков. «Экстремальные траектории и асимптотика времени Максвелла в задаче об оптимальном качении сферы по плоскости», Матем. сб., 202:9 (2011), с. 97-120. 320

[8] R. Duits, A. Ghosh, T.C.J. Dela Haije, A. Mashtakov. "On sub-Riemannian geodesies in SE(3) whose spatial projections do not have cusps", Journal of Dynamical and Control Systems, 22:4 (2016), pp. 771-805. d ф320

[9] А. П. Маштаков. «Алгоритмическое и программное обеспечение решения конструктивной задачи управления неголономными пятимерными системами», Программные системы: теория и приложения, 3:1 (2012), с. 3-29. ® 320

[10] G. Citti, A. Sarti. "A cortical based model of perceptual completion in the roto-tra.nsla.tion space", Journal of Mathematical Imaging and Vision, 24:3 (2006), pp. 307-326 . 320

[11] B. Franceschiello, A. Mashtakov, C. Citti, A. Sarti. "Modelling of the Poggendorff illusion via sub-Riemannian geodesics in the roto-translation group", New Trends in Image Analysis and Processing, ICIAP 2017, LNCS, vol. 10590, eds. S. Ba.ttia.to, G. M. Fa.rinella, M. Leo, G. Gallo, Springer, 2017, pp. 37-47. ISBN : 978-3-319-70742-6 d ' 320

[12] A. P. Mashtakov, A.A. Ardentov, Yu.L. Sachkov. "Parallel algorithm and software for image inpainting via sub-Riemannian minimizers on the group of rototra.nsla.tions", Numerical Mathematics: Theory, Methods and Applications, 6:1 (2013), pp. 95-115. 1320

[13] E.J. Bekkers, R. Duits, A. Mashtakov, G.R. Sanguinetti. "A PDE approach to data-driven sub-Riemannian geodesics in SE(2)", SIAM Journal on Imaging Sciences, 8:4 (2015), pp. 2 7 40-2 7 70. 320

[14] A. Mashtakov, R. Duits, Y. Sachkov, E. J. Bekkers, I. Beschastnyi. "Tracking of lines in spherical images via sub-Riemannian geodesics in SO(3)", JMIV, 58:2 (2017), pp. 239-264. d 320

[15] E. J. Bekkers, R. Duits, A. Mashtakov, Y. Sachkov. "Vessel tracking via sub-Riemannian geodesics on the projective line bundle", Geometric Science of Information, GSI 2017, LNCS, vol. 10589, eds. F. Nielsen, F. Barbaresco, Springer, Cham, 2017, pp. 773-781. ISBN : 978-3-319-68445-1 a.rXiv^: 1704.04192vl 320

[16] М. Зеликин. Оптимальное управление и вариационное исчисление, Едиториал УРСС, 2017, 160 с. ISBN : 978-5-9710-4156-6 321

[17] C. G. J. Jacobi, A. Wangerin. "Über die curve, welche alle von einem punkte ausgehenden geodätischen linien eines rotationsellipsoides beruhrt [The envelope of geodesic lines emanating from a single point on an ellipsoid]", Werke. V. VII, 1891, pp. 72-87. t321

[18 [19

[20 [21

[22 [23

[24

[25

[26 [27

[28 [29 [30

[31

В.И. Арнольд. Математические методы классической механики, Наука, М., 1974. t321

El-H. Ch. El-Alaoui, J.-P. Gauthier, I. Kupka. "Small sub-Riemannian balls on R3", Journal of Dynamical and Control Systems, 2:3 (1996), pp. 359-421.

322

A. A. Agrachev. "Methods of control theory in nonholonomic geometry", ICM-94, 1995, pp. 1473-1483. 322

А. М. Вершик, В. Я. Гершкович. «Неголономные динамические системы. Геометрия распределений и вариационные задачи», Динамические системы - 7, Итоги науки и техн. Сер. Соврем. пробл. мат. Фундам. направления, т. 16, ВИНИТИ, М., 1987, с. 5-85. 0 322 330 O. Myasnichenko. "Nilpotent (3, 6) sub-Riemannian problem", Journal of Dynamical and Control Systems, 8:4 (2002), pp. 573-597. I ' 322 330 346 347

U. Boscain, F. Rossi. "Invariant Carnot-Caratheodory metrics on S3, SO(3), SL(2) and lens spaces", SI AM J. Control Optim., 47 (2008), pp. 1851-1878.

322

Yu. L. Sachkov. "Cut locus and optimal synthesis in the sub-Riemannian problem on the group of motions of a plane", ESAIM: COCV, 17:2 (2011), pp. 293-321. d 322

Y. A. Butt, A. I. Bhatti, Yu. L. Sachkov. "Cut locus and optimal synthesis in sub-Riemannian problem on the Lie group SH(2)", Journal of Dynamical

and Control Systems, 23:1 (2017), pp. 155-195. 322 А. А. Ардентов, Ю. Л. Сачков. «Множество разреза в субримановой задаче на группе Энгеля», Докл. РАН, 478:6 (2018), с. 623-626. I ' 322 D. Barilari, U. Boscain, J. P. Gauthier. "On 2-step, corank 2 nilpotent sub-Riemannian metrics", SIAM J. Control Optim., 50:1 (2011), pp. 559-582. d t

322

L. Rizzi, U. Serres. On the cut locus of free, step two Carnot groups, 2017,

13 p. URL 322 330 334

А. А. Аграчев, Ю. Л. Сачков. Геометрическая теория управления, Физматлит, М., 2005, 391 с. ISBN : 5-9221-0532-9 t323,325,326,33o,339 A. Agrachev, D. Barilari, U. Boscain. "Introduction to geodesics in sub-Riemannian geometry", Geometry, Analysis and Dynamics on Sub-Riemannian Manifolds. V. II, EMS Series of Lectures in Mathematics, 2017 (to appear), 525 p. .url 323

Л. С. Понтрягин, В. Г. Болтянский, Р. В. Гамкрелидзе, Е. Ф. Мищенко. Математическая теория оптимальных процессов, Гос. изд-во физ.-мат. лит., М., 1961. t325,343

F. Monroy-Perez, A. Anzaldo-Meneses. "The step-2 nilpotent (n,n(n + 1)/2) sub-Riemannian geometry", Journal of Dynamical and Control Systems, 12:2 (2006), pp. 185-216. i ' 330 333

[33] A. Montanari, D. Morbidelli. On the sub-Riemannian cut locus in a model of free two-step Carnot group, 2017, 27 p. turn) 330

[34] D. C. Youla. "A normal form for a matrix under the unitary congruence group", Can. J. Math., 13 (1961), pp. 694-704. I 1334

[35] В. В. Грушин. «Об одном классе эллиптических псевдодифференциальных операторов, вырождающихся на подмногообразии», Математический сборник, 84(126):2 (1971), с. 163-195. 0 t342

[36] U. Pinkall. "Hopf tori in S3", Inventiones mathematicae, 81:2 (1985), pp. 379-386.

Поступила в редакцию 05.11.2018 Переработана 28.11.2018

Опубликована 17.12.2018

Рекомендовал к публикации

д.ф.-м.н. Ю. Л. Сачков

Пример ссылки на эту публикацию:

А. П. Маштаков. «О множестве разреза на двухступенных свободных группах Карно». Программные системы: теория и приложения, 2018, 9:4(39), с. 319-360. 10.25209/2079-3316-2018-9-4-319-360

url http://psta.psiras.ru/read/psta2018_4_319-360.pdf

Об авторе:

Алексей Павлович Маштаков К.т.н., снс Исследовательского центра процессов управления ИПС им. А.К. Айламазяна РАН. Научные интересы включают такие направления как нелинейная геометрическая теория управления, оптимальное управление, субриманова геометрия, инвариантные управляемые системы на группах Ли, планирование движения, приложения в робототехнике и обработке изображений.

[]|Я 0000-0002- 6378-3845

e-mail: [email protected]

358

alexey mashtakov

UDC 517.977

Alexey Mashtakov. On the step-2 nilpotent (n, n(n + 1)/2) sub-Riemannian structures.

Abstract. We consider the Sub-Riemannian (SR) problem on the step-2 free nilpotent Lie groups Gn. This problem is classical in SR geometry and in some sense the simplest open problem nowadays. Although the problem satisfies to a wide group of symmetries, the cut locus is known only in the cases of small dimensions n = 2, 3. In the general case there exists a conjecture by Rizzi-Serres claiming that the cut locus consists on stable points of the specific symmetry. In this paper, we derive the geodesic equations via PMP and study the symmetries of the corresponding Hamiltonian system. Then, using method of reduction over the symmetries, we propose an idea to prove the conjecture for the general n > 2. We study the cases n = 2, 3, 4 in details and show pictures (for n = 2, 3) of the SR wave front with indicated the cut locus on it. (In Russian).

Key words and phrases: Sub-Riemannian geometry, geodesic, shortest, cut set, Carnot group.

2010 Mathematics Subject Classification: 49J20; 35R01, 51H25

References

[1] R. Montgomery, A tour of subriemannian geometries, their geodesics and applications, Mathematical Surveys and Monographs Publication, vol. 9, University of California, CA, 2002. url 319 320 331

[2] B. Gaveau. "Principe de moindre action, propagation de la chaleur et estimees sous elliptiques sur certains groupes nilpotents", Acta Mathematica, 139 (1977), pp. 95-153. d - 320

[3] R. W. Brockett. "Control theory and singular Riemannian geometry", New Directions in Applied Mathematics, Occasion of the Case Centennial Celebration (April 25/26, 1980), eds. P.J. Hilton, G.S. Young, 1982, pp. 11-27. d f320 322 330

[4] A. Bellaïche. "The tangent space in sub-Riemannian geometry", Sub-Riemannian Geometry, eds. A. Bellaïche, J.J. Risler, Birkháuser, Basel, 1996, pp. 1—78.

^320,342

[5] S. K. Vodop'yanov. "The geometry of Carnot-Carathéodory spaces, quasiconformal analysis, and geometric measure theory", Vladikavk. matem. zhurn., 5:1 (2003), pp. 14—34 (in Russian). |gl 320

[6] A. V. Borisov, I. S. Mamaev, I. A. Bizyaev. "Dynamical systems with non-integrable constraints, vakonomic mechanics, sub-Riemannian geometry, and non-holonomic mechanics", Russian Math. Surveys, 72:5 (2017), pp. 783—840. I f320

The work is supported by the Russian Science Foundation under grant 17-11-01387 and performed in Ailamazyan Program Systems Institute of Russian Academy of Sciences..

© A. Mashtakov, 2018

© Ailamazyan Program Systems Institute of RAS, 2018 © Program Systems: Theory and Applications (design), 2018

Dol lYSil

[7] A. P. Mashtakov, Yu. L. Sachkov. "Extremal trajectories and the asymptotics of the Maxwell time in the problem of the optimal rolling of a sphere on a plane", Sb. Math., 202:9 (2011), pp. 1347-1371. I f320

[8] R. Duits, A. Ghosh, T.C.J. Dela Haije, A. Mashtakov. "On sub-Riemannian geodesies in SE(3) whose spatial projections do not have cusps", Journal of Dynamical and Control Systems, 22:4 (2016), pp. 771—805. f320

[9] A. P. Mashtakov. "Algorithms and software solving a motion planning problem for nonholonomic five-dimensional control systems", Program Systems: Theory and Applications, 3:1 (2012), pp. 3—29 (in Russian), url; 320

10] G. Citti, A. Sarti. "A cortical based model of perceptual completion in the roto-translation space", Journal of Mathematical Imaging and Vision, 24:3 (2006), pp. 307-326. d - 320

11] B. Franceschiello, A. Mashtakov, G. Citti, A. Sarti. "Modelling of the Poggendorff illusion via sub-Riemannian geodesics in the roto-translation group", New Trends in Image Analysis and Processing, ICIAP 2017, LNCS, vol. 10590, eds. S. Battiato, G.M. Farinella, M. Leo, G. Gallo, Springer, 2017, pp. 37-47. ISBN : 978-3-31970742-6 f320

12] A. P. Mashtakov, A. A. Ardentov, Yu. L. Sachkov. "Parallel algorithm and software for image inpainting via sub-Riemannian minimizers on the group of rototranslations", Numerical Mathematics: Theory, Methods and Applications, 6:1 (2013), pp. 95-115.

d 1*320

13] E.J. Bekkers, R. Duits, A. Mashtakov, G. R. Sanguinetti. "A PDE approach to data-driven sub-Riemannian geodesics in SE(2)", SIAM Journal on Imaging Sciences, 8:4 (2015), pp. 2740-2770 . 320

14] A. Mashtakov, R. Duits, Y. Sachkov, E.J. Bekkers, I. Beschastnyi. "Tracking of lines in spherical images via sub-Riemannian geodesics in SO(3)", JMIV, 58:2 (2017), pp. 239-264. i f320

15] E. J. Bekkers, R. Duits, A. Mashtakov, Y. Sachkov. "Vessel tracking via sub-Riemannian geodesics on the projective line bundle", Geometric Science of Information, GSI 2017, LNCS, vol. 10589, eds. F. Nielsen, F. Barbaresco, Springer, Cham, 2017, pp. 773-781. ISBN : 978-3-319-68445-1 arXivg: 1704.04192vl 320

16] M. Zelikin. Optimal control and calculus of variations, Yeditorial URSS, 2017 (in Russian), 160 p. ISBN : 978-5-9710-4156-6f321

17] C. G. J. Jacobi, A. Wangerin. "Über die curve, welche alle von einem punkte ausgehenden geodätischen linien eines rotationsellipsoides berührt [The envelope of geodesic lines emanating from a single point on an ellipsoid]", Werke. V. VII, 1891, pp. 72-87.1-321

18] V.I. Arnol'd. Mathematical methods of classical mechanics, Nauka, M., 1974 (in Russian). 1321

19] El-H. Ch. El-Alaoui, J.-P. Gauthier, I. Kupka. "Small sub-Riemannian balls on R3", Journal of Dynamical and, Control Systems, 2:3 (1996), pp. 359—421. 322

20] A.A. Agrachev. "Methods of control theory in nonholonomic geometry", ICM-94, 1995, pp. 1473-1483 . 322

21] A.M. Vershik, V.Ya. Gershkovich. "Nonholonomic dynamical systems. Geometry of distributions and variational problems", Dynamical systems - 7, Itogi Nauki i Tekhniki. Ser. Sovrem. Probl. Mat. Fund. Napr., vol. 16, VINITI, M., 1987, pp. 5-85 (in Russian), gl' 322 330

[22] O. Myasnichenko. "Nilpotent (3, 6) sub-Riemannian problem", Journal of Dynamical

and Control Systems, 8:4 (2002), pp. 573-597. i 1 322 330 346 347

[23] U. Boscain, F. Rossi. "Invariant Carnot-Caratheodory metrics on S3, SO(3), SL(2) and lens spaces", SI AM J. Control Optim., 47 (2008), pp. 1851-1878. d 322

[24] Yu. L. Sachkov. "Cut locus and optimal synthesis in the sub-Riemannian problem on the group of motions of a plane", ESAIM: COCV, 17:2 (2011), pp. 293-321. 322

[25] Y. A. Butt, A.I. Bhatti, Yu. L. Sachkov. "Cut locus and optimal synthesis in sub-Riemannian problem on the Lie group SH(2)", Journal of Dynamical and Control Systems, 23:1 (2017), pp. 155-195. 322

[26] A. A. Ardentov, Yu. L. Sachkov. "Cut locus in the sub-Riemannian problem on Engel group", Doklady Mathematics, 97:1 (2018), pp. 82-85. I 1322

[27] D. Barilari, U. Boscain, J. P. Gauthier. "On 2-step, corank 2 nilpotent sub-Riemannian metrics", SI AM J. Control Optim., 50:1 (2011), pp. 559-582.

^322

[28] L. Rizzi, U. Serres. On the cut locus of free, step two Carnot groups, 2017, 13 p. url

^322,330,334

[29] A. A. Agrachev, Yu. L. Sachkov, Control theory from the geometric viewpoint, Encyclopaedia of Mathematical Sciences, Springer-Verlag, Berlin-Heidelberg, 2004.

323 325 326 330 339

[30] A. Agrachev, D. Barilari, U. Boscain. "Introduction to geodesics in sub-Riemannian geometry", Geometry, Analysis and Dynamics on Sub-Riemannian Manifolds. V. II, EMS Series of Lectures in Mathematics, 2017 (to appear), 525 p. url)'(323

[31] L. S. Pontryagin, V. G. Boltyanskiy, R. V. Gamkrelidze, Ye. F. Mishchenko. The mathematical theory of optimal processes, Gos. izd-vo fiz.-mat. lit., M., 1961 (in Russian). 1325,343

[32] F. Monroy-Perez, A. Anzaldo-Meneses. "The step-2 nilpotent (n,n(n + 1)/2) sub-Riemannian geometry", Journal of Dynamical and Control Systems, 12:2 (2006), pp. 185-216. d 3;0 333

[33] A. Montanari, D. Morbidelli. On the sub-Riemannian cut locus in a model of free two-step Carnot group, 2017, 27 p. .url: 330

[34] D. C. Youla. "A normal form for a matrix under the unitary congruence group", Can. J. Math., 13 (1961), pp. 694-704 . 334

[35] V. V. Grushin. "On a class of elliptic pseudodifferential operators degenerate on a submanifold", Math. USSR-Sb., 13:2 (1971), pp. 155-185. 342

[36] U. Pinkall. "Hopf tori in S3", Inventiones mathematicae, 81:2 (1985), pp. 379-386.

d 351

Sample citation of this publication:

Alexey Mashtakov. "On the step-2 nilpotent (n, n(n + 1)/2) sub-Riemannian structures". Program Systems: Theory and Applications, 2018, 9:4(39), pp. 319360. (In Russian). 10.25209/2079-3316-2018-9-4-319-360 url http://psta.psiras.ru/read/psta2018_4_319-360.pdf