О рациональных подмножествах разрешимых групп Текст научной статьи по специальности «Математика»

МАТЕМАТИКА

Вестн. Ом. ун-та. 2011. № 2. С. 19-23.

УДК 512.54

О.А. Воронина

Северо-Казахстанский государственный университет им. Манаша Козыбаева

О РАЦИОНАЛЬНЫХ ПОДМНОЖЕСТВАХ РАЗРЕШИМЫХ ГРУПП*

Доказывается, что каждая конечно порожденная нильпотентная-над-абелевыми или линейная разрешимая группа, в которой все рациональные подмножества представляют булеву алгебру, является фактически абелевой.

Ключевые слова: разрешимая группа, рациональное множество, булева алгебра.

Введение. Исследования, касающиеся приложений теории формальных языков к теории групп, сейчас довольно популярны, известно много интересных результатов. Среди множества классов формальных языков важное место занимают рациональные (регулярные) языки, которые мы определим индуктивно.

Определение 1. Пусть М - произвольный моноид (полугруппа с единицей). Тогда рациональные подмножества моноида М определяются по следующим правилам:

1) конечные подмножества М являются рациональными;

2) если множества Я и Я рациональны, то их объединение Я и Я, произведение ЯЯ, а также «звездное замыкание»

я •={1)ип;:1 я являются рациональными (заметим, что Я - это

подмоноид, порожденный Я);

3) всякое рациональное множ:ество получается из конечных множеств с пом.ощью конечного числа операций, описанных в п. 2.

В частности, если М - это конечно порожденный свободный м.о-ноид, то рациональные подмножества М называются рациональными языками (а произвольные подмнож:ества М - форм.альными языками).

Кроме индуктивного определения рациональных множеств, хорошо известно определение в терминах конечных автоматов (теорема Клини устанавливает их эквивалентность) (см., например: [1]).

В приложениях к теории групп один из подходов - рассмотрение формальных языков вместе с гомоморфизмами, отображающими их в группу. В частности, одна из известных задач - это нахождение формальных языков из некоторого класса (например, рациональных), которые отображаются на группу биективно. В то же время (см., например: [1; 2]) рациональные множества можно рассматривать непосредственно в группах, которые являются частным случаем моноидов. Естественность этого подхода подтверждается, например, следующим фактом.

* Работа поддержана грантом РФФИ 10.01.00383-а. © О.А. Воронина, 2011

Утверждение 1 [3]. Пусть О - группа, и рациональное подмножество Я ^ О содержится в подгруппе Н < О. Тогда Л рационально в Н.

(Заметим, что легко привести примеры того, что для произвольных моноидов это не так.)

В работах Г.А. Баженовой [3-6] изучался следующий вопрос: в каких случаях класс рациональных подмножеств группы является булевой алгеброй, т. е. замкнут относительно операций дополнения, объединения, пересечения и симметрической разности? (Заметим, что этот класс замкнут относительно объединения по определению, поэтому для того, чтобы он был булевой алгеброй, достаточно замкнутости относительно дополнения.)

Вначале этот вопрос возник при попытке понять, какие из классических результатов о рациональных языках переносятся на случай рациональных подмножеств групп. Известно, что рациональные языки, т. е. рациональные подмножества конечно порожденного свободного моноида, являются булевой алгеброй. Затем была доказана теорема о том, что рациональные подмножества конечно порожденной нильпотентной группы являются булевой алгеброй тогда и только тогда, когда эта группа почти абелева. Позже было получено обобщение данного результата на случай полициклических групп, потом аналогичный результат был получен для метабелевых групп.

Естественный вопрос: верна ли аналогичная теорема для класса всех конечно порожденных разрешимых групп - остается пока открытым. В данной работе мы доказываем, что она верна для конечно порожденных нильпотентных расширений абелевых групп и конечно порожденных разрешимых подгрупп матричных групп (теоремы 1 и 2 соответственно). Доказательства опираются на основной технический результат - теорему 1. Результаты данной статьи основываются на некоторых неопубликованных идеях Г.А. Баженовой.

Приведем несколько утверждений, на которые мы будем в дальнейшем опираться.

Утверждение 2 [1]. Пусть О - группа и подмнож:ество Я ^ О рационально. Тогда подгруппа, порожденная множеством Я, также является рациональным подмножеством О.

Следующий факт показывает, что при поиске групп, классы рациональных подмножеств которых являются булевыми алгебрами, достаточно ограничиться рассмотрением конечно порожденных групп.

Утверждение 3 [1]. Пусть О - группа и Н < О ее подгруппа. Тогда Н является рациональным подмножеством О в том и только том случае, когда Н конечно порождена. В частности, если рациональные подмнож:ества О - булева алгебра, то О = О \0 - рациональное подмножество О, потому конечно порождена [1].

Следующее утверждение является следствием утверждений 1 и 3.

Утверждение 4. Пусть О - группа и Н < О ее подгруппа. Если рациональные подмножества О образуют булеву алгебру, то и рациональные подмножества Н образуют булеву алгебру.

Следующее утверждение содержит в себе сводку результатов о группах, классы рациональных подмножеств которых являются булевыми алгебрами.

Утверждение 5:

1) пусть О - полициклическая или конечно порожденная метабелева группа, рациональные подмножества которой образуют булеву алгебру. Тогда О почти абелева [5; 6];

2) если группа О почти абелева, то ее рациональные подмножества - булева алгебра (см, например: [3]);

3) если классы рациональных подмножеств двух групп - булевы алгебры, то класс рациональных подмножеств их свободного произведения - также булева алгебра [4] (в частности, класс рациональных подмножеств свободной группы конечного ранга - булева алгебра).

По поводу п. 3 возникает естественный вопрос: верно ли, что в произвольной гиперболической группе класс рациональных подмножеств - булева алгебра? Ответ отрицательный, в качестве контрпримера можно взять построенный И. Каповичем пример гиперболической группы с одним соотношением, не обладающим свойством Хаусона (это свойство означает, что пересечение двух конечнопорожденных подгрупп конечно порождено) [7].

Кроме того, можно использовать для получения контрпримеров известную конструкцию Рипса, которая позволяет для любой конечно определенной группы О и

любого числа Л > 0 построить короткую точную последовательность 1 ^ ^

^ Г ^ О ^ 1, где группа Г имеет конечное представление, удовлетворяющее известному условию малого сокращения С(Л , а группа N конечно порождена.

Хорошо известно, что группа, имеющая конечное представление с условием С'(1/6) , гиперболична; кроме того, легко

доказать (см.: [1; 3]), что условие «класс рациональных подмножеств - булева алгебра» наследуется фактор-группой по конечно порожденной (как группа) подгруппе; тогда в качестве О можно выбрать любую конечно определенную группу, в которой рациональные подмножества не являются булевой алгеброй. Построенная по ней группа Г будет нужным контрпримером.

Основные результаты

Обозначим через 2 бесконечную циклическую группу.

Теорема 1. Пусть О - конечно порожденная разрешимая группа и рациональные подмнож:ества прямого произведения О х 2 - булева алгебра. Тогда О почти абелева.

Доказательство. Обозначим порождающий элемент группы 2 буквой а, таким образом, рациональные подмножества группы О х (а^ - булева алгебра. Докажем индукцией по ступени разрешимости конечно порожденной подгруппы Н < О , что Н - почти абелева.

Если Н абелева, то доказывать нечего.

Если Н - разрешимая подгруппа ступени п и для меньших ступеней разрешимости утверждение теоремы верно, то коммутант Н группы Н локально почти абелев.

Для дальнейшего доказательства нам понадобится следующая лемма.

Лемма 1. Пусть (в контексте доказательства данной теоремы) группа М с условием Н' < М < Н локально почти абелева., g е Н. Тогда группа М1 = < М, g > локально почти абелева.

Доказательство. Пусть К - конечно порожденная подгруппа группы М1. Она содержится в некоторой подгруппе К1 = < g, к1,..., кп > <М1, где элементы

к1,...,кп принадлежат М. Нормальное замыкание группы К2 =<к1,...,кп > в К1 порождено множеством X элементов вида g ~1к^1, где ' е 2, 1 < , < п .

Докажем, что X рационально. Действительно, множество

X, = ^ ' к&х, 1е 2, '> 0}

можно получить как пересечение рациональных подмножеств группы Ох<а > , а именно

х,- =(а—1) к1 (gа)* П °.

(Элемент (а~lg4 ) ki ^а) равен

(g -')'к, (g )к а '+к и принадлежит группе О

тогда и только тогда, когда —' + к = 0 . Но при ' = к этот элемент принадлежит Х{.) По условию теоремы пересечение конечного числа рациональных подмножеств группы Ох < а > рационально в группе Ох < а >, поэтому Х{ рационально в Ох < а > (а тогда из утверждения 1 следует, что X, рационально в К1). Аналогично

множество Х{ = ^ гк^, ' е 2, ' < 0} рационально в К1, а тогда X = и п=0 (X, - X,) также рационально в К1 .

По утверждениям 2 и 3 группа

< X >=<< К2 >> конечно порождена. Но, как легко видеть, < X > содержится в М (группа М содержит коммутант группы Н и потому нормальна в ней). Следовательно, группа < X > полициклична (она удовлетворяет условию максимальности для подгрупп, так как любая подгруппа конечно порожденной почти абелевой группы - конечно порожденная почти абелева группа; а разрешимая группа с условием максимальности полициклична). Значит, группа К1 полициклична.

По утверждениям 4 и 5 группа К1

почти абелева, а тогда и группа К почти абелева. Лемма доказана.

Завершим доказательство теоремы. Пусть Н =< к1,...,hN > , тогда определим ряд подгрупп группы Н следующим образом: Н0 = Н', Н( =< Н', ^,...,\ > при , = 1,..., N.

Тогда, применяя лемму 1, по индукции по индексу , получим, что все под-

группы Hi, , = 0,...,N, локально почти абелевы. В частности, НN = Н почти абелева. Теорема доказана.

Неформально в доказательстве предыдущей теоремы бесконечная циклическая группа, порожденная элементом а , играет роль «счетчика», который позволяет выделить из подмножеств О вида

(У—1) ху* в точности все сопряжения

У—хуп.

Утверждение 6 (следствие теоремы 1). Если конечно порожденная разрешимая группа О разлагается в прямое произведение О = О1 х О2, где обе группы О1 и О2 бесконечны и рациональные подмножества группы О - булева алгебра, то О почти абелева.

По поводу теоремы 1 также заметим, что по утверждению 4 условие «рациональные подмножества О х 2 - булева алгебра» влечет условие «рациональные подмножества О - булева алгебра».

Теорема 2. Пусть О - конечно порожденная разрешимая группа, рациональные подмножества которой являются булевой алгеброй, и пусть существует такая нормальная абелева подгруппа А группы О, что О / А нильпотентна. Тогда О почти абелева.

Доказательство (индукцией по степени разрешимости группы О ). По индукции коммутант О группы О локально почти абелев.

Пусть Х, У - некоторые элементы группы О. Обозначим Н =< х, у > , М =< у—пхуп | п е 2 > (легко видеть, что

М - это нормальное замыкание < х > в Н ) и К =< у— [х, у]уп | п е 2 > (как обычно, [Х, у] = Х-1 у-1 ху ).

Поскольку у—п [Х, у]уп = (у~пх_1 уп) х

х(у~п—1 хуп+1), то группа М порождается К и х . Значит, если К конечно порождена, то М также конечно порождена. Тогда, если коммутаторы с1,...,cN определены по индукции как с1 = [х, у], с,+1 = [с,, у ] для г > 2 и группа К1 =< у—псыуп | п е 2 > конечно порождена, то группа М также конечно порождена

(индукция по N). Но для некоторого N элемент с11 принадлежит группе А. Тогда группа < сьг, у > метабелева, она конечно порождена и содержится в О , поэтому по утверждению 4 ее рациональные подмножества - булева алгебра, а по утверждению 5 она почти абелева. Тогда любая ее подгруппа (в частности, К1 ) О конечно порождена. Значит, группа М также конечно порождена.

Пусть О =< ^,...,gn >, О0 = О',

О , =< О', ^,. ., g1 > , = 1,. ., п . Все подгруппы О, нормальны в О, поскольку они содержат коммутант О . Докажем индукцией по , , что все группы О, локально почти абелевы.

Пусть Я =< к1,..., кт, gI+l >, где подгруппа Я1 =< k1,...,кт > содержится в О,. Пусть Я2 - это нормальное замыкание группы Я1 в Я. Оно порождено т группами

< gмkJg'+ll' е 2 >, где ] = 1,..., т. Но они

конечно порождены по предыдущим рассуждениям, где в качестве Х нужно взять к^, а в качестве у - gi+1. Следовательно,

группа Я2 - конечно порожденная подгруппа О, , поэтому по индукции она почти абелева, а так как она разрешима, то является и полициклической, тогда поли-циклической является и группа Я , по утверждениям 4 и 5 группа Я почти абелева. Тогда группа О = Оп почти абелева.

Теорема доказана.

Теорема 3. Пусть О - конечно порожденная разрешимая подгруппа матричной группы ОЬп (О), где О. - поле характеристики ноль, рациональные подмно-ж:ества группы О - булева алгебра. Тогда О почти абелева.

Доказательство. Во-первых, можно считать, что поле О алгебраически замкнуто. По теореме Колчина - Мальцева [8] существует нормальная подгруппа N группы О конечного индекса, сопряженная с подгруппой группы треугольных матриц Тп (О). Достаточно доказать, что N почти абелева.

Учитывая утверждение 4, можно считать, что О < Тп (О). Коммутант О' группы О содержится в группе унитреугольных

матриц UTn (Q), эта группа нильпотентна. Поскольку случай конечной характеристики поля очевиден, можно считать, что оно имеет характеристику ноль, поэтому G' без кручения. Кроме того, по утверждениям 4 и S (принимая во внимание то, что конечно порожденная нильпо-тентная группа полициклична), G' локально почти абелева. Так как факторгруппа G / G' конечно порождена, можно считать, что она и следом вся группа G без кручения. Далее, как обычно, определим нижний центральный ряд группы H = G' по индукции yH = H, Yj+lH = [YjH, H] =< [h, g]I h є yjH, gє H > .

Нижний центральный ряд - это убывающий ряд подгрупп H. Поскольку H нильпотентна, то начиная с некоторого номера члены нижнего центрального ряда равны единичной подгруппе.

Пусть jkH = {1} , а Yk H * {1} . Докажем (методом от противного), что k = 1, т. е. H = G' абелева. Тогда утверждение теоремы будет следовать из утверждения S. Предположим, напротив, что k > 2 . Пусть x є H, у є Yk—2H - произвольные. Коммутатор [ x, у ] принадлежит Yk—lH, т. е. принадлежит центру группы H, поэтому группа < x, у > двуступенно нильпотентна. Если элемент [x, у] имеет бесконечный порядок, то < x, у > не является

почти абелевой, но эта подгруппа локальна почти абелевой группы G' - противоречие. Значит (так как G' - без кручение), [х, у] = 1, поэтому ук_1И = [ук_2Н, H ] = {1} . Полученное противоречие завершает доказательство.

Автор выражает глубокую благодарность своему научному руководителю - профессору В.А. Романькову за помощь в работе.

ЛИТЕРАТУРА

[1] Gilman R. H. Formal language and infinite groups // DIMACS Ser. Discrete Math. Theoret. Comput. Sci. 1996. V. 25. P. 27-51.

[2] Herbst T., Thomas R. M. Group presentations, formal langyages and characterizations of one-couter group // Theoret. Comput. Sci. 1993. V. 112. P. 187-213.

[3] Баженова Г. А. О рациональных множествах конечно порожденных нильпотентных групп // Алгебра и логика. 2000. Т. 39. № 4. С. 379-394.

[4] Баженова Г. А. Замкнутость одного класса групп относительно свободного произведения // Сиб. мат. журнал. 2000. T. 41. № 4. C. 740743.

[5] Bagenova G. A. Rational sets in polycyclic group // Комбинаторные и вычислительные методы в математике : сб. науч. тр. Омск : ОмГУ, 1999. С. 76-81.

[6] Баженова Г. А. О рациональных множествах в

метабелевых группах: препринт № 22.

ОмГАУ, 1999.

[7] Kapovich I. One-relator groups and the Howson property // Comm. in Algebra. 1999. V. 27. № 3. P. 1057-1072.

[8] Супруненко Д. А. Группы матриц. М., 1972.