Алгоритм формирования информационной структуры параллельных программ иерархической вычислительной системы Текст научной статьи по специальности «Компьютерные и информационные науки»

АЛГОРИТМ ФОРМИРОВАНИЯ ИНФОРМАЦИОННОЙ СТРУКТУРЫ ПАРАЛЛЕЛЬНЫХ ПРОГРАММ ИЕРАРХИЧЕСКОЙ ВЫЧИСЛИТЕЛЬНОЙ СИСТЕМЫ

Легков Константин Евгеньевич,

к.т.н., начальник кафедры автоматизтрованных систем управления Военно-космической академии имени А.Ф.Можайского, г. Санкт-Петербург, Россия, [email protected]

Нестеренко Олег Евгеневич,

адъюнкт кафедры автоматизтрованных систем управления Военно-космической академии имени А.Ф.Можайского, г. Санкт-Петербург, Россия, [email protected]

АННОТАЦИЯ

В условиях повышения требований к эффективности вычислительных комплексов, используемых при построении информационных систем и сетей специального назначения, особую актуальность приобретают вопросы повышения их производительности. В качестве основного показателя эффективности исследуемого вычислительного комплекса информационной системы выбрано количество обработанных заявок в единицу времени, а основным показателем, характеризующим данное свойство, является длительность выполнения программы, реализующей алгоритм обработки информации. Сокращение данного показателя предполагается за счёт рационального распределения операций между вычислительными модулями и узлами. Раскрыты основные направления исследований и развития вычислительной техники, позволяющие увеличить производительность вычислительных систем и комплексов различного назначения. Причём отмечена важность совершенствования научно-методического аппарата формирования информационной структуры параллельных программ. Определены особенности иерархических вычислительных систем, обуславливающие сложности при формировании информационной структуры параллельных программ, выполняемых на них. Поставлена задача формирования информационной структуры параллельной программы, доставляющей максимум аргумента функции длительности её выполнения. В качестве исходных данных используется граф структуры программы и некоторые характеристики вычислительной системы. Результатом выполнения алгоритма является оптимальный (по длительности) план выполнения операций параллельной программы в форме матрицы назначений операций на вычислительные модули системы. Отмечена возможность решения данной задачи методами математического программирования и определены основные этапы решения задач данными методами.

Выделены основные особенности при формировании математической модели задач математического программирования. Определены основные ограничения, накладываемые на область допустимых решений. Рассмотрены основные группы методов решения задач целочисленного программирования.

Задача о формировании информационной структуры параллельной программы сведена к решению общей задачи линейного программирования. В качестве метода оптимизации информационной структуры выбран симплекс метод. Доказана целочисленность решений данной задачи методами линейного программирования. Получен оптимальный план выполнения операций параллельной программы без учёта ограничений на количество вычислительных модулей системы.

Предложен алгоритм формирования информационной структуры программы на основе оптимального плана выполнения операций без учёта требований по максимальному количеству вычислительных модулей системы.

Ключевые слова: вычислительная система; вычислительный комплекс; NUMA; параллельная программа; длительность информационного обмена.

Для цитирования: Легков К.Е., Нестеренко О.Е. Алгоритм формирования информационной структуры параллельных программ иерархической вычислительной системы // Наукоемкие технологии в космических исследованиях Земли. 2017. Т. 9. № 1. С. 52-59.

Введение

Рост масштабов и сложности решаемых задач средствами информационных систем и сетей специального назначения (ИС СН) в условиях повышения требований к эффективности, обуславливает необходимость поиска путей увеличения значений показателей оперативности вычислительных систем и комплексов, при выполнении целевых задач [1].

В настоящий момент на смену устаревшим вычислительным комплексам (ВК) приходят перспективные вычислительные системы, выполняющие следующие задачи [2]:

— многоканальная цифровая обработка информации в режиме реального времени;

— управление аппаратурой различного назначения;

— реализация универсальных алгоритмов обработки информации на пунктах управления.

Однако в настоящий момент времени имеет место использование устаревшего программного обеспечения (разработанного для ВК старого парка) на современных вычислительных системах, что не позволяет им функционировать в полном объеме за счет неэффективного использования аппаратного ресурса.

Проведённый анализ показал, что данное несоответствие обусловлено в основном несовершенством научно-методического аппарата используемого для организации параллельных вычислений. Это связано, прежде всего, с отсутствием учёта характеристик и особенностей информационного обмена между компонентами иерархических вычислительных систем, находящихся на разных уровнях с учётом накладываемых требований по функционированию в режиме реального времени [3].

Постановка задачи

Одним из основных показателей эффективности функционирования ИС СН является количество обработанных заявок в единицу времени. Очевидно, что данный показатель находится в прямой зависимости от показателя производительности вычислительных средств, обрабатывающих поступающие заявки.

Если принять предположение о том, что на обработку одной единицы информации используется и циклов некоторой программы обработки, то можно сделать вывод о том, что количество обработанных заявок в единицу времени С зависит от длительности выполнения Т^ программы, реализующей алгоритм обработки и количества циклов его выполнения, т.е.:

С=Лп,Т^) (1)

Под длительностью выполнения программы будем понимать время, затрачиваемое ею на обработку информации с момента поступления её на вход до получения всех выходных данных [4].

Сокращение длительности выполнения программы достигается за счёт:

совершенствования элементной базы;

развития архитектурных решений по построению вычислительных систем;

оптимизации алгоритмов реализуемых в программном обеспечении.

Если первые два направления вполне очевидны и лежат в области технологических достижений промышленности, то вопросам оптимизации алгоритмов реализуемых в программном обеспечении незаслуженно уделено значительно меньше внимания.

Особенностью вычислительных систем, способных осуществлять параллельную обработку информации, является наличие значительных временных издержек на информационное взаимодействие, между её компонентами, находящимися на разных иерархических уровнях. Необходимость их учёта обуславливает сложность формирования параллельных структур программ.

Предположим, задана вычислительная система (ВС) (рис. 1):

S(K(q, c), n, m)

где, n — количество вычислительных узлов (ВУ), объединённых коммуникационной средой K(q, c);

m- количество вычислительных модулей (ВМ), входящих в состав вычислительного узла, объединённых общей шиной (второй уровень);

c — объём буфера коммутатора сети; q — пропускная способность коммутатора; На нижнем уровне ВС расположены ВМ, которые объединены шиной HyperTransport и формируют ВУ На втором уровне ВС ВУ объединены через коммуникационную среду InfiniBand или Gigabit Ethernet.

(K<q,c))

Уровень вычислительных узлов (InfiniBand^/

Уровень вычислительных модулей (НурегТгап5рог1)

Рис. 1. Двухуровневая вычислительная система

В соответствии с рис. 2 определена программа, реализующая алгоритм обработки информации:

Р(0(У, V), Т, К)

где, 0(У, V) — граф описывающий структуру информационных обменов ы1 (г = 0, п) между операциями у] (] = 0, т);

Т — множество значений длительностей выполнения /. операций V;

Рис. 2. Структура информационных обменов между операциями программы

К — множество значений объёмов к передаваемой информации при информационном обмене и.;

Реализация программы Р на вычислительной системе предполагает формирование матрицы |Х| назначений программы на ВМ, т.е.:

X = |\хЛ

II ' \\mxn

|1, 5Д 8 >? 5(^80=07=005=0 =0 □□ Х,]~ [0, 8=005

Длительность выполнения Т^ полученной реализации будет определяться временем окончания последней операции на одном из модулей, т.е.:

Tg = max t

j=0

(2)

Соответственно, наилучшей реализацией^ будем считать реализацию, доставляющую минимум длительности выполнения программы, т.е.:

X * = arg min(r„)

1. Выбор неизвестных величинХ= (х0, х1, ..., хп), воздействуя на которые можно изменять длительность выполнения программы. При решении задачи формирования информационной структуры параллельной программы, данной величиной является момент времени начала х. каждой операции. Эти величины также называются переменными, управляемыми параметрами, планом, стратегией и т. д.

2. Необходимо выделить цель формирования информационной структуры параллельной программы и записать ее в виде математической функции от выбранных переменных. Такая функция называется целевой (функция цели, критерий оптимальности, критерий качества, показатель эффективности и т.д.) и позволяет, изменяя значения управляемых параметров xi выбрать наилучший вариант из множества возможных. В нашем случае функцией цели является длительность выполнения программы (2).

3. Запись в виде математических соотношений (уравнений, неравенств) условий, налагаемых на переменные. Эти соотношения называют ограничениями.

Программой предполагается выполнение элементарных операций, на которые накладываются следующие ограничения:

¡.Ограничения на возможность только последовательного выполнения двух операций.

2. Ограничение на целочисленность решения.

Обозначим через х., хк, (/ < к) моменты начала выполнения некоторых операции, соответственно длительности выполнения этих операции — /.,

Тогда в формализованном виде ограничения первой группы примут вид:

х. + /. < х, (4)

. . к

(3)

Ограничение второй группы: x е Z

(5)

Таким образом, данная задача является задачей нахождения минимума функции и может решаться методами математического программирования.

Основная часть

При всем многообразии содержания конкретных задач, решение задачи формирования информационной структуры параллельных программ проходит последовательно следующие основные этапы:

¡.Постановка задачи минимизации длительности Т^ выполнения параллельной программы.

2. Построение математической модели и составление системы ограничений определяющих область допустимых решений задачи формирования информационной структуры параллельных программ.

3. Выбор метода решения и решение задачи.

4. Проверка полученного плана выполнения операций параллельной программы на его адекватность и его корректировка.

В построении математической модели можно выделить следующие этапы:

Учитывая требование по целочисленности решения, то предполагается решение поставленной задачи методами дискретного (целочисленного) математического программирования.

К числу наиболее распространённых методов решения задач целочисленного программирования относятся: методы отсечений комбинаторные методы.

Несмотря на то, что методы отсечений являются надёжным средством решения некоторых задач, имеющих специальную структуру, данные методы не подходят для решения задачи формирования информационной структуры параллельной программы большой размерности. Более того, при непреднамеренном изменении порядка следования ограничений, вычислительная сложность решения зна-чительноувеличивается [5].

В основе комбинаторных методов лежит идея перебора всех допустимых целочисленных решений задачи формирования параллельной программы. Разумеется, на первый план здесь выдвигается проблема разработки процедур, позволяющих непосредственно рассматривать лишь отно-

сительно небольшую часть указанных решений. Наиболее известным комбинаторным методом является метод ветвей и границ, который также опирается на процедуру решения задачи с ослабленными переменными.

Согласно общей идее метода сначала решается задача линейного программирования без учёта требований цело-численности. Пусть хг — целочисленная переменная, значение х* — которой в оптимальном решении ослабленной задачи является дробным. Интервал [хг ] < хг < [х* ] +1 не содержит допустимых целочисленных компонент решения. Поэтому допустимое целое значений хг должно удовлетворять одному из неравенств:

Xr < [ x*] xr > [x*] +1

Ь = с'х = хп — При ограничениях:

Лх<Ь х<0 х е Ъ

• mm

(6)

Введение этих условий в задачу с ослабленными ограничениями порождает две не связанные между собой задачи. Осуществляемый в процессе разбиения учёт необходимых условий целочисленности позволяет исключить части многогранника допустимых решений, не содержащие точек с целыми координатами. Затем каждая подзадача решается как задача линейного программирования с целевой функцией исходной задачи.

Рассматривается полностью целочисленная задача определения оптимальных моментов времени начала операций х. (оптимальный план выполнения программы):

Минимизировать момент окончания последней операции, т.е.

Рис. 3. Граф информационной структуры программы

мет (с учётом ограничений на порядок следования операций) примет вид:

z = x12 - x0 ^ mm

Xi ^ X2 ; Xi ^ X3 ; Xi ^ Xß ; Xi ^ Xj ;

x2 + 6 < x4 ; x3 + 7 < x4 ; x4 + 3 < x5 ;

Xu < X12 ; X9 < X12

Xi e Z

X > 0

(11)

(7)

(8) (9)

(10)

Пусть задан граф 0(У, V) информационной структуры программы (рис. 3), для которого необходимо получить оптимальный план.

Для ограничения целевой функции введены две операции (х1 их12) нулевой длительности. Операция х1 соединена с операциями не имеющими входящих дуг, а х12 с операциями не имеющими исходящих.

Известна длительность выполнения каждой из операций (табл. 1).

Очевидно, что в этом случае задача сводится к минимизации момента начала операции х12, а вся система при-

Соответствующая системе уравнений матрица примет вид (табл. 2).

Оптимальное решение х* задачи линейного программирования (7-9) соответствует вершине выпуклого много-гранникаМ(Л,Ь), задаваемого ограничениями (8), (9). Тогда, если все решения, соответствующие вершинам многогранника Ы(Л,Ь) целочислены, то и оптимальное решение х* будет целочисленным.

Пусть О множество целочисленных точек, принадлежащих Ы(А,Ь). Тогда множество решений задачи (7-10) содержится в выпуклой оболочке Ы(О). Очевидно, что Ы(О) с Ы(Л,Ь). Следовательно, если выделить класс задач целочисленного линейного программирования, для которых Ы(О) = Ы(Л,Ь), то для нахождения оптимального решения в таких задачах можно использовать методы линейного программирования.

Многогранник Ы(Л,Ь), задаваемый ограничениями (8), (9), является целочисленным при любом целочисленном Ь тогда и только тогда, когда матрица А абсолютно уни-модулярна[6]. Причём, матрица А называется абсолютно унимодулярной, если любой минор (любого порядка) матрицы Л равен {-1;0;1}.

Очевидно, что матрица А задачи (11), является унимодулярной, таким образом можно сделать вывод о целочисленности её решения методами линейного программирования.

Длительность выполнения каждой операции

Таблица 1

Операция: 1 2 3 4 5 6 7 8 9 10 11 12

Длительность: 0 6 7 3 7 1 7 3 7 3 7 0

Таблица 2

Симплекс-таблица системы

БП xi Х2 X7 XP XJ0 xJJ XJ2 Свободный член

1 -1 0 0 0 0 0 0 0 0 0 0 0

1 0 -1 0 0 0 0 0 0 0 0 0 0

1 0 0 0 0 -1 0 0 0 0 0 0 0

1 0 0 0 0 0 -1 0 0 0 0 0 0

0 1 0 -1 0 0 0 0 0 0 0 0 -6

0 0 1 -1 0 0 0 0 0 0 0 0 -7

0 0 0 1 -1 0 0 0 0 0 0 0 -3

0 0 0 0 1 0 0 -1 0 0 0 0 -7

0 0 0 0 1 0 0 0 0 -1 0 0 -7

0 0 0 0 0 1 0 -1 0 0 0 0 -1

0 0 0 0 0 1 0 0 0 -1 0 0 -1

0 0 0 0 0 0 1 0 -1 0 0 0 -7

0 0 0 0 0 0 1 0 0 0 -1 0 -7

0 0 0 0 0 0 0 1 -1 0 0 0 -3

0 0 0 0 0 0 0 0 1 0 0 -1 -7

0 0 0 0 0 0 0 0 0 1 -1 0 -3

0 0 0 0 0 0 0 0 0 0 1 -1 -7

Z -1 0 0 0 0 0 0 0 0 0 0 1 0

Если решение задачи линейного программирования (ЗЛП) существует, то оно достигается хотя бы в одной вершине (опорном решении) многогранника допустимых решений, следовательно, поиск оптимального решения необходимо осуществлять среди вершин многогранника (опорных решений). Однако при больших значениях т и и, перебор всех вариантов практически невозможен. Для решения данных задач был предложен симплекс-метод, разработанный в 1947-49гг. американским математиком Дж. Данцигом. Идея симплекс-метода состоит в целенаправленном переборе вершин многогранника допустимых решений (опорных планов) в направлении «улучшения» значений целевой функции.

В результате решения ЗЛП (11) симплекс методом был получен оптимальный план, со значением целевой функции 2 = 21. Моменты начала каждой из операций представлен в табл. 3.

Соответствующий решению сетевой график выполнения операций представлен на рис. 4.

Данный сетевой график построен без учёта ограничений по количеству исполнителей операций. Для выполнения плана, соответствующего данному графику необходимо 3 элементарных исполнителей.

Предположим в вычислительной системе, на которой предполагается выполнение параллельной программы, имеется т = 2 вычислительных модулей. Таким образом, при реализации данного плана возникает «узкое место» в интервале между моментами времени 16 и 20. Разрешить данное противоречие возможно, перемещением операций 7, 6 и 10 на другие вычислительные модули (например,

(12)

Рис. 4. Оптимальный сетевой график выполнения операций

на второй вычислительный модуль в интервале времени между моментами 7и 16)с учётом требований по порядку следования операций, т. е. момент начала операции х7 после перемещения должен соответствовать ограничениям:

х* > х1 + 0 х* > 7

А момент окончания удовлетворять ограничениям: х* + 7 < х11

х* + 7 < х9 (13)

х* < 16

Блок-схема выполнения алгоритма представлена на рис. 5. Основными этапами предложенного алгоритма являются:

1.Ввод исходных данных (граф информационной структуры программы 0(У, V) и множества длительностей Т каждой операции).

2.Формирование множества ограничений, целевой функции и соответствующей им симплекс-таблицы.

Таблица 3

Решение ЗЛП (11)

Операция: 1 2 3 4 5 6 7 8 9 10 11 12

Момент начала: 0 1 0 7 10 16 13 17 20 17 20 27

Рис. 5. Общая схема выполнения алгоритма

3.Получение оптимального плана выполнения операций симплекс методом (без учёта требований по максимальному количеству вычислительных модулей).

4.Выявление «узких мест» оптимального плана.

5.Перемещение операций.

Заключение

Преимуществом алгоритма является использование методов линейного программирования для решения целочисленной задачи формирования информационной структуры параллельной программы, не прибегая к применению комбинаторных методов решения, обладающих рядом недостатков. Эта возможность достигается за счёт использова-

ния унимодулярной матрицы, описывающей область допустимых решений задачи линейного программирования.

Таким образом, идея предлагаемого алгоритма заключается в:

¡.Использовании хорошо проработанных методов линейного программирования для решения целочисленной задачи формирования оптимального плана выполнения операций параллельной программы.

2.Последовательном перемещении операций между вычислительными модулями, с целью сокращения необходимого количества вычислительных модулей, до тех пор, пока не выполнится требование по максимальному количеству модулей.

Литература

1. ЛедянкинИ.А., ЛегковК.Е. О некоторых концептуальных вопросах разработки параллельных структур вычислительных задач кластерных вычислительных систем // Наукоемкие технологии в космических исследованиях Земли.

2014.Т. 6.№6. С. 30-38.

2. БуренинА.Н., ЛегковК.¿".Современные инфоком-муникационные системы и сети специального назначения. Основы построения и управления. М.: Медиа Паблишер,

2015. 348 с.

3. КурносовМ./".Алгоритмы организации функционирования распределенных вычислительных систем с ие-

рархической структурой. Дис. ...док. технич. наук: Новосибирск, 2016. 177 с.

4. Нестеренко О. Е. Модель процессов организации обработки оперативной информации распределенными вычислительными комплексами специального назначения II Т-Сотт: Телекоммуникации и транспорт. 2016. Т. 10. № 12. С. 48-54.

5. КорбутА.А., ФинкельштейнЮ.Ю. Дискретное программирование. М: Наука, 1969.

6. Линейные неравенства и смежные вопросы: сб.статей / под ред. Г. У Куна, А. УТаккера. М.: Изд. иностр. лит-ры, 1959. 472 с.

THE ALGORITHM OF FORMING THE INFORMATION STRUCTURE OF PARALLEL PROGRAMS FOR HIERARCHICAL COMPUTING SYSTEM

Konstantin E. Legkov,

St-Petersburg, Russia, [email protected]

Oleg E. Nesterenko,

St-Petersburg, Russia, [email protected]

ABSTRACT

Increasing performance requirements of computing systems used in the construction of information systems and networks, with particular relevance to enhancing their productivity. As the main indicator of efficiency of the investigated computing complex information system of a selected number of processed requests per unit of time, and the main measure of this property is the completion time of a program implementing the algorithm of information processing. The reduction of this indicator is expected due to the rational distribution of operations between the compute modules and nodes.

Basic directions of research and development computational techniques to increase the performance of computing systems and complexes of various purpose. And noted the importance of improving the scientific and methodological apparatus of forming the information structure of parallel programs.

The features hierarchical computing systems, causing difficulties in the formation of the information structure of parallel programs running on them. The task of forming the information structure of a parallel program that delivers the maximum argument of the function in the duration of its execution. As input data use the graph structure of the programme and some of the characteristics of the computing system. The result of this algorithm is optimal (in duration) the plan of operations of a parallel program in the form of matrix assignment operations on the computational modules of the system. The possibility of solving this problem by methods of mathematical programming and the main stages of the task solution by these methods.

Main features in the formation of mathematical models of problems of mathematical programming. The main constraints imposed on the range of permissible decisions. Describes the main groups of methods for solving problems of integer programming.

The problem of forming the information structure of a parallel program is reduced to the solution of the General problem of linear programming. As a method of optimization of the information structure chosen by the simplex method. Proved the integrality of the solutions to this problem the

methods of linear programming. The resulting optimal execution plan operations of the parallel program without restrictions on the number of computing modules of the system. The algorithm of forming the information structure of the program based on the optimal execution plan operations without taking into account the requirements on the maximum number of compute

Keywords: computer system; computer complex; NUMA; parallel program; the duration of information exchange.

References

1. Ledyankin I. A., Legkov K. E. On some conceptual issues of development of parallel structures computing tasks cluster computing systems. H&ES Research. 2014. T. 6. No. 6. Pp. 30-38. (In Russian).

2. Burenin A. N., Legkov K. E. Sovremennye infokommunikatsionnye sistemy i seti spetsial nogo naz-nacheniya. Osnovy postroeniya i upravleniya: Monografiya. [Modern infocommunication systems and special purpose networks. Basics of creation and control]. Moscow, Media Publisher, 2015. 348 p. (In Russian).

3. Kurnosov M. G. the Algorithms of functioning organization of distributed computer systems with hierarchical structure. Dissertation for the degree of doctor of technical Sciences: 05.13.15 - Novosibirsk, 2016. 177 p. (In Russian).

4. Nesterenko O. E. The process Model of the organization of the processing of operational information, distributed computer systems, special purpose. T-Comm. 2016. Vol. 10. No. 12. Pp. 48-54.

5. Korbut A. A., Finkelstein Y. Yu. Diskretnoe programmirovanie [Discrete programming] . Moscow: Nauka, 1969. (In Russian).

6. Kuhn H. W. , Tucker A. W. (Eds.). Lineine neravenstva i cmezhne vopros: sbornik statei [Linear inequalities and related questions: collection of articles]. Moscow: Inoctrannaya literatura Publ., 1959. 472 p. (In Russian).

Information about author:

Legkov K. E., PhD, postgraduate student, Head of the Departmentof automation, Military Space Academy;

Nesterenko O. E., postgraduate student of the Department of automation, Military Space Academy, Saint-Petersburg, Russia, [email protected].

For citation: Legkov K. E., Nesterenko O. E. The algorithm of forming the information structure of parallel programs for hierarchical computing system. H&ES Research. 2017. Vol. 9. No. 1. Pp. 52-59. (In Russian)