Параллельные алгоритмы метода циклической прогонки

Головашкин Д.Л.; Филатов М. В.

ПАРАЛЛЕЛЬНЫЕ АЛГОРИТМЫ МЕТОДА ЦИКЛИЧЕСКОЙ ПРОГОНКИ

Головашкин Д.Л), Филатов М. В2

1 Институт систем обработки изображений РАН 2 Самарский государственный аэрокосмический университет

Аннотация

Работа посвящена построению параллельных алгоритмов метода циклической прогонки для решения сеточных уравнений ленточного вида. Рассмотрены два подхода к разбиению сеточной области: линейная и циклическая декомпозиции. Каждый подход применен к построению алгоритмов с использованием правой и встречных циклических прогонок. Произведено аналитическое и экспериментальное сравнение предложенных алгоритмов, выявлены их достоинства и недостатки.

Введение

Математическое моделирование находит все большее применение в различных отраслях науки. Это связано как с развитием математического аппарата в соответствующих отраслях, так и с совершенствованием вычислительной техники. В свою очередь, новые модели и вычислительные ресурсы нуждаются в новых алгоритмах, среди которых наиболее популярными в настоящее время следует признать параллельные.

В частности, многие задачи математической физики с помощью разностного и проекционного методов сводятся к набору сеточных уравнений, записывающихся для многомерных областей в виде совокупности систем линейных алгебраических уравнений (СЛАУ) ленточного вида. При этом круговые, сферические и цилиндрические подобласти характеризуются матрицей СЛАУ, содержащей, кроме ленты на центральных диагоналях, ненулевые элементы в верхнем правом и нижнем левом углах. Для решения таких СЛАУ традиционно применяется метод циклической прогонки [1] (различные итерационные методы остаются за рамками настоящей работы).

Задавшись целью синтезировать параллельные алгоритмы этого метода, авторы обратились к параллельным алгоритмам решения ленточных СЛАУ без ненулевых элементов вне ленты, как к примерам решения аналогичной задачи. Из алгоритмов, основанных на декомпозиции области [2], циклической редукции [3] и функциональной декомпозиции [4,5], наиболее эффективными [3] были признаны последние. Их развитию для метода циклической прогонки и посвящена настоящая работа.

1. Параллельный алгоритм для одномерной сеточной области

Иллюстрируя основные идей работы рассмотрим параллельный алгоритм для одномерной области, основанный на применении встречных циклических прогонок. Не обладая свойством масштабируемости [6] он полезен при составлении алгоритмов для многомерных областей.

Функциональная декомпозиция метода циклической прогонки задается спецификой использования в ней метода обычных встречных прогонок [1].

Произведем разбиение одномерной области данных ю1 на равные подобласти ю1 и ю2 между двумя

задачами параллельного алгоритма. Пусть первая задача вычисляет прогоночные коэффициенты а,, в, у,- и и, при 1 < і < g , вторая С, , П; , V; и V, при §+1<г<^, где g - номер последнего узла подобласти ю1, N - номер последнего узла областей ю1 и ю,.

Вычисления по алгоритму разделим на семь шагов: прямой ход прогонок, обмен данными, обратный ход, пересылка дополнительных данных, вычисление коэффициента у0 [1], пересылка коэффициента и нахождение окончательного решения.

Задача 1 а, Р, У Задача 2 С> Л. V

1 Задача 1 а, Р, У 1 Ю2 Задача 2

1 ^ Задача 1 и, V С. П> V Задача 2 и, V

1 Задача 1 1 (02 Задача 2 Мм-1, Уц-!

і «і Задача 1 Уо 1 <й2 Задача 2

і Задача 1 Уо Щ Задача 2

ю/ Задача 1 У „ Ю2‘ Задача 2 < У

1 1 ю2

Рис. 1 Этапы вычислений по двухзадачному параллельному алгоритму, реализующему метод встречных циклических прогонок (а-в - встречный ход прогонок, г - обмен крайними коэффициентами, д - вычисление у0, е - обмен коэффициентами, ж - вычисление окончательного решения).

Во время прямого хода (рис. 1а) прогоночные коэффициенты вычисляются одновременно с двух сторон по направлению к центру области: первая задача находит а , в, у, вторая - £ , П , V

Обмен коэффициентами (рис. 1б) необходим для запуска обратного хода, при этом первая задача передает второй тройку коэффициентов 0^ , вг+1, Уг+1, получая С,&+1 , %+; , ¥я+1.

Обратный ход прогонок (рис. 1в) реализуется обеими задачами одновременно.

На следующем шаге (рис. 1г) вторая задача пересылает в первую коэффициенты ы^.1 и [1].

Пятый шаг (рис. 1д) характеризуется вычислением у0 первой задачей (вторая задача простаивает).

Затем полученное значение пересылается второй задаче (рис. 1е).

Вычисление окончательного решения производится обеими задачами одновременно (рис. 1ж) на последнем шаге алгоритма.

Ускорение [3] приведенного двухзадачного алгоритма оценивается величиной

14Ша

Б = -

Задача 1 Задача 2

Задача 1

'-ар

(7 N+9)т ар + 4тп

где 14Шар - длительность вычислений по последовательному алгоритму (тар - время производства одной арифметической операции с плавающей точкой), (7^9)тар - длительность арифметических операций для одной задачи параллельного алгоритма, тя - время пересылки одного пакета по сети. При пакетной модели передачи данных время передачи разного объема информации остается константой до тех пор, пока объем передаваемого массива не превысит размер пакета. Здесь это условие соблюдается, в дальнейшем также будем полагать его верным.

2. Параллельные алгоритмы для двумерной области, основанные на методе правой циклической прогонки

В отличие от предыдущего случая, на двумерной сеточной области возможно построение параллельных алгоритмов на основе метода правой циклической прогонки, как это было предложено в [4] для ленточных СЛАУ без ненулевых элементов вне ленты.

2.1 Алгоритм правой циклической прогонки с линейным разбиением сеточной области

Записывая двухзадачный алгоритм, разобьем область ю2 так (рис. 2), что вычисления циклических прогонок по столбцам области не будут требовать пересылки данных, которая останется необходимой только при работе со строками.

Первый этап вычислений по алгоритму состоит из 1+1 шагов (рис. 2а-2г), где I - это число строк сеточной области. На первом шаге первая задача начинает прямой ход прогонки для первой строки (рис. 2а), вторая задача простаивает в ожидании прогоночных коэффициентов этой строки области.

Задача 2 ------►

со,

СО,

га,

Задача 1 Задача 2

1-2

1-1

I

Ю,

ю,

(0,

Задача 1 Задача 2

Ш,

со,

ю,

(О,

Задача 1 Задача 2

У У

ж з —► <—

2 і 2 2

“і щ ®1 С02

Рис. 2 Этапы вычислений по двухзадачному параллельному алгоритму, реализующему метод правой циклической прогонки на двумерной области с линейным разбиением (а-е - начальные шаги, ж - обмен крайними коэффициентами и вычисление у0, з - обмен коэффициентами у0 и вычисление окончательного решения). Звездочками обозначены простои задач.

Второй шаг обе задачи производят одновременно (рис. 2б), осуществляя прямой ход прогонки для разных строк: вторая задача для первой, первая для второй (функциональная декомпозиция: одновременно решаются разные СЛАУ). Аналогично происходит перебор строк области вплоть да шага I, когда вторая задача производит прямой ход для строки для строки 1-1, первая для I. На 1+1 шаге первая задача простаивает, вторая завершает прямой ход правой циклической прогонки для последней строки области.

На втором этапе (рис. 2д, е) вычислений аналогично выполняется обратный ход прогонки для всех строк области. Теперь на первом шаге простаивает первая задача алгоритма, на последнем - вторая.

Третий этап заключается в обмене коэффициентами и и V (для каждой строки) между задачами (рис. 2ж) с последующим вычислением задачей 1 коэффициента у0 (своего для каждой строки). Найденное значение у0 пересылается второй задаче.

Четвертый этап - нахождение искомых сеточных функций (рис. 2з). Все вычисления независимы, простои исключены.

Обратим внимание на последнюю задачу. На первом и втором этапах она простаивает. Общая длительность простоев составляет 5№ар, где N -

б

а

в

г

д

е

размерность сеточной области по горизонтали. Длительность простоев при обратном ходе прогонки составляет 2Ытар.

Простои также присущи третьему этапу при вычислении коэффициента у0, их длительность - 61тар. Простои, связанные с коммуникациями характеризуются величиной (3Г+1)х„ - общим временем приема и передачи задачей коэффициентов на первом, втором, третьем и четвертом этапах.

С учетом этого ускорение двухзадачного алгоритма оценивается величиной

5 =____________28Ж Тар______________

14Ж Тар + 61 Тар + 6М Тар + (31 + 1)т/

Распространим идею предлагаемого подхода на произвольное количество задач Ь с линейным разбиением сеточной области по одному направлению. На первом этапе многозадачного алгоритма в течении 1+Ь-1 шагов производится прямой ход прогонки. На первом шаге задача 1 работает со строкой 1 (остальные задачи простаивают), на втором задача 1 работает со своей частью строки 2, задача 2 с частью строки 1 (простаивают задачи 3,..,Ь). Шаг і (Ь<і<Г) характеризуется отсутствием простоев; причем задача I (1<1<Ь) производит прямой ход правой циклической прогонки для строки і-1+1 подобласти

. С шага Г+1 начинают простаивать задачи с меньшими номерами.

На втором этапе вычислений аналогично выполняется обратный ход прогонки для всех строк области. Так, на шаге і (Ь<і<Г) задача I (1<1<Ь) производит обратный ход правой циклической прогонки для строки і-Ь+1 подобласти . Первые шаги этапа характеризуются простоями задач с меньшими номерами, последние - с большими.

Третий этап заключается в обмене коэффициентами и и V (каждой строки) между задачами 1 и Ь с последующим вычислением первой задачей коэффициента у0 (своего для каждой строки). Задачи 2,..,Ь-1 простаивают до получения у0.

На четвертом этапе в течении Ь-1 шагов производится передача вектора значений у0 и вычисление у. На первом шаге задача 1 передает вектор значений у0 задаче 2 и начинает вычисление у. На втором шаге задача 2 передает вектор значений у0 задаче 3 и начинает вычисление у. На шаге Ь-1 задача Ь-1 передает задаче Ь вектор значений у0 и обе задачи начинают вычисление у. Для данного алгоритма характерна топология коммуникаций - кольцо.

Изучая длительность простоев Ь - задачного алгоритма, обратим внимание на последнюю задачу. На первом этапе она простаивает первые Ь-1 шагов, после которых работает без остановок. Длительность этих шагов составляет

8Ж ь тар + (Ь — 2) ,

где N - размерность сеточной области по горизонтали; (Ь - 2) тп - время пересылок, в которых последняя задача не принимает участия; 8М:ар - длительность прямого хода прогонки.

На втором этапе задача Ь простаивает заключительные Ь - 1 шагов. Время этого простоя:

4N Ь хар + (Ь — 2)тп ,

где 4М:ар - длительность обратного хода прогонки.

На четвертом этапе задача Ь простаивает первые Ь - 2 шагов. Время этого простоя:

(Ь - 2) Тп.

Простои также присущи третьему этапу при вычислении коэффициента у0, их длительность - 6/тар. С учетом этого ускорение Ь - задачного алгоритма оценивается величиной

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

е=_____________________28/^________________________

28/N Ь —1 ’

—Тр + 61Тар +12^-Г Тар + 3(Ь — 2)хи +(3/ +1)тя

где (3/+1)тп - общее время приема и передачи задачей коэффициентов на первом, втором, третьем и четвертом этапах.

2.2 Алгоритм правой циклической прогонки с циклическим разбиением сеточной области

Стремясь избежать простоев, циклически разобьем ю2 на блоки в шахматном порядке (рис. 3), ведя далее их нумерацию по блочным строкам и столбцам. Пусть задаче 1 принадлежат блоки на главной диагонали блочной области, задаче 2 - блоки, циклически смещенные на одну позицию влево от главной диагонали, задаче Ь - циклически смещенные на Ь-1 позицию влево.

1 2 3 4 Ь

2 2 2 2 2

1 <*>Ы ®і-2 ... ю2

2 2 2 2 2

2 ш2 ю, 0)х <%, ■ ■ ■ со3

2 2 2 2 2

3 ю3 (02 (»! Шх ... со4

2 2 2 2 2

4 Ш4 ш3 И)2 ... ш5

... ... ... ... ... ...

2 2 2 2 2

Ь <%2 ... 0)!

Рис. 3 Разбиение двумерной области в случае Ь-задачного алгоритма правой циклической прогонки

Двухзадачный вариант алгоритма характеризуется циклическим разбиением, представленным на рис. 4. На первом этапе такого алгоритма первая задача производит прямой ход прогонки для всех строк блока

(1, 1), вторая задача для (2, 1). На втором шаге она работает с блоком (1, 2) (предварительно получив необходимые прогоночные коэффициенты от другой задачи), вторая задача закончит прямой ход прогонки для второй блочной строки (блок (2, 2)).

1 2

1

2

Рис. 4. Разбиение двумерной области в случае двухзадачного алгоритма правой циклической прогонки

Обратный ход прогонки (второй этап) задачи проведут с теми же блоками в обратной последовательности: первая задача начнет с (2,2), завершит с

(1.1); вторая начнет с (1,2), завершит с (2,1).

Третий этап вычислений характеризуется обменом коэффициентами u и v между задачами 1 и 2 с последующим вычислением коэффициентов y0. А именно: первая задача получает из второй для блока

(1.2) крайние значения u и v, вторая из первой - для блока (2,2) крайние значения u и v. Затем в каждой задаче вычисляется y0.

Четвертый этап алгоритма. Первая задача производит вычисление y для всех строк блока (1, 1), вторая задача для (2, 1). На втором шаге она работает с блоком (1, 2) (предварительно получив вектор коэффициентов y0 от задачи 2), вторая задача с блоком (2, 2) (предварительно получив вектор коэффициентов y0 от задачи 1).

Циклическая прогонка по блочным столбцам выполняется аналогично.

Исследуя длительность пересылок, найдем 6тп как общее время пересылок на первом, втором и четвертом этапах (по строкам и столбцам), 2тп -время пересылки коэффициента y0.

Ускорение алгоритма

S = 28IN Tap

14INTap + 8t n ■

Идея циклического разбиения легко обобщается на случай L задач. На первом этапе алгоритма (прямой ход по блочным строкам) задача l (1<l<L) начинает вычисления с блока (l, 1) и продолжает их, циклически смещаясь по своей диагонали на одну блочную позицию вниз и влево. Обратный ход производится по тем же подобластям с возвращением к блоку (l, 1) в конце второго этапа алгоритма.

Третий этап вычислений для задачи l характеризуется обменом коэффициентов u и v с задачей l-1 (первая задача обменивается с последней), последующим вычислением y0 и их пересылкой. А именно: первая задача получает из последней крайние значения u и v для блока (1,L), вторая из L-l крайние значения u и v для блока (2,L-1). Затем в каждой за-

2 2

ю2

2 2

(02 ©і

даче вычисляется у0. Далее производится одновременное нахождение искомых сеточных функций обеими задачами алгоритма.

На следующем этапе алгоритма задача I начинает вычисления у с блока (1, 1) и продолжает их в течении Ь шагов, циклически смещаясь по своей диагонали на одну блочную позицию вниз и влево, при этом пересылая вектор коэффициентов у0 задаче 1-1 (в случае когда 1=1 пересылаем задаче Ь).

Для данного алгоритма характерна топология коммуникаций - кольцо.

Хотя предложенный алгоритм в отличии от предыдущего (пункт 2.1) лишен простоев, длительность пересылок возросла в два раза.

Получим 6(Ь-1) как общий объем пересылок на первом, втором и четвертом этапах (по строкам и столбцам), 2тп - время пересылки коэффициента у0. Учитывая, что пересылки пакетные, найдем ускорение равным:

28 Шх ар

С* _

= 28 N , л "

Ь т ар + 6(Ь п + 2т п

3. Параллельные алгоритмы для двумерной

области, основанные на методе встречных циклических прогонок

Сравнение методов правой и встречных прогонок при составлении параллельных алгоритмов для решения ленточных СЛАУ без ненулевых элементов вне ленты показывает [5] превосходство метода встречных прогонок, что побудило авторов к записи алгоритмов на его основе.

3.1 Алгоритм встречных циклических прогонок с линейным разбиением сеточной области

Составляя четырехзадачный алгоритм (двухза-дачный случай аналогичен алгоритму из пункта 1) осуществим линейное разбиение области ю2, как показано на рис. 5a.

Первый этап состоит из 1+1 шага прямого хода встречных прогонок (рис. 5a-5в). На первом шаге задачи 1 и 4 начинают встречный ход для первой строки области (рис. 5a), задачи 2 и 3 простаивают в ожидании прогоночных коэффициентов этой строки. Второй шаг все задачи производят вместе (рис. 5б), осуществляя прямой ход встречных прогонок для разных строк: вторая и третья задача - для первой строки, первая и четвертая - для второй. Шаг I связан с прямым ходом прогонок для последней (исполняют задачи 1 и 4) и предпоследней (исполняют задачи 2 и 3) строки. Шаг I +1 завершают задачи 2 и 3, задачи 1 и 4 простаивают.

Второй этап алгоритма (рис. 5г, д) связан с производством обратного хода встречных прогонок. Начиная с последней строки, области задачи 2 и 3 поднимаются по строкам вверх, простаивая последний шаг этапа. Задачи 1, 4 вступают в вычисления по второму этапу с задержкой на один шаг, вызнанной ожиданием прогоночных коэффициентов для строки I.

12б