CC BY
17
ИНТЕРПОЛЯЦИЯ НА ОСНОВЕ КОНТЕКСТНОГО МОДЕЛИРОВАНИЯ ПРИ ИЕРАРХИЧЕСКОЙ КОМПРЕССИИ МНОГОМЕРНЫХ СИГНАЛОВ
М.В. Гашников1
1Самарский национальный исследовательский университет имени академика С.П. Королева, Самара, Россия
Аннотация
Исследуются контекстные алгоритмы интерполяции многомерных сигналов в задаче компрессии. Рассматривается метод иерархической компрессии для сигналов произвольной размерности. Для этого метода предлагается алгоритм интерполяции, основанный на контекстном моделировании. Алгоритм основан на оптимизации параметров интерполирующей функции в локальной окрестности интерполируемого отсчёта. При этом локально оптимальные параметры, найденные для более прореженных масштабных уровней сигнала, используются для интерполяции отсчётов менее прореженных масштабных уровней сигнала. Контекстный алгоритм интерполяции реализован программно в составе иерархического метода компрессии. Вычислительные эксперименты показали, что использование контекстного интерполятора вместо усредняющего позволяет заметно повысить эффективность иерархической компрессии.
Ключевые слова: интерполяция, компрессия, многомерный сигнал, контекстное моделирование, изображение, максимальная погрешность.
Цитирование: Гашников, М.В. Интерполяция на основе контекстного моделирования при иерархической компрессии многомерных сигналов / М.В. Гашников // Компьютерная оптика. - 2018. - Т. 42, № 3. - С. 468-475. - БО!: 10.18287/2412-6179-2018-42-3-468-475.
Введение
Несмотря на огромное количество известных решений в области интерполяции и аппроксимации многомерных сигналов [1-20] (видео [21], мульти- и гиперспектральных изображений [22-23], данных дистанционного зондирования [24] и т.д.), разработка новых алгоритмов и совершенствование известных активно продолжается и в настоящее время.
Оставляя за кадром тривиальные обобщения билинейной и бикубической интерполяции, в качестве примеров работ, проведённых в рамках хорошо известных подходов, следует отметить исследования [1-2] метода наименьших квадратов. Продолжают развиваться также сплайн-аппроксимация [3], тензорная аппроксимация [4], Кронекеровские базисы [5] и, конечно же, нейронные сети [6-7]. Наряду с более узкоспециализированными алгоритмами для неравномерных сеток отсчётов сигнала, такими как [8], совершенствуются и более «экзотические» подходы вида [9 -10]. Отдельно стоит отметить метод разреженной аппроксимации [11], который находится достаточно близко к подходу «compressed sensing», который активно исследуется в последние годы, особенно в зарубежной литературе.
Подход «compressed sensing», предназначенный, в частности, для восстановления сигнала по «сильно» прореженным данным, в определённом смысле позволяет «заглянуть» за частоту Найквиста. Прорыв в этом направлении произошёл благодаря работам D.L. Dono-ho, E.J. Candes, J. Romberg, T. Tao, в частности, [12-13]. Вплоть до настоящего момента в этом направлении продолжают развиваться различные подходы. Среди них стратегии блочного прореживания [14], структурированные разреженные модели [15], адаптивная полиномиальная интерполяция [16] и др.
В данной работе исследования интерполяторов ведутся в рамках подхода, основанного на контекст-
ном моделировании [17-20]. В рамках этого подхода предлагается интерполятор, предназначенный для использования в составе иерархических [25 -26] методов компрессии многомерных сигналов.
Использование контекстного моделирования позволяет повысить адаптивность интерполятора к локальным особенностям сжимаемого сигнала, благодаря чему увеличивается точность интерполяции. Таким образом, использование предлагаемого интерполятора в рамках иерархических методов компрессии позволяет повысить эффективность (коэффициент компрессии) этих методов.
1. Иерархическая компрессия многомерных сигналов
В данной работе предлагается иерархический метод компрессии многомерных сигналов, который является обобщением иерархического метода компрессии изображений [25-26] на случай более высокой размерности. Метод использует иерархическое безызбыточное представление исходного многомерного сигнала. Пусть X = {х(к)} - целочисленный вещественный исходный сигнал, к - вектор-столбец координат (аргументов). Рассмотрим представление этого сигнала в виде набора из Ь штук непересекающихся масштабных уровней Х1 (см. также рис. 1):
X = и Х; , Х; ={х р): к е I,}, (1)
/ =0
где II задаёт множество индексов отсчётов масштабного уровня X/:
1Ь-1 ={ 2Ь-1 к}, I/ ={ 21к} \ { 2/+1 к}, 0 < / < Ь . (2)
Нетрудно видеть, что «старший» масштабный уровень номер (Ь - 1) представляет собой «сетку» отсчётов сигнала с шагом 2(Ь - по каждой координате, а
любой «нестарший» уровень номер I - это сетка отсчётов с шагом 21, из которой исключены отсчёты вдвое более редкой сетки.
При компрессии масштабные уровни сигнала обрабатываются последовательно, начиная со старшего уровня, т.е. в порядке XL.-i, Хм, ..., Х0. Способ сжатия старшего уровня не имеет значения, так как доля отсчётов этого уровня в общем массиве данных сигнала очень мала. Поэтому далее кратко рассмотрим только алгоритм компрессии произвольного нестаршего масштабного уровня X/ (1 < Ь - 1), включающий следующие шаги.
1) Интерполятор
К моменту интерполяции масштабного уровня Х/ уже обработаны все более прореженные масштабные уровни (X,-, / < I < Ь - 1), объединение которых составляет сетку отсчётов с шагом 2/+1. Для всех отсчётов обработанных уровней уже вычислены восстановленные значения {X,+1(к)}, на основе которых и производится собственно интерполяция:
Р,(к) = Р (0 X, | = Р({{ (...)}), к е I/
(3)
где р1 (к) - интерполирующие значения отсчётов, Р (...) - интерполирующая функция, XX, - восстановленный масштабный уровень сигнала.
2) Вычислитель разностного сигнала
Вычисляются разности исходных и интерполирующих значений отсчётов масштабного уровня (разностный сигнал):
(к) = х, (к) - р/ (к), к е I,.
(4)
3) Квантователь
Выполняется переквантование разностного сигнала, чтобы повысить коэффициент сжатия за счёт внесения погрешности. В статье используется (для определённости) квантователь с равномерной шкалой [27] ([..] - целая часть числа):
Ч,(к) = ((к))
2е „ +1
к е I,
(5)
позволяющий контролировать максимальную погрешность етах между исходным х (к) и восстановленным
X (к) сигналами:
\/(£)=|х<к) - х(к )|
<е„
(6)
Квантованный сигнал (5) затем сжимается энтропийным [28] кодером и помещается в архив или канал связи.
4) Восстановление
Вычисляются (уже на этапе компрессии) восстановленные (декомпрессированные) отсчёты сигнала
Xх, (к) = Ч, (к) (1 + ^ ) + Р, (к)
(7)
без которых никак не обойтись при интерполяции (3) следующих масштабных уровней с меньшими номерами {X,-,, < ,} (аналогичный приём с обратной связью также используется, например, в ДИКМ [27-28]).
1 1 2 1 1
1 1 1 1 1
2 1 2 1 2
1 1 1 1 1
1 1 2 1 1
Рис. 1. Номера масштабных уровней при иерархическом представлении двумерного сигнала (изображения)
2. Интерполяция при иерархической компрессии многомерных сигналов
Нетрудно видеть, что все этапы иерархических методов компрессии многомерных сигналов, кроме интерполятора, по сути являются одномерными. Интерполятор, напротив, является единственным «существенно многомерным» этапом: только на этом этапе используются взаимозависимости отсчётов по всем направлениям.
2.1. Усредняющая интерполяция
Из соображений вычислительной сложности для интерполяции при иерархической компрессии чаще всего [29 - 31] рекомендуется использовать усреднение по ближайшим уже восстановленным отсчётам более прореженных масштабных уровней сигнала.
При этом в двумерном случае, в частности при иерархической компрессии полутоновых изображений, приходится рассматривать различные способы интерполяции для двух типов интерполируемых отсчетов: «центральных» с индексами вида к = 2/ (2т + 1, 2п + 1) и «краевых» с индексами вида к = 2/ (2т + 1, 2п) и к = 2/ (2т, 2п + 1) (, по-прежнему номер масштабного уровня). Для этих двух типов отсчётов усредняющий двумерный интерполятор может быть записан в виде:
р, (2т +1,2п)= 2 (X,(т, п) + Х1+1 (т +1, п) ) , (8)
р, (2т +1,2п +1) = 4 (х+! (т п) + х+! (т +1,п) +
+ Х1+1
(т, п +1) + Хм (т +1, п +1)).
Этот интерполятор показан на рис. 2а (ещё два аналогичных интерполятора показаны на рис. 2б, в).
Указанные интерполяторы допускают обобщение на трёхмерный случай (видео, гиперспектральные изображения и т.п.): два усредняющих трёхмерных интерполятора показаны на рис. 3а, б (формулы не приводятся ввиду их громоздкости). Аналогичным
образом могут быть построены усредняющие интерполяторы более высокой размерности.
а)
JN Л
ЧУ i
к Я
б)
г "Т 1
♦ г ♦
L .Л J
в)
N Л
ЧУ Г *
/
Рис. 2. Усредняющая интерполяция при иерархической компрессии двумерного сигнала (изображения)
а)
У
У ^ ♦
Рис. 3. Усредняющая интерполяция при иерархической компрессии трёхмерного сигнала
Усредняющие алгоритмы интерполяции обладают небольшой вычислительной сложностью, но их эффективность недостаточно велика, так как они не являются адаптивными и, таким образом, не учитывают локальные особенности сигнала.
2.2. Интерполяция на основе контекстного моделирования
Контекстное моделирование [17-20] при сжатии данных опирается на парадигму универсального моделирования и кодирования, которая была предложена Риссаненом и Лэнгдоном [17]. В исходной постановке контекстное моделирование предназначалось для статистического кодирования [28], но оно может быть применено и для интерполяции многомерных сигналов. При этом роль контекста может играть набор окружающих опорных отсчётов, на основе которых производится интерполяция.
В частности, в терминах контекстного моделирования может быть рассмотрен алгоритм интерполяции New Edge-Directed Interpolation (NEDI) [19-20], изначально сформулированный для двумерных сигналов (изображений). Алгоритм предполагает вычисление интерполирующих значений pl(m, n) = p (2lm, 2ln) как взвешенной суммы опорных отсчётов xl+j (m, n), взятых с вдвое более редким шагом:
pl (m> n ) = SS" 2i+A+1 (m + n + J ) :
(10)
1=0 ]=0
где а = [а2,.+1, 0 < ] < 1]т - вектор неизвестных весовых коэффициентов интерполяции (см. рис. 4).
Высокая адаптивность алгоритма КЕБ1 достигается за счёт того, что для каждого отсчёта сигнала вычисляется свой набор весовых коэффициентов а,. Этот набор коэффициентов вычисляется исходя из минимизации погрешности интерполяции в локальной окрестности интерполируемого отсчёта. Естест-
венно, при этом приходится минимизировать погрешность интерполяции известных отсчётов. Таким образом, оптимизации подвергается погрешность интерполяции сигнала , прореженного вдвое, а опорные отсчёты берутся из сигнала х1+2 (т, п), прореженного вчетверо:
= S (О+1 (J)- Pi+i (J ))2
i, JeD,
^ min
ao ,a, ,a.
(11)
где р1+1(т, п) - интерполирующие значения для отсчётов хм (т, п), вычисленные по формуле (10), а множество Б1 задаёт область оценивания весовых коэффициентов интерполяции и включает N отсчётов.
а0 а 1
а з CL2
Рис. 4. Нумерация весовых коэффициентов at опорных
отсчётов двумерного алгоритма интерполяции NEDI (интерполируемый отсчёт в центре)
При решении задачи (11) используются вспомогательные структуры данных. Перенумеруем в порядке построчной развёртки (см. рис. 5) отсчёты xl+1 (m,n) области оценивания Di и поместим их в массив Y = [y0,y1,...,yN_1]г (свой для каждого интерполируемого отсчёта). Также заполним матрицу C размера N*4, каждая строка которой содержит опорные отсчёты, используемые для интерполяции отсчёта Y,-. Тогда критерий (11) будет записан в виде:
s2 = (Y - C a)T (Y - C a) ^ min. (12)
a
Приравняв нулю частные производные по искомым параметрам, получим систему линейных уравнений:
ds2 N-1'
C*, J = 0.
(13)
Искомые весовые коэффициенты интерполяции являются решением этой системы уравнений:
а = (стс )-1 • (стУ). (14)
В данной работе алгоритм №Ш адаптирован для безызбыточных иерархических сеток отсчётов, которые используются в иерархических методах компрессии. При этом на каждом 1-м «нестаршем» (0 < 1 < Ь - 2) масштабном уровне для интерполяции каждого отсчета выбирается квадратная область оценивания Б1 чётного размера, включающая уже восстановленные отсчёты предыдущих (более прореженных) масштабных
уровней, которые образуют массив У1, для которого
подбирается «своя» матрица С1.
На рис. 6 для двух ситуаций двух масштабных уровней (Ь = 2) светлым цветом показаны отсчёты массива У1 а тёмным - элементы матрицы С, принадлежащие первому уровню (интерполируемый отсчёт принадлежит нулевому уровню).
Со.о сол
/
м У1 У2
С02 Со,3 Ук\
°ч а/
а;] си
Область О оценивания
I ицепиаинин
к.—I коэффициентов
интерполяции
Рис. 5. Область оценивания весовых коэффициентов интерполяции алгоритма ЫЕБ1 для двумерного сигнала
\ /
\ /
' >
/ \
/ \ /
Ч \ /
\ /
\ / у >
/ \
/ ч
Область Б оценивания коэффициентов интерполяции
_| Интерполируемый
Рис. 6. Область оценивания весовых коэффициентов интерполяции алгоритма на основе ЫЕБ1 при иерархической компрессии двумерного сигнала
\ / ч /
к / ч > 4 \
/ г * \ / Ч
\ /
ч / к-
/ Ч
\ Область И ! оценивания I коэффициентов I интерполяции
Интерполируемый
\ отсчет
Рис. 7. Модифицированная область оценивания весовых коэффициентов интерполяции алгоритма на основе ЫЕБ1 при иерархической компрессии двумерного сигнала
Оценка весовых коэффициентов интерполяции при этом производится согласно выражению (14). Сначала этот алгоритм применяется для интерполяции «центральных» отсчётов с индексами вида (2/ + 1, 2] + 1), затем аналогичным образом вычисляются весовые коэффициенты интерполяции для остальных отсчётов (ситуация поворачивается на п/2).
Описывая реализационные особенности алгоритма, нужно отметить, что вычислить обратную матрицу (СТС ) 1 удаётся не для всех отсчётов, т.к. для некоторых отсчётов она оказывается плохо обусловленной. Поэтому для отсчётов, для которых число обусловленности матрицы (СТС ) превышает некий «порог обусловленности Т» (параметр алгоритма), вместо КББ1 используется усредняющая интерполяция (8- 9). Проведённые эксперименты показали, что таких отсчётов в реальных ситуациях обычно немного.
2.3. Модификация области оценивания интерполятора на основе контекстного моделирования
В данной работе, наряду с предложенным выше алгоритмом, также предлагается основанный на алгоритме интерполятор с модифицированной областью оценивания коэффициентов интерполяции, также предназначенный для использования в рамках иерархической компрессии. Этот алгоритм отличается от алгоритма предыдущего подпараграфа тем, что его область оценивания коэффициентов интерполяции располагается не на более прореженном, а на том же самом масштабном уровне сигнала, что и интерполируемый отсчёт (см. рис. 7).
Обоснованием такого расположения области оценивания является то, что корреляционные и статистические свойства масштабных уровней сигнала различаются, поэтому расположение области оценивания на том же масштабном уровне, на котором расположен интерполируемый отсчёт, является достоинством. Недостатком такой модификации является то, что область оценивания при этом целиком располагается «с одной стороны» от интерполируемого отсчёта, т. к. может включать только уже обработанные отсчёты сигнала.
2.4. Общая характеристика предложенных интерполяторов на основе контекстного моделирования
Достоинством описанных алгоритмов интерполяции, основанных на контекстном моделировании, является повышенная точность интерполяции за счёт учёта локальных особенностей сигнала в малой окрестности интерполируемого отсчёта.
Недостатком предложенных алгоритмов является относительно высокая вычислительная сложность, обусловленная необходимостью (14) перемножения матриц размера и решения системы линейных уравнений с матрицей 4*4 для каждого обрабатываемого отсчёта.
С учётом перекрытий областей оценивания коэффициентов, произведение матриц (14) можно выполнять рекуррентно примерно за 32^[Ы операций на отсчёт. Сложность решения системы линейных уравнений пропорциональна кубу размера матрицы системы уравнений (43). Таким образом, при разумном размере области оценивания коэффициентов (Ы < 64) вычислительная сложность контекстного интерполятора не превышает нескольких сотен операций на отсчёт.
Однако следует отметить, что вычислительная сложность может быть снижена на порядок и более за счёт параметризации системы интерполяционных коэффициентов, что является одним из направлений будущих исследований.
3. Экспериментальное исследование алгоритмов интерполяции
В данной работе предложенные контекстные алгоритмы интерполяции, основанные на КББ1, были
реализованы программно в качестве одного из этапов описанного иерархического метода компрессии.
Для исследования эффективности контекстных алгоритмов интерполяции были проведены вычислительные эксперименты по оценке влияния этого алгоритма на коэффициент сжатия при иерархической компрессии реальных двумерных сигналов (примеры см. на рис. 8).
Рис. 8. Примеры тестовых изображений при исследовании интерполяторов
Мерой эффективности являлся относительный выигрыш (в %) в размере архива, обусловленный заменой усредняющего (8 - 9) интерполятора на контекстный интерполятор при иерархической компрессии:
-гконтекст
Д = | 1 --
усред
с~< усред г,контекст 1 ..у
где о , о - размеры архивных файлов при
иерархической компрессии с использованием усредняющего (8- 9) и контекстного алгоритмов интерполяции.
В каждом вычислительном эксперименте выбирались наилучшие (обеспечивающие максимальный коэффициент сжатия) значения порога обусловленности Т (см. описание контекстной интерполяции) при фиксированном количестве масштабных уровней Ь и размере N области оценивания весовых коэффициентов интерполяции. Типичные результаты, полученные для показанных тестовых изображений, приведены на рис. 9-11.
4. Выводы по результатам исследований
1. Все предложенные контекстные интерполяторы имеют преимущество над используемым в качестве базы для сравнения усредняющим интерполятором.
2. Предложенная модификация области оценивания коэффициентов интерполяции не рекомендуется к использованию, т.к. существенно уменьшает эффективность контекстного интерполятора (при этом всё равно есть незначительный выигрыш у усредняющего).
Предложенный контекстный интерполятор (п. 2.2) показывает заметное (до 8%) преимущество над усредняющим, которое в целом растёт при увеличении погрешности компрессии и размера области оценивания параметров.
Сравнивая этот результат с результатом энтропийного интерполятора [26], который выигрывает у усредняющего до 10%, можно утверждать, что предложенный интерполятор обладает точностью
•100%.
3.
4.
на уровне лучших известных алгоритмов, используемых при иерархической компрессии.
8
-Ь=5, N=64, Т=371 ..........Ь=4. N=36. Т=360 ---Ь=4, N=16, Т=179 >-'
............./
_____
0
Д,%
10 12 14 16 18 вт
8
■1=5, N=64, Т=290 Ь=4, N=36, Т=198
---Ь=4, N=16, Т=112
■■—/V
2 4 6 8 10 12 14 16 18 Етах Рис. 9. Выигрыш контекстного интерполятора
у усредняющего интерполятора в зависимости от максимальной погрешности
2,0 1,6 1,2 0,8 0,4
-1=5, N=88, Т=250 ..........Ь=6, N=88, Т=170 ---Ь=4, N=54, Т=120 У \ 1
Л Л а ": //
у—^Ж \ ^ уА ГШ,
—-у М7 ^ X V
V
0 2 4 6 8 10 12 14 16 18 гтас Рис. 10. Выигрыш контекстного интерполятора с модифицированной областью оценивания у усредняющего интерполятора в зависимости от максимальной погрешности для первого тестового сигнала
5. Несмотря на более высокую вычислительную сложность предложенного интерполятора по сравнению с энтропийным (сотни операций на отсчёт вместо десятков), можно сделать вывод о перспективности исследования и использования контекстного интерполятора, так как:
а) контекстный интерполятор гораздо проще обобщается на многомерный случай, чем энтропийный;
б) для многих прикладных задач упомянутое увеличение вычислительной сложности не является критичным;
-Интерполятор на основе ИЕ01
---Интерполятор на основе ЫЕИ1
с модифицированной областью оценки коэффициентов
О 2 4 6 8 10 12 14 16 18 вш
Рис. 11. Сравнение контекстного интерполятора на основе NEDI и контекстного интерполятора на основе NEDI с модифицированной областью оценивания для первого тестового сигнала
в) контекстный интерполятор имеет близкую к энтропийному точность, но основан на существенно отличающихся принципах, т.е. расширяет арсенал подходов к решению той же задачи;
г) в перспективе вычислительная сложность контекстного интерполятора может быть уменьшена на порядок и более благодаря параметризации интерполирующей функции.
Заключение
Рассмотрены алгоритмы интерполяции многомерных сигналов, основанные на контекстном моделировании. На основе алгоритма NEDI предложен контекстный алгоритм интерполяции, предназначенный для использования при иерархической компрессии многомерных сигналов. Проведены программная реализация и экспериментальные исследования контекстного интерполятора в рамках иерархической компрессии. Показано, что использование контекстного интерполятора вместо усредняющего позволяет существенно (до 8%) повысить эффективность иерархической компрессии.
Благодарности Исследование выполнено при финансовой поддержке РФФИ в рамках научных проектов № 18-0100667, 18-07-01312.
Литература
1. Cohen, A. On the stability and accuracy of least squares approximations / A. Cohen, M.A. Davenport, D. Leviatan // Foundations of Computational Mathematics. - 2013. - Vol. 13, Issue 5. - P. 819-834. - DOI: 10.1007/s10208-013-9142-3.
2. Блинов, А. О. Многомерная аппроксимация в задачах моделирования и оптимизации / А.О. Блинов, В.П. Фра-ленко // Автоматика и телемеханика. - 2009. - № 4. -C. 98-109.
3. Бутырский, Е.Ю. Аппроксимация многомерных функций / Е.Ю. Бутырский, И.А. Кувалдин, В.П. Чалкин. // Научное приборостроение. - 2010. - Т. 20, № 2. - С. 82-92.
4. Чобану, М.К. Сжатие изображений с помощью тензорной аппроксимации / М.К. Чобану, Д.В. Макаров // Проблемы разработки перспективных микро- и наноэлек-тронных систем (МЭС). - 2014. - № 4. - С. 109-112.
5. Caiafa, C.F. Computing sparse representations of multidimensional signals using kronecker bases / C.F. Caiafa,
A. Cichocki // Neural Computation. - 2016. - Vol. 25, Issue 1. - P. 186-220. - DOI: 10.1162/NECO_a_00385.
6. Гулаков, К.В. Моделирование многомерных объектов на основе когнитивных карт с нейросетевой идентификацией параметров : дис. ... канд. техн. наук : 05.13.18 / Гулаков Константин Васильевич. - Брянск, 2016. - 178 с.
7. Крапухина, Н.В. Новый подход к многомерной аппроксимации технологических данных на основе использования метода группового учёта аргументов и нейронных сетей / Н.В. Крапухина, Б.В. Бринза // Цветные металлы. - 2007. - № 5. - С. 19-23.
8. Mobli, M. Nonuniform sampling and non-Fourier signal processing methods in multidimensional NMR / M. Mobli, J.C. Hoch // Progress in Nuclear Magnetic Resonance Spectroscopy. - 2014. - Vol. 83. - P. 21-41. - DOI: 10.1016/j.pnmrs.2014.09.002.
9. Верстаков, Е.В. Сравнительный анализ алгоритмов аппроксимации двумерных сигналов по методу Прони и методу матричных пучков / Е.В. Верстаков,
B. Д. Захарченко // Радиотехнические и телекоммуникационные системы. - 2015. - Т. 1(17). - С. 26-31.
10. Щерба, Е.В. Анализ применимости методов интерполяции и экстраполяции для решения задачи восстановления изображения / Е.В. Щерба // Компьютерная оптика. - 2009. - Т. 33, № 3. - С. 336-339.
11. Sahnoun, S. A simultaneous sparse approximation method for multidimensional harmonic retrieval / S. Sahnoun, E.-H. Djer-moun, D. Brie, P. Comon // Signal Processing. - 2017. -Vol. 131. - P. 36-48. - DOI: 10.1016/j.sigpro.2016.07.029.
12. Donoho, D.L Compressed sensing / D.L. Donoho // IEEE Transactions on Information Theory. - 2006. - Vol. 52, Issue 4. - P. 1289-1306. - DOI: 10.1109/TIT.2006.871582,
13. Candes, E.J. Robust uncertainty principles: exact signal reconstruction from highly incomplete frequency information / E.J. Candes, J. Romberg, T. Tao // IEEE Transactions on Information Theory. - 2006. - Vol. 52, Issue 2. - P. 489509. - DOI: 10.1109/TIT.2005.862083.
14. Bigot, J. An analysis of block sampling strategies in compressed sensing / J. Bigot, C. Boyer, P. Weiss // IEEE Transactions on Information Theory. - 2016. - Vol. 62, Issue 4. -P. 2125-2139. - DOI: 10.1109/TIT.2016.2524628.
15. Baraniuk, R.G. Model-based compressive sensing / R.G. Baraniuk, V. Cevher, M.F. Duarte, C. Hedge // IEEE Transactions on Information Theory. - 2010. - Vol. 56, Issue 4. - P. 1982-2001. - DOI: 10.1109/TIT.2010.2040894.
16. Chkifa, A. High-dimensional adaptive sparse polynomial interpolation and applications to parametric PDEs / A. Chkifa, A. Cohen, C. Schwab // Foundations of Computational Mathematics. - 2014. - Vol. 14, Issue 4. - P. 601633. - DOI: 10.1007/s10208-013-9154-z.
17. Rissanen, J.J. Universal modeling and coding / J.J. Rissanen, G.G. Langdon // IEEE Transactions on Information Theory. - 1981. - Vol. 27, Issue 1. - P. 12-23. -DOI: 10.1109/TIT.1981.1056282.
18. Trullemans, S. The context modelling toolkit: A unified multi-layered context modelling approach / S. Trullemans, L. Van Holsbeeke, B. Signer // Proceedings of the ACM on Human-Computer Interaction. - 2017. - Vol. 1, Issue 1. - 7. -DOI: 10.1145/3095810.
19. Li, X. New edge-directed interpolation / X. Li, M.T. Orchard // IEEE Transactions on Image Processing. - 2001. - Vol. 10, Issue 10. - P. 1521-1527. - DOI: 10.1109/83.951537.
20. Varathaguru, M. New edge-directed interpolation based-lifting DWT and MSPIHT algorithm for image compression / M. Vara-thaguru, R.S. Sabeenian // Circuits and Systems. - 2016. - Vol. 7, No. 9. - P. 2242-2252. - DOI: 10.4236/cs.2016.79195.
21. Tekalp, A.M. Digital video processing / A.M. Tekalp. -2nd ed. - Upper Saddle River, NJ: Prentice Hall, 2015. -624 p. - ISBN: 978-0-13-399100-0.
22. Chang, Ch.-I Hyperspectral data processing: Algorithm design and analysis / Ch.-I. Chang. - Hoboken, NJ: John Wiley & Sons, Inc., 2013. - 1164 p. - ISBN: 978-0-471-69056-6.
23. Borengasser, M. Hyperspectral remote sensing: Principles and applications / M. Borengasser, W.S. Hungate, R. Wat-kins. - Boca Raton, London, New York: CRC Press, 2007. - 128 p. - ISBN: 978-1-56670-654-4.
24. Schowengerdt, R.A. Remote sensing: models and methods for image processing / R. Schowengerdt. - 3th ed. - Burlington, San Diego: Academic Press, 2007. - 558 p. - ISBN: 978-0-12-369407-2.
25. Gashnikov, M. Compression method for real-time systems of remote sensing / M.V. Gashnikov, N.I. Glumov, V.V. Ser-geyev // Proceedings of 15th International Conference on Pattern Recognition. - 2000. - Vol. 3. - P. 232-235. - DOI: 10.1109/ICPR.2000.903527.
26. Гашников, М.В. Минимизация энтропии постинтерполяционных остатков при компрессии изображений на основе иерархической сеточной интерполяции / М.В. Гашников // Компьютерная оптика. - 2017. - Т. 41, № 2. -С. 266-275. - DOI: 10.18287/2412-6179-2017-41-2-266-275.
27. Gonzalez, R.C. Digital image processing / R.C. Gonzalez, R.E. Woods. - 3th ed. - Upper Saddle River, NJ: Prentice Hall, 2007. - 976 p. - ISBN: 978-0-13-168728-8.
28. Sayood, K Introduction to data compression / К. Sayood. -4th ed. - Waltham, MA: Morgan Kaufmann, 2012. - 768 p. - ISBN: 978-0-12-415796-5.
29. Ватолин, Д. Методы сжатия данных. Устройство архиваторов, сжатие изображений и видео / Д. Ватолин, А. Ратушняк, М. Смирнов, В. Юкин. - М.: ДИАЛОГ-МИФИ, 2002. - 384 с. - ISBN: 5-86404-170-Х.
30. Ефимов, В.М. Оценка эффективности иерархических и построчных алгоритмов сжатия полутоновых изображений без потерь / В.М. Ефимов, А.Н. Колесников // Тезисы докладов III конференции "Распознавание образов и анализ изображений: новые информационные технологии". - 1997. - Часть I. - С. 157-161.
31. Computer image processing. Part II: Methods and algorithms / A.V. Chernov, V.M. Chernov, M.A. Chicheva, V.A. Fursov, M.V. Gashnikov, N.I. Glumov, N.Yu. Ilyasova, A.G. Khra-mov, A.O. Korepanov, A.V. Kupriyanov, E.V. Myasnikov, V.V. Myasnikov, S.B. Popov, V.V. Sergeyev, V.A. Soifer, ed. by V.A. Soifer. - VDM Verlag Dr. Muller. - 2010. - 584 p. -ISBN: 978-3-6391-7545-5.
Сведения об авторе
Гашников Михаил Валерьевич, 1975 года рождения, в 1998 году окончил Самарский государственный аэрокосмический университет имени академика С.П. Королёва (СГАУ), кандидат наук, доцент. В настоящее время работает доцентом кафедры геоинформатики и информационной безопасности Самарского национального исследовательского университета имени академика С.П. Королёва. Область научных интересов: сжатие изображений, обработка космических снимков, геоинформационные технологии. Имеет более 90 публикаций, в том числе более 30 статей и две монографии (в соавторстве). E-mail: [email protected] .
ГРНТИ: 28.17.19, 28.21.15, 28.23.15.
Поступила в редакцию 14 февраля 2018 г. Окончательный вариант - 18 апреля 2018 г.
INTERPOLATION BASED ON CONTEXT MODELING FOR HIERARCHICAL COMPRESSION OF MULTIDIMENSIONAL SIGNALS
M.V. Gashnikov1
1 Samara National Research University, Samara, Russia Abstract
Context algorithms for interpolation of multidimensional signals in the compression problem are researched. A hierarchical compression method for arbitrary dimension signals is considered. For this method, an interpolation algorithm based on the context modeling is proposed. The algorithm is based on optimizing parameters of the interpolating function in a local neighborhood of the interpolated sample. At the same time, locally optimal parameters found for more decimated scale signal levels are used to interpolate samples of less decimated scale signal levels. The context interpolation algorithm is implemented programmatically as part of a hierarchical compression method. Computational experiments have shown that using a context interpolator instead of an average interpolator makes it possible to significantly improve the efficiency of hierarchical compression.
Keywords: interpolation, compression, multivariate signal, context modeling, image, maximum error.
Citation: Gashnikov MV. Interpolation based on context modeling for hierarchical compression of multidimensional signals. Computer Optics 2018; 42(3): 468-475. DOI: 10.18287/24126179-2018-42-3-468-475.
Acknowledgements: The reported study was funded by the Russian Foundation for Basic Research under research projects ## 18-01-00667, 18-07-01312.
References
[1] Cohen A, Davenport MA, Leviatan D. On the stability and accuracy of least squares approximations. Foundations of
Computational Mathematics 2013; 13(5): 819-834. DOI: 10.1007/s10208-013-9142-3. [2] Blinov AO, Fralenko VP. Multidimensional approximation for modeling and optimization problems. Automation and
Remote Control 2009; 70(4): 652-662. DOI: 10.1134/S0005117909040110
[3] Butyrsky EuYu, Kuvaldin IA, Chalkin VP. Multidimensional functions' approximation [In Russian]. Scientific instrument building 2010; 20(2): 82-92.
[4] Tchobanou MK, Makarov DV. Image compression by using tensor approximation [In Russian]. Problems of development of advanced micro and nanoelectronic systems 2014; 4: 109-112.
[5] Caiafa CF, Cichocki A. Computing sparse representations of multidimensional signals using kronecker bases. Neural Computation 2016; 25(1): 186-220. DOI: 10.1162/NEC0_a_00385.
[6] Gulakov KV. Modeling multidimensional objects on the basis of cognitive maps with neural network identification of parameters [In Russian]. The Thesis for the Candidate's Degree in Technical Sciences. Bryansk, 2016.
[7] Krapuhina NV, Brinza BV. A new approach to multidimensional approximation of technological data based on the use of the group method of argumentation and neural networks [In Russian]. Non-Ferrous Metals 2007; 5: 19-23.
[8] Mobli M, Hoch JC. Nonuniform sampling and non-Fourier signal processing methods in multidimensional NMR. Prog Nucl Magn Reson Spectrosc 2014; 83: 21-41. DOI: 10.1016/j.pnmrs.2014.09.002.
[9] Verstakov EV, Zakharchenko VD. The comparative analysis of approximation algorithms of two-dimensional signals by Proni method and matrix bunches method [In Russian]. Radio and Telecommunication Systems 2015; 1(17): 26-31.
[10] Shcherba EV. Application analysis of interpolation and extrapolation methods as used for image restoration [In Russian]. Computer optics 2009; 33(3): 336-339.
[11] Sahnoun S, Djermoun E-H, Brie D, Comon P. A simultaneous sparse approximation method for multidimensional harmonic retrieval. Signal Processing 2017; 131: 36-48. DOI: 10.1016/j.sigpro.2016.07.029.
[12] Donoho DL. Compressed sensing. IEEE Trans Inform Theory 2006; 52(4): 1289-1306. DOI: 10.1109/TIT.2006.871582.
[13] Candes EJ, Romberg J, Tao T. Robust uncertainty principles: exact signal reconstruction from highly incomplete frequency information. IEEE Trans Inform Theory 2006; 52(2): 489-509. DOI: 10.1109/TIT.2005.862083.
[14] Bigot J, Boyer C, Weiss P. An analysis of block sampling strategies in compressed sensing. IEEE Trans Inform Theory 2016; 62(4): 2125-2139. DOI: 10.1109/TIT.2016.2524628.
[15] Baraniuk RG, Cevher V, Duarte MF, Hedge C. Modelbased compressive sensing. IEEE Trans Inform Theory 2010; 56(4): 1982-2001. DOI: 10.1109/TIT.2010.2040894.
[16] Chkifa A, Cohen A, Schwab C. High-dimensional adaptive sparse polynomial interpolation and applications to parametric PDEs. Found Comput Math 2014; 14(4): 601-633. DOI: 10.1007/s10208-013-9154-z.
[17] Rissanen JJ, Langdon GG. Universal modeling and coding. IEEE Trans Inform Theory 1981; 27(1): 12-23. DOI: 10.1109/TIT.1981.1056282.
[18] Trullemans S, Van Holsbeeke L, Signer B. The context modelling toolkit: A unified multi-layered context modelling approach. Proceedings of the ACM on HumanComputer Interaction 2017; 1(1): 7. DOI: 10.1145/3095810.
[19] Li X, Orchard MT. New edge-directed interpolation. IEEE Trans Image Process 2001; 10(10): 1521-1527. DOI: 10.1109/83.951537.
[20] Varathaguru M. Sabeenian RS. New edge-directed interpolation based-lifting DWT and MSPIHT algorithm for image compression. Circuits and Systems 2016; 7(9): 22422252. DOI: 10.4236/cs.2016.79195.
[21] Tekalp AM. Digital video processing. 2nd ed. Upper Saddle River, NJ: Prentice Hall; 2015. ISBN: 978-0-13399100-0.
[22] Chang Ch-I. Hyperspectral data processing: Algorithm design and analysis. Hoboken, NJ: John Wiley & Sons, Inc; 2013. ISBN: 978-0-471-69056-6.
[23] Borengasser M, Hungate WS, Watkins R. Hyperspectral remote sensing: Principles and applications. Boca Raton, London, New York: CRC Press; 2007. ISBN: 978-156670-654-4.
[24] Schowengerdt RA. Remote sensing: models and methods for image processing. 3th ed. Burlington, San Diego: Academic Press; 2007. ISBN 978-0-12-369407-2.
[25] Gashnikov MV, Glumov NI, Sergeyev VV. Compression method for real-time systems of remote sensing. ICPR 2000; 3: 232-235. DOI: 10.1109/ICPR.2000.903527.
[26] Gashnikov MV. Minimizing the entropy of post-interpolation residuals for image compression based on hierarchical grid interpolation. Computer Optics 2017; 41(2): 266275. DOI: 10.18287/2412-6179-2017-41-2-266-275.
[27] Gonzalez RC, Woods RE. Digital image processing. 3th ed. Upper Saddle River, NJ: Prentice Hall; 2007. ISBN: 978-0-13-168728-8.
[28] Sayood K. Introduction to data compression. 4th ed. Wal-tham, MA: Morgan Kaufmann; 2012. ISBN: 978-0-12415796-5.
[29] Vatolin D, Ratushnyak A, Smirnov M, Yukin V. Data compression methods. Archive program architecture, image and video compression [In Russian]. Moscow: "Dia-log-MIFI" Publisher; 2002. ISBN: 5-86404-170-X.
[30] Efimov VM, Kolesnikov AN. Effectiveness estimation of the hierarchical and line-by-line lossless compression algorithms [In Russian]. Proceedings of the III conference "Pattern recognition and image analisys" 1997; 1: 157-161.
[31] Soifer VA, ed. Computer image processing, Part II: Methods and algorithms. VDM Verlag Dr Müller; 2010. ISBN: 978-3-6391-7545-5.
Author's information
Mikhael Valeryevich Gashnikov (b. 1975) graduated from S.P. Korolyov Samara State Aerospace University (SSAU), PhD and associate professor. He is the associate professor at the Geoinformatics and Information Security department at Samara National Research University. He has 90 publications, including 30 scientific papers and 2 monograph (with coauthors). His research interests are currently focused on image compression, space images processing, geoinformation technologies. E-mail: [email protected] .
Received, February 14, 2018. The final version - April 18, 2018.
