Том 148, кн. 1
Естественные науки
2006
УДК 519.2
ЗАКОНОМЕРНОСТИ РАСПРЕДЕЛЕНИЯ ТОКСИКАНТОВ В ПЕСЧАНЫХ ДОННЫХ ОТЛОЖЕНИЯХ
Н.Ю. Степанова, В.З. Латыпова Аннотация
С использованием факторного и регрессионного анализа проведено исследование существующих зависимостей между признаками, включенными в модель, что позволило математически описать экспоненциальную зависимость содержания нефтепродуктов от таких сорбционных свойств грунта, как содержание органических комплексооб-разователей и высокодисперсных глинистых частиц. Аналогичное уравнение экспоненциальной зависимости с соответствующими коэффициентами было получено для характеристики содержания меди в песчаных донных отложениях от содержания органических, глинистых веществ и гидроксидов железа.
Математическая модель процесса сорбции загрязняющих веществ в донных отложениях имитирует поведение полютантов в различных условиях. Она объясняет некоторые закономерности их распространения в зависимости от физико-химических характеристик грунта.
В качестве объекта исследований были выбраны песчаные донные отложения (53 пробы), отобранные в верхних плесах Куйбышевского водохранилища. Подобные донные отложения представляют собой особую значимость при изучении процессов самоочищения, особенно в мало затронутых человеческой деятельностью водных экосистемах.
Для построения математической модели в анализ были включены такие факторы, влияющие на сорбционные характеристики, как процентное содержание органических веществ (переменная 1), процентное содержание частиц размером более 50 мкм (переменная 2), процентное содержание мелкодисперсных глинистых частиц, размером менее 2 мкм (переменная 3), содержание марганца (переменная 11) и железа (переменная 12) в г/кг сухой массы. Качественный состав донных отложений характеризовался следующими показателями: содержание свинца (переменная 4), цинка (переменная 5), хрома общего (переменная 6), меди (переменная 7), никеля (переменная 8), кадмия (переменная 9), кобальта (переменная 10), ртути (переменная 13) и нефтепродуктов (переменная 14), выраженные в мг/кг сухой массы донных отложений. Основные статистические характеристики (среднее, минимальное, максимальное значения, среднеквадратическое отклонение) вышеперечисленных признаков (переменных) приведены в табл. 1.
Табл. 1
Базовые статистические характеристики физико-химического состава грунта
Переменная Среднее Минимум Максимум о
С ^орг 1.13 0.10 14.10 2.07
50мкм 92.00 68.20 99.73 10.05
2мкм 1.64 0.00 11.40 2.57
РЬ 4.27 0.10 19.00 5.13
гп 23.28 2.30 121.00 23.95
Сг 6.22 0.00 23.00 5.16
Си 6.27 0.00 126.00 17.07
N1 15.85 0.46 68.00 14.29
Са 2.45 0.00 101.00 13.81
Со 4.60 0.13 12.50 2.71
Мп 0.30 0.03 1.30 0.25
Бе 5.34 0.73 19.50 3.61
НЕ 0.010 0.001 0.18 0.03
Нефтепродукты 279.10 2.00 11750.00 1607.32
Примечание. Содержание органического вещества (Сорг) 50 мкм и 2 мкм фракции выражено в %%, марганца и железа - в г/кг, остальные переменные - в мг/кг сухой массы грунта, о - стандартное отклонение.
С целью поиска зависимостей между признаками были применены методы факторного и регрессионного анализа [1]. Используя метод факторного анализа (ФА) [1-2], признаки модели были сгруппированы для определения зависимостей внутри множества.
1. Факторный анализ исследуемой модели
Для определения числа факторов, необходимых для отображения структуры анализируемых данных, был проведен анализ методом главных компонент [1], где число факторов равно числу переменных в модели. Собственные значения факторов представлены на рис. 1, где согласно критерию «каменистой осыпи» [2] определяется точка максимального замедления убывания собственных значений слева направо и точки, находящиеся на «осыпи», что позволило выделить для анализа 8 факторов. Факторная структура (табл. 2) была получена методом «основных компонент» и путем вращения по методу «Вари-макс нормализованный» [1-2].
Первый фактор, характеризующий долю заданного набора тяжелых металлов (гп, Си, Со, в меньшей степени - РЬ и N1) в общей структуре компонентов качественного состава проб, имеет вклад на уровне 20.6%. Второй фактор с вкладом 15.0% отражает содержание органических веществ в донных отложениях, в том числе нефтепродуктов (НП). Факторы под номерами 3-6 и 8 (Бе, Са, Сг, ^ и Мп) отражают вклады данных элементов в качественную структуру проб, их значения составляют (%) 11.8, 7.5, 9.3, 7.8 и 6.2 соответственно.
При содержании крупных (50 мкм) и мелких (2 мкм) фракций в гранулометрическом составе грунта (фактор 7) проявлялись альтернативные механизмы сорбции металлов, что подтверждается отрицательным значением для переменной С(2) (отсутствием механизмов аккумуляции у крупных песчаных
0 2 4 6 8 10 12 14
Фактор
Рис. 1. Собственные значения факторов
Табл. 2.
Факторная структура анализируемых данных
Переменные Факторные нагрузки (Варимаксимальный нормализованный)
Вращение: Основные компоненты
Фактор
1 2 3 4 5 6 7 8
Орг 0.27 0.92 0.02 < 0.01 0.13 0.08 0.15 -0.01
50 мкм -0.10 -0.22 -0.32 -0.19 -0.27 0.07 -0.78 0.03
2 мкм 0.06 0.39 0.10 -0.03 0.11 -0.01 0.82 0.15
РЬ 0.66 -0.03 -0.01 -0.11 0.20 0.26 0.53 0.24
гп 0.73 0.31 -0.03 < -0.01 0.31 -0.11 0.24 0.31
Сг 0.21 0.07 -0.04 0.07 0.92 0.10 0.25 -0.05
Си 0.93 0.15 -0.034 0.03 0.03 -0.04 -0.15 < 0.01
N1 0.60 0.04 0.50 0.04 0.46 -0.15 0.06 0.10
са > 0.01 -0.02 0.01 0.99 0.06 > 0.01 0.06 -0.02
Со 0.71 -0.07 0.49 0.02 0.05 -0.10 0.36 -0.02
Мп 0.23 -0.10 0.50 -0.04 -0.06 -0.06 0.14 0.78
Бе 0.01 0.04 0.89 > 0.01 -0.04 -0.10 0.18 0.23
НЕ -0.07 0.15 -0.12 > 0.01 0.06 0.97 -0.02 -0.04
НП -0.02 0.94 0.01 -0.02 -0.02 0.11 0.24 -0.05
Ехр1. V. 2.89 2.10 1.65 1.04 1.30 1.09 1.98 0.86
Ргр. Т. 0.21 0.15 0.12 0.07 0.09 0.08 0.14 0.06
Примечание. Выделены наиболее значимые переменные, вносящие вклад в соответствующие факторы.
Табл. 3
Линейная зависимость уровня содержания органического вещества от остальных признаков модели
п = 53 Регрессионная модель для зависимой переменной: Орг
Я = 0.97; Я2 = 0.93; скорректированный коэффициент детерминации: Я2 = 0.91
^(13.39) = 41.65;р < 0.005; стандартная ошибка: БЕ = 0.62
в БЕ в БЕ '(39) Р
Св. член 3.11 1.63 1.91 0.06
50 мкм -0.14 0.08 -0.03 0.092 -1.80 0.08
2 мкм -0.08 0.08 -0.07 0.06 -1.14 0.26
РЬ -0.07 0.07 -0.03 0.03 -0.95 0.35
гп 0.14 0.09 0.01 0.01 1.53 0.13
Сг 0.13 0.07 0.05 0.03 1.71 0.09
Си 0.37 0.08 0.04 0.01 4.68 < 0.01
N1 -0.06 0.08 < -0.01 0.01 -0.77 0.45
са -0.03 0.04 < -0.01 <0.01 -0.73 0.47
Со -0.16 0.07 -0.12 0.06 -2.12 0.04
Мп < -0.01 0.07 -0.04 0.53 -0.08 0.93
Бе 0.12 0.06 0.07 0.04 1.89 0.07
НЕ 0.03 0.0 1.95 3.71 0.53 0.60
НП 0.81 0.06 0.00 0.00 12.55 0.00
Примечание. Значение в первой строке - свободный член уравнения регрессии; выделены значения, уровень значимости р для которых < 0.05
частиц) и положительным значением С(3) (наличие указанных механизмов для высокодисперсных, глинистых частиц), что характеризует их способность удерживать металлы полярными связями с алюмосиликатами. Вклад данного фактора составлял 14.1%. В меньшей степени проявил себя вклад марганца, который численно составил 6%.
Следует отметить, что полученная авторами факторная структура отражает зависимости между признаками на 92.19%, что позволило судить о ее достаточной достоверности.
2. Регрессионный анализ исследуемой модели
При поиске зависимостей между переменными, характеризующими, с одной стороны, качественный состав, с другой - сорбционные характеристики донных отложений были получены следующие линейные и нелинейные зависимости между признаками.
2.1. Зависимость № 1. Уровень содержания органических веществ в пробе (признак 1) линейно зависит от множества признаков со 2-го по 14-й. Данное множество признаков, обозначенное как С(2-14), было использовано при построении линейной регрессионной модели, характеризующейся соответствую-
Табл. 4.
Нелинейная зависимость уровня содержания органического вещества от признаков С(7, 9, 14)
п = 53 Регрессионная модель для зависимой переменной: Орг
R = 0.95; R2 = 0.91; скорректированный коэффициент детерминации: R2 = 0.90
^(3.49) = 158.61; p < 0.05; стандартная ошибка: SE = 0.65
в SE Б БЕ «49) Р
Св. член 0.56 0.30 1.86 0.07
80ЯУ14 0.91 0.04 0.13 < 0.01 20.58 0.00
У7**7 0.31 0.05 0.00 0.00 6.74 0.00
8РЯУ10 -0.10 0.05 -0.30 0.14 -2.07 0.04
Табл. 5
Зависимость содержания нефтепродуктов в песчаных донных отложениях от признаков С(1, 3) (метод «фиксированная нелинейная регрессия»)
п = 53 Регрессионная модель для зависимой переменной: НП
R = 0.99; R2 = 0.99; скорректированный коэффициент детерминации: R2 = 0.99
F(5.47) = 10415; р < 0.05; стандартная ошибка: БЕ = 50.77
в БЕ Б БЕ '(49) Р
Св. член -31.24 20.36 -1.53 0.13
У1**4 1.78 0.16 0.53 0.047 11.31 0.00
80ЯУ3 < 0.01 < 0.01 2.71 13.95 0.19 0.85
У1**3 -0.82 0.1 -3.43 0.67 -5.08 0.000
0.038 < 0.01 104.85 26.23 4.00 0.000
У3**4 0.02 < 0.01 0.01 < 0.01 2.69 0.001
щими коэффициентами (табл. 3), значения которых адекватно «объясняют» зависимость между соответствующими характеристиками из табл. 1.
Согласно данным, приведенным в табл. 3, высокий уровень значимости (р < 0.05) имеют признаки, характеризующие уровень содержания в пробах таких элементов, как Си, Со и нефтепродукты. В столбце B (табл. 3) даны значения коэффициентов уравнения регрессии для признаков, приведенных в столбцах таблицы.
2.2. Зависимость № 2. В нелинейную регрессионную модель были включены признаки, имеющие максимальный уровень значимости (р < 0.05): Си, Со и нефтепродукты (признаки 7, 9 и 14). Для построения регрессионной модели использовался метод пошаговой регрессии [2], где значения переменных С(7, 9, 14) были взяты в степени 2, 3, 4 и 0.5. Значения коэффициентов построенной модели (табл. 4) позволяют сделать вывод об адекватности модели в целом, а также о высоком уровне значимости каждого из признаков, включенных в модель.
Табл. 6
Зависимость концентрации меди от признаков С(1, 3, 12) (метод «фиксированная нелинейная регрессия»)
п = 52 Регрессионная модель для зависимой переменной: Си
Я = 0.99; Я2 = 0.99; скорректированный коэффициент детерминации: Я2 = 0.99
^(8.43) = 535.68; р < 0.05; стандартная ошибка: БЕ = 1.87
в БЕ В БЕ «49) Р
Св. член 1.06 1.41 0.75 0.46
У1**5 6.28 0.83 0.13 0.02 7.57 0.00
У1**4 -6.26 1.06 -0.73 0.12 -5.90 0.00
У1**2 1.13 0.29 3.933 1.00 3.92 0.00
0.06 0.02 1.48 0.54 2.74 0.00
80ЯУ12 0.08 0.02 1.85 0.45 4.07 0.00
-0.15 0.06 -6.23 2.50 -2.50 0.02
У3**4 0.03 0.02 0.00 0.00 1.32 0.19
У12**5 -0.02 0.02 0.00 0.00 -1.10 0.28
Табл. 7
Зависимость концентрации меди от признаков С(1, 3, 12)
п = 52 Модель экспоненциального роста: у = с + ехр(Ь0 + Ь1*х1 + Ь2*х2 + ....)
Зависимая переменная: Си. Я = 0.98 Объяснение переменных: 96.97 %
Пост. С Пост. В0 Орг 2 мкм Бе
Оценка 3.62 -9.83 2.39 -1.46 0.68
Примечание. Признак С1 - содержание органических веществ, С3 - содержание 2 мкм фракции, С12 -содержание оксидов железа.
2.3. Зависимость № 3. При описании содержания нефтепродуктов в песчаных донных отложениях в зависимости от содержания органических веществ и высокодисперсных частиц (2 мкм) (множество признаков С(1, 3)) была получена нелинейная зависимость. Найденное значение коэффициента детерминации Я2, равное 0.99, подтверждает адекватность построенной регрессионной модели (табл. 5).
Полученные зависимости № 1-3 позволили выявить в данном исследовании пробу с аномальным уровнем содержания нефтепродуктов, которая была удалена из последующего анализа.
2.4. Зависимость № 4. Регрессионная модель, полученная для зависимой переменной «содержание меди» от содержания глинистых частиц, органического вещества и гидроксидов железа, представлена в табл. 6-7.
2.5. Зависимость № 5. Данная зависимость представляет собой модифицированную зависимость № 4, которая характеризует взаимосвязь между содержанием меди (признак № 7) и содержанием железа и органических веществ (множество признаков С(1, 12)). Коэффициенты детерминации для построенных регрессионных моделей составили 0.98 и 0.99 соответственно (табл. 8, 9).
Табл. 8
Характеристика зависимости содержания меди от содержания железа (С12) и органических веществ (С1) (метод «фиксированная нелинейная регрессия»)
п = 52 Регрессионная модель для зависимой переменной: Си
К = 0.99; скорректированный коэффициент детерминации: Я2 = 0.98
Р(5 46) = 574.03;р < 0.05; стандартная ошибка: БЕ = 2.28
в БЕ В БЕ '(49) Р
Св. член 0.79 1.70 0.47 0.64
У1**5 6.32 0.99 0.123 0.02 6.40 0.00
У1**4 -6.26 1.26 -0.73 0.15 -4.96 0.00
У1**2 1.04 0.3 3.62 1.19 3.0 0.00
80ЯУ12 0.09 0.02 1.90 0.50 3.81 0.00
80ЯУ1 -0.09 0.07 -3.84 2.95 -1.30 0.20
Табл. 9
Характеристика зависимости содержания меди от содержания железа (С12) и органических веществ (С1) (методом «нелинейный подсчет»)
п = 52 Модель экспоненциального роста: у = с + ехр(Ь0 + Ь1*х1 + Ь2*х2 + ....)
Зависимая переменная: Си. Я = 0.98 Объяснение переменных: 96.97 %
Пост. С Пост. В0 Орг Бе
Оценка Пост. -35.51 7.00 0.28
Таким образом, методами факторного анализа в данной работе были выделены основные группы признаков, влияющих на компонентный состав песчаных донных отложений Куйбышевского водохранилища. Были определены основные ассоцианты, входящие в выделенные факторы: цинк, медь и кобальт, а также органические вещества совместно с сорбированными на них нефтепродуктами.
Исследование существующих зависимостей между факторами, проведенное методом регрессионного анализа, позволило математически описать экспоненциальную зависимость содержания нефтепродуктов от таких сорбционных свойств грунта, как содержание органических комплексообразователей и высокодисперсных глинистых частиц. Аналогичное уравнение экспоненциальной зависимости с соответствующими коэффициентами было получено для характеристики содержания меди в песчаных донных отложениях от содержания органических, глинистых веществ и гидроксидов железа. Описанные модели регрессионной зависимости согласуются с известными механизмами связывания исследованных компонентов [3, 4], а также подтверждают результаты исследований донных отложений Куйбышевского водохранилища, которые отражены в ранее опубликованных работах [5-8].
Полученные зависимости № 1-5 имеют достаточное математическое обоснование, не противоречат известным физико-химическим механизмам сорбции исследованных токсических компонентов. В то же время они носят региональный характер, однако могут использоваться для научно обоснованного прогно-
зирования распространения токсичных веществ и элементов и в других водных экосистемах с песчаными донными отложениями.
Summary
N.Yu. Stepanova, V.Z. Latypova. Regularity of toxicants distribution in sandy sediments.
The paper presents the mathematical models of existing relationship between characteristics of sandy sediments with the use of factor and regression analyses. These models represent exponential growth relationships between oil content and content of organic and clay matter as well between cooper content and organic, clay matter and iron hydrate content.
Литература
1. Ким Дж.-О, Мьюллер Ч.У., Клеша У.Р., Олдендерфер М.С., Блэшфилд Р.К. Факторный, дискриминантный и кластерный анализ. - М.: Финансы и статистика,
1989. - 215 с.
2. Боровиков В.Л., Боровиков И.П. Statistica - статистический анализ и обработка данных в среде Windows. - М.: Инф. Издат. Дом «Филинъ», 1997. - 608 с.
3. Денисова А.И., Нахшина Е.П., Новиков Б.И., Рябов А.К. Донные отложения водохранилищ и их влияние на качество воды. - Киев: Наукова думка, 1987. - 164 с.
4. Сает Ю.Е., Ревич Б.А., Янин Е.П. Геохимия окружающей среды. - М.: Недра,
1990. - 335 с.
5. Линник Л.П., Набиванец Б.И. Формы миграции металлов в пресных поверхностных водах. - Л.: Гидрометеоиздат, 1986. - 270 с.
6. Линник Л.П., Васильчук Т.А., Набиванец Ю.Б. Обмен органическими веществами и соединениями металлов в системе «донные отложения - вода» в условиях модельного эксперимента // Эколог. химия. - 1997. - Т. 6, № 4. - С. 217-225.
7. Латыпова В.З., Селивановская С.Ю., Степанова Н.Ю., Винокурова Р.И. Региональное нормирование антропогенных нагрузок на природные среды. - Казань: Изд-во «Фэн», 2002. - 345 с.
8. Степанова Н.Ю., Латыпова В.З., Анохина О.К., Таиров Р.Г. Сорбционная способность и факторы формирования химического состава донных отложений Куйбышевского и Нижнекамского водохранилищ // Эколог. химия. - 2003. - Т. 12, № 2. -С. 105-116.
Поступила в редакцию 01.07.05
Степанова Надежда Юльевна - кандидат биологических наук, доцент кафедры прикладной экологии Казанского государственного университета. E-mail: [email protected]
Латыпова Венера Зиннатовна - доктор химических наук, профессор, заведующая кафедрой прикладной экологии Казанского государственного университета.