Научная статья на тему 'Автоматизация поддержки принятия решений при разработке онтологий в сфере образования на основе промежуточных моделей'

Автоматизация поддержки принятия решений при разработке онтологий в сфере образования на основе промежуточных моделей Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
283
79
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
ОБРАЗОВАНИЕ / EDUCATION / ИНТЕЛЛЕКТ-КАРТЫ / MIND MAPS / ОНТОЛОГИИ / ONTOLOGY / МЕТРИКИ ГРАФА / GRAPH METRICS

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Артемова Г. О., Гусарова Н. Ф., Коцюба И. Ю.

Рассматривается алгоритм разработки онтологии в сфере образования на основании промежуточных моделей интеллект-карт и концептуальных карт. Для автоматизированной оптимизации интеллект-карт предлагается использовать метрики, в том числе, субъективные, метрики исследования топологии графа.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по компьютерным и информационным наукам , автор научной работы — Артемова Г. О., Гусарова Н. Ф., Коцюба И. Ю.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Automatization of decision making support of educational ontology' development based on intermediate models

This article is about an algorithm of educational ontology 's development based on intermediate models mind maps and concept maps. It is offered to use different metrics such as subjective metrics and graph topology's metrics for automated optimization of mind maps.

Текст научной работы на тему «Автоматизация поддержки принятия решений при разработке онтологий в сфере образования на основе промежуточных моделей»

УДК 00481 Г.О. Артемова, Н.Ф. Гусарова, И.Ю. Коцюба

ВАК 05.13.06 г ' ^

РИНЦ 20.53.19

Автоматизация поддержки принятия решений при разработке онтологий в сфере образования на основе промежуточных моделей

Рассматривается алгоритм разработки онтологии в сфере образования на основании промежуточных моделей - интеллект-карт и концептуальных карт. Для автоматизированной оптимизации интеллект-карт предлагается использовать метрики, в том числе, субъективные, метрики исследования топологии графа.

Ключевые слова: образование, интеллект-карты, онтологии, метрики графа.

AUTOMATIZATION OF DECISION MAKING SUPPORT OF EDUCATIONAL ONTOLOGY' DEVELOPMENT BASED ON INTERMEDIATE MODELS

This article is about an algorithm of educational ontology's development based on intermediate models - mind maps and concept maps. It is offered to use different metrics such as subjective metrics and graph topology's metrics for automated optimization of mind maps.

Keywords: education, mind maps, ontology, graph metrics.

Введение

Онтология предметной области известна как средство, хорошо зарекомендовавшее себя в качестве метода построения баз знаний при создании интеллектуальных систем. Большое количество проводимых исследований связано с проблемами построения онтологий в сфере образования, в том числе, онтологий управления процессами образовательных учреждений [1], онтологий учебного процесса [2], учебного плана [3], обучающих систем [2] и т.д. Отдельное внимание в целом ряде работ [2,4-6] отводится использованию онтологий для поддержки решения проблем разработки индивидуальных маршрутов обучения.

В работах [5,6] отмечается, что необходимо автоматизированным образом динамически проектировать учебные траектории учащегося с учетом его предпочтений, нужд и возможностей, однако обучающиеся, как правило, не способны сами проектировать

образовательный маршрут из-за небольшого педагогического опыта, поэтому целесообразно привлекать экспертов по упорядочиванию контента учебного плана. Для представления абстрактных точек зрения на упорядочивание контента учебного плана и материалов учебных курсов используется онтология. В статье [5] отмечается, что исследователи используют онтологии и метаданные учебных тем, чтобы вычислить наилучшую траекторию по учебному материалу. В работе проектируется онтология компетенций, а также словарь связности компетенций. Онтология содержит набор компетенций, которые раскладываются по субкомпетенциям, а те по своим субкомпетенциям более низкого уровня (5 уровней разложения в глубину). Описано, что существует перечень компетенций, описывающий текущее состояние знаний обучающегося, а также перечень компетенций, которые обучающийся хочет у себя сформировать.

В работе [7] рассматривается онтология в системе управления знаниями вуза. Отмечается, что разработка цельной структуры знаний дает возможность приступить к построению онтологии вуза, сводящей воедино онтологии всех дисциплин, подготовка по которым ведется в вузе. В таком случае онтология может создаваться учащимися и преподавателями в течение учебного процесса. В ходе наполнения онтологии данными будет формироваться множество междисциплинарных связей, в итоге давая возможность «организации индивидуальных обучающих траекторий учащихся» [7].

Таким образом, обзор показал, что онтологические модели находят широкое применение в области образования, как в России, так и за рубежом, в том числе, в вопросах разработки образовательных траекторий студентов, систем управления знаниями вуза и т.д. с учетом мнений различных экспертов. Специфическими особенностями

Галина Олеговна Артемова, к.т.н., доцент Тел.: (812) 232-8645 Эл. почта: [email protected] Санкт-Петербургский национальный исследовательский университет информационный технологий, механики и оптики ■www.ifino.ru

Galina O. Artemova,

Ph.D. of Engineering Science Tel.: (812) 232-8645 E-mail: [email protected] Saint-Petersburg National Research University of Informational Technologies, Mechanics and Optics www.ifno.ru

Наталия Федоровна Гусарова,

к.т.н., с.н.с., доцент Тел.: (812) 232-8645 Эл. почта: [email protected] Санкт-Петербургский национальный исследовательский университет информационный технологий, механики и оптики ■www.ifmo.ru

Nataliya F Gusarova,

Ph.D. of Engineering Science Tel.: (812) 232-8645 E-mail: [email protected] Saint-Petersburg National Research University of Informational Technologies, Mechanics and Optics www.ifmo.ru

онтологий в сфере образования является использование сетевых моделей, иерархий понятий и нескольких уровней разложения понятий в глубину. В рассмотренных работах не уделяется должного внимания инструментам поддержки разработки данных моделей (промежуточным моделям онтологий и метрикам их оценки), которые могут значительно облегчить процесс онтологического инжиниринга, что представляет собой актуальную задачу для проведения исследований.

Использование интеллект-карт на этапе разработки онтологий

Разработка онтологии представляет собой сложный трудоёмкий процесс, для облегчения которого могут быть использованы различные промежуточные модели и метрики оценки онтологий до этапа их использования.

Большое внимание при разработке онтологий уделяется проблемам визуализации. В работах [8, 9] рассмотрены основные визуальные модели и методы в вопросах разработки онтологий и подобных структур. Одними из перспективных методов такого типа являются интеллект-карты и концептуальные карты, широко используемые в настоящее время для визуализации онтологий на стадии дизайна [10], при обсуждении структуры онтологии [11].

Интеллект-карты, предложенные психологом Т.Бьюзеном, широко используются в различных областях жизнедеятельности человека как средство визуализации, структурирования, классификации идей, для помощи в обучении, решении проблем, принятии решений [11].

Как отмечается в [9], интеллект-карты в основном используются на начальном этапе инженерии знаний с целью наглядного и быстрого представления знаний эксперта. Отмечается, что интеллект-карты могут применяться для объяснения идеи «срезов знаний» - множеств связей и относящихся к ним концептов онтологии,

применяемой для упрощения процесса ее составления. Разделение онтологической схемы на подобные «срезы знаний» дает пользователю возможность обсуждать определенные вопросы с разных смысловых точек зрения.

Авторы статьи [12] отмечают, что интеллект-карты можно использовать в области образования, а именно для формирования у обучающихся глубинных знаний о дисциплине, для контроля знаний; областью применения интеллект-карт становятся структуры курсов, генеалогии понятий, онтологии. В работе [7] также упоминается, что существуют системы с визуальными средствами разработки онтологий, дающие возможность строить интеллект-карты, что поддерживает процесс обучения и процесс научных исследований. Применению интеллект-карт в образовательном процессе для решения ряда задач посвящены работы [13-17].

При разработке онтологии больше возможностей для формализации дает другая промежуточная модель - концептуальные карты [9]. В работе [18] отмечается, что концептуальные карты могут быть использованы как первый шаг для построения онтологий, являясь средствами выражения для эксперта и помогая ему детализировать структуру знаний. Реализации обучающей системы на основе концептуальных карт посвящена также работа [19]. В ней отмечается, что концептуальные карты могут сократить познавательную нагрузку и упростить содержательное обучение.

В работе [12] производится сравнение интеллект-карт и концептуальных карт. Отмечается, что они имеют сходство ввиду представления иерархического «скелета» рассматриваемой темы и системы ее понятий. Характерным отличием между данными моделями является отсутствие на интеллект-картах названий типов отношений, присутствующих на концептуальных картах. Таким образом, концептуальные карты дают возможность представить связи между понятиями, что приводит к углубленной концептуализации,

Игорь Юрьевич Коцюба,

аспирант кафедры Интеллектуальных технологий в гуманитарной сфере Тел.: (812) 232-8645 Эл. почта: [email protected] Санкт-Петербургский национальный исследовательский университет информационный технологий, механики и оптики ■www.ifino.ru

Igor Yu. Kotciuba,

Graduate student, the Department of Intellectual Technologies in Humanitarian Sphere Tel.: (812) 232-8645 E-mail: [email protected] Saint-Petersburg National Research University of Informational Technologies, Mechanics and Optics www.ifmo.ru

что, в свою очередь, является определенной сложностью их разработки при дальнейшей разработке онтологии.

Оценки качества онтологий на основе метрик

В ряде работ проведен обзор существующих подходов к оценке качества онтологий. Поскольку существует множество вариантов выбора основания для классификации, могут быть предложены различные классификации методик оценки качества онтологий.

В таблице 1 представлен обзор работ, посвященных оценке качества онтологий, с выделением характеристик качества онтологий:

В настоящей статье рассматривается метод оценки интеллект-карт как промежуточных моделей разработки онтологий в сфере образования, который в соответствии с существующими классификациями можно трактовать как:

- цель: воспринимаемость, производительность при реализации в приложениях;

- объект анализа: структура промежуточных моделей разработки онтологий - интеллект-карт;

- средство анализа: анализ топологии графа онтологии;

- степень автоматизации: полуавтоматический (после автоматически вычисляемых значений метрик на этапе оптимизации промежуточных моделей эксперт завершает анализ самостоятельно);

- стадия применения: разработка и прототипирование, тестирование перед выпуском и внедрением онтологии.

Метод

Поскольку интеллект-карты являются промежуточной моделью разработки онтологии, их автоматизированная оптимизация позволит значительно сократить процесс онтологического инжиниринга, сократить время эксперта по их разработке, а именно:

- метрики вычисляются автоматически;

- в случае получения характерных значений метрик срабатывают триггеры, указывающие на проблемные места при разработке концептуальных карт с рекомендациями для эксперта по их улучшению.

Отметим, что ряд метрик оценки онтологий может быть использован для анализа интеллект-карт. Поскольку данные промежуточные модели имеют графовую структуру и являются визуальными моде-

Таблица 1

Характеристики качества онтологий

Источник Характеристики качества

[20] соответствие структуры, надежности, функциональности, производительная эффективность; переносимость, совместимость, пригодность для обслуживания; удобство использования

[21] синтаксические, семантические, прагматические, социальные метрики

[22] авторизация, инкапсуляция, возможность многократного использования, масштабируемость, сцепление и т.д.

[23] метрики схемы и всей базы знаний онтологии: полнота классов, атрибутов, наследований, отношений

[24] функциональные, структурные, меры юзабилити

[25] в работе выделяется не только ряд целей существующих подходов к оценке качества онтологий, таких как: - полнота и точность словаря рассматриваемой области; - адекватность структуры с точки зрения таксономии, отношений; - производительность при реализации в приложениях; - выбор лучшей онтологии из набора имеющихся; - воспринимаемость с когнитивной точки зрения (рассмотрено в работах Гавриловой), но и варианты оценки онтологий на различных стадиях разработки и использования онтологий, классификация данных методов по степени автоматизации, объектам для анализа и средствам для определения качества и зрелости онтологий.

Таблица 2

Перечень метрик для автоматизированной оптимизации промежуточных моделей интеллект-карт при разработке онтологий

№ метрики Название метрики

1 Глубина графа (абсолютная, средняя, максимальная)

2 Диаметр графа

3 Высота графа

4 Высота концепта (ярус)

5 Ширина графа (абсолютная, средняя, максимальная)

6 Сбалансированность дерева

7 Идеальная сбалансированность дерева

8 Полустепень исхода

9 Метрика циклов

10 Метрика измерения ветвистости графа

лями работы со знаниями, к ним применимы метрики исследования топологии графа и субъективные метрики когнитивной эргономич-ности [20], однако учет специфики интеллект-карт требует проведения содержательного анализа с выявлением перечня подходящих метрик для данных моделей.

Основными характеристиками интеллект-карт как графовых структур являются следующие [26]:

- имеют древовидную структуру;

- концепты одного уровня иерархии имеют с родительским концептом один и тот же тип отношений;

- имеют свойство равномерности - разница в количестве уровней разных ветвей не должно превышать 2;

- количество дочерних понятий не должно превышать 7 ± 2;

- глубина ветви не должна превышать 7 ± 2.

Содержательный анализ специфики интеллект-карт показал, что на этапе их оптимизации может быть использован следующий набор метрик:

- метрики глубины, диаметра, высоты, высоты концепта (яруса), ширины графа, (в т.ч., абсолютные, средние, максимальные);

- метрики анализа деревьев: метрики идеальной сбалансированности и сбалансированности по АВЛ дерева (под правильно организованным деревом понимается идеально сбалансированное дерево, в котором для каждой вершины дерева количество вершин в левом поддереве отличается не бо-

лее чем на 1 от количества вершин в правом поддереве. Дерево является сбалансированным по АВЛ (или просто «сбалансированным»), если для каждой его вершины высота ле-

вого поддерева не более, чем на 1 отличается от высоты правого поддерева);

- метрика полустепени исхода для анализа количества рёбер, исходящих из любого концепта интеллект-карты, начиная с центрального образа;

- метрики циклов (поскольку дерево является графом без циклов);

- метрика измерения ветвистости графа: позволяет оценить «распределение» вершин графа, у которых есть листья и нелистовые ноды среди детей;

- и т.д.

Данные метрики позволят оценить не только качество построенной интеллект-карты эксперта, но и поддержать процесс представ-

Рис. 1. Алгоритм разработки онтологии на основе промежуточных моделей

ления знаний по заранее определенной теме, избегая возможных уходов от нее: например, метрика сбалансированности гарантирует, что эксперт будет детализировать центральное понятие предметной области, не увлекаясь чрезмерной детализацией другого, частного понятия.

Сводная таблица метрик промежуточных моделей интеллект-карт представлена в табл. 2.

Алгоритм разработки онтологии

В работах [9, 12] обращается внимание на некоторые алгоритмы построения интеллект-карт и концептуальных карт. В статье [9] отмечается связь между построением интеллект-карт и концептуальных карт при построении он-тологий. Постулируется также то, что данный алгоритм может быть использован в разных задачах построения онтологий, когда эксперт предметной области работает с абстрактными понятиями. Однако в статье не уделяется внимание пошаговому алгоритму построения интеллект-карт. В статье [12] обращается внимание на то, для построения интеллект-карты может быть использован модифицированный пятишаговый алгоритм визуального построения онтологий как модели, концептуально описывающей предметную область, однако не рассмотрены алгоритмы перехода от построения интеллект-карты к концептуальной карте при дальнейшей работе по разработке онтологии. Кроме того, в данных работах уделяется внимание непосредственной работе эксперта по оптимизации промежуточных моделей, а методы их автоматизированной оптимизации не рассмотрены.

На основании алгоритмов, предложенных в рассмотренных выше работах, а также рассмотренных метрик автоматизированной оптимизации интеллект-карт, предлагаем алгоритм поддержки разработки онтологии (рис. 1), в который на этапе работы с интеллект-картой включен шаг «Выбор метрик и оптимизация с использованием метрик».

Рис. 2. Интеллект-карта «Learning Object Metadata»

Таблица 3.

Значения расчета метрик для интеллект-карты рис. 2

Номер метрики 1 2 3 4 5 6 7 8 9 10

Значение 144 4 5 1-5 78 Нет Нет 0-11 0 0,44

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

2.48 15.6

4 45

Рис. 3. Интеллект-карта «Categories of eLearning»

Таблица 4

Значения расчета метрик для интеллект-карты рис. 3

Номер метрики 1 2 3 4 5 6 7 8 9 10

Значение 97 3 4 1-4 56 Да Да 0-9 0 0,29

2.55 14

3 25

Таблица 5

Шкала приоритетов для метрик интеллект-карт рис. 2 и рис. 3

Интеллект- Интеллект-

Метрика карта карта

рис. 2 рис. 3

Глубина графа (абсолютная, максимальная) < >

Средняя глубина графа > <

Диаметр графа < >

Высота графа < >

Высота концепта (ярус) < >

Ширина графа (абсолютная, средняя, максимальная) < >

Полустепень исхода < >

Метрика измерения ветвистости графа < >

Сбалансированность дерева < >

Идеальная сбалансированность дерева < >

Метрика циклов =

Этап «Выбор метрик и оптимизация с использованием метрик» включает в себя анализ интеллект-карт с использованием метрик, рассмотренных в табл. 2. Для подробного рассмотрения данного этапа алгоритма рис. 1 были проанализированы существующие интеллект-карты из сферы образования - интеллект-карта «Learning Object Metadata» [27], представленная на рис. 2, и интеллект-карта «Categories of eLearning» [28], представленная на рис. 3. Результаты вычислений предложенных в табл. 1 метрик для интеллект-карт рис. 2 и рис. 3 представлены ниже (табл. 3 и табл. 4 соответственно):

В таблице 5 представлен перечень метрик с использованием шкалы приоритетов, значения которых в рассматриваемых примерах позволяют сравнить интеллект-карты рис. 2 и рис. 3. В табл. 5 обозначено: «>» - больший приоритет, «<» -меньший приоритет, «=» - равный приоритет:

Как видно из табл. 5, интеллект-карта рис. 3 удовлетворяет

значительно большему перечню выделенных метрик в сравнении с интеллект-картой рис. 2.

На основании полученных расчетов можно дать рекомендации по автоматизированной оптимизации интеллект- карт, а именно:

- удалять вершины интеллект-карты, если их количество чрезмерно увеличивается, облегчая восприятие;

- удалять/добавлять вершины ин-

теллект-карты, что будет способствовать ее лучшей сбалансированности.

Таким образом, в данной статье обосновано использование метрик для автоматизированной оптимизации интеллект-карт при разработке онтологий в сфере образования, а также обосновано место этапа выбора метрик и оптимизации с их использованием в общем алгоритме разработки онтологии на основе промежуточных моделей.

Литература

1. Шахгельдян К.И. Теоретические принципы и методы повышения эффективности автоматизации образовательных учреждений на основе онтологического подхода: автореф. дис. ... доктора техн. наук. - Москва, 2009.

2. Лаптев В.В. Модель предметной области и оценка ее сложности в обучающей системе по программированию. Вестник Астраханского государственного технического университета. Серия: Управление, вычислительная техника и информатика. 2010. № 2. С. 35-44.

3. Фотеева В. Н. Онтология учебного плана как основа АИС проектирования образовательных программ. Инженерия знаний и технологии семантического веба. 2010. № 1. С. 64-68.

4. Норенков И.П., Соколов Н.К. Синтез индивидуальных маршрутов обучения в онтологических обучающих системах. Информационные технологии, 2009, № 3, с. 74-77.

5. Kontopoulus, E., Vrakas, D., Kokkoras, F., Bassiliades, N., Vlahavas, I. 2008. An ontology-based planning system foe e-course generation. Expert Systems and Applications, 35 (2008), 398-406.

6. Yu-Liang Chi. Ontology-based curriculum content sequencing system with semantic rules. Expert Systems with Applications, 36 (2009) 7838-7847.

7. Карпенко А.П. Меры важности концептов в семантической сети онтологической базы знаний. Наука и образование: электронное научно-техническое издание. 2010. № 7. С. 1-12.

8. Гаврилова Т.А., Гулякина Н.А. Визуальные методы работы со знаниями: попытка обзора. Искусственный интеллект и принятие решений. 2008. № 1. С. 15-21.

9. МуромцевД.И., Баландин Е.А., КатковЮ.В., ПочинокИ.Н. Опыт использования онтологий верхнего уровня при проектировании базы знаний музея оптических технологий. Материалы второй Всероссийской конференции с международным участием «Знания-Онтологии-Теории» (З0НТ-09) 2009. Т. 1, с. 165-172.

10. Gavrilova T., Gladkova M. Big data structuring: the role of visual models and ontologies. Procedia Computer Science, 31 (2014), 336-343.

11. Roussey, C. and Pinet, F. and Ah Kang, M. and Corcho, Oscar. An Introduction to Ontologies and Ontology Engineering. In: «Ontologies in Urban Development Projects». Springer-Verlag. 2011

12. Гаврилова Т.А., Лещева И.А., Страхович Э.В. Об использовании визуальных концептуальных моделей в преподавании. Вестник Санкт-Петербургского университета. Серия 8: Менеджмент. 2011. № 4. С. 124-150.

13. Кайсарова Д.В., Коцюба И.Ю., Жогина В.А. Приложение для создания тестовых заданий в формате интеллект-карт. Дистанционное и виртуальное обучение. 2013. №10. С. 59-63.

14. Кайсарова Д.В., Коцюба И.Ю. Использование интеллект-карт для длительного наблюдения за процессом усвоения обучающимися содержания дисциплины. Дистанционное и виртуальное обучение. 2014. № 4. С. 101-105.

15. КоцюбаИ.Ю., ШиковА.Н. Автоматизированный анализ интеллект-карт учащихся, применяемых для оценки усвоения учебного материала. Педагогическая информатика. № 3. С. 25-31.

16. Кайсарова Д.В., Коцюба И.Ю. Использование интеллект-карт для формирования междисциплинарных связей. Дистанционное и виртуальное обучение. № 11. С. 117-122.

17. Коцюба И.Ю., Шиков А.Н. Интеллект-карты как средство е-дидактики в компьютерных технологиях обучения. Образовательные технологии и общество. 2015. № 1. С. 600-611.

18. Starr, R.R., Oliveira, J.M.P. 2013. Concept maps as the first step in an ontology construction method. Information Systems, 5 (2013), 771-783.

19. Kuo-Kuang, Chu, Chien-I, Lee, Rong-Shi, Tsai. 2011. Ontology technology to assist learners' navigation in the concept map learning system. Expert Systems and Applications, 9 (2011), 11293-11299.

20. Duque-Ramos, A., Fernandez-Breis, J.T., Iniesta, M., Dumontier, M., Aranguren, M.E., Schulz, S., Aussenac-Gilles, N., Stevens, R. 2013. Evaluation of the OQuaRE framework for ontology quality. Expert Systems with Applications, 40 (2013), 2696-2703.

21. Burton-Jones, A., Storey, V., Sugumaran, V., Ahluwalia, P. A semiotic metrics suite for assessing the quality of ontologies, Data & Knowledge Engineering, v.55 n.1, p.84-102, 2005.

22. Wang, Y., Bao, J., Haase, P. and Qi, G. Evaluating formalisms for modular ontologies in distributed information systems. 2007. Lecture Notes in Computer Science, 2007.

23. Tartir, S., Arpinar, I., Moore, M., Sheth, A., Aleman-Meza, B. OntoQA: metric-based ontology quality analysis, in: Proceedings of the Workshop on Knowledge Acquisition from Distributed, Autonomous, Semantically Heterogeneous Data and Knowledge Sources (KADASH), Citeseer, 2006.

24. Gangemi, A., Catenacci, C., Ciaramita, M., Lehmann, J. Modelling ontology evaluation and validation, Proceedings of the 3rd European conference on The Semantic Web: research and applications, June 11-14, 2006, Budva, Montenegro.

25. Гаврилова Т.А., Горовой В.А., Болотникова Е.С. Субъективные методы оценки онтологий. Материалы Все-россий^ой конференции с международным участием Знания - Онтологии - Теории (З0НТ-09). - 2009. -С. 178-187.

26. Гаврилова Т.А., Лещева И.А., Кудрявцев Д.В. Использование моделей инженерии знаний для подготовки специалистов в области информационных технологий. Системное программирование. 2012. Т. 7. № 1. С. 90-105.

27. Casali, A., Deco, C., Romano, A., Tome, G. 2013. An assistant for loading learning object metadata: an ontology based approach. IJELL, 9 (2013), 77-87.

28. Siemens G. Categories of eLearning. [Электронный ресурс]: http://www.elearnspace.org/Articles/ elearningcategories.htm

i Надоели баннеры? Вы всегда можете отключить рекламу.