Научная статья на тему 'Методика автоматизированной оценки готовности научно-технического задела при планировании работ по созданию сложных технических систем'

Методика автоматизированной оценки готовности научно-технического задела при планировании работ по созданию сложных технических систем Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
559
120
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
АВТОМАТИЗИРОВАННАЯ ОЦЕНКА / НАУЧНО-ТЕХНИЧЕСКИЙ ЗАДЕЛ / НОВЫЕ ОБРАЗЦЫ ВООРУЖЕНИЙ / СЛОЖНЫЕ ТЕХНИЧЕСКИЕ СИСТЕМЫ / ПЛАНИРОВАНИЕ НАУЧНОЙ РАБОТЫ / AUTOMATED ASSESSMENT / TECHNOLOGICAL ADVANCE / NEW MODELS OF WEAPONS / COMPLEX TECHNICAL SYSTEMS / PLANNING OF SCIENTIFIC WORK

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Кравченко Алексей Юрьевич, Лясковский Виктор Людвигович, Артеменко Валерий Борисович

В работе предложена методика автоматизированной оценки готовности научно-технического задела. Оценка готовности научно-технического задела, необходимого для создания сложных технических систем, осуществляется в ходе формирования плановых документов развития отраслей промышленности и корпораций. Предложенная методика автоматизированной оценки готовности научно-технического задела реализована в комплексе программных средств. Результаты апробации показали, что предлагаемая методика позволяет на 10-25% снизить количество ошибочных экспертных оценок готовности задела по отдельным технологиям; повысить на 15-30% среднее число релевантных документов, предоставляемых экспертам для оценки готовности, и на 10-15% сократить время оценки готовности научно-технического задела.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по компьютерным и информационным наукам , автор научной работы — Кравченко Алексей Юрьевич, Лясковский Виктор Людвигович, Артеменко Валерий Борисович

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Methods of automated assessment of the readiness of technological advance in the planning of works on creation of complex technical systems

The paper proposed a method of automated evaluation of readiness of technological advance. Readiness Assessment scientific and technological potential needed to create complex technical systems, carried out during the formation of planning documents of industries and corporations. The proposed method of automated evaluation of readiness of technological advance realized in complex software. The results of testing showed that the proposed method makes it possible to reduce the amount of 10-25% false expert assessments of readiness reserve on individual technologies; increase by 15-30% the average number of relevant documents provided by the experts to assess the readiness and a 10-15% reduction in the assessment of readiness of technological advance.

Текст научной работы на тему «Методика автоматизированной оценки готовности научно-технического задела при планировании работ по созданию сложных технических систем»

Интернет-журнал «Науковедение» ISSN 2223-5167 http ://naukovedenie.ru/ Том 7, №4 (2015) http://naukovedenie.ru/index.php?p=vol7-4 URL статьи: http ://naukovedenie.ru/PDF/137TVN415.pdf DOI: 10.15862/137TVN415 (http://dx.doi.org/10.15862/137TVN415)

УДК 519.863

Кравченко Алексей Юрьевич

ФГБУ «46 ЦНИИ» Минобороны России

Россия, Москва1 Начальник управления Кандидат технических наук Доцент

E-mail: [email protected]

Лясковский Виктор Людвигович

ФГБУ «46 ЦНИИ» Минобороны России

Россия, Москва Доктор технических наук Профессор Старший научный сотрудник E-mail: [email protected]

Артеменко Валерий Борисович

ФГБУ «46 ЦНИИ» Минобороны России

Россия, Москва Начальник отдела E-mail: [email protected]

Методика автоматизированной оценки готовности научно-технического задела при планировании работ по созданию

сложных технических систем

1 129327, Россия, г. Москва, Чукотский проезд, д. 10 1

Аннотация. В работе предложена методика автоматизированной оценки готовности научно-технического задела. Оценка готовности научно-технического задела, необходимого для создания сложных технических систем, осуществляется в ходе формирования плановых документов развития отраслей промышленности и корпораций. Предложенная методика автоматизированной оценки готовности научно-технического задела реализована в комплексе программных средств. Результаты апробации показали, что предлагаемая методика позволяет на 10-25% снизить количество ошибочных экспертных оценок готовности задела по отдельным технологиям; повысить на 15-30% среднее число релевантных документов, предоставляемых экспертам для оценки готовности, и на 10-15% сократить время оценки готовности научно-технического задела.

Ключевые слова: автоматизированная оценка; научно-технический задел; новые образцы вооружений; сложные технические системы; планирование научной работы.

Ссылка для цитирования этой статьи:

Кравченко А.Ю., Лясковский В.Л., Артеменко В.Б. Методика автоматизированной оценки готовности научно-технического задела при планировании работ по созданию сложных технических систем // Интернет-журнал «НАУКОВЕДЕНИЕ» Том 7, №4 (2015) http://naukovedenie.ru/PDF/137TVN415.pdf (доступ свободный). Загл. с экрана. Яз. рус., англ. DOI: 10.15862/137ГУШ15

Оценка готовности научно-технического задела (НТЗ), необходимого для создания сложных технических систем, осуществляется в ходе формирования плановых документов развития отраслей промышленности и корпораций, таких как государственные программы, федеральные целевые программы, и заключается в анализе состояния НТЗ по совокупности технологий, реализуемых в перспективной системе, с целью снижения рисков срыва планируемых мероприятий по созданию системы.

Основная сложность решения задачи оценки готовности НТЗ состоит в сборе, обработке и анализе информации о состоянии НТЗ, которая содержится в значительном по объему массиве разнородных неструктурированных текстовых документов, включающем отчетную научно-техническую документацию о научно-исследовательских и опытно-конструкторских работах (НИОКР), акты и протоколы приемки НИОКР, формы по учету результатов интеллектуальной деятельности. Существующие автоматизированные системы, обеспечивающие информационную поддержку формирования проектов плановых документов, не обладают возможностями по эффективному накоплению, поиску и анализу неструктурированных тестовых документов.

В связи с этим для решения задачи информационного обеспечения оценки готовности НТЗ предлагается создать информационно-аналитическую систему на основе онтологического подхода. Онтологический подход заключается в создании онтологии НТЗ и ее использовании для обеспечения интеграции информационных ресурсов, эффективного поиска и анализа данных о состоянии НТЗ. В общем случае под онтологией НТЗ понимается формальная концептуализация предметной области НТЗ, однозначно воспринимаемая (разделяемая) всем сообществом практики (community of practice - Cop) и представляемая следующей моделью [1]:

Cop = (C, R),

где Cop - сообщество практики (совокупность специалистов органов государственной власти, промышленности, научно-исследовательских организаций), ^ - знак единства восприятия, С - множество концептов (понятий, терминов), используемых в предметной области НТЗ; R - множество отношений между концептами.

В настоящее время онтологии все более широко применяются в слабоформализуемых областях, таких как менеджмент, экономика, электронный бизнес, образование [2, 3]. В области оценки НТЗ онтологии только начинают разрабатываться и, на наш взгляд, имеют достаточно четкие перспективы.

Научно-технический задел для создания сложных технических систем представляет собой чрезвычайно сложную, разнообразную и динамичную предметную область. Появление новых видов техники, внедрение новых технологий и инноваций приводит к возникновению новых понятий, терминов и определений. С целью наилучшего когнитивного восприятия и упрощения практического применения область НТЗ рассматривается как сложноструктурированный объект, состоящий из отдельных подобластей и их разделов. Онтология такой предметной области также состоит из нескольких уровней. Одним из примеров сложноструктурированной области является область военных технологий [1, 4-5]. Один из вариантов структуры онтологии военных технологий представлен на рис. 1.

Она включает четыре уровня. Первый уровень, - онтология представления знаний, описывает область представления знаний. Цель первого уровня - создание языка для спецификации онтологий более низких уровней. Создание формальной онтологии для предметной области военных технологий является чрезвычайно сложной задачей. Поэтому для формирования исходной модели онтологии военных технологий предлагается

использовать инструмент построения «легких онтологий» - методологию концептуальных карт (CMAP - conceptual map) [6].

Концепт-карта — это графический инструмент для организации и представления знаний. Концепт-карты являются циклическими графами, вершинами которого являются понятия (концепты - С), а ребрами - связи между понятиями (отношения - R). Концепты выражаются лексическим термином - словом (или словосочетанием).

Поскольку область военных технологий является подклассом области технологий, то была введена соответствующая онтология верхнего уровня. Онтология верхнего уровня может использоваться как основа для построения онтологий различных предметных областей. В данном случае она описывает основные понятия в области технологий, такие как, технология, знание, технофакт, продуктовая технология, производственная технология, гражданская технология, двойная технология, продукт и др.

http://naukovedenie.ru 1371УК415

Интернет-журнал «НАУКОВЕДЕНИЕ» Том 7, №4 (июль - август 2015)

http://naukovedenie.ru [email protected]

Третий уровень содержит онтологию предметной области - военных технологий, описывающую основные концепты технологий, связанных с конструкцией, функционированием, применением, производством изделий военной техники. По своей структуре онтология военных технологий является продолжением онтологии технологий.

Локальные онтологии военных технологий, составляющие четвертый уровень, описывают множество реализаций военных технологий. Они содержат специфичную информацию - концепты и отношения, раскрывающие особенности определенных видов оружия и военной техники.

Отличительная особенность локальных онтологий заключается в том, что помимо согласованного понимания специалистами понятий предметной области они направлены на обеспечение смыслового поиска информации о НТЗ.

В связи с этим локальные онтологии обладают следующими особенностями информационно-поисковых тезаурусов [2]:

• включают в свой состав избыточное количество концептов;

• концепт локальной онтологии представлен группой терминов, среди которых выбирается основной - дескриптор, остальные термины группы являются синонимами;

• имеют определенный, фиксированный набор видов отношений между концептами, обеспечивающий их автоматизированную обработку.

С учетом перечисленных особенностей разработана формализованная запись модели локальной онтологии, которая имеет следующий вид:

О =< сд >

с = {с1} , С =< Б,, В1 >

К = < К А1 Ох, ^ К и >

где С - множество концептов (понятий) локальной онтологии. Каждый концепт описывается следующими показателями:

О - термин (слово или словосочетание), который кратко и точно описывает понятие предметной области - дескриптор. Например, «беспилотный летательный аппарат», «бортовая информационно-навигационная система» и т.д.;

Ei - множество синонимов (под синонимами понимаются термины, означающее одно и то же понятие, сокращения, аббревиатуры);

R - множество отношений между концептами, которые могут быть следующих видов:

Rвн - множество направленных связей «Выше-ниже»;

Rцч - множество направленных связей «Целое -часть»;

Rн - множество направленных связей «Назначение»;

RА - множество ненаправленных связей «Ассоциация».

Особенности предлагаемой модели локальной онтологии (расширенный набор концептов, учет синонимов, определенный набор видов онтологических отношений) позволяют использовать локальные онтологии для реализации смыслового поиска информации.

На основе использования онтологии разработана методика автоматизированной оценки готовности научно-технического задела при планировании работ по созданию сложных технических систем, схема которой представлена на рисунке 2.

Она включает следующие этапы:

1. Формирование исходных данных для оценки готовности НТЗ.

На данном этапе осуществляется преобразование входных данных, которые включают проект технического задания (ТЗ) на опытно-конструкторскую работу (А) и массив документов о НТЗ (В), в перечень критических технологий, реализуемых в создаваемой системе [Ть..Тп], и множество совокупностей документов, характеризующих состояние НТЗ по каждой критической технологии (В}].

Решение данной задачи начинается с индексирования массива документов (В}, содержащих сведения о НТЗ. Для каждого документа формируется поисковый образ документа (ПОД), который представляет собой модель смыслового содержания документа, предназначенную для обеспечения в последующем эффективного поиска данных. Упрощенно ПОД можно представить как кортеж, состоящий из вектора пар (термин, коэффициент его значимости в документе) (<р,у>}к, и множества онтологических связей между терминами документа Як.

Существенную сложность для реализации индексирования документов представляют явления многозначности терминов, избыточности терминов (использование синонимов), связности терминов в тексте. Для устранения многозначности терминов, учета синонимов и выявления связей между терминами документа используется онтология НТЗ.

Для оцениваемой опытно-конструкторской работы (ОКР) по созданию перспективной системы экспертами формируется перечень технологий [Ть..Тп], реализуемых в данной систем. Помимо технического задания на ОКР для этого используется онтология НТЗ, содержащая сводный перечень критических технологий.

Далее осуществляется поиск в массиве документов сведений о состоянии НТЗ для каждой технологии из сформированного перечня. Для этого формируется ПОД для каждой технологии Т], которые сравниваются с ПОД полученными ранее.

Оценка смыслового сходства ПОД технологии и документа рассчитывается следующим образом.

На основе онтологии НТЗ выполняется попарное сравнение терминов, входящих в ПОД, на предмет их семантической близости. В качестве критерия семантической близости терминов выбрано минимальное расстояние между терминами в онтологии НТЗ. В результате формируется матрица семантической близости терминов.

Документы о состоянии НТЗ В=(ё1,...Дп}

ь

ТЗ на ОКР (А)

Этап I

Формирование исходных данных для оценки готовности НТЗ

Этап II

Оценка уровня готовности технологий

Онтология НТЗ

I I

Индексирование документов о НТЗ

ак^пОДк =({<р,у>}к, Як),

к=1,т

Формирование перечня технологий, реализуемых в перспективной системе А-[ТГ..Т„]

Поиск сведений о НТЗ, для технологий, реализуемых в перспективной системе Т^Ц, ]=1,п

Оценка готовности технологий (проектная, производственная) на основе анализа Б]

Т]^<И]УГТ, ЦУГП>

Парное сравнение

технологий,

реализуемых в системе

^11 • • ^1п

_^п1 • • ™пп _

Этап III

Расчет обобщенной оценки готовности НТЗ

Расчет обобщенной оценки готовности НТЗ

п

идМ = ужи6М х идт

¿-и 7 7 7

3=1

иц6А = идл' х идАА

Отнесение А к одной из категорий:

, Мс и*бЛ > 0,6 с V и6М > 0,1 А ^ \ А^, Мс 0,1 < и1161 < 0,6 с VU6М > 0,1 Ам , Мс Зи6М < 0,1

Рисунок 2. Схема методики автоматизированной оценки готовности научно-технического задела при планировании работ по созданию сложных технических систем (разработано авторами)

http://naukovedenie.ru 137ТУЖ15

Далее вычисляется коэффициент семантического сходства ПОД технологии и документа путем обобщения показателей семантической близости входящих в них терминов -элементов матрицы семантической близости терминов.

Процедура вычисления коэффициента семантического сходства осуществляется для каждого документа и технологии.

Полученные таким образом значения коэффициентов семантического сходства технологии и документов позволяют выделить документы, относящиеся по своему смысловому содержанию к оцениваемой технологии, которые и составляют поисковый ответ. При этом документы, составляющие поисковый ответ, ранжируются по степени семантического сходства с технологией, что позволяет экспертам получить необходимую информацию о НТЗ, не пересматривая все документы из поискового ответа.

В результате выполнения поиска каждой технологии ] ставится в соответствии подмножество документов, содержащих сведения о состоянии НТЗ Dj.

2. Оценка уровня готовности технологий.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

На данном этапе для каждой технологии Т сравниваются заданные в ТЗ на ОКР показатели с результатами, вошедшими в перечень документов Dj. По результатам сравнения эксперт для каждой технологии ставит оценки уровня готовности технологии иУГТ и производственного уровня готовности ЦУГП по соответствующим вербально-числовым шкалам [8]. При этом значения ЦУГТ и ЦУГП принадлежат отрезку [0, 1].

С целью получения коэффициентов относительной важности оцениваемых технологий экспертом осуществляется попарное сравнение технологий по девятиуровневой вербально-числовой шкале [4].

3. Расчет обобщенной оценки готовности НТЗ.

На данном этапе на основе парных оценок важности технологий выполняется расчет коэффициентов относительной важности технологий по одному из известных

методов, например, по методу собственных значений Т.Саати [4]. Далее формируется интегральная оценка уровня готовности НТЗ ЦУГН, которая рассчитывается как взвешенная аддитивная свертка произведений и Т и Ц .

Умножая ЦУГН на уровень готовности испытательной и полигонной базы ЦУГБ, который определяется экспертами по вербально-числовой шкале [8], получаем значение комплексного уровня готовности ЦКУГ.

В соответствии со значениями ЦКУГ проекты ТЗ на ОКР разделяются на подмножества: ОКР, обладающие достаточным заделом (Аг); ОКР, с высоким риском реализуемости (Арг) и ОКР, не обладающие достаточным заделом (Анг). При этом обязательным условием отнесения А к ОКР, обладающим достаточным заделом, и рискованным ОКР является получение оценки проектной готовности по каждой технологии выше 0,1. Данное пороговое значения целесообразно уточнять по результатам выполнения подобных проектов.

Методика автоматизированной оценки готовности научно-технического задела при планировании работ по созданию сложных технических систем для сложных образцов вооружения реализована в комплексе программных средств, обеспечивающих формирование онтологии военных технологий, информационный семантический поиск сведений о НТЗ и расчет оценок готовности НТЗ [7, 9-11].

Результаты апробации данного комплекса программных средств для группы работ, включаемых в государственный оборонный заказ, показали, что предлагаемая методика автоматизированной оценки готовности научно-технического задела при планировании работ по созданию сложных технических систем позволяет на 10-25% снизить количество ошибочных экспертных оценок готовности НТЗ по отдельным технологиям; повысить на 1530% среднее число релевантных документов, предоставляемых экспертам для оценки готовности НТЗ, и на 10-15% сократить время оценки готовности НТЗ.

ЛИТЕРАТУРА

1 Артеменко В.Б., Ивлев А.А. Онтология военных технологий: основы, структура, визуализация и применение // Электронный научный журнал «Вооружение и экономика». - 2011. №3(15) - 4(16).

2 Добров, Б.В. Онтологии и тезаурусы: модели, инструменты, приложения: Учебное пособие. / Б.В. Добров, В.В. Иванов, Н.В. Лукашевич, В.Д. Соловьев. -М.: Интернет-Университет Информационных технологий; БИНОМ. Лаборатория знаний, 2009. - 173 с.

3 Гаврилова, Т.А. Интеллектуальные технологии в менеджменте: инструменты и системы: Учебное пособие. / Т.А. Гаврилова, Д.И. Муромцев. - 2-е изд., СпбГУ. - СПб.: Изд. «Высшая школа менеджмента», 2008. - 488 с.

4 Буренок В.М., Ивлев А.А., Корчак В.Ю. Развитие военных технологий XXI века: проблемы, планирование, реализация. - Тверь: Изд. "Купол", 2009. - 624 с.

5 Буренок В.М., Ивлев А.А., Корчак В.Ю. Программно-целевое планирование и управление созданием научно-технического задела для перспективного и нетрадиционного вооружения. - М.: Издательский дом «Граница», 2007.

6 http://cmap.ihmc.us/download/index.php.

7 Лясковский В.Л., Артеменко В.Б. Научно-методический подход к решению задачи автоматизированной оценки готовности научно-технического задела для создания образцов ВВСТ на основе онтологии военных технологий. // Электронный журнал «Вооружение и экономика», №2 (32), 2015.

8 Смирнов С.С., Тужиков Е.З., Хованов Д.Г., Горбунов В.В. Методика комплексной оценки готовности научно-технического задела для перспективного образца вооружения, военной и специальной техники // Стратегическая стабильность. - 2013. - №2 (63).

9 Кравченко А.Ю., Смирнов С.С., Артеменко В.Б. и др. Свидетельство о государственной регистрации программ для ЭВМ «Программный модуль оценки уровня готовности технологий» №2013611817 от 05 февраля 2013 г.

10 Кравченко А.Ю., Лясковский В.Л., Артеменко В.Б. и др. Свидетельство о государственной регистрации программ для ЭВМ «Программное средство поддержки принятия решений по формированию программ развития военных технологий» №2015615811 от 25 мая 2015 г.

11 Кравченко А.Ю., Артеменко В.Б., Кондрашова С.Г. и др. Свидетельство о государственной регистрации программ для ЭВМ «Программный модуль формирования тезауруса» №2015616094 от 29 мая 2015 г.

Рецензент: Гриняев Сергей Николаевич, д.т.н., с.н.с., генеральный директор АНО «Центр стратегических оценок и прогнозов».

Kravchenko Alexey Yurevich

46 Research Institute of the Russian Defense Ministry

Russia, Moscow E-mail: [email protected]

Lyaskovsky Viktor Ludvigovich

46 Research Institute of the Russian Defense Ministry

Russia, Moscow E-mail: [email protected]

Artemenko Valery Borisovich

46 Research Institute of the Russian Defense Ministry

Russia, Moscow E-mail: [email protected]

Methods of automated assessment of the readiness of technological advance in the planning of works on creation

of complex technical systems

Abstract. The paper proposed a method of automated evaluation of readiness of technological advance. Readiness Assessment scientific and technological potential needed to create complex technical systems, carried out during the formation of planning documents of industries and corporations. The proposed method of automated evaluation of readiness of technological advance realized in complex software. The results of testing showed that the proposed method makes it possible to reduce the amount of 10-25% false expert assessments of readiness reserve on individual technologies; increase by 15-30% the average number of relevant documents provided by the experts to assess the readiness and a 10-15% reduction in the assessment of readiness of technological advance.

Keywords: automated assessment; technological advance; new models of weapons; complex technical systems; planning of scientific work.

REFERENCES

1 Artemenko V.B., Ivlev A.A. Ontologiya voennykh tekhnologiy: osnovy, struktura, vizualizatsiya i primenenie // Elektronnyy nauchnyy zhurnal «Vooruzhenie i ekonomika». - 2011. №3(15) - 4(16).

2 Dobrov, B.V. Ontologii i tezaurusy: modeli, instrumenty, prilozheniya: Uchebnoe posobie. / B.V. Dobrov, V.V. Ivanov, N.V. Lukashevich, V.D. Solov'ev. - M.: Internet-Universitet Informatsionnykh tekhnologiy; BINOM. Laboratoriya znaniy, 2009. - 173 s.

3 Gavrilova, T.A. Intellektual'nye tekhnologii v menedzhmente: instrumenty i sistemy: Uchebnoe posobie. / T.A. Gavrilova, D.I. Muromtsev. - 2-e izd., SpbGU. - SPb.: Izd. «Vysshaya shkola menedzhmenta», 2008. - 488 s.

4 Burenok V.M., Ivlev A.A., Korchak V.Yu. Razvitie voennykh tekhnologiy XXI veka: problemy, planirovanie, realizatsiya. - Tver': Izd. "Kupol", 2009. - 624 s.

5 Burenok V.M., Ivlev A.A., Korchak V.Yu. Programmno-tselevoe planirovanie i upravlenie sozdaniem nauchno-tekhnicheskogo zadela dlya perspektivnogo i netraditsionnogo vooruzheniya. - M.: Izdatel'skiy dom «Granitsa», 2007.

6 http://cmap.ihmc.us/download/index.php.

7 Lyaskovskiy V.L., Artemenko V.B. Nauchno-metodicheskiy podkhod k resheniyu zadachi avtomatizirovannoy otsenki gotovnosti nauchno-tekhnicheskogo zadela dlya sozdaniya obraztsov VVST na osnove ontologii voennykh tekhnologiy. // Elektronnyy zhurnal «Vooruzhenie i ekonomika», №2 (32), 2015.

8 Smirnov S.S., Tuzhikov E.Z., Khovanov D.G., Gorbunov V.V. Metodika kompleksnoy otsenki gotovnosti nauchno-tekhnicheskogo zadela dlya perspektivnogo obraztsa vooruzheniya, voennoy i spetsial'noy tekhniki // Strategicheskaya stabil'nost'. - 2013. - №2 (63).

9 Kravchenko A.Yu., Smirnov S.S., Artemenko V.B. i dr. Svidetel'stvo o gosudarstvennoy registratsii programm dlya EVM «Programmnyy modul' otsenki urovnya gotovnosti tekhnologiy» №2013611817 ot 05 fevralya 2013 g.

10 Kravchenko A.Yu., Lyaskovskiy V.L., Artemenko V.B. i dr. Svidetel'stvo o gosudarstvennoy registratsii programm dlya EVM «Programmnoe sredstvo podderzhki prinyatiya resheniy po formirovaniyu programm razvitiya voennykh tekhnologiy» №2015615811 ot 25 maya 2015 g.

11 Kravchenko A.Yu., Artemenko V.B., Kondrashova S.G. i dr. Svidetel'stvo o gosudarstvennoy registratsii programm dlya EVM «Programmnyy modul' formirovaniya tezaurusa» №2015616094 ot 29 maya 2015 g.

i Надоели баннеры? Вы всегда можете отключить рекламу.