ИССЛЕДОВАНИЕ ПРИМЕНЕНИЯ НЕЙРОСЕТЕВЫХ МОДЕЛЕЙ В КЛАССИФИКАЦИИ УЗЛОВ ЩИТОВИДНОЙ ЖЕЛЕЗЫ ПО КАТЕГОРИЯМ EU-TIRADS ДЛЯ ПЕРСОНАЛИЗАЦИИ УЛЬТРАЗВУКОВОЙ ДИАГНОСТИКИ ЩИТОВИДНОЙ ЖЕЛЕЗЫ Текст научной статьи по специальности «Компьютерные и информационные науки»

ИССЛЕДОВАНИЕ ПРИМЕНЕНИЯ НЕЙРОСЕТЕВЫХ МОДЕЛЕЙ В КЛАССИФИКАЦИИ УЗЛОВ ЩИТОВИДНОЙ ЖЕЛЕЗЫ ПО КАТЕГОРИЯМ EU-TIRADS ДЛЯ ПЕРСОНАЛИЗАЦИИ УЛЬТРАЗВУКОВОЙ ДИАГНОСТИКИ ЩИТОВИДНОЙ ЖЕЛЕЗЫ

© К.В. Цыгулева1, И.А. Ложкин1, Д.В. Королев1, К.С. Зайцев1, М.Е. Дунаев1, А.А. Гармаш1, А.В. Манаев1, С.М. Захарова2, А.А. Трухин1,2*, Е.А. Трошина2

Национальный исследовательский ядерный университет «МИФИ», Москва, Россия Национальный медицинский исследовательский центр эндокринологии, Москва, Россия

ОБОСНОВАНИЕ. Известно, что около 69% всех узлов щитовидной железы, подвергшихся хирургическому лечению, представляют собой доброкачественные образования, а до 75% пациентов с промежуточным цитологическим заключением подвергаются ненужному хирургическому вмешательству. Это позволяет предположить, что повышение качества дифференциальной диагностики узловых образований позволит избежать избыточных экономических затрат для системы здравоохранения. В связи с этим встал вопрос о привлечении технологий искусственного интеллекта в диагностические алгоритмы классификации узловых образований щитовидной железы.

ЦЕЛЬ. Повышение эффективности автоматической классификации узловых образований щитовидной железы на ультразвуковых изображениях за счет использования набора нейросетевых моделей.

МАТЕРИАЛЫ И МЕТОДЫ. В работе использовались ультразвуковые изображения узловых образований щитовидной железы, доступные в открытых источниках и полученные при помощи 3 ультразвуковых аппаратов ГНЦ РФ ФГБУ «НМИЦ эндокринологии» Минздрава России в рамках реализации проекта №22-15-00135 гранта Российского научного фонда. В работе исследована гипотеза о том, что объем обучающей выборки не может быть увеличен за счет повторения схожих изображений из ультразвуковой кинопетли одного пациента, а только благодаря расширению датасета новыми уникальными экземплярами других пациентов и/или данными процесса аугментации. РЕЗУЛЬТАТЫ. В результате предложена нейросетевая модель EfficientNet-B6 для решения задачи классификации по EU-TIRADS узловых образований щитовидной железы по ее ультразвуковым изображениям. ЗАКЛЮЧЕНИЕ. Полученные результаты позволяют продвинуться в вопросах использования методов искусственного интеллекта для персонализированной медицины при заболеваниях щитовидной железы.

КЛЮЧЕВЫЕ СЛОВА: персонализированная медицина; щитовидная железа; ультразвуковая визуализация; обнаружение; сегментация; классификация EU-TIRADS; нейронные сети; машинное обучение.

INVESTIGATION OF NEURAL NETWORK MODELS APPLICATION IN EU-TIRADS THYROID NODULES CLASSIFICATION FOR PERSONALIZATION OF THYROID GLAND ULTRASOUND DIAGNOSTIC

© Kseniya V. Tsyguleva1, Ilya A. Lozhkin1, Denis V. Korolev1, Konstantin S. Zajcev1, Maxim E. Dunaev1, Aleksandr A. Garmash1, Almaz V. Manaev1,2, Svetlana M. Zaharova2, Alexey A. Trukhin1,2*, Ekaterina A. Troshina2

1National Research Nuclear University «MEPhI» (Moscow Engineering Physics Institute), Moscow, Russia 2Endocrinology Research Centre, Moscow, Russia

SUBSTANTIATION. It is known that about 69% of all thyroid nodules undergoing surgical treatment are benign formations, and up to 75% of patients with an intermediate cytological conclusion undergo unnecessary surgical intervention. This suggests that improving the quality of differential diagnosis of nodular formations will avoid excessive economic costs for the healthcare system. In this regard, AI technologies in diagnostic algorithms for the classification of thyroid nodules were involved. AIM. Improving the efficiency of automatic classification of thyroid nodules on ultrasound images by using a set of neural network models.

MATERIALS AND METHODS. We used ultrasound images of thyroid nodules available in open sources and obtained with the help of 3 ultrasound devices of Endocrinology Research Centre as part of Project № 22-15-00135 of the grant of the Russian Science Foundation. This article check the hypothesis that the size of the training set cannot be increased by repeating similar images from the ultrasound cine loop of one patient, but only by expanding the dataset with new unique specimens of other patients and/or data from the augmentation process.

RESULTS. As a result, a neural network model EfficientNet-B6 was proposed to solve the problem of EU-TIRADS classification of thyroid nodules based on ultrasound images of the thyroid gland.

CONCLUSION. The results obtained allow us to advance in the use of artificial intelligence methods for personalized medicine in thyroid diseases.

KEYWORDS: personalized medicine; thyroid gland; ultrasound examination; detection; segmentation; EU-TIRADS classification; neural networks; machine learning.

*Автор, ответственный за переписку/Corresponding author. Клиническая и экспериментальная тиреоидология 2023;19(1):4-11 doi: https://doi.org/10.14341/ket12757 Clinical and experimental thyroidology. 2023;19(1):4-11

© Endocrinology Research Centre, 2023_Received: 13.07.2023. Accepted: 07.08.2023._BY NC ND

ВВЕДЕНИЕ

В настоящее время многие существующие исследования подчеркивают конкурентоспособность моделей сверточных нейронных сетей (СНС, англ. CNN) в диагностике различных заболеваний [1-6]. Их применяют в задачах классификации, обнаружения и сегментации объектов на медицинских изображениях, однако во многих случаях они уступают диагностике экспертного уровня. Врачи-эксперты при анализе изображения полагаются, в том числе, на клинически значимую информацию, а не исключительно медицинские изображения.

Автоматизация процесса ультразвуковой диагностики узловых образований щитовидной железы — комплексная задача, включающая подзадачи обнаружения узлового образования (локализации), разметки (сегментации) и прогнозирования категории EU-TIRADS (многоклассовая классификация) [7].

Разработка моделей нейронных сетей для решения описанных задач требует обучающих данных экспертного качества с достаточной статистической мощностью. Однако данное требование не всегда выполняется на практике и является важной проблемой, которая решается искусственным расширением выборки. Также проблемой является учет разнообразия форматов экспорта ультразвуковых изображений и качества ультразвуковых аппаратов. Модель нейронной сети должна быть обучена таким образом, чтобы формат изображения, качество, кадрирование и разрешение входных данных не влияли на результат ее работы. Для этого алгоритм нейронной сети обучают таким образом, чтобы он был готов к любым изменениям в данных, применяют методы искусственной модификации исходных изображений для увеличения (аугментации) обучающей выборки. На результат работы может влиять выбранная проекция снимка при исследовании, например продольная или поперечная, что указывает на необходимость учета глубины расположения.

Исходя из анализа существующих подходов [8-18], методы аугментации изображений классифицируются по нескольким признакам. По типу вносимых изменений в наборы данных можно выделить методы геометрических преобразований (среди которых часто упоминаются аффинные), методы преобразований на уровне пикселей, методы создания искусственных данных с помощью генеративно-состязательных нейросетей.

Множество преобразований, применяемых к обучающей и тестовой выборкам, зачастую различаются. Для обобщения прогнозов к тестовым данным применяют также преобразования test-time augmentation (TTA), суть которых — в выполнении нескольких различных модификаций для каждого изображения [11, 13-16].

По частоте использования преобразования можно разделить на постоянные, т.е. такие, которые применяются ко всем изображениям заданного набора, и непостоянные — которые применяются с некоторой вероятностью или случайно из заданного множества преобразований [17].

Исходя из описанного ранее, задачами проведенного предварительного исследования стали: анализ применения различных архитектур нейронных сетей для решения задачи классификации узлов на снимках ультразвуковых изображений щитовидной железы, оценка

влияния количества обучаемых параметров моделей на результаты обучения, анализ и применение способов решения недостатка обучающих данных, исследование по использованию методов аугментации изображений при решении задачи классификации, изменению состава и характеристик исходного набора данных (полные изображения или изображения только областей интереса) и объема обучающей выборки на способности нейросе-тевых моделей многоклассовой классификации.

МАТЕРИАЛЫ И МЕТОДЫ

Исходный набор данных, предоставленный для обучения, валидации и тестирования глубоких нейросе-тевых моделей, состоял из кинопетель формата *.tiff ультразвуковых исследований щитовидной железы 80 пациентов в продольной (115 кинопетель) и поперечной проекциях (156 кинопетель), размеченных масок и меток классов. Кинопетли включали от нескольких десятков до нескольких сотен кадров, в общей сложности 7131 изображение. Подбор, разметку и описание снимков узловых образований проводили в ГНЦ РФ ФГБУ «НМИЦ эндокринологии» Минздрава России в рамках реализации проекта №22-15-00135 гранта Российского научного фонда. Пример снимка представлен на рисунке 1.

Предварительная обработка исходного набора данных состояла из последовательно выполняемых операций: преобразование файлов УЗИ щитовидной железы и масок из формата *.tiff в изображения формата *.png, удаление текстовой информации, удаление черных нерелевантных областей, приведение изображений к оттенкам серого, изменение размера изображений и масок, нормализация изображений.

При преобразованиях из *.tiff в *.png составляющие *.tiff изображения брались с некоторым шагом ввиду высокой схожести соседних изображений.

Распределение узловых образований по категориям EU-TIRADS представлено на рисунке 2.

Для решения задачи классификации изображений по классификатору EU-TIRADS (5 категорий) исследовались различные структуры глубокого обучения с доработкой слоев.

В силу малого количества снимков УЗИ с узлами 2-й категории EU-TIRADS в исходном наборе данных с целью уменьшения дисбаланса между классами для обучения сетей изображения с узлами 2-й и 3-й категории EU-TIRADS были объединены в один класс.

Для оценки качества классификации обученных моделей использовали метрики accuracy, precision, recall, fl-score:

accuracy = ■ precision = ■ recall = ■

TP + TN

TP + TN + FP + FN

(1)

TP

TP + FP TP

TP + FN

,, 2 * recall * precision f1 score =---

(4)

(5)

recall + precision

(2)

Har-high pwrloo a

Gn 0

C4 1 M2 P6 1 E3

SRI II 3

Рисунок 1. Ультразвуковое изображение щитовидной железы.

Для семейства архитектур ResNet было проведено исследование и обучение (ResNet-18, ResNet-50, ResNet-101) [19, 20]. В архитектурах этих сетей были изменены первый сверточный слой (для подачи 1-канальных изображений в оттенках серого, а не 3-канальных RGB-изобра-жений) и последний линейный слой (в соответствии с количеством выходных классов, равным 3: 2-3-й классы EU-TIRADS, 4-й класс EU-TIRADS и 5-й класс EU-TIRADS). Лучшие показатели метрик классификации на тестовой выборке составили accuracy 60%, precision, recall, fl-мера — от 58 до 60% (были достигнуты на ResNet-101). Низкие показатели значений метрик классификации объясняются малым объемом данных для обучения и тем, что, хотя модели и были предобучены, однако это предобучение было не на наборе из медицинских изображений.

Для улучшения качества классификации моделей, обученных на наборе изображений малого объема, было решено провести обучение на некотором наборе изображений УЗИ щитовидной железы из открытых источников сети

Интернет, а затем осуществить дообучение некоторых (последних) слоев на имеющемся в клинике наборе данных. Для получения более высоких результатов также были исследованы и обучены сети классификации из более нового семейства — EfficientNet [21, 22], к которым были применены изменения, аналогичные описанным ранее.

В открытых источниках был найден набор данных, состоящий из 3493 снимков УЗИ щитовидной железы для решения задач семантической сегментации и классификации изображений, разделенный на 2 класса — доброкачественные и злокачественные образования. Набор данных был приведен к нужному формату разметки данных. Обучающая выборка включала 2879 изображений (82%), тестовая выборка — 614 изображений (18%). Количественная принадлежность изображений к классам по выборкам: в обучающей выборке класс 0 — 1905 изображений (66%), класс 1 — 974 изображения (34%), в тестовой выборке класс 0 — 378 изображений (62%), класс 1 — 236 изображений (38%).

S0 40 30 20 10 0

Longitudinal projection shots

б0

Transverse projection shots

40

20

20

Зб

■

EU-TIRADS 2 3 4 5 Total EU-TIRADS 2 3 4 5 Total

Number 10 39 23 43 11S Number 20 4б Зб S4 1S6

S,70% 33,91% 20,00% 37,39% 100,00% 12,S2% 29,49% 23,0S% 34,б2% 100,00%

Рисунок 2. Количественная принадлежность узловых образований в имеющемся наборе данных к классам EU-TIRADS.

0

2

3

4

S

2

3

4

S

Accuracy

Epoch

Лучшие значения метрик классификации на тесте обученных модели ResNet-50 на наборе ImageNet

Модель epoch train accuracy test accuracy test precision micro test recall micro test f1 micro test precision macro rest recall macro test f1 macro

ResNet-50 48 0,82 0,76 0,76 0,76 0,76 0,74 0,73 0,73

61 0,86 0,76 0,76 0,76 0,76 0,74 0,74 0,74

Рисунок 3. График значений метрики accuracy на обучении и тесте и лучшие значения метрик классификации на тесте.

РЕЗУЛЬТАТЫ

В результате обучения на датасете из открытых источников модели EfficientNet-B4 с описанными изменениями в архитектуре лучший показатель accuracy на тестовой выборке (76%) был достигнут моделью, обученной с оптимизатором Adam с использованием scheduler для изменения скорости обучения во время обучения на обучающей выборке, к которой применялась сложная аугментация, описанная ранее. Архитектура EfficientNet-B4 была выбрана ввиду относительно небольшого количества параметров, сопоставимого с количеством параметров сети ResNet-50, но при этом довольно высоким показателем accuracy на наборе ImageNet. График значений метрики accuracy на обучении и тесте и лучшие значения метрик классификации на тесте представлены на рисунке 3.

Однако дообучение только последних слоев на имеющемся наборе данных (с большим количеством классов) не привело к повышению значений метрик качества классификации на тесте выше 60%, что можно объяснить вновь небольшим объемом наборов данных для обучения и увеличением количества классов предобученной модели. Далее осуществлялось обучение всех слоев моделей.

Для выявления влияния на обучение характера набора данных (полные изображения или изображения из ROIs) проведено обучение моделей с архитектурой EfficientNet-B4 с внесенными изменениями, на датасете из Интернета из полных изображений без аугментации (М1) и со сложной аугментацией (М2), на датасете из ROIs без аугментации (М3) и со сложной аугментацией (М4). График значений метрики accuracy на тесте обученных моделей представлен на рисунке 4.

Accuracy (test)

0 5 10 15 20 25 30 35 40

Epoch

4. График значений метрики accuracy на тесте обученных моделей.

0.75 -0.70 -0.65 -

yc

£ 0.60 -u c

< 0.55 -0.50 -0.45 -0.40 -

Таблица 1. Лучшие значения метрик классификации на тесте обученных моделей М1-М4.

Модель epoch train accuracy test accuracy test precision micro test recall micro testf1 micro test precision macro rest recall macro test f1 macro

M1 42 1 0,68 0,68 0,68 0,68 0,66 0,67 0,67

M2 48 0,82 0,76 0,76 0,76 0,76 0,74 0,73 0,73

61 0,86 0,76 0,76 0,76 0,76 0,74 0,74 0,74

M3 11 0,94 0,73 0,73 0,73 0,73 0,72 0,71 0,72

M4 28 0,8 0,77 0,77 0,77 0,77 0,77 0,76 0,76

Лучшие результаты метрик качества классификации на тесте для четырех обученных моделей представлены в таблице 1.

На ROIs и полных изображениях без аугментации модели быстро переобучились: лучший результат на тесте модели, обученной на полных изображениях, accuracy = 68%, модели, обученной на ROIs, accuracy = 73%. Лучший показатель accuracy на тесте модели, обученной на полных изображениях, составил 76%. Лучший показатель accuracy на тесте модели, обученной на ROIs со сложной аугментацией, составил 77%. Таким образом, сложная аугментация набора данных, состоящего из ROIs, обеспечивает более высокие показатели классификации модели.

Для определения модели, способной достичь более высоких показателей классификации и обученной на ROIs имеющегося набора данных малого объема, проведено обучение моделей с архитектурами EfficientNet-B2 (M5), EfficientNet-B4 (M6), EfficientNet-B6 (M7) с внесенными изменениями, описанными ранее. Количество обучаемых параметров сетей: 7,7, 17,6 и 40,7 млн соответственно. График значений метрики accuracy на тесте обученных моделей представлен на рисунке 5.

Исходя из полученных результатов, можно сделать вывод о том, что более высокие результаты были получены у модели с большим количеством обучаемых параметров из представленных, несмотря на небольшой объем обучающей выборки.

Лучшие результаты метрик качества классификации на тесте для трех обученных моделей представлены в таблице 2.

Можно видеть, что у моделей на тесте были получены довольно близкие результаты классификации, однако модель EfficientNet-B6 с внесенными изменениями в архитектуру, обученная на наборе изображений ROIs малого объема, достигла более высоких показателей — accuracy = 67%.

Влияние увеличения объема набора данных (+25%) на показатели обученной сети можно проследить на рисунке 6 (сеть EfficientNet-B6 с внесенными изменениями). До увеличения набора данных лучший показатель accuracy на тесте был 67%, после увеличения — 71%.

Таким образом, в ходе исследования была проведена работа с сетями классификации изображений, исследованы различные архитектуры, опробованы некоторые способы решения проблемы малого объема данных для обучения, осуществлена оценка влияния аугментации изображений при решении задачи классификации, характера исходного набора данных (полные изображения или изображения из ROIs) и объема обучающей выборки на способности модели.

ОБСУЖДЕНИЕ

Существенным ограничением при исследовании применимости нейросетевых архитектур для задачи

c c cA

20

Accuracy (test)

40 Epoch

60

80

Рисунок 5. График значений метрики accuracy на тесте обученных моделей.

0

Таблица 2. Лучшие значения метрик классификации на тесте обученных моделей М5-М7

Модель epoch train accuracy test accuracy test precision micro test recall micro test f1 micro test precision macro rest recall macro test f1 macro

M5 83 0,95 0,65 0,65 0,65 0,65 0,64 0,63 0,63

M6 83 0,93 0,64 0,64 0,64 0,64 0,64 0,65 0,63

61 0,95 0,67 0,67 0,67 0,67 0,66 0,65 0,65

84

0,96

0,67

0,67

0,67

0,67

0,65

0,65

0,65

классификации ультразвуковых изображений узловых образований щитовидной железы является недостаточный объем данных для обучения, по этой причине в работе использовался датасет ультразвуковых изображений узловых образований щитовидной железы для решения задач бинарной классификации (злокачественность или доброкачественность) из открытых источников с последующим дообучением на имеющихся данных (с увеличением количества классов до 3). Поэтому для дальнейших исследований необходимо увеличение количества уникальных изображений ультразвукового исследования узловых образований.

Помимо нейросетевых архитектур, для задачи классификации целесообразно использование методов на основе признаков изображений, выделенных вручную (handcrafted-based features extraction methods). Так, в обзоре [23] отмечено, что одновременное использование данных методов вместе с нейросетевыми архитектурами позволяет добиться значения accuracy 93%. По этой причине также необходимо изучение применимости методов на основе признаков изображений, выделенных вручную для задачи классификации.

ЗАКЛЮЧЕНИЕ

В ходе проведенных экспериментов были исследованы модели классификации и выявлены подходы для работы с медицинскими изображениями ультразвуковых

исследований узловых образований щитовидной железы. Было выяснено, что для повышения качества работы глубоких архитектур необходимо расширять обучающую выборку путем добавления большего количества снимков от различных пациентов и использования методов аугментации. В процессе проведенного предварительного исследования были определены наиболее подходящие нейросетевые архитектуры для классификации ультразвуковых снимков щитовидной железы по системе EU-TIRADS и получены модели с высокими показателями точности как на этапе обучения, так и на этапе тестирования.

Данные результаты создают обширный задел для будущих исследований. В дальнейшем планируется проведение полноценного исследования на расширенной обучающей выборке с применением более разнообразных методов аугментации. Это может привести к еще более улучшенным показателям качества моделей. Кроме того, возможно исследование эффективности применения данных моделей и подходов на других типах медицинских изображений или для других заболеваний.

В целом, основываясь на полученных результатах, можно сделать вывод, что разработанные модели и выявленные подходы имеют потенциал для улучшения работы с медицинскими изображениями ультразвуковых исследований узловых образований щитовидной железы, а также предоставляют возможности для дальнейших исследований и применения в других областях медицины и для интеграции в медицинские системы.

Accuracy (test)

Trained on data set Trained on increased data set

10

Epoch

15

20

25

Рисунок 6. График значений метрики accuracy на тесте обученных моделей до и после увеличения набора данных.

0

5

ДОПОЛНИТЕЛЬНАЯ ИНФОРМАЦИЯ

Конфликт интересов. Авторы декларируют отсутствие явных и потенциальных конфликтов интересов, связанных с публикацией настоящей статьи.

Вклад авторов. Авторы декларируют соответствие своего авторства международным критериям 1СМ^. Все авторы в равной степени участвовали в подготовке публикации: разработка концепции статьи,

получение и анализ фактических данных, написание и редактирование текста статьи, проверка и утверждение текста статьи.

Источник финансирования. Материал подготовлен по гранту Российского научного фонда в рамках реализации проекта №22-15-00135 «Научное обоснование, разработка и внедрение новых технологий диагностики коморбидных йододефицитных и аутоиммунных заболеваний щитовидной железы с использованием возможностей искусственного интеллекта».

СПИСОК ЛИТЕРАТУРЫ | REFERENCES

1. Brockwell PJ, Davis RA. Introduction to time series and forecasting. New York: Springer; 2016.

2. Aldweesh A, Derhab A, Emam AZ. Deep learning approaches for anomaly-based intrusion detection systems: A survey, taxonomy, and open issues. Knowledge-BasedSyst. 2020;(189):105124.

doi: https://doi.org/10.10167j.knosys.2019.105124

3. Chen J, You H, Li K. A review of thyroid gland segmentation and thyroid nodule segmentation methods for medical ultrasound images. Comput Methods Programs Biomed. 2020;(185):105329. doi: https://doi.org/10.10167j.cmpb.2020.105329

4. Deng P, Han X, Wei X, Chang L. Automatic classification of thyroid nodules in ultrasound images using a multi-task attention network guided by clinical knowledge. Comput Biol Med. 2022;(150):106172. doi: https://doi.org/10.1016/j.compbiomed.2022.106172

5. Zhang X, Lee VC, Rong J, et al. Deep convolutional neural networks in thyroid disease detection: A multi-classification comparison by ultrasonography and computed tomography. Comput Methods Programs Biomed. 2022;(220):106823.

doi: https://doi.org/10.1016/j.cmpb.2022.106823

6. Sharifi Y, Bakhshali MA, Dehghani T, et al. Deep learning on ultrasound images of thyroid nodules. Biocybern Biomed Eng. 2021;41(2):636-655. doi: https://doi.org/10.1016/j.bbe.2021.02.008

7. Tessler FN, Middleton WD, Grant EG. Thyroid Imaging Reporting and Data System (TI-RADS): A user's guide. Radiology. 2018;287(1):29-36. doi: https://doi.org/10.1148/radiol.2017171240

8. Redmon J, Divvala S, Girshick R, et al. You only look once: unified, realtime object detection. Nucl Instruments Methods Phys Res Sect A Accel Spectrometers, Detect Assoc Equip. 2015 [cited 15.08.2023]. Available from: http://arxiv.org/abs/1506.02640

9. Chen LC, Papandreou G, Kokkinos I, et al. Rethinking Atrous Convolution for Semantic Image Segmentation Liang-Chieh. IEEE Trans Pattern Anal Mach Intel 2018 [cited 15.08.2023]. Available from: http://arxiv.org/abs/1706.05587

10. Maharana K, Mondal S, Nemade B. A review: Data pre-processing and data augmentation techniques. Glob Transitions Proc. 2022;3(1):91-99. doi: https://doi.org/10.1016/j.gltp.2022.04.020

11. Nalepa J, Marcinkiewicz M, Kawulok M. Data augmentation for brain-tumor segmentation: A review. Front Comput Neurosci. 2019;(13). doi: https://doi.org/10.3389/fncom.2019.00083

12. Chlap P, Min H, Vandenberg N, et al. A review of medical image data augmentation techniques for deep learning applications. J Med Imaging Radiat Oncol. 2021;65(5):545-563. doi: https://doi.org/10.1111/1754-9485.13261

13. Hoar D, Lee PQ, Guida A, et al. Combined transfer learning and testtime augmentation improves convolutional neural network-based semantic segmentation of prostate cancer from multi-parametric MR images. Comput Methods Programs Biomed. 2021;(210):106375. doi: https://doi.org/10.1016/j.cmpb.2021.106375

14. Image Test Time Augmentation with PyTorch [Internet]. TTAch [cited 01.03.2023]. Available from: https://github.com/qubvel/ttach

15. Documentation of the imgaug library for image augmentation [Internet] [cited 01.03.2023]. Available from: https://imgaug.readthedocs.io/en/latest/, free

16. Hussain Z, Gimenez F, Yi D, Rubin D. Differential data augmentation techniques for medical imaging classification tasks. AMIA. Annu Symp proceedings AMIA Symp. 2017. P. 979-984.

17. Chen Y, Yang X-H, Wei Z, et al. Generative Adversarial Networks in Medical Image augmentation:

A review. Comput Biol Med. 2022;144:105382.

doi: https://doi.org/10.1016/j.compbiomed.2022.105382

18. Shi G, Wang J, Qiang Y, et al. Knowledge-guided synthetic medical image adversarial augmentation for ultrasonography thyroid nodule classification. Comput Methods Programs Biomed. 2020;(196):105611. doi: https://doi.org/10.1016/j.cmpb.2020.105611

19. Neurohive [Internet]. ResNet (34,50, 101):«остаточные» CNN для классификации изображений. Доступно по: https://neurohive.io/ru/ vidy-nejrosetej/resnet-34-50-101/. Ссылка активна на 01.03.2023.

20. ResNet [Internet]. PyTorch Documentation [cited 01.03.2023]. Available from: https://pytorch.org/vision/stable/models/resnet.html

21. Tan M, Le Q V. EfficientNet: Rethinking model scaling for convolutional neural networks. In: 36th International Conference on Machine Learning, ICML 2019; 2019.

22. EfficientNet [Internet]. PyTorch Documentation [cited 01.03.2023]. Available from: https://pytorch.org/vision/stable/models/efficientnet.html

23. Ludwig M, Ludwig B, Mikuta A, et al. The use of artificial intelligence in the diagnosis and classification of thyroid nodules: An update. Cancers (Basel). 2023;15(3):708. doi: https://doi.org/10.3390/cancers15030708

ИНФОРМАЦИЯ ОБ АВТОРАХ [AUTHORS INFO]

*Трухин Алексей Андреевич, к.т.н. [Alexey A. Trukhin, PhD]; адрес: 117036 Москва, ул. Дм. Ульянова, д. 11, к. 2 [address: 11 bld 2, Dm. Ulyanova street, 117036 Moscow, Russia]; ORCID: https://orcid.org/0000-0001-5592-4727; eLibrary SPIN: 4398-9536; e-mail: [email protected]

Цыгулева Ксения Владимировна [Kseniya V. Tsyguleva]; ORCID: https://orcid.org/0009-0004-0764-8165; eLibrary SPIN: 9560-4950; e-mail: [email protected]

Ложкин Илья Александрович [Ilya A. Lozhkin]; ORCID: https://orcid.org/0009-0005-8718-8468; eLibrary SPIN: 1211-2192; e-mail: [email protected]

Королев Денис Вячеславович [Denis V. Korolev]; ORCID: https://orcid.org/0009-0008-0952-2944; eLibrary SPIN: 8581-3976; e-mail: [email protected]

Зайцев Константин Сергеевич, д.т.н. [Konstantin S. Zajtsev, PhD]; ORCID: https://orcid.org/0000-0002-0566-7379; eLibrary SPIN: 9698-2080; e-mail: [email protected]

Дунаев Максим Евгеньевич [Maxim E. Dunaev]; ORCID: https://orcid.org/0000-0001-6059-2827; e-mail: [email protected]

Захарова Светлана Михайловна, к.м.н. [Svetlana M. Zakharova, MD, PhD]; eLibrary SPIN-код: 9441-4035; ORCID: https://orcid.org/0000-0001-6059-2827; e-mail: [email protected]

Гармаш Александр Александрович, к.т.н. [Alexandr A. Garmash, PhD]; ORCID: https://orcid.org/0000-0002-1129-7220; e-mail: [email protected]

Манаев Алмаз Вадимович [Almaz V. Manaev]; ORCID: https://orcid.org/0009-0003-8035-676X; e-mail: [email protected]

Трошина Екатерина Анатольевна, д.м.н., профессор, член-корр. РАН [Ekaterina A. Troshina, MD, PhD, Professor]; ORCID: http://orcid.org/0000-0002-8520-8702; eLibrary SPIN: 8821-8990; e-mail: [email protected]

*Автор, ответственный за переписку / Corresponding author. ИНФОРМАЦИЯ:

Рукопись получена 13.07.2023. Рукопись одобрена: 07.08.2023. Received: 13.07.2023. Accepted: 07.08.2023. ЦИТИРОВАТЬ:

Цыгулева К.В., Ложкин И.А., Королев Д.В., Зайцев К.С., Дунаев М.Е., Гармаш А.А., Манаев А.В., Захарова С.М., Трухин А.А., Трошина Е.А. Исследование применения нейросетевых моделей в классификации узлов щитовидной железы по категориям EU-TIRADS для персонализации ультразвуковой диагностики щитовидной железы // Клиническая и экспериментальная тиреоидология. — 2023. — Т. 19. — № 1. — С. 4-11. doi: https://doi.org/10.14341/ket12757

TO CITE THIS ARTICLE:

Tsyguleva KV, Lozhkin IA, Korolev DV, Zajcev KS, Dunaev ME, Garmash AA, Manaev AV, Zaharova SM, Trukhin AA, Troshina EA. Drug forms of levothyroxine. Investigation of neural network models application in EU-TIRADS thyroid nodules classification for personalization of thyroid gland ultrasound diagnostic. Clinical and experimental thyroidology. 2023;19(1):4-11. doi: https://doi.org/10.14341/ket12757