CC BY
16d ) https://dx.doi.org/10.36522/2181-9637-2023-6-3 UDC: 004.8(045)(575.1)
TYURING MASHINASI VA SUN'IY NEYRON
TO'RLARI
Ergashev Sirojiddin Baxtiyor o'g'li1, Amaliy matematika fakulteti, "Axborot tizimlari va texnologiyalari" kafedrasi katta o'qituvchisi, ORCID: 0000-0003-0683-4228, e-mail: ergashev@jbnuu.uz;
Yusupov Rabbim Mixliyevich2,
texnika fanlar bo'yicha falsafa doktori (PhD), dotsent, "Informatika va raqamli ta'lim texnologiyalari" kafedrasi mudiri, ORCID: 0000-0003-4133-2936, e-mail: yusupov@gmail.com
1Mirzo Ulug'bek nomidagi O'zbekiston Milliy universiteti Jizzax filiali 2Abdulla Qodiriy nomidagi Jizzax davlat pedagogika universiteti
Kirish
Mashinali o'qitish muammolarini hal qilish uchun sun'iy neyron to'rlarini o'qitish algoritmlari qo'llaniladi. Mashinali o'qitish-ning asosiy maqsadi insonlarga har qanday ta'lim jarayoni va muhandislik sohalarining faoliyatini rivojlantiruvchi tizimlar yaratishdir.
Sun'iy intellekt texnologiyalaridan yana biri "Chuqur o'qitish" bo'lib, u ko'p qatlamli sun'iy neyron tarmoqlarni o'qitish usuli hisoblanadi. Chuqur o'qitish inson miyasidagi neyronlar naqshlari asosida yaratilgan sun'iy neyron tarmoqlarining kognitiv muammolarini hal qilish vositasidir. Ko'p qatlamli neyron tarmoqlarni o'qitishning ko'plab usullari mavjud. Masalan, Recurrent Neural Network (RNN) (Heaton, 2015), (Ergashev, 2023).
Mashinali o'qitish sohasida murakkab ma'lumotlarni modellashtirish uchun tashqi xotiradan emas, mantiqiy oqim boshqaru-vidan foydalaniladi. RNN boshqa o'qitish qobiliyatiga ega bo'lgan mashina usullaridan samaraliroqdir. Bundan tashqari, RNN usuli to'g'ri formatlangan bo'lsa, turli xil ma'lu-motlar modelini simulyatsiya qiladi. RNN usuli o'z xotirasi orqali har qanday topshiriq
Annotatsiya. Sun'iy intellektning asosiy maqsad-laridan biri - bu inson miyasiga taqlid qilish asosida hisoblash mashinalarida bajarilishi mumkin bo'lgan o'qitish algoritmlarini loyihalashdir. Ushbu maqolada Tyuring mashinasi muammolarini sun'iy intellekt al-goritmlari yordamida hal qilish usullari tajribalar aso-sida ko'rib chiqilgan. Maqolada, shuningdek, ushbu yo'nalishdagi tadqiqotlarni har tomonlama o'rganish natijalariga asoslangan NTM usulining tanqidiy tushunchalari keltirilgan. Xotira ma'lumotlari bilan ish-lash va muammolarni hal qilish uchun HTM usulini qo'llashning eksperimental natijalari taqdim etilgan. Maqolada ushbu sohadagi ilmiy munozaralar va kela-jakdagi muammolarni hal qilish yo'llari yoritilgan.
Kalit so'zlar: simulyatsiya, Tyuring mashinasi, sun'iy intellekt, takrorlanuvchi neyron tarmoq, chuqur o'qitish, mashinali o'qitish, kuchaytirilgan o'qitish, orqaga tarqalish.
МАШИНА ТЬЮРИНГА И ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ
Эргашев Сирожиддин Бахтиярович1,
старший преподаватель кафедры «Информационные системы и технологии» факультета прикладной математики;
Юсупов Раббим Михлиевич2,
доктор философии по техническим наукам (PhD), доцент, заведующий кафедрой «Информатика и цифровые образовательные технологии»
1Джизакский филиал Национального университета Узбекистана имени Мирзо Улугбека
2Джизакский государственный педагогический университет имени Абдуллы Кадыри
Аннотация. Одной из основных целей искусственного интеллекта является разработка алгоритмов обучения, которые можно выполнять на компьютерах, на основе имитации человеческого мозга. В этой статье мы рассматриваем методы решения задач машины Тьюринга с использованием алгоритмов искусственного интеллекта, основанных на экспериментах. В статье также представлены критические концепции метода НТМ по результатам всестороннего обзора исследований в этом направлении. Представлены экспериментальные результаты применения метода НТМ для работы с данными памяти и решения задач. В статье представлены научные дискуссии в этой области и решения будущих проблем.
Ключевые слова: симуляция, машина Тьюринга, искусственный интеллект, рекуррентная нейронная сеть, глубокое обучение, машинное обучение, усиленное обучение, обратное распространение.
TYURINGMACHINE AND ARTIFICIAL NEURAL NETWORKS
Ergashev Sirojiddin Bakhtiyarovich1,
Senior Lecturer at the Department of Information
Systems and Technologies, Faculty of Applied Mathematics;
Yusupov Rabbim Mihlievich2,
Doctor of Philosophy in Technical Sciences (PhD), Associate Professor,
Head of the Department of Informatics and Digital Educational Technologies
Jizzakh branch of the National University of Uzbekistan named after Mirzo Ulugbek Jizzakh State Pedagogical University named after Abdulla Kadiri
Abstract. One of the main goals of artificial intelligence is to develop learning algorithms that can be implemented on computers using simulations of the human brain. In this paper, we review methods for solving Turing machine problems using experiment-based artificial intelligence algorithms. The paper also presents critical concepts of the NTM method based on a comprehensive review of the research made in this domain. Experimental results of applying the NTM method to memory data and problem solving
uchun algoritmik vazifalar yechimini taqdim etishi mumkin (1-rasm).
Chiqish
Kirish
1-rasm. Takrorlanuvchi neyron tarmoq (RNN) arxitekturasi
Mashinali o'qitishning haqiqiy namunasi Tyuring mashinasi bo'lib, undan cheksiz xotira chizig'i orqali cheklangan ma'lumotlarga ishlov berishda foydalaniladi (Sak, Senior, & Beaufays, 2014), (Siegelmann & Sontag, 1991), (Zaremba & Sutskever, 2015), (Graves, Wayne, & Danihelka, 2014), (Heaton, 2015), (Ergashev, 2023).
Alan Tyuring birinchi mashinasini 1936-yilda ixtiro qildi va unga Tyuring mashinasi deb nom berildi. Olim tasmadagi bel-gilarni boshqarish orqali, kirish ma'lumotlari asosida hisob-kitoblarini amalga oshiruvchi mashina modelini yaratdi. Tyuring mashi-nasi kompyuter bilan bir xil imkoniyatlarga ega bo'lgan mexanik qurilmaning eng ibti-doiy modeli hisoblanadi. Ushbu mashina rekursiv funksiyalar va mantiqqa asoslangan matematik hisoblashlarni aniq bajara oladi (Scheutz).
Tyuring va Super Tyuring mashinasi
Neyron hisoblash inson miyasining axborot tizimida amalga oshiriladi. Ushbu tizim kirish sensorlari orqali turli xil biologik ma'lumotlarni doimiy ravishda o'qiydi va o'z-garuvchilarni kodlaydi. Ma'lumotlarni saq-lash uchun har xil turdagi xotiralar mavjud bo'lib (masalan, qisqa muddatli, uzoq muddatli va assotsiatsiyaviy), "hisoblash" vositalari orqali hisoblangan operatsiyalar va qabul
28
ILM-FAN VA INNOVATSION RIVOJLANISH PRINT ISSN 2181-9637
НАУКА И ИННОВАЦИОННОЕ РАЗВИТИЕ ONLINE ISSN 2181-4317
SCIENCE AND INNOVATIVE DEVELOPMENT 6 / 2023
qilingan qarorlar, fikrlar va hissiyot kabi turli xotira kanallariga ajraladi.
Muammoyechimining asosiy g'oyasi Masalaning asosiy g'oyasi shundan iboratki, takrorlanuvchi neyron tarmoqlarni Tyuring mashinasi bilan almashtirish mumkin. Bu jarayon natijasida neyron tarmoqlarning murakkab hisob-kitoblari doimiy yaxshilanishga erishadi (Sak, Senior, & Beaufays, 2014). Bu jarayonda, bir tomondan, har bir funksiya Tyuring mashinasi orqali hisoblansa, boshqa tomondan, Tyuring mashinasi bir nechta takroriy neyron tarmoqlar orqali chiziqli simulyatsiya qilish jarayonini amalga oshiradi (Sak, Senior, & Beaufays, 2014).
Tadqiqotning maqsadi va vazifasi Tyuring mashinalari ko'pincha murakkab hisoblash chegaralarini o'rganish uchun nazariy vosita sifatida ishlatiladi. U har qanday algoritm harakatini taqlid qilish, shuningdek, algoritmik yechim talab qiluvchi muammolarni hal qila oladi.
are being presented. The paper presents scientific discussions ongoing in this domain and solutions to future challenges.
Keywords: Simulation, Tyuringmachine, artificial intelligence, Recurrent neural network, Deep learning, Machine learning, reinforced learning, backpropagation.
Tyuring mashinasi kompyuterda barcha operatsiyalarni boshqara oladigan va ma'lu-motlarni xotiraga doimiy ravishda saqlay-digan CPU namunasidir. Bu izchil alifbo belgi-lar qatori bilan ishlovchi mashina hisoblana-di. Tyuring mashinasi lenta orqali ishlaydigan mashina bo'lib, ma'lum bir belgilarni o'qishi va yozishi yoki bir vaqtning o'zida ikkalasini ham bajarishi mumkin. Ushbu xatti-harakatlar bir qator qoida va to'g'ridan-to'g'ri ko'rsatmalar asosida aniqlanadi. Mashina belgilangan qoi-dalar asosida ishlovchi kontroller, lentadagi elementlarni o'qishi va har qanday element-ni bosib chiqarish uchun mo'ljallangan bo'lib, ushbu jarayon 2-rasmda tasvirlangan.
— Cheksiz lenta —
... в в ai 32 ... an В В ...
- O'qish / Yozish Boshi
Kontroller birligi
BBai
(Kontroller)
Harakatlanuvchi CPU 2-rasm. Tyuring mashinasining tasmadagi namunalarni o'qish jarayoni
Tyuring mashinasini bir qarashda belgilarni aniqlash retseptorlari orqali til element-larini ko'rib chiquvchi hisoblash mashinasi sifatida ta'riflash mumkin. Kontroller bosh-qaruvi cheksiz uzunlikdagi lenta xotirasi-
ning har bir bosqichini o'qiydigan ko'rsat-kichli kontroller birligidan iborat. Harakatlanuvchi kontroller har bir bosqichdagi xotira ma'lumotlarini yangilashi va o'ng yoki chapga harakatlanish kabi vazifalarni bajaradi.
3-rasm. Neyron Tyuring mashinasining (NTM) evolyutsion rivojlanish bosqichlari
3-rasmda chuqur o'qitish sohasiga yan-gilik sifatida kiritilgan Neyron Tyuring mashinasi (NTM) usuli va shu kabi boshqa usullarni rivojlantirish maqsadida yaratil-gan. NTM ishchi xotira modellariga juda o'xshaydi, chunki uning arxitekturasida xotirani o'qish va yozish imkoniyatlari mavjud. Bundan tashqari, neyron tarmoqla-rini tashqi xotira resurslariga ulash orqali o'zaro aloqa qilish va xotirani kengaytirish imkoniyatlari mavjud (Graves, Wayne, & Danihelka, 2014). NTM usulining bunday xususiyatlari turli xil muammo va amallarni bajarishda juda yaxshi samara beradi. Ular mashinali o'qitish va chuqur o'qitish soha-larida yuqori amaliy muvaffaqiyatga eri-shishni ta'minlaydi.
Jordan Pollak neyron tarmoq g'oyasini muammolarni hal qilishda qo'llagan birin-chi olim hisoblanadi (Graves, Wayne, & Danihelka, 2014). "Neyron tyuring" uchun "Neyron mashinasi" nomli o'ziga xos tak-rorlanuvchi tarmoq modeli universal bo'lib, ushbu modelning barcha neyronlari bir vaqtning o'zida oldingi vaznlarini qo'shish orqali yangilanadi (Graves, Wayne, & Dani-helka, 2014).
2014-yilda Graves Neural Turing Machine (NTM) nomli modelni taqdim etdi. Ushbu model xotira tarmoqlari bilan birga-likda takroriy xotira tarmoqlariga yana bit-ta tashqi xotira qo'shilishi funksionallikni tubdan yaxshilashi mumkinligini ko'rsatadi (Sak, Senior, & Beaufays, 2014). Shuningdek, NTM modeli qo'shimcha xotira va o'zaro aloqa tizimlarini qo'llash orqali texnologik amaliyotlar, avtomatlashtirish, matematik muammolarni yechish va boshqa amallarni bajarish uchun keng qo'llaniladi. Quyida Tyuring mashinalari, Recurrent Neural Network (RNN) - Takroriy Neyron Tarmoqlari, Long Short-Term Memory (LSTM) - Uzoq-Qis-qa Muddatli Xotira, Neural Turing Machine (NTM) - Neyron Tyuring mashinalari, Reinforcement Learning (RL-NTM) - Kuchay-tirilgan o'qitish va Evolvable Neural Turing Machine (ENTM) - Kengaytirilgan Neyron Turing Mashinalari kabi tushunchalarni muhokama qilamiz.
LSTM va RNN, odatda, ketma-ketlik-ni bashorat qilish kabi turli vazifalar-da qo'llaniladi (Sak, Senior, & Beaufays, 2014). ENTM kuchaytirilgan o'qitish xotira-da qo'llash, muammolar yechimini topish,
ILM-FAN VA INNOVATSION RIVOJLANISH PRINT ISSN 2181-9637
НАУКА И ИННОВАЦИОННОЕ РАЗВИТИЕ ONLINE ISSN 2181-4317
SCIENCE AND INNOVATIVE DEVELOPMENT 6 / 2023
amallarni bajarishda yaxshi natijalarga eri-shish va yangi topologiyalarni o'rganishni rivojlantirish kabi vazifalarda yuqori samara beradi. NTM va ENTM modellari chuqur o'qitish usullarini o'rgatish va murakkab muammolarni hal qilishda muhim o'qitish vositalaridir.
Material va metodlar
LSTM tarmoqlari
Uzoq-qisqa muddatli xotira (LSTM) tarmoqlari takroriy neyron tarmoqlar-ning (RNN) o'zgartirilgan versiyasi bo'lib, xotirada tarmoqdan o'tgan ma'lumotlarni eslab qolishni osonlashtiradi. LSTM no-ma'lum davomiylik kechikishlari berilgan vaqt seriyalarini tasniflash, qayta ish-lash va bashorat qilishda qo'llash uchun juda mos keladi. U modelni orqaga tarqa-lish yordamida o'rgatadi va RNNning yo'qolib borayotgan gradiyent muam-mosini hal qiladi. LSTM RNN arxitektura-sining ma'lum bir turi bo'lib, muntazam RNN ga nisbatan yuqori aniqlik bilan uzoq muddatli bog'liqliklarni modellashtirish uchun mo'ljallangan (Sak, Senior, & Beau-fays, 2014). Shuningdek, ma'lumotlar ket-ma-ketligi bilan ko'p vazifalar uchun RNN ga nisbatan samarali arxitektura turi hi-soblanadi.
Backpropagation Recurrent orqali orqa-ga tarqalish usuli yordamida xatolikni o'rga-nish, ma'lumotlar ketma-ketligini saqlash uchun xotira yetarli darajada emas va bun-day yomonlashuv ko'p vaqt talab etadi. LSTM qisqa vaqt ichida o'rganishga qo-dir. Boshqa neyron tarmoqlar bilan solishtir-ganda, LSTM yuqori aniqlik bilan tezroq ishlaydi va takroriy sun'iy neyron tarmoq algoritmlari orqali murakkab vazifalarni hal qiladi. LSTM ko'plab urinishlar natijasida takomillashtirilgan usul bo'lib, uning asosi ishchi xotirani qo'llashdir. Bu turli bloklar-dagi xotira katakchalarining mos kelishi va xotiraning bir qatlamida ichki hisob-kitoblar-ni amalga oshirishga imkon beradi. Albatta, LSTM ham, Tyuring mashinalari tarmoqlari ham vazifalarni bajarishda ayrim cheklovlar-ga duch keladi.
qatlarn nuqtaga o'tish nusxalash
□ • -L
4-rasm. Standart LSTM
Tyuring mashinasi va neyron tarmoqlarini ko'rib chiqish
Haqiqatda o'lchamlari bo'yicha cheksiz tarmoq Tyuring mashinasi bilan bir xil hisob-lashni amalga oshirishi mumkin. Neyron tarmoqlarida xotira yetishmasligi va Tyuring mashinalarini o'rganishda qiyinchiliklar bilan bog'liq muammolar hali ham mavjud. Neyron Tyuring mashinasi (NTM) Insonning asosiy kognitiv elementlari-dan biri - bu ma'lumotni xulosa qilinganidek saqlash va qo'llash qobiliyatidir. Mashinani o'qitishda erishilgan barcha yutuqlarga qara-masdan, shunga o'xshash uzoq muddatli xoti-raga ega bo'lgan aqlli omillarning kengayish usuli hali ham noaniq. Ta'kidlanishicha, Jordan Pollak birinchi bo'lib neyron tarmoq g'oya-sini muammolarni hal qilishda qo'llashga e'ti-bor qaratgan. "Neyron Turing mashinasi" deb nomlangan o'ziga xos takrorlanuvchi tarmoq modeli ushbu modelda universal ekanligini ko'rsatadi va barcha neyronlar bir vaqtning o'zida oldingi operatsiya hajmini qo'llash orqa-li yangilanadi (Siegelmann & Sontag, 1991).
NTM chuqur o'qitishda namuna bo'lib, uning samaradorligi neyron tarmoqlarning to'g'ri ishlashi va o'rganish qobiliyati bilan ta'minlani-shiga bog'liq (4-rasm). Bunday turdagi birinchi model NTM bo'lib, u kirish-chiqarish qiymatla-rini orqaga tarqalish algoritmi orqali o'rgatadi-gan universal modeldir [4]. NTM manzilli tash-
PRINT ISSN 2181-9637 ILM-FAN VA INNOVATSION RIVOJLANISH
ONLINE ISSN 2181-4317 НАУКА И ИННОВАЦИОННОЕ РАЗВИТИЕ
6 / 2023 SCIENCE AND INNOVATIVE DEVELOPMENT
05.01.11 - RAQAMLI TEXNOLOGIYALAR VA SUN'IY INTELLEKT
<3
Chiqish
-a
Kirish
X
Kontroller
Sun'iy neyron tarmoqlari
0
Lentaga yozish
Lentani o'qish
{£)
Xotira
qi xotiraga ega RNN dan iborat bo'lib, saralash kabi murakkab algoritmik vazifalarni bajarish-da uning imkoniyatlarini yaxshilaydi. Aksariyat mualliflar kognitiv usuldan ilhomlangan. Bunda bitta xotira buferi o'zaro ta'sir qiluvchi marka-ziy ijrochi tizim bilan jihozlangan (Zaremba & Sutskever, 2015). Tyuring mashinasi bilan so-lishtirilsa, dastur formatidagi NTM tashqi xoti-ra bilan to'g'ridan-to'g'ri ulanganda, o'qish va yozishni lenta shaklida amalga oshiradi.
5-rasm. Neyron Tyuring mashinasi (NTM)
Neyron Tyuring mashinasini o'rganishni kuchaytirish (RL-NTM)
RL-NTM boshqaruvchi sifatida to'g'-ridan-to'g'ri kirish bilan birga LSTM dan foydalanadi. Uning interfeysi bir o'lchovli kirish tasmasi, xotira va chiqish lentasidan tarkib topgan. Kirish lentasi va xotira tasmasi mazmunini o'qiy oladigan boshga ega. Kirish lentasining boshi va xotira lentasi har qanday yo'nalishda harakatlana oladi. Shu bilan birga, chiqish lentasi faqat yozish uchun mo'ljallangan va u joriy holatda qolishi yoki oldinga siljishi mumkin. 5-rasmda teskari vazifada butun RL-NTM jarayoni uchun bajarilish namunasi ko'rsatilgan. RL-NTM ning yadrosida bir nechta kirishlarni qabul qiluvchi va har bir vaqt bosqichda bir nechta chiqish natijalarini yaratishi kerak bo'lgan LSTM kontrolleri mavjud. 1-jadval boshqaruvchining kirish va chiqishlari hamda RL-NTM ularni ishlab chiqarishga o'rgatish usulini umumlashtiradi.
1-jadval
Boshqaruvchi kirish va chiqishlari hamda o'rgatish usuli umumlashtirilgan RL-NTM
Interfeys O'qing Yozing Trening turi
Kirish lentasi
Bosh Joriy pozitsiyaga ega bo'lgan qiymatlar oynasi [- 1, 0, 1] bo'yicha taqsimot Kuchaytirish
Chiqish lentasi
Bosh 00 [- 1, 0, 1] bo'yicha taqsimot, Natijaviy chiqish lug'ati bo'yicha taqsimot Kuchaytirish, orqaga tarqalish
Tarkib 00 [- 1, 0, 1] bo'yicha taqsimot, Natijaviy chiqish lug'ati bo'yicha taqsimot Kuchaytirish, orqaga tarqalish
Xotira lentasi
Bosh Joriy manzil atrofidagi xotira qiymatlari oynasi [- 1, 0, 1] bo'yicha taqsimot, saqlash uchun haqiqiy qiymatlar vektori Kuchaytirish, orqaga tarqalish
Tarkib [- 1, 0, 1] bo'yicha taqsimot, saqlash uchun haqiqiy qiymatlar vektori Kuchaytirish, orqaga tarqalish
Turli xil Barcha harakatlar oldingi
vaqt bosqichida amalga oshiriladi
RL-NTM ning maqsad funksiyasi kutilgan natijalarning ehtimollar jurnali bo'lib, bunda barcha mumkin bo'lgan harakatlar ketma-ketligi bo'yicha qabul qilinadi va bu hara-katlarni bajarish ehtimoli bilan solishtirila-di. Bir vaqtning o'zida orqaga tarqalish va
mustahkamlash maqsad samarasini yuqori darajada oshiradi. Orqa tarqalish modeli bashoratlarning log ehtimolini maksimal tarzda oshiradi, kuchaytirish algoritmi esa harakatlar ketma-ketligining ehtimolliklari-ga ta'sir qiladi (Zaremba & Sutskever, 2015).
05.01.11 - RAQAMLI TEXNOLOGIYALAR VA SUN'IY INTELLEKT
6-rasm. Oldinga va orqaga tarqalish vazifalarida RL-NTMning bajarilishi
Har bir vaqt bosqichida RL-NTM joriy kirish tasmasi, xotira katakchasi qiymati va ol-dingi vaqt bosqichida amalga oshirilgan bar-cha harakatlarning qiymat tasvirlarini o'qiydi. Shuningdek, joriy xotira katakchasi uchun yangi qiymat (yulduzcha bilan belgilangan), keyingi maqsad belgisi uchun bashorat va
turli lentalardagi qiymatlar o'rnini o'zgar-tirish uchun diskret qarorlar chiqarish vazifalarini bajaradi. RL-NTM kuchaytirish algoritmidan foydalangan holda, diskret qarorlar qabul qilish va orqaga tarqalish yordamida uzluksiz natijalar ishlab chiqa-rishni o'rganadi (Zaremba & Sutskever, 2015).
7-rasm. Chapda: kontroller modeli sxemasi; o'ngda: kontroller modelining interfeys namunasi*
* (Zaremba & Sutskever, 2015).
Tashqi xotira NTM imkoniyatlarini ken-gaytiradi hamda muammolarni hal qilish va vazifalarni bajarishda yordam beradi. 7-rasm-ga ko'ra, nazorat ostida mashinani o'qitib
bo'lmaydi, ya'ni model tashqi dunyo bilan o'zaro eksperimental aloqalar orqali kucha-yishi mumkin. Ushbu tashqi ulanishlar xotira, ma'lumotlar bazasi, qidiruv tizimi yoki tekshi-
05.01.11 - RAQAMLI TEXNOLOGIYALAR VA SUN'IY INTELLEKT
ruv dasturiy ta'minotining bir qismi hisobla-nadi. Taklif etilayotgan usulda Tyuring neyronini kuchaytirish neyron tarmog'ini o'qitish-
da qo'llaniladi va bunda ularning o'zaro ta'siri algoritmik vazifalarni osonlik bilan bajarishga olib keladi (Zaremba & Sutskever, 2015).
2-jadval
Kontroller istalgan vaqtda o'qigan va ishlab chiqargan ma'lumotlar brifingi; model har bir bo'limining o'rganish natijalari [4]
Interfeys O'qish Yozish O'qitish turi
Kirish lentasi
Bosh Joriy pozitsiyalarga qiymatlar oynasi ega [- 1, 0, 1] bo'yicha taqsimot Kuchaytirish
Chiqish lentasi
Bosh 00 [- 1, 0, 1] bo'yicha taqsimot, Chiqarilgan lug'at bo'yicha taqsimot Kuchaytirish, orqaga tarqalish
Tarkib 00 [- 1, 0, 1] bo'yicha taqsimot, lug'ati bo'yicha taqsimot Chiqish Kuchaytirish, orqaga tarqalish
Xotira lentasi
Bosh Joriy manzillardagi qiymatlari oynasi xotira [- 1, 0, 1] bo'yicha taqsimot, uchun haqiqiy qiymatlar vektori saqlash Kuchaytirish, orqaga tarqalish
Tarkib [- 1, 0, 1] bo'yicha taqsimot, uchun haqiqiy qiymatlar vektori saqlash Kuchaytirish, orqaga tarqalish
Turli xil Barcha harakatlar oldingi vaqt bosqichida bajariladi 00 0
Neyron Tyuring mashinasi kuchay-tirilgan o'qitishning mukammal namunasi bo'lishiga qaramasdan, uni barcha murak-kab vazifalarni bajarishga o'rgatib bo'lmay-di. Murakkab vazifalarning aksariyati belgi-langan muhit bilan uzoq va ko'p bosqichli aloqalarni talab qiladi (masalan, komp-yuter o'yinlari yoki fond birjalari). Model atrof-muhitning harakatlar o'zgarishi bilan o'zaro ta'sirlashishi natijasida o'rganadi va bu, odatda, kuchaytirilgan o'qitishning bir qismi hisoblanadi.
Modelning kontroller bo'limi xatolar bilan o'zaro ta'sirini nazorat qilishga o'qitilgan yagona qismdir. Interface-controller modeli va taklif qilingan model 7-rasmda ko'rsatil-gan [4]. RL-NTMning kuchaytirilgan o'qitish algoritmi diskret qarorlar qabul qilishda qo'llaniladi va orqaga tarqalish usuli yordamida natijalarni ishlab chiqarishni o'rganadi. Kontrollerning har bir bosqichida o'qitilgan va olingan natijalar haqidagi ma'lumotlar 2-jadvalda batafsil keltirilgan.
Tadqiqot natijalari
Rivojlangan neyron tyuring mashinasi (ENTM)
NTM ning yangilangan modellaridan biri Rivojlangan Neyron Tyuring Mashinasi (ENTM) bo'lib, NEAT (Augmenting Topologiyalarining Neyro Evolyutsiyasi) algoritmi yordamida ish-lab chiqilgan. Ushbu model, odatda, muayyan vazifani bajarish uchun keraksiz bo'lgan bo'shliqlarni qidirishdan qochadi va murakkab tarmoq topologiyalarini topadi. NEAT algorit-mi mutatsiyalanishida yangi tugunlar qo'shish orqali yangi avlodlar hosil bo'lishi algoritmi-ning murakkabligini oshiradi va ular birgalik-da ANN tarmoqlarini tobora rivojlantiradi. U oddiy tarmoqlardan boshlab murakkab tarmoq populyatsiyalarigacha bo'lgan oraliqda-gi murakkablik darajasini qidiradi. Dastlabki natijalar shuni ko'rsatdiki, bu model neyron modelining soddalashtirilgan ko'rinishini yax-shiroq umumlashtirishga imkon beradi va vaqt bosqichlarida barcha xotiraning tarkibini tek-shirishga hojat qolmaydi.
05.01.11 - RAQAMLI TEXNOLOGIYALAR VA SUN'IY INTELLEKT
Evolyutsion Neyron Tyuring mashinasi-ning (ENTM) tarkibiy qismlari NTM arxitekturasiga o'xshaydi.
1. Bu komponentlar ANN tarmoq kontrolleri va tashqi xotira to'plamidan foydalanadi. Xotira to'plami nazariy jihatdan cheksiz xotira bo'lib, M o'lchamli har bir vektorni xotirada saqlashi mumkin.
2. Yozish va o'qish vazifasini bajaradigan gibrid kallakdan foydalaniladi.
3. ANN tashqi muhit bilan kirish va chiqishlar orqali o'zaro ta'sir qiladi.
Shu tarzda bajarilishi mumkin bo'lgan boshqa operatsiyalarga quyidagilar kiradi:
1. O'qish/yozish operatsiyalarini tanlab olish.
2. O'qish/yozish qiymatlarini xotiraning boshqa qismiga o'tkazish.
3. Kontent asosida xotira manzillariga yuborish.
Neyron tarmog'ining kirish va chiqishlar soni M o'lchamli vektorlarga mos keladi. 8-rasmda ko'rsatilganidek, faollashtirish oqimi ANN va ENTM uchun xotira to'plami o'rtasida amalga oshiriladi. Qo'shimcha ANN chiqishlari xotiraga yozilgan vektorlarni o'qish va yozish kallaklarining harakatini aniqlaydi. ANN joriy xotira joylashuvini keyingi vaqt bosqichining boshida kirish sifatida qabul qiladi.
8-rasm. NTM imkoniyatlarini ko'rsatuvchi ENTM sxemasi
NTM da amalga oshirilgan vazifalar Ushbu bo'limda ma'lumotlar ketma-ketligini nusxalash va saralash kabi oddiy algoritmik vazifalar to'plami bo'yicha dastlabki tajribalar keltirilgan. Maqsad ichki dasturlarni o'rganish orqali NTM ning muammolarni hal qilishga qodirligini aniqlashdir (Graves, Wayne, & Danihelka, 2014). Barcha eksperimentlar uch xil arxitekturani o'zaro solishtirdi: NTM oldinga uzatuvchi kontroller, NTM kontrollerli LSTM va standart LSTM tarmog'i.
3-jadval
NTMning progressiv kontroller bilan giperparametrlarini sozlash tajribasi*
Vazifa #Boshlar Tekshirish moslamasi o'lchami Xotira hajmi O'rganish darajasi #Parametrlar
Nusxalash 1 100 128 xx 20 10- 410-4 17,162
Takroriy nusxa 1 100 128 xx 20 10- 410-4 16 712
Assotsiativ 4 256 128 xx 20 10- 410-4 146 845
N-gramm 1 100 128 xx 20 3 x10- 53x10-5 14 656
Darajaviy tartibi 8 512 128 xx 20 3 x10- 53x10-5 508 305
* (Graves, Wayne, & Danihelka, 2014). 4-jadval LSTM kontrollerining giperparametrlari sozlanish tajribasi*
Vazifa #Boshlar Tekshirish moslamasi o'lchami Xotira hajmi O'rganish darajasi #Parametrlar
Nusxalash 1 100 128 xx 20 10- 410-4 67 561
Takroriy nusxa 1 100 128 xx 20 10- 410-4 66,111
Assotsiativ 1 100 128 xx 20 10- 410-4 70 330
N-gramm 1 100 128 xx 20 3 x10- 53x10-5 61 749
Darajaviy tartibi 5 2 xx 100 128 xx 20 3 x10- 53x10-5 269 038
(Graves, Wayne, & Danihelka, 2014).
ILM-FAN VA INNOVATSION RIVOJLANISH НАУКА И ИННОВАЦИОННОЕ РАЗВИТИЕ SCIENCE AND INNOVATIVE DEVELOPMENT
35
05.01.11 - RAQAMLI TEXNOLOGIYALAR VA SUN'IY INTELLEKT
Tajribalarning giperparametrlari tar-moq og'irliklari, yashirin birliklar, qatlam-lar, kirishlar va chiqishlar sonini o'z ichiga oladi. Bularga qo'shimcha ravishda o'rga-nish tezligi tarmoqning og'irligini yo'qotish gradiyenti tushishiga qarab sozlashni belgi-laydigan shunday giperparametrlardan biri hisoblanadi. Momentum - bu gradiyent vektorlarini to'g'ri yo'nalishda tezlashti-rishga yordam beradigan va shu tariqa tez-roq konvergensiyaga olib keluvchi usul-dir. Bu eng mashhur optimallashtirish al-goritmlaridan biri bo'lib, undan ko'plab zamonaviy modellarda foydalaniladi. RMSProp qadamlar juda katta bo'lganda, avtomatik ravishda gradiyent qadamlari-ning o'lchamini minimal darajaga qisqar-tiradi (katta qadamlar haddan tashqa-ri og'ishni keltirib chiqaradi) va tebra-nishlarni yumshatadi. RMSProp, shuning-dek, o'rganish tezligini sozlashga zarurat qoldirmaydi va bu avtomatik tarzda har bir parametr uchun boshqa o'rganish tezligini tanlash orqali amalga oshiriladi.
RMSpropning asosiy g'oyasi har bir vazn uchun kvadrat gradientlarining o'rtacha qiymatini saqlashdir. RMSprop (root mean square) o'rtacha kvadrat ildizi deb atala-di. Yashirin qatlamlar (Hidden Layers), ya'ni kirish va chiqishlar o'rtasida joylash-gan neyronlar neyron tarmoqlarga murak-kabroq xususiyatlarni o'rganish imkonini beradi. Orqaga tarqalish (Backpropagation)
- bu dastlabki va kerakli natijalar o'rtasidagi farqni minimallashtirish uchun og'irliklar-ni qayta-qayta sozlash tartibidir. Xarajat (Cost) - o'rganilgan bitlar soni bo'yicha ya-qinlashish vaqti; xotira hajmi (Memory size)
- xotira joylari soni; bosh soni (Headcount)
- xotira matritsasi yacheykalarini olish va yangilash vazifalarini bajarish uchun xoti-ra matritsasiga kiradigan o'qish va yozish boshlari soni; kontroller hajmi - x * y sifati-da belgilangan, bu yerda x - hujayralar soni va y - LSTM qatlamlari soni; nH parametri o'qish/yozish boshlari soni; Nh esa LSTM-dagi yashirin birliklar sonini bildiradi.
Tadqiqot natijalari tahlili
Asboblar, sozlanmalar va parametrlar
NTMni amalga oshirishda bir nechta vositalarni qo'llash mumkin, biroq baho-lash parametrlari asboblarga aloqador emas. Barcha LSTM tarmoqlarida uch to'p-lamli yashirin qatlamlar mavjud. LSTM parametrlari soni yashirin birliklar soni bo'yicha kvadratik ravishda (yashirin qatlamlardagi takroriy ulanishlar tufayli) o'sib boradi. NTM xotira joylari soni bo'yicha parametrlar sonini oshirmaydi. Orqaga o'qitish vaqtida barcha gradiyent komponentlari elementlari (-10, 10) dia-pazon bo'yicha kesiladi [5]. Shuningdek, Nusxa olish, Takroriy nusxa, Assotsiativ, N-Gramm, Darajaviy tartibi vazifalari uchun o'rganish tezligi mos ravishda 10-4 va 3 x 10 - 5 ni tashkil qiladi. 3- va 4-jadvallarda tarmoq konfiguratsiyalari haqida batafsil ma'lumot berilgan. Shuningdek, ushbu vazifalarda, jumladan, nusxa ko'chirish, takroriy nusxalash, assotsiativ eslab qolish, dinamik N-Gramm va darajaviy tartiblash ikkilik vazifalar bilan nazorat qiladigan o'rganishda ba'zi bir muammolarga duch keldi. Barcha tarmoqlar logistik sigmasi-mon chiqish qatlamlariga ega bo'lib, o'zaro entropiya maqsad funksiyasi bilan o'qi-tilgan. Xatolar ketma-ketlikni bashorat qilish xotira o'lchov birligi bo'lgan bitlar orqali amalga oshiriladi (Graves, Wayne, & Danihelka, 2014).
NTM va LSTM da amalga oshirilgan vazifalarni solishtirish
9-, 10-, 11-rasmlarda NTM va LSTM lar nusxa ko'chirish, takroriy nusxalash, assotsiativ saqlashda o'zaro raqobat ko'rsatadi.
NTM o'rganish tezligi va xatoliklarni o'rganish soni bo'yicha LSTM dan ustun turadi (Graves, Wayne, & Danihelka, 2014). Tekshirish moslik o'lchami, bosh soni, xotira hajmi, o'rganish tezligi va soniga oid tuzatishlar NTM va LSTM da qo'llaniladigan parametrlar bo'lib, bajarilgan tajribalar 3- va 4-jadvallarda keltirilgan.
0 200 400 600 800 1000 Ketma-ketlik raqami (ming)
9-rasm. Egri chiziqli o'qitish, topshiriqni nusxalash*
* (Graves, Wayne, & Danihelka, 2014).
0 100 200 300 400 500
Ketma-ketlik raqami (ming)
10-rasm. Egri chiziqli o'qitish, takroriy nusxa*
* (Graves, Wayne, & Danihelka, 2014).
Ketma-ketlik raqami (ming)
11-rasm. LSTM ning o'rganish egri chizig'i, assotsiativ eslab qolish
Xulosalar
Tadqiqot davomida Neural Tyuring Machines (NTM) deb nomlangan inson miya-siga taqlid qiluvchi hisoblash mashinasi turli vazifalarda o'rganildi.
Mazkur sohada olib borilgan tadqiqot-larga asoslanib, NTM xotirada ma'lumotlar-ni saqlash va o'zgartirish usuli yordami-da muammolarga ijobiy yechim topildi. Ushbu yangi arxitektura tashqi xotiradan ma'lumotni o'qish/yozishni talab qiladigan vazifalarni bajarish uchun mo'ljallangan bo'lib, bu uzoq masofali bog'liqliklar uchun to'g'ri tanlovdir.
Ichki xotiraga ega an'anaviy neyron tuzilmalari bilan solishtirganda, NTMlar tashqi xotira bilan samarali ishlash uchun maxsus kontent va joylashuvga asoslangan manzillardan foydalanadi.
Tajribalardan olingan natijalar NTM asosiy neyron tuzilmalaridan ustun ekanligini ko'rsatdi.
NTM bir nechta ilovalarda o'rganiladi (masalan, Reinforcement Learning Neural Tyuring Machine, Evolving Neural Tyuring Machine).
Maqolaning keyingi qismida NTM tomo-nidan amalga oshirilgan oddiy algoritmik vazifalar o'rganildi.
Ushbu ilovalarning maqsadi NTM dastur-larini o'rganish orqali algoritmik vazifalarni bajarish qobiliyatini ko'rsatish edi. Tajribalar NTM ning uchta arxitekturasini oldinga uza-tuvchi NTM LSTM kontrolleri standart LSTM tarmog'i bilan taqqosladi. Olingan natijalar bir-biri bilan taqqoslangan holda tekshirildi.
Xotira arxitekturasi
- Ba'zi tuzilmaviy o'zgarishlar orqali NTM ishlashi kelajakda yaxshilanishi taxmin qilinmoqda.
- Turing mashinasining xotirasi va xotira lentalari uchun boshqa tuzilmalardan foydalanishni targ'ib qilish lozim.
PRINT ISSN 2181-9637 ILM-FAN VA INNOVATSION RIVOJLANISH
ONLINE ISSN 2181-4317 НАУКА И ИННОВАЦИОННОЕ РАЗВИТИЕ
6 / 2023 SCIENCE AND INNOVATIVE DEVELOPMENT
REFERENCES
1. Ergashev, S. (2023). Simulyatorlarda oqitish imkoniyatlarining samaradorligini baholash [Evaluating the effectiveness of teaching opportunities in simulators].
2. Graves, A., Wayne, G., & Danihelka, I. (2014). Neural Tyuringmachines. Retrieved from https:// arxiv.org/abs/1410.5401
3. Heaton, J. (2015). Artificial intelligence for humans: deep learning and neural networks (3 ed.). (S. Valley, Ed.) Createspace Independent Publishing Platform.
4. Sak, H., Senior, A., & Beaufays, F. (2014). Long short-term memory recurrent neural network architectures for large scale acoustic modeling. (H. Sak, A. Senior, & F. Beaufays, Eds.) Singapore: INTERSPEECH - International Speech Communication Association.
5. Scheutz, M. (n.d.). Computationalism: New Directions. (M. Scheutz, Ed.) Cambridge, MA: MIT Press.
6. Siegelmann, H., & Sontag, E. (1991). Tyuringcomputability with neural nets. Appl Math Lett., 4(6), 77-80. doi:10.1016/0893-9659(91)90080-F
7. Zaremba, W., & Sutskever, I. (2015). Reinforcement learning neural Tyuringmachines.
Taqrizchi: Kerimov K.F., DSc., "Tizimli va amaliy dasturlashtirish" kafedrasi mudiri, Muhammad al-Xorazmiy nomidagi Toshkent Axborot Texnologiyalari Universiteti.
ILM-FAN VA INNOVATSION RIVOJLANISH PRINT ISSN 2181-9637
НАУКА И ИННОВАЦИОННОЕ РАЗВИТИЕ ONLINE ISSN 2181-4317
SCIENCE AND INNOVATIVE DEVELOPMENT 6 / 2023
