121
SUN’IY NEYRON TARMOQLARI VA ULARNING ASOSIY TURLARI
t.f.d. prof. Mamatov Narzillo Solidjonovich
“TIQXMMI” milliy tadqiqot universiteti
Madaminjonov Akbarjon Dilshod oʻgʻli
Namangan davlat universiteti tayanch doktoranti
Annotatsiya:
Maqolada hozirgi kunda keng tarqalgan neyron tarmoqlari ko’rib
chiqilgan. Neyron tarmoqlar, ularning tuzilishi va qatlamlar orasida sodir bo’ladigan
jarayonlar haqida batafsil ma’lumotlar berilgan hamda har bir neyron tarmoqlari
qanday masalalarni hal qilish mo’ljallanganligi haqida ma’lumotlar berilgan.
Kalit soʻzlar:
Sun'iy intellekt, Sun'iy neyron tarmoqlari(ANN), simulyatsiya
qilingan neyron tarmoqlari (SNN), Uzoq qisqa muddatli xotira (LSTM), Sequence to
Sequence Models(SSM).
Sun’iy neyron tarmoqlari
Sun'iy neyron tarmoqlari (ANN) yoki simulyatsiya qilingan neyron tarmoqlari
(SNN) sifatida ham tanilgan neyron tarmoqlar mashinani o'rganishning bir qismi
bo'lib, chuqur o'rganish algoritmlarining markazida joylashgan. Ularning nomi va
tuzilishi biologik neyronlarning bir-biriga signal berish usulini taqlid qilib, inson
miyasidan ilhomlangan.
Sun'iy neyron tarmoqlari (ANN) kirish qatlami, bir yoki bir nechta yashirin
qatlamlar va chiqish qatlamini o'z ichiga olgan tugun qatlamlaridan iborat. Har bir
tugun yoki sun'iy neyron boshqasiga ulanadi va u bilan bog'liq vazn va chegaraga ega.
Agar biron bir alohida tugunning chiqishi belgilangan chegara qiymatidan yuqori
bo'lsa, ushbu tugun faollashtiriladi va ma'lumotlarni tarmoqning keyingi qatlamiga
yuboradi. Aks holda, tarmoqning keyingi qatlamiga hech qanday ma'lumot
uzatilmaydi.
Neyron tarmoqlar vaqt o'tishi bilan ularning aniqligini o'rganish va yaxshilash
uchun o'quv ma'lumotlariga tayanadi. Biroq, ushbu o'rganish algoritmlari aniqlik
uchun sozlangandan so'ng, ular informatika va sun'iy intellektda kuchli vositalar bo'lib,
bizga ma'lumotlarni yuqori tezlikda tasniflash va klasterlash imkonini beradi. Nutqni
aniqlash yoki tasvirni aniqlash bo'yicha vazifalar mutaxassislar tomonidan qo'lda
identifikatsiya qilish bilan solishtirganda bir necha daqiqa va soat vaqt olishi mumkin
Hozirgi kunda keng tarqalgan neyron tarmoqlarini quyida keltirib o’tamiz:
❖
Perseptron
❖
Forward neyron tarmog'i
❖
Ko'p qatlamli perseptron
❖
Konvolyutsion neyron tarmog'i
❖
Radial asosli funktsional neyron tarmoq
❖
Takroriy neyron tarmoq
❖
LSTM - Uzoq qisqa muddatli xotira
❖
Sequence to Sequence Models
122
Sun'iy neyron tarmoqlari inson tanasidagi biologik neyronlardan ilhomlangan
bo'lib, ular ma'lum sharoitlarda faollashadi, bu esa javob sifatida tananing tegishli
harakatiga olib keladi. Sun'iy neyron tarmoqlari o'zaro bog'langan sun'iy neyronlarning
turli qatlamlaridan iborat bo'lib, ularni yoqish/o'chirishga yordam beradigan
faollashtirish funktsiyalari bilan ishlaydi.
Qisqacha aytganda, har bir neyron kirishlar va tasodifiy og'irliklarning
ko'paytirilgan versiyasini oladi, keyinchalik ular statik moyillik qiymati bilan
qo'shiladi; Bu keyinchalik neyrondan berilishi kerak bo'lgan yakuniy qiymatni hal
qiluvchi tegishli faollashtirish funktsiyasiga o'tkaziladi. Kirish qiymatlarining tabiatiga
ko'ra turli xil faollashtirish funktsiyalari mavjud. Yakuniy neyron tarmog'i qatlamidan
chiqish hosil bo'lgandan so'ng, yo'qotish funktsiyasi (kirish va chiqish) hisoblab
chiqiladi va yo'qotishlarni minimal qilish uchun og'irliklar sozlangan joyda orqaga
tarqalish amalga oshiriladi.
Og'irliklar - bu kirishlar bilan ko'paytiriladigan raqamli qiymatlar. Orqa
tarqalishda ular yo'qotishni kamaytirish uchun o'zgartiriladi. Oddiy so'z bilan aytganda,
og'irliklar Neyron tarmoqlaridan mashina tomonidan o'rganilgan qiymatlardir. Ular
bashorat qilingan natijalar va o'quv kirishlari o'rtasidagi farqga qarab o'zini o'zi
sozlaydi.
Faollashtirish funksiyasi neyronni yoqish/o‘chirishga yordam beradigan
matematik formuladir.
Kirish qatlami kirish vektorining o'lchamlarini ifodalaydi.
Yashirin qatlam kirish maydonini (yumshoq) chegaralari bo'lgan hududlarga
ajratadigan vositachi tugunlarni ifodalaydi. U vaznli kirishlar to'plamini oladi va
faollashtirish funktsiyasi orqali chiqishni ishlab chiqaradi.
Chiqish qatlami neyron tarmoqning chiqishini ifodalaydi.
123
Perceptron modeli Neyronning eng oddiy va eng qadimgi modellaridan biridir.
Bu neyron tarmog'ining eng kichik birligi bo'lib, u kirish ma'lumotlaridagi
xususiyatlarni yoki biznes razvedkasini aniqlash uchun muayyan hisob-kitoblarni
amalga oshiradi. U vaznli kirishlarni qabul qiladi va yakuniy natija sifatida chiqishni
olish uchun faollashtirish funksiyasini qo'llaydi.
Kirish ma'lumotlari faqat bir yo'nalishda harakatlanadigan, sun'iy neyron
tugunlari orqali o'tib, chiqish tugunlari orqali chiqadigan neyron tarmoqlarning eng
oddiy shakli. Yashirin qatlamlar mavjud yoki bo'lmasligi mumkin bo'lgan joylarda
kirish va chiqish qatlamlari mavjud.
Qatlamlar soni funktsiyaning murakkabligiga bog'liq. U bir yo'nalishli oldinga
tarqaladi, lekin orqaga tarqalmaydi. Bu erda og'irliklar statikdir. Faollashtirish
funksiyasi og'irliklarga ko'paytiriladigan kirishlar orqali ta'minlanadi. Buning uchun
faollashtirish funksiyasini tasniflash yoki bosqichli faollashtirish funksiyasidan
foydalaniladi. Masalan: Neyron chegaradan yuqori bo'lsa (odatda 0) faollashadi va
neyron chiqish sifatida 1 ni hosil qiladi. Neyron -1 deb hisoblanadigan chegaradan
(odatda 0) past bo'lsa, faollashtirilmaydi.
Konvolyutsiya neyron tarmog'i standart ikki o'lchovli massiv o'rniga
neyronlarning uch o'lchovli tartibini o'z ichiga oladi. Birinchi qatlam konvolyutsion
qatlam deb ataladi. Konvolyutsion qatlamdagi har bir neyron faqat ko'rish
maydonining kichik qismidagi ma'lumotlarni qayta ishlaydi. Kiritish funksiyalari filtr
kabi partiyaviy ravishda olinadi. Tarmoq tasvirlarni qismlarga bo'lib tushunadi va
tasvirni to'liq qayta ishlashni yakunlash uchun bu operatsiyalarni bir necha marta
hisoblashi mumkin. Qayta ishlash tasvirni RGB yoki HSI shkalasidan kul rangga
aylantirishni o'z ichiga oladi. Piksel qiymatidagi keyingi o'zgarishlar qirralarni
aniqlashga yordam beradi va tasvirlarni turli toifalarga ajratish mumkin.
Radial asosiy funktsiya tarmog'i kirish vektoridan, undan keyin RBF neyronlari
qatlamidan va har bir toifaga bitta tugunli chiqish qatlamidan iborat. Tasniflash har bir
neyron prototipni saqlaydigan o'quv majmuasidagi ma'lumotlar nuqtalariga kirishning
o'xshashligini o'lchash orqali amalga oshiriladi.
Qatlamning chiqishini saqlash uchun mo'ljallangan, takroriy neyron tarmog'i
qatlam natijasini bashorat qilishda yordam berish uchun kirishga qaytariladi. Birinchi
qatlam odatda oldinga uzatiladigan neyron tarmoq bo'lib, undan keyin takrorlanuvchi
neyron tarmoq qatlami bo'lib, unda oldingi vaqt bosqichida mavjud bo'lgan ba'zi
ma'lumotlar xotira funktsiyasi bilan eslab qolinadi. Bu holda oldinga tarqalish amalga
oshiriladi. U kelajakda foydalanish uchun zarur bo'lgan ma'lumotlarni saqlaydi. Agar
bashorat noto'g'ri bo'lsa, o'rganish tezligi kichik o'zgarishlar qilish uchun ishlatiladi.
LSTM tarmoqlari standart birliklarga qo'shimcha ravishda maxsus birliklardan
foydalanadigan RNN turidir. LSTM birliklari ma'lumotni uzoq vaqt davomida xotirada
saqlay oladigan "xotira xujayrasi" ni o'z ichiga oladi. Eshiklar to'plami ma'lumot
chiqarilganda xotiraga qachon kirishini va qachon unutilganligini nazorat qilish uchun
ishlatiladi. Eshiklarning uch turi mavjud, ya'ni kirish eshigi, chiqish eshigi va unutish
eshigi. Kirish eshigi oxirgi namunadagi qancha ma'lumot xotirada saqlanishini hal
qiladi; chiqish eshigi keyingi qatlamga uzatiladigan ma'lumotlar miqdorini tartibga
soladi va unutish shlyuzlari oldingi holatni joriy kiritish bilan solishtirganda, 0 dan 1
gacha bo'lgan qiymatni belgilash orqali oldingi holatdan qanday ma'lumotlarni olib
124
tashlashni hal qiladi.. Ushbu arxitektura ularga uzoq muddatli bog'liqliklarni o'rganish
imkonini beradi
Modulli neyron tarmog'i mustaqil ishlaydigan va kichik vazifalarni bajaradigan
bir qancha turli tarmoqlarga ega. Hisoblash jarayonida turli tarmoqlar haqiqatan ham
bir-biri bilan o'zaro ta'sir qilmaydi yoki signal bermaydi. Ular natijaga erishish uchun
mustaqil ravishda ishlaydi.
Foydalanilgan adabiyotlar roʻyxati:
1.
Sak, Hasim; Senior, Andrew; Beaufays, Francoise (2014). "Long Short-Term
Memory recurrent neural network architectures for large scale acoustic modeling"
(PDF). Archived from the original (PDF) on 2018-04-24.
2.
Li, Xiangang; Wu, Xihong (2014-10-15). "Constructing Long Short-Term
Memory based Deep Recurrent Neural Networks for Large Vocabulary Speech
Recognition". arXiv:1410.4281 [cs.CL].
3.
Wu, Yonghui; Schuster, Mike; Chen, Zhifeng; Le, Quoc V.; Norouzi,
Mohammad; Macherey, Wolfgang; Krikun, Maxim; Cao, Yuan; Gao, Qin (2016-09-
26). "Google's Neural Machine Translation System: Bridging the Gap between Human
and Machine Translation". arXiv:1609.08144 [cs.CL].
4.
Ong, Thuy (4 August 2017). "Facebook's translations are now powered
completely by AI". www.allthingsdistributed.com. Retrieved 2019-02-15.
5.
Sahidullah, Md; Patino, Jose; Cornell, Samuele; Yin, Ruiking; Sivasankaran,
Sunit; Bredin, Herve; Korshunov, Pavel; Brutti, Alessio; Serizel, Romain; Vincent,
Emmanuel; Evans, Nicholas; Marcel, Sebastien; Squartini, Stefano; Barras, Claude
(2019-11-06). "The Speed Submission to DIHARD II: Contributions & Lessons
Learned.
BASHORATLASH USUL VA ALGORITMLARI
Kabildjanov Aleksandr Sabitovich,
Pulatov G‘iyos Guforjonovich
“TIQXMMI” Milliy tadqiqot universiteti
Pulatova Gulxayo Azamjon qizi
Toshkent axborot texnologiyalari universiteti Fargʻona filiali
Annotatsiya:
Bashoratlash algoritmlari bir narsani kategoriyalash, tahlil qilish
yoki bashorat berish uchun ishlatiladi. Ular masalan, ta’lim, marketing, tadbirkorlik,
va boshqa sohalar bo‘yicha amal qiladi. Bashoratlash algoritmlarning qay birini tanlash
sizning maqsadingiz va masalangizga bog‘liq.
Kalit so‘zlar:
Haar Cascade Classifier, You Only Look Once, Single Shot
MultiBox Detector, Faster R-CNN, Mask R-CNN, Hough Transform, ORB, Canny
Edge Detection.
