69
Alfraganus University
МАШИНАЛИ ЎҚИТИШДА
ҚЎЛЛАНИЛАДИГАН ПОЛИГАРМОНИК
СПЛАЙНЛАР ТАҲЛИЛИ
АНАЛИЗ ПОЛИГАРМОНИЧЕСКИХ
СПЛАЙНОВ, ИСПОЛЬЗУЕМЫХ В
МАШИННОМ ОБУЧЕНИИ
ANALYSIS OF POLYHARMONIC
SPLINES USED IN MACHINE LEARNING
Хакимжон Насиридинович Зайнидинов
1
Бунёд Рахимжонович Азимов
2
Ғолиб Махамматякубович Нишонбоев
3
1
т.ф.д., профессор. Сунъий интеллект кафедраси мудири, Тошкент ахборот технологиялари универси
-
тети, Тошкент, Ўзбекистон. Почта: tet2001@rambler.ru. ORCID: 0000-0002-8098-5246
2
PhD., Сунъий интеллект кафедраси доценти, Тошкент ахборот технологиялари университети, Тош
-
кент, Ўзбекистон. Почта: bunyodbekazimov@mail.ru. ORCID: 0000-0002-6919-7505
3
Рақамли технологиялар факультети декани, Алфраганус университети, Тошкент, Ўзбекистон. Почта:
nishonboyev@gmail.com. ORCID: 0000-0003-0385-4784
70
Alfraganus University
Аннотация
ахондаги олиб борилаётган илмий тадқиқотлардан кўришимиз
мумкинки сунъий интеллект амаллари турли хил усуллар ёрдамида амалга оширила
-
ди, буларнинг ичида машинавий ўқитиш энг кенг тарқалган усул ҳисобланади. Бугунги
кунда машинавий ўқитишни назоратли ўқитиш (supervised learning), назоратсиз ўқитиш
(unsepervised learning), кучайтирилган ўқитиш (reinforcyement learning) тоифалари мав
-
жуд. Машинали ўқитишда регрессия усулларидан чизиқли регрессия, кўп ўзгарувчили чи
-
зиқли регрессия ва полиномиал регрессия усуллари кенг қўлланилади. Ушбу мақолада ма
-
шинали ўқитишда қўлланиладиган полигармоник сплайн моделларидан фойдаланилган.
Дастлаб полиномли ва полином бўлмаган сплайнларни солиштириш амалга оширилган.
Полигармоник сплайнларни интерполяциялаш жараёнларига мисоллар келтирилган. По
-
лигармоник спайн билан интерполяция қилишнинг асосий афзаллиги ва камчиликлари
келтириб ўтилган.
Ж
Аннотация
з научных исследований, проводимых в мире, мы видим, что опе
-
рации искусственного интеллекта осуществляются с использованием различных методов,
среди которых наиболее распространенным является метод машинного обучения. Сегодня
существуют категории машинного обучения: обучение с учителем, обучение без учителя и
обучение с подкреплением. Линейная регрессия, многомерная линейная регрессия и поли
-
номиальная регрессия — широко используемые методы регрессии в машинном обучении.
В этой статье используются модели полигармонических сплайнов, используемые в машин
-
ном обучении. Сначала было проведено сравнение полиномиальных и неполиномиальных
сплайнов. Приведены примеры процессов интерполяции полигармонических сплайнов.
Представлены основные преимущества и недостатки полигармонической интерполяции
пролетов.
И
Abstract
rom scientific research conducted in the world, we can see that artificial
intelligence operations are carried out using various methods, among which the most common
is the machine learning method. Today, there are categories of machine learning: supervised
learning, unsupervised learning, and reinforcement learning. Linear regression, multivariate linear
regression, and polynomial regression are widely used regression methods in machine learning.
This article uses polyharmonic spline models used in machine learning. First, a comparison was
made between polynomial and nonpolynomial splines. Examples of processes of interpolation of
polyharmonic splines are given. The main advantages and disadvantages of polyharmonic span
interpolation are presented.
F
Калит сўзлар:
полигармоник сплайн, интерполяция, кубик сплайн, базис функ
-
циялар, радиал базис функция, полином.
Ключевые слова:
полигармонический сплайн, интерполяция, кубический сплайн,
базисные функции, радиальная базисная функция, многочлен.
Key words:
polyharmonic spline, interpolation, cubic spline, basis functions, radial
basis function, polynomial.
71
Alfraganus University
А
малий математикада функцияни яқинлаштириш ва маълумотларни интерпо
-
ляция қилиш учун полигармоник сплайнлар қўлланилади. Улар кўп ўлчамдаги
тарқоқ маълумотларни интерполяция қилиш ва мослаштириш учун жуда фойдали. Мах
-
сус ҳолатларга бир ўлчамдаги сплайнлар ва натурал кубик сплайнлар киради [1,2,5,7].
Полигармоник сплайнлар – бу полигармоник радиал базис функцияларнинг (Radial
basis functions-RBF) чизиқли бирикмаси бўлиб, φ ва полином атамаси билан белгиланади.
бу ерда
(Т матрицанинг транспозициясини билдиради, яъни x
устун векторидир) d мустақил ўзгарувчиларнинг ҳақиқий қийматли вектори,
эгри чизиқ ёки сирт интерполяция қилиши керак бўл
-
ган x (кўпинча марказлар деб аталади) билан бир хил ўлчамдаги N вектор,
RBF ларнинг N оғирликлари,
полиномнинг
d+1
оғирликлари.
v
коэффициентли полином полигармоник сплайнларни қўллаш аниқликни яхшилай
-
ди, шунингдек,
c
i
марказларидан узоқда экстраполяцияни яхшилайди [3,4,6]. Полиномли ва
полином бўлмаган сплайнларни солиштириш 1-расмда келтирилган.
1-расм. Полигармоник базис функциялар (Polyharmonic basis functions)
Қуйида полигармоник сплайнларни интерполяциялаш жараёнларига мисоллар кел
-
тирилган. Ҳар хил турдаги полигармоник сплайнлар ёрдамида тўртта нуқта («доиралар»
билан белгиланган) орқали интерполяция кўрсатилган. Интерполяция қилинган эгри чи
-
зиқларнинг «эгрилиги» сплайн тартиби билан ўсиб боради ва чап чегарадаги экстраполя
-
ция ( х < 0) бўлади. Расмда φ=
exp
(-
r
2
) радиал базис функциялари (radial basis functions) ҳам
мавжуд, бу ҳам яқинлашишда яхши интерполяцияни беради [8,9]. Ниҳоят, 2-расмда поли
-
гармоник бўлмаган сплайн
phi
=
r
2
ҳам мавжуд, бу радиал базис функцияси олдиндан белги
-
ланган нуқталардан ўта олмайди (чизиқли тенглама ечимга эга эмас ва энг кичик квадрат
-
72
Alfraganus University
лар усулида ечилади) [10,11,14].
2-расм. Турли хил полигармоник сплайнлар билан интерполяция қилиш кўриниши
Доира билан белгиланган 4 та олдиндан белгиланган нуқтадан ўтиши керак бўлган
турли хил полигармоник сплайнлар билан интерполяция қилиш (
phi
=
r
2
билан интерпо
-
ляция қилиш фойдали эмас, чунки интерполяция муаммосининг чизиқли тенгламалар
тизими ҳеч қандай ечимга эга эмас, у энг кичик квадратлар маъносида ҳал қилинади, лекин
кейин марказлардан ўтмайди).
Кейинги мисолда юқоридаги каби бир хил интерполяцияни амалга оширилади,
фақат бундан мустасно, интерполяция қилинадиган нуқталар 100 га тенг (ва phi=r^2 ҳоли
энди киритилмайди). φ=
(scale∙r)
k
=
(scale)
k
∙r
k
бўлгани учун А матрицадан коэффициентни
(scale)
k
чиқариш мумкин. Чизиқли тенгламалар тизимида масштаблаш таъсир қилмайди.
Бу сплайннинг логарифмик шакли учун фарқ қилади, масштаблаш унчалик таъсир қил
-
майди. Ушбу таҳлил 3-расмда акс эттирилган, бу ерда интерполация унчалик катта фарқ
қилмайди. Эътибор берсак, к = 1 бўлган
φ=exp(-r
2
)
каби бошқа радиал функциялар учун
интерполяция энди мантиқий эмас ва к ни мослаштириш керак бўлади
3-расм. Турли хил полигармоник сплайнлар билан интерполяция
қилиш кўриниши [1,100]
73
Alfraganus University
Юқоридаги расмда биринчи расмдаги каби интерполяция тасвирланган, лекин ин
-
терполяция қилинадиган нуқталар 100 га тенг.
Кейинги мисолда биринчи расмдаги каби бир хил интерполяция кўрсатилган, фақат
функциянинг полиномлиги ҳисобга олинмаган (ва
phi = r
2
ҳолати энди киритилмаган).
4-расмдан кўриниб турибдики, х < 0 учун экстраполятсия энди базис функцияларининг
айримлари учун биринчи расмдагидек «табиий» эмас [12,13]. Бу шуни кўрсатадики, агар
экстраполятсия содир бўлса, полином фойдали бўлади.
4-расм. Турли хил полином бўлмаган полигармоник сплайнлар билан
интерполяция қилиш кўриниши
Полигармоник спайн билан интерполяция қилишнинг асосий афзаллиги шундаки,
одатда тарқоқ маълумотлар учун ҳеч қандай «созлаш» ўтказмасдан жуда яхши интерпо
-
ляция натижалари олинади, шунинг учун автоматик интерполяция қилиш мумкин. Бу
бошқа радиал асосли функциялар учун эмас. Масалан, Гаусс функцияси e
-k∙r²
созланиши ке
-
рак, шунинг учун
к
мустақил ўзгарувчиларнинг асосий панжарасига кўра танланади. Агар
бу панжара бир хил бўлмаса, тўғри танлаш
к
яхши интерполяция натижасига эришиш
қийин ёки имконсиздир.
Асосий камчиликлари:
Оғирликларни (градиент) аниқлаш учун зич чизиқли тенгламалар тизимини ечиш
керак. Агар
N
катта ўлчам бўлса, зич чизиқли тизимни ечиш амалий бўлмайди, чунки ке
-
ракли хотира O(N
2
) га ва керакли операциялар сони O(N
3
) га тенг бўлади.
М маълумотлар нуқталарида ҳисобланган полигармоник спайн функциясини баҳо
-
лаш O(MN) операцияларини талаб қилади. Кўпгина иловаларда (тасвирни қайта ишлаш
мисол қилинган) M нинг қиймати N дан анча катта ва агар иккала қиймат ҳам катта бўлса,
бу амалий эмас.
Сўнгги пайтларда юқорида айтиб ўтилган қийинчиликларни бартараф этиш усулла
-
ри ишлаб чиқилди. Масалан, Beatson ва бошқалар [15]. O(
logN
) операциялари ўрнига
O(N)
операцияларида уч ўлчамдаги бир нуқтада полигармоник спайнларни интерполяция қи
-
лиш усулини тақдим этади.
Хулоса
Ш
ундай қилиб, сигналларга рақамли ишлов беришнинг интеллектуал усуллар
-
да, машинавий ўқитиш усули енг кўп қўлланиладиган усуллардан ҳисобланади.
Сигналларни тиклашда қўлланиладиган полигармоник сплайнлар аниқлик жихатдан ҳам
яхши натижалар олиш имкониятларини беради. Юқорида айтилганидек полигармоник
сплайнлар тарқоқ маълумотлар учун ҳеч қандай созлаш ўтказмасдан жуда яхши интерпо
-
74
Alfraganus University
Фойдаланилган адабиётлар
1. Xakimjon, Z., & Bunyod, A. (2019). Biomedical signals interpolation spline models.
In International Conference on Information Science and Communications Technologies:
Applications, Trends and Opportunities, ICISCT 2019. Institute of Electrical and Electronics
Engineers Inc. https://doi.org/10.1109/ICISCT47635.2019.9011926.
2. Zaynidinov H.N., Nurmurodov J.N., Kobilov S.Sh., Gofurjonov M.R. Development of
algorithms and software tool for intellectual analysis of medical data// Научно-исследова
-
тельский институт развития цифровых технологий и искусственного интеллекта. Сбор
-
ник докладов республиканской научно-технической конференции 26-27 октабр 2022 й.
3. Hakimjon Zaynidinov, Sayfiddin Bakhromov, Bunyod Azimov, Sarvar Makhmudjanov.
Comparative Analysis Spline Methods in Digital Processing of Signals // Advances in Science,
Technology and Engineering Systems Journal (ASTESJ), (Indexed by SCOPUS), https://
dx.doi.org/10.25046/aj0506180, ISSN: 2415-6698, Vol. 5, No. 6, 1499-1510 (2020), www.astesj.
com
4. Singh, M., Zaynidinov, H., Zaynutdinova, M., & Singh, D. (2019). Bi-cubic spline
based temperature measurement in the thermal field for navigation and time system.
Journal of Applied Science and Engineering, 22(3), 579–586. https://doi.org/10.6180/
jase.201909_22(3).0019
5. Singh, D., Singh, M., & Hakimjon, Z. (2019). B-Spline approximation for polynomial
splines. In Springer Briefs in Applied Sciences and Technology (pp. 13–19). Springer Verlag.
https://doi.org/10.1007/978-981-13-2239-6_2
6. V. Graffigna, C. Brunini, M. Gende, M. Hernández-Pajares, R. Galván, F. Oreiro,
“Retrieving geophysical signals from GPS in the La Plata River region,” GPS Solutions, 23(3),
2019, doi:10.1007/s10291-019-0875-6.
7. X. Wang, Z. Luo, B. Zhong, Y. Wu, Z. Huang, H. Zhou, Q. Li, “Separation and recovery
of geophysical signals based on the Kalman Filter with GRACE gravity data,” Remote Sensing,
11(4), 2019, doi:10.3390/rs11040393.
8. A.I. Grebennikov, “Isogeometric approximation of functions of one variable,” USSR
Computational Mathematics and Mathematical Physics, 22(6), 1982, doi:10.1016/0041-
5553(82)90095-7.
9. Xakimjon, Z., & Oybek, M. (2019). Definition of synchronization processes during
parallel signal processing in multicore processors. In International Conference on Information
Science and Communications Technologies: Applications, Trends and Opportunities,
ICISCT 2019. Institute of Electrical and Electronics Engineers Inc. https://doi.org/10.1109/
ICISCT47635.2019.9012006.
10. A. Kroizer, Y.C. Eldar, T. Routtenberg, “Modeling and recovery of graph signals and
difference-based signals,” in GlobalSIP 2019 - 7th IEEE Global Conference on Signal and
Information Processing, Proceedings, 2019, doi:10.1109/GlobalSIP45357.2019.8969536.
11. Муминов Б. Б., Мухамадиева К.Б. Сунъий нейрон тармоқлари таснифи. энци
-
клопедия монография.T.: «Aloqachi», 2020. -228 б.
12. Adrian Rosebrock. Deep Learning for Computer Vision with Python Starter Bundle.
1st Edition (1.2.2). PylmageSearch.com. 2017.
13. Yusupov I. Nurmurodov J.N, Ibragimov S, Gofurjonov M.R. Calculation of spectral
coefficients of signals using the machine learning method based on xaar bases// The 14th
International Conference on Intelligent Human Computer Interaction (IHCI-2022).
14. Powell, M. J. D. (1993). “Some algorithms for thin plate spline interpolation to functions
of two variables”. Cambridge University Dept. of Applied Mathematics and Theoretical
Physics technical report. Retrieved January 7, 2016.
15. R.K. Beatson, M.J.D. Powell, and A.M. Tan: Fast evaluation of polyharmonic splines in
three dimensions. IMA Journal of Numerical Analysis, 2007, 27, pp. 427–450.
ляция натижалари олинади, шунинг учун автоматик интерполяция қилиш мумкин. На
-
тижада полигармоник сплайн-функцияларни машинавий ўқитиш усулларида қўллаш иш
самарадорлигини ошишига олиб келади.
