GENETIK ALGORITMLAR ASOSIDA NEYRON TARMOQLAR GIPERPARAMETRLARINI OPTIMALLASHTIRISH

Аннотация

Ushbu ilmiy maqolada sun'iy neyron tarmoqlarning giperparametrlarini avtomatik optimallashtirish muammosi tadqiq etilgan. Giperparametrlarni an’anaviy usullar bilan optimallashtirish ko‘pincha samarasiz va resurs talab qiluvchi jarayon hisoblanadi. Tadqiqotda genetik algoritmlar yordamida neyron tarmoqlarning (o‘rganish tezligi, qatlamlar soni, neyronlar soni, aktivatsiya funksiyasi, bat hajmi kabi) giperparametrlarini avtomatik tanlash va optimallashtirish usuli taklif etilgan. Genetik algoritm populyatsiyasi har bir individ (xromosoma) orqali giperparametrlar to‘plamini ifodalaydi, moslik funksiyasi sifatida esa validatsiya to‘plamidagi aniqlik (accuracy) ishlatilgan. Tanlov, krossover va mutatsiya operatorlari yordamida avlodlar o‘tishi natijasida giperparametrlarning eng yaxshi kombinatsiyasi aniqlangan. MNIST, CIFAR-10 va Iris ma’lumotlar to‘plamlarida olib borilgan eksperimentlar natijasida taklif etilgan usulning an’anaviy usullarga (grid search, random search) qaraganda 15-25% tezroq va aniqroq optimallashtirish imkonini berishi ko‘rsatilgan. Shuningdek, ushbu usul neyron tarmoqlarning ishlash ko‘rsatkichini o‘rtacha 3-8% oshirishi isbotlangan.