Інтелектуальна система класифікації зображень на основі згорткових нейронних мереж, візуальних трансформерів і методів параметрично-ефективного донавчання
Вантажиться...
Дата
2024
Автори
Науковий керівник
Назва журналу
Номер ISSN
Назва тому
Видавець
КПІ ім. Ігоря Сікорського
Анотація
Магістерська дисертація: 99 с., 13 рис., 19 табл., 31 посилання, додаток
Мета роботи – дослідження та порівняння архітектур глибоких
нейронних мереж у контексті виконання задачі класифікації зображень з
використанням методів параметрично-ефективного донавчання за допомогою
метрик часу, розміру та якості роботи моделей.
Проведено опис усіх обраних архітектур візуальних трансформерів (ViT
Deit, Beit, Swin) та згорткових нейронних мереж (RegNet, Res2Net, ConvNeXt,
PNASNet, NFNet-F) у контексті їх шарової архітектури, сильних та слабких
сторін.
Наведено опис параметро-ефективних методів донавчання, таких як
LoRA, Adapter Tuning. Також було запропоновано власну модифікацію Adapter
Tuning з масштабованими адаптерами.
Розроблено програму інтелектуальної системи, у якій було побудовано
моделі глибоких нейронних мереж з реалізацією обраних PEFT-методів у
середовищі Jupyter Notebook на мові програмування Python.
Проведено опис набору даних для проведення досліджень.
Проведено планування стартап-проєкту для виведення програмного
продукту на користувацький ринок.
Результати дослідження апробовано на міжнародній конференції
«Інформаційні технології та комп’ютерне моделювання» від 21-24 травня 2024
року у роботі «Система класифікації зображень глибокими згортковими
нейронними мережами».
Опис
Ключові слова
глибокі нейронні мережі, згорткові нерйонні мережі, візуальні траснформери, параметрично-ефективні методи донавчання, lora, adapter tuning, deep neural networks, convolutional neural networks, vision transformers, parameter-efficient fine- tuning methods
Бібліографічний опис
Заборський, Д. Д. Інтелектуальна система класифікації зображень на основі згорткових нейронних мереж, візуальних трансформерів і методів параметрично-ефективного донавчання : магістерська дис. : 122 Комп'ютерні науки / Заборський Демид Дмитрович. - Київ, 2024. - 99 с.