Інтелектуальна система класифікації зображень на основі згорткових нейронних мереж, візуальних трансформерів і методів параметрично-ефективного донавчання

Скорочена інформація про документ
dc.contributor.advisorНедашківська, Надія Іванівна
dc.contributor.authorЗаборський, Демид Дмитрович
dc.date.accessioned2025-02-13T13:28:32Z
dc.date.available2025-02-13T13:28:32Z
dc.date.issued2024
dc.description.abstractМагістерська дисертація: 99 с., 13 рис., 19 табл., 31 посилання, додаток Мета роботи – дослідження та порівняння архітектур глибоких нейронних мереж у контексті виконання задачі класифікації зображень з використанням методів параметрично-ефективного донавчання за допомогою метрик часу, розміру та якості роботи моделей. Проведено опис усіх обраних архітектур візуальних трансформерів (ViT Deit, Beit, Swin) та згорткових нейронних мереж (RegNet, Res2Net, ConvNeXt, PNASNet, NFNet-F) у контексті їх шарової архітектури, сильних та слабких сторін. Наведено опис параметро-ефективних методів донавчання, таких як LoRA, Adapter Tuning. Також було запропоновано власну модифікацію Adapter Tuning з масштабованими адаптерами. Розроблено програму інтелектуальної системи, у якій було побудовано моделі глибоких нейронних мереж з реалізацією обраних PEFT-методів у середовищі Jupyter Notebook на мові програмування Python. Проведено опис набору даних для проведення досліджень. Проведено планування стартап-проєкту для виведення програмного продукту на користувацький ринок. Результати дослідження апробовано на міжнародній конференції «Інформаційні технології та комп’ютерне моделювання» від 21-24 травня 2024 року у роботі «Система класифікації зображень глибокими згортковими нейронними мережами».
dc.description.abstractotherMaster’s Thesis: 99 pages, 13 figures, 19 tables, 31 reference, appendices The purpose of the work is to investigate and compare the architectures of deep neural networks in the context of performing image classification tasks using parameter-efficient fine-tuning methods, evaluated by metrics of time, model size, and quality. A description of all selected vision transformer architectures (ViT, Deit, Beit, Swin) and convolutional neural networks (RegNet, Res2Net, ConvNext, PNASNet, NENet-F) has been provided, considering their layer-wise architecture as well as their strengths and weaknesses. A description of parameter-efficient fine-tuning methods such as LoRA and Adapter Tuning is presented. Additionally, a novel modification of Adapter Tuning with scalable adapters is proposed. A program of an intelligent system was developed, in which deep neural network models with the chosen PEFT methods were implemented in the Jupyter Notebook environment using the Python programming language. A description of the dataset used for the research was provided. Startup project planning was conducted to bring the resulting software product to the consumer market. The research results were presented at the international conference "Information Technologies and Computer Modeling" held on May 21–24, 2024, in the paper "A System for Image Classification Using Deep Convolution Neural Networks".
dc.format.extent99 с.
dc.identifier.citationЗаборський, Д. Д. Інтелектуальна система класифікації зображень на основі згорткових нейронних мереж, візуальних трансформерів і методів параметрично-ефективного донавчання : магістерська дис. : 122 Комп'ютерні науки / Заборський Демид Дмитрович. - Київ, 2024. - 99 с.
dc.identifier.urihttps://ela.kpi.ua/handle/123456789/72502
dc.language.isouk
dc.publisherКПІ ім. Ігоря Сікорського
dc.publisher.placeКиїв
dc.subjectглибокі нейронні мережі
dc.subjectзгорткові нерйонні мережі
dc.subjectвізуальні траснформери
dc.subjectпараметрично-ефективні методи донавчання
dc.subjectlora
dc.subjectadapter tuning
dc.subjectdeep neural networks
dc.subjectconvolutional neural networks
dc.subjectvision transformers
dc.subjectparameter-efficient fine- tuning methods
dc.subject.udc004.89.032.26:004.93'1](043.3)
dc.titleІнтелектуальна система класифікації зображень на основі згорткових нейронних мереж, візуальних трансформерів і методів параметрично-ефективного донавчання
dc.typeMaster Thesis

Файли

Контейнер файлів
Зараз показуємо 1 - 1 з 1
Ескіз
Назва:
Zaborskyi_magistr.pdf
Розмір:
1.85 MB
Формат:
Adobe Portable Document Format
Завантажити
Ліцензійна угода
Зараз показуємо 1 - 1 з 1
Ескіз недоступний
Назва:
license.txt
Розмір:
8.98 KB
Формат:
Item-specific license agreed upon to submission
Опис:
Завантажити

Зібрання

Магістерські роботи (ШІ)
Магістерські роботи