Кафедра системного програмування і спеціалізованих комп'ютерних систем (СПСКС)
Постійне посилання на фонд
Переглянути
Перегляд Кафедра системного програмування і спеціалізованих комп'ютерних систем (СПСКС) за Ключові слова "004.053"
Зараз показуємо 1 - 1 з 1
Результатів на сторінці
Налаштування сортування
Документ Відкритий доступ Спосіб організації засобів створення та конфігурування глибоких нейронних мереж(КПІ ім. Ігоря Сікорського, 2022) Дідус, Андрій Володимирович; Петрашенко, Андрій ВасильовичАктуальність теми. Активний розвиток глибокого навчання потребує нових спеціалістів та нових алгоритмічних рішень задачі пошуку глобальних мінімумів, нових поліпшених функцій активацій та інших наукових відкриттів у сфері глибокого навчання. Можливість модифікації існуючих алгоритмів створення та організації глибоких нейронних мереж, впровадження нових, все це робить даний вид досліджень актуальним сьогодні. Дана робота присвячена розробці нових програмних засобів для організації та конфігурації глибоких нейронних мереж, зокрема впровадженні власного алгоритму оптимізації. Об’єктом дослідження є глибокі нейронні мережі. Предметом дослідження є процес автоматизованого конфігурування глибоких нейронних мереж. Мета роботи – підвищення ефективності навчання нейронних мереж, завдяки розробленому програмному забезпеченню та впровадженому в ньому нового алгоритму оптимізації. Методи дослідження. Основним методом дослідження було вивчення наявного програмного забезпечення, визначенні недоліків для початківців, також визначенні можливих шляхів поліпшення наявних методів конфігурації глибоких нейронних мереж, зокрема методів оптимізації. Наукова новизна. Запропонований спосіб для створення та конфігурації глибоких нейронних мереж, який полягає у розвиненому принципі модульності та можливості легкої модифікації задля створення нових методів. Зокрема було запропоновано та впроваджено новий алгоритм оптимізації, який має ряд переваг у навчанні, зокрема у кількості використаних епох навчання перед алгоритмами Nesterov, Adam до 33% з однаковими гіперпараметрами на певних задачах класифікації. Практична цінність отриманого в результаті роботи програмного забезпечення в тому, що воно може надалі використовуватись в якості складової систем для навчання нових спеціалістів та в якості стенду для тестування нових способів оптимізації та інших важливих складових глибоких нейронних мереж. Впроваджений алгоритм оптимізації в більшості випадків має кращі результати навчання та сходимості, в порівнянні з іншими алгоритмами. Апробація роботи. Основні положення і результати роботи були представлені та обговорювались на XIV науковій конференції магістрантів та аспірантів «Прикладна математика та комп’ютинг» ПМК-2021 (Київ, 17-19 листопада 2021 р.). Структура та обсяг роботи. Магістерська дисертація складається з вступу, чотирьох розділів, висновків та додатків. У вступі подано загальну характеристику дослідження, розглянуто актуальність та новизну дослідження, названо, де є потреба в такому програмному забезпеченні. У першому розділі описано аналіз існуючих проблем та завдань, порівняно існуючі рішення в області створення та конфігурації глибоких нейронних мереж. У другому розділі описано аналіз підходів та методів створення та конфігурації глибоких нейронних мереж. У третьому розділі описано створене програмне забезпечення, його особливості, архітектуру та алгоритмічну частину. У четвертому розділі описано результати тестування нового способу оптимізації, порівняльний аналіз з наявними. У висновках підведено підсумки та думки, як можна використовувати дане програмне забезпечення, способи розвитку в майбутньому. Робота представлена на 89 аркушах, містить посилання на список використаних літературних джерел. Ключові слова: фреймворк глибокого навчання, нейронні мережі, глибоке навчання, оптимізатори нейронних мереж.