Структурно параметричний синтез гібридних рекурентних нейронних мереж для обробки природної мови
Дата
2024
Автори
Науковий керівник
Назва журналу
Номер ISSN
Назва тому
Видавець
КПІ ім. Ігоря Сікорського
Анотація
Магістерська дисертація: 107 c., 20 табл., 37 рис., 26 посилань, додаток.
Актуальність теми дослідження полягає в необхідності моделей
нейронних мереж для обробки природної мови вузької спеціалізації.
Об’єктом дослідження є структурно-параметричний синтез гібридних
нейронних мереж.
Предметом дослідження є мережі LSTM та GRU та способи їх поєднання
для покращення точності гібридної мережі.
Мета роботи – розробити гібридну рекурентну нейронну мережу з
найпростішою архітектурою, яка найкраще виконує задачу класифікації на
визначеному наборі даних.
У роботі розглянуто різні архітектури рекурентних мереж,
трансформерів, механізм уваги та використано найефективніші з них.
У результаті роботи побудовано модель гібридної мережі LSTM та GRU
яка найкраще виявляє синтаксичні та семантичні закономірності тексту, а
також проводить його класифікацію.
Опис
Ключові слова
структурно параметричний синтез, рекурентні нейронні мережі, гібридні нейронні мережі, lstm, gru, генетичний алгоритм, structural-parametric synthesis, recurrent neural networks, hybrid neural networks, genetic algorithm
Бібліографічний опис
Москаленко, Р. Ю. Структурно параметричний синтез гібридних рекурентних нейронних мереж для обробки природної мови : магістерська дис. : 122 Комп'ютерні науки / Москаленко Роман Юрійович. - Київ, 2024. - 107 с.