Структурно параметричний синтез гібридних рекурентних нейронних мереж для обробки природної мови
Вантажиться...
Дата
2024
Автори
Науковий керівник
Назва журналу
Номер ISSN
Назва тому
Видавець
КПІ ім. Ігоря Сікорського
Анотація
Магістерська дисертація: 107 c., 20 табл., 37 рис., 26 посилань, додаток.
Актуальність теми дослідження полягає в необхідності моделей
нейронних мереж для обробки природної мови вузької спеціалізації.
Об’єктом дослідження є структурно-параметричний синтез гібридних
нейронних мереж.
Предметом дослідження є мережі LSTM та GRU та способи їх поєднання
для покращення точності гібридної мережі.
Мета роботи – розробити гібридну рекурентну нейронну мережу з
найпростішою архітектурою, яка найкраще виконує задачу класифікації на
визначеному наборі даних.
У роботі розглянуто різні архітектури рекурентних мереж,
трансформерів, механізм уваги та використано найефективніші з них.
У результаті роботи побудовано модель гібридної мережі LSTM та GRU
яка найкраще виявляє синтаксичні та семантичні закономірності тексту, а
також проводить його класифікацію.
Опис
Ключові слова
структурно параметричний синтез, рекурентні нейронні мережі, гібридні нейронні мережі, lstm, gru, генетичний алгоритм, structural-parametric synthesis, recurrent neural networks, hybrid neural networks, genetic algorithm
Бібліографічний опис
Москаленко, Р. Ю. Структурно параметричний синтез гібридних рекурентних нейронних мереж для обробки природної мови : магістерська дис. : 122 Комп'ютерні науки / Москаленко Роман Юрійович. - Київ, 2024. - 107 с.