Генератор мовних текстів на основі архітектури типу "Transformer"
Ескіз недоступний
Дата
2019
Автори
Науковий керівник
Назва журналу
Номер ISSN
Назва тому
Видавець
КПІ ім. Ігоря Сікорського
Анотація
В рамках дисертаційної роботи розглянута задача генерації мовних текстів на основі кастомної архітектури типу “Transformer”. Наведений короткий огляд існуючих архітектур даного типу, які є наявними в індустрії. З урахуванням особливостей архітектури, запропонований спосіб покращення процессу енкодингу та генерації. Це було досягнуто за допомогою впровадження ідей алгоритму Tournament Selection у Трансформер.
Опис
Ключові слова
трансформер, глибокі нейронні мережі, генерація мовних текстів
Бібліографічний опис
Питайчук, Б. Є. Генератор мовних текстів на основі архітектури типу "Transformer" : магістерська дис. : 123 Комп’ютерна інженерія / Питайчук Богдан Євгенович. – Київ, 2019. – 111 с.