Метод прискорення статистичного моделювання мов програмування на основі використання фреймворку TensorFlow

dc.contributor.advisorМарченко, Олександр Іванович
dc.contributor.authorГнідий, Дмитро Олександрович
dc.date.accessioned2019-03-11T18:23:52Z
dc.date.available2019-03-11T18:23:52Z
dc.date.issued2018-12
dc.description.abstractukАктуальність теми. Останнім часом використання нейронних мереж у розробці статистичних моделей мов програмування стало дуже популярним. За допомогою нейронних мереж досягаються кращі результати, ніж з класичними методами як в окремих моделях мов, так і в тому випадку, коли моделі входять у більші моделі у складних завданнях, таких як розпізнавання мовлення, машинний переклад чи генерація програм з намірів користувача. Ключовою причиною якісного підвищення продуктивності може бути здатність методу узагальнювати. Тому дослідження методу прискорення статистичного моделювання мов програмування з використанням фреймворку TensorFlow є актуальною задачею у наш час. Об’єктом дослідження є процес прискорення статистичного моделювання мов програмування при використанні рекурентної нейронної мережі. Предметом дослідження є методи прискорення статистичного моделювання мов програмування для гетерогенних паралельних архітектур. Мета роботи: прискорення статистичного моделювання мов програмування на основі використання фреймворку TensorFlow та обчислень на гетерогенних паралельних архітектур на базі рекурентної нейронної мережі, а також розробка програмної реалізації запропонованого методу. Наукова новизна: 1. Проаналізовано існуючі методи та системи статистичного моделювання мов програмування і показано, що ці методи та системи мають недоліки у їх використанні за різними показниками: низька швидкість роботи та обмеженість варіантів використання. 2. Запропоновано метод прискорення статистичного моделювання мов програмування, який відрізняється від існуючих використанням фреймворку TensorFlow та виконанням обчислень на гетерогенних паралельних архітектур на базі рекурентної нейронної мережі, а саме на платах TPU, що дозволило збільшити швидкість роботи системи в 2,5 рази і зменшити витрати на користування системою на 20% у порівняння з використанням GPU. Практична цінність отриманих в роботі результатів полягає в тому, що запропонований метод та його програмна реалізація дають змогу більш швидше та продуктивніше проводити навчання нейронної мережі та отримувати більш якісну мовну модель з більш складною зв’язністю між окремими словами та реченнями у вхідному тексті, що дозволяє більш точно розпізнавати мови програмування та виокремлювати зміст написаного та генерувати вихідну програму з намірів користувача. Апробація роботи. Метод прискорення статичного моделювання мов програмування на основі використання фреймворку TensorFlow представлений та обговорювався на ХI науковій конференції молодих вчених “Прикладна математика та комп’ютинг” ПМК-2018-2 (Київ, 15-17 листопада 2018 р.). Адаптований механізм уваги рекурентної нейромережі для використання у фреймворку TensorFlow представлений та обговорювався на міжнародній мультидисциплінарній конференції «Наука і техніка сьогодення: пріоритетні напрямки розвитку України та Польщі» (м. Воломін, Польща, 19-20 жовтня 2018 р.). Структура та обсяг роботи. Магістерська дисертація складається з вступу, чотирьох розділів та висновків. У вступі подано загальну характеристику роботи, зроблено оцінку сучасного стану проблеми, обґрунтовано актуальність напрямку досліджень, сформульовано мету і задачі досліджень, показано наукову новизну отриманих результатів і практичну цінність роботи. У першому розділі розглянуто існуючі методи статистичного моделювання мов програмування, їхні особливості, недоліки та переваги, розглянуто різні реалізації. У другому розділі запропоновано метод прискорення статистичного моделювання мов програмування на основі використання фреймворку TensorFlow. У третьому розділі наведено особливості реалізації розробленої системи. У четвертому розділі представлено підходи до тестування системи в цілому та окремих модулів. У висновках представлені результати проведеної роботи. Робота представлена на 80 аркушах, містить посилання на список використаних літературних джерел.uk
dc.format.page85 с.uk
dc.identifier.citationГнідий, Д. О. Метод прискорення статистичного моделювання мов програмування на основі використання фреймворку TensorFlow : магістреська дис. : 123 Комп’ютерна інженерія. Комп’ютерні системи та компоненти / Гнідий Дмитро Олександрович. – Київ, 2018. – 85 с.uk
dc.identifier.urihttps://ela.kpi.ua/handle/123456789/26674
dc.language.isoukuk
dc.publisher.placeКиївuk
dc.subjectстатистичне моделювання мовuk
dc.subjectрекурентна нейромережаuk
dc.subjectмеханізм увагиuk
dc.subjectTPUuk
dc.subjectTensorFlowuk
dc.subject.udc004.04uk
dc.titleМетод прискорення статистичного моделювання мов програмування на основі використання фреймворку TensorFlowuk
dc.typeMaster Thesisuk

Файли

Контейнер файлів
Зараз показуємо 1 - 1 з 1
Вантажиться...
Ескіз
Назва:
Hnidyi_magistr.pdf
Розмір:
2.67 MB
Формат:
Adobe Portable Document Format
Опис:
Ліцензійна угода
Зараз показуємо 1 - 1 з 1
Ескіз недоступний
Назва:
license.txt
Розмір:
9.06 KB
Формат:
Item-specific license agreed upon to submission
Опис: