Семантичний пошук і визначення схожості текстів на основі трансформерів
Вантажиться...
Дата
2026
Автори
Науковий керівник
Назва журналу
Номер ISSN
Назва тому
Видавець
КПІ ім. Ігоря Сікорського
Анотація
Дипломна робота: 79 ст., 16 рис., 11 табл., 33 джерел, 1 додаток.
Об'єктом дослідження є методи векторного представлення тексту та алгоритми семантичного пошуку на основі трансформерних архітектур. Предметом дослідження є порівняльна ефективність трансформерного та класичного підходів до семантичного пошуку текстів. Метою роботи є розробка системи семантичного пошуку і визначення схожості текстів та кількісне порівняння двох підходів за стандартними метриками якості інформаційного пошуку. Оглянуто еволюцію методів векторного представлення тексту − від TFIDF і BM25 через Word2Vec і GloVe до трансформерних архітектур BERT і Sentence-BERT. Проаналізовано методи векторного пошуку на основі FAISS та існуючі промислові рішення. Розроблено модульну систему семантичного пошуку: п'ять модулів ядра, модуль оцінки якості за шістьма метриками та веб-інтерфейс на Streamlit. Система індексує 50 000 текстів корпусу AG News із використанням моделі all-MiniLM-L6-v2 та FAISS. Проведено порівняльний аналіз трьох трансформерних моделей на спільному еталоні − обрано all-MiniLM-L6-v2 як оптимальний баланс швидкості і якості. Виконано порівняльну оцінку SBERT та TF-IDF за шістьма метриками при k = 3, 5, 7. При k = 5 трансформерна система досягає P@5 = 0.600, F1@5 = 0.750 і MRR = 1.000 проти 0.060, 0.075 і 0.133 у TF-IDF. Перевага підтверджена за всіма метриками при кожному значенні k, оптимальним визначено k = 5. Час пошуку ~15 мс і точність кластеризації ембедингів понад 85% підтверджують практичну придатність системи.
Опис
Ключові слова
семантичний пошук, трансформери, bert, sentence transformers, faiss, tf-idf, косинусна схожість, векторні представлення, обробка природної мови, python, semantic search, transformers, bert, sentence transformers, faiss, tf-idf, cosine similarity, vector representations, natural language processing
Бібліографічний опис
Коберник, А. В. Семантичний пошук і визначення схожості текстів на основі трансформерів : дипломна робота … бакалавра : 122 Комп'ютерні науки / Коберник Анна Валеріївна. – Київ, 2026. – 79 с.