Методи захисту віртуальних працівників на основі LLM від кібератак
Вантажиться...
Дата
2025
Автори
Науковий керівник
Назва журналу
Номер ISSN
Назва тому
Видавець
КПІ ім. Ігоря Сікорського
Анотація
Дана робота обсягом 72 сторінки, включає 12 ілюстрацій, 2 таблиці та містить посилання на 7 джерел літератури. Об’єктом дослідження є агентні системи на основі великих мовних моделей. Предметом дослідження є методи та архітектурні рішення захисту віртуальних працівників від кібернетичних атак. Метою роботи є підвищення стійкості агентних систем до маніпуляцій вхідними даними та несанкціонованого виконання дій. В ході виконання роботи було розроблено програмний прототип на базі фреймворку LangChain, що імітує роботу віртуального працівника з доступом до інструментів. Реалізовано чотирирівневу архітектуру захисту, що включає семантичний аналіз запитів ("сторожова" LLM), механізм контролю доступу (чорний список заборонених дій), ізольоване середовище виконання (пісочниця Docker+gVisor) та систему логування. Проведено експериментальне тестування системи під дією атак прямої, непрямої ін'єкції та спроб виконання шкідливого коду, зібрано статистику ефективності блокування загроз. Розроблено практичні рекомендації щодо безпечного впровадження LLM-агентів у бізнес-процеси. Результати роботи були представлені на 2-й Міжнародній науково-практичній конференції "Current Challenges in Scientific Research".
Опис
Ключові слова
LLM, віртуальний працівник, Prompt Injection, кібербезпека, LangChain, пісочниця, Docker, агентна система, OWASP
Бібліографічний опис
Дмитренко Д. Ю. Методи захисту віртуальних працівників на основі LLM від кібератак : магістерська дис. : 125 Кібербезпека / Дмитренко Даніїл Юрійович. – Київ, 2025. – 72с.