Архітектура шлюзу безпеки для захисту мультиагентних систем на основі хмарних великих мовних моделей
Вантажиться...
Дата
2026
Автори
Науковий керівник
Назва журналу
Номер ISSN
Назва тому
Видавець
КПІ ім. Ігоря Сікорського
Анотація
Розглянуто проблему забезпечення безпеки та керованості мультиагентних систем штучного інтелекту, що спираються на хмарні великі мовні моделі. Показано, що захист таких систем не може обмежуватися фільтрацією текстових запитів, оскільки агенти використовують пам'ять, викликають зовнішні інструменти та можуть виконувати дії з потенційно критичними наслідками. Метою роботи є розробка моделі архітектури проміжного шлюзу безпеки, який забезпечує контроль взаємодії між агентами та інструментами виконання. На основі аналізу існуючих рішень визначено ключові класи загроз і запропоновано багатошарову модель шлюзу, що поєднує верифікацію ідентичності агента, обмеження частоти викликів, рольовий контроль доступу, перевірку параметрів запиту, контроль вихідних потоків даних, узгодження критичних дій та журналювання. Для демонстрації практичної реалізовності підходу розроблено прототип системи. Запропонована модель архітектури може бути використана як інтегруючий компонент захисту мультиагентних LLM-систем, що забезпечує централізований контроль дій агентів, обмеження їхніх повноважень і простежуваність рішень.
Опис
Ключові слова
великі мовні моделі, prompt injection, Agentic AI, мультиагентні системи, шлюз безпеки, рольовий контроль доступу, спостережуваність агентів
Бібліографічний опис
Хав'юк, А. В. Архітектура шлюзу безпеки для захисту мультиагентних систем на основі хмарних великих мовних моделей / А. В. Хав'юк, І. В. Стьопочкіна // Теоретичні і прикладні проблеми фізики, математики та інформатики : матеріали XXIV Всеукраїнської науково-практичної конференції студентів, аспірантів та молодих вчених, [Київ], 13–16 травня 2026 р. / КПІ ім. Ігоря Сікорського. – Київ, 2026. – С. 282-285.