(КПІ ім. Ігоря Сікорського, 2024) Ковальчук, Є. І.; Коломицев, М. В.
На сьогоднішній день машинне навчання (ML) стає все більш популярним і використовується в різних сферах. Проте разом із зростанням застосування ML збільшується ймовірність атак на ці системи. Зловмисники можуть використовувати різні методи атаки, такі як отруйні дані (poisoning attacks), атаки зі зміною моделі (model inversion attacks), атаки зі зміною рішення (decision boundary attacks) та інші.
Виявлення та захист від таких атак важливі для забезпечення безпеки систем штучного інтелекту. Один з можливих методів захисту – це аналіз патернів атак та використання технік аналізу даних для виявлення аномалій та запобігання вразливостям. Використання методів інформаційного пошуку може допомогти у виявленні підозрілих або аномальних патернів у вихідних даних, що вказуватиме на можливі атаки на систему машинного навчання.