Атаки прямої iн’єкцiї запиту на великi мовнi моделi
Вантажиться...
Дата
2024
Автори
Науковий керівник
Назва журналу
Номер ISSN
Назва тому
Видавець
КПІ ім. Ігоря Сікорського
Анотація
Із стрімким розповсюдженням штучного інтелекту, великі мовні моделі стали частиною нашого звичного життя. Але разом із появою нових технологій, зловмисники знаходять нові способи їх експлуатації. Ця стаття містить загальний огляд атак прямої ін’єкції на великі мовні моделі, зосереджуючи увагу на першій вразливості зі списку OWASP Top 10 for LLMs, а саме LLM01: Prompt Injections.
Опис
Ключові слова
велика мовна модель, штучний інтелект, prompt injection, атака, jailbreak
Бібліографічний опис
Сотнікова, П. О. Атаки прямої iн’єкцiї запиту на великi мовнi моделi / П. О. Сотнікова, А. М. Родіонов // Теоретичні і прикладні проблеми фізики, математики та інформатики : матерiали XXII Всеукраїнської науково-практичної конференцiї студентiв, аспiрантiв та молодих вчених, [Київ], 13−17 травня 2024 р. / КПІ ім. Ігоря Сікорського. – Київ, 2024. – С. 172-175.