Аналіз особливостей конфліктів систем штучного інтелекту
Вантажиться...
Дата
2025
Науковий керівник
Назва журналу
Номер ISSN
Назва тому
Видавець
НН ФТІ, КПІ ім. Ігоря Сікорського
Анотація
У роботі здійснюється аналіз типів конфліктів, що виникають або потенційно можуть виникнути у системах ШІ, зокрема у межах одної системи, взаємодії з людиною та іншими системами ШІ. Розглядаються такі конфлікти як упередженість моделей, так звані ― "галюцинації", суперечності в параметричних і контекстних знаннях LLM, конфлікти цілей, спостереження, інтерпретації дій та інші. Окрема увага приділяється аналізу футурологічних прогнозів та наукових джерелах пов’язаних із потенційною траєкторією розвитку ШІ. Пропонується класифікація потенційно небезпечних сценаріїв розвитку ШІ та їх основних ознак. Матеріал може бути корисний для розробників, дослідників у сфері безпеки та етики ШІ, а також використаний для виявлення конфліктів у системах ШІ на ранніх стадіях.
Опис
Ключові слова
футурологія, конфлікти ШІ, методика, класифікація, ознаки, людино-орієнтований ШІ, галюцинації, упередженість, подвійне використання, конфлікт знань, автономні системи, масове спостереження, інформаційна війна, AGI, Artificial Superintelligence
Бібліографічний опис
Ланде, Д. В. Аналіз особливостей конфліктів систем штучного інтелекту / Ланде Д. В., Даник Ю. Г., Сварник Н. Б. // Theoretical and Applied Cybersecurity : Матеріали ІІІ Всеукраїнської науково-практичної конференції (TACS-2025), [Київ], 29 травня 2025 р. / НН ФТІ, КПІ ім. Ігоря Сікорського. - Київ, 2025. - С. 90-103.