Прунінг згорткових нейронних мереж за допомогою інтерпретованості мереж Колмогорова-Арнольда
Вантажиться...
Дата
2025
Автори
Науковий керівник
Назва журналу
Номер ISSN
Назва тому
Видавець
КПІ ім. Ігоря Сікорського
Анотація
Запропоновано новий метод структурного прунінгу згорткових нейронних мереж, заснований на аналізі важливості ознак через інтерпретовані мережі Колмогорова-Арнольда (KAN). Метод використовує KAN-шар як вузьке місце для ідентифікації надлишкових фільтрів у CNN. Розроблено критерій важливості на основі норми коефіцієнтів B-сплайнів та алгоритм ітеративного прунінгу з донавчанням. Експериментальна валідація на CIFAR-10 показала перевагу над класичними методами: досягнуто 94.2% точності при стисненні моделі на 34%, що на 1.4% краще за magnitude-based pruning та на 0.7% краще за knowledge distillation.
Опис
Ключові слова
прунінг нейронних мереж, мережі КолмогороваАрнольда, стиснення моделей, інтерпретованість, глибоке навчання, B-сплайни
Бібліографічний опис
Єфанов, І. С. Прунінг згорткових нейронних мереж за допомогою інтерпретованості мереж Колмогорова-Арнольда / Єфанов І. С., Шаповал Н. В. // Системні науки та інформатика : збірка доповідей ІV науково-практичної конференції, [Київ], 1–5 грудня 2025 р. / Навчально-науковий Інститут прикладного системного аналізу КПІ ім. Ігоря Сікорського. – Київ, 2025. – С. 297-302.