Прунінг згорткових нейронних мереж за допомогою інтерпретованості мереж Колмогорова-Арнольда

Скорочена інформація про документ
dc.contributor.advisorШаповал, Наталія Віталіївна
dc.contributor.authorЄфанов, Ілля Сергійович
dc.date.accessioned2026-02-17T12:07:18Z
dc.date.available2026-02-17T12:07:18Z
dc.date.issued2025
dc.description.abstractДипломна робота – 140 с., 17 табл., 2 рис., додаток, 35 джерел. Тема: Прунінг згорткових нейронних мереж за допомогою інтерпретованості мереж Колмогорова-Арнольда. У роботі розглянуто проблему надмірної параметризації сучасних глибоких нейронних мереж та проаналізовано існуючі методи їх стиснення, зокрема прунінг та дистиляцію знань. Запропоновано новий підхід до структурного прунінгу, що базується на використанні інтерпретованості мереж Колмогорова-Арнольда (KAN). Об’єкт дослідження: процес оптимізації згорткових нейронних мереж шляхом структурного прунінгу. Предмет дослідження: метод KAN-керованого структурного прунінгу, заснований на аналізі функціональної важливості компонентів мережі. Мета роботи: розробка та дослідження методу структурного прунінгу CNN, який використовує аналіз важливості ознак, отриманий з інтерпретованого KAN-шару («bottleneck»), для зменшення обчислювальної складності моделі при збереженні точності. В ході виконання роботи досліджено математичні основи KAN та теорію B-сплайнів. Розроблено гібридну архітектуру CNN-KAN та алгоритм ітеративного прунінгу, де критерій видалення фільтрів базується на аналізі коефіцієнтів сплайнів функцій активації. Програмна реалізація виконана мовою Python з використанням бібліотек PyTorch та efficient-kan. Ефективність методу перевірено на наборі даних CIFAR-10, продемонстровано переваги семантично обґрунтованого прунінгу над класичними евристичними підходами.
dc.description.abstractotherThesis – 140 p., 17 tables, 2 figures, appendix, 35 sources. Topic: Pruning of Convolutional Neural Networks using Kolmogorov Arnold Network Interpretability. The thesis addresses the issue of over-parameterization in modern deep neural networks and analyzes existing compression methods, specifically pruning and knowledge distillation. A novel approach to structural pruning based on the interpretability of Kolmogorov-Arnold Networks (KAN) is proposed. Object of research: the process of optimizing convolutional neural networks through structural pruning. Subject of research: the method of KAN-guided structural pruning based on the analysis of the functional importance of network components. Purpose of the work: to develop and investigate a structural pruning method for CNNs that utilizes feature importance analysis derived from an interpretable KAN bottleneck layer to reduce computational complexity while maintaining accuracy. During the research, the mathematical foundations of KAN and B-spline theory were investigated. A hybrid CNN-KAN architecture and an iterative pruning algorithm were developed, where the filter removal criterion is based on the analysis of spline coefficients of activation functions. The software implementation was carried out in Python using PyTorch and efficient-kan libraries. The method's effectiveness was validated on the CIFAR-10 dataset, demonstrating the advantages of semantically grounded pruning over classical heuristicapproaches.
dc.format.extent139 с.
dc.identifier.citationЄфанов, І. С. Прунінг згорткових нейронних мереж за допомогою інтерпретованості мереж Колмогорова-Арнольда : магістерська дис. : 122 Комп'ютерні науки / Єфанов Ілля Сергійович. – Київ, 2025. – 139 с.
dc.identifier.urihttps://ela.kpi.ua/handle/123456789/78828
dc.language.isouk
dc.publisherКПІ ім. Ігоря Сікорського
dc.publisher.placeКиїв
dc.subjectнейронні мережі
dc.subjectпрунінг
dc.subjectкомпресія моделей
dc.subjectмережі колмогорова-арнольда
dc.subjectв-сплайни
dc.subjectEDGE AI
dc.subjectKAN
dc.subjectCNN
dc.subject.udc004.032.26:004.932(043.3)
dc.titleПрунінг згорткових нейронних мереж за допомогою інтерпретованості мереж Колмогорова-Арнольда
dc.typeMaster Thesis

Файли

Контейнер файлів
Зараз показуємо 1 - 1 з 1
Ескіз
Назва:
Efanov_magistr.pdf
Розмір:
5.25 MB
Формат:
Adobe Portable Document Format
Завантажити
Ліцензійна угода
Зараз показуємо 1 - 1 з 1
Ескіз недоступний
Назва:
license.txt
Розмір:
8.98 KB
Формат:
Item-specific license agreed upon to submission
Опис:
Завантажити

Зібрання

Магістерські роботи (ШІ)
Магістерські роботи