Research on hybrid transformer-based autoencoders for user biometric verification

Скорочена інформація про документ
dc.contributor.authorHavrylovych, M. P.
dc.contributor.authorDanylov, V. Y.
dc.date.accessioned2023-12-13T12:09:55Z
dc.date.available2023-12-13T12:09:55Z
dc.date.issued2023
dc.description.abstractAbstract. Our current study extends previous work on motion-based biometric verification using sensory data by exploring new architectures and more complex input from various sensors. Biometric verification offers advantages like uniqueness and protection against fraud. The state-of-the-art transformer architecture in AI is known for its attention block and applications in various fields, including NLP and CV. We investigated its potential value for applications involving sensory data. The research proposes a hybrid architecture, integrating transformer attention blocks with different autoencoders, to evaluate its efficacy for biometric verification and user authentication. Various configurations were compared, including LSTM autoencoder, transformer autoencoder, LSTM VAE, and transformer VAE. Results showed that combining transformer blocks with an undercomplete deterministic autoencoder yields the best performance, but model performance is significantly influenced by data preprocessing and configuration parameters. The application of transformers for biometric verification and sensory data appears promising, performing on par with or surpassing LSTM-based models but with lower inference and training time.uk
dc.description.abstractotherАнотація. У дослідженні розширено попередню працю з біометричної верифікакції на основі руху з використанням сенсорних даних шляхом дослідження нових архітектур та більш складних даних від різних датчиків. Біометрична верифікація дає такі переваги, як унікальність для кожного користувача і захист від шахрайства. Архітектура трансформера, одна з найсучасніших у сфері штучного інтелекту, відома своїм юнітом уваги та застосуванням у різних сферах, включаючи NLP та CV. У праці досліджено її потенційну цінність для додатків, які обробляють сенсорні дані. Дослідження пропонує гібридну архітектуру, що об’єднує блоки уваги від трансформера з різними автокодувальниками, щоб оцінити її ефективність для біометричної верифікації та аутентифікації користувача. Порівняно різні конфігурації, включно з автокодувальником LSTM, автокодувальником на базі трансформера, LSTM VAE і VAE на основі трансформера. Результати показали, що поєднання блоків трансформера із неповним детермінованим автокодувальником дає найкращі метрики, але на показники моделі також значно впливають попереднє оброблення даних і параметри конфігурації алгоритму. Застосування трансформерів для біометричної верифікації та сенсорних даних виглядає багатообіцяльним, за метриками нарівні з моделями на основі LSTM або перевершуючи їх, проте з меншими часом обробленням сигналу і навчання моделі.uk
dc.format.pagerangePp. 42-53uk
dc.identifier.citationHavrylovych, M. P. Research on hybrid transformer-based autoencoders for user biometric verification / M. P. Havrylovych, V. Y. Danylov // Системні дослідження та інформаційні технології : міжнародний науково-технічний журнал. – 2023. – № 3. – С. 42-53. – Бібліогр.: 27 назв.uk
dc.identifier.doihttps://doi.org/10.20535/SRIT.2308-8893.2023.3.03
dc.identifier.issn1681–6048
dc.identifier.orcid0000-0002-9797-2863uk
dc.identifier.orcid0000-0003-3389-3661uk
dc.identifier.urihttps://ela.kpi.ua/handle/123456789/63065
dc.language.isoenuk
dc.publisherКПІ ім. Ігоря Сікорськогоuk
dc.publisher.placeКиївuk
dc.relation.ispartofСистемні дослідження та інформаційні технології: міжнародний науково-технічний журнал, № 3uk
dc.subjectbiometric verificationuk
dc.subjecttransformersuk
dc.subjectvariational autoencoderuk
dc.subjecttransformer autoencoderuk
dc.subjectбіометрична верифікаціяuk
dc.subjectтранформериuk
dc.subjectваріаційний автокодувальникuk
dc.subjectавтокодувальник на основі трансфомераuk
dc.subject.udc004.896uk
dc.titleResearch on hybrid transformer-based autoencoders for user biometric verificationuk
dc.title.alternativeДослідження гібридних автокодувальників з використанням трансформерів для біометричної верифікації користувачаuk
dc.typeArticleuk

Файли

Контейнер файлів
Зараз показуємо 1 - 1 з 1
Ескіз
Назва:
284317-670417-1-10-20231105.pdf
Розмір:
251.46 KB
Формат:
Adobe Portable Document Format
Опис:
Завантажити
Ліцензійна угода
Зараз показуємо 1 - 1 з 1
Ескіз недоступний
Назва:
license.txt
Розмір:
9.1 KB
Формат:
Item-specific license agreed upon to submission
Опис:
Завантажити

Зібрання

Системні дослідження та інформаційні технології: міжнародний науково-технічний журнал, № 3