Han elaborat un mètode de detecció de mostres marcades d'entrenament de xarxes neuronals eficaç per evitar atacs

Najeeb Jebreel, investigador predoctoral, i Josep Domingo-Ferrer, catedràtic d’Enginyeria Informàtica de la URV, junt amb Yiming Li, investigador de Tsinghua University (Xina), han guanyat el premi al millor article del 27è Congrés Pacífic-Àsia de Descobriment del Coneixement i de Mineria de Dades (PAKDD 2023): “Defending against backdoor attacks by layer-wise feature analysis”. Ha estat escollit d’entre els 869 articles que va rebre aquest congrés que va tenir lloc entre el 25 i el 28 de maig a Osaka (Japó).

L’entrenament de xarxes neuronals profundes (amb moltes capes de neurones) per a l’aprenentatge automàtic profund (o deep learning) requereix un gran volum de dades i molts recursos de càlcul. Els usuaris que no s’ho poden permetre poden optar per encarregar l’entrenament a un tercer o bé fer servir models públics pre-entrenats. Malauradament, refiar-se d’algú altre per a l’entrenament obre la porta a atacs durant l’entrenament, com l’atac “per la porta del darrere” (el que es coneix com a backdoor attack en anglès) contra les xarxes neuronals profundes. Aquest atac té per objectiu fer que les mostres d’entrada que portin una certa marca inserida per l’atacant es classifiquin malament. Per exemple, una imatge d’ocell amb una petita marca de l’atacant podria ser classificada com un cotxe.

En aquest article els autors mostren com detectar les mostres d’entrenament marcades per poder-les descartar i evitar així l’atac. El mètode de detecció que proposen és més senzill i eficaç que els mètodes proposats a la literatura de seguretat en aprenentatge automàtic.

Referència bibliogràfica: Jebreel, N.M., Domingo-Ferrer, J., Li, Y. (2023). Defending Against Backdoor Attacks by Layer-wise Feature Analysis. In: Kashima, H., Ide, T., Peng, WC. (eds) Advances in Knowledge Discovery and Data Mining. PAKDD 2023. Lecture Notes in Computer Science(), vol 13936. Springer, Cham. DOI: https://doi.org/10.1007/978-3-031-33377-4_33.