Han elaborado un método de detección de muestras marcadas de entrenamiento de redes neuronales eficaz para evitar ataques

Najeeb Jebreel, investigador predoctoral, y Josep Domingo-Ferrer, catedrático de Ingeniería Informática de la URV, junto con Yiming Li, investigador de Tsinghua University (Xina), han ganado el premio al mejor artículo del 27o Congreso Pacífico-Asia de Descubrimiento del Conocimiento y de Minería de Datos (PAKDD 2023): «Defending against backdoor attacks by layer-wise feature analysis». Ha sido escogido de entre los 869 artículos que recibió este congreso que tuvo lugar entre el 25 y el 28 de mayo en Osaka (Japón).

El entrenamiento de redes neuronales profundas (con muchas capas de neuronas) para el aprendizaje automático profundo (o deep learning) requiere un gran volumen de datos y muchos recursos de cálculo. Los usuarios que no se lo pueden permitir pueden optar por encargar el entrenamiento a un tercero o bien usar modelos públicos preestrenados. Desgraciadamente, refiarse de algún otro para el entrenamiento abre la puerta a ataques durante el entrenamiento, como el ataque «por la puerta de atrás» (lo que se conoce como backdoor attack en inglés) contra las redes neuronales profundas. Este ataque tiene por objetivo hacer que las muestras de entrada que tengan una cierta marca inserida por el atacante se clasifiquen mal. Por ejemplo, una imagen de pájaro con una pequeña marca del atacante podría ser clasificada como un coche.

En este artículo los autores muestran como detectar las muestras de entrenamiento marcadas para poderlas descartar y evitar así el ataque. El método de detección que proponen es más sencillo y eficaz que los métodos propuestos a la literatura de seguridad en aprendizaje automático.

Referencia bibliográfica: Jebreel, N.M., Domingo-Ferrer, J., Li, Y. (2023). Defending Against Backdoor Attacks by Layer-wise Feature Analysis. In: Kashima, H., Ide, T., Peng, WC. (eds) Advances in Knowledge Discovery and Data Mining. PAKDD 2023. Lecture Notes in Computer Science(), vol 13936. Springer, Cham. DOI: https://doi.org/10.1007/978-3-031-33377-4_33.