atlanTTic e INCIBE trabajan por la privacidad en el aprendizaje federado en el proyecto Truffles
La investigación pretende garantizar la seguridad de los datos empleados en aprendizaje automatizado
El proyecto Truffles (TRUsted Framework for FEderated LEarning Systems) nace de la mano de los grupos de Procesado de Señal en Comunicaciones (GPSC) e Information & Computing Lab (I&CLAB) del Centro de Investigación en Tecnologías de Telecomunicación de la Universidade de Vigo, atlanTTic, junto al Instituto Nacional de Ciberseguridad (Incibe) para diseñar e incorporar nuevos mecanismos de refuerzo, seguridad y privacidad en entornos de aprendizaje federado.
Los algoritmos basados en Inteligencia Artificial (IA) necesitan enormes cantidades de datos para su entrenamiento, por lo que es frecuente que en muchas situaciones prácticas las personas propietarias de los datos no dispongan de una cantidad suficiente como para que el aprendizaje del algoritmo sea efectivo. Una solución sería compartir los datos con otras personas, de modo que todas se beneficien de la colaboración, pero esto implica a menudo infringir las normativas de protección de datos, cada vez más garantistas con los derechos de los individuos, tal y como indican los responsables de Truffles.
El aprendizaje federado, o colaborativo, es una técnica de aprendizaje automático en la que un algoritmo es entrenado a través de una arquitectura descentralizada de múltiples dispositivos. Estos dispositivos contienen datos locales y privados. Al entrenar las personas propietarias de datos sus algoritmos localmente, se trata de ponerlos en común con las demás para producir un algoritmo que se beneficie del aprendizaje con los datos respectivos.
Fernando Pérez y Rebeca Díaz Redondo, docentes e investigadores de la Escuela de Ingeniería de Telecomunicación, señalan que se ha demostrado que a partir del algoritmo común es posible extraer información sobre los datos empleados para entrenar localmente. De modo que no se puede garantizar que los datos no lleguen a salir del ámbito de las personas propietarias.
Refuerzo de la privacidad y seguridad basada en múltiples líneas de actuación
Precisamente Truffles trata de minimizar las fugas de privacidad. Desde atlanTTic explican que se están desarrollando métodos para compartir y combinar algoritmos protegidos mediante claves. También métodos para poder trazar los procesos descentralizados de aprendizaje y otros para aumentar la robustez del aprendizaje federado frente a fallos inesperados en las comunicaciones o frente a sistemas donde los modelos se comparten en situación de movilidad.
Entre las varias líneas de actuación en las que se desarrolla el proyecto, destacan la identificación de amenazas en un ámbito de aprendizaje federado y la creación de métodos que midan el nivel de privacidad cuantificando la información privada que podrían obtener atacantes. También se pretende articular un prototipo para poner la prueba las técnicas desarrolladas en un escenario real, con un caso de uso en el sector bancario, en el que la seguridad es crucial.
El proyecto contempla también actividades divulgativas, tanto para el público general, en forma de píldoras audiovisuales, como para el público especializado: entre ellos, seminarios y talleres de seguridad y privacidad en aprendizaje federada para centros tecnológicos y empresas, como los que se integrarán en el IV Encuentro CIBER.gal del nodo gallego de Ciberseguridad, que se celebrará el próximo noviembre.
Truffles es parte de un convenio firmado entre Incibe y la UVigo, incluido en los Proyectos Estratégicos de Ciberseguridad en España, en el marco del Plan de Recuperación, Transformación y Resiliencia del Ministerio para la Transformación Digital, con la financiación de los Fondos Next Generation-EU de la Unión Europea.
Los Proyectos Estratégicos de Ciberseguridad en España, que se enmarcan en el Programa Global de Innovación en Seguridad, son una forma de acercar soluciones concretas a algunos de los mayores desafíos científicos y tecnológicos de la sociedad y la economía. Están destinados a impulsar la aplicación de los resultados de la investigación y la innovación, combinando nuevas formas de gobernanza y colaboración, así como involucrando a la ciudadanía y al tejido productivo y social.
Más información
https://truffles.webs.uvigo.es
INCIBE (Instituto Nacional de Ciberseguridad)
