atlanTTic e INCIBE traballan para a privacidade na aprendizaxe federada no proxecto Truffles
A investigación pretende garantir a seguridade dos datos empregados en aprendizaxe automatizada
O proxecto Truffles (TRUsted Framework for FEderated LEarning Systems) nace da man dos grupos de Procesado de Sinal en Comunicacións (GPSC) e Information & Computing Lab (I&CLAB) do Centro de Investigación en Tecnoloxías de Telecomunicación da Universidade de Vigo, atlanTTic, xunto ao Instituto Nacional de Ciberseguridade (Incibe) para deseñar e incorporar novos mecanismos de reforzo, seguridade e privacidade en contornas de aprendizaxe federada.
Os algoritmos baseados en Intelixencia Artificial (IA) necesitan enormes cantidades de datos para o seu adestramento, polo que é frecuente que en moitas situacións prácticas as persoas propietarias dos datos non dispoñan dunha cantidade suficiente como para que a aprendizaxe do algoritmo sexa efectiva. Unha solución sería compartir os datos con outras persoas, de modo que todas se beneficien da colaboración, pero isto implica a miúdo infrinxir as normativas de protección de datos, cada vez máis garantistas cos dereitos dos individuos, tal e como indican os responsables de Truffles.
A aprendizaxe federada, ou colaborativa, é unha técnica de aprendizaxe automática na que un algoritmo é adestrado a través dunha arquitectura descentralizada de múltiples dispositivos. Estes dispositivos conteñen datos locais e privados. Ao adestrar as persoas propietarias de datos os seus algoritmos localmente, trátase de polos en común coas demais para producir un algoritmo que se beneficie da aprendizaxe cos datos respectivos.
Fernando Pérez e Rebeca Díaz Redondo, docentes e investigadores da Escola de Enxeñaría de Telecomunicación, sinalan que se ten demostrado que a partir do algoritmo común é posible extraer información sobre os datos empregados para adestrar localmente. De modo que non se pode garantir que os datos non cheguen a saír do ámbito das persoas propietarias.
Reforzo da privacidade e seguridade baseado en múltiples liñas de actuación
Precisamente Truffles trata de minimizar as fugas de privacidade. Desde atlanTTic explican que se están a desenvolver métodos de compartición e combinación de algoritmos protexidos mediante claves. Tamén métodos para poder trazar os procesos descentralizados de aprendizaxe e outros para aumentar a robustez da aprendizaxe federada fronte a fallos inesperados nas comunicacións ou fronte a sistemas onde a compartición de modelos se realice en situación de mobilidade.
Entre as varias liñas de actuación nas que se desenvolve o proxecto, destacan a identificación de ameazas nun ámbito de aprendizaxe federada e a creación de métodos que midan o nivel de privacidade cuantificando a información privada que poderían obter atacantes. Tamén se pretende artellar un prototipo para pór a proba as técnicas desenvolvidas nun escenario real, cun caso de uso no sector bancario, non que a seguridade é crucial.
O proxecto contempla tamén actividades divulgativas, tanto para o público xeral, en forma de pílulas audiovisuais, como para o público especializado: entre eles, seminarios e obradoiros de seguridade e privacidade en aprendizaxe federada para centros tecnolóxicos e empresas, como os que se integrarán no IV Encontro CIBER.gal do nodo galego de Ciberseguridade, que se celebrará o vindeiro novembro.
Truffles é parte dun convenio asinado entre Incibe e a UVigo, incluído nos Proyectos Estratégicos de Ciberseguridad en España, no marco do Plan de Recuperación, Transformación e Resiliencia do Ministerio para a Transformación Dixital, co financiamento dos Fondos Next Generation-EU da Unión Europea.
Os Proyectos Estratégicos de Ciberseguridad en España, que se enmarcan no Programa Global de Innovación en Seguridade, son unha forma de achegar solucións concretas a algúns dos maiores desafíos científicos e tecnolóxicos da sociedade e a economía. Están destinados a impulsar a aplicación dos resultados da investigación e a innovación, combinando novas formas de gobernanza e colaboración, así como involucrando á cidadanía e ao tecido produtivo e social.
Máis información
https://truffles.webs.uvigo.es
INCIBE (Instituto Nacional de Ciberseguridad)
