A aprendizaxe federada é un paradigma de aprendizaxe automática no que varios participantes, chamados habitualmente clientes, colaboran no adestramento dun modelo sen reunir nun repositorio central os seus datos brutos de adestramento. Un servidor coordinador distribúe un modelo, os clientes calcúlanlle actualizacións cos seus datos locais e o servidor agrega esas actualizacións para obter unha nova versión global.
O paradigma desenvolveuse para situacións nas que os datos están distribuídos entre teléfonos, sensores, hospitais, empresas ou outras entidades e a súa transferencia resulta custosa, impracticable ou inconveniente. Diferénciase do adestramento centralizado porque os exemplos permanecen nos lugares onde se xeran ou custodian, e da computación distribuída convencional porque debe afrontar datos non distribuídos de maneira idéntica, dispositivos heteroxéneos, participación parcial e comunicacións pouco fiables.
Manter locais os datos brutos reduce a súa circulación, mais non garante por si só a privacidade. As actualizacións poden filtrar información sobre os exemplos de adestramento e os participantes maliciosos poden manipular o modelo. Por iso a aprendizaxe federada adoita combinarse con agregación segura, privacidade diferencial, autenticación e técnicas de robustez; cada mecanismo cobre un modelo de ameaza distinto.
Formulación
Obxectivo global e obxectivos locais Considérense clientes. O cliente dispón dun conxunto local con exemplos e define unha función de perda empírica
onde representa os parámetros do modelo. Un obxectivo federado habitual é
con pesos e . A elección fai que cada exemplo teña o mesmo peso, pero outras ponderacións poden buscar equilibrio entre clientes ou grupos. Polo tanto, a definición do obxectivo determina que distribución de rendemento se optimiza e non é unha decisión puramente técnica.
Se os datos locais procedesen da mesma distribución e todos os clientes participasen sempre, o problema asemellaríase á optimización distribuída clásica. Na práctica, cada usuario ou institución xera unha distribución propia: varían as clases, a prevalencia, o volume de exemplos e mesmo a relación entre entradas e saídas. Esta heteroxeneidade estatística fai que os gradientes locais poidan apuntar en direccións diferentes.
Roldas de adestramento Nun sistema coordinado por un servidor, unha rolda adoita conter as seguintes etapas:
O servidor escolle unha fracción dos clientes dispoñibles. Envíalles o modelo global e unha configuración de adestramento. Cada cliente seleccionado actualiza localmente o modelo durante certo número de pasos ou épocas e obtén ou unha diferenza de parámetros. Os clientes devolven as actualizacións, non os exemplos locais. O servidor agrega as respostas recibidas, avalía o resultado e inicia outra rolda.
A selección non é neutral. Os requisitos de conexión, batería, memoria, tempo dispoñible e versión de software determinan quen pode participar. Se certos dispositivos completan as roldas con máis frecuencia, o conxunto efectivo de adestramento pode non representar toda a poboación. Os abandonos durante unha rolda tamén obrigan a que os protocolos toleren respostas ausentes ou atrasadas.
Promediado federado O promediado federado (FedAvg) é un algoritmo de referencia introducido por McMahan e colaboradores. Cada cliente parte de e realiza varios pasos de descenso de gradiente estocástico sobre os seus datos. Se é o conxunto de respostas aceptadas na rolda, o servidor pode actualizar
Facer varios pasos locais antes de comunicar reduce o número de roldas e troca comunicación por cálculo nos clientes. Porén, demasiados pasos poden separar os modelos locais cando as distribucións son diferentes, fenómeno denominado deriva dos clientes. O tamaño de paso, as épocas locais, a fracción de clientes e o esquema de ponderación interactúan, polo que non existe unha configuración universal.
FedAvg non é unha garantía de converxencia para calquera modelo e distribución. FedProx modifica o problema local engadindo un termo proximal
que limita o afastamento respecto do modelo recibido e permite cantidades variables de traballo local. SCAFFOLD emprega variables de control para corrixir a deriva entre o gradiente local e o global. Estes métodos responden a hipóteses e problemas diferentes; o seu rendemento debe comprobarse no escenario concreto e non só nunha partición artificial de datos.
Configuracións
Entre dispositivos e entre organizacións Na aprendizaxe federada entre dispositivos pode haber desde milleiros ata millóns de clientes, dos que só unha pequena fracción está dispoñible en cada momento. Os dispositivos teñen recursos limitados, conexións intermitentes e datos locais pequenos e non equilibrados. O sistema debe escalar sen manter un estado permanente para cada cliente e limitar o impacto sobre a persoa usuaria.
Na aprendizaxe federada entre organizacións ou silos participan normalmente poucas entidades identificables, como hospitais ou empresas. Os nodos adoitan ter infraestrutura estable e conxuntos de datos grandes, pero son importantes a gobernanza, a autenticación, os acordos sobre o esquema de datos e a auditoría. As organizacións poden requirir que ningunha parte controle por si soa o proceso.
Outra clasificación atende á partición dos datos. Na partición por exemplos, os clientes comparten o espazo de características mais gardan observacións distintas. Na partición por características, varias entidades posúen atributos distintos de entidades que se solapan e necesitan protocolos de aliñamento e cálculo seguro. As dúas situacións non admiten automaticamente os mesmos algoritmos nin o mesmo modelo de ameaza. Modelo global e personalización Un único modelo global pode favorecer os patróns maioritarios e funcionar mal para clientes con distribucións afastadas da media. A personalización combina información común con parámetros, capas ou axustes locais. A aprendizaxe federada multitarefa, por exemplo, aprende modelos relacionados en lugar de impoñer que todos sexan idénticos.
A personalización pode mellorar a utilidade local, pero complica a avaliación e o mantemento: unha métrica do modelo global xa non describe todos os modelos despregados, e un cliente con poucos datos pode sobreaxustar. Cómpre separar a avaliación global da local e especificar que parámetros se comparten e cales permanecen no dispositivo.
Retos de sistemas e optimización
Comunicación e cálculo A comunicación adoita ser máis lenta e custosa ca o cálculo local. Reducir o número de roldas mediante máis pasos locais pode aumentar a deriva; comprimir, cuantizar ou dispersar as actualizacións reduce bits, mais introduce erro ou cambia as propiedades do protocolo. Tamén se poden enviar só subconxuntos de parámetros, adestrar modelos menores ou empregar actualizacións estruturadas. Estas técnicas deben contabilizar tanto a descarga do modelo como a subida das actualizacións.
A heteroxeneidade dos sistemas abrangue procesadores, memoria, batería e rede. Esperar polos clientes máis lentos aumenta a duración da rolda; excluílos pode sesgar o adestramento. Os sistemas prácticos establecen prazos, aceptan participación parcial e agregan só cando acadan un limiar de respostas. Unha avaliación reproducible debe informar do número de clientes, taxa de participación, abandonos, bytes transferidos, cálculo local e tempo ata acadar a calidade obxectivo.
Heteroxeneidade e avaliación Os experimentos federados deben preservar a partición natural por usuario ou institución. Mesturar exemplos e repartilos aleatoriamente entre clientes pode eliminar precisamente a heteroxeneidade que se pretende estudar. Ademais da media global, son relevantes a distribución da perda ou da exactitude entre clientes, os peores grupos, a variación entre roldas e o rendemento de clientes que participan poucas veces.
Optimizar a perda media ponderada polo número de exemplos pode mellorar o resultado agregado e empeorar o dalgúns clientes. Propuxéronse obxectivos que dan máis peso aos clientes con maior perda, mais a noción de equidade depende do contexto e non se reduce a unha única métrica. A mostra de clientes dispoñibles e as condicións de participación tamén forman parte do problema de representación.
Privacidade e seguridade
Agregación segura A agregación segura é un protocolo criptográfico que permite ao servidor obter unha suma de actualizacións sen coñecer a contribución individual de cada cliente. Un protocolo práctico debe conservar a confidencialidade mesmo se algúns clientes abandonan a rolda e debe definir fronte a que combinación de servidor e clientes maliciosos ofrece seguridade.
O servidor continúa vendo o agregado e o modelo resultante. A agregación segura non limita o que estes poden revelar, non evita que un cliente envíe unha actualización manipulada e pode dificultar a inspección individual para detectar anomalías. Os limiares de participación, a autenticación e a robustez deben deseñarse conxuntamente co protocolo criptográfico. Privacidade diferencial A privacidade diferencial proporciona unha garantía cuantificable sobre canto pode cambiar a distribución do resultado ao incluír ou excluír datos dunha persoa. Nunha variante federada a nivel de usuario, limítase a norma da actualización de cada cliente e engádese ruído ao agregado. Os parámetros , o número de roldas, a taxa de mostraxe e o método de contabilidade determinan a garantía acumulada.
O recorte reduce a influencia máxima dunha actualización e o ruído oculta diferenzas pequenas, pero ambos poden diminuír a utilidade, especialmente con poucos participantes ou datos moi heteroxéneos. A privacidade diferencial e a agregación segura son complementarias: a primeira limita a información no resultado e a segunda oculta contribucións durante o protocolo.
Filtración e ataques activos Compartir gradientes ou diferenzas de parámetros non equivale a anonimizar os datos. Demostrouse experimentalmente que, baixo determinadas condicións, un observador pode reconstruír entradas e etiquetas a partir de gradientes. A eficacia depende, entre outros factores, do tamaño do lote, da arquitectura, da información auxiliar e de que actualización observa o adversario; por iso non se debe xeneralizar un resultado dun modelo de ameaza a todos os sistemas.
Nos ataques de envelenamento, un cliente modifica os datos, o proceso de adestramento ou directamente a actualización para degradar o modelo ou provocar erros escollidos. Unha porta traseira procura manter o rendemento normal e cambiar a saída ante un patrón concreto. Traballos experimentais mostraron que un número pequeno de clientes pode executar ataques dirixidos mediante a amplificación ou substitución do modelo local.
As defensas inclúen límites de norma, agregadores robustos, validación, detección de actualizacións anómalas e mecanismos de reputación. Ningunha é universal: datos locais lexitimamente diferentes poden parecer anómalos, e ocultar actualizacións mediante agregación segura reduce a información dispoñible para inspeccionalas. A análise debe indicar quen pode ser malicioso, que observa, cantos clientes controla e que obxectivo persegue.
Aplicacións Unha aplicación entre dispositivos é o adestramento de modelos de linguaxe para teclados virtuais. Nun estudo de predición da seguinte palabra, o modelo adestrouse nos teléfonos mediante FedAvg sen exportar o texto de adestramento e comparouse cun método centralizado. Este caso tamén ilustra requisitos propios dun despregamento: dispoñibilidade intermitente, avaliación no dispositivo e restricións de recursos.