мини|293x293п|Дијаграм протокола федеративног учења са паметним телефонима који тренирају глобални AI модел Федеративно учење (енгл. Federated learning) је приступ у оквиру машинског учења који омогућава тренирање модела над децентрализованим подацима, без потребе да се ти подаци преносе на централни сервер. У овом приступу више учесника (тзв. клијената) заједнички тренира модел, при чему подаци остају локално на уређајима или серверима сваког учесника.Federated learning. Wikipedia. Dostupno na: https://en.wikipedia.org/wiki/Federated_learning
Федеративно учење се развило као одговор на изазове везане за приватност података, минимизацију преноса података и ограничења у приступу подацима. За разлику од традиционалних метода машинског учења, где се подаци централизују, овде се размењују само параметри модела, као што су тежине и претпостављене вредности.
Једна од кључних карактеристика федеративног учења јесте хетерогеност података, будући да подаци који се налазе код различитих клијената често нису независни и идентично дистрибуирани (тзв. non-IID подаци). Ово додатно компликује процес тренирања модела, али истовремено омогућава рад са реалним, дистрибуираним скуповима података.McMahan, H. B.; Moore, E.; Ramage, D.; Hampson, S.; Arcas, B. A. (2017). Communication-Efficient Learning of Deep Networks from Decentralized Data. Proceedings of AISTATS.
Математичка формулација У оквиру федеративног учења, циљ је тренирање заједничког модела над дистрибуираним скуповима података који се налазе код више учесника (чворова). Овај проблем се формално може представити као оптимизација глобалне функције циља која представља агрегацију локалних функција сваког чвора.
Глобална функција циља може се записати као:
где је: K број учесника (чворова), xᵢ параметри модела на i-том чвору, fᵢ локална функција циља која описује колико се модел уклапа у локалне податке тог чвора.
Циљ федеративног учења је да се оптимизује глобална функција циља и да сви локални модели конвергирају ка заједничком глобалном моделу. Другим речима, тежи се постизању консензуса међу параметрима модела на различитим чворовима.
За разлику од традиционалног дистрибуираног учења, где се претпоставља да су подаци независни и идентично дистрибуирани, федеративно учење не прави ову претпоставку. Уместо тога, подаци су често хетерогени и неједнако распоређени између учесника, што додатно отежава процес оптимизације.Kairouz, P.; McMahan, H. B.; Avent, B. i dr. (2019). Advances and Open Problems in Federated Learning. Foundations and Trends in Machine Learning.
У пракси, оптимизација се спроводи итеративно, при чему сваки чвор локално ажурира параметре модела на основу сопствених података, а затим се ти параметри агрегирају како би се добио глобални модел. Овај процес се понавља кроз више итерација док се не постигне задовољавајућа тачност модела.
Типови федеративног учења Федеративно учење се може реализовати на различите начине у зависности од архитектуре система и карактеристика учесника. Најчешће се разликују следећи типови:
Централизовано федеративно учење У централизованом приступу постоји централни сервер који координира процес тренирања модела. Сервер бира учеснике, прикупља њихове локалне моделе и врши агрегацију како би се добио глобални модел. мини|Дијаграми централизираног федеративног учења (лево) и децентрализованог федеративног учења (десно) Овај приступ је најчешће коришћен у пракси, али може представљати уско грло система, јер сви учесници шаљу податке (параметре модела) једном централном ентитету.
Децентрализовано федеративно учење Код децентрализованог федеративног учења не постоји централни сервер. Уместо тога, учесници међусобно размењују параметре модела и заједно долазе до глобалног решења.
Овај приступ смањује ризик од једне тачке отказа и повећава отпорност система, али може зависити од структуре мреже и начина комуникације између учесника.
Персонализовано федеративно учење У многим реалним ситуацијама подаци код различитих учесника нису исти, што доводи до потребе за персонализованим моделима. Персонализовано федеративно учење омогућава да сваки учесник има модел прилагођен сопственим подацима, уз задржавање предности заједничког тренирања.
Главни изазов овог приступа је балансирање између глобалног модела и локалних специфичности података.
Хетерогено федеративно учење Хетерогено федеративно учење се односи на ситуације у којима учесници имају различите ресурсе (процесорску снагу, меморију) или користе различите моделе и архитектуре.
Овај приступ омогућава рад у реалним условима где уређаји, као што су паметни телефони и уређаји Интернета ствари, имају различите способности, али истовремено уводи додатне изазове у координацији и оптимизацији модела.мини|523x523п|Општи процес федеративног учења у централно оркестрираној поставци
Процес федеративног учења Процес федеративног учења одвија се кроз низ итеративних корака у којима учествују локални уређаји (клијенти) и, у централизованом приступу, централни сервер. Свака итерација овог процеса назива се федеративна рунда.
Типичан ток једне федеративне рунде може се описати следећим корацима:
Иницијализација – На почетку процеса бира се модел машинског учења (на пример, неуронска мрежа или линеарни модел) и иницијализују се његови параметри. Централни сервер затим дистрибуира почетни модел свим учесницима у систему. Избор клијената – У свакој рунди бира се подскуп доступних клијената који ће учествовати у тренирању модела. Избор може бити насумичан или заснован на одређеним критеријумима, као што су доступност уређаја или квалитет података. Локално тренирање – Изабрани клијенти тренирају модел користећи сопствене локалне податке. Овај процес се обично спроводи применом алгоритама као што је градијентни спуст, при чему се модел ажурира кроз више итерација над локалним скупом података. Слање ажурирања – Након завршетка локалног тренирања, сваки клијент шаље ажуриране параметре модела (или њихове промене) централном серверу, без слања сирових података. Агрегација модела – Централни сервер прикупља све пристигле моделе и врши њихову агрегацију, најчешће применом методе као што је Федерирано просећивање (енгл. FedAvg). Резултат овог корака је нови глобални модел који интегрише знање свих учесника. Дистрибуција модела – Ажурирани глобални модел се затим шаље назад клијентима, чиме започиње нова федеративна рунда. Завршетак процеса – Процес се понавља кроз више рунди све док се не испуни одређени критеријум заустављања, као што је достизање задовољавајуће тачности модела или максималан број итерација.
Поред синхроног приступа, где сви клијенти шаљу ажурирања у исто време, постоје и асинхрони приступи у којима се модели ажурирају чим постану доступни. Ови приступи могу побољшати ефикасност система, посебно у окружењима са ограниченим ресурсима.Bonawitz, K. i dr. (2019). Towards Federated Learning at Scale: System Design. Google Research.
Не-IID подаци Једна од кључних карактеристика федеративног учења јесте рад са подацима који нису независни и идентично дистрибуирани (енгл. non-IID data). За разлику од класичних приступа машинском учењу, где се често претпоставља да сви подаци потичу из исте дистрибуције, у федеративном учењу сваки клијент располаже сопственим скупом података који може значајно одступати од осталих.
Ова хетерогеност података представља један од главних изазова у тренирању модела, јер може довести до спорије конвергенције и смањења тачности глобалног модела.
Не-IID подаци се могу класификовати у неколико основних категорија:
Помак у дистрибуцији атрибута – Улазни подаци имају различите статистичке расподеле код различитих клијената. На пример, корисници могу уносити текст на различите начине, што утиче на моделе за обраду природног језика.
Помак у дистрибуцији ознака – Расподела излазних ознака разликује се између клијената. На пример, одређене категорије података могу бити заступљеније у неким регионима него у другим.
Промена концепта – Подаци могу имати исте ознаке, али различите карактеристике у зависности од контекста, као што су услови осветљења или окружење.
Различито означавање података – Исти подаци могу бити различито интерпретирани или означени код различитих клијената.
Неуравнотежени подаци – Количина података може значајно варирати између клијената, што утиче на допринос сваког учесника глобалном моделу.
Због ових изазова, у федеративном учењу се примењују додатне технике као што су нормализација података, прилагођени алгоритми оптимизације и методе за ублажавање разлика између локалних модела.
Параметри и оптимизација Ефикасност федеративног учења у великој мери зависи од избора параметара и начина оптимизације процеса тренирања. Поред параметара самог модела машинског учења, у федеративном учењу се уводе додатни параметри који контролишу интеракцију између клијената и централног система.
Међу најважнијим параметрима издвајају се:
Број федеративних рунди – Одређује колико пута ће се размењивати модели између клијената и сервера. Већи број рунди може побољшати тачност модела, али повећава време тренирања и оптерећење мреже.
Број клијената – Укупан број учесника у систему, као и број активних клијената у свакој рунди, значајно утичу на перформансе модела. У пракси се често користи само део доступних клијената у свакој итерацији како би се смањили трошкови комуникације.Konečný, J.; McMahan, H. B.; Ramage, D. (2015). Federated Optimization: Distributed Optimization Beyond the Datacenter. arXiv.
Величина локалног узорка (енгл. batch size) – Одређује колико података се користи у једној итерацији локалног тренирања. Мање вредности могу довести до стабилнијег тренирања, док веће вредности убрзавају процес, али захтевају више меморије.
Број локалних итерација – Одређује колико пута клијент ажурира модел пре него што пошаље резултате серверу. Већи број локалних итерација смањује потребу за комуникацијом, али може довести до одступања локалних модела од глобалног.
Стопа учења (енгл. learning rate) – Контролише брзину прилагођавања модела током тренирања. Неправилно подешена вредност може довести до спорог учења или нестабилности модела.
Мрежна топологија – Начин комуникације између клијената и сервера (или између самих клијената у децентрализованом приступу) утиче на перформансе система и брзину конвергенције модела.
Оптимизација ових параметара представља кључни изазов у федеративном учењу, јер је потребно пронаћи баланс између тачности модела, брзине тренирања и трошкова комуникације. У пракси се често користе хеуристички приступи и адаптивни алгоритми како би се постигла оптимална конфигурација система.Konečný, J.; McMahan, H. B.; Ramage, D. (2015). Federated Optimization: Distributed Optimization Beyond the Datacenter. arXiv.
Ограничења Федеративно учење се суочава са бројним изазовима који могу ограничити његову примену у реалним системима. Ова ограничења обухватају техничке, статистичке, безбедносне и организационе аспекте.
Техничка ограничења – Федеративно учење захтева честу размену информација између клијената и централног система, што подразумева стабилну мрежну конекцију и довољан проток података. Иако се не преносе сирови подаци, параметри модела могу бити великих димензија, посебно код модела дубоког учења. Уређаји који учествују у процесу, као што су паметни телефони и уређаји Интернета ствари, често имају ограничене ресурсе (процесорску снагу, меморију и батерију). Проблеми са мрежом могу довести до кашњења или губитка ажурирања модела.
Статистичка ограничења – Подаци код различитих клијената често нису независни и идентично дистрибуирани (не-IID), што може отежати тренирање модела и смањити његову тачност. Такође, величина и квалитет података могу значајно варирати између клијената. Недостатак приступа глобалном скупу података отежава идентификацију пристрасности и грешака у моделу.