Prenosno učenje () jest pristup u mašinskom učenju pri kojem se znanje stečeno rješavanjem jednog zadatka koristi za poboljšanje učenja drugog, povezanog zadatka. Umjesto obučavanja modela od početka, prethodno obučeni model ili dio njegovih parametara prilagođava se ciljnom skupu podataka. Takav postupak može smanjiti potrebnu količinu označenih podataka i računarskih resursa, naročito kada su izvorni i ciljni zadatak dovoljno slični.
Prenosno učenje široko se primjenjuje u dubokom učenju, gdje se reprezentacije naučene na velikim skupovima podataka prenose na specijalizirane zadatke. U računarskom vidu model može najprije naučiti opće vizuelne obrasce, poput ivica, tekstura i oblika, a zatim se prilagoditi prepoznavanju određene vrste objekata. U obradi prirodnog jezika prethodno obučeni jezički modeli prilagođavaju se zadacima kao što su klasifikacija teksta, odgovaranje na pitanja i prepoznavanje imenovanih entiteta.
Osnovni princip
U formalnom opisu prenosnog učenja razlikuju se izvorna domena i izvorni zadatak, na kojima je model prvobitno obučen, te ciljna domena i ciljni zadatak, za koje se stečeno znanje želi iskoristiti. Domena obuhvata prostor obilježja i raspodjelu podataka, dok zadatak određuju prostor mogućih oznaka i funkcija koju model treba naučiti. Prenosno učenje primjenjuje se kada se izvorna i ciljna domena ili njihovi zadaci razlikuju, ali među njima postoji veza koja omogućava koristan prijenos znanja.
Znanje se može prenositi putem primjera za obuku, naučenih obilježja, parametara modela ili odnosa među podacima. U neuronskim mrežama najčešće se prenose težine prethodno obučenih slojeva. Raniji slojevi obično predstavljaju općenitija obilježja, dok su kasniji više prilagođeni izvornom zadatku. Istraživanja konvolucijskih neuronskih mreža pokazala su da se prenosivost obilježja uglavnom smanjuje u višim slojevima i s porastom razlike između izvornog i ciljnog zadatka.
Metode
Jedan od najčešćih postupaka jest korištenje prethodno obučenog modela kao izdvojitelja obilježja. Parametri osnovnog dijela mreže tada ostaju nepromijenjeni, dok se završni sloj zamjenjuje i obučava za novi zadatak. Ovaj pristup prikladan je kada je ciljni skup podataka malen ili sličan skupu na kojem je model prvobitno obučen.
Drugi postupak jest dodatno podešavanje (), pri kojem se dio ili svi parametri prethodno obučenog modela nastavljaju obučavati na ciljnom skupu podataka. Obično se koristi manja stopa učenja kako se ranije stečene reprezentacije ne bi naglo izmijenile. Moguće je najprije obučiti samo novi izlazni sloj, a zatim postepeno odmrzavati dublje slojeve modela.
Prema odnosu izvorne i ciljne domene razlikuju se induktivno, transduktivno i nenadzirano prenosno učenje. Kod induktivnog prenosnog učenja izvorni i ciljni zadatak nisu isti, a za ciljni zadatak dostupni su označeni podaci. Transduktivno prenosno učenje najčešće zadržava isti zadatak, ali se raspodjela podataka razlikuje, što obuhvata i prilagođavanje domene. Kod nenadziranog prenosnog učenja označeni ciljni podaci nisu dostupni, pa se preneseno znanje koristi za zadatke poput grupiranja ili učenja reprezentacija.
Primjena
U računarskom vidu često se koriste modeli prethodno obučeni na velikim zbirkama označenih slika. Njihovi slojevi zatim se prilagođavaju klasifikaciji medicinskih snimaka, satelitskih fotografija, industrijskih proizvoda ili drugih specijaliziranih podataka. Time se može postići korisna tačnost i kada ciljni skup sadrži razmjerno malo primjera.
U obradi prirodnog jezika prenosno učenje zasniva se na prethodnoj obuci modela na velikim količinama neoznačenog teksta. Model BERT obučava se predviđanjem prikrivenih tokena, nakon čega se uz mali broj promjena može dodatno podesiti za različite zadatke razumijevanja jezika. Sličan obrazac prethodne obuke i naknadnog podešavanja primjenjuje se i u prepoznavanju govora, obradi zvuka, robotici i podržanom učenju.
Ograničenja
Uspješnost prijenosa zavisi od povezanosti izvorne i ciljne domene. Kada je znanje naučeno na izvornom zadatku neprimjereno ciljnom zadatku, može doći do negativnog prijenosa, pri kojem prethodna obuka pogoršava rezultate u odnosu na obučavanje modela od početka. Rizik se povećava kada se raspodjele podataka, značenja oznaka ili obilježja važna za predviđanje znatno razlikuju.
Preneseni model može naslijediti i pristranosti, greške ili sigurnosne nedostatke iz izvornog skupa podataka. Dodatno podešavanje velikih modela također može zahtijevati znatne računarske resurse, a promjena parametara ponekad dovodi do gubitka ranije naučenih sposobnosti. Zbog toga se izbor izvornog modela, slojeva koji se prenose i načina prilagođavanja određuje prema veličini ciljnog skupa, sličnosti zadataka i raspoloživim resursima.
Također pogledajte
Duboko učenje Nadzirano učenje Samonadzirano učenje Višezadaćno učenje Neuronska mreža Model temelja
Reference
Kategorija:Mašinsko učenje