Algoritamska pristrasnost opisuje sistematske i ponovljive greške u računarskom sistemu koje stvaraju „nepravedne“ ishode, kao što je „privilegovanje“ jedne kategorije nad drugom na načine koji se razlikuju od predviđene funkcije algoritma.
Pristrasnost može ući u algoritamske sisteme kao rezultat već postojećih kulturnih, društvenih ili institucionih normi; podaci kodiraju, prikupljaju, biraju ili koriste za obuku algoritma; zbog tehničkih ograničenja njihovog dizajna; ili korišćenjem u neočekivanim kontekstima ili od strane korisničkih grupa koje nisu uzete u obzir u početnom dizajnu softvera. Na primer, algoritamska pristrasnost je primećena u rezultatima veb-pretraživača i platformama društvenih medija. Ova pristrasnost može imati uticaje u rasponu od nenamernog kršenja privatnosti do jačanja društvenih pristrasnosti u pogledu rase, pola, seksualnosti i etničke pripadnosti. Proučavanje algoritamske pristrasnosti najviše se bavi algoritmima koji odražavaju „sistematsku i nepravednu“ diskriminaciju.
Kako algoritmi proširuju svoju sposobnost da organizuju društvo, politiku, institucije i ponašanje, sociolozi su postali zabrinuti za načine na koje neočekivani izlaz i manipulacija podacima mogu uticati na fizički svet. Pošto se algoritmi često smatraju neutralnim i nepristrasnim, oni mogu netačno da projektuju veći autoritet od ljudske ekspertize (delimično zbog psihološkog fenomena pristrasnosti automatizacije), a u nekim slučajevima oslanjanje na algoritme može da izmesti ljudsku odgovornost za njihove rezultate.
Ova pristrasnost je tek nedavno obrađena u pravnim okvirima, kao što su Opšta uredba o zaštiti podataka Evropske unije (na snazi od 2018. godine) i Zakon o veštačkoj inteligenciji (predložen 2021, odobren 2024).
Reference
Literatura
Категорија:Машинско учење Категорија:Дискриминација