Twitter razkril, da se je AI odrezal zaradi rasne in spolne pristranskosti

Prvič smo slišali idejo, da ima Twitterjev algoritem za obrezovanje slik nekaj pristranskosti, septembra 2020. Kriptografski inženir Tony Arcieri je naložil dve sliki, na katerih sta bila vodja večine v senatu Mitch McConnell in nekdanji predsednik Barack Obama, umetna inteligenca pa je bila obakrat obrezana na obraz McConnella.

Ko je polemika sčasoma prišla do ljudi na Twitterju, je podjetje obljubilo, da bo analiziralo svoj model. Končno bomo prebrali te ugotovitve.

Twitter deli rezultate analize algoritmov

V začetku maja Twitter je končno predstavil predogled slik v polni velikosti na svojih mobilnih rokih. Objava v spletnem dnevniku Twitter je pokazala, da je aplikacija uporabila algoritem za obrezovanje slik, potem ko je analiza pokazala, da ima pristranskost na podlagi rase in spola.

Platforma je začela uporabljati algoritem prepoznavnosti leta 2018 za obrezovanje svojih slik. Twitter pravi, da se modeli prepoznavnosti usposobijo za podatke o sledenju človeških oči, ki jih nato uporabi algoritem za oceno, kateri subjekti / elementi na sliki so po njegovem mnenju najverjetneje pomembni za večino ljudi.

Nato bi algoritem pripravil oceno vidnosti za vse dele slike, preden bi izbral točko z najvišjo oceno, ki naj bo središče pridelka.

Po izvedbi kvantitativnega testa za preverjanje morebitnih pristranskosti je ekipa ugotovila, da se zdi, da algoritem prepoznavnosti daje prednost ženskam pred moškimi in belcem pred temnopoltimi.

Twitter je preizkusil tudi algoritem za "moški pogled", vendar dokazov o pristranskosti objektivizacije ni bilo mogoče najti.

Tudi če bi bil algoritem prepoznavnosti prilagojen tako, da odraža popolno enakost med rasnimi in spolnimi podskupinami, smo [Twitter] zaskrbljeni s predstavitveno škodo avtomatiziranega algoritma, ko ljudje ne smejo predstavljati sebe, kot želijo na platformo. Upoštevanje ima tudi druge potencialne škode, ki presegajo obseg te analize, vključno z neobčutljivostjo na kulturne odtenke.

Pri obravnavi kompromisov med hitrostjo in doslednostjo avtomatiziranega obrezovanja ter tveganji, Twitter pravi, da je njegova ekipa spoznala, da je način, kako obrezati sliko, odločitev, ki jo najbolje sprejmejo ljudje - ne algoritmi.

Sorodno: Tehnološki trendi, ki že spreminjajo prihodnost

Twitter se znebi samodejnega obrezovanja slik

Twitter ne uporablja več algoritma prepoznavnosti in zdaj v celoti prikazuje fotografije s standardnim razmerjem stranic tako v sistemih iOS kot v Androidu. Pri izdelavi tvita boste ugotovili, da nova posodobitev vključuje tudi pravi predogled naloženih slik, tako da boste vedeli, kako bo vse videti po objavi.

Če vas zanima branje študijskega članka, ga lahko najdete na arXiv.org. Kodo Twitter za analizo lahko najdete tudi na GitHub.

Kako naložiti in si ogledati slike 4K na Twitterju

Aplikacija Twitter zdaj omogoča nalaganje in ogled slik v 4K. Tukaj je opisano, kako spremenite nastavitve.

Preberite Naprej

O avtorju