Kaj je pristranskost do umetne inteligence in kako se lahko razvijalci temu izognejo?

Zmogljivosti umetne inteligence se eksponentno širijo, zdaj se umetna inteligenca uporablja v panogah od oglaševanja do medicinskih raziskav. Uporaba umetne inteligence na občutljivejših področjih, kot so programska oprema za prepoznavanje obrazov, algoritmi za najem in zdravstveno varstvo, je spodbudila razpravo o pristranskosti in pravičnosti.

Pristranskost je dobro raziskana plat človeške psihologije. Raziskave redno razkrivajo naše nezavedne želje in predsodke, zdaj pa vidimo, da AI nekatere od teh pristranskosti odraža v njihovih algoritmih.

Torej, kako umetna inteligenca postane pristranska? In zakaj je to pomembno?

Kako AI postane pristranski?

Zaradi poenostavitve se bomo sklicevali na ta članek strojnega učenja in globokega učenja algoritmi kot algoritmi ali sistemi umetne inteligence.

Raziskovalci in razvijalci lahko v sisteme umetne inteligence uvedejo pristranskost na dva načina.

Prvič, kognitivne pristranskosti raziskovalcev je mogoče nenamerno vključiti v algoritme strojnega učenja. Kognitivne pristranskosti so nezavedno človeško dojemanje, ki lahko vpliva na to, kako se ljudje odločajo. To postane pomembno vprašanje, če pristranskosti zadevajo ljudi ali skupine ljudi in jim lahko škodijo.

Te pristranskosti je mogoče uvesti neposredno, vendar nenamerno, ali pa bi raziskovalci lahko AI usposobili za nabore podatkov, na katere je pristranost vplivala tudi sama. Na primer, umetno inteligenco za prepoznavanje obraza bi lahko usposobili z naborom podatkov, ki vključuje samo obraze svetle kože. V tem primeru se bo umetna inteligenca bolje odrezala pri obrazih s svetlo poltimi obrazmi kot pa temnimi. Ta oblika pristranskosti AI je znana kot negativna zapuščina.

Drugič, pristranskosti se lahko pojavijo, če se AI usposobi za nepopolne nabore podatkov. Če je na primer umetna inteligenca usposobljena na naboru podatkov, ki vključuje samo računalniške znanstvenike, ne bo predstavljal celotne populacije. To vodi do algoritmov, ki ne omogočajo natančnih napovedi.

Primeri pristranskosti AI pristranskosti

V zadnjem času je bilo več primerov, o katerih so poročali dobro, o katerih so poročali ponazoriti nevarnost dovoliti, da se te pristranskosti prikradejo.

Prioriteta zdravstva v ZDA

Leta 2019 je bil zasnovan algoritem strojnega učenja, ki bi bolnišnicam in zavarovalnicam pomagal določiti, kateri bolniki bi imeli od nekaterih zdravstvenih programov največ koristi. Na podlagi baze podatkov o približno 200 milijonih ljudi je algoritem dal prednost belim bolnikom kot temnopoltim.

Ugotovljeno je bilo, da je to posledica napačne predpostavke v algoritmu glede različnih stroškov zdravstvenega varstva med črno-belimi ljudmi, pristranskost pa se je sčasoma zmanjšala za 80%.

KOMPASI

Profil profiliranja alternativnih sankcij ali COMPAS je bil algoritem umetne inteligence, zasnovan za napovedovanje, ali bodo določeni ljudje ponovno užalili. Algoritem je povzročil dvojne lažne pozitivne učinke za temnopolte prestopnike v primerjavi z belimi prestopniki. V tem primeru sta bila tako nabor podatkov kot model pomanjkljiva, kar je uvedlo veliko pristranskost.

Amazonka

Ugotovljeno je bilo, da algoritem zaposlovanja, ki ga Amazon uporablja za ugotavljanje ustreznosti prosilcev, leta 2015 daje moškim prednost pred ženskami. To je bilo zato, ker je nabor podatkov skoraj izključno vseboval moške in njihove življenjepise, saj je večina zaposlenih v Amazoniji moških.

Kako ustaviti pristranskost AI

AI že revolucionira naš način dela vsaka industrija. Napačni sistemi, ki nadzorujejo občutljive procese odločanja, so manj kot zaželeni. V najboljšem primeru zmanjša kakovost raziskav, ki temeljijo na umetni inteligenci. V najslabšem primeru aktivno škoduje manjšinam.

Obstajajo primeri algoritmov AI, ki se jih že uporablja pomoč pri človekovem odločanju z zmanjšanjem vpliva človekovih kognitivnih pristranskosti. Zaradi tega, kako so usposobljeni algoritmi strojnega učenja, so lahko bolj natančni in manj pristranski kot ljudje v istem položaju, kar ima za posledico pravičnejše odločanje.

A kot smo pokazali, velja tudi obratno. Tveganja, da bi umetna inteligenca omogočila, da se človeške pristranskosti prikupijo in povečajo, lahko odtehtajo nekatere možne koristi.

Na koncu dneva, AI je tako dober kot podatki, s katerimi je usposobljen. Razvoj nepristranskih algoritmov zahteva obsežno in temeljito predhodno analizo naborov podatkov, ki zagotavlja, da podatki nimajo implicitnih pristranskosti. To je težje, kot se sliši, ker je toliko naših pristranskosti nezavednih in jih je pogosto težko prepoznati.

Izzivi pri preprečevanju pristranskosti glede umetne inteligence

Pri razvoju sistemov umetne inteligence je treba oceniti vsak korak, da lahko v algoritem vgradi pristranskost. Eden glavnih dejavnikov pri preprečevanju pristranskosti je zagotavljanje, da se pravičnost, ne pa pristranskost, "zaplete" v algoritem.

Opredelitev pravičnosti

Poštenost je koncept, ki ga je razmeroma težko opredeliti. Pravzaprav gre za razpravo, o kateri nikoli ni prišlo do konsenza. Da bi bile stvari še težje, je treba pri razvoju sistemov umetne inteligence koncept pravičnosti opredeliti matematično.

Na primer, v smislu algoritma za najem Amazon, ali bi bila pravičnost videti kot popolna razdelitev moških na ženske v razmerju 50/50? Ali drugačen delež?

Določitev funkcije

Prvi korak v razvoju umetne inteligence je natančno določiti, kaj bo dosegel. Če bi uporabili primer COMPAS, bi algoritem napovedal verjetnost ponovitve kriminalcev. Nato je treba določiti jasne vnose podatkov, da bo algoritem lahko deloval. To bo morda zahtevalo opredelitev pomembnih spremenljivk, kot je število predhodnih kaznivih dejanj ali vrsta storjenih kaznivih dejanj.

Pravilna opredelitev teh spremenljivk je težak, a pomemben korak pri zagotavljanju pravičnosti algoritma.

Izdelava nabora podatkov

Kot smo že navedli, so glavni vzrok pristranskosti v zvezi z umetno inteligenco nepopolni, nereprezentativni ali pristranski podatki. Tako kot v primeru umetne inteligence z prepoznavanjem obrazov je treba tudi pred vhodnimi podatki temeljito preveriti pristranskost, ustreznost in popolnost pred postopkom strojnega učenja.

Izbira lastnosti

V algoritmih lahko nekatere atribute upoštevamo ali ne. Atributi lahko vključujejo spol, raso ali izobrazbo - v bistvu vse, kar je lahko pomembno za nalogo algoritma. Odvisno od izbranih atributov lahko močno vplivata na napovedno natančnost in pristranskost algoritma. Težava je v tem, da je zelo težko izmeriti pristranskost algoritma.

AI pristranskost ni tu, da bi ostala

Do pristranskosti AI pride, ko algoritmi zaradi pristranskih vhodov dajejo pristranske ali netočne napovedi. Pojavi se, če se pristranski ali nepopolni podatki med razvojem in usposabljanjem algoritma odražajo ali povečujejo.

Dobra novica je, da bomo ob množenju financiranja raziskav umetne inteligence verjetno videli nove metode za zmanjšanje in celo odpravo pristranskosti glede umetne inteligence.

5 pogostih mitov o umetni inteligenci, ki niso resnični

Postavimo zapis na nekaj običajnih laži, ki obkrožajo umetno inteligenco.

Preberite Naprej

O avtorju