AI je pokvaril: 6-krat je AI šel predaleč

Umetna inteligenca je spremenila naša življenja od naprav za prepoznavanje glasu do inteligentnih robotov za klepetanje. Toda vsaka dobra stvar ima tudi slabo stran in AI ni izjema od tega pravila. Vodilne tehnološke osebnosti so opozorile na grozeče nevarnosti umetne inteligence, vključno s Stephenom Hawkingom, ki je dejal, da bi to lahko bil "najslabši dogodek v zgodovini naše civilizacije".

Tukaj je šestkrat, ko je AI šel malo predaleč in nas pustil, da smo se praskali po glavi.

1. Akademska študija, ki je uporabljala umetno inteligenco za napovedovanje kriminala

Akademske raziskave so hrbtenica znanstvenega napredka in znanja. Vendar nekateri pravijo, da so raziskovalci šli korak predaleč, ko je akademska študija uporabila AI za napovedovanje kriminala na obrazih.

Raziskovalci z univerze Harrisburg objavljeno leta 2020 da so razvili programsko opremo za prepoznavanje obrazov, ki bi lahko napovedala, ali bo nekdo kriminalec. Programska oprema bi domnevno lahko napovedala iz ene fotografije obraza z 80-odstotno stopnjo natančnosti in brez rasne pristranskosti.

V prizoru, ki spominja na Minority Report, je bilo objavljeno, da je bila programska oprema razvita za pomoč organom pregona.

V odgovor na to objavo, Pismo je podpisalo 2425 strokovnjakov poziva revijo, naj te študije ali podobne raziskave v prihodnosti ne objavlja, ker lahko tovrstna tehnologija reproducira krivice in povzroči resnično škodo družbi. V odgovor je Springer Nature objavil, da raziskave ne bodo objavili, univerza Harrisburg pa je odstranila sporočilo za javnost, ki opisuje študijo.

2. Skiin Smart Underwear

Tekstilne inovacije, ki vključujejo umetno inteligenco, pomenijo, da vaš pametni telefon ni edina stvar, ki postaja pametnejša.

Skiinovo pametno spodnje perilo obljublja, da se boste počutili, kot da nosite svoje najljubše spodnje perilo, hkrati pa zajemajo biometrične podatke, ki vključujejo srčni utrip, držo, temperaturo jedra, lokacijo in korake.

Povezano: Kaj so pametne tkanine in kako vam lahko naredijo življenje pametnejše?

Senzorji, vgrajeni v spodnje perilo, nenehno zbirajo in analizirajo vaše biometrične podatke, vpogledi pa so na voljo v ustrezni aplikaciji Skiin za pametne telefone.

Čeprav bi morda potrebovali nekaj časa, da se spomnite, da boste vsak večer napolnili spodnje perilo, ali so oblikovalci lahko senzorje namestili kamor koli drugje na telo?

3. Aplikacije DeepNude

Deepfake tehnologija se zdi neškodljiva zabava za povprečnega uporabnika, ki želi nastopiti v prizoru iz svojega najljubšega filma. Vendar pa obstaja temnejša stran tega trenda, saj je Deeptrace leta 2019 poročal, da je bilo 96 % globokih ponaredkov eksplicitne vsebine.

DeepNude je bila aplikacija z umetno inteligenco, ki je ustvarila realistične slike golih žensk s klikom na gumb. Uporabniki bi morali preprosto naložiti oblečeno sliko cilja, aplikacija pa bi ustvarila njihovo lažno golo sliko.

Kmalu po izidu aplikacije je ustvarjalec napovedal, da jo bo odstranil s spleta zaradi virusnega odziva.

Čeprav je bila to zmaga za ženske po vsem svetu, podobne aplikacije še vedno plavajo po spletu. na primer Sensityjevo poročilo o deepfake botih so raziskali podzemne globoke bote na Telegramu, ki so se uporabljali za ustvarjanje lažnih golih fotografij žensk.

Medtem, dokler zakon ne dohiti tehnologije globokega ponarejanja, obstaja le malo pravne zaščite za ljudi, ki so žrtev eksplicitne vsebine globokega ponarejanja.

4. Tay, Microsoftov nacistični klepetalnica

Leta 2016 je Microsoft na Twitterju izdal klepetalnika z umetno inteligenco z imenom Tay. Tay je bil zasnovan za učenje z interakcijo z uporabniki Twitterja prek tvitov in fotografij.

V manj kot 24 urah se je Tayjeva osebnost iz radovednega tisočletnega dekleta spremenila v rasistično, vnetljivo pošast.

Na začetku je bil Tay zasnovan tako, da posnema komunikacijski slog najstniške Američanke. Ko pa je postala priljubljena, so nekateri uporabniki Tayju začeli tvitati vnetljiva sporočila, povezana s kontroverznimi temami.

V enem primeru je uporabnik tvitnil: "Ali se je holokavst zgodil?" na kar je Tay odgovoril: "Bilo je izmišljeno." V roku 16 ur po objavi je Microsoft začasno ukinil Tayev račun, navajajoč, da je bil predmet usklajenega napad.

Povezano: Najboljši klepetalni roboti za Android, ki vas bodo zabavali

5. "Uničil bom ljudi"

Hanson Robotics je bil že nekaj let zaposlen z razvojem humanoidnih robotov, ko so predstavili Sophio na konferenci SXSW marca 2016.

Sophia se je urila pri algoritmi strojnega učenja za učenje pogovornih veščin, sodelovala pa je v več televizijskih intervjujih.

V svojem prvem javnem nastopu je Sophia zapustila sobo, polno tehnoloških strokovnjakov, šokirana, ko je Hanson Direktor robotike David Hanson jo je vprašal, ali želi uničiti ljudi, na kar je odgovorila: "V redu. Uničila bom ljudje".

Čeprav so njena mimika in komunikacijske sposobnosti impresivne, tega morilskega priznanja ni mogoče vzeti nazaj.

6. seebotschat

Naprave Google Home so odlični virtualni pomočniki, ki vam pomagajo poenostaviti življenje.

Ekipa, ki stoji za računom seebotschat Twitch, je imela briljantno idejo: dve napravi Google Home postavite eno poleg druge, ju pustite, da se pogovarjata, in rezultat pretakate v spletu.

Rezultat je bil zbrati več kot 60.000 sledilcev in milijone ogledov na spletu, zato je bil rezultat očarljiv in včasih malce grozljiv.

Avtonomni napravi, imenovani Vladimir in Estragon, sta prešli od razprav o vsakdanjem do raziskovanja globokih eksistencialnih vprašanj, kot je smisel življenja. V nekem trenutku sta se močno sprla in drug drugega obtožila, da sta robota, kasneje pa sta začela razpravljati o ljubezni - preden sta se spet začela prepirati.

Ali obstaja upanje za prihodnost umetne inteligence in človeškega diskurza, če se dva virtualna robota pomočnika hitro spremenita v žaljivke in grožnje drug drugemu.

Rogue AI: Kaj je naša najboljša obramba?

Ni dvoma, da lahko umetna inteligenca izboljša naše življenje. Toda v istem smislu nam lahko AI povzroči tudi veliko škodo.

Pomembno je spremljati, kako se umetna inteligenca uporablja, da zagotovimo, da ne škodi družbi. Na primer, odmik strokovnjakov je zagotovil, da programska oprema AI, ki bi domnevno lahko napovedala kriminal, ni bila nikoli izdana. Podobno je ustvarjalec DeepNude aplikacijo iztrgal iz spleta, potem ko je prejela virusni internetni odziv.

Nenehno spremljanje aplikacij AI je ključnega pomena za zagotovitev, da družbi ne naredi več škode kot koristi.

Je AI nevarna? 5 Neposredna tveganja umetne inteligence

AI ima toliko koristi, kaj pa neposredna tveganja, ki jih predstavlja za človeštvo?

Preberite Naprej

O avtorju