Človeštvu grozi "izumrtje" zaradi umetne inteligence – kako jo ustaviti?

Ponovno je skupina vodilnih raziskovalcev umetne inteligence in tehnoloških podjetij opozorila, da bi trenutni hiter razvoj umetne inteligence lahko pomenil katastrofo za človeštvo.

Tveganja obsegajo jedrske spopade, bolezni, dezinformacije in utečeno umetno inteligenco brez nadzora, kar vse predstavlja neposredno grožnjo za preživetje ljudi.

Vendar ne bo izgubljeno, da veliko teh opozoril prihaja od istih ljudi, ki vodijo razvoj umetne inteligence in spodbujajo orodja in programe umetne inteligence v svojih podjetjih.

Zakaj tehnološka podjetja in znanstveniki AI opozarjajo na tveganje AI?

30. maja 2023 je več kot 350 raziskovalcev, razvijalcev in inženirjev umetne inteligence izdalo sopodpisano izjavo, v kateri svari pred grožnjo AI človeštvu.

Zmanjšanje tveganja izumrtja zaradi umetne inteligence bi moralo biti svetovna prednostna naloga poleg drugih družbenih tveganj, kot so pandemije in jedrska vojna.

Podpisniki k Izjava Safe.ai vključeni Sam Altman iz OpenAI, Demis Hassabis iz Google DeepMind in Dario Amodei iz Anthropic, skupaj s Turingom Dobitnika nagrade Geoffrey Hinton in Yoshua Bengio (čeprav se Yann LeCun, ki je prav tako prejel isto nagrado, ni podpisal). Seznam je skoraj tisti, kdo je kdo v svetu razvoja umetne inteligence – ljudje, ki vodijo na področju umetne inteligence – vendar so tukaj vsi in opozarjajo, da bi umetna inteligenca lahko pomenila katastrofo za človeštvo.

To je kratka izjava, ki jasno pojasni grožnje, posebej pa navaja dve ključni področji, ki bi lahko ogrozila svet, kot ga poznamo: jedrsko vojno in globalna zdravstvena vprašanja. Medtem ko je grožnja jedrskega spopada zaskrbljujoča, je tveganje pandemije za večino bolj oprijemljiva grožnja.

Vendar pa ni le svetovna pandemija tista, ki bi lahko povzročila zdravstvene težave, povezane z umetno inteligenco. Skrbnik poroča o številnih drugih zdravstvenih težavah z umetno inteligenco, ki bi lahko vplivale na ljudi, če jih ne bi preverili pred široko uporabo. En primer se nanaša na uporabo oksimetrov, ki jih poganja umetna inteligenca, ki so "precenili ravni kisika v krvi pri bolnikih s temnejšo kožo, kar je povzročilo premajhno zdravljenje njihove hipoksije."

Poleg tega ni prvič, da je skupina tehnoloških voditeljev pozvala k prekinitvi ali resni ponovni oceni razvoja umetne inteligence. marca 2023 Elon Musk in drugi raziskovalci AI so podpisali podoben poziv k akciji zahteva moratorij na razvoj umetne inteligence, dokler ne bo mogoče uvesti več predpisov, ki bodo pomagali usmerjati proces.

Kakšno je tveganje umetne inteligence?

Večina tveganj, povezanih z umetno inteligenco, vsaj v tem kontekstu, se nanaša na razvoj ubežne tehnologije umetne inteligence. ki presega zmožnosti ljudi, pri čemer se na koncu obrne proti svojemu stvarniku in izbriše življenje, kot ga poznamo to. To je zgodba, ki je bila neštetokrat opisana v znanstvenofantastičnem pisanju, vendar je resničnost zdaj bližje, kot si morda mislimo.

Zmogljivosti velikih jezikovnih modelov (ki podpirajo orodja, kot je ChatGPT) drastično naraščajo. vendar orodja, kot je ChatGPT, imajo veliko težav, kot so inherentna pristranskost, pomisleki glede zasebnosti in halucinacije umetne inteligence, kaj šele njegova zmožnost zloma, da deluje zunaj meja svojih programiranih pogojev in določil.

Ker se veliki jezikovni modeli povečujejo in imajo več podatkovnih točk, na katere se lahko obrnejo, skupaj z dostopom do interneta in več razumevanja trenutnih dogodkov, se raziskovalci umetne inteligence bojijo, da bi lahko nekega dne, po besedah ​​generalnega direktorja OpenAI Sama Altmana, "šlo precej narobe."

Kako vlade urejajo razvoj umetne inteligence, da ustavijo tveganja?

Regulacija umetne inteligence je ključna za preprečevanje tveganj. V začetku maja 2023 je Sam Altman je pozval k večji regulaciji umetne inteligence, ki navaja, da bo "regulativni poseg vlad ključnega pomena za ublažitev tveganj vse močnejših modelov."

Potem, Evropska unija je napovedala zakon o AI, uredba, zasnovana tako, da zagotovi veliko močnejši okvir za razvoj umetne inteligence po vsej EU (s številnimi predpisi, ki se širijo v druge jurisdikcije). Altman je sprva grozil, da bo OpenAI umaknil iz EU, a je nato svojo grožnjo umaknil in se strinjal, da bo podjetje spoštovalo uredbo o umetni inteligenci, ki jo je predhodno zahteval.

Ne glede na to je jasno, da je regulacija razvoja in uporabe umetne inteligence pomembna.

Bo umetna inteligenca končala človeštvo?

Ker je velik del razprave o tej temi zgrajen na hipotetiki o moči prihodnjih različic umetne inteligence, obstajajo vprašanja glede dolgoživosti in moči, ki ju lahko ima katera koli ureditev umetne inteligence. Kako najbolje regulirati industrijo, ki se že premika s hitrostjo tisoč milj na minuto in se preboji v razvoju dogajajo vsak dan?

Poleg tega še vedno obstaja nekaj dvomov o zmogljivostih umetne inteligence na splošno in o tem, kje bo končala. Medtem ko tisti, ki se bojijo najhujšega, opozarjajo na to, da umetna splošna inteligenca postaja človeški vrhovni gospodar, drugi opozarjajo na dejstvo, da trenutne različice umetne inteligence ne morejo odgovoriti niti na osnovna matematična vprašanja in da so popolnoma samovozeči avtomobili še vedno izklopljeno.

Težko se je ne strinjati s tistimi, ki gledajo v prihodnost. Mnogi od ljudi, ki najglasneje kričijo o težavah, ki jih lahko predstavlja umetna inteligenca, so na vozniškem sedežu in gledajo, kam bi se lahko usmerili. Če so oni tisti, ki zahtevajo regulacijo AI, da bi nas zaščitili pred potencialno grozljivo prihodnostjo, je morda čas, da jim prisluhnemo.