Najnovejše inovacije v zvezi s tehnologijo, ki temelji na umetni inteligenci, premikajo meje tega, kar smo nekoč mislili, da je mogoče z umetno inteligenco. Ker pa so klepetalni roboti, kot sta ChatGPT in Bing Chat, v več stvareh skoraj tako dobri kot ljudje, je čas, da za nekaj časa pritisnete na zavoro?
Elon Musk in več raziskovalcev AI so med 1188 ljudmi (v času pisanja), ki tako mislijo. Pismo, ki ga je objavil neprofitni inštitut Future of Life, poziva k šestmesečnemu premoru pri usposabljanju tehnologij umetne inteligence, boljših od GPT 4, toda ali je premor res potreben?
Kaj je odprto pismo prihodnosti življenja?
The pismo, ki ga je objavil inštitut Future of Life poudarja, da so bili laboratoriji umetne inteligence "vklenjeni v tekmo brez nadzora" za razvoj in uvajanje več in zmogljivejši modeli AI, ki jih nihče, vključno z njihovimi ustvarjalci, ne more "razumeti, predvideti ali zanesljivo nadzor«.
Poudarja tudi, da postajajo sodobni sistemi umetne inteligence konkurenčni človeku pri splošnih nalogah in ali bi morali razviti "nečloveške ume, ki bi lahko sčasoma presegli število, prelisičili, zastareli in nadomestili nas".
Pismo končno poziva vse laboratorije AI, naj nemudoma ustavijo usposabljanje sistemov AI, zmogljivejših od GPT-4, za vsaj šest mesecev. Premor mora biti javen in preverljiv tudi pri vseh ključnih akterjih. Prav tako navaja, da če takega premora ni mogoče hitro uveljaviti, bi morale vlade ukrepati in začasno prepovedati usposabljanje modelov AI.
Ko je premor aktiven, so laboratoriji AI in neodvisni strokovnjaki pozvani, da ga uporabijo za skupen razvoj in implementacijo "skupni nabor varnostnih protokolov", da se zagotovi, da so sistemi, ki upoštevajo ta pravila, "varni nad razumno dvom".
To pismo je podpisalo kar nekaj imenovanih osebnosti, vključno z Elonom Muskom, Stevom Wozniakom ter raziskovalci in avtorji AI. Pravzaprav je seznam podpisnikov trenutno zaustavljen zaradi velikega povpraševanja.
Kakšne so Muskove skrbi glede napredne tehnologije umetne inteligence in OpenAI?
Medtem ko lahko podpis pisma Future of Life nakazuje, da je Musk zaskrbljen zaradi varnostnih tveganj, ki jih predstavljajo takšni napredni sistemi umetne inteligence, je lahko pravi razlog nekaj drugega.
Musk je leta 2015 soustanovil OpenAI s trenutnim izvršnim direktorjem Samom Altmanom kot neprofitno organizacijo. Vendar se je pozneje leta 2018 udaril z Altmanom, potem ko je ugotovil, da ni zadovoljen z napredkom podjetja. Musk naj bi želel prevzeti vodenje, da bi pospešil razvoj, vendar sta Altman in upravni odbor OpenAI zamisel ovrgla.
Musk je kmalu zatem zapustil OpenAI in s seboj vzel svoj denar, pri čemer je prelomil svojo obljubo, da bo prispeval 1 milijardo sredstev, in dal le 100 milijonov pred odhodom. Zaradi tega je OpenAI kmalu zatem marca 2019 postal zasebno podjetje, da bi zbral sredstva za nadaljevanje raziskav.
Drugi razlog, zakaj je Musk odšel, je bil, da bi razvoj umetne inteligence pri Tesli povzročil navzkrižje interesov v prihodnosti. Očitno je, da Tesla potrebuje napredne sisteme umetne inteligence za svoje delovanje Popolne funkcije samostojne vožnje. Odkar je Musk zapustil OpenAI, je podjetje pobegnilo s svojimi modeli AI in začelo ChatGPT, ki ga poganja GPT3.5 leta 2022 in pozneje z GPT-4 marca 2023.
Dejstvo, da Muskova ekipa AI ni blizu OpenAI, je treba upoštevati vsakič, ko reče, da bi lahko sodobni modeli AI predstavljali tveganje. Tudi on ni imel nobenih težav uvajanje beta različice Tesla Full Self-Driving na javnih cestah, ki v bistvu spremeni običajne voznike Tesle v beta preizkuševalce.
Tudi to se ne konča tukaj. Musk je bil tudi precej kritičen do OpenAI na Twitterju, pri čemer je Altman šel tako daleč, da je rekel, da jih napada, medtem ko se je nedavno pojavljal v podcastu "On with Kara Swisher".
Trenutno se zdi, da Musk samo uporablja pismo Future of Life, da ustavi razvoj OpenAI in katerega koli drugega podjetja, ki ga dohiteva. GPT-4, da bi svojim podjetjem dal priložnost, da dohitijo zaostanek, namesto da bi jih dejansko skrbelo morebitne nevarnosti teh modelov AI poza. Upoštevajte, da pismo tudi zahteva, da se za šest mesecev prekine "usposabljanje" sistemov umetne inteligence, ki ga je mogoče razmeroma enostavno izogniti in jih medtem še naprej razvijati.
Ali je premor res potreben?
Potreba po premoru je odvisna od stanja modelov AI v prihodnosti. Ton pisma je vsekakor nekoliko dramatičen in ne tvegamo izgube nadzora nad našo civilizacijo zaradi umetne inteligence, kot tako odkrito navaja. To je reklo, Tehnologije AI predstavljajo nekaj groženj.
Glede na to, da lahko OpenAI in drugi laboratoriji AI pripravijo boljše varnostne preglede, bi premor naredil več škode kot koristi. Vendar se predlog v pismu o naboru skupnih varnostnih protokolov, ki so "strogo revidirani in nadzorovani s strani neodvisnih zunanjih strokovnjakov", res zdi dobra ideja.
Glede na to, da tehnološki velikani, kot sta Google in Microsoft, vlagajo milijarde v razvoj in integracijo umetne inteligence v svoje izdelke, je malo verjetno, da bo pismo vplivalo na trenutno hitrost razvoja umetne inteligence.
AI je tu, da ostane
Ker tehnološki velikani še naprej spodbujajo integracijo umetne inteligence v svoje izdelke in vlagajo milijarde dolarjev v raziskave in razvoj, bo umetna inteligenca ostala, ne glede na to, kaj pravi opozicija.
Vendar ni slaba ideja, da uvedemo varnostne ukrepe, da preprečimo, da bi te tehnologije zašle s tira in se potencialno spremenile v orodje za škodo.
