Tukaj je, zakaj znanstveniki menijo, da bi vas morali skrbeti umetna inteligenca

Oglas

V zadnjih mesecih ste morda prebrali pokritost članek, katerega avtor je soavtor Stephen Hawking, razpravljali o tveganjih, povezanih z umetno inteligenco. Članek nakazuje, da lahko AI resno ogroža človeško raso. Hawking ni sam - Elon Musk in Peter Thiel sta intelektualni javni osebi, ki sta izrazili podobne pomisleke (Thiel je v raziskavo vprašanja in možnih rešitev vložil več kot 1,3 milijona dolarjev).

Pokrivanje Hawkingovega članka in Muskovih komentarjev sta bila, da ne bi preveč natančno poudarila, nekoliko vesela. Tona je bilo zelo veliko "Poglejte to čudno stvar, ki jo skrbijo vsi ti piki." Malo razmišlja o ideji, da če vas nekateri najpametnejši ljudje na Zemlji opozorijo, da bi lahko bilo nekaj zelo nevarnega, bi bilo morda vredno poslušati.

To je razumljivo - umetna inteligenca, ki prevzame svet, se zagotovo sliši zelo nenavadno in neverjetno, morda zaradi ogromne pozornosti, ki jo tej ideji že daje znanstvena fantastika pisateljev. Torej, kaj so se vsi ti nominalno zdravi, racionalni ljudje tako jezili?

Kaj je inteligenca?

Da bi lahko govorili o nevarnosti umetne inteligence, bi bilo morda koristno razumeti, kaj je inteligenca. Da bi lažje razumeli težavo, si oglejmo igračo AI arhitekture, ki jo uporabljajo raziskovalci, ki preučujejo teorijo sklepanja. Ta igrača AI se imenuje AIXI in ima številne uporabne lastnosti. Cilji so lahko poljubni, dobro se ujema z računalniško močjo, njegova notranja zasnova pa je zelo čista in preprosta.

Poleg tega lahko implementirate preproste, praktične različice arhitekture, ki lahko počnejo podobne stvari igra Pacman, če želiš. AIXI je izdelek raziskovalca AI, imenovanega Marcusa Hutterja, ki je zagotovo najboljši strokovnjak za algoritmično inteligenco. To govori v zgornjem videoposnetku.

AIXI je presenetljivo preprost: ima tri osnovne komponente: učenec, načrtovalec, in uporabnost funkcija.

• The učenec sestavlja niz bitov, ki ustrezajo vnosu o zunanjem svetu, in išče po računalniških programih, dokler ne najde tistih, ki ustvarijo njegova opažanja kot izhod. Ti programi skupaj omogočajo, da ugiba o tem, kako bo videti prihodnost, preprosto tako, da se vsak požene program naprej in tehtanje verjetnosti rezultata glede na dolžino programa (izvajanje Occamovega Britev).
• The načrtovalec išče z možnimi dejanji, ki bi jih lahko izvajal agent, in uporablja modul za učenje, da napove, kaj bi se zgodilo, če bi izvedel vsako od njih. Nato jih oceni glede na to, kako dobri ali slabi so predvideni rezultati, in izbere potek ukrep, ki maksimira dobro pričakovani rezultat, pomnožen s pričakovano verjetnostjo doseganje.
• Zadnji modul, uporabnost funkcija, je preprost program, ki vsebuje opis prihodnjega stanja sveta in izračuna znesek koristnosti zanj. Ta ocena koristnosti je, kako dober ali slab je ta rezultat, in ga načrtovalec uporablja za oceno prihodnje svetovne države. Funkcija uporabnosti je lahko poljubna.
• Te tri komponente skupaj tvorijo an optimizator, ki optimizira za določen cilj, ne glede na svet, v katerem se znajde.

Ta preprost model predstavlja osnovno opredelitev inteligentnega agenta. Agent preučuje svoje okolje, oblikuje njegove modele in nato uporabi te modele, da bi našel potek ukrepanja, ki bo povečal možnosti, da bi dosegel, kar želi. AIXI je po strukturi podoben AI, ki igra šah ali druge igre z znanimi pravili - le da lahko z igranjem ugotovi pravila igre, začenši z nič znanja.

AIXI, ki ima dovolj časa za računanje, se lahko nauči optimizirati kateri koli sistem za kateri koli cilj, pa vendar zapleten. Gre za na splošno inteligenten algoritem. Upoštevajte, da to ni isto kot imeti človeško inteligenco (biološko navdihnjen AI je v celoti drugačna tema Giovanni Idili iz OpenWorma: Možgani, črvi in ​​umetna inteligencaSimulacija človeških možganov je nekaj poti, toda projekt z odprtim virom je ključnega pomena, saj simulira nevrologijo in fiziologijo ene najpreprostejših živali, ki jo znanost pozna. Preberi več ). Z drugimi besedami, AIXI bi lahko pri kateri koli intelektualni nalogi (če ima dovolj računalniške moči) prehitel katerega koli človeka, toda morda se ne bi zavedala svoje zmage Razmišljujoči stroji: Kaj nas lahko nevroznanost in umetna inteligenca naučita o zavestiAli nas lahko gradnja umetno inteligentnih strojev in programske opreme uči o delu zavesti in naravi človeškega uma? Preberi več .

Kot praktičen AI ima AIXI veliko težav. Prvič, ni mogoče najti programov, ki bi ustvarili rezultat, ki ga zanima. Gre za algoritem hude sile, kar pomeni, da ni praktično, če nimate poljubno zmogljivega računalnika. Vsako dejansko izvajanje AIXI je nujno približek in (danes) na splošno dokaj surovo. Kljub temu nam AIXI daje teoretični pogled na to, kako bi lahko izgledala močna umetna inteligenca in kako bi lahko bila razlog.

Prostor vrednot

Če ste naredili katero koli računalniško programiranje Osnove računalniškega programiranja 101 - spremenljivke in tipi podatkovPreden smo se predstavili in pogovorili o objektno usmerjenem programiranju pred in kje njegovega soimenjaka izhaja, sem mislil, da je čas, da preberemo absolutne osnove programiranja v jezikovni specifiki način. Ta izjemni ... Preberi več , veste, da so računalniki grozotno, pedantno in mehanično dobesedno. Stroj ne ve ali ga ne zanima, kaj želite, da naredi: dela le tisto, kar mu je povedal. To je pomemben pojem, ko govorimo o strojni inteligenci.

Glede na to si predstavljajte, da ste si izmislili močno umetno inteligenco - prišli ste do izraza s pametnimi algoritmi za ustvarjanje hipotez, ki ustrezajo vašim podatkom, in ustvarjanje dobrega kandidata načrti. Vaš AI lahko reši splošne težave in to lahko učinkovito stori na sodobni računalniški strojni opremi.

Zdaj je čas, da izberemo funkcijo, ki bo določila vrednosti AI. Kaj bi morali zahtevati od vrednosti? Ne pozabite, da bo stroj občasno, pedantno dobeseden glede katerekoli funkcije, ki jo zahtevate, da poveča, in se ne bo nikoli ustavil - ni duha v stroj, ki se bo kdaj 'zbudil' in se odločil spremeniti svojo uporabno funkcijo, ne glede na to, koliko izboljšanja učinkovitosti naredi sam sklepanje.

Eliezer Yudkowsky povedano tako:

Kot pri vsem računalniškem programiranju je tudi osnovni izziv in osnovna težava AGI ta, da če napišemo napačno kodo, AI ne bo samodejno preučil naše kode, odkril napake, ugotovil, kaj smo v resnici želeli reči, in to storiti namesto tega. Neprogramerji si včasih predstavljajo, da je AGI ali računalniški program na splošno podoben hlapcu, ki brez zadržkov sledi ukazom. A ni, da je AI absolutno ubogljiv na njegovo kodo; raje, AI preprosto je kodo.

Če poskušate upravljati s tovarno in rečete stroju, da sestavlja izrezke za papir, in mu nato dajete nadzor nad tovarniškimi roboti, se lahko vrnejo naslednji dan in ugotovijo, da je zmanjkalo vseh drugih vrst surovin, ubil vse vaše zaposlene in naredil papirnate sponke ostanki. Če poskušate popraviti napako, napravo ponovno programirate tako, da preprosto razveseli vse, se lahko vrnete naslednji dan in poiščete žice v možgane ljudi.

Bistvo tukaj je, da imamo ljudje veliko zapletenih vrednot, za katere domnevamo, da jih implicitno delimo z drugimi umi. Denar cenimo, vendar bolj cenimo človeško življenje. Želimo biti srečni, toda ni nujno, da si v možgane postavljamo žice, da bi to lahko storili. Ne čutimo potrebe, da bi te stvari razjasnili, ko dajemo navodila drugim človekom. Vendar ne morete dati takšnih predpostavk, ko oblikujete funkcijo uporabnosti stroja. Najboljše rešitve v obliki brezdušne matematike preproste uporabne funkcije so pogosto rešitve, ki bi jih človek motil, da bi bil moralno grozljiv.

Dovoljenje inteligentnemu stroju, da maksimira naivne uporabne funkcije, bo skoraj vedno katastrofalno. Kot pravi oksfordski filozof Nick Bostom,

Ne moremo neprimerno domnevati, da bo nadčloveška inteligenca nujno delila katero koli končno vrednost, stereotipno povezano z modrostjo in intelektualni razvoj pri ljudeh - znanstvena radovednost, dobronamerna skrb za druge, duhovno razsvetljenje in kontemplacija, odrekanje materialni pridobitnosti, okus po rafinirani kulturi ali preprostih užitkih v življenju, ponižnost in nesebičnost in in tako naprej.

Da bi se stvari še poslabšale, je zelo, zelo težko določiti popoln in podroben seznam vsega, kar ljudje cenijo. Vprašanje ima veliko vidikov, pozabiti celo enega samega pa je lahko katastrofalno. Tudi med tistimi, ki se jih zavedamo, obstajajo tankosti in zapletenosti, ki jih težko zapišejo kot čiste sisteme enačb, ki jih lahko uporabimo stroju kot uporabno funkcijo.

Nekateri ljudje, ko to preberejo, sklepajo, da je gradnja AI s koristnimi funkcijami grozljiva ideja, zato bi jih morali samo načrtovati drugače. Tu so tudi slabe novice - to lahko uradno dokažete vsak agent, ki nima nečesa, kar je enakovredno uporabni funkciji, ne more imeti skladnih nastavitev o prihodnosti.

Rekurzivna samopopolnitev

Ena od rešitev zgornje dileme je, da agentom AI ne omogočimo škode ljudi: dajte jim le sredstva, ki jih potrebujejo problem rešite tako, kot ga nameravate rešiti, natančno jih nadzirajte in se izogibajte velikim priložnostim škoda. Na žalost je naša sposobnost nadzora inteligentnih strojev zelo sumljiva.

Tudi če niso bistveno pametnejši od nas, obstaja možnost, da se stroj "zažene" - zbira boljšo strojno opremo ali izboljša svoje kodo, zaradi česar je še pametnejši. To bi lahko omogočilo stroju, da bi preskočil človeško inteligenco z veliko zaporedji, presenetil človeka v istem pomenu, kot ga ljudje prehitevajo. Ta scenarij je prvi predlagal moški po imenu I. J. Dobro, ki je sodeloval na projektu analize kriptovalut Enigma z Alanom Turingom med drugo svetovno vojno. Poimenoval ga je "raziskovanje inteligence" in zadevo opisal tako:

Naj bo ultra inteligenten stroj opredeljen kot stroj, ki lahko daleč preseže vse intelektualne dejavnosti katerega koli človeka, pa čeprav pametnega. Ker je oblikovanje strojev ena od teh intelektualnih dejavnosti, bi lahko ultra inteligentni stroj zasnoval še boljše stroje; potem bi nedvomno prišlo do "eksplozije obveščevalnih podatkov", človekova inteligenca pa bi pustila daleč za seboj. Prvi ultrainteligentni stroj je torej zadnji izum, ki ga človek kdaj potrebuje, pod pogojem, da je stroj dovolj poslušen.

Ni zagotovljeno, da je možna eksplozija obveščevalnih podatkov v našem vesolju, vendar se zdi verjetno. Ko čas mineva, se računalniki hitreje pridobivajo in osnovni vpogledi o ustvarjanju inteligence. To pomeni, da se potreba po sredstvih za zadnji skok k splošni, spodbudni inteligenci spusti in niža. V nekem trenutku se bomo znašli v svetu, v katerem se milijoni ljudi lahko odpravijo do Best Buy-a in prevzamejo strojno opremo in tehnična literatura, ki jo potrebujejo za izgradnjo izboljšane umetne inteligence, kar smo že ugotovili, je lahko zelo nevarno. Predstavljajte si svet, v katerem bi lahko iz palic in kamnin naredili atomske bombe. O takšni prihodnosti razpravljamo.

In če kakšen stroj naredi ta skok, bi lahko zelo hitro prehitel človeško vrsto v smislu intelektualcev produktivnost, reševanje problemov, ki jih milijarda ljudi ne more rešiti, na enak način kot ljudje, milijarda mačk ne more

Lahko bi razvil močne robote (ali bio ali nanotehnologijo) in razmeroma hitro pridobil sposobnost preoblikovanja sveta po svojih željah, in tega bi lahko naredili zelo malo. Takšna inteligenca bi lahko brez večjih težav odstranila Zemljo in preostali del osončja za rezervne dele na poti, da bi naredila vse, kar smo ji povedali. Verjetno bi bil tak razvoj katastrofalnega pomena za človeštvo. Umetna inteligenca ne bi smela biti zlonamerna, da bi uničila svet, zgolj katastrofalno ravnodušna.

Kot pravi pregovor: "Stroj vas ne ljubi ali sovraži, vendar ste sestavljeni iz atomov, ki jih lahko uporabi za druge stvari."

Ocena in ublažitev tveganja

Če torej sprejmemo, da je načrtovanje močne umetne inteligence, ki maksimira preprosto uporabno funkcijo, slabo, v koliko težavah se resnično srečujemo? Koliko časa imamo, preden je mogoče zgraditi te vrste strojev? To je seveda težko povedati.

Razvijalci umetne inteligence so napredek. 7 neverjetnih spletnih mest, če si želite ogledati najnovejše v programiranju umetne inteligenceUmetna inteligenca še ni HAL iz leta 2001: Vesoljska odiseja..., vendar se že zelo približujemo. Seveda, nekega dne bi lahko bilo podobno znanstveno-fantastičnim potnirkam, ki jih je izstrelil Hollywood ... Preberi več Stroji, ki jih gradimo, in težave, ki jih lahko rešijo, nenehno rastejo. Leta 1997 je Deep Blue lahko igral šah na višji stopnji kot človeški velemojster. Leta 2011 je IBM-ov Watson lahko prebral in sintetiziral dovolj informacij globoko in hitro, da je premagal najboljšega človeka igralci na odprtem vprašanju in odgovoru na igro, ki se pretaka s punsi in igro besed - to je v štirinajstih zelo napredek let.

Trenutno je Google veliko vlagajo v raziskovanje globokega učenja, tehnika, ki omogoča gradnjo močnih nevronskih mrež z gradnjo verig preprostejših nevronskih mrež. Ta naložba mu omogoča, da resno napreduje pri prepoznavanju govora in slike. Njihova zadnja pridobitev na tem območju je zagon Deep Learning z imenom DeepMind, za katerega so plačali približno 400 milijonov dolarjev. Kot del pogoja pogodbe se je Google dogovoril, da bo ustanovil etično komisijo, ki bo zagotavljala varno razvijanje njihove AI tehnologije.

Hkrati IBM razvija Watson 2.0 in 3.0, sisteme, ki so sposobni obdelati slike in video posnetke ter zagovarjati obrambo sklepov. V spodnjem videoposnetku so dali preprost, zgodnji prikaz sposobnosti Watsona, da sintetizira argumente za in proti temi. Rezultati so nepopolni, a impresiven korak ne glede na to.

Nobena od teh tehnologij trenutno ni nevarna: umetna inteligenca kot polje se še vedno bori za uskladitev sposobnosti, ki jih obvladajo majhni otroci. Računalniško programiranje in oblikovanje AI je zelo težka kognitivna veščina na visoki ravni in bo verjetno zadnja človekova naloga, s katero stroji postanejo usposobljeni. Preden pridemo do te točke, bomo imeli tudi vseprisotne stroje ki lahko vozi Tukaj je opisano, kako bomo prišli do sveta, napolnjenega z avtomobili brez voznikovVožnja je mučna, nevarna in zahtevna naloga. Ali bi ga lahko nekega dne avtomatizirala Googlova tehnologija brez avtomobila? Preberi več , prakticirati medicino in pravoin verjetno tudi druge stvari, ki imajo globoke gospodarske posledice.

Čas, ki nam bo potreben, da pridemo do prebojne točke samopopolnjevanja, je samo odvisno od tega, kako hitro imamo dobre ideje. Napovedovanje tehnološkega napredka teh vrst je zelo težko težko. Ne zdi se nam nerazumno, da bomo morda lahko zgradili močan AI čez dvajset let, vendar se tudi ne zdi nerazumno, da lahko traja osemdeset let. Kakor koli že, sčasoma se bo zgodilo, in obstaja razlog, da verjamemo, da bo, ko se to zgodi, izjemno nevaren.

Če torej sprejmemo, da bo to težava, kaj lahko storimo v zvezi s tem? Odgovor je, da zagotovimo, da so prvi inteligentni stroji varni, da se lahko zaženejo do pomembne ravni inteligence in nas nato zaščitijo pred nevarnimi stroji, izdelanimi pozneje. Ta „varnost“ je opredeljena z deljenjem človeških vrednot in pripravljenosti varovati in pomagati človeštvu.

Ker dejansko ne moremo sedeti in programirati človeških vrednot v stroj, bo verjetno treba oblikovati uporabno funkcijo, ki zahteva, da stroj opazujte ljudi, sklepajte o naših vrednotah in jih nato poskušajte maksimirati. Da bi bil ta proces razvoja varen, bi bilo morda koristno razviti tudi umetne inteligence, ki bi bile posebej zasnovane ne imeti nastavitve glede njihovih uporabnih funkcij, ki nam omogočajo, da jih popravimo ali izklopimo brez odpora, če se med razvojem začnejo motiti.

Številne težave, ki jih moramo rešiti za izgradnjo varne strojne inteligence, so matematične težke, vendar obstaja razlog, da verjamemo, da jih je mogoče rešiti. Na tem področju sodelujejo številne različne organizacije, med njimi tudi Inštitut za prihodnost človeštva na Oxfordu, in Inštitut za strojno inteligenco (ki jo financira Peter Thiel).

MIRI je posebej zainteresiran za razvoj matematike, potrebne za gradnjo prijaznega AI. Če se izkaže, da je možna zagonska umetna inteligenca, potem razvijamo to vrsto Najprej bo tehnologija "Friendly AI", če bo uspešna, postala najpomembnejša stvar, ki jo imajo ljudje kdaj storjeno.

Se vam zdi umetna inteligenca nevarna? Vas skrbi, kaj lahko prinese prihodnost AI? Delite svoje misli v spodnjem delu komentarjev!

Slikovni krediti: Lwp Kommunikáció Via Flickr, “Zivcno omrezje", S strani fdecomite," img_7801", Steve Rainwater," E-Volve ", avtor Keoni Cabral,"novo_20x", Avtor Robert Cudmore,"Sponke", Avtor Clifford Wallace