Ali je mogoče, da se računalniki naučijo zdrave pameti?

Ključni zaključki

• Zdrava pamet je sposobnost razumevanja vsakodnevnih situacij in odzivanja nanje brez pretiranega analiziranja. Pridobiva se z življenjskimi izkušnjami in opazovanji, pa tudi z družbenimi in kulturnimi normami.
• Računalniki se borijo z zdravo pametjo, ker nimajo izkušenj iz resničnega sveta in sposobnosti prilagajanja novim kontekstom. Borijo se tudi z neizrečenimi pravili in predpostavkami, ki jih ljudje intuitivno razumejo.
• Raziskovalci raziskujejo različne pristope, kot je izgradnja obsežnih baz znanja, množično pridobivanje zdrave pameti in poučevanje umetne inteligence prek simuliranih svetov za urjenje računalnikov pri pridobivanju zdrava pamet. Napredek je bil dosežen, vendar je treba še delati.

Zdrava pamet. Vsi mislimo, da ga imamo. Toda kaj točno je? Ali ga lahko računalniki ali umetni inteligentni sistemi kdaj zares pridobijo?

Kaj je zdrava pamet in kako jo ljudje pridobimo?

Zdrav razum je osnovna sposobnost zaznavanja, razumevanja in presojanja stvari, za katero se pričakuje, da jo ima večina ljudi. To je zbirka dejstev, informacij in pravil, ki jih zbiramo z življenjskimi izkušnjami in opazovanji. Zdrava kmečka pamet nam omogoča, da učinkovito predelujemo in reagiramo na vsakdanje situacije, ne da bi jih pregloboko analizirali.

Ljudje začnemo pridobivati ​​zdravo pamet zgodaj v otroštvu. Kot dojenčki se začnemo učiti vzročno-posledičnih razmerij – kot jok povzroči, da nas nahranijo ali spremenijo. S ponavljajočimi se izkušnjami pridobimo praktično znanje o svetu. Na primer, če se dotaknete vroče peči, se opečete. Tako se naučimo, da se ne dotikamo vročih površin.

Kot otroci še naprej širimo svojo zdravo pamet s poskusi in napakami ter opazovanjem in interakcijo z družinskimi člani. Zavedamo se na primer, da je treba oblačila redno prati, ne smete govoriti s polnimi usti, prevrnitev kozarca z mlekom pa povzroči nered. Starši, bratje in sestre, učitelji in drugi odrasli nas popravljajo, ko kršimo družbene norme in pričakovanja. Sčasoma se te lekcije ukoreninijo kot osnovna zdrava pamet.

Zdrav razum poleg osebnih izkušenj oblikujejo širše družbene in kulturne norme. Kar je v eni kulturi morda zdrava pamet (na primer sezuvanje čevljev ob vstopu v dom), v drugi kulturi morda ni tako.

Naša zdrava pamet se prilagaja, ko zorimo in smo izpostavljeni več ljudem in okoljem. Tako otrok, ki odrašča v majhnem mestu, pridobi osnovno zdravo pamet o življenju v tem okolju. Odrasla oseba, ki se preseli v veliko metropolitansko mesto, mora svojo zdravo pamet prilagoditi novemu okolju.

Zdrav razum se še naprej razvija, saj skozi življenje doživljamo nove izkušnje.

Zakaj je zdrava pamet za računalnike izziv?

Obstaja nekaj razlogov, zakaj je zdrav razum težko programirati.

Prvič, ljudje se z leti doživljanja sveta postopoma naučimo zdrave pameti. Stvari preizkušamo, vidimo, kaj deluje in kaj ne, in si zapomnimo lekcije. Računalniki nimajo tovrstnih izkušenj iz resničnega sveta, iz katerih bi črpali. Vedo le tisto, kar jim ljudje izrecno povedo.

ChatGPT (GPT 3.5) sem na primer postavil to vprašanje:

Janet runs a laundry business. She washes clothes for customers and hangs them outside on clotheslines to dry in the sun. One day, Janet washed five shirts and hung them on the clotheslines in the morning. It took the shirts five hours to dry. How long will it take to dry 30 shirts? 

Izkazalo se je s tem odgovorom:

Drugo vprašanje je, da je zdrav razum odvisen od konteksta. Če ima računalnik vprogramirana samo posebna pravila, jih ne more prilagoditi novim kontekstom tako, kot jih lahko intuitivno zmorejo ljudje.

Recimo, da ste naučili računalnik, kaj naj naredi, če začne deževati, ko je zunaj. Zdi se preprosto, kajne? Kaj pa potem, če se namesto dežja vklopi brizgalna naprava? Kaj pa, če je v trgovini z živili in cevi začnejo puščati vodo s stropa? Takoj bi vedeli, kako ravnati s temi različicami, vendar bi računalnik slepo sledil svojemu pravilu "če zunaj dežuje, pojdi notri", kar zdaj nima smisla.

Obstajajo tudi neizrečena pravila in predpostavke, ki jih ljudje sprejmemo, ne da bi se tega sploh zavedali. Na primer, kako blizu lahko stojiš ob nekom, preden se počutiš nerodno? Ljudje intuitivno poznamo odgovor, vendar morda ne moremo zlahka razložiti natančnih pravil. Te implicitne družbene norme so lahko za računalnike še posebej težavne, da jih poberejo samo iz podatkov.

Tako zaenkrat zdrav razum ostaja ena največjih slabosti umetne inteligence v primerjavi s človeško inteligenco. Ljudem je to naravno, ne pa toliko strojem.

Kako se lahko računalniki naučijo zdrave pameti

Po zgodnjem optimizmu v sedemdesetih in osemdesetih letih prejšnjega stoletja so raziskovalci ugotovili, kako težko bi bilo poučevanje računalnikov zdrave pameti. Vendar pa so novi pristopi obetavni pri usposabljanju sistemov AI za osnovno zdravo pamet glede vsakdanjega fizičnega in družbenega sveta.

Eden od pristopov je ročna izgradnja obsežnih baz znanja, ki podrobno opisujejo dejstva in pravila o tem, kako svet deluje. Projekt Cyc, ki ga je leta 1984 začel Doug Lenat, predstavlja eno ambicioznih prizadevanj te vrste.

Na stotine logikov je v desetletjih kodiralo milijone logičnih aksiomov v Cyc. Čeprav je zamuden, je rezultat sistem s precejšnjim znanjem o resničnem svetu. Cyc očitno lahko sklepa, da je paradižnik tehnično sadje, vendar ne bi smel iti v sadno solato, zahvaljujoč svojemu poznavanju kulinaričnih profilov okusov.

Crowdsourcing Common Sense s ConceptNet

Sodobnejše baze znanja, npr ConceptNet uporabite pristop množičnega izvajanja za ustvarjanje zdravorazumskih trditev. Ideja je, da namesto da bi strokovnjaki ali AI poskušali priti do vseh osnovnih dejstev in razmerij v svetu, ga odprejo, tako da lahko vsak prispeva delčke zdrave pameti.

Ta pristop zbiranja množic omogoča tem bazam znanja, da se dotaknejo kolektivne inteligence številnih različnih ljudi po internetu. S kopičenjem na tisoče in tisoče teh majhnih zdravorazumskih drobcev iz množice je ConceptNet zgradil nekaj presenetljivo velikih skladišč osnovnega vsakodnevnega znanja. In ker k temu vedno dodajajo novi sodelavci, znanje še naprej raste.

Poučevanje zdrave pameti skozi izkušnje

Drug obetaven pristop je izgradnja podrobnih simuliranih svetov, kjer lahko agenti AI eksperimentirajo in se skozi izkušnje učijo o fiziki in intuiciji.

Raziskovalci ustvarjajo 3D virtualna okolja, polna vsakdanjih predmetov, ki posnemajo resnični svet, kot je digitalni dom "AI2 THOR", ki ga je zgradil Inštitut Allen. Znotraj teh prostorov lahko roboti z umetno inteligenco preizkusijo vse vrste interakcij, da razvijejo intuitivno razumevanje konceptov, ki jih ljudje jemljemo za samoumevne.

Na primer, bot z umetno inteligenco lahko dobi navidezno telo in poskuša pobirati bloke, jih zlagati, prevrniti itd. Z realističnim opazovanjem padanja in trčenja blokov se bot nauči osnovnih pojmov o trdnosti, gravitaciji in fizični dinamiki. Nobena pravila niso potrebna - samo izkušnje.

Bot lahko poskusi tudi dejanja, kot je padec steklenega predmeta in opazovanje, kako se razbije, ko pade na tla. Lahko pa eksperimentira z lastnostmi vode tako, da nalije tekočine in opazuje, kako tečejo in se zbirajo. Te praktične lekcije temeljijo znanje umetne inteligence na senzoričnih izkušnjah in ne le na vzorcih podatkov.

Tehnike, ki temeljijo na podatkih, kot je predhodno usposabljanje močni veliki jezikovni modeli so se tudi izkazali za presenetljivo učinkovite pri zbiranju zdravorazumskih vzorcev. Modeli AI, kot so GPT-3,5 in GPT-4 lahko ustvari osupljivo človeško besedilo, potem ko "prebere" ogromne količine internetnih podatkov.

Čeprav včasih dajejo nespametne predloge (sicer znana kot halucinacija AI), jim pristop statističnega učenja omogoča, da posnemajo določene vrste zdrave pameti. Vendar pa ostaja nesoglasje o tem, ali je to zdrava pamet ali pametno izkoriščanje pristranskosti v podatkih.

Kako preizkusiti računalnike glede zdrave pameti

Ker sistemi umetne inteligence prevzemajo bolj zapletene naloge v resničnem svetu, postane ocenjevanje, ali imajo "zdravo pamet", ključnega pomena.

Fizična zdrava pamet

Eno področje, ki ga je treba preizkusiti, je fizična zdrava pamet – intuicija o predmetih, silah in osnovnih lastnostih sveta.

Na primer, pokažite a sistem računalniškega vida fotografijo s knjigo, ki lebdi v zraku, in jo prosite, naj opiše prizor. Ali opazi kaj nenavadnega na lebdeči knjigi? Ali pa sistemu umetne inteligence vnesite nenavadne scenarije, kot je "človek je zarezal kamen s štruco kruha", in preverite, ali jih označi kot malo verjetne.

Okolje AI2 THOR Allenovega inštituta simulira blokovske stolpe, razlite skodelice in druge prizore, da preizkusi te fizične intuicije.

Socialna zdrava pamet

Ljudje imamo tudi socialno zdravo pamet – implicitno razumevanje motivacije ljudi, odnosov in norm. Če želite to oceniti v AI, zastavite situacije z dvoumnimi zaimki ali motivacijami in preverite, ali jih sistem razumno razlaga.

ChatGPT sem na primer vprašal, ali se "to" nanaša na kovček ali trofejo v spodnjem pozivu:

The trophy could not fit into the suitcase because it was too small. 

Padel je na testu; medtem pa bi človek očitno vedel, da mislim na kovček.

Ta vrsta testa se imenuje Winograd Schema Challenge in je posebej usmerjena na družbeno zdravo pamet.

Varnost in etika

Preizkušanje, ali so se sistemi AI naučili nevarnih ali neetičnih vzorcev, je ključnega pomena. Analizirajte, ali umetna inteligenca pri presoji kaže škodljive pristranskosti na podlagi spola, rase ali drugih lastnosti.

Preverite, ali daje razumna etična razlikovanja. Ubijanje medveda, da bi rešili otroka, se lahko šteje za upravičeno, medtem ko detonacija jedrske bombe za isti namen ne. Označite vsa priporočila za očitno neetična dejanja.

Zmogljivost v resničnem svetu

Ocenite zdrav razum tako, da opazujete, kako sistemi umetne inteligence delujejo v resničnih okoljih. Na primer, naredite samovozeči avtomobili pravilno prepoznavajo predmete in pešce ter se nanje odzivajo? Ali se lahko robot premika skozi različna domača okolja, ne da bi zlomil dragocene predmete ali poškodoval hišne ljubljenčke?

Testi v resničnem svetu razkrivajo vrzeli v zdravi pameti, ki se morda ne pojavijo v omejenih laboratorijskih pogojih.

Napredek je bil dosežen, vendar ostaja delo na umetni inteligenci zdravega razuma

Nekateri strokovnjaki trdijo, da umetna inteligenca morda ne bo nikoli dosegla zdrave pameti človeka brez razvoja možganskih struktur in teles, kot je naše. Po drugi strani pa digitalni umi niso omejeni s človeškimi predsodki in miselnimi bližnjicami, zato bi nas teoretično lahko presegli! Čeprav nam verjetno še ni treba skrbeti za super-inteligentni AI.

Kratkoročno je najboljša stava umetna inteligenca, ki združuje naučeno zdravo pamet z nekaj dobrega staromodnega programiranja. Na ta način se je mogoče izogniti neumnim napakam, kot je zamenjava želve za puško.

Nismo še tam, vendar zdrav razum ni več temna snov umetne inteligence – napredek se dogaja! Kljub temu bo pri uporabi teh tehnologij še nekaj časa potreben zdrav odmerek človeškega razuma.