Na področju umetne inteligence je napredek dosežen na ravni brez primere, z novimi dogodki skoraj tedensko. Generativna orodja AI, kot je ChatGPT, so zdaj tako priljubljena, da jih integrirajo povsod.
Ampak bi morali? Uporaba tehnologije AI za produktivnost, izobraževanje in zabavo je smiselna. Vendar podjetja zdaj razmišljajo o tem, da bi ga dala neposredno v naše aplikacije za sporočanje, kar se lahko izkaže za uničujoče. Tukaj je sedem razlogov, zakaj.
1. AI Chatboti so nagnjeni k halucinacijam
Če ste uporabili ChatGPT, Bing ali Bard, veste, da generativni klepetalni roboti AI ponavadi "halucinirajo". Halucinacija umetne inteligence je, ko si ti chatboti izmišljujejo zaradi pomanjkanja ustreznih podatkov o usposabljanju za poizvedbo, ki jo zahteva uporabnik.
Z drugimi besedami, posredujejo napačne informacije, vendar zvenijo o tem prepričani, kot da je dejstvo. To je velika težava, ker mnogi ljudje pri uporabi klepetalnega robota ne preverjajo dejstev in verjamejo, da je privzeto točen. Je eden največjih napake, ki se jim je treba izogibati pri uporabi orodij AI.
Ko je nameščen v aplikacijah za sporočanje, je količina škode, ki jo lahko povzroči, še večja, saj jo ljudje lahko uporabijo za (namerno ali nenamerno) širijo dezinformacije med svojimi stiki in na družbenih medijih, širijo propagando in spodbujajo odmev zbornice.
2. Ljudje se ne marajo pogovarjati z boti
Pomislite, kako nadležno je, ko poskušate stopiti v stik s podporo strankam podjetja in ste prisiljeni govoriti s chatbot namesto pravega človeškega vodje, ki lahko dejansko razume nianse vaše težave in ponudi ustrezno vodenje.
Enako velja za osebne pogovore. Predstavljajte si, da se pogovarjate s prijateljem in na polovici ugotovite, da so za to uporabljali umetno inteligenco ves ta čas odgovarjajo na vaša sporočila, namesto da bi to storili sami na podlagi svojih misli in mnenja.
Če ste kot večina ljudi, bi se takoj počutili užaljene in bi uporabo umetne inteligence v zasebnem pogovoru razumeli kot neobčutljivi, srhljivi in celo pasivno agresivni, kot da se drugi osebi ne zdi vreden njenega časa, pozornosti in sočutje.
Uporaba umetne inteligence za pisanje e-poštnih sporočil je na primer razumljiva, saj gre za poklicno interakcijo, vendar pa uporaba umetne inteligence v osebnih pogovorih ne bo nekaj, kar bi nihče želel spodbujati. Ko bo novost tehnologije zbledela, jo bo postalo nevljudno uporabljati v tem kontekstu.
3. AI ne more kopirati vaše edinstvene tonalnosti
Generativna orodja umetne inteligence že danes omogočajo spreminjanje tonalnosti vašega sporočila, na primer formalnega, veselega ali nevtralnega, odvisno od tega, komu pišete in kako želite naleteti. Magic Compose v Google Messages, vam na primer omogoča, da storite enako.
Čeprav je to dobro, upoštevajte, da se te tonalnosti usposabljajo na podlagi nastavljenih podatkov o vadbi in ne vaše osebne zgodovine klepetov, zato ne more ponoviti vaše edinstvene tonalnosti ali emojijev, ki jih običajno uporabljate.
Morda vas to ne zanima preveč, še posebej, če uporabljate umetno inteligenco za pisanje preprostih delovnih e-poštnih sporočil, za katera vsi bolj ali manj uporabljajo isto formalno tonaliteto. Vendar je pomemben veliko bolj, kot se morda zavedate, ko ga uporabljate za pogovor s prijatelji in družino v aplikaciji za sporočanje.
Dokler vam orodja umetne inteligence ne bodo omogočila urjenja njihovega jezikovnega modela na podlagi vaše zgodovine klepetov, ne bodo mogli posnemati vašega edinstvenega narečja in ekscentričnosti. Kljub temu tega izziva ni tako težko rešiti, zato ga bomo morda kmalu uresničili.
4. Pisanje dobrih pozivov zahteva čas
Doseganje želenih rezultatov od klepetalnega robota AI je močno odvisno od kakovosti vašega poziva. Če napišete slab poziv, boste prejeli slab odgovor in ga boste morali izboljšati, dokler ne dobite zadovoljivega rezultata.
Ta postopek je smiseln, ko želite napisati dolgo vsebino, vendar je izjemno neučinkovit pri pisanju več kratkih odgovorov v neformalnem pogovoru.
Čas, ki bi lahko trajal, da izboljšate svoje pozive in dobite uporabne odgovore, bo v večini primerov daljši od časa, ki bi ga potrebovali, če bi sporočila napisali sami.
5. AI lahko povzroči žaljive rezultate
Poleg natančnosti je pristranskost eden izmed največje težave z generativno AI. Nekateri ljudje dojemajo AI kot nepristransko, saj nima lastnih motivov. Vendar pa so ljudje, ki stojijo za temi orodji AI, navsezadnje ljudje s svojimi pristranskostmi.
Z drugimi besedami, pristranskost je vpeta v sistem. Umetna inteligenca sama po sebi ne razume, kaj se šteje za žaljivo in kaj ne, zato jo je mogoče na primer usposobiti biti pristranski do določenih skupin ljudi ali določenih kultur – s tem povzročiti žaljive rezultate v procesu.
6. AI morda ne bo razumel sarkazma ali humorja
Razumevanje figur govora, kot sta ironija in metafora, s strani umetne inteligence se sčasoma izboljšuje, vendar še zdaleč ni na točki, da bi jo lahko uporabili v pogovoru za prepoznavanje humorja. Na primer, ko so Googlovega Barda prosili, naj bo sarkastičen, so bili rezultati zadeti ali zgrešiti.
V nekaterih primerih je bilo resnično smešno in se je poigravalo z mojim sarkazmom. Toda v drugih primerih se je bodisi vrnil na nesmešen odziv v obliki piškotka ali pa ga je preprosto zavrnil v celoti sodelovati v pogovoru in rekel, da ker je to samo LLM, mi ne more pomagati pri poizvedbo.
7. Zanašanje na AI lahko povzroči slabo komunikacijo
Druga subtilna, a precejšnja težava pri vključevanju generativne umetne inteligence v aplikacije za sporočanje je, kako lahko vpliva na našo sposobnost komuniciranja. Če se vedno bolj zanašamo na umetno inteligenco, da se pogovarjamo drug z drugim, lahko to ovira našo sposobnost urimo svojo čustveno inteligenco in socialne veščine.
Bistvo tukaj je, da bolj ko svoje družbene potrebe oddajamo umetni inteligenci, slabše bomo prenašali ideje z organskimi sredstvi. Z drugimi besedami, bolj ko uporabljate AI za pogovor s svojimi stiki, večja je verjetnost, da boste poslabšali kakovost svojih odnosov.
Ni nujno, da ima vse AI
Pogosto smo s prihodom nove tehnologije tako zaposleni z ugotavljanjem, kako jo uporabiti, da se ne moremo prepirati, ali bi jo sploh morali uporabljati.
Medtem ko je povsem smiselno uporabljati generativno umetno inteligenco za pisanje e-poštnih sporočil, razmišljanje o zamislih ali ustvarjanje slik za predstavitve, njena integracija v aplikacije za sporočanje vabi veliko kritik.
