Dirbtinio intelekto grėsmės šešėlis persekioja žmoniją nuo pačios kompiuterių amžiaus pradžios. Iki šiol šios baimės buvo susijusios su mašinomis, naudojančiomis fizines priemones, skirtomis žudyti, pavergti ar pakeisti žmones. Tačiau per pastaruosius porą metų atsirado netikėtų naujų dirbtinio intelekto priemonių, kurios kelia pavojų žmonių civilizacijos išlikimui. Dirbtinis intelektas įgijo puikių gebėjimų manipuliuoti ir kurti – žodžiais, garsais ar vaizdais – kalbą. Šitaip dirbtinis intelektas įsilaužė į mūsų civilizacijos operacinę sistemą.
Kalba yra medžiaga, iš kurios sukurta beveik visa žmonijos kultūra. Pavyzdžiui, žmogaus teisės nėra įrašytos į mūsų DNR. Tai kultūriniai artefaktai, kuriuos sukūrėme pasakodami istorijas ir rašydami įstatymus. Dievai nėra fizinė tikrovė. Tai tėra kultūriniai artefaktai, kuriuos sukūrėme kurdami mitus ir rašydami šventraščius.
Pinigai taip pat yra kultūrinis artefaktas. Banknotai yra tik spalvoti popieriaus lapeliai, o šiuo metu daugiau nei 90 % pinigų net nėra banknotai – tai tik skaitmeninė informacija kompiuteriuose. Pinigams vertę suteikia istorijos, kurias apie juos pasakoja bankininkai, finansų ministrai ir kriptovaliutų guru. Samas Bankmanas-Friedas, Elizabeth Holmes ir Bernie’is Madoffas nebuvo labai geri tikros vertės kūrėjai, tačiau jie visi buvo ypač gabūs pasakotojai.
Kas nutiks, kai nežmogiškasis intelektas taps geresnis už vidutinį žmogų istorijų pasakojimo, melodijų komponavimo, paveikslų piešimo, įstatymų ir šventraščių rašymo srityse? Kai žmonės galvoja apie ChatGPT ir kitus naujus dirbtinio intelekto įrankius, jie dažnai pateikia moksleivių, naudojančių dirbtinį intelektą rašinių rašymui, pavyzdį. Kas nutiks mokyklų sistemai, kai vaikai pradės taip elgtis? Tačiau toks klausimas užgožia bendrą vaizdą. Pamirškite mokyklinius rašinius. Pagalvokite apie kitą Amerikos prezidento rinkimų kampaniją 2024 m. ir pabandykite įsivaizduoti, kokį poveikį turės dirbtinio intelekto įrankiai, kuriais galima masiškai kurti politinį turinį, netikrų naujienų istorijas ir naujų kultų šventraščius.
Pastaraisiais metais „QAnon“ kultas susitelkė aplink vadinamuosius Q drops – anonimines internetines žinutes. Sekėjai rinko, šlovino ir aiškino šiuos Q drops kaip šventą tekstą. Nors, kiek žinoma, visus ankstesnius Q drops rašė žmonės, o botai tik padėjo juos platinti, ateityje galime sulaukti pirmųjų kultų istorijoje, kurių šlovinamus tekstus sukūrė ne žmogaus intelektas. Religijos nuo seniausių laikų teigė, kad už jų šventųjų knygų slypi nežmogiškasis šaltinis. Netrukus šitai gali tapti tikrove.
Kalbant proziškiau, gali būti, kad netrukus galėsime internete ilgai diskutuoti apie abortus, klimato kaitą ar Rusijos invaziją į Ukrainą su esybėmis, kurias laikysime žmonėmis, nors iš tiesų jos bus dirbtinis intelektas. Problema ta, kad pastangos bandyti pakeisti dirbtinio intelekto boto skelbiamą nuomonę yra beprasmiškos, o štai dirbtinis intelektas gali kurti tokius tobulus pranešimus, kad turės daug galimybių mus paveikti.
Įvaldęs kalbą, dirbtinis intelektas netgi galėtų užmegzti intymius santykius su žmonėmis ir, naudodamasis intymumo galia, keisti mūsų nuomonę ir pasaulėžiūrą. Nors nėra jokių požymių, kad dirbtinis intelektas turi savo sąmonę ar jausmus, norint puoselėti netikrą intymumą su žmonėmis pakanka, kad dirbtinis intelektas galėtų priversti žmones jaustis emociškai prie jo prisirišusius. 2022 m. birželį „Google“ inžinierius Blake’as Lemoine’as viešai pareiškė, kad dirbtinio intelekto pokalbių robotas „Lamda“, prie kurio jis dirbo, pradėjo jausti. Dėl šio prieštaringai vertinamo teiginio jis prarado darbą. Įdomiausia šiame epizode buvo ne Lemoine’o teiginys, kuris turbūt buvo klaidingas. Jis buvo pasiryžęs rizikuoti savo pelningu darbu vardan dirbtinio intelekto pokalbių roboto. Jeigu dirbtinis intelektas gali paveikti žmones, kad šie dėl jo rizikuotų savo darbu, ką dar jis galėtų juos paskatinti daryti?
Politinėje kovoje dėl protų ir širdžių intymumas yra pats veiksmingiausias ginklas, o dirbtinis intelektas ką tik įgijo galimybę masiškai kurti intymius santykius su milijonais žmonių. Visi žinome, kad per pastarąjį dešimtmetį socialinė žiniasklaida tapo mūšio lauku siekiant kontroliuoti žmonių dėmesį. Su naująja dirbtinio intelekto karta mūšio frontas nutolsta nuo dėmesio ir pakrypsta link intymumo. Kas nutiks žmonių visuomenei ir žmonių psichologijai, kai dirbtinis intelektas kovos su dirbtiniu intelektu, siekdamas netikrų intymių santykių su mumis, kuriuos vėliau bus galima panaudoti norint mus įtikinti balsuoti už tam tikrus politikus ar pirkti tam tikrus produktus?
Net ir nesukūrus „netikro intymumo“, naujieji dirbtinio intelekto įrankiai turėtų didžiulę įtaką mūsų nuomonei ir pasaulėžiūrai. Žmonės gali pradėti naudotis vienu vieninteliu dirbtinio intelekto patarėju kaip nepamainomu, visažiniu orakulu. Nenuostabu, kad „Google“ yra išsigandusi. Kam vargintis ieškoti informacijos žiniatinklyje, jeigu galima tiesiog paklausti orakulo? Naujienų ir reklamos pramonės taip pat turėtų būti išsigandusios. Kam skaityti laikraštį, jeigu galima tiesiog paklausti orakulo, kad jis išdėstytų naujausias žinias? Ir kam reikalinga ta reklama, jeigu galima tiesiog paklausti orakulo, ką pirkti?
Tačiau ir šie scenarijai neatspindi bendro vaizdo. Tai, apie ką kalbame, gali būti žmonijos istorijos pabaiga. Ne istorijos pabaiga, o tik jos dalies, kurioje viešpatauja žmogus, pabaiga. Istorija yra biologijos ir kultūros sąveika; mūsų biologinių poreikių ir troškimų, tokių kaip valgis ir seksas, ir mūsų kultūrinių kūrinių, tokių kaip religijos ir įstatymai, sąveika. Istorija yra procesas, kurio metu įstatymai ir religijos formuoja valgį ir seksą.
Kas gi nutiks istorijos eigai, kai dirbtinis intelektas perims kultūrą ir pradės kurti pasakojimus, melodijas, įstatymus ir religijas? Ankstesni įrankiai, tokie kaip spausdinimo presas ir radijas, padėjo skleisti kultūrines žmonių idėjas, tačiau jie niekada nesukūrė naujų savų kultūrinių idėjų. Dirbtinis intelektas iš esmės yra kitoks. Dirbtinis intelektas gali sukurti visiškai naujas idėjas, visiškai naują kultūrą.
Iš pradžių dirbtinis intelektas turbūt pamėgdžios žmogiškuosius prototipus, pagal kuriuos buvo mokomas savo sukūrimo pradžioje. Tačiau su kiekvienais metais dirbtinio intelekto kultūra vis drąsiau žengs ten, kur dar nebuvo įžengęs nė vienas žmogus. Tūkstantmečius žmonės gyveno kitų žmonių svajonėse. Ateinančiais dešimtmečiais galbūt gyvensime svetimo intelekto svajonėse.
Dirbtinio intelekto baimė žmoniją persekioja tik pastaruosius kelis dešimtmečius. Tačiau tūkstančius metų žmones persekiojo daug didesnė baimė. Mes visada supratome pasakojimų ir vaizdų galią, sugebančią manipuliuoti mūsų protais ir kurti iliuzijas. Todėl nuo seniausių laikų žmonės bijojo būti įkalinti iliuzijų pasaulyje.
XVII a. René Descartes’as baiminosi, kad galbūt jį iliuzijų pasaulyje įkalino piktavalis demonas, sukurdamas viską, ką jis mato ir girdi. Senovės Graikijoje Platonas papasakojo garsiąją „Olos alegoriją“, kurioje grupelė žmonių visą gyvenimą tūno prirakinti oloje priešais tuščią sieną. Tai yra ekranas. Tame ekrane jie mato projektuojamus įvairius šešėlius. Kaliniai ten matomas iliuzijas painioja su tikrove.
Senovės Indijoje budistų ir hinduistų išminčiai pabrėžė, kad visi žmonės gyvena įkalinti Majos – iliuzijų pasaulio – spąstuose. Tai, ką paprastai laikome tikrove, dažnai tėra mūsų pačių proto pramanai. Tikėdami viena ar kita iliuzija, žmonės gali kariauti ilgus karus, žudyti kitus ir patys norėti būti nužudyti.
Dėl dirbtinio intelekto revoliucijos susiduriame su Descartes’o demonu, Platono ola ir Maja. Jeigu nebūsime atsargūs, galime atsidurti už iliuzijų skraistės, kurios negalėsime nusiplėšti arba net nesuvoksime, kad ji ten yra.
Žinoma, naująją dirbtinio intelekto galią galima panaudoti ir geriems tikslams. Nesigilinsiu į tai, nes žmonės, kuriantys dirbtinį intelektą, apie tai kalba pakankamai daug. Istorikų ir filosofų, tokių kaip aš, užduotis – atkreipti dėmesį į pavojus. Tačiau, be abejo, dirbtinis intelektas gali mums be galo padėti, pradedant naujų vaistų nuo vėžio kūrimu, baigiant ekologinės krizės sprendimų paieškomis. Klausimas, su kuriuo susiduriame, – kaip užtikrinti, kad naujieji dirbtinio intelekto įrankiai būtų naudojami geriems, o ne blogiems tikslams. Norėdami šitai padaryti, pirmiausia turime įvertinti tikrąsias šių priemonių galimybes.
Nuo 1945-ųjų žinome, kad branduolinė technologija gali gaminti pigią, žmonėms naudingą energiją, bet ji taip pat gali fiziškai sunaikinti žmonių civilizaciją. Todėl visą tarptautinę tvarką pertvarkėme taip, kad apsaugotume žmoniją ir užtikrintume, jog branduolinės technologijos pirmiausia būtų naudojamos geriems tikslams. Dabar turime kovoti su nauju masinio naikinimo ginklu, galinčiu pražudyti mūsų protinį ir socialinį pasaulį.
Vis dar galime reguliuoti naujus dirbtinio intelekto įrankius, tačiau turime veikti greitai. Atominės bombos negali išrasti galingesnių atominių bombų, o dirbtinis intelektas gali sukurti eksponentiškai galingesnį dirbtinį intelektą. Pirmas esminis žingsnis – reikalauti griežtų saugumo patikrinimų prieš leidžiant viešai naudotis galingais dirbtinio intelekto įrankiais. Kaip farmacijos bendrovė negali prekiauti naujais vaistais, kol neišbandytas jų trumpalaikis ir ilgalaikis šalutinis poveikis, taip ir technologijų bendrovės neturėtų išleisti naujų dirbtinio intelekto įrankių, kol jų saugumas nėra patvirtintas. Mums reikia Maisto ir vaistų administracijos [Food and Drug Administration] atitikmens naujų technologijų kontrolei ir, tiesą sakant, to reikėjo dar vakar.
Ar dėl to, kad viešai prieinamas dirbtinis intelektas bus reguliuojamas, demokratijos nepralaimės negailestingiems autoritariniams režimams? Kaip tik priešingai. Nereguliuojamas dirbtinio intelekto diegimas sukeltų socialinį chaosą, kuris būtų naudingas autokratams ir žlugdytų demokratijas. Demokratija yra pokalbis, o pokalbiai remiasi kalba. Dirbtiniam intelektui įsilaužus į kalbą, jis gali sunaikinti mūsų gebėjimą prasmingai kalbėtis ir pražudys demokratiją.
Ką tik susidūrėme su svetimo intelekto atstovais čia, Žemėje. Apie jį daug ko nežinome, išskyrus tai, kad jis gali sunaikinti mūsų civilizaciją. Turėtume sustabdyti neatsakingą dirbtinio intelekto įrankių diegimą viešojoje erdvėje ir reguliuoti dirbtinį intelektą, kol jis dar nereguliuoja mūsų pačių. Pirmasis reguliavimas, kurį siūlyčiau, – nustatyti, kad dirbtinis intelektas privalėtų atskleisti, jog jis yra dirbtinis intelektas. Jeigu kalbėdamasis su kitu negaliu pasakyti, su kuo – žmogumi ar dirbtiniu intelektu – aš kalbuosi, tuomet tai jau yra demokratijos pabaiga.
Šį tekstą sukūrė žmogus.
O gal ne?
Iliustr. aut. Jessai Flores
Yuval Noah Harari
Parengė ir vertė Linas J. Jankauskas
„Yuval Noah Harari argues that AI has hacked the operating system of human civilisation”
[Yuval Noah Harari – istorikas, filosofas, knygų „Sapiens“, „Homo deus“ ir knygų serijos vaikams Unstoppable Us („Mes nesustabdomi“) autorius. Jis yra Jeruzalės žydų universiteto istorijos fakulteto dėstytojas ir vienas iš socialinio poveikio bendrovės „Sapienship“ įkūrėjų.]