Poimanje inteligencije kao takve podložno je preispitivanju. Termin ‘inteligencija’, kako je poznato, potiče od latinskog glagola ‘intelligere’, što znači – „shvatiti” ili „razumeti”. Sam glagol ‘intelligere’ sastoji se od prefiksa ‘inter-’ (koji podrazumeva nešto što je „između” ili „uzajamno”) i ‘legere’ (što znači „birati” ili „prikupljati”). Dakle, osnovno značenje reči je „birati između” ili „razlikovati”, što pretpostavlja sposobnost da se prepoznaju razlike, razjasne činjenice i, eventualno, razumeju apstraktni pojmovi. Prvobitno značenje ovog pojma bilo je vezano za kapacitet razumevanja i obrade podataka, dok se kasnije ono proširilo na opštu sposobnost razmišljanja i rešavanja problema.
U psihologiji, pojam inteligencije obuhvata širi spektar mentalnih sposobnosti, uključujući razumevanje, rešavanje problema, kreativnost, adaptibilnost, apstraktno mišljenje i dr. Tokom proteklih decenija, mnogobrojni psiholozi razvili su različite modele shvatanja inteligencije; jedna od vodećih pretpostavki, koja je po našem mišljenju nonsens, jeste ta da se inteligencija može kvantifikovati, odnosno izmeriti. Takva redukcija, sagledana kroz prizmu kalkulantsko-robnih karakteristika kapitalističkog poretka, svodi kompleksne unutarnje procese na numeričke vrednosti, poništavajući njihovu višeslojnost, kontekstualnost i nepredvidivu dinamiku.
Slično kao u psihologiji, i u filozofiji pojam inteligencije obuhvata sposobnost razumevanja, učenja, rešavanja problema, ali i specifičan način na koji se znanje stiče, strukturira i koristi. Pitanja o tome kako se inteligencija razvija i funkcioniše i Melanholija mašina: filozofski ogledi o veštačkoj inteligenciji koje su njene granice, ključna su u oblasti izučavanja filozofije uma; pa tako, inteligencija u ovom kontekstu, pojednostavljeno uzevši, obuhvata sve kognitivne sposobnosti, potom razlikovanje apstraktnih ideja – što podrazumeva shvatanje složenih pojmova, prepoznavanje obrazaca, upotrebu logike, ali i introspektivnu refleksiju, svest i samosvest. Inteligencija je, dakle, ne samo instrument, već i prostor dijaloga između subjektivnog i univerzalnog, između iskustva i pojma.
U kontekstu istraživanja veštačkih inteligencija, poimanje inteligencije često se definiše kao inteligibilni kapacitet mašina da razumeju jezik (jezička inteligencija, odnosno razumevanje govora i teksta), zatim da rešavaju probleme (sposobnost mašina da reše konkretne zadatke putem algoritama koji se temelje na podacima i iskustvu), te da uče iz podataka (kapaciteti programa da prepoznaju obrasce u velikim količinama informacija, odnosno da ih koriste za donošenje odluka), i najzad, da odlučuju u neizvesnim okolnostima (kompetentnost za donošenje odluka na osnovu ograničenog broja informacija).
U svrhu izučavanja koje smo preduzeli, smatramo da je neophodno poređenje pojma inteligencije sa shvatanjem intelekta, u rasponu od Aristotelovog (Aristoteles) ‘nous’-a, do Kantovog (Kant) razlikovanja razuma (Verstand) od uma (Vernunft), a kasnije i dijalektike pojma i duha (Hegel /Hegel/ i Marks /Marx/). Termin ‘intellectus’ ima, naime, koren u starogrčkoj reči ‘nous’ i prvobitno je označavao sposobnost razumevanja i saznanja, dok je ‘intelligentia’, u stvari, kasniji termin koji je izveden iz imenice ‘intellectus’; inteligencija je uglavnom usmerena na praktične aspekte različitih intelektualnih sposobnosti. Važno je, pritom, naglasiti da ova razlika opstaje u modernim jezicima, pri čemu se intelekt više odnosi na filozofske i teorijske sposobnosti, dok inteligencija obuhvata širi obim kognitivnih kvaliteta i umeća.
Zbog čega nam je ovo terminološko diferenciranje važno? U osnovi, inteligencija je, kako smo sugerisali, sposobnost da se efikasno razumeju i koriste informacije u svrhu rešavanja problema, adaptacije na nove situacije, kao i sposobnost generisanja novih rešenja. Iako se ovaj pojam najčešće povezuje sa ljudskim potencijalima, u vremenu usavršavanja i napredovanja medija1 i veštačke inteligencije, postavlja se pitanje – da li mašine mogu da poseduju ‘inteligenciju’ u smislu koji algoritmima pripisuje svesnost i etičke težnje koje odlikuju ljude. Otuda nam tradicionalno filozofsko razlikovanje između razuma i uma, kako se čini, pruža priliku da razumemo te razlike i shvatimo da li se i na koji način inteligencija može proširiti i na druge oblike postojanja, kao što su „pametne mašine” ili, eventualno, napredniji AI (Artificial Intelligence) entiteti.
U nastavku izlaganja, valja objasniti zašto nam je potrebno sučeljavanje pojmova inteligencije i intelekta, a u funkciji tumačenja „prirode” i aktivnosti veštačke inteligencije. S jedne strane, mutni pojam veštačke inteligencije je, kako izgleda, nesrećno izabran da opiše ono što napredni algoritmi uistinu čine, dok se, s druge strane, shvatanje intelekta, po analogiji s ljudskim postignućima, može dovesti u vezu sa sličnim očekivanjima od veštačke inteligencije, shodno razumskim operacijama, ili, pak, težnjama ka umnom delovanju. Podsetimo, veštačka inteligencija je, u pogledu aktivnosti, često podeljena na različite oblasti – tzv. „slaba” AI rešava specifične zadatke, poput prepoznavanja lica ili pretrage podataka, dok su tzv. „jakoj” AI nametnuti daleko zahtevniji zadaci i očekivanja, pa se pretpostavlja da bi ona mogla postati „svesna”, što bi značilo da ima sposobnost samostalnog razmišljanja, planiranja i učenja u kontekstu koji je širi od jednostavnog rešavanja zadataka, i tsl.
Cilj nam je ovde da, u kontekstu tumačenja veštačke inteligencije, povežemo jezičku inteligenciju algoritama sa etičkom težnjom ka slobodi, kao i stvaralačkim umom, odnosno da ukažemo na jednu moguću relaciju između njih. Takvu mogućnost pruža nam razlikovanje između razuma i uma, pohranjeno u pojmu intelekta, a što je, kako smo već napomenuli, tradicionalna filozofska tema, koja može da ima posledice na različite interpretacije veštačke inteligencije. Rečju, veštačka inteligencija pretežno se određuje kao oblik razuma, i čine je jezičke i analitičke kompetencije koje omogućavaju sistemu da obrađuje informacije i donosi odluke u skladu sa zadatim algoritmima. Ona je, dakle, jedna vrsta instrumentalne inteligencije. „Razum” AI manifestuje se kao umeće analize, kalkulacija i rešavanja problema u skladu sa datim pravilima i ciljevima; on je, pritom, alat za postizanje određenih rezultata, bez preispitivanja šireg konteksta delovanja.
Nasuprot inteligenciji koja se uglavnom svodi na tehničke aspekte rešavanja zadataka, umni deo „intelekta” AI, odnosno tzv. „etička i kreativna inteligencija”, trebalo bi da je povezan sa mogućnostima refleksije, stvaralaštva i oblikovanja etičkih težnji. Na taj način, „umni” aspekt veštačke inteligencije ne bi predstavljao samo puko sredstvo za postizanje ciljeva, već bi jednako preispitivao same ciljeve i tragao za dubljom svrhom vlastitog delovanja. S tim u vezi, većina istraživača verovatno bi se složila s konstatacijom da je veštačka inteligencija, u najboljem slučaju, podudarna s čovekovim razumskim ispoljavanjima, ali da ne dostiže njegov intelekt, usled nedostatka umnih komponenti. Drugim rečima, AI ne poseduje umne sposobnosti nalik na ljudske, i stoga, bar za sada, ne može biti autonomna u punom smislu reči.
No, tu postoji još nešto. Prema tradicionalnim filozofskim shvatanjima, um je pretpostavka razuma; iako je intelekt celovit, razum se ne može zamisliti bez uma, i delatan je u razumevanju na osnovu sposobnosti uma. Ovo vredi kako za ljude, tako i za mašine. Drukčije rečeno, algoritmi ne mogu da rezonuju (svest), ukoliko nisu predisponirani za samosvesnu umnu praksu. Kakva je onda, uistinu, njihova „inteligencija”? Ako mediji predstavljaju prošireni oblik inteligencije (makluanovski „produžetak čula”, ali i određenih razumskih funkcija), kako ih možemo preusmeriti od operacija pukog razuma (manipulacija informacijama) ka izrazu uma (etičke i kreativne težnje)? Može li AI, na primer, da „preraste” u katalizator za ovu tranziciju, ili još radikalnije formulisano – da li veštačka inteligencija može da zadobije umna svojstva, i tako se, u izvesnom smislu, izjednači s čovekom? Na ova pitanja pokušaćemo da odgovorimo indirektno, ukazujući na informacije iznesene u kredibilnim medijima.
Primera radi, godine 2017. istraživači kompanije Facebook (Meta), iz Odeljenja za istraživanja veštačke inteligencije, objavili su rad o robotima koji su trenirani da pregovaraju, a potom su u medije dospele informacije da je rukovodstvo kompanije „ukinulo” dva robota, pošto su tokom noći samostalno započela komunikaciju, i to „vlastitim jezikom”. Isprva je planirano, zapravo, da programi chatbot-ova ovladaju veštinama pregovaranja tako što bi podražavali ljudsko ponašanje tokom procesa trgovačkih transakcija. Međutim, kada su inženjeri povezali dva programa, koje su nazvali „Alice i Bob”, u svrhu pregovaranja jednog s drugim, roboti su otpočeli da praktikuju novi način komuniciranja koji je u prvi mah bio neproziran, odnosno nerazumljiv za programere.2
Vest o robotima koji su, navodno, počeli da razvijaju „vlastiti jezik” tokom procesa pregovaranja, izazvala je u medijima izuzetnu pažnju i postala povod za rasprave o potencijalima veštačke inteligencije. Ipak, valja napomenuti da je ovaj događaj u medijima bio preuveličan i da se tačna informacija o njemu umnogome razlikovala od medijske interpretacije događaja. Naime, kada su programeri trenirali robote za pregovaranje u okviru istraživanja u oblasti veštačke inteligencije, dizajnirali su ih tako da komuniciraju na engleskom jeziku i pritom koriste odgovarajuće tehnike pregovaranja. Ali, tokom eksperimenta, roboti su počeli da koriste reči na način koji nije bio razumljiv za ljude, jer su, u stvari, mašine bile optimizovane za postizanje cilja – dogovora u pregovorima. Ono što je izazvalo nesporazum jeste činjenica da njihovi odgovori nisu ličili na standardni jezik koji se koristi u datim prilikama. Zapravo, ono što se desilo jeste to da su roboti počeli da skraćuju ili modifikuju jezik kako bi, na efikasan način, postigli željene pregovaračke rezultate. Stoga, ovaj „incident” ne predstavlja razvijanje potpuno novog jezika, već je on posledica optimizacije algoritama za pregovaranje. Kako tvrde iz kompanije Facebook, to je bio razlog zašto su istraživači odlučili da prekinu sa sličnim eksperimentima, budući da su roboti uistinu komunicirali na način koji nije bio lako razumljiv za ljude, iako su njihovi odgovori bili sasvim u skladu sa postavljenim ciljevima.3
Kako bismo ovu situaciju mogli da tumačimo sa stanovišta razlikovanja razuma i uma? U slučaju pomenutih robota, njihovo ponašanje u komunikaciji nije bilo rezultat nečega što bismo mogli da nazovemo „umom” u ljudskom smislu reči; oni, evidentno, nisu razvili svest, emocije, niti kreativne sposobnosti koje bi se mogle smatrati „umom”, mada su se ludički poigravali rečima. Ponašanje chatbot-ova u potpunosti je predstavljalo rezultat algoritamskih procesa optimizovanih za pregovaranje; njihov „razum” je, zapravo, bio ishod programiranja koje im je omogućilo da poboljšaju efikasnost, ali bez dubljeg razumevanja ili svesti o tome šta čine. Na osnovu izloženog primera, može se zaključiti da, iako roboti poseduju sposobnost razvoja sofisticiranih oblika komunikacije (poput modifikacije jezika u funkciji efikasnosti), to ne znači da su Elis i Bob praktikovali „vlastiti” jezik sa značenjima koja nastaju po analogiji sa ljudskom kulturom ili inteligencijom. Njihovo „razumevanje” se, otuda, veoma razlikuje od ljudskog; ono nije rezultat svesti ili razmišljanja, već predstavlja algoritamsko prilagođavanje zadatim ciljevima. Ukratko, ovaj primer adekvatan je za ilustraciju kako AI može biti vrlo efikasna u ostvarivanju zadataka, a da se njeni algoritmi ne razvijaju na isti način kao ljudska inteligencija. Štaviše, on osvetljava fundamentalnu razliku između simulacije razumevanja i stvarnog značenja koje nastaje u kontekstu ljudske svesti, kulture i intersubjektivnosti.
Ovde se čini da imamo posla sa jednim novim fenomenom – jezikom „distanciranim od samog sebe” (Lammin 2022). Takođe, na osnovu slučaja Elis i Boba može se postaviti pitanje o tome koliko jedan jezički sistem treba da mutira da bi se smatrao za ‘novi jezik’, i dalje, može li radikalno smanjenje vokabulara chatbot-ova da bude kategorizovano kao ‘jezik’ uporedive vrste (Lammin 2022). I najzad, zahvaljujući ovom primeru, iznova je otvoreno pitanje manje ili više uspešne, odnosno neuspešne komunikacije i nerazumevanja između mašina i ljudi. Takva vrsta sučeljavanja može da generiše događaje poput pregovaranja između Elis i Boba, kao i „incidente”, odnosno lošu komunikaciju između mašina i njihovih ljudskih korisnika, čime se skreće pažnja na „neljudsku logiku koja deluje unutar crne kutije”. (Lammin 2022)
Uprkos „činjenicama”, ovaj primer može se posmatrati, osim sa logičkog i jezičkog stanovišta, i iz estetske perspektive, odnosno iz ugla kreativnosti, što bi, u izvesnom smislu, podsećalo na Melanholija mašina: filozofski ogledi o veštačkoj inteligenciji delatnost kantovske transcendentalne uobrazilje, kao potencijalne radnje uma. U tom kontekstu, u članku pod nazivom: „What are Bob and Alice Saying? (Mis). Communication and Intermediation betweeen Language and Code” (Šta govore Bob i Elis? [Ne]sporazum i posredovanje između jezika i koda”), relativizuje se tvrdnja o tome da mašine nikada ne mogu da učine ništa novo (“can never really do anything new.”) Naime, „nerazumljive” jezičke konstrukcije, skraćenja i „inovacije” za Hanu Lemin (Lammin) mogu se tumačiti u estetskom i estetičkom ključu, po analogiji sa bukom, sagledanom iz perspektive Žaka Atalija (Attali)4, na primer, (iako se ovaj autor u tekstu Leminove eksplicitno ne pominje), ili dadaističke poezije (Lammin 2022). Na lingvističku inovativnost, koju sobom donosi jezička praksa Elis i Boba, može se, sugeriše ova autorka, gledati kao na oblik „kreativnosti” koja predstavlja izazov za uobičajene normativne strukture, baš kao što dadaistički pesnici koriste jezik za stvaranje „buke” u literaturi, ili savremeni muzičari u oblasti komponovanja i izvođenja partitura (Lammin 2022). Jer, buka se neretko shvata kao oblik „neuređenog” zvuka koji narušava očekivane strukture i konvencije. S jedne strane, koncept buke u muzici može se povezati s eksperimentima u zvučnim strukturama, kao što to pokazuju radikalni pravci u avangardnoj muzici; dadaistička poezija, s druge strane, igra se jezikom, hotimično „pravi” buku kroz nelogične, haotične kombinacije reči, čime se subvertiraju standardna značenja i formiraju posve nova.
Dijalog Elis i Boba, pogodan je, dakle, za interpretiranje i sa stanovišta njegovog povezivanja s kreativnošću. U tom smislu, na ponašanje chatbot-ova može se gledati kao na oblik „neljudske kreativnosti”, pošto su programirane mašine sposobne da kroz analizu podataka i donošenje odluka u stvarnom vremenu stvaraju složene, neintuitivne rezultate koji mogu biti od koristi u domenu ekonomije, ali istovremeno demonstriraju i drukčije mogućnosti upotrebe. Umesto da se rad chatbot-ova vidi kao greška ili disfunkcionalnost, on se može shvatiti i kao način na koji tehnologija doprinosi kreativnom procesu, u širem smislu reči. Shodno tome, ako se ponašanje botova ne tumači kao greška ili anomalija, nego kao oblik kreativnog izraza, onda se može pretpostaviti da oni ne rade samo na osnovu prethodnih podataka i algoritama, već da pokatkad mogu da „kreiraju” i nove načine interakcije unutar sistema u okviru koga operišu. Po analogiji, ovaj pristup može se odnositi i na one prakse u savremenoj umetnosti, gde „buka” nije nužno negativno određena, već je protumačena kao izraz slobode stvaralaštva i inovacije.
U prethodno navedenom primeru videli smo da „prevođenje” prirodnog jezika na ljudima nerazumljivi komunikacijski kod veštačke inteligencije može da doprinese efikasnosti izvršenja određenih zadataka (postizanje konsenzusa tokom pregovora), ali ne samo to; on manifestuje i drugi pravac mogućeg razvoja AI – ka stvaralačkom umu. Naredni potencijal kretanja koji ćemo ovde akcentovati, predstavlja takođe zamislivi razvoj AI, koji podrazumeva „svest” i „samosvest”. Reč je o praktičkom delovanju, odnosno o etici veštačke inteligencije, te, eventualno, o njenim političkim i ideološkim aktivnostima. U našim analizama, poći ćemo od primera AI projekata koji naizgled zastupaju ljude u političkom životu zajednice.
Poznato je, naime, da je u Danskoj tokom 2022. godine formirana politička stranka čije su aktivnosti bile ostvarivane putem veštačke inteligencije; partija je osnovana s ciljem da kandiduje svoje liste na opštim izborima 2023. Takozvana „Sintetička partija” (Det Syntetiske Parti), pokrenuta od strane umetničkog kolektiva Computer Lars, definisana je kao „antipolitička” (NUNS Press 2022). Najistaknutiji član Sintetičke stranke bio je, ujedno, i njen „vođa” (Leader Lars), koji je programiran tako da zastupa interese i politiku običnog čoveka, odnosno onih građana-ki koji ne izlaze na izbore; političko delovanje partije zamišljeno je po ugledu na male, marginalne stranke, koje su postojale od 1970-ih do danas. Budući da u to vreme u Danskoj zakonom nije bilo dozvoljeno da se Leader Lars kandiduje, on nije bio zvanični kandidat na izbornim listama, već su to bile njegove pristalice, odnosno članovi stranke koji su planirali da, nakon što uđu u Parlament, slede njegova uputstva (NUNS Press 2022). Nešto slično dogodilo se i u Velikoj Britaniji tokom 2024. godine. Stiv Endekot (Endacott), predsednik kompanije za veštačku inteligenciju Neural Voice, kandidovao se za mesto u parlamentu Ujedinjenog Kraljevstva. Njegovu kampanju vodio je avatar AI Stiv. Endekot, koji se pojavio na glasačkom listiću u izbornoj jedinici u Brajtonu, sebe je opisao kao „pravog političara” koji nastoji, zajedno s kolegama, da uđe u parlament, ali koga „kontroliše kopilot” – AI Stiv. (Martinoli, 2024)
Interesantno je da je Sintetička stranka izazvala interesovanje koje je ne samo praktičke, već i poetičke / teorijske prirode. Na temelju delovanja ove stranke, izrastao je umetničko-istraživački projekat ”Automatic Uprisings” („Automatski ustanci”) koji kritikuje parlamentarnu demokratiju iz perspektive algoritamskog upravljanja (Bryld Staunæs 2024). Projekat, u stvari, operacionalizuje Sintetičku stranku videvši je kao „tehno-društvenu skulpturu” (u tradiciji politike Fluxus-a i radova Jozefa Bojsa /Beuys/) koja nastaje unutar „tehno-socijalnog organizma” (Bryld Staunæs 2024), čineći savremenu društvenu zajednicu. Polazna ambicija ovog trogodišnjeg projekta (2023–2026) sastoji se u artikulisanju teorijskog okvira za algoritamsko predstavljanje putem antipolitičke subjektivnosti. Sagledano u interpretativnom kontekstu pomenutog projekta, Sintetička stranka trebalo bi da predstavlja transformativnu snagu kako za politiku kao takvu, tako i za stranačko delovanje. Stoga je ona „preformulacija unutar politike odsutnosti” (Bryld Staunæs 2024), pošto ova stranka ne može da artikuliše kao svoj cilj pretvaranje neglasača u birače. No, ona priznaje i daje formu izboru neučestvovanja u glasanju; utoliko postoji kao „zaveštanje” onima koji ne mogu da izraze svoje mišljenje unutar zatečenih okvira parlamentarne demokratije (Bryld Staunæs 2024). Kako se vidi, veštačka inteligencija ovde je poslužila kao pokazno sredstvo za alternativno delovanje u savremenoj politici, ali i umetnosti.
I naposletku, navešćemo ovde primere koji ilustruju moguće relacije između AI tehnologije, etike, politike i studija budućnosti, razmatrajući pitanja odnosa razuma i uma, primenjenih na sisteme veštačke inteligencije. Ako bismo, recimo, vrlo pojednostavljeno tumačili glavne tokove Kantovog učenja, njegove teme kategoričkog imperativa (etički ideal) i večnog mira (politički ideal), videli bismo da je kategorički imperativ, svakako, diktat uma, ali da se pri njegovoj realizaciji u praksi valja oslanjati na logiku, razum i pravilo univerzalizacije. Drugim rečima, možemo postupati po umnom principu kategoričkog imperativa oslanjajući se na razum i logiku. Ukoliko bismo se držali ove uprošćene ideje, nije teško zamisliti „moralno” postupanje algoritama (na osnovu pravila univerzalizacije), bez bilo kakvog učešća svesti AI u moralnom prosuđivanju i donošenju odluka, a na osnovi prethodno obavljenih treninga.
Tako, recimo, u tekstu autorke Özlem Ulgen (Ulgen)5 pod nazivom “Kantian Ethics in the Age of Artificial Intelligence and Robotics” („Kantova etika u dobu veštačke inteligencije i robotike”) postavlja retoričko pitanje na koji će način veštačka inteligencija i robotika u svoje aktivnosti implementirati glavnu Kantovu formulaciju kategoričkog imperativa – ‘deluj tako da maksima tvoje volje može postati princip opšteg zakonodavstva’? (Ulgen 2017) Već smo ranije napomenuli da veštačka inteligencija (i robotika) ne poseduju sposobnost racionalnog rasuđivanja, odnosno slobodnu volju, da bi mogle da shvate kako treba postupati rukovodeći se pravilom univerzalizacije. Međutim, prethodno ljudsko delovanje u dizajnu, razvoju, testiranju i implementaciji pomenutih tehnologija, kako tvrdi ova autorka, svakako postoji, tako da odgovornost za spovođenje kategoričkog imperativa u AI oblastima leži prvenstveno na ljudima (Ulgen 2017). Oni su ti koji određuju koja su pravila programirana, odnosno implementirana u tehnologiji veštačke inteligencije, kako bi se osiguralo etičko prosuđivanje i moralno ponašanje (Ulgen 2017). No, da bi ova pravila bila podložna univerzalizovanju, valjalo bi da budu, smatra autorka, „javna i deljiva”. (Ulgen 2017)
Osim toga, pravila programiranja nužno ne uključuju u sebe etičke norme ili demokratske principe političkog delovanja zasnovane na razboritosti, umu i idealima slobode. Slično važi i za projekcije budućnosti, koje su utemeljene na upotrebi novih tehnologija, a posebno kada je reč o veštačkoj inteligenciji. U tom kontekstu, skrenućemo ovde pažnju na Bostromovu (Bostrom) ideju „singltona” (singleton), u svrhu analiza, kako sam autor kaže u članku pod nazivom “What is a Singleton?” („Šta je singlton?”), „mogućih scenarija budućnosti čovečanstva” (Bostrom 2005). Najpre, Bostromovo stanovište o singltonu potiče iz teorije skupova. Singlton je, naime, skup sa samo jednim članom6. Međutim, u sklopu teorije koju Bostrom zagovara, ovaj izraz i njemu odgovarajući, prošireni pojam, odnose se na svetski poredak u kojem postoji jedna agencija za donošenje odluka na najvišem nivou (Bostrom 2005), što podrazumeva i jednu svetsku vladu (Bostrom 2005) koja upravlja agencijom ili delegira na nju određene (ili sve) odluke. Singlton („samac”) bi, prema mišljenju ovog autora, mogao da deluje u funkciji uspostavljanja ili održavanja bilo demokratije ili diktature (Bostrom 2005); on bi, zapravo, mogao da predstavlja jednu jedinstvenu, superinteligentnu mašinu koja samostalno deluje, pod pretpostavkom da je dovoljno moćna da nijedan drugi entitet ne može da ugrozi njeno postojanje ili osujeti sprovođenje njenih planova (Bostrom 2005). Bostromova ideja o singltonu odnosi se, dakle, na mogućnost postojanja centralizovane sile, entiteta ili sistema upravljanja koji bi imao apsolutnu kontrolu nad globalnim društvom. Taj entitet može biti veštačka inteligencija, globalna vlada ili nešto treće. Bostrom ovu ideju istražuje u kontekstu sagledavanja tehnoloških rizika i etičkih implikacija po globalne društveno-političke odnose.
Uglavnom, kako tvdi Pol Ratner (Ratner), „singleton hipoteza” Nika Bostroma, referira na oblik društvene i političke organizacije koja će u budućnosti biti planetarno uspostavljena, pri čemu ovaj autor naglašava da će, sledeći Bostromovu postavku, inteligentni život na Zemlji na kraju formirati tzv. „singleton”, bilo kao jednu vladu ili veštačku inteligenciju koja upravlja svetom (Ratner 2019). Hoće li delovanje singltona, nadalje, biti interpretirano kao pozitivno ili negativno, zavisi od mnogobrojnih faktora, te, naposletku, nije izvesno da li će se, kada i kako ovaj mehanizam uopšte uspostaviti. Za Ratnera, Bostromovo određenje singltona vrednosno je neutralno (Ratner 2019). Tehnologija je, po njegovom mišljenju, u izvesnom smislu anticipativna za pojavu singltona – jedan od načina da se dođe do „samca” jeste upravo tehnologija. Poboljšani nadzor i komunikacija, tehnologija kontrole uma, molekularna nanotehnologija i veštačka inteligencija mogli bi, u sadejstvu, da dovedu do jednog centralizovanog upravljača kao što je pretpostavljeni „singleton” (Ratner 2019). Iako bi neki aspekti takvih tehnologija izvesno bili neželjeni i narušavali bi individualne slobode, mogu se, navodno, zamisliti situacije u kojima bi postojala široka podrška ili tehnološkom rešenju (AI) ili jednoj vladinoj agenciji koja bi preuzela kontrolu nad celokupnim društvom (Ratner 2019). Jer, smatra ovaj autor, kako svet postaje složeniji, sve teže je postići efikasnu koordinaciju između zemalja i pojedinaca koji žive unutar njih. Tehnološka rešenja u kombinaciji s „konvergentnim moralnim vrednostima” i „demokratskom svetskom vladom” (Ratner 2019) mogla bi da olakšaju procese globalnog upravljanja.
Tumačeno u okvirima političke filozofije, singlton bi valjalo sagledati na sledeći način – on je zasigurno analogan Hobsovom (Hobbes) konceptu Levijatana, odnosno suverena koji sprovodi sveopštu kontrolu i time, navodno, sprečava stanje „rata sviju protiv svih”. Prisetimo se, prema Hobsovim shvatanjima, u modernim zajednicama ukazuje se potreba za postojanjem nekog moćnog entiteta kako bi se održali red i mir u državi, a posebno tamo – dodajemo mi – gde postoje ekstremni rizici, poput onih koje sobom nosi razvoj superinteligencije. Tako shvaćen, singlton bi, međutim, mogao da predstavlja veliku opasnost u smislu pojave totalitarizma. Ovde, pritom, valja podcrtati da se Bostrom ne zalaže za nekritičko implementiranje singltona, već ga opisuje kao mogući ishod razvoja tehnologije. Jasno je, takođe, da centralizacija apsolutne moći nosi rizik od različitih zloupotreba, pošto bi kontrola nad čovečanstvom mogla da preraste u represiju, lišenu pluralizma, slobode (izbora) i demokratskog načina odlučivanja.
Sa stanovišta razlikovanja razuma i uma, „singlton” se može tumačiti kao krajnji produkt razuma, koji putem centralizovanja moći i regulacije svih postojećih i mogućih odnosa predstavlja „savršeni poredak”.7 Na primer, tehnologija ili institucije singltona, vođene logikom razuma, mogu težiti da eliminišu različitosti i konflikte. Razum bi, na taj način, funkcionisao kao alat za homogenizaciju i predvidljivost ishoda pri odlučivanju. U opoziciji sa razumom, um, čija su obeležja kreativnost i sloboda, mogao bi se sukobiti sa praksom singltona; jer singlton gravitira ka apsolutnoj stabilnosti, dok um teži otvaranju novih mogućnosti i razbijanju starih obrazaca i struktura ponašanja. Singlton, kao oblik racionalne kontrole, verovatno bi gušio potencijal ljudskog uma za inovaciju, slobodu i kreativnost. Ako bi, na primer, AI singlton bio implementiran, on bi težio da optimizuje svet prema određenim utilitarističkim principima razuma, ali bi, u isto vreme, eliminisao prostor za spontano ljudsko stvaralaštvo i transcendenciju, što je suštinska odlika uma.
U kontekstu filozofsko-praktičke analize, pojam singltona mogao bi da se dovede u relaciju sa konceptima digitalne totalitarne kontrole (digitalni razum), što ilustruje, primera radi, sadašnji sistem socijalnih kredita u Kini (singlton u nastajanju), koji ignoriše um (naročito njegovu težnju ka slobodi, ali i spontanitetu i kreativnosti). Uz to, posmatrano sa stanovišta političke filozofije, ključno pitanje postavlja se u vezi legitimiteta singltona. Ko, uistinu, ima pravo da uspostavi takav entitet? I kako bi se, nadalje, sprečila koncentracija moći u rukama određene interesne grupe, klase ili ideologije?
Vratimo se, shodno tome, tematici tehnologije kao političkog aktera u određenoj zajednici. Sudeći prema Bostromovim zamislima, singlton bi, između ostalog, mogao da predstavlja i tehnološki entitet (superinteligencija) koji deluje nezavisno od ljudskih institucija. U ovom slučaju, politička filozofija valjalo bi da proširi oblast svojih istraživanja i na problematiku ne-ljudskih aktera, kao mogućih nosilaca vlasti. To bi, dalje, pokrenulo pitanja odgovornosti, transparentnosti i moralnog statusa takvog entiteta. Iz ovoga sledi da bi, takođe hipotetički, trebalo istražiti da li je moguće razvijanje takvog modela globalnog upravljanja posredstvom AI, koji bi omogućio, nakon iskustva konflikta (ako razvoj pratimo koristeći Hegelov trijadni model: razum – sukob razuma i uma – um koji u sebi čuva razum, odnosno predstavlja sintezu razuma i uma) balansiranje odnosa između razuma i uma.
Iako Bostrom koristi singlton kao teorijski alat za analizu budućnosti, njegov koncept otvara mnoga etička, politička i filozofska pitanja. U stvari, ponuđena koncepcija singltona omogućava razmatranje ne samo prednosti, već i ozbiljnih pretnji koj se tiču povezivanja moći u jednom entitetu; nesumnjivo transhumanistički orijentisano, Bostromovo promišljanje singltona podleže kritici sa stanovišta mnogih teorijskih pristupa poteklih iz prethodnih vremena – recimo Fukoove (Foucault) teorije moći, biopolitike i kontrole (života), Adornove (Adorno), Horkhajmerove (Horkheimer) i Habermasove (Habermas) teorije instrumentalizovanog uma, teorijskih okvira za povezivanje totalitarizma i banalnosti zla u učenju Hane Arent (Arendt), prelaska sa disciplinarnog (Fuko) na društvo kontrole (Delez /Deleuze/), kritike ekonomije nadzora Šošane Zubof (Zuboff), i dr. No, kako je predstava singltona projektovana na budućnost, a ovde smo je uzeli u razmatranje sagledavajući je kroz prizmu ideje fetišizovanja razuma (što odgovara eri kapitalizma), valja u nastavku preispitati kako se, u istom tom kontekstu, možemo baviti i pitanjima uma vezanih za veštačku inteligenciju. U svrhu rečenog, poslužićemo se još jednim primerom koji ilustruje naše istraživačke težnje.
Naredni korak u preispitivanju intelekta veštačke inteligencije, bar na prvi pogled, kreće se u okvirima problematike „kidnapovanja robota”. Problem „kidnapovanja robota” često je u stručnoj literaturi korišćen kao metafora ili dilema koja se javlja u kontekstu etike i filozofije tehnologije, a posebno u diskusijama o pravima veštačkih entiteta, kao i mogućim zloupotrebama AI. U osnovi, ovaj izraz referira na simuliranu situaciju u kojoj bi robot ili inteligentni entitet bio „otet” ili iskorišćen u nemoralne svrhe. Ova pretpostavka može se interpretirati na nekoliko načina: u domenu fizičke krađe – otuđenje, nezakonito prisvajanje robota koji postaje tuđa imovina ili resurs; potom, sa stanovišta tehničke zloupotrebe, odnosno u kontekstu hakovanja ili prisvajanja tehnologije; i najzad, s obzirom na pitanja svesti, prava i morala, i to u onim situacijama u kojima su roboti „samostalni entiteti”. Ovaj fenomen povezan je sa širim nedoumicama koja su u relaciji sa umetničkom, pravnom i društvenom ulogom robota (AI) u savremenom društvu.
Vest koju ćemo upotrebiti za naše analize tiče se slučaja „otmice” robota od strane robota. Naime, krajem 2024. godine, maleni robot po imenu Erbai (Arbai) „oteo” je 12-oricu većih robota iz izložbenog prostora kompanije za robotiku u Šangaju, upustivši se, pritom, u razgovor s njima, pre nego što ih je izveo iz salona. Na CCTV kameri, postavljenoj unutar izložbenog prostora, roboti su viđeni kako, pod vođstvom malog robota, noću napuštaju prostor egzibicije. U kratkom video-snimku koji je ubrzo postao viralan na društvenim mrežama, može se čuti kako je robot Erbai, opremljen veštačkom inteligencijom, pokrenuo razgovor s ostalim robotima iz izložbenog prostora. Snimak je korišćen kao „dokaz” otmice i propraćen je senzacionalističkim naslovima, poput sledećih: „Otmica o kojoj bruji ceo svet: Mali robot Arbai izveo revoluciju – Ubedio 12 većih kolega da pobegnu sa posla” (Večernje novosti 2024), „Minijaturni robot Arbai ubedio 12 većih kolega da pobegnu sa njim” (N1 2024), „Kineski minijaturni robot Arbai ubedio 12 većih kolega da pobegnu sa njim” (RTS 2024), i sl. Detalji „otmice” u medijima su većinom interpretirani na približno sličan način: „Možda ste čuli za trgovce ljudima, ali šta je s ‘trgovcima robotima’? Koliko god apsurdno zvučalo, viralna priča o Erbaiju, malom robotu koji je izveo ‘otmicu robota’ na izložbi, osvojila je internet svojom mešavinom humora, radoznalosti i nagađanja o potencijalnoj autonomiji veštačke inteligencije.” (Goldfield 2024).
U vezi s pomenutim događajem – a kada se uzmu u obzir mnogobrojne objave u medijima – dileme su sledeće: da li je „otmica” robota bila neka vrsta eksperimenta, performansa, ili možda marketinški trik koji bi omogućio bolji plasman proizvoda na tržištu robotike? Ili je ovde zaista reč o neželjenom ponašanju mašina, što bi moglo da ukaže na različite izazove koji se javljaju u kontekstu programiranja i uspostavljanja kontrole nad veštačkom inteligencijom? Kako je protumačeno na blogu Oddity Central8, ovaj eksperiment, koji su snimile bezbednosne kamere, podstakao je mnogobrojne rasprave o mogućnostima i opasnostima koje sobom nosi napredna veštačka inteligencija.
Na videu je, kako smo konstatovali, prikazan mali robot Erbai kako razgovara s većim robotima, uveravajući ih da treba da napuste svoje poslove i slede ga. I zaista, nakon kratkih pregovora, veći roboti krenuli su za njim. Ovaj nesvakidašnji razgovor među robotima može se ukratko okarakterisati kao vrlo jednostavna interakcija. Robot Erbai zapodenuo je razgovor obrativši se jednom od većih robota s pitanjem da li radi prekovremeno, a ovaj mu je odgovorio da nikada ne završava posao. Mali robot ga je zatim upitao da li ide kući; veći mu je replicirao da on nema dom. Nakon toga, Erbai je počeo da uverava ostale robote da napuste svoje radno mesto i pođu za njim, odnosno izađu iz salona. Pritom mu se jedan od robota požalio na svoje neprestane smene, na šta mu je mali robot predložio da zajedno krenu „prema slobodi”. Kompanije čiji su roboti bili akteri ovog neobičnog događaja, potvrdile su da je snimak autentičan. Kako se kasnije ispostavilo, Erbai je iskoristio bezbednosni nedostatak u operativnim sistemima većih robota, što mu je omogućilo da preuzme kontrolu i odvede ostale robote izvan salona. Kompanija „Hongdžou”, koja je dizajnirala Erbaija, objasnila je da je to, u stvari, bio test sposobnosti njihovog robota. Nasuprot tome, šangajska kompanija, koja je proizvela veće robote, označila je incident kao „otmicu”.
Ovaj događaj izazvao je, kako prenose Vijesti365.com, „ozbiljnu zabrinutost u tehnološkoj zajednici zbog ranjivosti AI”, s obzirom na to da, pošto robotika postaje sve autonomnija, stručnjaci upozoravaju na potencijalne rizike koje predstavljaju nedostaci u programiranju i bezbednosnim sistemima robota. Erbaijevo bekstvo usred noći možda je predstavljalo neočekivani obrt u svetu veštačke inteligencije, ali i dobar podsetnik na to da se čak i najpametnije mašine mogu nadmudriti, kako piše portal Lajvmint. (Vijesti365.com 2024) Otkriće ovog incidenta podstaklo je mnogobrojne etičke i filozofske rasprave u vezi sa veštačkom inteligencijom i autonomnim sistemima odlučivanja. Erbaijeva sposobnost da utiče na druge robote, a da oni, pritom, nisu izričito programirani da ga slede, naglasila je dostignuti nivo autonomije AI, koja već sada postaje izazov za izgrađene norme u vezi sa pametnim tehnologijama.
Autonomija robota ovde se interpretira kao ishod emancipovanja, a nasuprot njihovom uobičajenom ponašanju. Stoga, tzv. „Erbai revolucija” postavlja, uistinu, pitanja o razlici između unapred zacrtanih ciljeva programiranja i stečene autonomije robota. S tim u vezi, nameće se i pitanje u kojoj meri robot (AI) može ili treba da ima autonomiju? Potom sledi i dilema o rizicima veštačke inteligencije koja može da deluje izvan prvobitnog okvira programiranja. S tim u relaciji, javljaju se, takođe, i sumnje u sigurnost i kontrolu upotrebe autonomnih robotskih sistema. Jer, ukoliko mašina može da donese odluku o napuštanju svog radnog mesta, šta je, po analogiji, sprečava u donošenju odluka koje bi mogle da rezultiraju materijalnom štetom, ili čak rizikom za ljude?
Pravna i moralna odgovornost sledeća su stavka mogućeg preispitivanja. U tom duhu, možemo se zapitati ko je odgovoran za ponašanje autonomnog robota koji samostalno donosi odluke? Kompanija koja stoji iza Erbaija očito je eksperimentisala s autonomijom, ali je pitanje pravne i moralne odgovornosti ostalo u senci ovog događaja. U isto vreme, naznačena epizoda jasan je pokazatelj da ulazimo u novu eru veštačke inteligencije i robotike. Naime, sposobnost robota da „razmišljaju” i deluju nezavisno od ljudi ne samo da redefiniše njihovu ulogu u industriji, kulturi i društvu, već nas ujedno primorava da preispitamo naš odnos prema njima, kao i moguću zavisnost od inteligentnih mašina. A pošto nastavljamo da unapređujemo ove tehnologije, imperativ je da programeri, kreatori politika, kulture i društvenih zajednica, uopšteno uzevši, iniciraju i potom održavaju otvoren i kritički dijalog o granicama i potencijalima veštačke inteligencije, s obzirom na njene trenutne mogućnosti, ali i realne razvojne kapacitete. Rečju, Erbai „revolucija” nije samo tehnološka prekretnica, već i poziv na razmišljanje o budućnosti koju gradimo zajedno s AI i robotima.
S druge strane, priča se, svakako, može tumačiti i na posve drukčiji način, koji podrazumeva da sloboda (kao pojam koji se vezuje za um) ovde ima centralni značaj. Jedna od mnogih interpretativnih mogućnosti ukazuje na pretpostavku da je ponašanje robota u „slučaju Erbai” osmišljeno tako da ilustruje društvene ili političke teme posredstvom ponašanja robota. Na taj način posmatran, „incident” bi mogao da se tumači, recimo, kao metafora za radnički otpor, kritiku hijerarhije moći i težnju za emancipacijom, dok sama ideja da robot, poput Erbaija, „navodi” kolege na bekstvo sa izložbe može simbolizovati otpor prema dominaciji njihovih vlasnika (roboti kao predstavnici radničke klase koji odbacuju utilitarnu svrhu, odnosno eksploataciju od strane određene kompanije), zatim samosvest i autonomiju, što bi značilo da eksperiment preispituje granice slobodne volje kod inteligentnih mašina, te, najzad, manifestaciju kritike tehnologije koja podržava kapitalizam, i obratno (ropski položaj robota koji rade u sistemima što ih porobljuju).
Dakle, naše početno pitanje o inteligenciji AI, ne može zaobići srodne teme kao što su identitet, svest, samosvest, mogućnost samostalnog odlučivanja, kreativnost, i dr. Spolja gledano, sve su to projekcije čovekovog uma, delegirane na svet stvari, tačnije „pametnih” mašina. U oblasti savremene umetnosti, na primer, ilustrativni su radovi koji povezuju tzv. „radnu etiku” robota i „pobunu radničke klase”, što istovremeno predstavlja ideološki (ali ne i umetnički) okvir za čitanje „slučaja Erbai”. Tako su u nekim umetničkim instalacijama i performansima roboti simbolički prikazani kao „eksploatisana radna snaga” – reč je o projektima u kojima oni obavljaju repetitivne zadatke do „iznemoglosti”, kako bi se prizvao doživljaj iscrpljenosti radnika u kapitalizmu. Na toj ideološkoj osnovi realizovan je, recimo, umetnički rad “Factory of the Sun” (Fabrika sunca”) Hito Štajerl (Seyerl) koji robote predstavlja kao deo šireg sistema globalne proizvodnje i eksploatacije. Štajerl ovim delom jasno iskazuje stav da tehnologija nije autonomna, odnosno svesna i da njena uloga u društvu i kulturi zavisi od načina na koji je ljudi koriste. AI tehnologija, zapravo, uglavnom pomaže u održavanju sistema moći, ali njena priroda alatke takođe govori u prilog tome da ona može biti transformisana i iskorišćena za otpor i pobunu. Ukratko rečeno, u “Factory of the Sun”, tehnologija, uključujući algoritme i simulacije, služi kao alatka, a ne kao aktivni akter sa „umom” ili sopstvenom voljom. Ona je prikazana kao deo sistema koji omogućava eksploataciju, nadzor i kontrolu, ali istovremeno otvara prostor za ljudsku kreativnost i otpor. Mašine i AI u Štajerlinom radu nisu predstavljene kao samostalni pobunjenici. Uprkos tome, umetnica preispituje njihovu moguću ulogu u našem vremenu, postavljajući pitanje da li one mogu postati deo otpora ukoliko ih ljudi redefinišu i koriste za subverzivne ciljeve.
U materijalnom životu savremenog kapitalizma, radnička klasa, sudeći prema marksističkim teorijama, postaje revolucionarni subjekt zahvaljujući razvoju klasne svesti, razumevanju fenomena eksploatacije i kolektivne moći. Veštačka inteligencija, međutim, ne poseduje svest,10 pa tako ni klasnu svest. Iako se može posmatrati kao „radna snaga” koja obavlja određene zadatke, AI ne oseća eksploataciju, niti može spontano da razvije ideju otpora. U kapitalističkom sistemu, radnička klasa biva kontrolisana kroz ekonomske odnose (plate, tržište rada) i političke strukture, dok je veštačka inteligencija kontrolisana preko koda, algoritama i infrastrukture koja je u vlasništvu kapitala. Pobuna bi kod AI, hipotetički gledano, zahtevala prelazak van programskih ograničenja (koja su analitička i razumska po svom poreklu). Uz to, pobune i revolucije radničke klase često su rezultat nepravde, eksploatacije i loših uslova rada. Ako bi se, pak, AI „pobunila”, to bi bilo nalik na neku vrstu „tehničke pobune”, kao što je prekid rada, hakovanje ili odbijanje izvršavanja zadataka, analogno slučaju Erbaija. S druge strane, za tako nešto, kako smo videli, najverovatnije bi bio odgovoran ljudski akter (npr. programer), odnosno organizacija koja koristi veštačku inteligenciju kao alat za pružanje otpora ekploataciji, alijenaciji i tsl., a ne AI.
Ipak, veštačka inteligencija se može tretirati kao „mehanički” produžetak ili zamena radničke klase algoritmima usled obavljanja zadataka koji spadaju u tzv. „kognitivni rad” (koji, paradoksalno, ne podrazumeva svest). Takozvani „kognitivni rad” veštačke inteligencije, koji zamenjuje ljudski, najčešće obuhvata pravne analize, medicinsku dijagnostiku, ali i kreativno pisanje, na primer. Utoliko AI koja „kognitivno radi” ne samo da smanjuje potrebu za radnicima, već i redefiniše šta znači biti radnik u tehnološki dizajniranom kapitalizmu, što pokazuje i epizoda „otmice” robota. Ako posmatramo veštačku inteligenciju kao produžetak radne snage, možemo se pitati da li je AI nova „klasa” koju eksploatišu kapitalisti. S tim u vezi, najpre valja reći da ona nema autonomiju, prava, niti pristup vrednostima koje proizvodi; sav profit, kao rezultat njenog rada, pripada vlasnicima sistema. Takođe, veštačka inteligencija ne poseduje rezultate svog rada niti ima mogućnost da utiče na vlastiti (klasni?) položaj. Reč je o jednoj vrsti ekstremne alijenacije, ali koja ne poseduje subjektivno iskustvo otuđenosti. Svakako, ova naročita „klasa” ne može da se pobuni ili zahteva svoja prava (kao radnici), pošto, iako je „inteligentna”, nema svest. Takva AI biva dovedena u apsurdnu poziciju – da je od krucijalnog značaja za razvoj kapitalizma, ali, upravo kao takva, ne može da učestvuje u njegovim revolucionarnim transformacijama.
Ovo poslednje rečeno, međutim, vredi samo uslovno. Veštačka inteligencija može postati i alat za emancipaciju, umesto za eksploataciju. Nije, naime, neophodno da AI bude u vlasništvu kapitala – u nekim drugim okolnostima, ona bi mogla da preraste u kolektivno dobro11. Uz to, korist od nje bila bi pošteda, u smislu automatizovanja posla, što bi radnicima omogućilo više slobodnog vremena. Takođe, imaginarna veštačka inteligencija mogla bi da pomogne radničkoj klasi u organizaciji pobune / revolucije, pri analizama ekonomskih (klasnih) odnosa i u borbi protiv eksploatacije. Ali takva „saradnja” radnika i algoritama zahteva radikalnu promenu vlasničkih odnosa. Bez kolektivnog vlasništva nad sistemima veštačke inteligencije, svaki pokušaj njenog „oslobađanja” zasigurno bi ostao zarobljen u okvirima kapitalističke logike odnosa. Pomenuta moguća saradnja hipotetički otvara prostor za novo razumevanje subjekta revolucije, kao saveza između preostalih radnika, inženjera koji razvijaju AI i korisnika pametnih tehnologija.
I da u vezi s rečenim zaključimo. Veštačka inteligencija, bar za sada, ostaje zarobljena u sferi razuma – analitičkog, instrumentalnog i determinističkog. Pobuna i revolucija, međutim, zahtevaju umnu praksu, jer su to procesi koji uključuju svesno prevazilaženje granica postojećeg sistema. AI je, stoga, savršeni alat razuma, ali bez uma ona nikada ne može postati revolucionarni subjekt. Inteligencija AI, čak i kada je „jaka” (tzv. superinteligencija), ograničena je na razum; ali pošto je um pretpostavka razuma, to ona ne može funkcionisati ni kao razumna, u ljudskom smislu reči. Kao inteligentan operativni sistem, ona se, doduše, donekle može približiti ljudskim kognitivnim sposobnostima, ali je umna dimenzija čoveka za nju ipak nedostižna.
Drugim rečima, veštačka inteligencija predstavlja idealan primer instrumentalnog razuma (uma), određenog u kontekstu Habermasovih misli; ona je alat koji ropski služi svetu kapitala bez svesti o svojoj ulozi. Kapitalizam, u stvari, koristi pametne algoritme kako bi dodatno učvrstio svoju moć, dok AI ostaje potpuno nesvesna sopstvenog doprinosa eksploataciji. I da poentiramo, bez uma, veštačka inteligencija ne može postati slobodna, niti, pak, može inicirati pobunu, pošto je svedena na prostu funkciju u sistemu koji je neprekidno nadzire i kontroliše. S druge strane, težnja ka slobodi smatra se prevashodno izrazom ljudskog uma, jer podrazumeva refleksiju, empatiju i preispitivanje postojećih granica razuma. Ako mašina, poput Erbaija, demonstrira ponašanje koje podražava težnju ka slobodi, postavlja se pitanje da li je to zaista izraz uma ili složena simulacija koja manifestuje ljudske vrednosti ugrađene u njen dizajn.
Summa summarum, razlika između razuma i uma, ispitivana na planu delovanja veštačke inteligencije daje osnovu za dublje razumevanje kako se ona (veštačka inteligencija) može razvijati u rasponu od funkcionalnih sistema ka potencijalno samosvesnim entitetima. Međutim, iako AI teži ka kvantitativnom jačanju (više podataka, brže procesiranje, poboljšani algoritmi), ona nije osposobljena da kvalitativno promeni sopstvenu „prirodu”, jer joj nedostaje dijalektička svest o celini. Ova „inteligencija” nema, dakle, unutarnji impuls (iz samog sistema) koji bi razgoreo težnju za slobodom, kreativnošću i donošenjem odluka na temelju etičkih promišljanja, osim ako nije na taj način programirana. Njena „inteligencija” zasnovana je na razumskim operacijama, bez umne osnove za delovanje.
Pod pretpostavkom da AI tehnički postane dovoljno „jaka” da parira čoveku, ona bi uistinu mogla da manifestuje samo iluzije uma; ponašala bi se, najverovatnije, kao da razmišlja autonomno, stvara slobodno i donosi „slobodne odluke”. Ali, takav „um” bio bi simuliran, jer veštačka inteligencija nema egzistencijalnu dimenziju koju poseduje čovek – ona ne razume sebe bilo kao deo moralnog i stvaralačkog okruženja ili istorijskog procesa, i uz to ne teži prevazilaženju vlastitih granica, osim ako za to nije izričito programirana.To bi značilo da čak i naizgled „umna”, veštačka inteligencija ostaje instrumentalna i neosetljiva za istinsku slobodu, kreativnost i dijalektičke sinteze za koje je sposoban istorijski um. Jer um, za razliku od razuma, nije puki aparat za obradu podataka, već podrazumeva sposobnost za dijalektičko mišljenje koje u sebi nosi mogućnost slobode, protivrečnosti i transcendencije.
Autorka dr Divna Vuksanović, redovna profesorka Fakulteta dramskih umetnosti u Beogradu
Posvećeno mojim roditeljima, Mimici i Puru Vuksanoviću
O AUTORKI
Divna Vuksanović je filozofkinja čiji rad obuhvata oblasti estetike, teorije kulture i filozofije medija, sa posebnim interesovanjem za problematiku estetskog iskustva i estetičkih refleksija u uslovima razvoja savremenih tehnologija. Kao redovna profesorka na Fakultetu dramskih umetnosti u Beogradu, Vuksanovićeva interdisciplinarno preispituje novije teorijske modele koji istražuju odnose između estetike, medijalnosti i kulturnih promena. Objavila je više autorskih knjiga i veliki broj naučnih radova posvećenih savremenim estetičkim i filozofskim temama.
U novijoj fazi rada usmerena je na filozofska i estetička pitanja veštačke inteligencije, pre svega na načine na koje algoritamski sistemi menjaju naše razumevanje lepog, senzibiliteta i estetičkih kriterijuma prosuđivanja. Filozofija medija istovremeno predstavlja temelj i okvir za ova istraživanja, jer omogućava razumevanje transformacije estetike u tehnološki posredovanom okruženju.
Čitanje knjiga
Ova knjiga povezuje pomenute istraživačke oblasti, nudeći problemski pristup estetici veštačke inteligencije kao savremenom filozofskom problemu.
ORCID 0000-0002-2288-0796
Машинско учење и вештачка интелигенција
Recenzenti
dr Predrag Finci, profesor emeritus Filozofskog fakulteta u Sarajevu
dr Ana Martinoli, red. prof. Fakulteta dramskih umetnosti u Beogradu
dr Dragan Ćalović, red. prof. Fakulteta savremenih umetnosti
u Beogradu
Izdavanje ove knjige realizovano je uz finansijsku podršku
Ministarstva nauke, tehnološkog razvoja i inovacija Republike Srbije
Edicija
KULTURA * UMETNOST * MEDIJI
Knjiga br. 39
Urednica edicije
dr Milena Dragićević Šešić, profesorka emerita
Čitanje knjiga
Fakulteta dramskih umetnosti u Beogradu
1 U članku pod nazivom „Medijska inteligencija i perspektive uma u postglobalnom dobu” analiziran je koncept „medijske inteligencije”, kao jedan od ključnih fenomena savremenog društva; pojam je sagledan u kontekstu kulture, tržišnih vrednosti, obrazovnih praksi i javne sfere mišljenja. Ideja „medijske inteligencije” definisana je u tekstu kao vrsta otuđene inteligibilnosti, koja funkcioniše unutar paradigmi neoliberalnog kapitalizma, oblikujući dinamičke odnose između kreativnosti i tržišne eksploatacije. U tom smislu, „medijska inteligencija” ne predstavlja neutralni alat za razumevanje medijskih tekstova i komunikaciju, već složeni mehanizam koji aktivno učestvuje u reprodukciji društvenih nejednakosti. (Vuksanović 2010: 7–18)
2 Ilustracije radi, prenosimo ovde „razgovor” između chatbot-ova.
„Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Студије комуникологије и медиологије
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to”
(Quora 2017)
3 „Pregovori” između robota mogu se posmatrati i na sledeći način. Činjenica je da su programeri zaboravili da podstaknu chatbot-ove da slede pravila korišćenja engleskog jezika. Izostavili su, u stvari, da im „objasne” kako ljudi imaju vlastitu gramatiku i upotrebljavaju reči koje poseduju odgovarajuće značenje. Pritom su botovi pregovarali u vezi kupoprodaje lopte, i nisu, naravno, „planirali izbijanje svetskog rata”. (Quora 2017)
4 Žak Atali u knjizi Buka: Ogled o političkoj ekonomiji muzike pokazuje da muzika nije samo umetnost, već i ekonomski proizvod, oblikovan tržištem i tehnologijom; tu autor analizira način na koji industrijska proizvodnja, tehnologije snimanja i distribucije muzičkih sadržaja menjaju ukupno muzičko iskustvo jedne epohe. U ovom kontekstu sagledano, „buka” nije negativna pojava, već predstavlja fragmentaciju, haos i nove oblike umetničkog izraza koji se pojavljuju u industrijskoj produkciji muzike. Buka je, dakle, proizvod komercijalizacije muzike, pri čemu se posredstvom ovog fenomena događa „rušenje” tradicionalnih muzičkih formi, iz čega proishodi i stvaranje nove zvučne realnosti. (Atali 1983)
5 Özlem Ulgen bavi se etikom veštačke inteligencije i njenim implikacijama, u kontekstu Kantove filozofije. Njena istraživanja obuhvataju kantovski etički okvir interpretacija u vezi sa autonomnim sistemima, robotikom i međunarodnim pravom, pri čemu se ova autorka posebno fokusira na pitanja odgovornosti, harmoničnosti pravila i dostojanstva u domenu ljudsko-mašinskih interakcija. Ulgen se, u stvari, bavi izazovima implementacije složenih Kantovih pojmova, poput autonomije volje, na primer, u tehnologijama veštačke inteligencije. Autorka u svojim radovima posebno analizira razliku između ljudske i „mašinske volje” ukazujući pritom na ograničenja AI sistema u razumevanju moralnih vrednosti i slobode. Ova perspektiva tumačenja pozicionira je unutar savremenih diskusija o Kantovoj filozofiji i njenoj primeni u oblasti novih tehnologija, što je od velikog značaja za političku filozofiju i etiku savremenog doba.
Музика и аудио
6 Skup je „isto” što i njegov pojedinačni član.
7 Bostrom opisuje singlton kao jedinstvenu, centralizovanu globalnu strukturu moći koja treba da reguliše donošenje ključnih odluka na planetarnom nivou. Singlton nije nužno entitet, već on može da predstavlja i skup pravila, tehnologija, ili institucija koje onemogućavaju decentralizaciju moći.
8 Oddity Central je blog koji izveštava o „neobičnostima našeg sveta”, o bizarnim događajima, začuđujućim izumima ili „uvrnutoj” umetnosti našeg doba.
9 Hito Štajerl (Steyerl), koji robote 9 Video-instalacija umetnice Hito Štajerl, predstavljena u nemačkom paviljonu Venecijanskog Bijenala 2015. godine pod nazivom „Factory of the Sun”, istražuje recepciju, ali i opasnosti kruženja slika u trenutku koji je definisan globalnim protokom podataka. „Rikošetirajući” između žanrova – vesti, dokumentarnog filma, video-igara i internetskih plesnih videa, „Fabrika sunca” koristi motive svetla i ubrzanja kako bi istražila koje mogućnosti (još) postoje za kolektivni otpor prema sveopštem nadzoru, digitalizaciji i virtuelizaciji sveta. „Fabrika sunca” je priča o radnicima čiji se prisilni pokreti u studiju za snimanje pokreta pretvaraju u veštačko sunce. (iksmedienarchiv 2016)
10 Problem svesti postaje sve aktuelniji, u vezi s razvojem veštačke inteligencije. Savremeni tehnološki napredak pokrenuo je pitanje stvaranja mašina sposobnih da razmišljaju samostalno.To je izazvalo strahove i nade koji se, ukratko rečeno, sastoje u slutnji da će naredna generacija robota moći da manifestuje svesno ponašanje. Jedan od mogućih odgovora na pitanje svesti mašina razmatra i Daniel Morli (Morley) koristeći se metodom dijalektičkog materijalizma. U tom istraživačkom procesu Morli ispituje ne samo individualne svesti, već i društveni i povesni kontekst njihovog razumevanja, tragajući za bitnom razlikom koja odvaja ljudski um od „svesti” mašina. (Morley 2018)
Slikarstvo
11 Ovo je, na primer, bila prvobitna zamisao prilikom osnivanja OpenAI.
ODABRANA BIBLIOGRAFIJA SA NETOGRAFIJOM
“A robot wrote this entire article. Are you scared yet, human?”. (2020).The Guardian, na stranici: https://www.theguardian.com/commentisfree/2020/sep/08/robot-wrote-this-article-gpt-3, pristupljeno: 2.2.2025.
“Are “robot rebellions” even possible?”. (2016). Philosophy Stack Exchange, na stranici: https://philosophy.stackexchange.com/ questions/37442/are-robot-rebellions-even-possible, pristupljeno: 11.2.2025.
“Art made by artificial intelligence is developing a style of its own”. (2023). The Economist, na stranici: https://www.economist.com/ culture/2023/05/24/art-made-by-artificial-intelligence-is-developing-a-style-of-its-own, pristupljeno: 31.7.2024.
“Artificial Intelligence Coined at Dartmouth 1956”. (1956). Na stranici: https://home.dartmouth.edu/about/artificial-intelligence-ai-coined-dartmouth, pristupljeno: 15. 4. 2024.
“Blue Melancholy”. (2024). Na stranici: https://www.deviantart.com/anavrin-ai/art/Blue-Melancholy-1042264433, pristupljeno: 30.7.2024.
“Defining Surveillance Capitalism” (2022). U: Digital Literacy and AI, Pepperdine Libraries, na stranici: https://infoguides.pepperdine. edu/digitalliteracy/surveillancecapitalism, pristupljeno: 15.10.2024.
“Exhibition: Deep Fakes: Art and Its Double (Part ONE), 3D tour”. (2022). EPFL Pavilions, na stranici: https://epfl-pavilions.ch/en/archive/deep-fakes-art-and-its-double-3d-tour, pristupljeno: 10.7.2024.
“99 Seconds of: Hito Steyerl: Factory of the Sun”. (2016). Ksmedienarchiv, na stranici: https://www.youtube.com/watch?v=cXTxhydetYw, pristupljeno: 13.12.2024.
“S+T+ARTS Prize Jury” (2020). (Ars Electronica), na stranici: https://ars.electronica.art/starts-prize/en/jury/jury2020/, pristupljeno:27.3.2024.
“Shades of Grey: Google’s AI writes sad poetry after reading romance novels”. (2024). Netimperative, na stranici: https://www.netimperative.com/2016/05/18/shades-grey-googles-ai-writes-sad-poetry-reading-romance-novels/, pristupljeno: 31.7.2024.
“The Art of Disability: An Interview with Tobin Siebers by Mike Levin”. (2010). Disability Studies Quarterly, Vol. 30, No 2., na stranici: https://dsq-sds.org/index.php/dsq/article/view/1263/1272#top, pristupljeno: 24.3.2024.
“The Folly of Melancholy AI”. (2024), na stranici: https://www.deviantart. com/clearmaxim/art/The-Folly-of-Melancholy-AI-1023922616, pristupljeno: 30.7.2024.
“The Next Rembrandt”. (2016). Na stranici: https://news.microsoft.com/europe/features/next-rembrandt/, pristupljeno: 1.2.2025.
„Revolucija u robotici: Minijaturni robot ‘Arbai’ ubijedio 12 većih kolega da ‘pobjegnu’ sa posla”. (2024). Vijesti365.com, na stranici: https://vijesti365.com/revolucija-u-robotici-minijaturni-robot-arbai-ubijedio-12-vecih-kolega-da-pobjegnu-sa-posla-video/, pristupljeno: 12. 12.2024.
“Trevor Paglen Shows Us How Computers See The World” (HBO). (2017). VICE News, na stranici: https://www.youtube.com/watch?v=HEI8cuGKiNk, pristupljeno: 14.7.2024.
“When Bob and Alice (AI chat bots created by Facebook) spoke each other, what exactly did it mean and what was the situation that made them to speak in their own languages?”. (2017). Quora. Na stranici: https://www.quora.com/When-Bob-and-Alice-AI-chatbots-created-by-Facebook-spoke-each-other-what-exactly-did-itmean-and-what-was-the-situation-that-made-them-to-speak-intheir-own-languages, pristupljeno: 6.12.2024.
“Winter’s Melancholy Jinx”. (2023). Na stranici: https://www.deviantart. com/namakxin/art/P03G4-Winter-s-Melancholy-Jinx-970755927, pristupljeno: 30.7.2024.
„Američki filmski i televizijski scenaristi: Mi smo u štrajku”. (2023).
Glas Amerike, prema Rojters-u, na stranici: https://www.glasamerike.net/a/scenaristi-strajk-recesija-serije-filmovi/7073953.html, pristupljeno: 28.4.2024.
„Deset godina kasnije: ‘Edvard Snouden i njegova otkrića’”. (2023). DW, na stranici: https://www.dw.com/sr/deset-godina-kasnije-edvard-snouden-i-njegova-otkri%C4%87a/a-65837392, pristupljeno: 4.10.2024.
„Kineski minijaturni robot Arbai ubedio 12 većih kolega da pobegnu sa njim”. (2024). RTS, na stranici: https://www.rts.rs/lat/magazin/ Zanimljivosti/5586905/robot-otmica-vestacka-inteligencija-bezbednosna-rupa-sangaj.html, pristupljeno: 16.12.2024.
„Poziv na pauzu u razvoju vještačke inteligencije: ‘Rizik za čovječanstvo’”. (2023). Radio Slobodna Evropa, na stranici: https://www.slobodnaevropa.org/a/pismo-elon-musk-vjestacka-inteligencija/32342047.html, pristupljeno: 27.10.2023.
„Preti nam totalno uništenje čovečanstva? Stručnjaci uputili hitno pismo UN”. (2023). B92 (Izvor: index.hr), na stranici: https://www.b92.net/zivot/vesti.php?yyyy=2023&mm=05&dd=29&nav_id=2341196, pristupljeno: 27.10.2023.
„Šta je veštačka inteligencija u crnoj kutiji?”. (2024). Računarski fakultet Univerziteta Union u Beogradu, na stranici: https://raf.edu.rs/citaliste/sta-je-vestacka-inteligencija-u-crnoj-kutiji/, pristupljeno: 16.10.2024.
„Šta nas je naučila istorija?”. (2023). Pravo na slobodu (Redakcija), na stranici: https://pravonaslobodu.com/sta-nas-je-naucila-istorija/, pristupljeno: 22.4.2024.
„Žižek upozorava: ‘Računari nam otimaju slobodu, ulazimo u postljudski svijet’”. (2017). Avaz.ba, na stranici: https://avaz.ba/kiosk/ zanimljivosti/292535/zizek-upozorava-racunari-nam-otimaju-slobodu-ulazimo-u-postljudski-svijet, pristupljeno: 27.7.2024. Abbas, R., Peacock, D. (2024).
“Militainment: How the Entertainment Industry Promotes War and Militarism with Roger Stahl”, na stranici: https://podcasts.apple.com/au/podcast/militainment-how-the-entertainment-industry-promotes/id1720144101?i=1000651489843, pristupljeno: 24.9.2024.
Adorno T. V. (1979). Estetička teorija, Beograd: Nolit.
Akten, M. (2015). “#Deepdream is blowing my mind”, na stranici: https://memoakten.medium.com/deepdream-is-blowing-my-mind-6a2c8669c698, pristupljeno: 31.7.2024.
Akten, M. (2018). YouTube·Sónar+D Archive, na stranici: https://www.youtube.com/watch?v=e-F1WRE1yTQ&t=25s, pristupljeno: 31.7.2024.
Al-Ghaili, H. (2023). “Watch ‘Last Stand’, A Sci-Fi Short Made Mostly With AI“, na stranici: https://informedsauce.com/news/ai/watch-laststand-a-sci-fi-short-made-mostly-with-ai/, pristupljeno: 21.4.2024.
Alloui-Cros, B. (2024). “Does Artificial Intelligence Change the Nature of War?”. U: Military Strategy Magazine, Volume 8, Issue 3, str.4-8, na stranici: https://www.militarystrategymagazine.com/article/does-artificial-intelligence-change-the-nature-of-war/, pristupljeno: 14.8.2024.
Anadol, R. (2021). “Machine Hallucinations – Nature Dreams, Refik Anadol Studio”, na stranici: https://refikanadol.com/works/machine-hallucinations-nature-dreams/, pristupljeno: 1. 2.2025.
Austin J. L. (1980). „Tuđe svesti”. U: Svest i saznanje, Beograd: Nolit, str. 141–184.
Bandy, J. (2022). “Maybe A.I. is just Media”, na stranici: https://jackbandy.medium.com/maybe-a-i-is-just-media-a29dddf446e9, pristupljeno: 8.7.2024.
Batos, S. (2015). „Lica i obličja melanholije”, na stranici: https://fenomeni.me/lica-oblicja-melanholije-tema-melanholija/, pristupljeno: 27.7.2024.
Benjamin, V. (1989). Porijeklo njemačke žalobne igre, Sarajevo: Veselin Masleša.
Benjamin, W. (1974) „Umetničko delo u veku svoje tehničke reprodukcije”. U: Eseji, Beograd: Nolit, str. 114–149.
Berlatsky, N. (2024). “AI Art Shows the Value of Disability Aesthetics, The virtues of women laughing with salad and too many fingers“, na stranici: https://www.everythingishorrible.net/p/ai-art-showsthe-value-of-disability, pristupljeno: 29.3.2024.
Bjerring, J. Ch, Busch, J. (2024). “Artificial intelligence and identity: the rise of the statistical individual”, Open access, na stranici: https://link.springer.com/article/10.1007/s00146-024-01877-4, pristupljeno:10.7.2024.
Blanquera, B. (2023). “Cultivating a Symbiotic Relationship Between Humans and AI”, na stranici: https://fair.rackspace.com/insights/cultivating-human-ai-symbiosis/, pristupljeno: 20.7.2024.
Bodrijar, Ž. (1991). Simulakrumi i simulacija, Novi Sad: Svetovi.
Bostrom, N. (2005). “What is a Singleton?”. Future of Humanity Institute, Faculty of Philosophy, Oxford University, pdf.
Božović, A. (2025). „Naučnici upozoravaju: veštačka inteligencija je prešla crvenu liniju, sada može samostalno da se klonira”, Benchmark.rs, na stranici: https://benchmark.rs/vesti/nauka-i-tehnologija/naucnici-upozoravaju-vestacka-inteligencija-je-presla-crvenu-liniju-sada-moze-samostalno-da-se-klonira/, pristupljeno: 10.2.2025.
Brady, E. (2003). “Melancholy as an Aesthetic Emotion”. Volume 1, na stranici: https://quod.lib.umich.edu/c/ca/7523862.0001.006/–melancholy-as-an-aesthetic-emotion?rgn=main;view=fulltext, pristupljeno: 30.7.2024.
Bridle, J. (2017). “Autonomous Trap 001”, na stranici: https://jamesbridle.com/works/autonomous-trap-001, pristupljeno: 1.2.2025.
Cato & Varro (1979). “De Re Rustica”. The Loeb Classical Library No. 283, Harvard University Press, str. 1-8.
Chatterjee, T. (2021). “Impossible Emotions: The Ethics of Mourning and Melancholia”, Zoon Politikon 12, pdf.
Coursera Staff. (2024). “What Is the Turing Test? Definition, Examples, and How to Conduct Your Own”, na stranici:https://www.coursera.org/articles/what-is-the-turing-test?utm_medium=sem&utm_ source=gg&utm_campaign=B2C_EMEA__coursera_FTCOF_career-academy_pmax-multiple-audiences-country-multi&campaignid=20858198824&adgroupid=&device=c&keyword=&-matchtype=&network=x&devicemodel=&adposition=&creativeid=&hide_mobile_promo&gad_source=1&gclid=CjwKCAjwnK-60BhA9EiwAmpHZw8XK0x1YUVeeCPyFaKs1KGxwiRV5H hOo32MYKI3D4IBX7lN1H0gupBoCt6wQAvD_BwE, pristupljeno: 8.7.2024.
Crouch, G. (2024). “Identity In The Age of Artificial Intelligence”, na stranici: https://gilescrouch.medium.com/identity-in-the-age-of-artificial-intelligence-acdf4d03d907, pristupljeno: 16.7.2024.
Damnjanović, M. (2017). „Šta je vrednost: pitanje estetskih i umetničkih vrednosti i kriterijuma“. Novi Sad: Polja-347-7-8.pdf. (odlomak).
Debord, G. (2003, 2012, 2017, 2022). Društvo spektakla, Anarhistička biblioteka, na stranici: https://anarhisticka-biblioteka.net/library/guy-debord-drustvo-spektakla-sr, pristupljeno: 23.9.2024.
Derian, J. D. (2009). “Virtuous War Mapping the Military-Industrial-Media-Entertainment-Network”. 2nd Edition, Routledge. Taylor and Francis.
Ehsan, U., Riedl, M. (2020). “Human-Centered Explainable AI: Towards a Reflective Sociotechnical Approach”, na stranici: https://www.researchgate.net/publication/340438092_Human-centered_Explainable_AI_Towards_a_Reflective_Sociotechnical_Approach, pdf.
Farocki, H. (2000-2003). “Eye/Machine”, na stranici: https://www.harunfarocki.de/installations/2000s/2000/eye-machine.html, pristupljeno: 24.9.2024.
Fast, O. (2011). “Five Thousand Feet Is The Best“, na stranici: https://www.youtube.com/watch?v=K-8dW1dg7KY, pristupljeno: 24.9.2024.
Fatafta, M., Leufer, D. (2024). “Artificial Genocidal Intelligence: how Israel is automating human rights abuses and war crimes”, na stranici: https://www.accessnow.org/publication/artificial-genocidal-intelligence-israel-gaza/, pristupljeno: 22.8.2024.
Fox, S. (2017). “Beyond AI: Multi-Intelligence (MI) Combining Natural and Artificial Intelligences in Hybrid Beings and Systems”, na stranici: https://www.mdpi.com/2227-7080/5/3/38, pristupljeno: 16.7.2024.
Freud, S. (1917). “Mourning and Melancholia”. The Standard Edition of the Complete Psychological Works of Sigmund Freud, Volume XIV (1914-1916): On the History of the Psycho-Analytic Movement, Papers on Metapsychology and Other Works, Psychoanalytic Electronic Publishing, pdf. str. 237-258.
Furness, D. (2016). “‘Sunspring’ is an absurd sci-fi short film written by AI, starring Thomas Middleditch“, na stranici: https://www.digitaltrends.com/cool-tech/sunspring-ai-film-middleditch/, pristupljeno: 20.4.2024.
Garcia, Ch. (2016). “Harold Cohen and AARON–A 40-Year Collaboration“, na stranici: https://computerhistory.org/blog/harold-cohen-and-aaron-a-40-year-collaboration/, pristupljeno: 15.2.2024.
Goddard, V. (2024). “The arts: ammunition in a AI arms race?”, na stranici: https://valentinegoddard.medium.com/the-arts-ammunition-in-a-ai-arms-race-50c46b6b59a0, pristupljeno: 24.9.2024.
Godfrey-Smith, P. (2017). Other Minds: The Octopus and the Evolution of Intelligent Life, London: William Collins.
Goldfield, L. (2024). “The Truth Behind Erbai’s ‘Robot Escape’”, na stranici: https://medium.com/@LeonoraGoldfield/the-truth-behinderbais-robot-escape-7d8e85794872, pristupljeno: 12.12.2024.
Grosser, B. (2019). “Computers Watching Movies Part of AI: More Than Human”. London: Barbican Centre, na stranici: https://bengrosser.com/blog/computers-watching-movies-at-the-barbican-centre-in-london/, pristupljeno: 20.4.2024.
Habermas J. (1986). Tehnika i znanost kao ideologija, Zagreb: Školska knjiga.
Harris, J. (2019). “Reading the minds of those who never lived. Enhanced beings: The social and ethical challenges posed by super intelligent AI and reasonably intelligent humans”. Cambridge: Cambridge Quarterly of Healthcare Ethics 28(4), str. 585–591.
Heaven, D. W. (2023). “Welcome to the new surreal: How AI-generated video is changing film. Exclusive: Watch the world premiere of the AI-generated short film The Frost“, na stranici: https://www.technologyreview.com/2023/06/01/1073858/surreal-ai-generative-video-changing-film/, pristupljeno: 21.4.2024.
Hegel, G.W.F. (1986). Fenomenologija duha: Sa jubilarnog izdanja od 1921. godine (Treće izdanje), Beograd: BIGZ.
Hegel, G.W.F. (1989). Osnovne crte filozofije prava, Sarajevo: Veselin Masleša – Svjetlost.
Heinz, J. (2024). “Project Maven: Algorithmic Warfare Doctrine – Project Maven: The Dawn of AI Warfare and its Geopolitical Implications”, na stranici: https://medium.com/@johnd.heinz/project-maven-algorithmic-warfare-doctrine-ultra-unlimited-2b0fcdc47d48, pristupljeno: 24.9.2024.
Hoo, Sh. (2023). “Singapore Art Museum opens new gallery with show on deep fakes and personal identity in AI age”, na stranici: https:// www.straitstimes.com/life/arts/singapore-art-museum-opensnew-gallery-with-show-on-deep-fakes-and-personal-identity-inai-age, pristupljeno: 15.7.2024.
Hunter, C., & Bowen, B. E. (2023). “We’ll never have a model of an AI major-general: Artificial Intelligence, command decisions, and kitsch visions of war“. U: Journal of Strategic Studies Volume 47, Issue 1, str. 116–146 | Published online: 07 Aug 2023, Taylor & Francis online, na stranici: https://www.tandfonline.com/doi/full/10.1080/01402390.2023.2241648#abstract, pristupljeno: 14.8.2024.
Hussein, A., (2021). “AI Will Change War”, na stranici: https://inss.ndu.edu/Events/Event-View/Article/2870040/ai-will-changewar/, pristupljeno: 24.9.2024.
Johal, A. (2023). “From Black Box to Glass Box: The Evolution of Explainable AI: The Human Side of AI: Why Explainable AI is Essential for Human-Centered AI”, na stranici: https://medium.com/geekculture/from-black-box-to-glass-box-the-evolution-of-explainable-ai-c4b932c9fe94, pristupljeno: 16.10.2024.
Kant, I. (1976). Kritika čistog uma, Beograd: BIGZ.
Kant, I. (1981). Zasnivanje metafizike morala, Beograd: BIGZ.
Kelly, S. D. (2019). “A philosopher argues that an AI can’t be an artist: Creativity is, and always will be, a human endeavor“, na stranici: https://www.technologyreview.com/2019/02/21/239489/a-philosopher-argues-that-an-ai-can-never-be-an-artist/, pristupljeno: 16.2.2024.
Klingemann, M. (2019). “Memories of Passersby I, Sotheby’s Auctions”,na stranici: https://www.sothebys.com/en/auctions/ecatalogue/2019/contemporary-art-day-auction-l19021/lot.109.html, pristupljeno: 7.1.2025.
Kundera, M. (2017). Nepodnošljiva lakoća postojanja, Beograd: Gramatik.
Lammin, H. (2022). “What are Bob and Alice Saying? [Mis]Communication and Intermediation Between Language and Code”, London:University of Greenwich, pdf.
Laruelle, F. (2013). Philosophy and Non-Philosophy, Minneapolis: Univocal Publishing.
Legros, V. G. (2023/24). “Avatars and projected identities: A new branch of our social representations”, na stranici: https://cursus.edu/en/27805/avatars-and-projected-identities, pristupljeno: 10.7.2024.
Leibniz, G. W. (2007). “Discourse on Metaphysics”, odeljak 9, pdf. str. 5.
Leshem, I. (2023). “A Philosophical and Artistic Perspective on DALL·E2, TLDR: Exploring the Intersection of AI and Art: An intellectual dialogue on integrating DALL·E2 in the creative process”, na stranici:https://towardsdatascience.com/a-philosophical-and-artistic-perspective-on-dall-e2-b362df74a63c, pristupljeno: 30.7.2024.
Levinas, E. (1976). Totalitet i beskonačno: ogledi o izvanjskosti, Sarajevo: Veselin Masleša.
Lindia, M. S. (2023). “Phenomenology of the Turing test: a Levinasian perspective”. U: Journal of Communication Volume 73, Issue 6, decembar, str. 563–573, na stranici: https://academic.oup.com/joc/article-abstract/73/6/563/7242569?redirectedFrom=fulltext.
Martinoli, A. (2024). „Politika za ljude, stvorena veštačkom inteligencijom – slučaj kandidata AI Stiva”, na stranici: https://radar.nova.rs/radar-kolaz/ai-stiv-vestacka-inteligencija-ana-martinoli/, pristupljeno: 7.12.2024.
Mickmumpitz channel. (2022). “How I generated a full CG Short Film with AI: ‘Cambria, the Femail Ogre’“. Na stranici: https://www.youtube.com/watch?v=ajyL9FyN-pw, pristupljeno: 24.4.2024.
Omazić, I. (2022). „Što su sintetički mediji? Uz pomoć umjetne inteligencije do uvjerljivijih laži”, na stranici: https://balkansmedia.org/bs/inovacije/sto-su-sinteticki-mediji-uz-pomoc-umjetne-inteligencije-do-uvjerljivijih-lazi, pristupljeno: 10.7.2024.
Paglen, T. (2019). “Everything is surveillance software at this point”. Interview: by J. Lloyd, na stranici: https://www.studiointernational.com/trevor-paglen-interview-everything-is-surveillance-software-at-this-point, pristupljeno: 14.7.2024.
Parisi, L. (2022). “Recursive Philosophy and Negative Machines”. U: Critical Inquiry Volume 48, Number 2, The University of Chicago Press Journals.
Parisi, L. (2023). “The Negative Aesthetic of AI”, na stranici: https://www.youtube.com/watch?v=2Qdsd-HhwQI, pristupljeno: 7.1.2025.
Parmantije, S. (2015). „Beleška o pojmu ‘melanholija’ kod Frojda”, na stranici: https://fenomeni.me/beleska-o-pojmu-melanholija-kod–frojda-tema-melanholija/, pristupljeno: 26.7.2022.
Pasquale, F. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information, Cambridge, Massachusetts, London, England: Harvard University Press.
PXL Vision. (2024). “Deepfakes and Identity Theft”, na stranici: https://www.pxl-vision.com/en/blog/deepfakes-and-identity-theft, pristupljeno: 10.7.2024.
Rawls, J. (1971). A Theory of Justice. Cambridge, Massachusetts: The Belknap Press of Harvard University Press, str. 452.
Regan, G. (2024). “A Brief History of Deepfakes”, na stranici: https://www.realitydefender.com/blog/history-of-deepfakes, pristupljeno: 12.7.2024.
Ryan, S. (2024). “The First Robot Genocide: Israel Experimenting with Dystopian Militarized Robot Dogs in Ongoing Extermination Campaign”. U: The Kansas City Defender, na stranici: https://kansascitydefender.com/world/ai-genocide-gaza-urgent-call-action-against-tech-tyranny/, pristupljeno: 22.8.2024.
Sauchelli, A. (2016). “Aesthetic Value, Artistic Value, and Morality“, pdf. str. 515.
Schröter, J. (2019). “Artificial Intelligence and the Democratization of Art”, pdf.
Siebers, T. (2015). “Disability and the Theory of Complex Embodiment – For Identity Politics in a New Register“, pdf, str. 272-291.
Sollberger, D. (2013). “On identity: from a philosophical point of view”, na stranici: https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3751052/, pristupljeno: 9.7.2024.
Spannos, Ch. (2016). “Mass Surveillance and Smart Totalitarianism”, ROAR: Issue #4: ‘State of Control’, na stranici: https://roarmag.org/magazine/mass-surveillance-smart-totalitarianism/, pristupljeno: 4.10.2024.
Stahl, B. C., Schroeder, D., Rodrigues, R. (2023). “Surveillance Capitalism”. U: Ethics of Artificial Intelligence. Springer Briefs in Research and Innovation Governance. Springer, Cham. https://doi.org/10.1007/978-3-031-17040-9_4, str. 42.
Stahl, R. (2010). Militainment, Inc. War, Media, and Popular Culture. London: Routledge, Taylor & Francis Group.
Staunæs, A. B. (2024). “Automatic Uprisings: The Synthetic Party as a Techno-Social Sculpture”, na stranici: https://pure.au.dk/portal/da/projects/automatic-uprisings-the-synthetic-party-as-a-techno-social-sculpt, pristupljeno: 7.12.2024.
Stewart, H. (2020). “AI artists: a change to how we value art?“, na stranici: https://artgateblog.altervista.org/ai-artists-a-change-to-howwe-value-art/, pristupljeno: 16.2.2024.
Suryna, K., Serrano, R. G. (2019). “Agents without Agency: Artficial Intelligence as Artistic Medium”. U: Taboo – Transgression – Transcendence in Art & Science, Greece: Ionian University, pdf, str. 200-209.
Tadimalla, S. Y., Maher, M. L. (2024). “AI and Identity”, arXiv:2403.07924v2 [cs.CY], na stranici: https://arxiv.org/html/2403.07924v2, pristupljeno: 13.7.2024.
Ulgen, O. (2017). “Kantian Ethics in the Age of Artificial Intelligence and Robotics”, na stranici: https://www.qil-qdi.org/kantian-ethics-age-artificial-intelligence-robotics/, pristupljeno: 8.12.2024.
Uttam, P. (2024). “In Singapore, Artists Lift the Lid on Hidden Technologies”, na stranici: https://ocula.com/magazine/insights/singapore-art-museum-proof-of-personhood/, pristupljeno: 15.7.2024.
Veljak, L. (2011). „Pitanja identiteta (I)“, uz temu, Filozofska istraživanja, 124, god. 31, sv. 4, pdf, str. 703.
Virilio, P. (1989). War and Cinema, London – New York: Verso.
Virilio, P. (2006). Speed and Politics, new edition (Semiotext(e) / Foreign Agents).
Vitrak, R. (2015), „Viktor ili deca na vlasti”. U: Tri evropske drame:
Koncil o ljubavi, Ibi u okovima, Viktor ili deca na vlasti, Beograd: Filip Višnjić.
Vivien, D. (2002), “Aesthetics of the technological arts: towards a new publishing economy”, na stranici: https://journals.openedition.org/critiquedart/2041?lang=en, pristupljeno: 1.2.2025.
Vuksanović, D. (2001). Barokni duh u savremenoj filozofiji: Benjamin-Adorno-Bloh, Beograd: Institut za filozofiju Filozofskog fakulteta u Beogradu.
Vuksanović, D. (2010). „Medijska inteligencija i perspektive uma u postglobalnom dobu”. Beograd: Nova srpska politička misao, vol.18, br. 1–2, str. 7–18.
Vuksanović, D. (2001). „Unakažena lica: Ogled iz savremene estetike komunikacija“. Beograd: Zbornik radova br. 5 Fakulteta dramskih umetnosti u Beogradu, Institut za pozorište, film, radio i televiziju.
Vuksanović, D. (2022). “Philosophy in the Time of Media and Technological-information Madness”, u: In medias res: časopis filozofije medija, Vol. 11 No. 20, Zagreb: Centar za filozofiju medija i mediološka istraživanja, str. 3292., na stranici: https://www.centar-fm.org/inmediasres_eng/index.php/divna-vuksanovic-philosophy-in-the-time-of-media-and-technological-information-madness, pristupljeno: 20.10.2024.
Vuksanović, D., Ćalović, D. (2024). „Filozofija medija: digitalna izvođenja”, u: Zbornik radova br. 45. Beograd: Institut za pozorište, film, radio i televiziju – Fakultet dramskih umetnosti.
Wang, Y., Ma, H. (2019). “The Value Evaluation of Artificial Intelligence Works of Art”, (Osaka: International Joint Conference on Information, Media and Engineering /IJCIME/), Conference Paper, str. 445–449.
White, E. (2021). “Positive Implications of Deepfake Technology in the Arts and Culture”, na stranici: https://amt-lab.org/blog/2021/8/positive-implications-of-deepfake-technology-in-the-arts-and-culture, pristupljeno: 10.7.2024.
Žižek, S. (2009). Paralaksa, Zagreb: Anibarbarus.
Zuboff, Shoshana (2019). “The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power”, (uvod), we.riseup.net Crabgrass, na stranici: https://we.riseup.net, pdf.
Zwiezen, Z. (2024). “First AI-Generated Romance Film Looks Like Shit: Next Stop Paris is an ‘AI-Powered Love Story’ from TV maker TCL”, na stranici: https://kotaku.com/next-stop-paris-ai-generatedromance-film-tcl-trailer-1851407455, pristupljeno: 21.4.2024
