Kristina Tica. (2024). aiamanai: loops (0-XX) [14’ 16”].

BORBA NIJE PROTIV MAŠINE, VEĆ PROTIV ONOGA KO POSEDUJE MAŠINU 

Predlaganje mašinske kreativnosti predstavlja agresivnu negaciju intuicije, mašte i apstraktnog razmišljanja, a sve to pokreću motivacija ili namera, koje su istinske ljudske karakteristike, koje su razvile kompleksnu kulturu kakva je do današnjih dana. Politički i ideološki nametnuti prediktivno ponašanje sistema mašinskog učenja kao alata za donošenje odluka, analogno je tretiranju ovih potpuno istih alata za generisanje teksta i slike kao kreativnih.
 
Novo društvo više treba da se okrene promatranju lične odgovornosti u digitalnom svetu, toleranciji kao i društvenoj svesti koja se prilagođava novoj situaciji znatno sporije u odnosu na razvoj i distribuciju novih tehnologija. Umetnost je tu glasnogovornik, fasada kapaciteta sistema, koji se mogu koristiti u mnogo radikalnije, ali i sofisticiranije svrhe.

1. S obzirom na vaše polje istraživanja, da li možete da se setite svog prvog kontakta sa sistemima tzv.veštačke inteligencije?

Sa druge strane, govoreći o prvim alatima koji su bili zasnovani na principima veštačkih neuralnih mreža, to su bili DeepDream ili pix2pix modeli, koji su počeli da se probijaju u open source i veb prostore za programere, ali i za širu upotrebu, putem dostupnih kodova ili onlajn platformi. Naizgled halucinatorni, neugodni prikazi, odnosno generisane rezultat-slike, naslućivali su specifičnu estetiku, koja razbija geštalt, formu i kompoziciju na kakvu smo navikli, a sa druge strane podražavaju realnost, ili sadrže koherentnije elemente slike u odnosu na tipičan glitch art[1] ili data moshing.[2] Tako je bar u početku izgledalo, da prenos slike u numeričku matricu, unutar pikselizovane mreže, donosi nove načine posmatranja slike, projektovanja realnosti ali i poimanja toga kako računari vide nas. Pod uticajem ovih modela, a uz mentorstvo Uroša Krčadinca, krenula sam u stvaranje vrlo ambicioznog projekta – Digitalne Molitve (Digital Prayer), koji je postao i moj master rad u praktičnoj i teorijskoj realizaciji, i koji je otvorio dalji put mojoj umetničkoj praksi i kritičkom istraživanju na polju tehnologija pod terminom veštačke inteligencije.

No, treba se setiti da je sve ono što danas radimo putem komercijalnih modela za generisanje slike u roku od par sekundi, tada bio proces koji je zahtevao i po nekoliko dana. A opet mi se čini da je taj proces, iako softverski i hardverski zahtevniji, donosio više slobode za interpretaciju, hakovanje, i samim tim razumevanje medija.

2. A da li možete da se setite trenutka i povoda, verovatno iz zrelijeg perioda, kada ste odlučili da to bude polje u okviru koga ćete realizovati projekte i razviti dalja interesovanja?

Sazrevanje u promišljanju i delanju u ovom polju dogodilo se kroz rad, i velike zalogaje od samog početka. Pomenuti rad, pod nazivom Digitalna Molitva, je u periodu između 2019. i 2020. godine bio mnogo zahtevniji za realizaciju nego što bi bio samo par godina kasnije. Ali takođe, da nije bilo ograničenja u tehničkom procesu,  sama ideja verovatno ne bi bila realizovana na jednakom konceputalnom nivou. Povod je bio razumevanje računarskih procesa, stvaranja-gradnje slike putem kompjuterskih neuralnih mreža/mašinskog učenja, ogoljen od dalje mistifikacije, koja je često pratila svaku novu vest o naprednim tehnologijama. Same tehnologije su postale napredne usled proširenja hardverskih kapaciteta, i dostupnosti velikih količina podataka (sa interneta), ali idejno nisu nove, njihovi principi sežu od sredine dvadesetog veka. Osetila sam potrebu da kritički prisvojim te alate, i da kroz umetničke projekte predstavim situacije koje omogućavaju široj publici da preispitaju šta je ono što mašina stvara/vidi, a šta je ono što mi prihvatamo kao stvoreno/viđeno.

Gde naši kognitivni kapaciteti počinju, a gde se automacija završava, i obratno.

Digitalna Molitva je projekat koji se zasniva na pomenutim alatima, i za koji sam pripremila bazu podataka od oko četiri hiljade digitalnih reprodukcija pravoslavnih ikona, vizantijskih, srednjevekovnih pa do danas, ručno prikupljajući dostupan materijal sa interneta. Na osnovu tog materijala računarskom modelu je zadato da replicira, to jest, izgradi nove slike po uzoru na datu kolekciju, bazu podataka. Instalacija ovog projekta se sastojala od šesnaest video kanala na kojima se mogao videti proces gradnje slike, piksel po piksel, u hiljadama ponavljanja i permutacija. Za nas, taj projekat je uspešno ostvario cilj – uspeli smo da putem računara stvaramo slike koje podsećaju na original, računar je uspeo da prepozna statističku verovatnoću da će se određena vrednost piksela (za nas boje, linije odnosa u kompoziciji) ponoviti – prepoznao je statističke obrasce, dok mi prepoznajemo kompozicione obrazce na generisanoj slici.

Za nas, ta slika liči na ikonu, a za računar je esencialno svejedno da li je to ikona, cvet, pas, slika naše bake sa prošlogodišnjeg putovanja ili slika novih farmerki. Na putu kroz lične asocijacije i imaginaciju, mi kao posmatrači možemo učestvovati u igri identifikacije i tumačenja objekata na slikama koje kompjuter generiše. Iako imamo pravo na kreativnu interpretaciju simboličkih i asocijativnih formi koje posmatramo, sa druge strane je vrlo važno imati u vidu da je tehnička pozadina građenja slike u mnogim primerima mistifikovana. Kako posmatrač ne bi bio obmanut, već svestan igre asocijacije kojom doprinosi kreativnom aspektu statističke obrade podataka, potrebno je da postoje umetnički projekti koji ovakav postupak demistifikuju kroz razotkrivanje mašinskog postupka stvaranja slika.

U tom procepu između percepcije i kognicije se otvorilo polje za moja dalja istraživanja, i na tom kursu sam ostała do danas, praveći seriju projekata zasnovanih na tzv. kompjuterskom vidu – tipovima algoritama i modela, koji se koriste digitalnom slikom kao ulaznim ili izlaznim podacima za obradu.

3. Da krenemo od lingvistike, jer je to moguće jedno od ključnih mesta definisanja našeg odnosa prema onome šta adresiramo u oblasti razvoja nove tehnologije. Da li je termin veštačka inteligencija, kao jedna od ekstremno uspešnih marketinških strategija brendiranja, dakako obmanjujućih, doprineo ovoj konfuziji i pogrešnom pravcu razgovora? Da li bismo drugačije o ovome govorili ukoliko bismo govorili o odnosu umetnosti i mašinskog učenja? Ili o odnosu umetnosti i načina apliciranja obrade podataka?

Da, veštačka inteligencija je apsolutno antropomorfan i obmanjujući termin, koji maskira pravu prirodu ovih alata, kalkulativnu, prediktivnu, optimizovano uniformnu. Obmanjujući koncepti kao što su VI umetnost ili kreativnost u VI samo su još jedna podrška marketinške strategije, koja predstavlja ove alate kao nešto antropomorfno i kompetentno nalik ljudskim oblicima izražavanja ili inteligencije. Zašto i za koga koristimo ove alate, čemu nam služe, šta se izostavlja? Sa stanovišta inspirisanog ljudskom percepcijom, neka vrsta probabilističkog geštalta, koji ne podrazumeva nikakav princip stvaranja slike koji ljudi koriste da bi prikazali ili reprodukovali ono što je viđeno, putem geometrijskih, prostornih ili fizičkih pravila i mogućnosti ili tehnika, već podrazumeva matematički princip reprezentacije putem kombinatornog statističkog optimuma ponavljanja šablona datog u bazi podataka. Za nas je to slika koja ne bi trebalo da se odnosi na reprezentaciju i ne poseduje suštinsko značenje van okvira našeg tumačenja.

Čak i sa kreativnim procesom, kao što je pravljenje-generisanje slike, ograničeni smo na ulogu korisnika-kupca, koji uglavnom stupa u interakciju na nivou komande–izvršenja, na tački bez povratka, kao obim operativnih informacija unutar skupa podataka model je granica njegovog delovanja, i mi se krećemo tom istom kartom, pa je korišćenjem ovih alata utvrđena granica na obimu teritorije koju možemo da pređemo. Pored toga, kompjuterizovana slika nije san – mašinski vid je vizija bez slika – to je slika podataka. Odabir podrazumeva tek jednu ili par slika, naspram hiljada slika koje su nastale u postupku generisanja. Autor bira one rezultate koji su likovno uzbudljivi i asocijativni.

Kako primeri koji predlažu strategiju beskonačnosti i univerzalnosti pokazuju da one funkcionišu samo u okviru ograničenog opsega informacija, postoji definitivan dokaz hermetizma sistema koji su razvijeni na osnovu premise da kvantitet čini kvalitet. Termin je u umetnosti postao samo-referentan. Mnoge slike koje su nastale putem VI alata ne bi imale nikakvu vrednost kada bi smo izuzeli informaciju da su nastale tim putem. Šta onda ostaje? I u tradicionalnim, starijim medijima, možemo se diviti tehničkom umeću autora, ali ključne vrednosti rada nastaju u širem kontekstu, nije svako delo vredno samo zbog kvaliteta materijala od kojih je sačinjeno. Autonomija stava, iskaza ili tvrdnje i dalje pripada čoveku, i stoga je važno ostaviti po strani hajp oko svakog novog alata na tržištu, već ga sa znatiželjom isprobati i ispitati.

Kristina Tica, FutureFalsePositive, 2021, Foto: Miha Godec

4. „Sada objekti percipiraju mene“, reči su Pola Klea, prema navodima Pola Virilija u knjizi Mašine vizije (1994, original 1988). Kamere nas posmatraju sa satelita i dronova, dele informacije i koriste algoritme za prepoznavanje lica kako bi pratili pojedince. Do nedavno ljudski vid je bio jedina vizuelna perspektiva koja nam je bila dostupna. Vizuelne tehnologije poput crtanja, fotografije i videa pružaju nam indirektan pristup vizuelnom iskustvu drugih ljudi u svetu, ali i dalje pod kontrolom ljudi. Znamo da drugi organizmi imaju drugačije čulo od nas, ali nemamo direktan pristup njihovom vizuelnom iskustvu. Do sada smo imali direktan pristup samo sopstvenom vizuelnom iskustvu, i indirektno, kroz tehnologije kamera i crteža, iskustvu drugih

Međutim, sada imamo i pristup neljudskom obliku vida: mašinskom vidu dronova, satelita i kamera za nadzor. Mašinski vid predstavlja registraciju, analizu i reprezentaciju vizuelnih informacija od strane mašina.

Ovo intrigantno polje istražujete i u radu Surveillance Disco (2019-2021), gde prisustvo i način kretanja ljudi, odnosno publike, dobija formu statističkog plesa, odnosno dinamičkog pokreta crvenih tačaka i linija, kojima mašine detektuju i predstavljaju naše postojanje. Da li možete više reći o ovom projektu?

Projekat je nastao kao participativna instalacija, jednostavna programska vežba koja ne zahteva visoku tehnologiju, ili posebne programerske veštine, a esencijalno izvodi ono što algoritmi kompjuterskog vida rade po osnovnom principu, nezavisno od kompleksnosti sistema.

Vizuelizacija tehnologije nadzora ukazuje na slojeve podataka iza digitalnog video snimka na jedan način interpretacije, kao primer kako bi računari mogli nas videti. Model, odnosno kod za ovaj projekat, PoseNet je open source, tj. javno dostupan za upotrebu. Rad je participativan u svakom smislu – u načinu egzekucije, programiranja i instalacije. Može postojati na mnogo načina i u mnogo prostora, ali ideja se time ne menja. Ovakav algoritam i pristup stvaranja rada esencijalno leži u kodu, u ideji, i bliskiji je Sol Levitovom shvatanju umetničkog dela kao ideje, koncepta i čak instrukcije, nego bilo čemu drugom. Takođe objašnjava lakoću kreiranja sistema za nadzor ili praćenje ljudskog kretanja. U tom pogledu, rad otvara kritičko razumevanje, da tehnologije nadzora nisu nešto van našeg shvatanja, vrlo su banalne u principima na kojima rade, ali su zbog toga i zastrašujuće.

5. Koristeći ipak ustaljeni termin veštačka inteligencija, čini se da dva termina dalje vode put ka boljem sagledavanju novih tehnologija i konsekvenci njihovog razvoja, a to su oruđe i instrument. Oruđe je svakako korisno u svakodnevnom životu, no instrument poseduje sofisticiranost i preciznost koja donosi, u oblasti umetnosti, novi izraz, interpretaciju koja sama postaje samostalno delo, kao i posebnu vrsta znanja, koju je nemoguće na drugi način izraziti osim kroz umetničku praksu. Pomislimo samo na violinu ili bilo koji muzički instrument. Dok u oblasti nauke instrumenti takođe omogućavaju novo znanje, svakako u formi naučnih otkrića, koja bi takođe bila nemoguća bez istančanosti pogleda koji donose novi instrumenti.

Da li je VI oruđe ili instrument?

Oba, ali ovde ću koristiti reč instrument ne u kontekstu muzičkog, već društvenog instrumenta. Svaki medij, bilo analogni ili digitalni, ili pak opipljivi alat ili instrument, nosi svoju formu, koja sugeriše estetiku i način na koji se rad stvara korisćenjem tog medija, ili alata-sredstva, i nudi svoje prednosti ili ograničenja. U slučaju muzičkog instrumenta, njegova upotreba odnosno primena je usmerena u specifičnom okviru. U pitanju kompjuterskih sistema pod terminom VI, prevodimo sve čulne/ perceptivne medijske resurse u brojčanu vrednost, kod. Gde je granica između servisa, uslužnosti alata i složenosti namere? Algoritamska obrada ogromnih količina podataka utire put ka kontrolnom sistemu koji je apstraktan, akceleracionistički, strukturno nepovratan i stoga nekontrolisan, ali nikada nezavisan od ljudske namere. Koliko god da su raznovrsni i bogati mogućnostima, oni dolaze sa sopstvenim, unapred određenim, postavkama i ne pozivaju nas da gledamo iza, demontiramo ili dovodimo u pitanje strukturne principe na kojima su razvijeni.

Moji radovi su razvijena kao vizuelni i semiotički pristup razumevanju zamenljivosti značenja i proizvoljnosti konteksta generativnih slika, kako projektujemo značenje na kompjutersku obradu slike. U prvom predstavljenom slučaju, za projekat Digitalna Molitva uspostavila sam vezu između kompjuterskog koda i srednjovekovne pravoslavne ikone, dok je kompjuterski model bio u stanju da proizvede slike koje liče na originale date u bazi podataka, i samim tim obećavaju kombinatornu transcendenciju, beskonačnost permutacija slika, beskrajne iteracije bez značenja, koje čitamo kao poznati objekat. Verovanje u viši izvor, nematerijalnost i sveznajuću strukturu moći sa vrha nije nova univerzalna apstrakcija. Obećanje neutralnog agenta u ideologiji VI je važan primer sa kojim se ne treba složiti, predstavljajući primere istraživanja koji vizualizuju i materijalizuju kolektivne napore i logičke greške obećanih automata za donošenje odluka. Sistemi kompjuterskog vida za analizu slike i prepoznavanje objekata razvijeni su na osnovu netransparentnosti skupova podataka i procesa označavanja skupova podataka i procesa etiketiranja, što dovodi do ljudskih pristrasnosti i neslaganja u etičkom i moralnom kontekstu.

Ni jedan sistem ne može biti opšti, objektivan, jer nema sopstvenu nameru ili cilj. Inteligencija je kolektivni napor, a svi podaci su subjektivni. Ubrzanje tehnoloških rešenja koja se implementiraju u sve pore naših života i industrija ne obećavaju stvarna rešenja za složenost društvenih sistema ili etičke

prioritete. Ako naše viđenje sveta potčinimo operativnoj slici iza koje stoji ovakav alat, taj alat postaje instrument za kontrolu društva. Kako bi društvo uspelo da uspostavi kontrolu nad alatom, moramo ga prilagoditi našim potrebama. Eksperti iz specifičnih naučnih oblasti su neophodni za razvoj i primenu adekvatnih tehnologija, ali to zahteva i sporiji, detaljniji razvoj sistema.

Kristina Tica. (2020). Digital Prayer. Installation view. Art+Science Festival 2020. Foto: Ivan Zupanc

6. U radovima poput Uncanny Mirror Instagram iz 2018. ili Powerstrangers iz 2021. referirate na naš odraz u digitalnom prostoru, na otiske koje ostavljamo, ali i na naš svojevrsni portret na online teritoriji. U radu Uncanny Mirror Instagram otkrivate i pratite pikselizovanu dokumentaciju, dok u radu PowerStrangers taj odraz poprima formu utvare koju ne prepoznajemo, i koja nas proganja. No, da li je ta utvara, odnosno distorzija identiteta i realnosti, rezultat preuveličavanja naše realnosti ili nam taj odraz donosi i deo saznanja koje nismo do tada prepoznali kod sebe?

Kao i Surveillance Disco, i Uncanny Mirror je zasnovan na open source kodu, u ovom slučaju na varijaciji slit-scan koda. Ovi, a i mnogi drugi slični kodovi koji se zasnivaju na real-time video procesovanju su javno dostupni za preuzimanje i direktno korisćenje svima. Ovo naglašavam, zato što je pitanje autorstva u ova dva rada manje vazno, koliko je samo uspostavljanje scene-situacije u neposrednom, svakodnevom prostoru, ili pak umetnickoj galeriji, bilo ključno kao strategija za disrupciju, presek između očekivanja onoga sto ćemo videti kada je kamera uperena u nas, i viđenog, kada snimak prođe kroz računarski kôd. Uncanny Mirror je takođe postavljen u participativni kontekst. Sjedinjavanje našeg prisustva, namere i pokreta u vremenu ili trenutku u kome se nalazimo pred kamerom, sa kompjuterskim kodom koji je instruiran da digitalne podatke sa kamere obradi na način na koji mu je zadato od strane čoveka, ukazuje na to da digitalna slika nije ogledalo, već projekcija (parafraziram Vilema Flusera) promenljivih parametara. Time je cilj bio da vizualizujem i naznačim ove granice – gde stvarnost prestaje, a otpočinje kôd i računski proces.

Potencijal kamere kao aparata nadzornog sistema ali i data-inputa za algoritmičko procesovanje putem računarskog kôda iskoristila sam u većoj meri u radu POWER STRANGERS iz 2021. godine. U tom radu, naš lik, odnosno lik pristunih ljudi postaje supstanca za obradu. Mi ga prepoznajemo kao sopstveni, kao odraz naseg identiteta, dok je za sistem to kap u okeanu (preporučujem A Sea of Data: Hito Steyrl i Excavating AI: Kate Crawford i Trevor Paglen za čitanje na tu temu) – sa jedne instance zamenjiv bilo kojim drugim likom i naizgled beznačajan, ali i sa druge strane prisutan, i potencijalno opasan jer ulazi u polje nadzora. Nadzor ne predstavlja pretnju dok se ne uspostavi direktno suočavanje sa sistemom. Primer za to su situacije u primeni ClearviewAI, softvera proizvedenog od strane privatne kompanije, a u upotrebi policije i vojske (Kashmir Hill, Your Face Belongs to Us).

U slučaju ovog projekta, algoritam ne čuva lične podatke, i ne utiče na privatnost pojedinca izvan okvira instalacije. Rad preuzima lica na osnovu kojih menja svoj identitet i obličje. Kompjuterski algoritam putem kamera traži i prepoznaje ljudski lik, a onda, kada se posmatrač pred njom pojavi, aktivira ostale procese u radu – slika posmatračevog lica se čuva u vidu kratkog snimka, i propratno se aktiviraju pumpe u akvarijumu koje pokreću zelenu tečnost, kao i zvuk. Kada se posetilac odmakne od instalacije, u intervalu od nekoliko minuta, njegova slika se projektuje na masku unutar akvarijuma. Bez prisustva čoveka, i njegovog lika, instalacija ne bi imala gorivo za rad, supstancu kojom se hrani.

7. Danas se debata o razvoju mašinskog učenja, odnosno VI, većinom polarizuje kroz tehnofobe ili sa druge strane tehnoutopijske narative. U radovima često referirate na pozicije moći koje definišu koji će se podaci koristiti u ovim procesima mašinskog učenja, odnosno, na koji način će se obrađivati i primenjivati ti podaci. Da li tehnofobi narativ o predstojećoj apokalipsi zapravo prikriva sve vrste nepravdi, eksploatacije prirode i ljudi, pozivajući se na ljudske egzistencijalne strahove?

Poenta je humanizovati VI, ne kao entitet koji dominira nad ili reprezentuje/replicira naše kognitivne procese, nego kao alat sa svojim prednostima i ograničenjima. Kritički osvrt ne treba da bude negacija i zaustavljanje razvoja alata, ali ne sme biti ni apsolutna podrška svakom novom obrtu u razvoju. Pozicija umetnika kao istrazivača je tu ključna. Mi nismo uslovljeni da načinimo funkcionalan sistem, ili da podilazimo strategijama poslovanja – optimizaciji rada radi profita, na primer, i samim tim mi možemo da prepoznamo granice problema pri primeni tehnologija van industrijskih okvira (efikasnosti).

Bilo da govorimo o servisnim uslugama, IT sektoru, ekonomiji, industrijskoj proizvodnji, medicini, ali i pravima i politici, problem nastaje kada shvatimo da ove sisteme prave uglavnom IT stručnjaci, koji nužno nemaju veze sa specifičnim disciplinama. Posebno u humanističkim disciplinama dolazimo do lakog zaključka da nisu sve informacije i znanja pogodne za kvantifikaciju. Nijanse, izuzeci i margina (u društvenom smislu) prva ulazi u krizu zbog ovakve vrste pravljenja sistema. Kada tehnologije prodiru u ljudski svet sačinjen od društvenih kompleksnosti, kulturnih koncepata, moralnih uverenja, etičkih načela, dvoznačnosti i metafore – takav operativni jezik pretvara sve ove kompleksnosti u površinu kvanititativne obrade, ne menjajući ciljeve, ostajući uniforman, samim tim podeljujuć, isključiv, bez prostora za slučajnost, posebnost, grešku.

Trenutno, živimo u tehnološkom akceleracionizmu – alati se prvo naprave, prodaju, a onda (potencijalno) dolazi do evaluacije ili evolucije istih, kako bi postali prilagođeni potrebama ljudi ili industrije. Trenutno se nalazimo u tehnološkom mračnom dobu – dobu velikih tehnoloških napredaka, ali i dobu u kom učimo kako i zašto su nam određene tehnologije potrebne. Proces učenja i prilagođavanja zahteva vreme, stoga povratna sprega između tehnologija koje prodiru u naše živote na mikro i makro planu, i naše spoznaje da su one oko nas, jos uvek nisu u ravnoteži. Dolazi do većih društvenih podela, izraženije diskriminacije, podređivanja ljudskih kapaciteta i prirodnih resursa koordiniranju i unapređivanju ne-intuinitvnih sistema, gubeći našu sposobnost za mišljenje izvan okvira ili pak učenje, stvarajući kognitivnu atrofiju.

U tom procepu, uloga umetnika je da formira izraz razumevanja, dijaloga između mogućnosti koje nam ovi alati daju i naših potreba, i da ukaže na ove razlike pre nego što dozvolimo sebi da promenimo naš pogled na svet, na način na koji nam to alat ukazuje.

8. Ipak, zagledani u fenomene novog tehnološkog razvoja, ponekad nam kontekst izmič A to je u ovom trenutku izrazito dramatičan kontekst, nalik čvoru satkanom od različitih kriza – geopolitičkih, ekonomskih, ekoloških, vrednosnih… Ratovi bukte i šire se ubrzano. Slike ratnih razaranja predstavljaju osnovne slike ovog vremena. U radu Prompt: War Stories (2021-2023) problematizujete ovo polje, te u dvokanalnoj video instalaciji uporedo predstavljate sadržaje koji simuliraju snimke realnosti, generisane od strane postojećih slika ratnih akcija i istorijskih događaja, dok sa druge strane taj materijal služi kao osnova za konstruisanje imaginarno-herojskog sadržaja, na osnovu vizuelnog materijala kojima se generišu ratne ideologije.

Ovo je problem simulacije, kao manupulacije, aproprijacije i difrakcije realnosti. Razgovaramo o ovome u trenutku kada unutar kompanije koja poseduje najveće platforme za društvene mreže dolazi do izmene politike moderacije sadržaja, ukida se fact-checking, na primer.

Kada sam pravila rad, pokušavala sam da ispitam granice unutrar kojih je sadržaj ekspilicitnog/ nasilnog karaktera moguće generisati putem najrazvijenijih i najpopularnijih alata-proizvoda za generisanje slike iz teksta. Modeli i sistemi na kojima su ovi alati zasnovani poseduju nezamislive količine podataka, slika i teksta sa interneta na osnovu koga generišu sadržaj. Na osnovu generisanih i stvarnih naslova novinskih članaka koji su se bavili ratnim reportažama ili vestima, napravila sam bazu podataka – slika, iz kojih je rad nastao. U procesu generisanja, neki modeli su gravitirali više ka fantaziji, svemirskom kolonizatoru i ratniku iz komercijalne holivudske naučne fantastike, dok su drugi uspevali da prodru u domen podražavanja realnosti, prikazujući slike razrušenih gradova sa velikom verodostojnošću.

Samo godinu dana kasnije, duboko uoči napada na palestinsku teritoriju, pojavile su se slike bombardovanja Gaze u medijima, otkupljene od Adobe-ovih servisa za stock image, koje su bile u potpunosti generisane, ali kupljene i distribuirane na stranice novinskih članaka. Pored problema verodostojnosti, koji je uveliko informativni sport naše svakodnevice, a očito nije dostigao svoj pun dezinformativni potencijal, ključni problem koji uviđam u ovom slucaju jeste prodaja tih slika/ sadrzaja, monetizacija (1) tragedije ljudstva, (2) ratne propagande, (3) dezinformacije, od strane jedne od najvećih svetskih kompanija u polju kompjuterske obrade slike. Dostupnošću ovih alata danas svako može kreirati fiktivni sadržaj koji podražava ili prekraja realnost, ali odgovornost pojedinca za to postaje manja ukoliko i kompanije to rade bez snošenja direktne odgovornosti. Novi konsenzusi oko moderacije digitalnog sardžaja, ili prelazak na nove formate društvenih platformi će biti neophodan u bliskoj budućnosti.

 

Kristina Tica, Promt: War Stories (2021-2023).

9. Finansijska neizvesnost i borba obeležava naš svakodnevni život. Te kada govorimo o ukidanju radnih mesta zbog razvoja veštačke inteligencije, u kontekstu Srbije se može postaviti i pitanje – kojih radnih mesta? No, potmulo, u grčevitom zagrljaju svih navedenih kriza, razvoj VI predstavlja u našoj sredini, možda, i najmanje direktno vidljivi element krize. Koje je vaše viđenje krize proistekle na osnovu tehnološkog razvoja, usred ovog kovitlaca neizvesnosti i ugroženosti egzistencijalnih osnova čoveka?

Pogodno je da se uz mašinsko učenje unapredi robotika i industrijska postrojenja gde mehanički, repetativni i visokorizični procesi-poslovi treba da budu u određenoj meri automatizovani, ali i da čoveku-radniku bude oslobođen prostor da u svom radu unese veštine, znanja i iskustvo, a ne da podražava mašinski proces čak i po cenu zapostavljanja osnovnih bioloških potreba. Ovi problemi događaju se i bez upotrebe savremenih tehnologija, eksploatacija radnika i ekonomsko brisanje radničke klase postoji i sa i bez robota. Optimistično se nadam da ćemo tu borbu pobediti. Ta borba nije protiv mašine, već protiv onoga ko poseduje mašinu.

VI sama po sebi ne predstavlja rizik. U pitanju su ljudi koji predlažu VI kao rešenje problema za čovečanstvo ili pak društvene sisteme… ti ljudi predstavljaju rizik. VI neće zameniti većinu poslova, već ce ljudi menjati poslove da bi se uklopili u zahteve industrije koja predlaže implementaciju VI sistema u svaku njenu poru, kako bi se opravdao investicioni kapital. VI alati su uveliko u našim životima, samo su manje ili više vidljivi. Od algoritama za plasiranje sadržaja na društvenim mrežama ili platformama, preko navigacionih mapa, do sistema nadzora, ovi alati se mešaju u našu svakodnevicu na globalnom nivou, tako da niko nije pošteđen.

Ovi sistemi mogu samo da amplifikuju već postojeće društvene probleme, stoga je važno da budemo oprezni i pažljivi u razumevanju ovih sistema, i da spremno učimo i reagujemo u slučajevima kada sistem zakaže (VI ili ne-VI) – bitno je da adresiramo odgovorne ljude koji stoje iza njih i njima upravljaju.

10. Moguće zaglavljeni sa svim prispelim krizama, čini se da smo anestezirani i da pomišljamo na neko novo društvo i budućnost. Kao da nam je misao o budućnosti uskraćena – da razmotrimo i moguće konstruktivne aspekta ove situacije. Da li nam VI kao instrument može pomoći u oblasti novih imaginarijuma, u novom promišljanju budućnosti društva i čoveka?

Svakako da može, ali onog momenta kada je pojedinac u stanju da koristi automatizovane procese tehnologija pod VI samostalno, uz razumevanje mogućnosti, i prilagođavanje alata ličnim potrebama. Šira upotreba i dostupnost prilagođenih custom-made sistema pomoći će društvu da uskladi tehnologiju sa ljudskim potrebama.

Neophodno je istaći i činjenicu da sve bržom obradom sve veće količine podataka računar i dalje samo obrađuje date podatke – računa i optimizuje – i ne stvara ništa novo sam po sebi. Sa stanovišta percepcije inspirisane ljudima, neka vrsta verovatnog geštalta, koji ne drži nikakav princip stvaranja slike koji ljudi koriste da bi prikazali ili reprodukovali ono što se vidi, putem geometrijskih, prostornih ili fizičkih pravila i mogućnosti ili tehnika, već na matematički princip reprezentacije, putem kombinatornog statističkog optimuma ponavljanja šablona datog u bazi podataka. U radu Nooscope Manifested, Mateo Paskvineli i Vladan Joler uvode sledeće pitanje:„Logično i političko ograničenje veštačke inteligencije je teškoća tehnologije u prepoznavanju i predviđanju novog događaja. Kako se mašinsko učenje nosi sa zaista jedinstvenom anomalijom, neuobičajenim društvenim ponašanjem, inovativnim činom ometanja?”

Predlaganje mašinske kreativnosti je agresivna negacija intuicije, mašte i apstraktnog razmišljanja, a sve to pokreću motivacija ili namera, koje su istinske ljudske karakteristike, koje su razvile kompleksnu kulturu kakva je do današnjih dana. Politički i ideološki nametnuti prediktivno ponašanje sistema mašinskog učenja kao alata za donošenje odluka, analogno je tretiranju ovih potpuno istih alata za generisanje teksta i slike kao kreativnih. Kompjuter se ne rukovodi namerom, nema volju, ali izvršava komandu. Ovaj kreativni proces je pod ljudskom kontrolom. Na primer, Mihaj Nadin objašnjava „da se radi samo o inteligenciji koja je potrebna za pobedu u partiji (šahu ili bilo kojoj drugoj), propustio je najvažniji aspekt: stvaranje same igre, kao jednog od mnogih slučajeva u kojima ljudska bića oblikuju svoje stanje“.

Novo društvo više treba da se okrene promatranju lične odgovornosti u digitalnom svetu, toleranciji kao i društvenoj svesti koja se prillagođava novoj situaciji znatno sporije u odnosu na razvoj i distribuciju novih tehnologija. Umetnost je, na primer, tu samo glasnogovornik, fasada kapaciteta sistema, koji se mogu koristiti u mnogo radikalnije ali i sofisticiranije svrhe.

 

Kristina Tica, PowerStrangers, 2021.

11. Čini se da u oblasti kombinatornih potencijala sistemi VI poseduju znatne mogućnosti, koje prevazilaze ljudske. No, u radu FutureFalsePositive na primeru čitanja sudbine iz šoljica kafe adresirate apsurdnost oslanjanja na novu tehnologiju u kontekstu pouzdanih rešenja ili prediktivnih kapaciteta. Kako stoji stvar sa transformativnim kapacitetima ovog sistema, u smislu transformativnih mogućnosti društva i promene civilizacijske paradigme, odnosno mogućeg civilizacijskog skoka?

Činjenica je da kompjuterski sistemi imaju ne–ljudske mogućnosti za matematičku i kombinatornu obradu podataka. Ali takođe imaju i ne-ljudsku logiku, i princip prepoznavanja obrazaca po numeričkoj korelaciji a ne po ljudskoj logičkoj kauzalnosti. Teško je razmišljati o civilizacijskom skoku ako se trudimo da razmišljamo logikom koja nije u našoj prirodi. U prirodi kompjutera je da računa. Da li propaganda predikcije, statističke verovatnoće po računici kompjuterskih sistema postaje naše jedino verovanje i realnost, problem je društva u kome živimo.

Kada govorimo o inteligenciji i nameri ovih sistema, mi kao autori ukazujemo na njih. Sam sistem nema kognitivni kapacitet da zapravo zna šta je lice, a šta ne – nekada će umesto čovekovog lika pronaći lice u refleksijama svetla na podu, na primeru prethodno pomenutog rada POWER STRANGERS. To, naravno, zavisi od toga koliko je sistem dobro utreniran, to jest, prilagođen, pa od uslova gde je upotrebljen, čak i od kvaliteta kamere – no, ma koliko sistem bio usavršen, uvek postoji prostor za grešku. Stvar je u tome, koja je naša namera i postupak kako bismo predupredili greške, ili kako bismo ih unapredili i amplifikovali. Amplifikacija kompjuterske greške koja se pojavila kao mana u tom radu postala je prednost u FUTUREFALSEPOSITIVE – prevodeći kompjutersku grešku u psihološki koncept apofenije ili parideolije. Za računar analiza slike je bez simbola, bez metafore – simboličke relacije i kauzalnost (uzročno posledični odnosi) zamenjuju se korelacionom numeričkom vrednošću. Pronalaženje šablona dolazi pomoću brojeva (verovatnoća ponavljanja vrednosti na određenoj poziciji na mreži piksela) a ne bilo kakvim intuitivnim ili iskustvenim vrednostima.

FUTUREFALSEPOSITIVE je prediktivni analitički alat, postavljen da prorokuje zagonetne savete, kalkulativna predviđanja kao spekulativno sujeverje, putem metode kompjuterske pristrasnosti (computer bias) lažnih pozitivnih rezultata. To je računska pareidolija ili apofenija, zarobljena u beskonačnoj petlji, koja dolazi kao očajnička potraga za značenjem tamo gde ga nema, koliko god intuitivno i metaforično za ljude, to je izvršni zadatak za mašinu, podseća nas da u ovoj petlji nema prave ili lažne vrednosti, naš sistem za prepoznavanje objekata će pretraživati i pratiti obrasce zauvek, osim ako se drugačije ne uputi. Za nas fantazam ili spekulacija, mašta i pronalaženje šablona mogu biti oblik kreativnog izražavanja, dokolice ili komunikacije, a za algoritam izvršenja, to je borba bez efikasnosti, bez smisla, bez rezultata, tačan je ali pogrešan, zaglavljen u aktivnosti koja otkriva automatizovani karakter mašinskog vida – statistički generator verovatnoće koji vidi ono što želimo da vidi, ili bolje reći, da otkriva obrasce koje želimo da otkrije.

Napomene:

Rad Digital Prayer je nastao u timu: Uroš Krčadinac (FMK/supervizor), Miloš Trifunović (programiranje), Jacques Laroche (FMK/programiranje/tehnička podrška), Marija Šumarac (zvuk). Realizacija je podržana od strane Centra za promociju nauke i European ARTificial Intelligence Lab projekta.

Rad POWER STRANGERS je nastao u timu: Barbara Jazbec (ko-autorka), Žan Rajšek (programiranje), Marija Šumarac (zvuk). Realizacija je podržana od strane Ministarstva kulture Slovenije.

Reference:

Crawford, Kate, Paglen, Trevor. Excavating AI: The Politics of Training Sets for Machine Learning. (September 19, 2019.) excavating.ai.

Flusser, Vilém. Into the Universe of Technical Images, Minneapolis: University of Minnesota Press, Minneapolis, 2011.

Hill, Kashmir. Your Face Belongs to Us: A Tale of AI, a Secretive Startup, and the End of Privacy, Random House Publishing Group, 2023.

Joler, Vladan. Pasquinelli, Matteo, The Nooscope Manifested: Artificial Intelligence as Instrument of Knowledge Extractivism, KIM research group (Karlsruhe University of Arts and Design) and Share Lab (Novi Sad), 1 May 2020 (preprint forthcoming for AI and Society). nooscope.ai.

Nadin, Mihai. In Folly Ripe. In Reason Rotten’. Putting Machine Theology to Rest, (arXiv, 2017.) https://doi.org/10.48550/arXiv.1712.04306.

Steyerl, Hito. A Sea of Data: Pattern Recognition and Corporate Animism, Pattern Discrimination, Edited by Florian Cramer, Clemens Apprich, Hito Steyerl, and Wendy Hui K. Chun, Lüneburg: meson press, 2018.

Tica, Kristina. COMPUTATIONAL AESTH-ETHICS: Understanding visual computation processes between the image and its context. Kunstuniversität Linz, 2023. https://doi.org/10.57697/8WK2- B258.

Razgovor vodila: Anica Tucakov

[1] Glitch art je tehnika koja koristi digitalne ili analogne greške u estetske svrhe, manipulišući podacima ili fizički delujući na elektronske uređaje. U tehničkom smislu, glitch se definiše kao pojava koja rezultira ekstremnim i nepredvidivim posledicama, koji nastaje kao neočekivana posledica kvara, a najčešće se pojavljuje u igrama, slikama, zvuku i videu, kao i u drugim digitalnim artefaktima. Sam izraz glitch popularizovali su inženjeri i astronauti NASA-e, koji su ga počeli koristiti od 1962. godine, kada je označavao problem sa promenama napona struje. (Prim.ur)

[2] Data moshing predstavlja tehniku montaže videa, zasnovane na manipulaciji slike, kako bi izgledao kao greška, obično pomoću manuelne kompresije. Najčešći oblik data moshinga je tranzicioni data mosh, u kojem jedan kadar razlaže u gomilu piksela i prelazi u sledeći. (Prim.ur)