Ne zna se ko je generisao lažne slike Swift, koje su pregledane desetinama miliona puta otkako su se pojavile. U petak je X izdala saopštenje da njihov tim radi na uklanjanju svih nepoželjnih golotinja sa njihovog sajta, jer je to „striktno zabranjeno”.

Problem je dublji od onoga što se dogodilo Taylor Swift. Posebno predstavlja rizik za mlade žene, koje su uglavnom žrtve dubliranja. Dubliranja, odnosno zamjena lica, su simptom šireg problema onlajn nasilja protiv žena i devojčica koje istorijski nisu bile prioritet tehnoloških kompanija i društva.

Dubliranje lica je zastrašujuće jednostavno napraviti. Korisnicima nije potrebno nikakvo iskustvo u kodiranju ili veštinama umjetne inteligencije da bi generisali takvu sliku. Tokom 2023. je prema Wired i Slate, generisano više od 140 000 deepfake porno sadržaja.

Ovakvi sadržaji mogu poslužiti kao osvetnička pornografija, te za ucjenjivanje i vršnjačko nasilje, bullying mladih žena i djevojčica, ali i pripadnika LGBTIQ+ populacije i manjinskih zajednica. Žrtve ostaju traumatizirane, osjećaju stid, a često nema pravnog lijeka za ovakve situacije. Osobe koje izađu iz nasilnih, kontrolišućih veza, veoma često su žrtve ove vrste online nasilništva. Kod ovakvih stvari radi se o kontroli druge osobe, ili, ako se već ne može kontrolisati, onda stvaranje traume, stigme i ismijavanje.

Seksualni aspekt kreiranja i puštanja u promet ovakvih deepfakeova je posramljivanje, ušutkavanje i ponižavanje ljudi. Obično kad žene progovore o nasilju ili za rodnu ravnopravnost– pogotovo žene koje su istaknute u javnom žvotu kao što su novinarke, glumice, muzičarke – događa se da su odmah na meti digitalnog seksualnog nasilja.

Ovo je potpuno povezano s željom za moći nad tim osobama i kontrolom. Ovo je direktan atak na ljudska prava i demokratski senzibilitet društva, ideale, kojima, valjda težimo.

Prema izvještavanju Wired, u septembru 2023. se više od 20 djevojčica u dobi od 11 do 17 godina javilo u španskom gradu Almendralejo nakon što su AI alati korišteni za generisanje njihovih golih fotografija bez njihova znanja. Slično se događalo i u SAD.

Učenica srednje škole Westfield Francesca Mani (14) i njezina majka Dorota izrazile su frustraciju u gostovanju na CNN zbog, kako kažu, nedostatka pravnog sredstva za zaštitu žrtava pornografije generisane umjetnom inteligencijom.

Umjesto toga, onlajn platforme mogu ih generisati za korisnike sa samo nekoliko klikova i slanjem fotografije ili videa. Dubliranja se mogu koristiti za eksplicitan sadržaj, ali i za generisanje lažnih audio poruka koje imaju potencijal da poremete izbore.

Stručnjaci upozoravaju da postoji obiman sistem kompanija i pojedinaca koji imaju koristi od dubliranja i mogli bi biti odgovorni za to. Postoje i proizvodi koji služe isključivo u zlonamernim svrhama. Postoje pojedinci koji stvarno koristi proizvod da bi napravio bazu podataka, a zatim gledaoci koji bi je možda dijelili. Postoje sajtovi poput MrDeepFakes i drugi, eksplicitnijih imena.

Rješenje problema zahtijeva da zakon prestane da štiti kompanije koje profitiraju od ovakvih slika i videa, pogotovo jer su tako lake za generisanje.

Međutim, držanje društvenih medijskih platformi pravno odgovornim za širenje dubliranja je teško zbog zaštite prema članu 230 Zakona o pristojnosti u komunikacijama SAD. Zakon kaže da „ni jedan pružalac ili korisnik interaktivne računarske usluge ne smije biti tretiran kao izdavač ili govornik informacija koje pruža drugi pružalac sadržaja informacija”. Ovo znači u praksi da platforme poput Instagrama ili Facebooka nisu odgovorne za sadržaj koji je postavljen od strane trećih lica na njihovom sajtu.

Opasnosti koje proizlaze iz sveprisutne pojave deepfake tehnologije postaju sve ozbiljnije, osobito kada se analizira njezin utjecaj na živote žena. Generisanje lažnih slika i videa s lakoćom je dostupno, a nedostatak adekvatnih pravnih mehanizama čini žrtve ranjivima.

Ovo pitanje nije samo pitanje privatnosti, već ozbiljan napad na ljudska prava, izazivajući trajne traume, stid i osjećaj nemoći kod žrtava. Dubliranje postaje sredstvo za ponižavanje, ucjenjivanje i nasilje, s potencijalom da ozbiljno ugrozi demokratske vrijednosti.

Nedostatak odgovornosti online platformi, zaštićenih zakonima koji ograničavaju njihovu odgovornost, dodatno otežava suočavanje s ovim problemom. Rješenje zahtijeva ne samo zakonske promjene, već i aktivno sudjelovanje tehnoloških kompanija u sprječavanju zloupotrebe deepfake tehnologije. Tek kroz zajedničke napore društva, tehnološkog sektora i pravnih institucija možemo izgraditi otpornije društvo koje štiti prava svakog pojedinca, posebice žena, od štetnih posljedica deepfake fenomena.

Na kraju, možda je silverlining baš zloupotreba Taylor Swift u ovom slučaju. Nadajmo da se Swift neće prezati, i odvojiti vrijeme, da iskoristi svoj status trenutno najveće svjetske zvijezde, uticajne feministice i artikulisane zagovornice ljudskih prava da se uključi u borbu za rješavanje ovog problema.

Izvor: naukagovori.ba