Mizoginija na internetu koju algoritmi amplificiraju

Kako bi što bolje razumjeli kako algoritmi podstiču ovakva ponašanja, istraživači su radili sa mladima koji konzumiraju i kreiraju ekstremni sadržaj na mreži. Prateći njihove interakcije, uspjeli su da shvate koje teme posebno privlače rizične grupe mladih – usamljenost, osjećaj odbačenosti, problemi s identitetom. Na osnovu tih saznanja, postavili su arhetipove, simulirane tinejdžerske naloge koji su pratili specifične interesne sfere.

Bilo je tu naloga zainteresovanih za muževnost i samopouzdanje, drugih posvećenih temama poput usamljenosti, nesigurnosti ili ličnog rasta. Na početku su dobijali prijedloge prilagođene njihovim interesovanjima – video snimke o samousavršavanju, rješavanju problema, čak i inspirativne poruke. Ali kako su dani prolazili, stvari su se promijenile.

TikTok-ov algoritam, koji koristi sve što zna o korisniku da mu prikaže sadržaj koji će ga što duže zadržati na platformi, počeo je da prikazuje sve više i više video snimaka sa mizoginim porukama. Istraživači su sa šokom posmatrali kako algoritam više nije prikazivao samo inspirativne sadržaje. Umjesto toga, nalog je počeo da biva preplavljen video snimcima koji objektivizuju žene, prave šale na njihov račun ili sugerišu da su one odgovorne za muške neuspjehe u onom For you dijelu, kao preporuke. U samo pet dana, nivo mizoginog sadržaja koji je algoritam preporučivao povećao se za čak četiri puta, sa 13% na 56% video zapisa.

Prvobitni, neutralni sadržaji bivali su zamijenjeni sve mračnijim video snimcima, s otvorenom mržnjom prema ženama. Pred toga, Tiktok, povećava nezadovoljstvo djevojaka svojim izgledom. I nije problem samo u TikTok-u. Ovakav algoritamski obrazac prisutan je i na drugim mrežama, uključujući Instagram i YouTube, gdje se sadržaji s temama kao što su samopovređivanje ili ekstremizam serviraju ranjivim korisnicima u cilju njihovog dužeg zadržavanja na platformi.

Normalizacija mizoginije i mržnje: od algoritamskog do stvarnog svijeta

Ali priča se nije završavala samo na mrežama. Istraživači su razgovarali sa mladima i školskim liderima širom zemlje. Ono što su saznali iz 10 intervjua ih je zabrinulo – ove poruke mržnje i predrasuda nisu ostale samo na ekranima. Prodrle su u školske hodnike, gdje su postale dio svakodnevne komunikacije među mladima. Mizogine i seksističke ideologije se normalizuju. Ubrzo su postale dio šire kulture, normalizovane i prihvaćene, gotovo kao moda. Mladi su govorili o tome kako su njihove kolege usvajale štetne stavove prema ženama i kako su se ideje sa ekrana manifestovale u razgovorima i ponašanjima.

Intervjui s mladima pokazali su da oni učestvuju u stvaranju i konzumiranju radikalnog sadržaja na Discord serverima, posebno vezanog za mizoginiju i Incel zajednice. Uočeno je da se ovakav sadržaj sada širi na glavnim platformama poput TikToka, gdje su mladi postupno izloženi sve većoj količini mizoginije, prikrivenoj kroz kulturne i „gejmifikovane“ forme. Škole bilježe rast mizoginih ponašanja među vršnjacima, a nastavnici ističu potrebu za jačanjem digitalne pismenosti kako bi mladi kritičnije pristupili sadržaju kojem su izloženi na mreži.

Dječaci i mladi muškarci sve su više izloženi nasilnoj, toksičnoj mizoginiji na internetu, a škole se suočavaju s novim izazovima u opremanju mladih alatima za kritičko suočavanje s digitalnim prostorom i sadržajem kojem su izloženi na mreži.

Hibridna stvarnost: mikrodoziranje mizoginije kroz zabavne sadržaje (gejmifikacija mizoginije) nalazi put do učionica

Dr Kaitlyn Regehr, glavna istraživačica sa UCL-a, objasnila je: „Algoritmi na društvenim mrežama, posebno na platformama kao što je TikTok, ciljaju na naše ranjivosti – osjećaj usamljenosti, osjećaj gubitka kontrole – i gejmifikuju štetan sadržaj. Mladima koji svaki dan vide po nekoliko takvih sadržaja to sve više izgleda kao zabava. Ipak, posljedice su ozbiljne – ti štetni pogledi počinju da se pojavljuju i u stvarnom svijetu.”

„Mladi danas žive u hibridnim stvarnostima koje se prepliću između njihovih offline i online svjetova. Škole se suočavaju s neviđenim izazovima na ovom području, a potpune zabrane mobitela ili društvenih mreža vjerovatno neće biti učinkovite. Osim toga, takav pristup ne osposobljava mlade da se nose s ovim problemima i sadržajem kada ih susretnu. Umjesto toga, potrebne su informacije o kritičkoj digitalnoj pismenosti – ili zdravom pristupu digitalnom sadržaju – kako bi se mladima pružile ključne vještine za prepoznavanje radikalizacije i kritičko promišljanje toksičnog sadržaja na internetu. Dodatno, odrasli često nisu svjesni kako funkcionišu štetni algoritmi, a ni vlastitih ovisnosti o društvenim mrežama, što otežava roditeljstvo u vezi s ovim problemima“, ističe se u izvještaju.

Kaitlyn Regehr i njen tim ne krive mlade – oni krive algoritme koji se hrane njihovim ranjivostima i produbljuju osjećaj bijesa ili krivice usmjeren ka ženama. Ovaj „digitalni sadržaj u mikrodozama” izgleda bezopasno kad ga vidite jedanput, ali kad ga djeca vide neprekidno, postaje način razmišljanja, obrazac ponašanja.

Rješenja i akcije

Autori ovog izvještaja iz februara 2024. vjeruju da rješenje leži u stvaranju „zdrave digitalne ishrane”. Ta ideja, slična piramidi zdrave ishrane, poziva na svjestan pristup sadržaju koji djeca konzumiraju. Ne radi se o zabrani interneta, već o edukaciji kako različiti sadržaji utiču na naš um i ponašanje – baš kao što različite vrste hrane utiču na tijelo.

Jedan od prijedloga je i vršnjačko mentorstvo. Stariji učenici bi mogli biti vođe u ovom procesu, pomažući mlađima da prepoznaju štetan sadržaj i razviju zdrav odnos prema onlajn interakcijama. Važno je i uključiti dječake u razgovor o mizoginiji – tako da i oni postanu dio rješenja, a ne samo pasivni posmatrači.

Džef Barton, generalni sekretar Association of School and College Leaders (ASCL), upozorava na opasnosti algoritama koji, zbog profita, stvaraju efekat sniježne grudve. „Većina nas ne zna puno o algoritmima, ali znamo da oni prikazuju sve ekstremniji sadržaj u formi zabave. To je zabrinjavajuće, posebno kada govorimo o amplifikaciji poruka toksičnog maskuliniteta.”

Na kraju, izvještaj poziva vlade i organizacije da preduzmu konkretne korake i primijene Zakon o bezbijednosti na internetu kako bi zaštitili mlade. „Vrijeme je za akciju, a ne samo za priču o akciji,” zaključuje Barton.

„Škole su postale ključno mjesto za razvoj buduće digitalne pismenosti i kreiranje politike na ovom polju. Nedavne odluke o zabrani pametnih telefona u školama i zakonodavstvo o ograničenju pristupa društvenim mrežama za mlade ne rješavaju savremene obrazovne izazove, koji imaju za cilj podržati mlade u sticanju ključnih digitalnih vještina za budućnost. Kako izvještaj ističe, prisustvo i pojačavanje nasilne mizoginije na društvenim mrežama, kao i njene manifestacije u tinejdžerskim odnosima, dio su šireg problema digitalne pismenosti. Da bi se mladi adekvatno pripremili za budućnost, potrebni su širi razgovori o tome kako se kritička digitalna pismenost može integrisati u njihove vještine“, navodi se u studiji.

Priča ovog istraživanja služi kao ozbiljno upozorenje o tome kako algoritmi oblikuju svijet koji naša djeca konzumiraju. Svi zajedno, od škola i roditelja do nevladininh organizacija, vlada i tehnoloških kompanija, moramo preuzeti odgovornost za to kakav digitalni svijet ostavljamo mladima.

Izvor: naukagovori.ba