Od kampiranja do pizze sa sirom, ‘Algosbeek’ preuzima društvene medije

Od kampiranja do pizze sa sirom, 'Algosbeek' preuzima društvene medije

Amerikanci sve više koriste kodove poznate kao “algospeak” kako bi izbjegli otkrivanje tehnologijom modificiranja sadržaja, osobito kada objavljuju o stvarima koje su kontroverzne ili bi mogle kršiti pravila platforme.


jaAko vidite da ljudi na društvenim mrežama pišu o “kampiranju”, vrlo je vjerojatno da ne govore o tome kako podići šator ili o tome koje nacionalne parkove posjetiti. Izraz je nedavno postao “algospeak” za nešto potpuno drugačije: raspravljanje o pitanjima vezanim uz pobačaj nakon što je Vrhovni sud oborio Roe protiv Wadea.

Korisnici društvenih medija sve više koriste kodne riječi, emojije i namjerne pogreške pri upisu – takozvani “algospeak” – kako bi izbjegli otkrivanje mijenjanjem aplikacija s umjetnom inteligencijom kada objavljuju osjetljive ili potencijalno protivne njihovim pravilima. Siobhan Hanna, koja nadzire podatkovna rješenja AI za Telus International, kanadsku tvrtku koja je omogućila moderiranje ljudskog sadržaja i AI usluge za gotovo sve veće platforme društvenih medija uključujući TikTok, rekla je da je riječ “kampiranje” samo jedna fraza prilagođena ovom metodom. “Postojala je zabrinutost da bi algoritmi mogli pokupiti znakove” za pobačaj, rekla je Hanna.

Više od polovice Amerikanaca kaže da su primijetili lagani porast algogovora kako se odvijaju polarizirajući politički, kulturni ili globalni događaji, prema novim podacima Telus Internationala iz ankete provedene na 1000 ljudi u Sjedinjenim Državama prošlog mjeseca. Na društvenim medijima i igrama, gotovo trećina Amerikanaca kaže da su “koristili emojije ili alternativne fraze kako bi zaobišli tabu pojmove”, poput onih koji impliciraju rasnu, seksualnu ili samoozljeđivanje, prema podacima. Hanna je objasnila da je Algospeak, koji se obično koristi za izbjegavanje pravila govora mržnje, kao što su uznemiravanje ili zlostavljanje, pomno praćen politikama o nasilju i iskorištavanju.

Prešli smo dug put od “pr0n” i emoji patlidžana. Tehnološke tvrtke, kao i vanjski izvođači koji im pomažu u politici sadržaja, suočavaju se s izazovima koji se neprestano mijenjaju zbog ovih rješenja koja se razvijaju. Iako strojno učenje može otkriti izravna kršenja, poput govora mržnje, umjetna inteligencija često ne može razlikovati retke kada je riječ o frazama ili eufemizmima koji se u jednom kontekstu čine nevinim, ali imaju dublje značenje.


Gotovo trećina Amerikanaca na društvenim mrežama kaže da su “koristili emojije ili alternativne izraze kako bi zaobišli zabranjene pojmove”.


Na primjer, izraz “pizza sa sirom” često se koristi na računima koji nude eksplicitne slike djece. Unatoč povezanom virusnom trendu u kojem mnogi ljudi pjevaju o svojoj sklonosti kukuruzu na TikToku, kukuruzni emoji često se koriste za raspravu ili pokušaj usmjeravanja ljudi prema pornografiji. prošlost Mala i srednja poduzeća Izvještaji su otkrili dvostruko značenje svakodnevnih rečenica, kao što je “dodirni strop”, koje se koriste za uvjeravanje mladih djevojaka da bljeskaju svojim pratiteljima i pokažu svoja tijela.

“Jedno od područja do kojih nam je svima stalo je iskorištavanje djece i ljudi”, rekla je Hanna. Mala i srednja poduzeća. To je “jedna od najbrže razvijajućih regija Gosbeeka.”

No Hanna je rekla da ne ovisi o Telus Internationalu hoće li neke algospeak pojmove treba izbrisati ili degradirati. Platforme su te koje “postavljaju smjernice i donose odluke o tome gdje bi mogao biti problem”, rekla je.

“Obično ne donosimo drastične odluke o sadržaju”, rekla je. Mala i srednja poduzeća. “Doista ih pokreću naši kupci koji posjeduju te platforme. Mi stvarno djelujemo u njihovo ime.”

Na primjer, Telus International ne pritišće da se govori o političkim ili društvenim trenucima visokog rizika, rekla je Hanna, navodeći “kampiranje” kao jedan od primjera. Međutim, tvrtka je odbila otkriti jesu li neki korisnici blokirali neke uvjete algospeaka.

Znakovi “logora” pojavili su se unutar 24 sata od presude Vrhovnog suda i povećali su se tijekom sljedeća dva tjedna, prema Hanni. Objasnila je da je “kampiranje” kao fenomen Algosbeeka izblijedio “jer je postalo toliko sveprisutno da više nije zapravo šifrirana riječ.” Ovako algospeak obično funkcionira: “Pospjet ćeš, privući ćeš puno pozornosti, počet ćeš ulaziti u neku vrstu memea, i [it] Nekako će umrijeti.”

Hanna je rekla da su se na društvenim mrežama također pojavili novi oblici algogovora o ukrajinsko-ruskom ratu, s plakatima koji koriste izraz “neživi”, na primjer – umjesto da se spominju “ubijeni” i “vojnici” u istoj rečenici – kako bi se izbjeglo otkrivanje inteligencije.umjetno. Dodala je da je na platformama za igre algospeak često uključen u korisnička imena ili “oznake igre” kao političke izjave. Jedan primjer: brojčane reference na “6/4”, godišnjicu masakra na trgu Tiananmen 1989. u Pekingu. “Komunikacija o ovom povijesnom događaju kontrolirana je u Kini,” rekla je Hanna, pa iako ovo može izgledati “pomalo dvosmisleno, u tim visoko međusobno povezanim zajednicama, ovo zapravo može biti vruća politička izjava koju biste trebali dati u korisničkom imenu.”

Telus International također očekuje povećanje online algospeak razgovora o izborima u sredini mandata.


“Jedno područje do kojeg nam je svima stalo je iskorištavanje djece i iskorištavanje ljudskih bića. [It’s] Jedna od regija Gosbeeka koja se najbrže razvija.

Siobhan Hanna, Telus International

Ostali načini da izbjegnete nadzor umjetne inteligencije uključuju pogrešno napisane riječi ili zamjenu slova simbolima i brojevima, kao što je “$” za “S” i broj nula za slovo “O”. Mnogi ljudi koji govore o seksu na TikToku, primjerice, to nazivaju “seggs” ili “seggsual”.

Hanna je rekla da se algospeak emoji “vrlo često koriste za predstavljanje nečega što nije izvorno zamišljeno kao takvo”. To se može dogoditi u nekim situacijama, iako nije uvijek štetno. Na primjer, emoji jastoga raste u Velikoj Britaniji kao metaforički odgovor na smrt kraljice Elizabete. Ali u drugim je slučajevima štetniji: u nekim su kontekstima ninja emojiji zamijenjeni pogrdnim izrazima i govorom mržnje o crnačkoj zajednici, prema Hanni.

Postoji dosta zakona koji reguliraju društvene medije, a izmjena sadržaja jedno je od najkontroverznijih pitanja u vezi s tehnološkom politikom u vladinom odboru. Zakonodavstvo poput Zakona o algoritamskoj odgovornosti blokirano je zbog stranačkih sporova. Ovaj prijedlog zakona ima za cilj osigurati da se umjetnom inteligencijom (kao što je moderiranje sadržaja) može upravljati etično i transparentno. Tvrtke društvenih medija i tvrtke za moderiranje izvan njih učinile su sve, unatoč nedostatku propisa. Stručnjaci su izrazili zabrinutost oko odgovornosti tih tvrtki. pozvan da ispitaove odnose.

Telus International pruža moderiranje sadržaja uz pomoć ljudi i umjetnu inteligenciju, a više od polovice ispitanika potvrdilo je da je “vrlo važno” imati ljude u mješavini.

Jedan je sudionik napisao: “Umjetna inteligencija možda neće shvatiti ono što ljudi mogu.”

Drugo: “Ljudi su dobri u izbjegavanju filtera.”

Forbes: Više

Forbes: Pročitajte višeEvo 25 najboljih web stranica za umirovljenje u 2022Forbes: VišeKoliko je bogat kralj Charles III? Otkrijte nevjerojatno bogatstvo novog monarhaForbes: VišePostoji više od puke inflacije. Ptičja gripa uzrokuje skok cijena za Dan zahvalnosti u Turskoj

Leave a Reply

Your email address will not be published.