Od kempovania až po syrovú pizzu, „Algosbeek“ preberá sociálne médiá

Od kempovania až po syrovú pizzu, „Algosbeek“ preberá sociálne médiá

Američania čoraz častejšie používajú kódy známe ako „algospeak“, aby sa vyhli detekcii technológiou úpravy obsahu, najmä pri uverejňovaní príspevkov o veciach, ktoré sú kontroverzné alebo by mohli porušovať pravidlá platformy.


jaAk vidíte ľudí, ktorí píšu o „kempingu“ na sociálnych sieťach, je pravdepodobné, že nehovoria o tom, ako postaviť stan alebo o tom, ktoré národné parky navštíviť. Tento výraz sa nedávno stal „algospeak“ pre niečo úplne iné: diskusiu o otázkach súvisiacich s potratmi po tom, ako Najvyšší súd zrušil rozsudok Roe v. Wade.

Používatelia sociálnych médií čoraz častejšie používajú kódové slová, emotikony a úmyselné preklepy – takzvaný „algospeak“ – aby sa vyhli odhaleniu úpravou aplikácií pomocou umelej inteligencie, keď uverejňujú citlivé alebo potenciálne proti ich pravidlám. Siobhan Hanna, ktorá dohliada na dátové riešenia AI pre kanadskú spoločnosť Telus International, ktorá poskytuje moderovanie ľudského obsahu a služby AI pre takmer každú veľkú platformu sociálnych médií vrátane TikTok, povedala, že slovo „camping“ je len jednou frázou upravenou touto metódou. “Existuje obava, že algoritmy by mohli zachytiť podnety” pre potrat, povedala Hanna.

Viac ako polovica Američanov tvrdí, že zaznamenali mierny nárast algospeaku, keď sa polarizujúce politické, kultúrne alebo globálne udalosti rozvinuli, podľa nových údajov Telus International z prieskumu medzi 1000 ľuďmi v Spojených štátoch minulý mesiac. Na sociálnych médiách a hrách takmer tretina Američanov tvrdí, že podľa údajov „používala emotikony alebo alternatívne frázy na obchádzanie tabuizovaných výrazov“, napríklad tých, ktoré naznačujú rasový, sexuálny alebo sebapoškodzujúci charakter. Hanna vysvetlila, že Algospeak, ktorý sa zvyčajne používa na vyhýbanie sa pravidlám nenávistných prejavov, ako je obťažovanie alebo šikanovanie, bol prísne dodržaný politikami týkajúcimi sa násilia a vykorisťovania.

Od emotikonov „pr0n“ a baklažánu sme prešli dlhú cestu. Technologické spoločnosti, ako aj externí dodávatelia, ktorí im pomáhajú s obsahovými politikami, čelia neustále sa meniacim výzvam v dôsledku týchto vyvíjajúcich sa riešení. Hoci strojové učenie môže byť schopné odhaliť priame porušenia, ako sú nenávistné prejavy, AI často nedokáže rozlíšiť medzi riadkami, pokiaľ ide o frázy alebo eufemizmy, ktoré sa v jednom kontexte zdajú nevinné, ale majú hlbší význam.


Takmer tretina Američanov na sociálnych sieťach tvrdí, že „používala emotikony alebo alternatívne frázy na obídenie zakázaných výrazov“.


Napríklad výraz „syrová pizza“ vo veľkej miere používajú účty, ktoré ponúkajú explicitné obrázky zdieľajúcich deti. Napriek súvisiacemu vírusovému trendu, kde veľa ľudí spieva o svojej záľube v kukurici na TikTok, sa emotikony kukurice často používajú na diskusiu alebo pokusy nasmerovať ľudí k pornu. minulosti Malé a stredné firmy Správy odhalili dvojitý význam všedných viet, ako napríklad „dotkni sa stropu“, ktoré sa používajú na presvedčenie mladých dievčat, aby sa blysli svojim nasledovníkom a ukázali svoje telo.

„Jednou z oblastí, ktoré nás všetkých zaujímajú, je vykorisťovanie detí a vykorisťovanie ľudí,“ povedala Hanna. Malé a stredné firmy. Je to „jeden z najrýchlejšie sa rozvíjajúcich regiónov Gosbeeku“.

Hanna však povedala, že nie je na spoločnosti Telus International, či by sa niektoré výrazy algospeak mali vymazať alebo znížiť. Sú to platformy, ktoré “určujú usmernenia a rozhodujú o tom, kde by mohol nastať problém,” povedala.

“Zvyčajne nerobíme drastické rozhodnutia o obsahu,” povedala. Malé a stredné firmy. “Skutočne ich poháňajú naši zákazníci, ktorí vlastnia tieto platformy. Naozaj konáme v ich mene.”

Napríklad Telus International netlačí na algospeak o dôležitých politických alebo spoločenských momentoch, povedala Hanna, pričom ako jeden príklad uviedla „kemping“. Spoločnosť však odmietla prezradiť, či niektoré z podmienok algospeaku blokovali nejakí zákazníci.

Náznaky „táborov“ sa podľa Hanny objavili do 24 hodín od rozhodnutia Najvyššieho súdu a počas nasledujúcich dvoch týždňov sa zvýšili. Vysvetlila, že „kemping“ ako fenomén Algosbeeku vybledol, „pretože sa stal tak všadeprítomným, že už v skutočnosti nie je kódovým slovom“. Takto zvyčajne funguje algospeak: „Pôjdeš hore, získaš veľa pozornosti, začneš prechádzať do nejakých memov a [it] Nejako zomrie.”

Hanna povedala, že nové formy algospeaku sa tiež objavili na sociálnych médiách o vojne medzi Ukrajinou a Ruskom, pričom plagáty používajú napríklad výraz „neživý“ – namiesto toho, aby sa v tej istej vete spomínali „zabití“ a „vojaci“, aby sa vyhli. detekcia inteligencie.umelý. Dodala, že na herných platformách je algospeak často súčasťou používateľských mien alebo „herných štítkov“ ako politické vyhlásenia. Jeden príklad: číselné odkazy na „6/4“, výročie masakry na Námestí nebeského pokoja v roku 1989 v Pekingu. “Komunikácia o tejto historickej udalosti je v Číne kontrolovaná,” ​​povedala Hanna, takže aj keď sa to môže zdať “trochu nejednoznačné, v týchto vysoko prepojených komunitách to môže byť v skutočnosti horúce politické vyhlásenie, ktoré by ste mali uviesť v používateľskom mene.”

Telus International tiež očakáva nárast online algospeakov o voľbách v polovici trvania.


„Jednou oblasťou, ktorá nás všetkých zaujíma, je vykorisťovanie detí a vykorisťovanie ľudí. [It’s] Jeden z najrýchlejšie sa rozvíjajúcich regiónov Gosbeeku.

Siobhan Hanna, Telus International

Medzi ďalšie spôsoby, ako sa vyhnúť dohľadu zo strany AI, patria nesprávne napísané slová alebo nahradenie písmen symbolmi a číslami, ako napríklad „$“ za „S“ a číslica nula za písmeno „O“. Mnoho ľudí, ktorí hovoria o sexe napríklad na TikTok, ho namiesto toho označujú ako „seggs“ alebo „seggsual“.

Hanna povedala, že emotikony algospeak sa „veľmi bežne používajú na reprezentáciu niečoho, čo nebolo pôvodne takto koncipované“. V niektorých situáciách sa to môže stať, aj keď to nie je vždy škodlivé. Napríklad emotikon homára stúpa v Spojenom kráľovstve ako metaforická odpoveď na smrť kráľovnej Alžbety. Ale v iných prípadoch je to škodlivejšie: V niektorých kontextoch boli ninja emoji nahradené hanlivými výrazmi a nenávistnými prejavmi o černošskej komunite, tvrdí Hanna.

Existuje pomerne veľa zákonov upravujúcich sociálne médiá a úprava obsahu je jednou z najkontroverznejších otázok technickej politiky vo vládnej rade. Legislatíva ako Algorithmic Accountability Act bola zablokovaná kvôli straníckym sporom. Cieľom tohto zákona je zabezpečiť, aby sa umelá inteligencia (napríklad moderovanie obsahu) dala riadiť eticky a transparentne. Spoločnosti sociálnych médií a moderovacie spoločnosti mimo nej urobili všetko napriek nedostatku regulácie. Odborníci vyjadrili znepokojenie nad zodpovednosťou týchto spoločností. povolaný preskúmaťtieto vzťahy.

Telus International poskytuje moderovanie obsahu s pomocou človeka a umelú inteligenciu a viac ako polovica respondentov prieskumu potvrdila, že je „veľmi dôležité“ mať ľudí v zmesi.

Jeden účastník napísal: „Umelá inteligencia nemusí zachytiť veci, ktoré dokážu ľudia.

Ďalší: “Ľudia sa vedia dobre vyhýbať filtrom.”

Forbes: Viac

Forbes: Prečítajte si viacTu je 25 najlepších webových stránok pre dôchodcov v roku 2022Forbes: ViacAký bohatý je kráľ Karol III. Objavte úžasné bohatstvo nového panovníkaForbes: ViacExistuje viac ako len inflácia. Vtáčia chrípka spôsobuje, že ceny Dňa vďakyvzdania v Turecku stúpajú

Leave a Reply

Your email address will not be published.