Naziștii și voluntarii folosesc Gotye și MGMT pentru a se sustrage roboților TikTok, spune raportul

Cel mai mare studiu independent al urii de pe TikTok a constatat că videoclipurile anti-asiatice și pro-naziste adună milioane de vizualizări, folosind adesea melodii pop pentru a se sustrage moderatorilor automați ai platformei.

Un raport al Institutului pentru Dialog Strategic (ISD), un centru de cercetare din Londra pentru combaterea extremismului, a declarat că platforma socială principală este „populară printre cei care intenționează să utilizeze spații online pentru a produce, disemina și promova ura și extremismul”.

Raportul Hatescape, rezultatul a trei luni de cercetări, a constatat că o parte din conținutul său rasist sau terorist a fost motivat sau legat de australieni.

Unul dintre videoclipurile care au adunat mai mult de două milioane de vizionări include un bărbat caucazian care mănâncă un liliac, într-o referință jignitoare la stereotipurile despre chinezi.

Alte videoclipuri care prezintă australieni care apar ca un bărbat în negru sau ca ofițer de poliție în timpul unei „reconstituiri” a uciderii lui George Floyd, a cărui moarte a stârnit proteste globale anul trecut cu titlul „Neagră viață importantă”.

„Acest gen de lucruri se repetă peste tot”, a spus autorul studiului Kieran O’Connor.

„Comentariile de mai jos subliniază subiectele pe care le abordați și modul în care acestea generează situații neplăcute.”

Deși nu este o surpriză faptul că grupurile franjuri folosesc platforme de socializare pentru a posta materiale urâtoare, experții spun că TikTok a generat modalități creative de a distribui conținut și de a evita eliminarea automată.

Aceste ciudățenii au inclus ceva la fel de simplu ca schimbarea coloanei sonore – dar încă nu este clar ce funcționează exact.

„Se știe că TikTok este o platformă foarte dificil de studiat, dintr-un motiv este un gen nou și nu există multă metodologie”, a declarat Ariel Bogle, analist la International Electronic Policy Center (ICPC).

„Este, de asemenea, condus de un algoritm care a rămas foarte misterios.”

O’Connor a spus că în eșantionul său de 1.030 de videoclipuri – compilat folosind o bibliotecă de hashtag-uri și fraze populare postate de grupuri marginale – a existat un conținut similar îngrozitor despre tot felul de grupuri protejate.

În cazul conținutului anti-asiatic, a existat o utilizare pe scară largă a hashtagurilor legate de COVID-19, despre care dl O’Connor a spus că a făcut conținutul mai vizibil și l-ar putea expune oamenilor care altfel nu l-ar vedea.

„Acesta este motivul pentru care atât de mulți creatori își marchează conținutul cu aceste cuvinte și expresii obișnuite”, a spus el.

Aproape jumătate din videoclipurile din eșantion erau materiale pro-naziste, dintre care multe arătau scene directe din filmările de la Christchurch sau includeau persoane care citeau direct din manifestul shooterului.

Conținutul este ilegal în multe jurisdicții și unele postări pot conține un link care direcționează spectatorii către un canal de mesagerie criptat cu conținut mai extremist.

TikTok s-a dovedit, de asemenea, că atrage alte tipuri marginale, cum ar fi grupurile anti-transgender sau ideologia bărbaților în felul lor, o ramură a mișcării incel anti-femei.

Peste 80 la sută din videoclipuri erau încă live la încheierea studiului, potrivit dlui O’Connor, dar ABC înțelege că platforma le-a șters pe toate după ce au fost semnalate de ISD.

În timp ce TikTok a spus că elimină marea majoritate a conținutului care își încalcă politica în termen de 24 de ore, o mulțime de caracteristici utilizate pentru a se sustrage moderatorilor săi sunt încorporate în platformă.

Atât doamna Bogle, cât și ISD au subliniat modalități simplificate de a evita moderarea, cum ar fi adăugarea unui număr suplimentar la un cont interzis sau scrierea greșită a cuvintelor cheie sau a frazelor.

Alte manevre evazive implicau utilizarea funcției „Stitch” sau „Duet” a aplicației pentru a o combina pur și simplu cu un alt videoclip, care în multe cazuri s-a dovedit a fi suficient pentru a evita cenzura.

„Există întotdeauna un fel de joc cu pisici și șoareci, cu moderație TikTok”, a spus Bogle.

De asemenea, TikTok poate dezactiva videoclipurile care conțin sunet care încalcă regulile comunității, dar o soluție eficientă este utilizarea melodiilor din cataloagele aplicației.

Piesa preferată a grupurilor fringe, potrivit domnului O’Connor, a fost Little Dark Age a MGMT.

În eșantionul ISD a apărut, de asemenea, o persoană Gotye pe care o cunoșteam, precum și Running Up That Hill a lui Kate Bush.

Niciuna dintre aceste melodii nu conține conotații extreme.

O’Connor a spus că, deși TikTok a învățat din capcanele și greșelile pe care le-au făcut alte companii de socializare, iar majoritatea videoclipurilor raportate au avut un angajament redus, el a spus că compania are nevoie de mai multă transparență cu privire la modul în care își modifică conținutul.

„Există o lacună în aplicarea abordării TikTok în ceea ce privește ura și extremismul … Acest conținut a fost eliminat, dar în mod inconsecvent”, a spus el.

O purtătoare de cuvânt a TikTok a declarat că rețelele de socializare apreciază „o mulțime” de cercetări produse de ISD și alte organizații.

„TikTok interzice categoric extremismul violent și comportamentul urăsc, iar echipa noastră dedicată va elimina orice astfel de conținut, deoarece încalcă politicile noastre și subminează experiența creativă și veselă pe care oamenii o așteaptă pe platforma noastră”, a spus ea într-un comunicat.

„Apreciem foarte mult colaborarea noastră cu ISD și cu alții a căror cercetare critică în provocările la nivel de industrie contribuie la avansarea modului în care implementăm politicile noastre pentru a menține platforma noastră sigură și primitoare.”