Twitter sier at det knekker på hatespråket

Anonim

SAN FRANCISCO - Med offentlig tilbakeslag vokser, sier Twitter at det tar skritt for å slå ned hatespråket, fra å gjøre det enklere å rapportere påståtte hendelser på den sosiale media-tjenesten for å utdanne moderatorer om hva slags oppførsel bryter reglene.

Twitter-brukere vil også få mer kontroll over deres erfaring på Twitter, med muligheten til å dempe ord og uttrykk, selv hele samtaler, hvis de ikke vil motta varsler om dem, sa Del Harvey, Twitters sikkerhetshode.

Innsatsen kommer som en oppblåsing i partisk graffiti, angrep og andre hendelser har blitt rapportert i nyhetene og på sosiale medier siden valgdagen, og fikk presidentvalgte Donald Trump til å ringe til folk til å "stoppe det" i løpet av et 60 minutters intervju på søndag natt. FBI rapporterer at hateforbrytelser steg 7% i 2015, ledet av angrep mot muslimske amerikanere.

Det er også som et svar på økende bekymring for misbruk og trakassering på Twitter som har stanset veksten blant brukere og annonsører.

Under administrerende direktør Jack Dorsey har Twitter lovet at "tillit og sikkerhet" er blant topp prioriteringer. Tidligere i år forbedret selskapet misbruk rapporteringssystemet og samordnet utenfor rådgivere om sikkerhetsspørsmål.

Likevel har lite blitt forandret. Watchdog-grupper sier at Twitter i årevis har unnlatt å gi effektive verktøy for sine 317 millioner brukere til å bekjempe misbruk, noe som fører til at hatuttrykk sprer seg på plattformen.

"Hatespråket er ute av kontroll på Twitter, " sa Heidi Beirich, talskvinne for Southern Poverty Law Center.

Ifølge Brandwatch og anti-mobbing-gruppen Ditch the Label er racistisk språk den vanligste formen for hatespråket på Twitter. Av de 19 millioner tweets analysert av bestemte søkeord, inneholdt over 7, 7 millioner tweets rasielt ufølsom språk, fant forskningen.

USA i dag

Jack Dorsey har ikke løst problemer med Twitter

I en av de høyest profilerte hendelsene forbød Twitter Milo Yiannopoulos, en teknologisk redaktør på det konservative nyhetsområdet Breitbart, i juli for å engasjere seg i en kampanje for misbruk der hundrevis av anonyme Twitter-kontoer bombarderte Ghostbuster- skuespillerinne Leslie Jones med rasistiske og sexistiske skikkelser .

En rapport i oktober fra Anti-Defamation League dokumenterte økningen i antisemittiske tweets rettet mot journalister som dekket Trump, den republikanske presidentkandidaten. Ord som ofte vises i profilene til disse Twitter-kontoene: Trump, nasjonalistiske, konservative, hvite.

Etter valget publiserte den nynazistiske nettsiden The Daily Stormer en liste over mer enn 50 Twitter-brukere som hadde uttrykt frykt for utfallet av 2016-valget, og oppfordret sine lesere til å "straffe" dem med et sperre av tweets som ville drive dem til selvmord.

Jennifer Soto Segundo, en Clinton-supporter i Orlando, Fla., Sier at hun uttrykte sin forferdelse over Hillary Clintons tap på Twitter, bare for å bli møtt neste dag av voldelige tweets - en fra en bruker som oppfordrer henne til å gå inn i et gasskammer og en annen kaller for hennes deportasjon.

"Vi er bare frustrert med Twitter, " sa Beirich. "Jeg er glad for at de legger ut nye retningslinjer, men det er ikke mye å få meg til å håpe på Twitter, dessverre, gitt deres fortidens historie."

USA i dag

'Massiv oppgang' i hate-tale på Twitter under presidentvalget

Harvey, som har kjørt sikkerhet på Twitter i åtte år, sier at hun har hatt en "front row seat" for utviklingen av misbruk og trakassering på sosiale medier.

Med de nyeste oppdateringene til retningslinjene og funksjonene forsøker Twitter å bevare talefriheten mens den trekker en hard linje på «atferd som er ment å tause andre, » sa Harvey.

"Selv om vi har tatt skritt gjennom årene for å prøve å bekjempe overgrep og trakassering, har vi ikke flyttet så fort som vi ville ha likt, eller vi har ikke alltid gjort så mye som vi ville ha likt fordi vi har forsøkt å sørge for Vi tar ikke avgjørelser som har utilsiktede, negative konsekvenser og forgreninger, "sa hun.

USA i dag

Hvite supremacister oppfordrer trolling til Clinton-tilhørere til selvmord

HVORDAN DET FUNGERER

For det første vil Twitter-brukere nå kunne rapportere "hateful conduct" som et eget alternativ. "Vårt håp er at vi har det som et eksplisitt rapporteringsalternativ, det vil gjøre det lettere for folk å flagge det til oss og for oss å ta handling på det som vi kan, " sa Harvey.

Separat rapportering av hatfull oppførsel vil også hjelpe Twitter til å bedre behandle rapporter fra tilskuere, og lette byrden på personen som blir utsatt for misbruk, sa Harvey.

For det andre har Twitter omskolert støtteteam, og tilbyr økter som lærer den kulturelle og historiske konteksten for å hjelpe moderatene til å gjenkjenne hatespråket, og har satt i gang et pågående program for å oppdatere ansatte på misbruk og oppdatere dem på nye former for det, sa Harvey.

"Da vi så på forekomstene, var det mangler ... ett konsekvent tema har vært: Dette er noe der personen som vurderer rapporten bare ikke hadde rammen eller bakgrunnen for å forstå hva den refererte, " sa hun. "For å kunne takle det, utviklet vi egentlig skreddersydde ressurser for å gi historisk, kulturell kontekstualisering, for mange av de vanlige temaene eller setningene som vi så, og at vi så folk ikke gjenkjenner."

I tillegg gjør Twitter endringer i varsler, slik at brukerne kan dempe ord, setninger, emojis, selv hele samtaler, fordi Harvey sier at misbruk er "akutt følt i varsler." Til slutt vil Twitter utvide den dype funksjonen til alle brukere som ser tweets. Twitter tillater allerede brukere å dempe kontoer som de ikke vil se tweets fra.

"Bare for å være klar: Vi sier ikke på noen måte at så snart dette lanseres, vil misjonsproblemet løses på Twitter, eller at vi aldri kommer til å få noe galt igjen, sier Harvey." Dette er bare en slags Et annet skritt for oss på denne banen, men vi tror det er veldig viktig for folk å ha muligheten til å kontrollere opplevelsen og forme den mer. "

Nedenfor er en redigert Spørsmål & Svar med Harvey.

Spørsmål: Har du sett volumet av hatesprangsøkning under Trumps kandidatur?

A: Saken er at Twitter, det er bare mange tweets på Twitter. Det ville være vanskelig å ha noen form for måling av det. Tingen som vi fortsetter å komme tilbake til, er at tallene ikke har betydning, i det tilfelle at hvis det er oppfatningen om at det er en økning eller hvis folk føler at de blir utsatt for mer, er det noe vi må fikse uansett hva.

Spørsmål: Anti-Defamation League dokumentert en økning av anti-semitisme mot journalister på Twitter. Sier du at du ikke har muligheten til å måle det?

A: Jeg sier at det er en hel masse forskjellige måter du kan måle disse tingene på, og det er ingen som er enige om. Jeg tror ikke vi ville føle at vi hadde lykkes bare fordi vi hadde noen nummer gå ned. Folk må føle seg trygge og folk må føle at de har tilgang til dem hvis de blir misbrukt. Det er det vi må prøve for. Det vi prøver å se på, er hvordan vi kan sørge for at folk vet hva som er tilgjengelig for dem, og hvordan de kan få sin erfaring som de vil at den skal være.

Spørsmål: Har du målt det?

A: Hva ville du måle nøyaktig? Fordi ikke alle bruken av et ord er negative. Vi ser en enorm mengde mottal på disse konseptene. Vi ser sikkert på volumer. Vi ser sikkert på trender. Dataene som er der, har faktisk ikke vært noe som har vært klart nok til at vi skal bruke, sammenlignet med, la oss se på atferd, la oss se på de faktiske ordene du bruker.

Spørsmål: Vi la merke til på valgdagen som regner med at folk flaggede som forsøkte å holde innvandrere og farger bort fra meningsmålingene ble suspendert svært raskt. Var det en spesiell innsats på valgdagen?

A: Vi gjorde absolutt litt arbeid rundt å bekjempe noen velgere-undertrykkelse type ting som skjedde, sikkert. Og det er absolutt et aspekt av arbeidet vi har gjort. Dette er en kontinuerlig innsats. Det er ikke som om vi med valget nå er ferdige, eller det vil ikke være et fortsatt fokus. Dette er en pågående utfordring, og det er en vi skal fortsette å presse på.

Spørsmål: Hvordan håndterer du tilstedeværelsen, innflytelsen og økt aktivitet av alt i orden?