Twitter ma być świadomy problemu, ale nie robi wystarczająco wiele. Analizy wykazują, że rośnie ilość treści dot. samookaleczenia, które łamią regulamin serwisu.
Twitter ma nie reagować, kiedy łamany jest regulamin serwisu
Według badań przeprowadzonych przez naukowców (raport zawiera zdjęcia nieodpowiednie dla niektórych odbiorców) z Network Contagion Research Institute „na pewno tysiące, jeśli nie setki tysięcy” użytkowników regularnie narusza warunki serwisu dotyczące ukazywania widocznych ran czy gloryfikacji samookaleczeń. Analizy wskazują wzrost liczby postów z hashtagami związanymi z tą tematyką od października 2021 roku. Firma miała zostać poinformowana o tym problemie rok temu przez brytyjską organizację charytatywną zajmującą się prawami dzieci, 5Rights. Algorytm Twittera miał przekierowywać konta z awatarami w wieku dziecięcym, które wyszukiwały frazy „self-harm”, do treści przedstawiające wideo i zdjęcia z samookaleczeń. Co ważne, niezależnie od wielkości i popularności konta, posty o tej tematyce generują spory ruch.
Promowanie, gloryfikowanie lub zachęcanie do samobójstw i samookaleczeń jest sprzeczne z zasadami Twittera. Naszym priorytetem numer jeden jest bezpieczeństwo osób, które korzystają z naszego serwisu. Jeśli tweety naruszają nasze zasady dotyczące samobójstw i samookaleczeń oraz gloryfikacji przemocy, podejmujemy zdecydowane i odpowiednie działania egzekucyjne.
Wypowiedź rzecznika firmy dla Financial Times z października ubiegłego roku.
Problem stale rośnie
Od października użycie hashtagów związanych z samookaleczeniem wzrosło o około 500%, średnio o dziesiątki tysięcy wzmianek miesięcznie. Wielu członków tej społeczności to nastolatkowie i młodzi dorośli. W październiku 2021 roku było 3880 tweetów (w tym retweety) z użyciem [przyp. red. hashtagu]. W ciągu ostatnich 6 miesięcy średnia miesięczna liczba tweetów wynosiła 20 tys., osiągając szczyt blisko 30 tys. w lipcu 2022 roku.
Fragment raportu.
Jak wyjaśniają analitycy, moderowanie treści związanych z samookaleczeniem nie jest łatwe, ponieważ posty wykorzystują slang, którego algorytm nie może rozszyfrować. Co więcej, niektóre ze zdjęć są fałszowane, wprowadzając w błąd system, bo przedstawiają np. nieprawdziwą krew. Z drugiej strony badacze uważają, że firma woli się zająć moderacją treści politycznych, bo te wzbudzają więcej emocji i generują większy ruch. Ponadto członkowie społeczności samookaleczenia nie są wrogo do siebie nastawieni, w porównaniu do przeciwników politycznych, przez co mniej zgłasza się postów dotyczących tematyki self-harm.
Twitter miał wprowadzić nowe narzędzia, które np. „nie pozwalają znanym powiązanym terminom na pojawienie się w górnej części wyszukiwania lub w typeahead wyszukiwania”. Firma współpracuje także z organizacjami, które przekierowują osoby wyszukujące terminów związanych z samookaleczeniem do „wiarygodnych zasobów przy użyciu podpowiedzi #ThereisHelp”. Mimo to problem nadal istnieje i wydaje się, że z miesiąca na miesiąc jego skala nie maleje.
Źródło: Ars Technica; Financial Times