Facebook od jakiegoś czasu używa Sztucznej Inteligencji, aby pomóc w moderacji treści. Firma właśnie się podzieliła najnowszym sposobem, w jaki nauka maszynowa ułatwia to niewdzięczne zadanie. Otóż nie tylko zastępuje ona moderatorów, blokując lub usuwając treści, ale także wspiera ich pracę w inny sposób. AI nadaje bowiem priorytet w kolejce postów, zanim te trafią do ludzkich moderatorów. W ten sposób będą oni mogli szybciej zareagować na te bardziej istotne wiadomości.
AI Facebooka z nową metodą wsparcia moderatorów
Przed wdrożeniem nowej AI, kolejka była w większości uporządkowana chronologicznie w kolejności, w jakiej zgłaszane były posty. Może to spowolnić czas reakcji firmy na bardziej pilne przypadki, podczas gdy moderatorzy przechodzą przez wcześniejsze posty. Dzięki nowej metodzie system wykorzysta kilka algorytmów uczenia maszynowego, aby nadać priorytet oznaczonym treściom w oparciu o ich zjadliwość, nasilenie i prawdopodobieństwo, że łamią zasady. Facebook przy okazji poinformował, że w pierwszym kwartale 2020 roku podjął działania przeciwko 9,6 mln wpisów. Stanowi to znaczny wzrost w porównaniu z 5,7 mln w poprzednim kwartale. Niektóre z wiadomości są na tyle oczywiste, że prowadzą do automatycznego blokowania lub usuwania. Jednak pozostałe są wprowadzane do kolejki do oceny przez moderatorów ludzkich.
Zobacz też: Na jak długo wystarczy ci miejsca na dane – proste narzędzie Google i odpowiedź w sekundę
Jednocześnie sama Sztuczna Inteligencja będzie ich wyręczała w tych najbardziej oczywistych przypadkach. Warto jednak tu podkreślić, że nie zawsze może ona działać w pełni poprawnie. Dlatego też system ten może prowadzić do usuwania treści, które tak naprawdę nie łamią reguł, a są jedynie bardzo źle odczytane przez system uczenia się maszynowego. Taki obrót sprawy widziałem już kilkukrotnie nawet w komentarzach na profilu Android.com.pl. Miejmy nadzieję, że z czasem będzie takich przypadków coraz mniej.
Źródło: Engadget