Okazuje się, że algorytm Google AI, który wykorzystywany jest w Cloud Vision API, będzie niedługo działał trochę inaczej, niż dotychczas. Rozpoznawanie płci na zdjęciu było do tej pory jedną z możliwości, ale to się zmieni. Zamiast etykiety „kobieta” czy „mężczyzna” pojawi się po prostu „osoba”. Skąd taka zmiana i czy aby na pewno jest ona potrzebna?
W wiadomości, która została przesłana do developerów pracujących na narzędziach Google, trafiła ciekawa informacja. Otóż firma zdecydowała się na wprowadzenie zmian w swoim algorytmie Sztucznej Inteligencji, by uniknąć jego „stronniczości” oraz posądzeń o uprzedzenia. I jest w tym trochę racji, bo w przeszłości zdarzało się, że ten popełniał błędy, kiedy miał poprawnie zidentyfikować kogo lub co „widzi” na fotografii.
Google AI nie będzie już oceniać
Algorytm Google AI potrafił do tej pory rozpoznać czy na zdjęciu jest kobieta, czy mężczyzna. Robił to z różnym skutkiem, ale ponoć wychodziło mu to całkiem nieźle. Zdjęcie poddawane analizie można było następnie weryfikować samodzielnie, ale algorytm pokazywał także procentowe prawdopodobieństwo. Tutaj nic nie powinno się zmienić, ale znikną za to etykiety, które wcześniej mówiły o płci osoby widocznej na fotografii. Nie będzie już więc „kobiety” oraz „mężczyzny”. Zastąpiono to o wiele bardziej neutralną kategorią – „osoba” (Person).
Zobacz też: Wracają kultowe „konsole”
Sama zmiana w algorytmie Google AI niejako „wymuszona” została przez zasady, którymi kieruje się Google w swoim programie AI. Pierwszy ich punkt odnosi się do tego, że ich rozwiązania muszą przynosić korzyści, ale drugi mówi już bezpośrednio o uprzedzeniach. Firma zdaje sobie sprawę z tego, że algorytmy AI mogą czasem przekazywać wyniki, które są niezgodne z kulturowymi oraz społecznymi normami. Mając tę świadomość, Google robi wszystko, żeby takie drażliwe tematy omijać i dlatego właśnie ciągle wprowadza poprawki. Nie chodzi tutaj tylko o samą płeć, ale także i o orientację seksualną, pochodzenie etniczne, narodowość czy przekonania polityczne lub religijne.
Ważna zmiana
Zmianę wprowadzoną w algorytmie Google AI można przetestować samodzielnie, wchodząc na stronę projektu. Wystarczy umieścić na niej dowolne zdjęcie, a potem zobaczyć wyniki. Zmiana wprowadzona przez Google wydaje się być krokiem w dobrą stronę. Według firmy nie da się jednoznacznie ocenić płci osoby na zdjęciu tylko po jej wyglądzie. Może to prowadzić do nieporozumień, które niczemu nie służą, a budują tylko podziały.
Zapewne wielu użytkowników, którzy korzystają z tego rozwiązania, nawet nie zauważy wprowadzonych do algorytmu zmian. Jednak Google myśli przyszłościowo i po kilku niefortunnych wpadkach, postanowiło się dodatkowo zabezpieczyć. Szczególnie że przeprowadzone w zeszłym roku badania na ten temat wykazały, że rozpoznawanie ludzi przez algorytmy AI dalej mocno kuleje. A najbardziej kiedy chodzi o osoby o innym kolorze skóry, niż biała.
Algorytmy do poprawy
Oprogramowanie do rozpoznawania twarzy, które używane jest np. w Stanach Zjednoczonych, miało problemy z prawidłowym ocenianiem obserwowanych osób, kiedy te nie były rasy białej. Znacznie częściej myliło się też, kiedy obserwowano kobiety. Tego typu programy wykorzystywane są m.in. przez stróżów prawa do poszukiwania osób.
Według raportu stworzonego przez NIST (National Institute of Standards and Technology), przetestowane przez nich algorytmy wykazywały znacznie wyższy wskaźnik wyników fałszywie dodatnich w przypadku Azjatów oraz Afroamerykanów. To może prowadzić do fatalnych w skutkach pomyłek, a w szczególności wtedy, kiedy stróże prawa poszukują konkretnej osoby, a algorytm wskaże kogoś innego.
Oczywiście nie tylko Google pracuje nad algorytmami, które rozpoznają twarze czy przedmioty, ale to Google często udostępnia swoje rozwiązania innym firmom. Dobrze więc, że firma nieustannie ulepsza swoje rozwiązanie, bo nigdy nie wiadomo, kiedy i na kim zostanie ono wykorzystane.
Źródło: Business Insider / Google AI