Sytuacja jest niezwykle niefortunna, natomiast Google nie za bardzo chce się przyznać do błędu. Otóż w lutym ubiegłego roku, czyli podczas lockdownu zachorował pewien chłopiec, a dokładniej rzecz biorąc jego genitalia, miały paskudną opuchliznę. W ramach teleporady rodzice skontaktowali się z lekarzem, który w celach medycznych poprosił o zdjęcie fragmentu ciała, z którym jest problem. Następnie lekarz przepisał odpowiednie antybiotyki, chłopiec jest zdrowy, a jego ojciec… no cóż, po kilku miesiącach dostał bana od Google i został zgłoszony służbom.
Zrobił zdjęcie na prośbę lekarza – ma banda od Google
Zadziałały tu dwa mechanizmy. Po pierwsze zdjęcie zostało automatycznie zarchiwizowane w Zdjęciach Google. Następnie poszukująca przestępców seksualny AI Google, oraz PhotoDNA Microsoftu oznaczyły je jako materiały związane z seksualnym wykorzystywaniem dzieci. Wkrótce po tym mężczyzna otrzymał informację, że jego konta Google, w tym Gmail i usługa telefoniczna Google Fi, zostały zablokowane ze względu na naruszenie zasad i złamanie prawa.
Zobacz też: Niedrogie akcesoria, które przydadzą się uczniom – od pendrive’a do opaski monitorującej aktywność
Mężczyzna optymistycznie założył, że wszystko zostanie wyjaśnione, gdy ludzki moderator treści przejrzy zdjęcia. No cóż, najwyraźniej nie przejrzał… Jeszcze w grudniu ubiegłego roku zostało wszczęte przeciwko niemu dochodzenie policyjne. Na całe szczęście organy ścigania dość szybko oczyściły go z zarzutów, chociaż cała sprawa na pewno była niezwykle stresująca.
Co na to Google? Dalej podtrzymuje swoje stanowisko i twierdzi, że mężczyzna dokonał przestępstwa seksualnego przez sam fakt, że zrobił zdjęcie na prośbę lekarza. Firma wydała w tej sprawie następujące oświadczenie:
Podążamy za prawem USA w definiowaniu tego, co stanowi CSAM i używamy kombinacji technologii dopasowywania haseł i sztucznej inteligencji, aby zidentyfikować je i usunąć z naszych platform.
Claire Lilley, szefowa operacji bezpieczeństwa dzieci w Google, powiedziała, że recenzenci nie wykryli wysypki ani zaczerwienienia na zdjęciach. Biorąc pod uwagę, że to na ich podstawie chłopiec dostał antybiotyki, to tłumaczenie to nie brzmi zbyt wiarygodnie.
Wygląda to tak, jakby Google w przypadku błędu swojej AI brała jej stronę, a nie osoby pokrzywdzonej. To dość niebezpieczne z punktu widzenia osób, których praca opiera się właśnie na usługach giganta. Oczywiście walka z wykorzystywaniem dzieci jest ważna, ale kiedy obrywa ktoś, kto się troszczy o zdrowie własnego syna, to znaczy, że jest ona prowadzona po prostu źle.
Źródło: TechSpot