Chińska SI miała być konkurencją dla Lensa AI. Zamiast tego jest rasistą i śmieje się z otyłości

Rozwiązania wykorzystujące sztuczną inteligencję (AI) cieszą się ostatnio ogromną popularnością i zaskakują swoimi możliwościami. Rozwijaniem algorytmów zajmują się nie tylko Europejczycy oraz Amerykanie, ale także Chińczycy. Narzędzia pochodzące z państwa środka również robią wrażenie, jednak jedno z nich okazało się ostatnio wyjątkowo niekorzystnie traktować osoby z otyłością oraz czarnoskóre.

AI a rasizm i wyśmiewanie odmienności. Przykład z Chin

Pomimo amerykańskich sankcji Chiny mocno rozwijają sztuczną inteligencję. Internetowy gigant Baidu stawia na technologię ERNIE-ViLG, przy której trenowaniu użyto 145 milionów par obraz-tekst. Z kolei laboratorium IDEA zajmuje się projektem Taiyi. Narzędzie szkolono z wykorzystaniem 20 milionów zdjęć i tekstów.

Chińskie technologie budzą jednak również kontrowersje. Chodzi tu o system Different Dimension Me stworzony przez firmę Tencent. Narzędzie jest w stanie zamieniać zdjęcia ludzi w postacie z anime. Generator nie rozpoznawał jednak właściwie osób z otyłością oraz czarnoskórych. AI potrafiło przerabiać zdjęcie osób z nadmiarem kilogramów na dwie postaci, a fotografię dziewczynki o ciemnej karnacji na… obraz przedstawiający małpę.

Czytaj także: Najlepsze i najbardziej kreatywne AI. ChatGPT i Midjourney zachwycają, ale to dopiero początek listy

Takie sytuacje pokazują, że sztuczna inteligencja wymaga jeszcze wielu dopracowań. Obecnie zdarza się, że algorytmy działają tak, jakby kogoś dyskryminowały. Nie jest to jednak ich samodzielna decyzja, a np. rezultat dostarczonych im danych. Przykładowo, system rozpoznawania twarzy może rzadziej udzielać dostępu do urządzenia osobom o określonym kolorze skóry, bo algorytmy otrzymały mniej zdjęć takich osób w trakcie uczenia. Więcej informacji na ten temat znajdziecie w naszym tekście o sztucznej inteligencji.

źródło: RP, zdjęcie główne: Tara Winstead/Pexels