Szkoła w Dallas w Stanach Zjednoczonych postanowiła wprowadzić system inwigilacji zachowań uczniów przy pomocy sztucznej inteligencji, który będzie „obserwował” ich zachowania i powiadamiał władze o każdym odstępstwie od normy. Kontrowersyjny projekt AI ma w teorii wpłynąć na bezpieczeństwo dzieci i młodzieży.
Jak podaje portal The New American, Dallas Independent School District uruchomiła nowy program pilotażowy ze współpracą z firmą Davista, która wykorzystuje algorytmy sztucznej inteligencji do monitorowania każdego ucznia przez cały czas pobytu w placówce. AI ma zgłaszać ma zgłaszać przypadki, które odbiegają od „normalnego” zachowania. Władze mówią o celu tego programu, jakim ma być zapobieganie masowym strzelaninom i innym podobnym zagrożeniom.
Przemoc z użyciem broni palnej w amerykańskich szkołach nie jest już zagrożeniem, a wręcz rzeczywistością. Wszystkie szkoły powinny zapewniać uczniom bezpieczne i przyjazne środowisko. Aby nauka była nadrzędnym celem szkół, musimy stosować sprawdzone strategie oparte na podstawowych podstawach naukowych, dostarczając systemy zapobiegające i rozwiązujące strzelaniny w szkołach
– powiedział Tobi Jackson, prezes okręgu szkolnego Fort Worth ISD, cytowany przez ithardware.pl.
Niezależnie jakie pobudki związane z ochroną dzieci miały władze szkoły, pomysł dla wielu wydaje się dystopijny i kuriozalny, a ponadto, choć ma poprawić bezpieczeństwo, system może być także zagrożeniem.
Technologia firmy Davista wyraźnie identyfikuje orientacyjne zachowania „zagrożonych uczniów”, dostarczając niezbędny i nowatorski model zapobiegania przemocy w szkole. Sztuczna inteligencja firmy Davista Genesis zajmuje się bezpieczeństwem posiadania broni i zapobieganiem przemocy, umożliwiając prawdziwy mechanizm bezpieczeństwa w każdej ze szkół naszego kraju i społeczności
– dodał Tobi Jackson.
Inwigilacja AI i szpiegowanie uczniów – czy to dobry pomysł?
Po pierwsze, algorytm, który ma oceniać i przewidywać działanie uczniów, mimo że bez wątpienia złożony i zaawansowany, pozbawiony jest czynnika ludzkiego. To nie nauczyciele czy pracownicy szkoły mają alarmować o incydencie, a komputer, który nie tylko śledzi w czasie rzeczywistym, ale także przewiduje przyszłe zachowanie dzieci, więc może niewłaściwie ocenić sytuację. Nie od dzisiaj słyszymy o tym, że sztuczna inteligencja rozwija się za szybko i łatwo wykorzystać ją w niewłaściwy sposób – czy podejmowanie decyzji w sprawach społecznych bez kontroli człowieka jest więc dobrym posunięciem?
Skoro każdy uczeń ma być stale monitorowany, a jego ruchy rejestrowane, kolejną obawą jest całkowity brak prywatności w szkole i obawa przed niekończącą się inwigilacją, co z pewnością będzie miało negatywny wpływ na psychikę dzieci. Poza tym, żyjąc w dobie inkluzywności i szacunku do różnorodności, co będzie implikowało wyznaczenie ram „normalnego” zachowania? Czy to nie daje sygnału, że każde odstępstwo od aktywności zdefiniowanej jako akceptowalna, jest od razu czymś niewłaściwym, co wymaga zgłoszenia i ukarania?
Następna, choć na pewno nie ostatnia kwestia związana z zagrożeniami inwigilacji uczniów w szkole dotyczy samego bezpieczeństwa wizerunku dzieci. Przy nagrywaniu ich bez przerwy, potencjalni cyberprzestępcy będą mieli ogromną bazę wrażliwych prywatnych danych z analizą zachowań młodzieży i ich wizerunkiem. Nie wiadomo też przez ile i gdzie przechowywane są informacje i czy zwyczajnie są właściwie chronione.
Źródło: The New American, ithardware.pl, opracowanie własne