„Wnuczek 4.0 i Garnki 4.0”: niektóre systemy AI będą zakazane. Nowe prawo niedługo wejdzie w życie

Rozwój sztucznej inteligencji (AI) niesie ze sobą ogromne możliwości, jak i poważne wyzwania prawne. Aby im sprostać, Unia Europejska wprowadza AI Act, regulacje, które mają zapewnić bezpieczne i etyczne wykorzystanie narzędzi sztucznej inteligencji.

O szczegółach AI Act w programie Technologicznie mówiąc na antenie Polskiego Radia RDC z Piotrem Pilewskim, redaktorem naczelnym Android.com.pl, rozmawiali: Pamela Krzypkowska, Dyrektorka Departamentu Badań i Innowacji w Ministerstwie Cyfryzacji i Sebastian Kondracki, Chief Innovation Officer w firmie Deviniti, przedstawiciel Fundacji SpealLeash, współtwórca polskiego systemu AI Bielik.

Całą rozmowę możecie obejrzeć, korzystając z wideo opublikowanego przez RDC w serwisie YouTube. W naszym artykule zaś znajdziecie omówienie najważniejszych kwestii poruszonych w audycji.

AI Act. Zakazane praktyki i systemy wysokiego ryzyka

27 września na stronach Ministerstwa Cyfryzacji ukaże się broszura informacyjna przygotowana we współpracy z NASK na temat zakazanych praktyk sztucznej inteligencji.

Jednym z najważniejszych elementów nowych regulacji w ramach AI Act jest stworzenie listy systemów AI, których użycie będzie całkowicie zakazane.

Jak podkreśla Pamela Krzypkowska, dyrektorka Departamentu Badań i Innowacji w Ministerstwie Cyfryzacji, chodzi o ustalenia, czy użycie AI do danego celu jest „wysokiego ryzyka, ma ograniczone ryzyko, czy minimalne ryzyko”. Do zakazanych praktyk zalicza się m.in. scoring społeczny, czyli ocena ludzi na podstawie ich zachowań lub cech osobistych, jeśli prowadzi to do dyskryminacji.

Na celowniku jest też wykorzystywanie AI do manipulacji użytkownikami np. poprzez techniki podprogowe lub wprowadzanie w błąd. Innym zakazanym elementem będzie wykorzystywanie technologii do wykorzystywania słabości osób (np. wiek lub niepełnosprawność), aby wpłynąć na ich decyzje.

Oprócz systemów całkowicie zakazanych regulacje wprowadzają również kategorię systemów wysokiego ryzyka. Do tej grupy należą technologie, które mogą mieć istotny wpływ na prawa podstawowe obywateli, takie jak systemy rekrutacyjne, systemy oceny zdolności kredytowej, czy systemy wykorzystywane w wymiarze sprawiedliwości.

Wnuczek 4.0 i Garnki 4.0. Nieetyczne zastosowanie sztucznej inteligencji

Nowe przepisy kładą duży nacisk na ochronę prywatności użytkowników. Jak zauważa Sebastian Kondracki, Chief Innovation Officer w firmie Devinity:

Aby zapobiec podobnym manipulacjom, regulacje wymagają od twórców systemów AI zapewnienia przejrzystości działania tych systemów oraz informowania użytkowników o tym, w jaki sposób ich dane są przetwarzane. Goście metaforycznie użyli tu określeń „Wnuczek 4.0” czy „Garnki 4.0”, by podkreślić zagrożenia związane z nadużyciem sztucznej inteligencji, szczególnie w kontekście manipulacji i dezinformacji.

„Wnuczek 4.0” odnosi się do scenariusza, w którym zaawansowane technologie, takie jak sztuczna inteligencja, mogą być wykorzystywane do bardziej skutecznego oszukiwania osób starszych. Podobnie jak w przypadku tradycyjnych oszustw, gdzie przestępcy podszywają się pod wnuki, aby wyłudzić pieniądze, tak też sztuczna inteligencja może być użyta do stworzenia jeszcze bardziej wiarygodnych i przekonujących symulacji głosowych lub tekstowych.

„Garnki 4.0” nawiązuje do tradycyjnych pokazów sprzedaży, podczas których wykorzystywano różne techniki manipulacji, aby nakłonić klientów do zakupu produktów. W kontekście sztucznej inteligencji oznacza to, że zaawansowane algorytmy mogą być wykorzystywane do precyzyjnego targetowania reklam i tworzenia bardzo spersonalizowanych przekazów marketingowych, których zignorowanie może być trudne lub wręcz niemożliwe dla człowieka.

Jak nowe przepisy wpłyną na rozwój innowacji, wyzwania i przyszłość?

Choć nowe regulacje mają na celu ograniczenie potencjalnych zagrożeń związanych z rozwojem AI, nie powinny one hamować innowacyjności. Jak podkreślają eksperci, kluczowe jest znalezienie równowagi między potrzebą regulacji a wspieraniem rozwoju technologii. Sebastian Kondracki zwraca uwagę na konieczność tworzenia nowych modeli biznesowych, które umożliwią dostęp do danych niezbędnych do rozwoju AI przy jednoczesnym poszanowaniu praw autorskich i prywatności.

Eksperci są zgodni, że wdrożenie nowych regulacji będzie wymagało czasu i współpracy wielu podmiotów. Jednym z największych wyzwań jest zapewnienie, że regulacje będą na tyle elastyczne, aby móc dostosować się do szybko zmieniającego się środowiska technologicznego. Ponadto ważne jest, aby edukować zarówno twórców systemów AI, jak i użytkowników końcowych na temat nowych przepisów i ich znaczenia.

Nowe regulacje dotyczące sztucznej inteligencji są ważnym krokiem w kierunku zapewnienia bezpiecznego i etycznego rozwoju tej technologii. Choć wprowadzają pewne ograniczenia, są niezbędne do ochrony prywatności obywateli i zapobiegania nadużyciom. Sukces tych regulacji będzie zależał od tego, w jakim stopniu uda się znaleźć równowagę między potrzebą kontroli i nadzoru a potrzebą wspierania rozwoju technologicznego.

O programie Technologicznie mówiąc

Technologicznie mówiąc to audycja radiowa, która w przystępny sposób wprowadza słuchaczy w świat nowoczesnych technologii. Program nadawany jest w każdą środę o godzinie 9.00 na antenie Polskiego Radia RDC oraz w formie wideo w serwisie YouTube. Prowadzi go Piotr Pilewski, redaktor naczelny Android.com.pl.

Technologicznie mówiąc łączy w sobie najnowsze informacje z branży, wywiady z ekspertami oraz praktyczne porady. Jego celem jest edukowanie społeczeństwa i pomaganie w zrozumieniu, jak technologie wpływają na nasze życie. Dzięki temu nawet osoby mniej obeznane z tematyką IT mogą śledzić najnowsze trendy i odkrywać nowe możliwości, jakie daje nam postęp technologiczny.

Szczegółowe informacje znajdziecie na stronie audycji w serwisie RDC.

Źródło: RDC, opracowanie własne. Zdjęcie otwierające: Mino Surkala / Shutterstock

Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.