Centrum AI i Polityki Cyfrowej (CAIDP) złożyło skargę do Federalnej Komisji Handlu (FTC) w USA, zarzucając twórcom ChatGPT naruszenie ustawy poprzez wypuszczanie dużych modeli językowych AI, takich jak GPT-4. A na tym nie koniec problemów OpenAI – decyzję o blokadzie ChatGPT podjęli Włosi, wskazując na naruszenia europejskiego RODO.
ChatGPT zablokowany, bo może naruszać RODO
Włoski organ nadzorujący ochronę danych osobowych wydał w piątek decyzję nakazującą ograniczenie dostępu do popularnego chatbota sztucznej inteligencji od OpenAI. ChatGPT miał bowiem swój udział w rzekomym naruszeniu prywatności włoskich użytkowników. Problemem ma być także brak weryfikacji wieku.
W oświadczeniu włoski Krajowy Urząd Ochrony Danych Osobowych oświadczył, iż istotnym czynnikiem miał być:
Wyciek danych w dniu 20 marca, dotyczących rozmów użytkowników i informacji o płatnościach subskrybentów płatnej usługi
Wyciek został oficjalnie potwierdzony przez OpenAI, ale w oświadczeniu sprzed tygodnia wskazywano na jego niewielką skalę… oraz próbowano bagetelizować ewentualne konsekwencje. Włoski urząd najwyraźniej nie zgodził się z tą narracją i postanowił podjąć konkretne kroki.
OpenAI ma 20 dni na odniesienie się i reakcję na decyzję Włochów. I zgodnie z zapisami przepisów wchodzących w skład RODO jeśli tego nie zrobi – będzie narażone na karę w wysokości nawet 4% rocznego obrotu firmy.
Na tym jednak problemy OpenAI się nie kończą – bo równie niepokojące dla firmy wieści napływają także i zza oceanu. Choć tam zarzuty oczywiście mają nieco inną naturę niż w przypadku rynku europejskiego.
Twórcy ChatGPT zaskarżeni w USA
Skarga CAIDP dotyczy modelu GPT-4, który według organizacji jest uprzedzony, wprowadza w błąd i zagraża prywatności oraz bezpieczeństwu publicznemu. Zarzucają OpenAI brak spełnienia wytycznych FTC, które nakazują, aby AI było przejrzyste, sprawiedliwe i łatwe do wyjaśnienia.
CAIDP domaga się, aby FTC zawiesiło przyszłe wydania dużych modeli językowych, dopóki nie spełnią wytycznych agencji. Organizacja chce również, aby OpenAI wymagało niezależnych przeglądów produktów i usług GPT przed ich wdrożeniem. Ponadto CAIDP liczy na stworzenie systemu zgłaszania incydentów i formalnych standardów dla generatorów AI przez FTC.
FTC odmówiło komentarza na temat skargi CAIDP. Prezes CAIDP Marc Rotenberg i założyciel OpenAI Elon Musk podpisali otwarty list, w którym wzywają OpenAI i innych badaczy AI do wstrzymania prac na sześć miesięcy, aby przeprowadzić dyskusje etyczne. Krytycy tych modeli AI wskazują na problematyczne wyniki, takie jak nieprawdziwe oświadczenia, mowa nienawiści i uprzedzenia. Użytkownicy nie mogą powtórzyć wyników, co również budzi kontrowersje. Istnieją obawy, że ludzie mogą zbytnio polegać na AI, nie sprawdzając podwójnie dostarczanych informacji.
Jeśli FTC zdecyduje się na podjęcie działań w odpowiedzi na skargę, może to wpłynąć na rozwój branży AI. Firmy musiałyby czekać na oceny i mogłyby spotkać się z większymi konsekwencjami, jeśli ich modele nie spełnią standardów Komisji. To może prowadzić do zmiany tempa rozwoju AI oraz wpływać na odpowiedzialność i przejrzystość w branży. Regulacje mogą jednak przyczynić się do poprawy jakości modeli AI, zwiększenia bezpieczeństwa i zmniejszenia negatywnych konsekwencji związanych z dezinformacją, przed którą ostrzegał Europol.