OpenAI prezentuje Model Spec. To zbiór reguł, których ChatGPT ma przestrzegać podczas rozmów z użytkownikiem

OpenAI przedstawiło Model Spec. To dokument określający, w jaki sposób modele sztucznej inteligencji powinny „zachowywać się” podczas interakcji z użytkownikiem. Choć na efekty przyjdzie nam trochę poczekać, jest szansa, że narzędzia takie jak ChatGPT będą działać lepiej.

Dlaczego OpenAI wydaje Model Spec?

Choć narzędzia sztucznej inteligencji są coraz bardziej udoskonalane, to zdarza się, że generują one inne treści, niż mógłby się spodziewać użytkownik. Czasem są to po prostu nieprawdziwe twierdzenia wprowadzające w błąd, a innym razem wyniki, których zasadność prezentacji na smartfonie do 2000 zł lub innym urządzeniu może być wątpliwa ze względów moralnych, lub etycznych.

Niekiedy trudno odróżnić zwykły błąd sztucznej inteligencji od słabości konstrukcyjnej modelu AI, który analizując dane wprowadzone przez użytkownika, próbuje „przewidzieć”, jaka będzie akceptowalna odpowiedź.

OpenAI postanowiło wydać więc szkic Model Spec, czyli dokumentu zawierającego zbiór ram kształtujących reakcje modeli AI takich jak GPT–4. Firma określiła, że modele sztucznej inteligencji powinny pomagać programistom i użytkownikom końcowym, udzielając pomocnych odpowiedzi, przynosić korzyści ludzkości z uwzględnieniem m.in. potencjalnych szkód oraz uwzględniać normy społeczne i prawo.

Zgodnie z instrukcjami z dokumentu Model Spec, modele AI powinny unikać dostarczania informacji stanowiących zagrożenie, szanować twórców i ich prawa, chronić prywatność ludzi, a także nie odpowiadać treściami typu NSFW (ang. Not Safe for Work – nieodpowiednie do przeglądania w pracy).

Kiedy można spodziewać się zmian w działaniu modeli AI?

Dokument opracowany przez OpenAI nie będzie miał natychmiastowego wpływu na działanie modeli sztucznej inteligencji takich jak GPT–4. Model Spec ma być „żywym dokumentem”, często aktualizowanym. Firma będzie oczekiwała na informacje zwrotne od opinii publicznej, zaufanych instytucji, decydentów oraz ekspertów.

Na ten moment nie wiadomo, od czego będą zależały finalne decyzje odnośnie do zmian w Model Spec, ani kiedy zostanie wydana kolejna wersja dokumentu. Ostateczną decyzyjność w zakresie tego, jak mają działać modele należące do OpenAI, firma pozostawia samej sobie.

Źródło: OpenAI, The Verge. Zdjęcie otwierające: T. Schneider / Shutterstock

Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.