W lutym OpenAI ogłosiło, że opracowało algorytm, który mógłby napisać wiarygodne, fałszywe wiadomości i spam. Początkowo zdecydowano, że jest jego publikowanie zbyt niebezpieczne. Dlatego też firma zaplanowała etapowe wydanie jego elementów. Wszystko to, aby móc zaoferować fragmenty technologii i przeanalizować sposób jej wykorzystania. OpenAI ogłosiło, że nie widziało żadnych mocnych dowodów na nadużycia i w tym tygodniu opublikowało pełny program.
Generator fake news
To nie pierwszy raz, kiedy sztuczna inteligencja może zostać wykorzystana do niecnych celów. Warto tu przypomnieć program, który rozbierał zdjęcia kobiet. AI GPT-2 zostało pierwotnie zaprojektowane, by odpowiadać na pytania, podsumowywać historie i tłumaczyć teksty. Naukowcy obawiali się jednak, że może ona zostać wykorzystana do wypompowania dużych ilości błędnych informacji. Zamiast tego, w większości przypadków widzieliśmy ją wykorzystywaną do szkolenia gier przygodowych i pisania historii o jednorożcach. Obecność okrojonej wersji nie doprowadziła do powszechnych nadużyć. Dlatego też OpenAI opublikowało pełny model GPT-2. W swoim wpisie na blogu firma podaje, że ma nadzieję, iż pełna wersja pomoże badaczom rozwijać lepsze modele wykrywania tekstu generowanego przez AI i wykorzenić uprzedzenia językowe.
Wydajemy ten model, aby pomóc w badaniach nad wykrywaniem syntetycznego tekstu.
— oświadczyło OpenAI.
Zobacz też: Steam też czuje potrzebę konkurowania z Google Stadia
Idea sztucznej inteligencji, która może masowo tworzyć wiarygodne, fałszywe wiadomości i dezinformację, jest, co zrozumiałe, niepokojąca. Niektórzy jednak argumentowali, że technologia ta nadchodzi, czy tego chcemy, czy nie. Według tych osób OpenAI powinno było natychmiast podzielić się swoją pracą, aby badacze mogli opracować narzędzia do zwalczania, lub przynajmniej wykrywania, tekstu generowanego przez boty. I trudno tutaj odmówić im racji. Nawet gdyby firma nie opublikowała swojej pracy, to nie ma gwarancji, że takie coś nie zostałoby wkrótce stworzone przez osoby o złych zamiarach.
Źródło: Engadget