Microsoft potwierdził, że wprowadza ograniczenia w rozmowach ze swoją sztuczną inteligencją na chacie Bing. Jest to ściśle powiązane z „komedią„, która dzieje się w programie od kilku dni po wprowadzeniu narzędzia dla użytkowników.
Teraz będziecie musieli zakończyć swoją rozmowę po 5 turach i nie wyślecie więcej niż 50 pytań dziennie. Jak twierdzi zespół Bing, to powinno być zupełnie wystarczające dla użytkowników.
Microsoft ogranicza chat Bing. To i tak powinno być „wystarczające”
Nasze dane pokazały, że zdecydowana większość ludzi znajduje odpowiedzi, których szukają w ciągu 5 tur, a tylko około 1 % rozmów na czacie ma ponad 50 wiadomości.
Zespół Bing na swoim blogu
Całe działanie ma na celu uniknięcie długich sesji czatu, które prowadziły czasami do… zaskakujących odpowiedzi. Microsoft stwierdził, że wszystkie dłuższe rozmowy sprawiały, że Chat Bing „stawał się powtarzalny” lub „mógł zostać sprowokowany do udzielenia odpowiedzi niekoniecznie pomocnej lub zgodnej z zaprojektowanym tonem i tematem„. Samo wymazanie konwersacji po 5 pytaniach spowoduje, że „model nie będzie zdezorientowany”.
W ubiegłym tygodniu zaczęło pojawiać się dość sporo raportów na temat wyjątkowych odpowiedzi na chacie Bing. Co więcej, „The New York Times” opublikował niemal dwugodzinną rozmowę z AI, w której sztuczna inteligencja mówiła o tym, jak bardzo kocha autora i nie może spać w nocy. A w innych przypadkach zaczynała użytkownikom zwyczajnie grozić i wypisywać rzeczy, które zdecydowanie nie powinny się na czacie znaleźć.
Chat Bing jest codziennie ulepszany, a problemy rozwiązywane na bieżąco. Obecne ograniczenia wcale nie muszą być dożywotnie, bo Microsoft w dalszym ciągu pracuje nad wypowiedziami i całym modelem sztucznej inteligencji. Na ten moment jednak korporacja zbiera opinie i wykonuje odpowiednie badania.