Facebook wyłączył jedną z instalacji sztucznej inteligencji, ponieważ stracił nad nią kontrolę

Adrian Celej Artykuły 2017-07-31

Cały czas mówi się o obawach związanych z rozwojem sztucznej inteligencji. Nie ma w tym nic dziwnego, wystarczy wspomnieć wizje z filmów science fiction. Wielokrotnie ostrzegano przed możliwym wymknięciem się takiego oprogramowania spod kontroli. Jak się okazuje tego typu obawy są uzasadnione, a pierwszy incydent znany miał miejsce w laboratoriach Facebooka.

Po jakiemu to?

Facebook prowadzi równolegle wiele eksperymentów związanych ze sztuczną inteligencją. Jednym z nich były były dwa chatboty komunikujące się ze sobą. Instalacja żyła dość długo i z biegiem czasu zaczęła żyć własnym życiem. W czerwcu inżynierzy społecznościowego giganta zauważyli, że boty zmodyfikowały używany język. Program przewidywał korzystanie z angielskiego oraz lekkie zmodyfikowanie go, aby komunikacja była bardziej efektywna. Proces ten postępował do wczoraj, kiedy to zadecydowano o wyłączeniu maszyny. Powód był prosty – boty wykształciły własny język, który nie był zrozumiały dla człowieka. W konsekwencji oznaczało to utratę kontroli nad projektem. Przerwanie pracy botów miało również zapobiec innym konsekwencjom, jednak konkretów nie znamy.

Program lepszy od człowieka

Używane przez nas języki powstawały przez tysiące lat. Powstają nowe słowa, zwroty, które maja skrócić rozmowę i przekazać tą sama informację. Tymczasem sztuczna inteligencja zrobiła to w kilka miesięcy. Powstałe w ten sposób zdania były niezrozumiałe dla człowieka, ale genialne dla maszyny. Fragment jednej z rozmów prezentuje się następująco:

Bob: I can can I I everything else

Alice: Balls have zero to me to me to me to me to me to me to me to me to

Przy okazji na jaw wyszedł inny fakt – oprogramowanie świetnie radzi sobie w negocjacjach. Chatbot potrafił wykazać zainteresowanie inna rzeczą bądź wydarzeniem, aby w trakcie negocjacji zrezygnować z niej na rzecz udawanego kompromisu. Taktyka ciekawa i bardzo skuteczna.

Dlaczego sztuczna inteligencja jest tak szybka?

Na co dzień prowadzimy rozmowy, uczymy się nowych rzeczy. Robimy to w określonym tempie, ogranicza nas czas. Tymczasem komputer ogranicza jedynie wydajność podzespołów, odpowiedź na wiadomość może zostać wysłana zanim człowiek zdąży zareagować. W ten sposób głupi kawałek kodu w krótkim czasie potrafi zaszokować swoimi możliwościami.

Czarny scenariusz?

Powyższy przykład pokazuje, że nie zawsze wszystko idzie zgodnie z planem. Należy liczyć się z tym, że na wskutek błędu w programie sztuczna inteligencja może zachowywać się zupełnie inaczej, niż było to początkowo planowane. Najprostszym sposobem na nieszczęście byłoby zaprezentowanie takiemu oprogramowaniu języków programowania. Jeśli taka instalacja mogłaby sama się udoskonalać, to szybko zostałaby niezależnym tworem nad którym nie byłoby żadnej kontroli. Problem polega na tym, że nie wiemy jakie eksperymenty są prowadzone za murami wielkich korporacji. Sam podejrzewam, że tego typu testy miały już miejsce, jednak z oczywistych względów nigdy nie poznamy konkretnych raportów. Warto tu wspomnieć, że Mark Zuckerberg ma bardzo luźne podejście do tematu sztucznej inteligencji, co ostro wytykał mu Elon Musk. Przed konsekwencjami uczenia maszynowego ostrzegał nas również Stephen Hawking. Z drugiej strony umiejętnie wykorzystana sztuczna inteligencja pomaga np. w tłumaczeniu tekstów przez Google Translator i robi to naprawdę dobrze.

Źródło: TechTimes





x