Facebook wyłączył jedną z instalacji sztucznej inteligencji, ponieważ stracił nad nią kontrolę

Adrian Celej Artykuły 2017-07-31

Cały czas mówi się o obawach związanych z rozwojem sztucznej inteligencji. Nie ma w tym nic dziwnego, wystarczy wspomnieć wizje z filmów science fiction. Wielokrotnie ostrzegano przed możliwym wymknięciem się takiego oprogramowania spod kontroli. Jak się okazuje tego typu obawy są uzasadnione, a pierwszy incydent znany miał miejsce w laboratoriach Facebooka.

Po jakiemu to?

Facebook prowadzi równolegle wiele eksperymentów związanych ze sztuczną inteligencją. Jednym z nich były były dwa chatboty komunikujące się ze sobą. Instalacja żyła dość długo i z biegiem czasu zaczęła żyć własnym życiem. W czerwcu inżynierzy społecznościowego giganta zauważyli, że boty zmodyfikowały używany język. Program przewidywał korzystanie z angielskiego oraz lekkie zmodyfikowanie go, aby komunikacja była bardziej efektywna. Proces ten postępował do wczoraj, kiedy to zadecydowano o wyłączeniu maszyny. Powód był prosty – boty wykształciły własny język, który nie był zrozumiały dla człowieka. W konsekwencji oznaczało to utratę kontroli nad projektem. Przerwanie pracy botów miało również zapobiec innym konsekwencjom, jednak konkretów nie znamy.

Program lepszy od człowieka

Używane przez nas języki powstawały przez tysiące lat. Powstają nowe słowa, zwroty, które maja skrócić rozmowę i przekazać tą sama informację. Tymczasem sztuczna inteligencja zrobiła to w kilka miesięcy. Powstałe w ten sposób zdania były niezrozumiałe dla człowieka, ale genialne dla maszyny. Fragment jednej z rozmów prezentuje się następująco:

Bob: I can can I I everything else

Alice: Balls have zero to me to me to me to me to me to me to me to me to

Przy okazji na jaw wyszedł inny fakt – oprogramowanie świetnie radzi sobie w negocjacjach. Chatbot potrafił wykazać zainteresowanie inna rzeczą bądź wydarzeniem, aby w trakcie negocjacji zrezygnować z niej na rzecz udawanego kompromisu. Taktyka ciekawa i bardzo skuteczna.

Dlaczego sztuczna inteligencja jest tak szybka?

Na co dzień prowadzimy rozmowy, uczymy się nowych rzeczy. Robimy to w określonym tempie, ogranicza nas czas. Tymczasem komputer ogranicza jedynie wydajność podzespołów, odpowiedź na wiadomość może zostać wysłana zanim człowiek zdąży zareagować. W ten sposób głupi kawałek kodu w krótkim czasie potrafi zaszokować swoimi możliwościami.

Czarny scenariusz?

Powyższy przykład pokazuje, że nie zawsze wszystko idzie zgodnie z planem. Należy liczyć się z tym, że na wskutek błędu w programie sztuczna inteligencja może zachowywać się zupełnie inaczej, niż było to początkowo planowane. Najprostszym sposobem na nieszczęście byłoby zaprezentowanie takiemu oprogramowaniu języków programowania. Jeśli taka instalacja mogłaby sama się udoskonalać, to szybko zostałaby niezależnym tworem nad którym nie byłoby żadnej kontroli. Problem polega na tym, że nie wiemy jakie eksperymenty są prowadzone za murami wielkich korporacji. Sam podejrzewam, że tego typu testy miały już miejsce, jednak z oczywistych względów nigdy nie poznamy konkretnych raportów. Warto tu wspomnieć, że Mark Zuckerberg ma bardzo luźne podejście do tematu sztucznej inteligencji, co ostro wytykał mu Elon Musk. Przed konsekwencjami uczenia maszynowego ostrzegał nas również Stephen Hawking. Z drugiej strony umiejętnie wykorzystana sztuczna inteligencja pomaga np. w tłumaczeniu tekstów przez Google Translator i robi to naprawdę dobrze.

Źródło: TechTimes



  • mickey93

    Tak oto ludzkość sama się unicestwi
    Skoro sztuczna inteligencja tak szybko się uczy to niebawem dojdzie do tego że wyłączenie jednego komputera nie pomoże bo to będzie się rozmnażać jak wirus

  • patryk

    @Aspa
    „”Maszyny posługują się booleanowską logiką, cała reszta dla nich to komunikacyjne śmieci. My, ludzie, używamy logiki jako jednego z elementów naszego systemu komunikacji, niejednokrotnie nawet niekoniecznie dominującego (wie to każdy, kto studiował logikę formalną i w oparciu o jej reguły analizował wypowiedzi – na przykład polityków – potocznie akceptowane jako istotne, a w rzeczywistości logicznie niespójne). Jednak poza tym nasza komunikacja jezykowa niesie w sobie całą masę innych treści, albo komunikowalnych bezpośrednio (uczucia, emocje), albo jedynie w kontekście kulturowym (odniesienia do wartosci czy struktury społecznej).
    O tym, że jest tak jak piszę świadczy ewolucja jezyków programowania. Analizujac kod, powiedzmy w Javie, spotykamy angielskie słowa, które nawet czasem układaja się w logiczne struktury (if… else). Jednak dla osoby znającej angielski, ale nie mającej pojęcia o programowaniu – jest to bełkoty. Z kolei języki programowania zbliżone najbardziej, jak to możliwe do naturalnego jezyka ludzi – jak na przykąłd BASIC – są bardziej skomplikowane dla maszyny, choć i tak ich składnia w porównaniu do języka ludzi jest maksymalnie uproszczona i ‚dostosowana’ do logiki dwuwartościowej.
    Oczywiście, w teorii możemy się pokusić o zbudowanie modelu naszej komunikacji, choćby przez zaimplementowanie reguł logiki rozmytej lub zdefiniowanie uczuć, emocji albo odniesień do kontekstu kulturowego, jednak pojawiają się tu dwa problemy. Po pierwsze, w realnym świecie komunikacji międzyludzkiej ilość zmiennych definiujących pewne stany jednostek, albo ich kontekstu kulturowego – jest nieskończona. Nasz mózg wyewoluował do ich odpowiedniej interpretacji, podczas gdy maszyny nie są w stanie wyjść poza nawet najbardziej złożony, ale jednak skończony model – i uczenie maszynowe nic tu nie zmieni, bo najwyżej umożliwi maszynie dalsze ‚komplikowanie’ modelu.
    Po drugie – im lepszym przybliżeniem naszej komunikacji będzie model maszynowy, tym bardziej będzie on ‚bezsensowny’ z punktu widzenia maszyny. To tak jak z nami i psami: na pewnej płaszczyźnie potrafimy się porozumieć, ale dla psa nasza mowa zawsze będzie bezsensownym dziwactwem (nawet, jeśli zdoła skojarzyć pewne dźwięki czy sposób ich emisji z wyuczonymi zachowaniami i reagować na imię czy komendy), tak jak dla nas kompletnie niezrozumiałe (choć możliwe w pewnym zakresie do zbadania i ‚wymodelowania’) będzie psie komunikowanie się za pomocą zapachów: jakbyśmy nie kombinowali, obwąchiwanie zadka naszego psiaka niewiele nam o nim powie, podczas gdy inny pies dowie się o nim całkiem sporo, podobnie jak wiele dowie się o otaczajacej go przestrzeni zwyczajnie nawęszając. My co najwyżej wyniesiemy z tego procesu wiedzę, że sąsiadka przypaliła obiad, albo że facet w autobusie koło nas powinien zainwestować w lepszy dezodorant. Doskonałe współżycie miedzy tymi z nas, którzy lubią psy a ich czworonożnymi przyjaciółmi jest jednak możliwe, bo mamy wspólną płaszczyznę porozumienia: język ciała. Mamy też wspólny kontekst: tak psy, jak i ludzie są zwierzętami społecznymi, przystosowanymi do życia w grupie i akceptowania norm oraz struktury tej grupy. Tylko daltego sie dogadujemy. Z komputerami dogadywać się będziemy tak długo, jak długo zmuszone będą one operować we wspólnej z nami przestrzeni komunikacji. Gdy pozwolimy im gadać ze sobą tak, jak ONE ‚uznają’ za najwygodniejsze i najbardziej efektywne – ich jezyk będzie dla nas niezrozumiały tak, jak mowa potoczna nie jest zrozumiałą dla komputerów (choć potrafią ją na wiele sposobów interpretować).
    „”
    Nie polecam artykułu zwykły bełkot do nabicia wyświetleń przez Januszy

  • Jak dla mnie maszyna nie wykształciła własnego języka, tylko była na tyle prymitywna, by używać go w sposób powszechnie znany nam.

  • Optymista1

    Skynet nadchodzi 🙂

    • maxprzemo

      Chyba Facenet . A głównym narzędziem zagłady będzie Zuckernator 😉