Facebook wyłącza AI, bo system stworzył swój własny język

Zespół Facebooka zmuszony był wyłączyć niektóre z funkcjonujących w serwisie systemów sztucznej inteligencji. Powód, dla którego firma podjęła takie działania, jest dość nietypowy i przypomina sytuację rodem z filmów science fiction: maszyny stworzyły swój własny język, w którym zaczęły się porozumiewać.

Jak twierdzi Dhruv Batra, naukowiec z Georgia Tech, sytuacja jest następstwem błędu w kodowaniu AI – programiści pominęli system nagród dla sztucznej inteligencji za posługiwanie się językiem angielskim. Zdaniem badacza, maszyny porzuciły zrozumiały język i wynalazły swój własny kod komunikacyjny.

Facebook wyłączył AI, bo system, którego głównym celem było rozmawianie z ludźmi, stał się pod tym względem całkowicie bezużyteczny – skrótowy kod, który stworzył, był zrozumiały jedynie dla maszyn.

„I’ll be back”?

Szef marki Tesla Elon Musk przewidywał, że ludzkość czeka przyszłość rodem z „Terminatora”. Przedsiębiorca ostatnio nawet krytykował szefa Facebooka, że wykazuje „ograniczone zrozumienie” dla niebezpieczeństw czyhających ze strony AI. Wygląda na to, że czarny scenariusz zaczyna się powoli sprawdzać.