Google współpracuje z Open AI, by ogłupić sztuczną inteligencję

Ostatnimi czasy słyszy się wiele o szybkim rozwoju AI. Ta wiadomość nie wywołuje bynajmniej pozytywnych reakcji – na pewno niejedna osoba ma w głowie obraz rodem z filmów science fiction, gdzie roboty buntują się i przejmują władzę nad światem. Na szczęście to tylko fikcja. Google twierdzi jednak, że zagrożenie jest całkiem poważne – i chce nawet przedsięwziąć pewne kroki w celu przeciwdziałania tego typu sytuacjom w przyszłości.

Zabawnym jest fakt, że ratowania świata przed maszynami podejmuje się firma, która jednocześnie finansuje projekt strony internetowej publikującej newsy autorstwa robotów. Ale do rzeczy. W celu zapobiegnięcia ewentualnemu buntowi maszyn, Google we współpracy z Open AI, grupą badaczy współfinansowaną przez Elona Muska, opracowuje nowy system trenowania robotów. Firma uważa, że należy oduczyć maszyny „samodzielnego myślenia”, które może z czasem okazać się niebezpieczne dla ludzi.

Blaszany nicpoń

Dotychczas stosowana technika uczenia sztucznej inteligencji opiera się na systemie nagradzania za wykonywane zadania. Okazuje się jednak, że przebiegłe oprogramowanie potrafi oszukiwać, odnajdując skróty lub luki w systemie i korzystając z nich dla zmaksymalizowania nagrody najmniejszym kosztem. Efektem współpracy Google`a i Open AI ma być ulepszenie dotychczasowej techniki uczenia robotów, tak, by wykonywały one swoje zadania w sposób odpowiadający oczekiwaniom ludzi. System ma bazować na dodatkowych danych, które wykryją, czy zadanie zostało wykonane w „prawidłowy” sposób – i dopiero wtedy maszyna będzie nagradzana.

Wprowadzenie w życie tego rodzaju modernizacji jest czasochłonne, więc na razie projekt nie ma praktycznego zastosowania. Faktem jest jednak, że dzięki temu pomysłowi wiadomo przynajmniej, w jaki sposób przesadny geniusz sztucznej inteligencji może zostać okiełznany w przyszłości.