Google i OpenAI rade na potencijalnom sprečavanju ustanka robota

Nije tajna da postoji određena doza straha da bi razvoj AI-ja potencijalno mogao da dovede do ustanka robota. Iako deluje kao tematika iz filmova naučne fantastike, stopa razvoja veštačke inteligencije navodi na mere opreza. Upravo je ovo tema oko koje su se udružili Google i OpenAI.Google DeepMind i OpenAI su nedavno objavili istraživački članak u kojem su sugerisali novi metod za “machine learning”, koji koristi nagrade i znake od stranje ljudi, naspram aktuelnih metoda koje veštačkoj inteligenciji omogućavaju da samostalno misli (što nekada može da dovede do neželjenih posledica). Implementiranjem novih metoda, budući AI bi mogao da dođe do tačke da se ponaša tako da ispunjava zadate ciljeve istovremeno zadovoljavajući ljudske preferencije. Mana ovog metoda jeste da zahteva dosta povratnih informacija od ljudi, što nije preterano idealno niti efikasno.Izvor: Ubergizmo