A DeepMind érti az árulás előnyeit

Egyre közelebb kerülünk a mesterséges intelligencia hajnalához, ami egy új technológiai kort hozhat el. Ha eljutunk addig, hogy a gépek már tanulni, gondolkodni és “érezni” is tudnak emberi segítség nélkül, akkor akár egy éjszaka alatt megváltozhat a világ.

Érdemes ezért figyelemmel kísérnünk a mai AI fejlesztések nagyobb mérföldköveit, köztük a Google DeepMind neurális hálózatát. A rendszer már így is felforgatta a sakk és a go világát, és egy házon belüli felmérés alapján a Google bizonytalan benne hogy az AI-ok az együttműködő, az agresszív, vagy a versengő viselkedést preferálják.

A Google csapata két aránylag egyszerű forgatókönyvet dolgozott ki, hogy tesztelje korlátozott források esetén, a hálózat együtt dolgozik e, avagy egymás ellen. Az első szituációnál, ami a “Gathering” (gyűjtögetés) nevet kapta, a DeepMind két verziójának – Piros és Kék – azt a feladatot adták hogy gyűjtsenek zöld “almákat” egy meghatározott területről.

Azonban ez nem csak egy egyszerű verseny volt. Pirost és Kéket lézer fegyverrel szerelték fel amivel le tudták lőni egymást, ami átmeneti bénulást okozott. Ezzel két lehetőség maradt nekik: minden alma megszerzése, vagy testvériesen osztoznak az almákon.

Több ezerszer lefuttatva a szimulációt a Google azt találta hogy a DeepMind nagyon békés és együttműködő volt addig amíg rengeteg alma volt körülöttük. Minél kevesebb alma volt, annál nagyobb eséllyel támadt egymásra Piros és Kék – ami jobban tükrözi a valós életet ahol az állatoknak és az embereknek sincs kiapadhatatlan nyersanyagforrása.

Érdekes módon viszont a kisebb “kevésbé intelligens” neurális hálózatok nagyobb hajlamot mutattak az együttműködésre, a kifinomultabb, nagyobb rendszerek meg az árulást és az önzőséget részesítették előnyben a kísérlet alatt.

A második forgatókönyvnél, ami a “Wolfpack” (Farkasfalka) nevet kapta, Pirosat és Kéket arra kérték, hogy egy nem meghatározott “prédát” vadásszanak le. Megpróbálhattak egyedül vadászni és külön is, de előnyös volt számukra ha együtt próbálták elkapni a prédát – sokkal könnyebb is valamit ketten sarokba szorítani.

Az eredmények itt is változatosak voltak, de a nagyobb rendszer gyorsabban jött rá, hogy ebben az esetben együttműködőnek érdemes lenni és nem pedig versengőnek.

Szóval mit is mond nekünk a fogolydilemmának ez a két egyszerű példája? A DeepMind tudja, hogyha le akar vadászni egy célpontot, az együttműködés előnyösebb, de ha a nyersanyagok már ritkábbak, az árulás is jól működhet.

 

Talán a legfélelmetesebb ebben, hogy ezek az ösztönök nyugtalanítóan emberszerűek – és tudjuk az emberi ösztönök hova vezethetnek.

Forrás: iflscience.com

Szerkesztő: arsratio

Oszd meg

Hozzászólás küldése

Az email címet nem tesszük közzé. A kötelező mezőket * karakterrel jelöljük.