Emberek segíthetnek elkerülni a mesterséges intelligenciák végzetes hibáit

A mesterséges intelligenciának szüksége van a segítségünkre (egyelőre). A legjobbak közülük gyorsan válnak a szájról olvasás és a videojátékok mestereivé, egyszerűen úgy, hogy folyamatosan tanulnak a saját hibáikból. Viszont ahogy a robotok egyre jobban beférkőznek a gyógyászat és a vezetés területeire is, ez már nem lehet elfogadható megközelítés. Most egy új tanulmány szerint, megfelelő emberi felügyelet mellett elkerülhetőek lehetnek a hibák.

Hogy kiképezzenek egy mesterséges intelligenciát úgy, hogy ne kövessen el hibákat, Owain Evans, az Oxford Egyetemről munkatársaival a két dimenziós pingpong játékkal, a Pong-gal kezdték a tanítást. Normális esetben a Pong-ot játszó gépek több százszor átengedik a labdát maguk mellet mielőtt rájönnének, hogy az nem a megfelelő módja a pontjaik növelésének. Azonban most egy ember közbeavatkozik, hogy ezt elkerüljék.

Egy másik mesterséges intelligencia figyeli ahogyan az ember beavatkozik a játékba. 4,5 órával később az embert megfigyelő gép már képes átvenni a tanár feladatát és megakadályozni, hogy a Pong-ot játszó AI komoly hibákat kövessen el a jövőben.

A tanulmány megmutatja, hogy kilehet képezni a körülményeknek megfelelően egy mesterséges intelligenciát anélkül, hogy ez komoly problémákhoz vezetne. Az emberi segítség nem csak a videojátékokat tanuló mesterséges intelligenciáknál lehet hasznos, hanem a tudósok szerint például a Facebook hírszűrő algoritmusának is sokat segíthetett volna, hogy ne árasszon el minket hamis hírekkel.

Azonban az ember a képletben nem mindig állítja meg a gépeket a hibázásban. A Road Runner nevű játéknál az AI felügyelő nem volt képes megakadályozni, hogy a társa időnként nagy hibákat kövessen el a játékban.

A tudósok szerint a bonyolultabb Atari játékokhoz akár több évnyi emberi felügyelet is szükséges lehet, hogy a játék tényleg hibák nélkül folytatódjon tovább és még úgysem lesznek teljesen biztonságosak, mivel nehéz rájönni, hogy a rendszer hogyan viselkedik azokban az esetekben, amikre nincs felkészülve.

A problémára az is megoldást jelenthet, ha olyan mesterséges intelligenciákat használnak ami szándékosan követ el hibákat a képzése alatt, ezzel felgyorsítva tanulását és megtanítva magát, hogy később ne így ‘viselkedjen’.

Továbbra is nagyon fontos, hogy meggyőződjünk a robotok biztonságosságáról, mielőtt beengednénk őket az otthonainkba és a kórházakba.

Forrás: arxiv.org

Szerkesztő: arsratio

Oszd meg

Hozzászólás küldése

Az email címet nem tesszük közzé. A kötelező mezőket * karakterrel jelöljük.

A honlap további használatához a sütik használatát el kell fogadni. További információ

A süti beállítások ennél a honlapnál engedélyezett a legjobb felhasználói élmény érdekében. Amennyiben a beállítás változtatása nélkül kerül sor a honlap használatára, vagy az "Elfogadás" gombra történik kattintás, azzal a felhasználó elfogadja a sütik használatát.

Bezárás