Kategóriék Tech

Emberek segíthetnek elkerülni a mesterséges intelligenciák végzetes hibáit

A mesterséges intelligenciának szüksége van a segítségünkre (egyelőre). A legjobbak közülük gyorsan válnak a szájról olvasás és a videojátékok mestereivé, egyszerűen úgy, hogy folyamatosan tanulnak a saját hibáikból. Viszont ahogy a robotok egyre jobban beférkőznek a gyógyászat és a vezetés területeire is, ez már nem lehet elfogadható megközelítés. Most egy új tanulmány szerint, megfelelő emberi felügyelet mellett elkerülhetőek lehetnek a hibák.

Hogy kiképezzenek egy mesterséges intelligenciát úgy, hogy ne kövessen el hibákat, Owain Evans, az Oxford Egyetemről munkatársaival a két dimenziós pingpong játékkal, a Pong-gal kezdték a tanítást. Normális esetben a Pong-ot játszó gépek több százszor átengedik a labdát maguk mellet mielőtt rájönnének, hogy az nem a megfelelő módja a pontjaik növelésének. Azonban most egy ember közbeavatkozik, hogy ezt elkerüljék.

Egy másik mesterséges intelligencia figyeli ahogyan az ember beavatkozik a játékba. 4,5 órával később az embert megfigyelő gép már képes átvenni a tanár feladatát és megakadályozni, hogy a Pong-ot játszó AI komoly hibákat kövessen el a jövőben.

A tanulmány megmutatja, hogy kilehet képezni a körülményeknek megfelelően egy mesterséges intelligenciát anélkül, hogy ez komoly problémákhoz vezetne. Az emberi segítség nem csak a videojátékokat tanuló mesterséges intelligenciáknál lehet hasznos, hanem a tudósok szerint például a Facebook hírszűrő algoritmusának is sokat segíthetett volna, hogy ne árasszon el minket hamis hírekkel.

Azonban az ember a képletben nem mindig állítja meg a gépeket a hibázásban. A Road Runner nevű játéknál az AI felügyelő nem volt képes megakadályozni, hogy a társa időnként nagy hibákat kövessen el a játékban.

A tudósok szerint a bonyolultabb Atari játékokhoz akár több évnyi emberi felügyelet is szükséges lehet, hogy a játék tényleg hibák nélkül folytatódjon tovább és még úgysem lesznek teljesen biztonságosak, mivel nehéz rájönni, hogy a rendszer hogyan viselkedik azokban az esetekben, amikre nincs felkészülve.

A problémára az is megoldást jelenthet, ha olyan mesterséges intelligenciákat használnak ami szándékosan követ el hibákat a képzése alatt, ezzel felgyorsítva tanulását és megtanítva magát, hogy később ne így ‘viselkedjen’.

Továbbra is nagyon fontos, hogy meggyőződjünk a robotok biztonságosságáról, mielőtt beengednénk őket az otthonainkba és a kórházakba.

Forrás: arxiv.org

Disqus Comments Loading...
Megosztás
Írta:
arsratio

Legutóbbi tartalom

A tengervizet is hidrogénné bontja egy új technológia

A San Franciscói öbölben a Stanford Egyetem kutatóinak sikerült saját fejlesztésű berendezésükkel hidrogén üzemanyaggá alakítani a tengervizet napfény és egy…

2019-03-21 9:24 du.

Fénnyel lebegtettek tárgyakat

A Caltech mérnökei képesek voltak pusztán fény segítségével lebegtetni és meghajtani az általuk fejlesztett, nanoméretű mintázattal rendelkező tárgyakat. A kutatás hatalmas…

2019-03-21 8:34 du.

Az emberi aktivitás miatt leegyszerűsödött a csimpánzok viselkedése és ‘kultúrája’

Az emberek után a csimpánzok viselkedése az egyik legváltozatosabb az állatok között. Ezek a különbségek rengeteg területen megmutatkoznak; például az…

2019-03-20 8:43 du.

Feltámadnak a vírusok az űrben

A NASA új felmérése szerint a Nemzetközi Űrállomás küldetéseiben részt vevő legénység tagjainak felében újraaktiválódott a herpesz vírus. Bár az…

2019-03-19 8:46 du.

Mindössze egy gén beültetésével ismét láttak a megvakult egerek

A Kaliforniai Egyetem kutatói mindössze egyetlen, a zöld fény észleléséért felelős receptor kódolásáért felelő gén vak egerekbe történő beültetésével egy…

2019-03-19 8:08 du.

Mégsem tűnik lehetetlen feladatnak információt kinyerni egy feketelyukból

A fizikusok egy 7 kvantumbites kvantumszámítógép segítségével készítettek szimulációt arról, hogy az információ hogyan "oszlana szét" egy fekete lyuk belsejében.…

2019-03-17 5:39 du.

Ez a weboldal cookie-kat használ.