Kategóriák Tech

Veszélyei miatt tartják vissza az OpenAI új nyelvi algoritmusát

Egy új fejlesztéssel már az MI-k is írhatnak hamis híreket. A GPT-2 névre elkeresztelt algoritmus tökélyre fejlesztette az úgynevezett nyelvi modellezést – ami azt takarja, hogy a program mennyire jól tudja előrejelezni egy mondat egyes egymást követő szavait.

Az algoritmus fejlesztését úgy végezték, hogy különböző szövegrészleteket tápláltak bele, majd hiányos mondatokkal és bekezdésekkel tesztelték, hogy képes-e előre jelezni a hiányzó részeket – úgy, hogy azok hitelesnek tűnjenek.

Az MI teljesítményének teszteléséhez arra kérték az algoritmust, hogy írjon egy esszét arról, hogy az újrahasznosítás valójában rosszat tesz a Földnek. Amíg ez egy erősen vitatott álláspont, addig az MI-nek sikerült egy stilisztikailag igen megnyerő írást készítenie a témában.

Ez már önmagában is igen vészjósló, mivel egy egyszerű szalagcím elég arra, hogy az algoritmus saját maga elkészítse a cikk többi részét – mégpedig igen egyszerűen. További probléma, hogy az MI nemcsak szöveget ír, hanem hamis idézeteket és statisztikákat is generál érvelésének alátámasztására.

Míg az MI esszéíró képessége került leginkább a rivaldafénybe, addig más nem elhanyagolható képességei is vannak. Például képes szövegeket más nyelvre fordítani, cikkeket összegezni, valamint a szöveg tartalmát firtató kérdésekre is képes választ adni.

A tesztek szerint a GPT-2 egy olyan széles körű, felügyeletet nem igénylő nyelvi modell, ami a legtöbb, nyelvi modellek teljesítményét mérő teszten rendkívül jól szerepel, képes összefüggő szöveget alkotni, alapvető olvasásértési feladatokat végrehajtani, összegezni és szöveget fordítani – mindezt anélkül, hogy kiemelten egy feladatra fókuszált volna a képzése. Ez azért is különleges, mert az algoritmus még így is képes volt maga mögé utasítani olyan nyelvi algoritmusokat, amelyeket kimondottan egy-egy feladatra hoztak létre.

Ezt jól mutatja az is, hogy a Winograd-séma olvasásértési teszt bizonyos változatainál az MI már az emberi szintet is majdnem megütötte.

Bár a fejlesztés lényeges előrelépés a területen, a szakértők véleménye megoszlik arról, hogy mennyire is jó nekünk egy ilyen MI létezése – és fejlődése. Egyesek szerint az elérhetővé tétele rengeteg hamis cikk és hamis értékelés megjelenéséhez vezethet, amíg más szakértők azt mondják, hogy erre már most is adottak az eszközök – köztük az emberek bevonása is.

Éppen ezek a kételyek miatt az OpenAI – szemben korai algoritmusaikkal – a GPT-2 esetében sem a tanítási adatbázisokat, sem pedig a teljes kódot nem teszi elérhetővé – és csak átmeneti hozzáférést adott az algoritmus tesztelői számára is.

Az OpenAI az elmúlt időben egyre nagyobb hangsúlyt fektet a technológia veszélyeinek felmérésére, ezzel megelőzve a későbbi fejfájást, még mielőtt elérnék azt a szintet, amikor az MI írásai már tényleg emberi szintre kerülnek.

Forrás: blog.openai.com

Megosztás
Írta:
arsratio

Legutóbbi tartalom

A brokkoliban lévő vegyület segíthet a rák elleni küzdelemben

Igaz lehet a népi bölcsesség, a brokkoli tényleg jót tesz nekünk. Már korábban is tudni lehetett, hogy a brokkoli és…

2019-05-23 8:22 du.

A Hold keletkezésével került víz a Földre

A Föld a Naprendszerben egyedülálló módon az egyetlen olyan égitest, amelyen nagy mennyiségű víz van és egy viszonylag nagy méretű…

2019-05-23 8:15 du.

Fényre cserélhetik az elektromosságot az adathordozókban

Elektromosság helyett fény impulzusokon alapuló szupergyors adatfeldolgozási eljárást fejlesztettek ki kutatók. A találmányban mágnesek felelnek a számítógép adatainak elraktározásáért, melyek…

2019-05-23 7:53 du.

Az eredmények megismételhetősége nem mindig jelenti azt, hogy valójában igazak

A reprodukálható tudományos eredmények nem mindig igazak és a valóban igazi eredmények nem mindig reprodukálhatóak. Legalábbis erre jutott a Idaho…

2019-05-22 7:34 du.

Több bokorlakó énekesmadárral jobban lehetne védekezni a poloskainvázió ellen

Ha sokkal több bokorlakó énekesmadár - mint a barátposzáta, a kis poszáta, a fülemüle vagy a vörösbegy - élne például…

2019-05-21 8:46 du.

A “hangyahidak” inspirálta rendszer megjavítja az áramkörök hibáit

A szociális rovar kolóniák rendkívül összetett módon képesek ön rendeződni; például két ág között a hangyák egymásba kapaszkodnak, hogy élő…

2019-05-21 8:37 du.

Ez a weboldal cookie-kat használ.