Kategóriák Tech

Veszélyei miatt tartják vissza az OpenAI új nyelvi algoritmusát

Egy új fejlesztéssel már az MI-k is írhatnak hamis híreket. A GPT-2 névre elkeresztelt algoritmus tökélyre fejlesztette az úgynevezett nyelvi modellezést – ami azt takarja, hogy a program mennyire jól tudja előrejelezni egy mondat egyes egymást követő szavait.

Az algoritmus fejlesztését úgy végezték, hogy különböző szövegrészleteket tápláltak bele, majd hiányos mondatokkal és bekezdésekkel tesztelték, hogy képes-e előre jelezni a hiányzó részeket – úgy, hogy azok hitelesnek tűnjenek.

Az MI teljesítményének teszteléséhez arra kérték az algoritmust, hogy írjon egy esszét arról, hogy az újrahasznosítás valójában rosszat tesz a Földnek. Amíg ez egy erősen vitatott álláspont, addig az MI-nek sikerült egy stilisztikailag igen megnyerő írást készítenie a témában.

Ez már önmagában is igen vészjósló, mivel egy egyszerű szalagcím elég arra, hogy az algoritmus saját maga elkészítse a cikk többi részét – mégpedig igen egyszerűen. További probléma, hogy az MI nemcsak szöveget ír, hanem hamis idézeteket és statisztikákat is generál érvelésének alátámasztására.

Míg az MI esszéíró képessége került leginkább a rivaldafénybe, addig más nem elhanyagolható képességei is vannak. Például képes szövegeket más nyelvre fordítani, cikkeket összegezni, valamint a szöveg tartalmát firtató kérdésekre is képes választ adni.

A tesztek szerint a GPT-2 egy olyan széles körű, felügyeletet nem igénylő nyelvi modell, ami a legtöbb, nyelvi modellek teljesítményét mérő teszten rendkívül jól szerepel, képes összefüggő szöveget alkotni, alapvető olvasásértési feladatokat végrehajtani, összegezni és szöveget fordítani – mindezt anélkül, hogy kiemelten egy feladatra fókuszált volna a képzése. Ez azért is különleges, mert az algoritmus még így is képes volt maga mögé utasítani olyan nyelvi algoritmusokat, amelyeket kimondottan egy-egy feladatra hoztak létre.

Ezt jól mutatja az is, hogy a Winograd-séma olvasásértési teszt bizonyos változatainál az MI már az emberi szintet is majdnem megütötte.

Bár a fejlesztés lényeges előrelépés a területen, a szakértők véleménye megoszlik arról, hogy mennyire is jó nekünk egy ilyen MI létezése – és fejlődése. Egyesek szerint az elérhetővé tétele rengeteg hamis cikk és hamis értékelés megjelenéséhez vezethet, amíg más szakértők azt mondják, hogy erre már most is adottak az eszközök – köztük az emberek bevonása is.

Éppen ezek a kételyek miatt az OpenAI – szemben korai algoritmusaikkal – a GPT-2 esetében sem a tanítási adatbázisokat, sem pedig a teljes kódot nem teszi elérhetővé – és csak átmeneti hozzáférést adott az algoritmus tesztelői számára is.

Az OpenAI az elmúlt időben egyre nagyobb hangsúlyt fektet a technológia veszélyeinek felmérésére, ezzel megelőzve a későbbi fejfájást, még mielőtt elérnék azt a szintet, amikor az MI írásai már tényleg emberi szintre kerülnek.

Forrás: blog.openai.com

Megosztás
Írta:
arsratio

Legutóbbi tartalom

Az ösztrogénnek is szerepe lehet az autizmusban

A kutatók kapcsolatot találtak a méhben való magas ösztrogénnek való kitettség és az autizmus kialakulásának valószínűsége között. Az új felfedezés…

2019-08-12 2:55 du.

Egy kvantum mikrofonnal képesek voltak megszámolni a hang részecskéit

A Stanford Egyetem fizikusai kifejlesztettek egy "kvantum mikrofont", ami annyira érzékeny, hogy képes fonononként - a hangot alkotó részecskék -…

2019-08-12 2:50 du.

Az afrikai füst látja el tápanyaggal az Amazonasz-esőerdőt és az óceánokat

A Miami Egyetem kutatói rájöttek, hogy az afrikai tüzek füstje viheti el az Amazonasz-esőerdő, Trópusi Atlanti-óceán és a déli óceánok…

2019-08-04 7:31 du.

Öregebb lehet a Hold, mint eddig gondolták

A Köln Egyetem Geológiai és Ásványtani Intézetének kutatói egy új tanulmányban megállapították, hogy a Hold megközelítőleg a Naprendszer keletkezése után…

2019-08-02 11:16 de.

Neurokognitív alapja lehet a szabad akaratnak

A filozófusok és a teológusok is évszázadok óta merengenek azon; hogy valóban létezhet-e szabad akarat? Ez idő alatt a szabad…

2019-08-02 11:01 de.

Még a profi matematikusok egy részén is kifogott egy egyszerű kivonás

A matematikai gondolkodásra sokan úgy tekintenek mint az elvont gondolkodás csúcsa. Azonban tényleg képesek vagyunk teljesen elvonatkoztatni a külvilágról szerzett…

2019-07-29 8:01 du.

Ez a weboldal cookie-kat használ.