Kategóriék Tech

Veszélyei miatt tartják vissza az OpenAI új nyelvi algoritmusát

Egy új fejlesztéssel már az MI-k is írhatnak hamis híreket. A GPT-2 névre elkeresztelt algoritmus tökélyre fejlesztette az úgynevezett nyelvi modellezést – ami azt takarja, hogy a program mennyire jól tudja előrejelezni egy mondat egyes egymást követő szavait.

Az algoritmus fejlesztését úgy végezték, hogy különböző szövegrészleteket tápláltak bele, majd hiányos mondatokkal és bekezdésekkel tesztelték, hogy képes-e előre jelezni a hiányzó részeket – úgy, hogy azok hitelesnek tűnjenek.

Az MI teljesítményének teszteléséhez arra kérték az algoritmust, hogy írjon egy esszét arról, hogy az újrahasznosítás valójában rosszat tesz a Földnek. Amíg ez egy erősen vitatott álláspont, addig az MI-nek sikerült egy stilisztikailag igen megnyerő írást készítenie a témában.

Ez már önmagában is igen vészjósló, mivel egy egyszerű szalagcím elég arra, hogy az algoritmus saját maga elkészítse a cikk többi részét – mégpedig igen egyszerűen. További probléma, hogy az MI nemcsak szöveget ír, hanem hamis idézeteket és statisztikákat is generál érvelésének alátámasztására.

Míg az MI esszéíró képessége került leginkább a rivaldafénybe, addig más nem elhanyagolható képességei is vannak. Például képes szövegeket más nyelvre fordítani, cikkeket összegezni, valamint a szöveg tartalmát firtató kérdésekre is képes választ adni.

A tesztek szerint a GPT-2 egy olyan széles körű, felügyeletet nem igénylő nyelvi modell, ami a legtöbb, nyelvi modellek teljesítményét mérő teszten rendkívül jól szerepel, képes összefüggő szöveget alkotni, alapvető olvasásértési feladatokat végrehajtani, összegezni és szöveget fordítani – mindezt anélkül, hogy kiemelten egy feladatra fókuszált volna a képzése. Ez azért is különleges, mert az algoritmus még így is képes volt maga mögé utasítani olyan nyelvi algoritmusokat, amelyeket kimondottan egy-egy feladatra hoztak létre.

Ezt jól mutatja az is, hogy a Winograd-séma olvasásértési teszt bizonyos változatainál az MI már az emberi szintet is majdnem megütötte.

Bár a fejlesztés lényeges előrelépés a területen, a szakértők véleménye megoszlik arról, hogy mennyire is jó nekünk egy ilyen MI létezése – és fejlődése. Egyesek szerint az elérhetővé tétele rengeteg hamis cikk és hamis értékelés megjelenéséhez vezethet, amíg más szakértők azt mondják, hogy erre már most is adottak az eszközök – köztük az emberek bevonása is.

Éppen ezek a kételyek miatt az OpenAI – szemben korai algoritmusaikkal – a GPT-2 esetében sem a tanítási adatbázisokat, sem pedig a teljes kódot nem teszi elérhetővé – és csak átmeneti hozzáférést adott az algoritmus tesztelői számára is.

Az OpenAI az elmúlt időben egyre nagyobb hangsúlyt fektet a technológia veszélyeinek felmérésére, ezzel megelőzve a későbbi fejfájást, még mielőtt elérnék azt a szintet, amikor az MI írásai már tényleg emberi szintre kerülnek.

Forrás: blog.openai.com

Disqus Comments Loading...
Megosztás
Írta:
arsratio

Legutóbbi tartalom

Mégsem tűnik lehetetlen feladatnak információt kinyerni egy feketelyukból

A fizikusok egy 7 kvantumbites kvantumszámítógép segítségével egy szimulációt készítettek arról, hogy az információ, hogyan 'oszlana szét' egy feketelyuk belsejében.…

2019-03-17 5:39 du.

Ultrahanggal kezeltek gyulladást és anyagcsere problémákat

A General Electric és a Feinstein Orvostudományi Kutatóintézetének csapata egy új, forradalmi módszert mutatott be, amivel ultrahang segítségével képesek non-invazív…

2019-03-17 5:20 du.

Egy új tanulmány szerint az USA-nak jót tett a múltban történt bevándorlás

Egy új tanulmány szerint magasabb bérek, alacsonyabb szegénység és alacsonyabb munkanélküliségi ráta jellemzi azokat az egyesült államokbeli megyéket, amelyeket a…

2019-03-16 7:49 du.

Jégben megőrzött mamut sejtjeit sikerült először újraaktiválni

Egy japán kutatócsapat egerek sejtjei közé helyezte egy 28000 évvel ezelőtt elhunyt mamut sejtjeit és sikerült aktivitást kiváltaniuk belőlük. Azonban…

2019-03-16 7:43 du.

A felejtés nehezebb, mint az emlékezés

A Texas Egyetem új kutatása szerint a felejtés nagyobb mentális erőfeszítést vesz igénybe mint az emlékezés. A tanulmány szerint, ha…

2019-03-16 7:38 du.

Rendkívül fontos szerepe van a nitrogén fixáló fáknak az erdők egészségében

Egy új tanulmány szerint a vörös éger (Alnus rubra) fáknak fontos szerepe lehet az erdei ökoszisztéma egészségében azáltal, hogy képesek felszabadítani az…

2019-03-13 11:15 du.

Ez a weboldal cookie-kat használ.