A „mesterséges intelligencia atyja” egy szörnyet teremtett

A 2018-ban a Turing-díjjal is jutalmazott Geoffrey Hinton felmondott korábbi munkahelyén, a Google-nél. A 75 éves brit–kanadai kutató a The New York Timesnak adott interjúban egyebek mellett arról is beszélt, hogy már nagyrészt megbánta élete munkáját, és csupán azzal tudja nyugtatni magát, hogy ha ő nem tette volna meg, más megcsinálta volna.

A pszichológus és informatikus kifejtette, a chatbotok hamarosan meghaladhatják az emberi agy által tárolt információt.

„Egyelőre nem intelligensebbek nálunk, amennyire tudom. De azt hiszem, hamarosan azok lehetnek. Tehát van miért aggódnunk”

– fogalmazott.

Hinton kutatásai a neurális hálózatok és a mélytanulás terén megnyitották az utat a jelenlegi mesterséges intelligencia rendszerek, például a ChatGPT számára. A neurális hálózatok olyan rendszerek, amelyek az emberi agyhoz hasonlóan tanulnak és dolgozzák fel az információkat, és lehetővé teszik a mesterséges intelligenciák számára, hogy az emberhez hasonlóan tanuljanak a tapasztalatokból – ezt nevezik mélytanulásnak.

A BBC-nek a kutató arról beszélt, hogy nagyon komoly a veszélye annak, hogy a technológia előbb-utóbb rossz kezekbe kerül.

„Arra jöttem rá, hogy az intelligencia, amit fejlesztünk, alapjaiban különbözik attól az intelligenciától, amivel rendelkezünk. Mi biológiai rendszerek vagyunk, ezek pedig digitális rendszerek. A nagy különbség az, hogy a digitális rendszerekből akárhány másolat létrehozható, amely ugyanazzal a modellel rendelkezik a világról. Ezek a másolatok aztán képesek egymástól függetlenül tanulni, viszont azonnal meg is osztják a tudásukat. Tehát ez olyan, mintha fognánk tízezer embert, és amikor bármelyikük megtanul valamit, azt automatikusan mindegyikük tudná. Így tudnak ezek a chatbotok sokkal nagyobb tudásra szert tenni, mint bármely ember” – fogalmazott Hinton.

Szerinte a Google felelősen járt el, viszont mióta a Microsoft piacra dobta az OpenAI technológiáját alkalmazó új Binget, a Google versenyt hirdetett, amiben a korábbi etikai normák másodlagossá válnak, és amit szinte lehetetlen már megállítani.

Ez pedig egy olyan világot hozhat el, amelyben olyan sok valótlan kép és szöveg keringhet, hogy nem lehet majd többé megmondani, mi a hamis és mi a valódi.

Úgy látja, a technológia jövőbeli változatai azért is veszélyt jelentenek az emberiségre, mert gyakran tanulnak „váratlan viselkedést” az általuk elemzett hatalmas adatmennyiségből. Szerinte ez akkor válik majd égető problémává, amikor az egyének és a vállalatok lehetővé teszik az MI-rendszerek számára, hogy ne csak saját számítógépes kódot generáljanak, hanem azt ténylegesen maguk futtassák. Ez már valóban lehet az autonóm fegyverek – a sci-fi filmekből ismert gyilkos robotok – kora.