A robotika jelene és jövője – Erkölcsi és technológiai kihívások

Ilyés Alex 2019. feb. 14. 0 0

A robotika és a Mesterséges Intelligencia kutatása ma már teljes mértékben átszivárgott a popkultúra terepére. Számos televíziós sorozat, egész estés film és szórakoztató irodalmi alkotás témája. Jelen cikkben ezeket megemlítve igyekszem kielemezni, mi is valójában a robotika, és milyen kihívásokkal kell számolnia az elkövetkezendő években.

A robotika mai helyzete még nehezen átlátható. A laikus szemek nem is igazán érthetik, hol is tart valójában a Mesterséges Intelligencia (továbbiakban: AI, mint Artificial Intelligence) fejlődése. Nem is olyan rég még arról olvashattunk, hogy Szaúd-Arábiában állampolgárságot kapott egy robot hölgy. Három éve az AlphaGo szoftver nem várt módon legyőzte a Go bajnokát, amely játékról azt jósolták, hogy túl intuitív ahhoz, hogy egy AI elsajátíthassa. Meghökkentő hírek születtek egy képfelismerő szoftverről, amely ~70%-os biztonsággal képes volt megmondani képen látott emberek szexuális orientációját. Mindeközben a keményvonalas kutatásokban a gépi tanulás legnagyobb áttöréseit láthatjuk, valamint olyan science-fictionbe illő találmányok valósulnak meg, mint a távolról irányítható robottestek (lásd: Avatar).

Vajon mindez azt jelenti, hogy a robotinvázió már a nyakunkon, és itt kopogtat a világvége? Korántsem. Az emberiség kultúrtörténete során mindig hajlamos volt túlbecsülni saját generációjának innovációit, és különös bűntudattal viszonyulni azokhoz. Mircea Eliade (2014) munkájában a világ vallásait hasonlította össze, évszázadokon át. Az ősi törzsek babonáiból az derült ki, hogy a gabona- és gyümölcstermesztés első megjelenései ezeknél az ősi civilizációknál különböző istenek ellen elkövetett bűnökkel és bűntudattal fonódtak össze. Később, mikor ez már bevett mesterség volt, az ércek bányászata és kályhában való hevítése jelentette az innovációt, mely szintén bűntudatot és a kovács faluból való kiközösítését eredményezte. Nem nehéz észrevenni a párhuzamot az AI kapcsán felmerülő bűntudattal és aggodalmakkal a „szent” élet lemásolhatatlanságának megszegése kapcsán. Persze, még ha a jövő igazolni is fogja a törekvéseket, ez nem mentesítheti a kutatókat a felelősség alól. Max Tegmark Life 3.0 című könyvében definiálja ezt a felelősséget, valamint az AI mai állását, és a legfőbb kihívásokat.

Forrás: ervelokritikus.blog.hu

Az AI-nak három fő típusa van fejlettsége szerint. Ez egy spektrumon helyezkedik el, ahol a gyenge, az erős és a szuperintelligens fokozatok szerepelnek. A „gyenge” AI az egyetlen, ami már megvalósult, a többi még csak potenciális lehetőség. Ezt a zártság jellemzi, képes specifikusan ellátni egy feladatot, amelyre be van programozva, azonban tudását nem képes kiterjeszteni és általánosítani. Az Ex Machina című filmben a robotot feltaláló tudós így fogalmaz: „A sakkgép nem tudja megmondani, hogy sakkozik, és nem is tudja mi az.”.  A sakkgépen kívül ilyen AI-nak minősülnek a keresési javaslatokat nyújtó algoritmusok vagy akár a képfelismerő neurális hálózatok, de még a szaúdi robotpolgár, Sophie sem képes kitörni keretei közül, csupán nagyon sokféle szociális helyzetet raktároz adatbázisban. Az algoritmusok és képfelismerő szoftverek kategóriájukon belül fejlettebbnek minősülnek, ugyanis képesek tanulni.

A gépi tanulás egy olyan folyamat, melynek során a gép bemeneti anyagokat kap (képek, szavak, hangok) és ezekben képes szabályszerűségek felismerésére pusztán a rengeteg adat statisztikai együttjárásainak megfigyeléséből. Ennek legdivatosabb ágazata jelenleg a neurális rendszerek fejlesztése, amelyek az emberi idegrendszer hálózatszerű elképzeléséből adódnak és próbálják lemodellezni azt. Sokan azt jósolják, hogy a gépi tanulás fejlődése juttat majd el ahhoz a szinthez, ami miatt az „erősebb” AI-ok jobbnak bizonyulnak, mégpedig, hogy a robot képes lesz általánosítani a tudását, az egyszerű szabályszerűségekből képes lesz analógiákat vonni és más szituációkban is használni e tudásokat. Tegmark és a többi kutató ezt AGI (Artificial Generalizd Intelligence, mint Mesterséges Általános Intelligencia) névvel illeti, és ennek megjelenésében látja a valódi perspektívát. A szuperintelligens gép innen már csak annyival fejlettebb, hogy önmaga képes újabb gépek gyártására és javítására, mindenben meghaladva az emberi tevékenységet, de erre még visszatérünk.

A jövő legnagyobb kihívása, azonban épp ezek miatt nem csak technológiai, hanem erkölcsi is. Tegmark elutasítja az szélsőségesen apokaliptikust (pl. Terminátor-filmek) vagy az idilli jövőképeket, szerinte a problémák sokkal pragmatikusabbak. A legfontosabb feladat, hogy a jövőben általánosítani képes intelligencia olyan külső, ember által programozott célokat kapjon, amelyekkel igazodni tud az igényeinkhez. Példájában Tegmark egy önvezető autónak parancsolja, hogy „Vigyél el a reptérre a leggyorsabb úton!”. Ha mindenfajta előzetes tudástól, erkölcsi paramétertől és céltól mentes robotot képzelünk el, akkor az AI hamarosan lehajt az útról, majd árkon-bokron, autópályán keresztül, helikopterekkel a nyomunkban visz el a reptérre. Ahhoz, hogy az AI értse, hogy a szó szerinti kifejezést úgy értettük, hogy „Vigyél el a reptérre, a szabályok, a törvények és az infrastruktúra által megszabott lehető leggyorsabb úton!”, olyan alapvető célokat és értékrendszereket kell meghatározni számára, amelyek az emberek számára evidensek, és a társadalmak fenntartásához elengedhetetlenek. Sokkal veszélyesebb helyzetek is születhetnek ugyanis, például a „Szerezd vissza az ellopott táskámat, bármi áron!”– utasítás kapcsán, amely nem szabadna, hogy implikálja például egy emberi élet kioltását.

Forrás: hu.ign.com

A fikcióban a science-fiction-géniusz, Isaac Asimov foglalkozott nagyon hangsúlyosan a robotok moralitásával. Az általa megalkotott, fiktív „Robotika Három Alaptörvénye” ma is etikai és robotikai kurzusok gyakori résztvevője. Ez három olyan szabályt tartalmaz, amely gondoskodik arról, hogy a robot engedelmeskedjen, ne ártson az embernek, és lehetőleg kerülje el, hogy ártalmat szenvedjen. Az utasítások egymásnak alá vannak rendelve, így az alsóbb törvények csak úgy teljesülhetnek, ha az előbbiek garantálva vannak. Asimov életművének jelentős részét szánta arra, hogy mintegy fiktív tudósként novellák és meghökkentő történetek mentén tesztelje a paramétereket. A valóságban kicsit másképp zajlanak a célállítások módszerei. Nemrégiben indultak el az önvezető autók fejlesztései a Szilícium-völgyben, és az MIT ennek megfelelően már létrehozott egy erkölcsi tesztelést és beállítást ellenőrizni hivatott programot és kutatást. A MoralMachine weboldalán bárki kitölthet a saját megítélései szerint egy olyan helyzetekből álló kérdőívet, amelyek kényszer-dilemmának minősülnek. Például, ha az önvezető autó két zebrát tud elérni, amelynek egyikén négy idős ember, a másikon két fiatal sétál, majd észleli, hogy elromlott a fékrendszere, és az ütközés elkerülhetetlen, melyik zebrára hajtson rá? Ilyen és ehhez hasonló példák szerepelnek, egyéb korosztályokkal, foglalkozásokkal, közúti lámpák piros vagy zöld jelzéseivel, illetve az irányváltoztatás lehetőségével.

Persze, ennél konkrétabb „veszélyek” is léteznek, ha a morális alapvetések megvalósulnak. Az AI térhódítása egyes iparokat már ma is behálózni látszik. Nincs weboldal engedélyezendő sütik nélkül, amely fájlokban a weboldalak információkat tárolnak el a számítógépen. Egyes oldalak, szolgáltatók és hirdetések algoritmusai aztán ezek alapján készítenek személyre szabott reklámokat, keresési javaslatokat, amelyek azonban nagyon kevéssé érzékenyek a valós implikációkra. Nem is olyan rég nagy port kavart, hogy egyes neonáci csoportok olyan célzott reklámokat kaptak, amelyek antiszemita és holokauszt-tagadó üzeneteket tartalmaztak, sőt még a Google top találatai között is felbukkantak holokauszt-tagadó tendenciák. Emellett az EU-ban tavaly fogadtak el egy Article 13 néven futó törvényjavaslatot (bővebben itt), mely szigorúbban fogja kezelni a szerzői jogok megsértését és a cégeknek előírja, hogy vállaljanak felelősséget a felhasználók tartalmaiért, szűrőprogramokkal szelektálva azt. Itt a legnagyobb probléma, hogy az ironikus, parodisztikus, humoros felhasználás eseteire nem lehet programot írni, hiszen azok még az emberi szemnek is olykor kétesen felismerhetőek. Éppen emiatt meg fog nőni a tartalmak téves elbírálása és törlése – jósolják a szakértők.

Ha pedig a robotika más területeire evezünk, nem csupán a szoftverek terén, egyéb aggályok is megfigyelhetőek a jelenlegi kutatások kapcsán. A bevezetőben szó esett például az agyi tevékenység által irányítható protézisekről. Tavaly az Upgrade című film, korábban a Ghost in the Shell foglalkozott azzal, hogy mi történik, ha az emberek elkezdik kicserélni végtagjaikat, szerveiket mechanikus, mesterséges utánzatokra. Elsőre úgy tűnhet az emberek tűrőképessége, fizikai lehetőségei megnövekszenek, ami az érzékeny populációnak nagyon hasznos, a többieknek pedig kényelmes. Azonban hosszútávon megnövekedne a társadalmi rétegezettség, átalakulna a bűnözés, valamint a fizikai munkavégzés is új szintre lépne – amit korábban két-három ember végzett, azt akár egy avatar is megcsinálja majd, növelve így a munkanélküliséget (hasonló implikációkról szól a Detroit című videojáték). Ráadásul ezzel az emberi evolúcióba is beleszólnánk, ugyanis a fajunk innentől kilépne a biológiai rátermettség megmérettetéseiből.

Forrás: youtube.com

Susan Schneider, filozófus könyvében a poszt-humán korról mereng, amikor az ember már teljes mértékben meghaladta magát. Ennek végső fázisa, mikor az agyunk működése és elektromos jelei áthelyezhetőek lesznek valamilyen mű, le nem bomló anyagba, amellyel aztán fényévek utazása és az örök élet is lehetségessé válik. Schenider szerint az emberiség e jövőkép megvalósulásakor egy átmeneti fajnak lesz majd tekinthető, amelynek küldetése az volt, hogy fejlett agyműködésével megfejtse és lemodellezze a biológiai, „romlandó” életet és átörökítse egy el nem pusztuló életformába. A Westworld és a Black Mirror, két olyan sorozat, amely már egészen közel gondolkozik ehhez a paradigmához. A Westworldben az átörökítés egy „új Teremtés-történetként” jelenik meg, ahol a robot elme sikeresen öntudatra ébred, úgy ahogyan azt egyes tudományos elméletek képzelik az ősember elméjéről (lásd: bikamerális tudat). A Black Mirror egyik visszatérő szála ezzel szemben a virtuális valóság és az ott leprogramozott „életek”. Több rész is annak gondolatával játszik, hogy életnek számít-e a leprogramozott emberi hasonmás, vagy a digitálisan feltöltött tudat és emlékezet, a végső döntést a nézőre bízva.

E két vízió mégis kérlelhetetlenül összefügg a „Technológiai Szingularitás” elmélettel is, amely a szuperintelligens gép önlegyártó aspektusából következik. A Szingularitás abból a megfigyelésből következik, hogy az emberi történet során az innovációk megjelenése gyorsuló tendenciát mutat. Míg a mezőgazdaság megreformálásáig több generációnyi idő telt el, addig az ipari fejlődés ennek már csak töredéke, míg a számítástechnika egy generáció alatt fejlődött annyit, mint bármi azelőtt. Ennek értelmében a tendencia spirál természetű, amelynek a legvégén egy ember nélküli jövő vár, hiszen egyetlen szuperintelligencia „erősebb lesz”, mint a teljes emberiség össz-intelligenciája.

Az igazságra természetesen még várni kell, azonban fontos ezeken merengeni, ezekről beszélni és az érdeklődést fenntartani. Bár a legvégén úgyis egy maréknyi kutató és a felelős bizottságok döntenek. Valószínűleg ezekben az években a teljes emberiség jövője körvonalazódik. Ezt a témát pedig nem szabad alábecsülni. A diskurzus fenntartása segíthet a megfelelő út kikövezésében, illetve abban, hogy a kutatók és fejlesztők valóban a kifejezett igényekhez igazítsák vízióikat. Az alábbiakban olyan popkulturális műveket ajánlunk, amik segíthetnek még jobban átlátni a felvázolt viszonylatokat, az eredményesebb tájékozódás jegyében. És ne feledjétek: amíg ezt a cikket elolvastátok, az AlphaGo megtanult egy teljesen új játékot, és le is győzte annak bajnokát!

Ajánlott művek:

Film: Ex Machina, Upgrade, Ghost in The Shell, Én, a robot, Szárnyas Fejvadász 1-2

Dokumentumfilmek: AlphaGo, Lo and Behold, Singularity or Bust

Sorozatok: Westworld, Black Mirror, Almost Human

Könyvek: Iscaac Asimov: Robot-novellák, Philip K. Dick: Álmodnak-e az androidok elektronikus bárányokkal?Max Tegmark: Life 3.0; Susan Schneider: Science-Fiction and Philosophy; Nick Boström: Szuperintelligencia

Videójátékok: Detroit: Become Human; Cyberpunk 2077 (még nem jelent meg)

Kiemelt kép: antivirus.blog.hu

Tags: Artificial Generalizd Intelligence, Isaac Asimov, Max Tegmark, Mesterséges Általános Intelligencia, Mircea Eliade, Susan Schneider Categories: POPKULT
Related Posts