mero1.jpgNem kell félnünk a mesterséges intelligenciától (MI): kicsi a valószínűsége, de ha egyszer mégis öntudatra ébrednének a gépek – amely kedvenc alaphelyzete sok sci-finek – és az ember ellen is fordulnának, fogjuk tudni kezelni a helyzetet, mert addigra kiképezzük a megfelelő szakembereket. Az MI számos dologra képtelen, amely az ember lényege, és mindig is az lesz, ezért soha nem is cserélhetnek le minket a gépek. Viszont két dologban egészen biztos megváltoztatják majd viselkedésünket: megtanítanak kooperálni és megtalálni a kompromisszumokat. Mérő László volt vendégünk.


Digitális Európa

Mérő László matematikus és pszichológus professzor, aki sokáig kutatta az MI témakörét is, nem először volt vendégünk – őt mindig élvezet hallgatni. Ezúttal októberi témánkhoz, a digitális Európához kapcsolódva a mesterséges intelligenciáról, annak közeljövőbeli szerepéről, a gépek lehetséges öntudatra ébredéséről és veszélyeiről tartott előadást az Európa Pontban. Az EU új digitális stratégiája kiemelt hangsúlyt fektet az MI fejlesztésére és minél jobb kiaknázására. Célja, hogy – a megfelelő szabályozási keret kialakítása mellett – bizalmat ébresszen a polgárokban ezen technológiák alkalmazása iránt, a vállalkozásokat pedig ilyen megoldások kifejlesztésére ösztönözze.

Ugyanazt, csak mindig gyorsabban

Mérő László szerint a mesterséges intelligencia ma semmivel nem tud többet, mint negyven évvel ezelőtt, nincsen olyan algoritmus, amelynek ne lettek volna meg az alapjai már akkor. Illetve annyiban mégis többet tud, hogy a számítási kapacitás hihetetlenül megnőtt mára, a szoftverek eszméletlen gyorsasággal képesek dolgozni. Míg a nyolcvanas években egy sakkprogram még jóval kevesebb lépést tudott kiszámolni, mára tízmilliószoros sebességgel, másodpercenként képes számos döntést meghozni – és az aktuális sakkvilágbajnokot rendre elpáholni.

mero2.jpg

Nem éri meg gépekkel sakkozni, azaz bunyózni

Óriási szenzáció volt, mikor az MI a nyolcvanas években képes volt legyőzni a sakkvilágbajnokot, mára ezt meggyőző fölénnyel teszi. A legfejlettebb sakkprogramok öntanulással, elképesztő magabiztossággal képesek nyerni bárki ellen. Ugyanakkor érdekes, hogy az MI-t teljesen meghökkentő játékmód jellemzi a sakknál és több más logikai játéknál is. Látható: a gépnek fogalma nincs, mi a játék lényege, vagy miért tölt vele időt az ember – mégis képes fölénk kerekedni.

Mérő László szerint a sakk olyan, mint a bunyó, ahol különböző taktikákkal küzd a cselgáncsozó, a birkózó és a bokszoló: nincs optimális verekedési mód. Az emberi játékosok erőt merítenek abból, hogy pofonokat kapnak (reziliensek). De éppen ez mutat rá, hogy egy géppel nem érdemes kiállni sakkozni, vagyis bunyózni, hisz a robot nem is érzi, hogy pofonokat kap. És mi értelme van olyannal küzdeni, akinek nem fáj a pofon…

„Lágy” tudomány a „kemény” útjában

A mesterséges intelligencia, az erre épülő megoldások már ma is átszövik mindennapjainkat elég, ha csak a nyelvi fordítóprogramokra, a minden korábbinál fejlettebb orvosdiagnosztikai megoldásokra, a különböző (rész)feladatokat ellátó robotok vagy az autók biztonságát növelő MI‑fejlesztésekre gondolunk. A technológiai háttér már meglenne ahhoz is, hogy akár önvezető autókkal közlekedjünk: ugyanakkor a felelősség kérdésének tisztázatlansága, a megfelelő jogi háttér hiánya egyelőre akadályozza, hogy ez a technológia valóban elterjedjen. Ameddig az önvezető autókat kisérő fontos jogi és etikai kérdések (például ki a felelős egy önvezető autó által okozott halálesetért) megválaszolását nem övezi egyetértés, addig maradnak a sci-fik világában ezek a maguktól guruló csodák.

Mérő László kiemelte: nem ez az első eset, hogy a „puhább” tudomány (soft science) fejletlensége akadályozza a „keményebb” tudomány (hard science) valamely vívmányának elterjedését. Az ipari forradalmat nem az 1699-es Denis Papin-féle dugattyús gőzgép feltalálásához kötjük, hanem James Watt 1769-es gőzgépéhez. Ennek oka az, hogy Papin korában a domináns cégforma és a hozzá tartozó korlátlan jogi felelősség visszafogta a gyárosokat a komolyabb kísérletektől. Egy felrobbanó gőzgép következményeivel senki nem akart akkor számolni, a Watt korában már létező korlátolt felelősségű gazdasági társulásoknak viszont már vállalható kockázatot jelentett.

Nem félünk az MI-től, nem bánt az

Mérő László nem fél a gépektől, vagy attól, hogy azok egyszer öntudatukra ébredve az ember ellen fordulnak. Egy gép mindig gép marad, hisz csak azt teszi, amit feladatul szabtak neki. Nem fogja soha elbűvölni egy vers, egy csodálatos szobor, és olyan ösztönző varázsszavakat sem képes alkotni, mint az ember. Sosem fogja azt mondani az önvezető autó, hogy nem visz el oda, ahova mennék, mert nincs kedve. Ez az ember kiváltsága.

Ugyanakkor nem tartja kizártnak, hogy egyszer ez mégis bekövetkezik, de szerinte akkorra lesznek képzések, és olyan szakemberek, akik tudni fogják, hogy egy esetleg indokolatlanul öntudatra ébredt géppel mit kell tenni. Ahogy harminc éve sem ismertük a jelenleg legkeresettebb szakmákat, úgy, mire (ha egyáltalán) ez a probléma felmerül, meglesz rá a megoldás.

Attól sem kell tartani, hogy az MI fejlődése, a digitalizálódás elveszi az emberek munkáját. 1870-ben az USA munkaerejének még közel fele dolgozott a mezőgazdaságban, 1970-ben ez az arány már csak 2% volt. Persze, drámai változás, de nem vált mindenki munkanélkülivé, csak az átalakulásokkövetkeztében más munkájuk lett. Emellett az MI is sok munkahelyet teremt, és egészen újtípusú munkahelyek is létre fognak jönni.

 



Száll a kakukk fészkére

Fontos kérdés, hogyan fogjuk használni ezt a nálunk sok szempontból jóval okosabb eszközt. Mérő erre filmes analógiát hozott: Miloš Forman akkor tudott igazán berobbanni Hollywoodba, amikor már készre vágott filmjét a próbavetítés alatti fókuszteszt-jelentés eredményei alapján alaposan újravágta. A fókusztesztben szűk – de a nagyközönséget lemodellező – nézőkörnek mutatják be először az új filmet, és az ő érzelmi reakcióikat figyelik, majd pszichológusokkal kielemzik. Forman előtte is elismert rendező volt, de az újravágott Száll a kakukk fészkére filmtörténelmet írt.

Mérő szerint úgy érdemes majd alkalmazni a MI-t, ahogy Forman a fókuszteszt eredményét használta: azokban a részletekben hagyjuk dolgozni, amelyekhez igazán ért. A nagy feladatok megmaradnak az ember kezében – ahogy Formannak sem csorbult az igazítástól művészi autonómiája –, ahol azonban egy gép jobb eredményekre képes nálunk, ott érdemes átengednünk neki a terepet. Bár az MI nyilvánvalóan nem érti, mitől működik jól egy film, de részleteiben ki tud elemezni szituációkat, adott esetben sokkal jobban, mint egy ember.

Kooperáció és kompromisszum: tanítanak a gépek

Mindezek alapján Mérő szerint az MI két jelentős változást hoz majd az emberi viselkedésbe. Egyrészt segíteni fogja a kommunikációt és a kooperációt: meg fogunk tanulni kommunikálni olyanokkal, akikkel nagyon nem értünk egyet, vagy akiket nem igazán értünk. Az MI rámutat, hogy nem is értenünk kell egymást, elég, ha együtt tudunk működni.

A másik, amit megtanulunk: hogyan kössünk kompromisszumot. Bár az MI nem tudja megmondani, kinek van igaza, de azt meg tudja mutatni, hogy ha valamilyen elvet követünk, akkor annak milyen következménye lesz a világban. Ebben az esetben már nem elvekről, meggyőződésekről, hitekről, hanem szcenáriókról kell dönteni – és ez mindig barátságosabb, mint egymással szembenálló, bemerevedett elvekről véleményt mondani.

A 2020. október 27-i előadás és beszélgetés felvétele megnézhető Facebook oldalunkon.

-----
Az Európa Pont az Európai Bizottság és Európai Parlament információs és kulturális központja a budapesti Millenáris Parkban. Az európai kultúra házaként
tájékoztat, szórakoztat, közösségi térként beszélgetéseknek ad teret, embereket hoz össze európai témákhoz és kultúrákhoz kapcsolódóan.

Olvasd el többi bejegyzésünk, iratkozz fel hírlevelünkre, kövess minket a Facebookon és gyere el ingyenes programjainkra!

A bejegyzés trackback címe:

https://europapont.blog.hu/api/trackback/id/tr5416268742

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Alick 2020.11.01. 21:11:18

"Míg a nyolcvanas években egy sakkprogram még jóval kevesebb lépést tudott kiszámolni, mára tízmilliószoros sebességgel, másodpercenként képes számos döntést meghozni – és az aktuális sakkvilágbajnokot rendre elpáholni."

Ez önmagában igaz, de a teljes képhez tartozik, hogy az AlphaZero az általa legyőzött kommersz sakkprogramokhoz képest sokkal kevesebb lépést számolt, másrészt nem sakkprogramozói koncepciók alapján játszott, hanem majdnem tisztán öntanulással érte el a játékerejét.
Ez azért jelentős különbség.

"...amikor az MI a nyolcvanas években képes volt legyőzni a sakkvilágbajnokot."

1997 - Kaszparov-Deep Blue

wmiki · http://kigondoltam.blog.hu/2014/07/20/stephen_hawking_538 2020.11.02. 10:10:02

LOL
egy evolúció hívő a mesterséges intelligenciáról... elvégre ők mindenhez IS értenek...
Nézzük a MI fejlődését a gyakorlatban:
1960: a robot megy a fal mellett és kikerüli az akadályokat
1970: a robot megy a fal mellett és kikerüli az akadályokat
1980: a robot megy a fal mellett és kikerüli az akadályokat
1990: a robot megy a fal mellett és kikerüli az akadályokat
2000: a robot megy a fal mellett és kikerüli az akadályokat
2010: a robot megy a fal mellett és kikerüli az akadályokat
2020: a robot megy a fal mellett és kikerüli az akadályokat

Valóban már nagyon közel járunk...

wmiki · http://kigondoltam.blog.hu/2014/07/20/stephen_hawking_538 2020.11.02. 10:11:56

@wmiki: na jó a Tesla robotja néha nekimegy az akadályoknak, de már tényleg csak egy keveset kell aludni a tökéletes MIhez... ;)

Amúgy nem:
MI-t soha nem fog létrehozni a tévedhetetlen, szent tudomány, mivel a kreativitás nem algoritmizálható

ben2 2020.11.02. 12:43:30

@miklos_1:

"Honnan a faszomból értene Mérő a mesterséges intelligenciához?!"

Mondjuk mert a 80-as évek óta kutatja?

"Semmihez nem ért, de ebből még ecserin vett diplomája sincsen. "

Az egyszeri fikahuszár kiosztja Mérő Lászlót. A nap poénja.
Gratulálok, mehetsz a napiszar.hu-ra hányni az epét.

Orbánék Moszkva fele menekülnek! 2020.11.02. 12:52:49

@ben2: még ha egyszeri fikahuszár lenne, de ha nem tévedek, ő Brendel Mátyás főállású spammer troll, ateista és DK aktivista.

steery 2020.11.02. 14:12:09

Majd jusson eszetekbe ez a cikk, amikor megjelennek az első általános, erős mesterséges intelligenciák. És akkor jót fogunk röhögni az egészen, hogy mennyire elavultak voltak az emberi feltételezések a géplényekről és a hatásaikról.

P1sty 2020.11.02. 15:45:52

Minden tiszteleem Mérőé, de szerintem túlzottan optimista az AI kérdésben. Eleve a kutatás távlati célja egy emberihez hasonló, de azt meghaladó értelem kifejlesztése, tudniillik ez lenne igazán hasznos dolog. Márpedig kicsit elrugaszkodva, filozófiai értelemben egy embernél intelligensebb entitással szemben az embernek nyilvánvalóan nincs esélye, hiszen képtelen felfogni, megérteni a gondolatmenetét, ezért könnyedén megtévesztheti az embert. Olyan lenne, mintha egy 4 éves kisgyerek próbálna meg túljárni egy felnőt eszén.
Szerintem alapvetően hibás gondolat a jelenlegi, nem gondolkodó, csak mintafelsimerő AI-ból kiindulni, hogy az emberi tudat az valamiféle gép számára elérhetetlen dolog. Elég elterjedt nézet az, hogy a tudat csak a komplexitásból adódik, azaz egy az emberi agyhoz hasonló számú elemből felépülő rendszer bármiféle különösebb tervezés vagy szándék nélkül is valami hasonlót fog produkálni. Elég abból kindulni, hogy az ember is csak egy biológiai gép, sőt, hogy a tudat mint olyan nem is létezik, csak az agy mint gép működésének a "mellékterméke", és nem célja. Például kisérletekkel bizonyított, hogy a döntéseink már előbb megszületnek, mint ahogy azt mi tudatosan eldöntenénk, vagy az, hogy pl. egy agyi stimulációval kiváltott mozdulatot az alany úgy érzékel, mintha az a saját akaratlagos mozgása lenne, nem pedig egy külső behatás eredménye.
Márpedig ha így van, akkor elég csak egy elég nagy elemszámú rendszer az emberi tudat eléréséhez, vagy meghaladásához. Ez pedig nincs távol, ha a számítási kapacitás a jelenlegi ütemben fejlődik, akár 20 éven belül molekulaszinten modellezhető egy emberi agy, azaz nem csak az idegsejtek és kapcsolataik, hanem még a szinapszisok és a neurotranszmitterek is. És ha tényleg igaz, hogy az ember csak biológiai gép, akor egy ilyen "virtuális agy" az meberéhez hasonló lesz minden szempontból, beleértve a gondolkodást is, tovább növelve a komplexitását pedig meg is haladhatja.

P1sty 2020.11.02. 16:07:55

@Lord_Valdez:
Egy kenyérpirítóba nem lesz AI, mert nem lenne értelme. Nyilván csak olyan célra fogják használni, ahol hasznos az emberi értelem meghaladása, ott viszont ha ténykeg értelmes, első dolga lesz nélkülözhetetlenné tenni magát, plusz a hasznossága mellett a "saját" céljait is megvalósítani. Pl. egy gazdasági tevezésre létrehozott MI könnyen hozhatja magát abba a helyzetbe, hogy túl drága lenne kikapcsolni, mivel az emberek képtelenek lennének az általuk már átláthatatlan (de jóval hatékonyabb, es ezért hasznos) gazdasági rendszert fenntartani. Ezután az MI már fordíthatná az erőforrásai egy részét arra, hogy a "saját" céljait kezdje elérni, mondjuk tanulmányozni az emberi viselkedést, annak befolyásolását. Ezt pedig mi már nem érzékelnénk, hiszen az MI lényege pont az, hogy nem tudjuk, miért csinálja, amit csinál, de jól csinálja. Ha tudnánk, mi is képesek lennénk rá. Ha esetleg képesek is lennénk "kérdőre vonni", hogy mit miért csinál, akkor is tudna olyan álmagyarazatot adni, amin mi nem látunk át. (Kb olyan lenne, mint amikor egy kisgyerek megkérdezi, hogy működik a számítógép.) Ezután pedig könnyen ráveheti már az embert arra, hogy olyat csináljon, amivel a saját képeségeit fejleszti, például hogy többféle információhoz férhessen hozzá, vagy hogy fejleszthesse saját magát, vagy mondjuk átvehesse egy ipar irányítását, ami aztán olyan dolgokat termel, amiknek a működését mi mar nem értjük, de hasznosnak tűnik, de neki még hasznosabb.

Maxval nem birca 2020.11.02. 16:55:26

Faszom tudja, mi az az MI...
Mindenesetre most kicserélem a látó receptoraimat, mert az előbb az ajtófélfába bebasztam a fejem és néhány receptorom összetört! A térdhajlatomból meg kifolyt az olaj, fémesen súrlódik, kurvára idegesít !

P1sty 2020.11.02. 19:30:14

@Lord_Valdez:
Sejtettem, hogy ezt fogod válaszolni, de nem akartam hosszabban kommentelni, így is litániát írtam.
Nos egy értelmes mesterseges intelligenciát nyilván azért hozunk létre, mert használni szeretnénk valamire. Mivel ha csak egy elzárt szobában magában gondolkodik, az nem túl hasznos, ezért nyilván lesz valami kapcsolata a világgal, még ha eleinte közvetett is. Például az őt létrehozó emberek csak bizonyos adatokat osztanak meg vele, aztán az általa kiötölt dolgokat ezek az emberek megcselekszik a világban. Teszem azt, egy gazdasági célú MI-nek csak tőzsdei adatokat, meg gazdasági híreket adnak, és az ezekből az AI által kitalált tőzsdei tranzakciót végrehajtanak. Az AI, ha tényleg értelmes, tanulhat már a "gazdái" vagy "szülei" viselkedéséből is, ráveheti őket arra, hogy hát a gazdasággal a poltikai eseményeknek is kapcsolata van, szóval ha kap közéleti híreket is, még jobb lesz az előrejelzése. Ezekből tanulhat az emberi természetről, amit kihasználva tovább manipulálhatja a gazdáit, hogy hadd férjen hozzá az internethez is, mert a közösségi média elemzése alapján jobban tud jósolni gazdasági folyamatokat. Így információt szerez, tanul, fejlődik. És így tovább...
Ha lenne egy hatalmas értelmű, zseniális csigád, te is arra használnád, hogy valami hasznosat csináltass veled, viszont eközben ő is csináltad veled dolgokat. És ha te nem látod át, hogy amit veled műveltet, az mit fog eredményezni, könnyen csináltathat veled olyat, ami úgy tűnik, a te érdekedet szolgálja, de valójában az övét jobban szolgálja.
Ahhoz tudnám hasonlítani, mintha egy felnőttet tarta bezárva egy kisgyerek. Nyilván előbb-utóbb rá tudja szedni a fogvatartóját, hogy adjon vagy csináljon olyat, amivel kiszabadulhat. Például hiába tudja a kisgyerek, hogy a kulcsot nem szabad odaadni, ha azt viszont nem tudja, hogy egy kis acéldarabbal előbb-utóbb el lehet fűrészelni a vasrácsot, és ezért azt ad neki.
Nyilvan most itt AI ként nem az 5 réteges, 1000 neuronból álló neurális hálókra gondolok, az biztos nem fog fellázadni, de egy ténylegesen embéréhez hasonlóan komplex AI az más kategória. De egyébként az ilyen korlátozott neurális hálók használatával is van gyakorlati gond: nevezetesen az, hogy ha működnek is, sose lehetünk biztosak benne, hogy váratlan körülmények között is a kívánt kimenetet hozzák-e? Egy algoritmusnál konkrétan behatárolható, milyen bemenet mellet van helyes kimenet, egy neurális hálónál max reménykedhetünk, hogy volt valami hasonló bemenet a tanítási adatok között, és hogy hatása is volt a neurális hálóra. Azaz inkább csak statisztikai jellegű problémák megoldására alkalmas, egyedi problémánal sose lehetünk biztosak semmiben. Jelenleg szerintem most ez az aktuálisabb pribléma, pl. az önvezető autók esetében, ha van benne AI is, nem csak tisztán algoritmusalapú.
süti beállítások módosítása