mero1.jpgNem kell félnünk a mesterséges intelligenciától (MI): kicsi a valószínűsége, de ha egyszer mégis öntudatra ébrednének a gépek – amely kedvenc alaphelyzete sok sci-finek – és az ember ellen is fordulnának, fogjuk tudni kezelni a helyzetet, mert addigra kiképezzük a megfelelő szakembereket. Az MI számos dologra képtelen, amely az ember lényege, és mindig is az lesz, ezért soha nem is cserélhetnek le minket a gépek. Viszont két dologban egészen biztos megváltoztatják majd viselkedésünket: megtanítanak kooperálni és megtalálni a kompromisszumokat. Mérő László volt vendégünk.


Digitális Európa

Mérő László matematikus és pszichológus professzor, aki sokáig kutatta az MI témakörét is, nem először volt vendégünk – őt mindig élvezet hallgatni. Ezúttal októberi témánkhoz, a digitális Európához kapcsolódva a mesterséges intelligenciáról, annak közeljövőbeli szerepéről, a gépek lehetséges öntudatra ébredéséről és veszélyeiről tartott előadást az Európa Pontban. Az EU új digitális stratégiája kiemelt hangsúlyt fektet az MI fejlesztésére és minél jobb kiaknázására. Célja, hogy – a megfelelő szabályozási keret kialakítása mellett – bizalmat ébresszen a polgárokban ezen technológiák alkalmazása iránt, a vállalkozásokat pedig ilyen megoldások kifejlesztésére ösztönözze.

Ugyanazt, csak mindig gyorsabban

Mérő László szerint a mesterséges intelligencia ma semmivel nem tud többet, mint negyven évvel ezelőtt, nincsen olyan algoritmus, amelynek ne lettek volna meg az alapjai már akkor. Illetve annyiban mégis többet tud, hogy a számítási kapacitás hihetetlenül megnőtt mára, a szoftverek eszméletlen gyorsasággal képesek dolgozni. Míg a nyolcvanas években egy sakkprogram még jóval kevesebb lépést tudott kiszámolni, mára tízmilliószoros sebességgel, másodpercenként képes számos döntést meghozni – és az aktuális sakkvilágbajnokot rendre elpáholni.

mero2.jpg

Nem éri meg gépekkel sakkozni, azaz bunyózni

Óriási szenzáció volt, mikor az MI a nyolcvanas években képes volt legyőzni a sakkvilágbajnokot, mára ezt meggyőző fölénnyel teszi. A legfejlettebb sakkprogramok öntanulással, elképesztő magabiztossággal képesek nyerni bárki ellen. Ugyanakkor érdekes, hogy az MI-t teljesen meghökkentő játékmód jellemzi a sakknál és több más logikai játéknál is. Látható: a gépnek fogalma nincs, mi a játék lényege, vagy miért tölt vele időt az ember – mégis képes fölénk kerekedni.

Mérő László szerint a sakk olyan, mint a bunyó, ahol különböző taktikákkal küzd a cselgáncsozó, a birkózó és a bokszoló: nincs optimális verekedési mód. Az emberi játékosok erőt merítenek abból, hogy pofonokat kapnak (reziliensek). De éppen ez mutat rá, hogy egy géppel nem érdemes kiállni sakkozni, vagyis bunyózni, hisz a robot nem is érzi, hogy pofonokat kap. És mi értelme van olyannal küzdeni, akinek nem fáj a pofon…

„Lágy” tudomány a „kemény” útjában

A mesterséges intelligencia, az erre épülő megoldások már ma is átszövik mindennapjainkat elég, ha csak a nyelvi fordítóprogramokra, a minden korábbinál fejlettebb orvosdiagnosztikai megoldásokra, a különböző (rész)feladatokat ellátó robotok vagy az autók biztonságát növelő MI‑fejlesztésekre gondolunk. A technológiai háttér már meglenne ahhoz is, hogy akár önvezető autókkal közlekedjünk: ugyanakkor a felelősség kérdésének tisztázatlansága, a megfelelő jogi háttér hiánya egyelőre akadályozza, hogy ez a technológia valóban elterjedjen. Ameddig az önvezető autókat kisérő fontos jogi és etikai kérdések (például ki a felelős egy önvezető autó által okozott halálesetért) megválaszolását nem övezi egyetértés, addig maradnak a sci-fik világában ezek a maguktól guruló csodák.

Mérő László kiemelte: nem ez az első eset, hogy a „puhább” tudomány (soft science) fejletlensége akadályozza a „keményebb” tudomány (hard science) valamely vívmányának elterjedését. Az ipari forradalmat nem az 1699-es Denis Papin-féle dugattyús gőzgép feltalálásához kötjük, hanem James Watt 1769-es gőzgépéhez. Ennek oka az, hogy Papin korában a domináns cégforma és a hozzá tartozó korlátlan jogi felelősség visszafogta a gyárosokat a komolyabb kísérletektől. Egy felrobbanó gőzgép következményeivel senki nem akart akkor számolni, a Watt korában már létező korlátolt felelősségű gazdasági társulásoknak viszont már vállalható kockázatot jelentett.

Nem félünk az MI-től, nem bánt az

Mérő László nem fél a gépektől, vagy attól, hogy azok egyszer öntudatukra ébredve az ember ellen fordulnak. Egy gép mindig gép marad, hisz csak azt teszi, amit feladatul szabtak neki. Nem fogja soha elbűvölni egy vers, egy csodálatos szobor, és olyan ösztönző varázsszavakat sem képes alkotni, mint az ember. Sosem fogja azt mondani az önvezető autó, hogy nem visz el oda, ahova mennék, mert nincs kedve. Ez az ember kiváltsága.

Ugyanakkor nem tartja kizártnak, hogy egyszer ez mégis bekövetkezik, de szerinte akkorra lesznek képzések, és olyan szakemberek, akik tudni fogják, hogy egy esetleg indokolatlanul öntudatra ébredt géppel mit kell tenni. Ahogy harminc éve sem ismertük a jelenleg legkeresettebb szakmákat, úgy, mire (ha egyáltalán) ez a probléma felmerül, meglesz rá a megoldás.

Attól sem kell tartani, hogy az MI fejlődése, a digitalizálódás elveszi az emberek munkáját. 1870-ben az USA munkaerejének még közel fele dolgozott a mezőgazdaságban, 1970-ben ez az arány már csak 2% volt. Persze, drámai változás, de nem vált mindenki munkanélkülivé, csak az átalakulásokkövetkeztében más munkájuk lett. Emellett az MI is sok munkahelyet teremt, és egészen újtípusú munkahelyek is létre fognak jönni.

 



Száll a kakukk fészkére

Fontos kérdés, hogyan fogjuk használni ezt a nálunk sok szempontból jóval okosabb eszközt. Mérő erre filmes analógiát hozott: Miloš Forman akkor tudott igazán berobbanni Hollywoodba, amikor már készre vágott filmjét a próbavetítés alatti fókuszteszt-jelentés eredményei alapján alaposan újravágta. A fókusztesztben szűk – de a nagyközönséget lemodellező – nézőkörnek mutatják be először az új filmet, és az ő érzelmi reakcióikat figyelik, majd pszichológusokkal kielemzik. Forman előtte is elismert rendező volt, de az újravágott Száll a kakukk fészkére filmtörténelmet írt.

Mérő szerint úgy érdemes majd alkalmazni a MI-t, ahogy Forman a fókuszteszt eredményét használta: azokban a részletekben hagyjuk dolgozni, amelyekhez igazán ért. A nagy feladatok megmaradnak az ember kezében – ahogy Formannak sem csorbult az igazítástól művészi autonómiája –, ahol azonban egy gép jobb eredményekre képes nálunk, ott érdemes átengednünk neki a terepet. Bár az MI nyilvánvalóan nem érti, mitől működik jól egy film, de részleteiben ki tud elemezni szituációkat, adott esetben sokkal jobban, mint egy ember.

Kooperáció és kompromisszum: tanítanak a gépek

Mindezek alapján Mérő szerint az MI két jelentős változást hoz majd az emberi viselkedésbe. Egyrészt segíteni fogja a kommunikációt és a kooperációt: meg fogunk tanulni kommunikálni olyanokkal, akikkel nagyon nem értünk egyet, vagy akiket nem igazán értünk. Az MI rámutat, hogy nem is értenünk kell egymást, elég, ha együtt tudunk működni.

A másik, amit megtanulunk: hogyan kössünk kompromisszumot. Bár az MI nem tudja megmondani, kinek van igaza, de azt meg tudja mutatni, hogy ha valamilyen elvet követünk, akkor annak milyen következménye lesz a világban. Ebben az esetben már nem elvekről, meggyőződésekről, hitekről, hanem szcenáriókról kell dönteni – és ez mindig barátságosabb, mint egymással szembenálló, bemerevedett elvekről véleményt mondani.

A 2020. október 27-i előadás és beszélgetés felvétele megnézhető Facebook oldalunkon.

-----
Az Európa Pont az Európai Bizottság és Európai Parlament információs és kulturális központja a budapesti Millenáris Parkban. Az európai kultúra házaként
tájékoztat, szórakoztat, közösségi térként beszélgetéseknek ad teret, embereket hoz össze európai témákhoz és kultúrákhoz kapcsolódóan.

Olvasd el többi bejegyzésünk, iratkozz fel hírlevelünkre, kövess minket a Facebookon és gyere el ingyenes programjainkra!

A bejegyzés trackback címe:

https://europapont.blog.hu/api/trackback/id/tr8416268742

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Alick 2020.11.01. 21:11:18

"Míg a nyolcvanas években egy sakkprogram még jóval kevesebb lépést tudott kiszámolni, mára tízmilliószoros sebességgel, másodpercenként képes számos döntést meghozni – és az aktuális sakkvilágbajnokot rendre elpáholni."

Ez önmagában igaz, de a teljes képhez tartozik, hogy az AlphaZero az általa legyőzött kommersz sakkprogramokhoz képest sokkal kevesebb lépést számolt, másrészt nem sakkprogramozói koncepciók alapján játszott, hanem majdnem tisztán öntanulással érte el a játékerejét.
Ez azért jelentős különbség.

"...amikor az MI a nyolcvanas években képes volt legyőzni a sakkvilágbajnokot."

1997 - Kaszparov-Deep Blue

miklos_1 2020.11.01. 23:09:04

Honnan a faszomból értene Mérő a mesterséges intelligenciához?! Semmihez nem ért, de ebből még ecserin vett diplomája sincsen.

miklos_1 2020.11.01. 23:22:42

"Mérő László szerint a mesterséges intelligencia ma semmivel nem tud többet, mint negyven évvel ezelőtt, nincsen olyan algoritmus, amelynek ne lettek volna meg az alapjai már akkor. "

SVM nem volt. Egyes, helyedre! Persze az, hogy már az ókori görögök is tudtak számokat összeadni, az nem ér.

G.R.Reventlov 2020.11.02. 08:53:59

Nos, ha ez a cikk összefoglalta Mérő professzor úr mondanivalóját a témában, akkor tény: a lényegről semmit nem mondott, jó eséllyel azért, mert nem is tud róla. Ez elég egyértelmű az egyébként közérthető és kedvelt érvrendszer alapján. Mintha a flogiszton elméletre alapuló előadást tartana a Saturn V F1 hajtóműről.

wmiki · http://kigondoltam.blog.hu/2014/07/20/stephen_hawking_538 2020.11.02. 10:10:02

LOL
egy evolúció hívő a mesterséges intelligenciáról... elvégre ők mindenhez IS értenek...
Nézzük a MI fejlődését a gyakorlatban:
1960: a robot megy a fal mellett és kikerüli az akadályokat
1970: a robot megy a fal mellett és kikerüli az akadályokat
1980: a robot megy a fal mellett és kikerüli az akadályokat
1990: a robot megy a fal mellett és kikerüli az akadályokat
2000: a robot megy a fal mellett és kikerüli az akadályokat
2010: a robot megy a fal mellett és kikerüli az akadályokat
2020: a robot megy a fal mellett és kikerüli az akadályokat

Valóban már nagyon közel járunk...

wmiki · http://kigondoltam.blog.hu/2014/07/20/stephen_hawking_538 2020.11.02. 10:11:56

@wmiki: na jó a Tesla robotja néha nekimegy az akadályoknak, de már tényleg csak egy keveset kell aludni a tökéletes MIhez... ;)

Amúgy nem:
MI-t soha nem fog létrehozni a tévedhetetlen, szent tudomány, mivel a kreativitás nem algoritmizálható

Lord_Valdez · http://liberatorium.blog.hu/ 2020.11.02. 12:20:06

Nem az MI-től kell félni, hanem a hatalomtól. Egy MI, legyen bármilyen intelligens is, hatalom nélkül ártalmatlan. Egy offline kenyérpirító soha nem fogja átvenni a világuralmat, max. leégeti a konyhádat.
Egy hatalom, akár emberi, akár gépi, akár totál idióta viszont veszélyes.

@miklos_1:
Az SVM algoritmust 1963-ban mutatták be.

ben2 2020.11.02. 12:43:30

@miklos_1:

"Honnan a faszomból értene Mérő a mesterséges intelligenciához?!"

Mondjuk mert a 80-as évek óta kutatja?

"Semmihez nem ért, de ebből még ecserin vett diplomája sincsen. "

Az egyszeri fikahuszár kiosztja Mérő Lászlót. A nap poénja.
Gratulálok, mehetsz a napiszar.hu-ra hányni az epét.

Orbánék Moszkva fele menekülnek! 2020.11.02. 12:52:49

@ben2: még ha egyszeri fikahuszár lenne, de ha nem tévedek, ő Brendel Mátyás főállású spammer troll, ateista és DK aktivista.

steery 2020.11.02. 14:12:09

Majd jusson eszetekbe ez a cikk, amikor megjelennek az első általános, erős mesterséges intelligenciák. És akkor jót fogunk röhögni az egészen, hogy mennyire elavultak voltak az emberi feltételezések a géplényekről és a hatásaikról.

rabelais · nacifacebook.blog.hu 2020.11.02. 14:19:16

@wmiki: Mérő nem feltétlenül ért mindenhez is, de nálad majdnem mindenki jobban ért mindenhez is.

Te a blog.hu egyik híres idiótája vagy.

Az MI jelenlegi állása kb. ilyenek:

1) sokkal több nyelvből tud jobban fordítani más nyelvekre, mint a legtehetségesebb fordító ember

2) kép-osztályozásban igazoltan jobb, mint az emberek

3) megveri a go és sakk világbajnokokat, de simán

4) deep fake képekkel és videókkal átvágja az embereket, téged is

5) lényegében sosem tudhatod, hogy interneten egy hozzád hasonlóan sültbolond emberrel chatelsz-e, vagy MI-vel. terád például elég triviális volna betanítani egy MI-t, amely pontosan tudná utánozni a bugyuta rögeszméidet.

rabelais · nacifacebook.blog.hu 2020.11.02. 14:20:29

@wmiki: " a kreativitás nem algoritmizálható"

dehogynem. nem mintha te tudnád, hogy mi a kreativitás, nagyon uncsin vagy hülye.

rabelais · nacifacebook.blog.hu 2020.11.02. 14:52:13

@ben2: "Mondjuk mert a 80-as évek óta kutatja?"

a 80-as években volt 1 cikke olyan témáról, ami ma már kurvára meghaladott, mint MI.

ettől nem fog érteni hozzá.

P1sty 2020.11.02. 15:45:52

Minden tiszteleem Mérőé, de szerintem túlzottan optimista az AI kérdésben. Eleve a kutatás távlati célja egy emberihez hasonló, de azt meghaladó értelem kifejlesztése, tudniillik ez lenne igazán hasznos dolog. Márpedig kicsit elrugaszkodva, filozófiai értelemben egy embernél intelligensebb entitással szemben az embernek nyilvánvalóan nincs esélye, hiszen képtelen felfogni, megérteni a gondolatmenetét, ezért könnyedén megtévesztheti az embert. Olyan lenne, mintha egy 4 éves kisgyerek próbálna meg túljárni egy felnőt eszén.
Szerintem alapvetően hibás gondolat a jelenlegi, nem gondolkodó, csak mintafelsimerő AI-ból kiindulni, hogy az emberi tudat az valamiféle gép számára elérhetetlen dolog. Elég elterjedt nézet az, hogy a tudat csak a komplexitásból adódik, azaz egy az emberi agyhoz hasonló számú elemből felépülő rendszer bármiféle különösebb tervezés vagy szándék nélkül is valami hasonlót fog produkálni. Elég abból kindulni, hogy az ember is csak egy biológiai gép, sőt, hogy a tudat mint olyan nem is létezik, csak az agy mint gép működésének a "mellékterméke", és nem célja. Például kisérletekkel bizonyított, hogy a döntéseink már előbb megszületnek, mint ahogy azt mi tudatosan eldöntenénk, vagy az, hogy pl. egy agyi stimulációval kiváltott mozdulatot az alany úgy érzékel, mintha az a saját akaratlagos mozgása lenne, nem pedig egy külső behatás eredménye.
Márpedig ha így van, akkor elég csak egy elég nagy elemszámú rendszer az emberi tudat eléréséhez, vagy meghaladásához. Ez pedig nincs távol, ha a számítási kapacitás a jelenlegi ütemben fejlődik, akár 20 éven belül molekulaszinten modellezhető egy emberi agy, azaz nem csak az idegsejtek és kapcsolataik, hanem még a szinapszisok és a neurotranszmitterek is. És ha tényleg igaz, hogy az ember csak biológiai gép, akor egy ilyen "virtuális agy" az meberéhez hasonló lesz minden szempontból, beleértve a gondolkodást is, tovább növelve a komplexitását pedig meg is haladhatja.

P1sty 2020.11.02. 16:07:55

@Lord_Valdez:
Egy kenyérpirítóba nem lesz AI, mert nem lenne értelme. Nyilván csak olyan célra fogják használni, ahol hasznos az emberi értelem meghaladása, ott viszont ha ténykeg értelmes, első dolga lesz nélkülözhetetlenné tenni magát, plusz a hasznossága mellett a "saját" céljait is megvalósítani. Pl. egy gazdasági tevezésre létrehozott MI könnyen hozhatja magát abba a helyzetbe, hogy túl drága lenne kikapcsolni, mivel az emberek képtelenek lennének az általuk már átláthatatlan (de jóval hatékonyabb, es ezért hasznos) gazdasági rendszert fenntartani. Ezután az MI már fordíthatná az erőforrásai egy részét arra, hogy a "saját" céljait kezdje elérni, mondjuk tanulmányozni az emberi viselkedést, annak befolyásolását. Ezt pedig mi már nem érzékelnénk, hiszen az MI lényege pont az, hogy nem tudjuk, miért csinálja, amit csinál, de jól csinálja. Ha tudnánk, mi is képesek lennénk rá. Ha esetleg képesek is lennénk "kérdőre vonni", hogy mit miért csinál, akkor is tudna olyan álmagyarazatot adni, amin mi nem látunk át. (Kb olyan lenne, mint amikor egy kisgyerek megkérdezi, hogy működik a számítógép.) Ezután pedig könnyen ráveheti már az embert arra, hogy olyat csináljon, amivel a saját képeségeit fejleszti, például hogy többféle információhoz férhessen hozzá, vagy hogy fejleszthesse saját magát, vagy mondjuk átvehesse egy ipar irányítását, ami aztán olyan dolgokat termel, amiknek a működését mi mar nem értjük, de hasznosnak tűnik, de neki még hasznosabb.

Maxval nem birca 2020.11.02. 16:55:26

Faszom tudja, mi az az MI...
Mindenesetre most kicserélem a látó receptoraimat, mert az előbb az ajtófélfába bebasztam a fejem és néhány receptorom összetört! A térdhajlatomból meg kifolyt az olaj, fémesen súrlódik, kurvára idegesít !

josef_1 2020.11.02. 17:06:04

@Lord_Valdez: de mondjuk teszek egy pontosítást, hogy ne jöhess ilyen csúsztatásokkal: a nem-lineáris SVM kernel módszerrel. mert ugye ez az, ami fontos.

Lord_Valdez · http://liberatorium.blog.hu/ 2020.11.02. 18:08:20

@P1sty:
Mesterséges intelligenciákat nagyon sok piszlicsáré dologra is használunk pl. processzor teljesítményoptimalizálás. Semmi nem zárja ki, hogy ha kellően olcsóvá válik, akkor ne kerülhetne egy kenyérpirítóba is.

A gépeket szokás modellezni úgy, mint szenzor-logika-aktuátor (beavatkozó) hármasság.
A példázat célja az volt felhívjam a figyelmet arra, hogy nem a logika minősége az igazán fontos, hanem az aktuátoré.
A legerősebb logika se ér semmit megfelelő aktuátorok nélkül. Ha elképzelsz egy csigát, ami valami rejtélyes módon elérte a megvilágosodást és mindent ért a világon, mekkora veszélyt jelent? Semekkorát. Hiába ért mindent és mindenhez és intelligensebb, mint Einstein, Newton, Nietzsche stb. együtt, de semmilyen értelmes kimenetet nem képes produkálni. Úgy fog elpusztulni, hogy soha senki nem szerez tudomást a zsenialitásáról. Ezzel szemben építek egy gigantikus atombombát, aminek ugyan semmilyen intelligenciája nincs, de egy elég egy (egyébként minden intelligenciát nélkülöző) műszaki hiba és elpusztítja az egész földi életet.
Tehát nem az intelligencia a kérdés, hanem hogy milyen aktuátorokhoz fér hozzá.

A te példádban is ez van. Nem attól lesz veszélyes, hogy nagyon intelligens, hanem nagyon sok mindenhez fér hozzá. Egy gazdaságot irányító MI egyértelműen veszélyt jelent, de nem az intelligenciája miatt, hanem mert embermilliók életének minden szegmensébe be tud avatkozni (az mellékes, hogy embereken keresztül teszi-e, vagy sem). Lehetne ez akár egy rém buta algoritmus is, vagy akár emberekből álló bizottság, semmivel se lenne kevésbé veszélyes, maximum jobban átlátható.

P1sty 2020.11.02. 19:30:14

@Lord_Valdez:
Sejtettem, hogy ezt fogod válaszolni, de nem akartam hosszabban kommentelni, így is litániát írtam.
Nos egy értelmes mesterseges intelligenciát nyilván azért hozunk létre, mert használni szeretnénk valamire. Mivel ha csak egy elzárt szobában magában gondolkodik, az nem túl hasznos, ezért nyilván lesz valami kapcsolata a világgal, még ha eleinte közvetett is. Például az őt létrehozó emberek csak bizonyos adatokat osztanak meg vele, aztán az általa kiötölt dolgokat ezek az emberek megcselekszik a világban. Teszem azt, egy gazdasági célú MI-nek csak tőzsdei adatokat, meg gazdasági híreket adnak, és az ezekből az AI által kitalált tőzsdei tranzakciót végrehajtanak. Az AI, ha tényleg értelmes, tanulhat már a "gazdái" vagy "szülei" viselkedéséből is, ráveheti őket arra, hogy hát a gazdasággal a poltikai eseményeknek is kapcsolata van, szóval ha kap közéleti híreket is, még jobb lesz az előrejelzése. Ezekből tanulhat az emberi természetről, amit kihasználva tovább manipulálhatja a gazdáit, hogy hadd férjen hozzá az internethez is, mert a közösségi média elemzése alapján jobban tud jósolni gazdasági folyamatokat. Így információt szerez, tanul, fejlődik. És így tovább...
Ha lenne egy hatalmas értelmű, zseniális csigád, te is arra használnád, hogy valami hasznosat csináltass veled, viszont eközben ő is csináltad veled dolgokat. És ha te nem látod át, hogy amit veled műveltet, az mit fog eredményezni, könnyen csináltathat veled olyat, ami úgy tűnik, a te érdekedet szolgálja, de valójában az övét jobban szolgálja.
Ahhoz tudnám hasonlítani, mintha egy felnőttet tarta bezárva egy kisgyerek. Nyilván előbb-utóbb rá tudja szedni a fogvatartóját, hogy adjon vagy csináljon olyat, amivel kiszabadulhat. Például hiába tudja a kisgyerek, hogy a kulcsot nem szabad odaadni, ha azt viszont nem tudja, hogy egy kis acéldarabbal előbb-utóbb el lehet fűrészelni a vasrácsot, és ezért azt ad neki.
Nyilvan most itt AI ként nem az 5 réteges, 1000 neuronból álló neurális hálókra gondolok, az biztos nem fog fellázadni, de egy ténylegesen embéréhez hasonlóan komplex AI az más kategória. De egyébként az ilyen korlátozott neurális hálók használatával is van gyakorlati gond: nevezetesen az, hogy ha működnek is, sose lehetünk biztosak benne, hogy váratlan körülmények között is a kívánt kimenetet hozzák-e? Egy algoritmusnál konkrétan behatárolható, milyen bemenet mellet van helyes kimenet, egy neurális hálónál max reménykedhetünk, hogy volt valami hasonló bemenet a tanítási adatok között, és hogy hatása is volt a neurális hálóra. Azaz inkább csak statisztikai jellegű problémák megoldására alkalmas, egyedi problémánal sose lehetünk biztosak semmiben. Jelenleg szerintem most ez az aktuálisabb pribléma, pl. az önvezető autók esetében, ha van benne AI is, nem csak tisztán algoritmusalapú.

Lord_Valdez · http://liberatorium.blog.hu/ 2020.11.02. 21:27:49

@P1sty:
Nyilván szeretnénk használni valamire, de nagyon nem mindegy, hogy mire használjuk. Az ő veszélyessége sokkal inkább fog függni attól, hogy mikkel áll kapcsolatban, mint azzal, hogy mennyire intelligens.
Az való igaz, hogy az ember is egy potenciális aktuátor, de ez nem változtat azon, hogy az aktuátor teszi veszélyessé.
A csiga hangképző szervek hiányában nem tud interfészelni velem, ezért nem tud manipulálni sem. A legkreatívabb dolog, amit tehet, hogy rajzol a nyálkával...

Személy szerint szkeptikus vagyok a neurális hálók univerzális alkalmazását illetően, pont azért, amit említesz. Mert kiszámíthatatlan. Többek közt azért szeretjük automatizálni a dolgokat, hogy kiváltsuk vele az emberi tényező által bevitt bizonytalanságot. Sok évtizede ismerjük és van számos alkalmazás, ahova a számítás kapacitás is már lehetővé tette volna, csak nem mertük.
Vonzónak tűnik az NN hatékonysága, de amikor szembesülünk azzal, hogy egy ismeretlen helyzetben semmivel se viselkedik racionálisabban, mint egy ember, az igen kiábrándító tud lenni.
Azt gyanítom egyébként, hogy az NN-nel hasonló problémák fognak fellépni, mint a szakértői rendszerekkel. Minél többet tanítasz meg neki, annál okosabb. Egy pontig. A felett viszont csak egyre szeszélyesebb. Úgy képzelem el, hogy az NN is egy bizonyos ismeretmennyiség felett lényegében elmebeteg lesz.
Ezt a teóriámat erősíti, hogy az embereknél is megfigyelték, hogy a nagyon magas intelligenciájú embernél lényegesen gyakoribbak bizonyos mentális betegségek, bár az közel se biztos, hogy egy gépnél ugyanazon a szinten kezdődnek el majd az anomáliák.

G.R.Reventlov 2020.11.02. 21:47:19

Persze, tudom hogy csak magammal beszélgetek, de ha már találtam egész igényes magyar fordítást, ideteszem a linket. Az én fogalmaim szerint ezzel az írással kezdődik a modern informatika elfelejtett története, amely egyébként sokkal izgalmasabb, mint a közismert, felszínes techno-mesék és pop-science.

artpool.hu/hypermedia/bush.html
süti beállítások módosítása