Kép- és szöveggenerálás, arcfelismerés, gépi fordítás, önvezetés, okosotthonok: a mesterséges intelligencia az elmúlt években robbant be az életünkbe – vagy legalábbis így érezhető –, és az útnak még csak az elején vagyunk. Az EU létrehozta a világ első átfogó jogszabályát, amely szabályozni igyekszik a mesterséges intelligenciát. Nézzük meg, miről szól az augusztus 1-jén hatályba lépett EU AI ACT!
A mesterséges intelligencia (MI) lényegében olyan rendszer, amely emberi beavatkozás nélkül képes tanulni, önmagát fejleszteni. Használata számos előnnyel járhat a jobb egészségügyi ellátástól a biztonságosabb és tisztább közlekedésen, hatékonyabb gyártáson keresztül az olcsóbb és fenntarthatóbb energiáig (egy korábbi beszélgetésünkön többek közt Vályi Istvánnal vizsgáltuk az MI által meghatározott autózás jövőjét).
Az EU – digitális stratégiája részeként – szabályozni kívánja a mesterséges intelligenciát annak érdekében, hogy jobb feltételeket biztosítson fejlesztéséhez és használatához, illetve csökkentse potenciális kockázatait. Az Európai Bizottság még 2021-ben tett javaslatot a szabályozásra, amelyet az EU Tanácsa és az Európai Parlament jóváhagyása után 2024. augusztus 1. napján lépett hatályba.
A rendelet a MI-rendszereket aszerint elemzi és osztályozza, hogy azok milyen kockázatot jelentenek a felhasználókra nézve: a nagyobb egyéni társadalmi kockázattal járó megoldásokra értelemszerűen szigorúbb szabályok vonatkoznak.
Az elfogadhatatlan kockázatú rendszerek veszélyt jelentenek az emberekre, ezek használata – a bűnüldözés egyes eseteinek kivételével – tilos. Ide tartoznak például az emberek sebezhetőségét kihasználó manipulációs és tudatalatti technikák, illetve az embereket viselkedés, társadalmi-gazdasági státusz vagy személyes jellemzők alapján osztályozó szociális pontozás (social scoring). Tilos az érzelemfelismerés a munkahelyeken és oktatási intézményekben, kivéve, ha az orvosi vagy biztonsági okokból történik (például a pilóták fáradtságszintjének ellenőrzése). Szintén tiltott a biometrikus azonosításon alapuló kategorizálás, a profilalkotáson alapuló egyéni prediktív rendőri tevékenység is.
A rendelet magas kockázatúként minősíti azokat az MI-rendszereket, amelyek az emberek egészséget, biztonságát vagy alapvető jogait negatívan befolyásolják. Ilyenek például azok, amelyek profilozással felmérik, hogy valaki részesülhet-e bizonyos orvosi kezelésben, megkaphat-e egy állást vagy lakásvásárlási kölcsönt. Ide tartoznak a rendőrség által profilalkotására vagy bűncselekmény kockázatának felmérésére használt rendszerek, illetve az összes biometrikus azonosításra, kategorizálásra és érzelemfelismerésre használt rendszer (kivéve, ha nem tartoznak az előző, elfogadhatatlan kockázatú kategóriába). Magas kockázatúnak minősül emellett a robotokat, drónokat vagy orvosi eszközöket működtető mesterséges intelligencia is. Ezeket a megoldásokat forgalomba hozatal előtt és az életciklusuk során is értékelni kell, és az embereknek jogukban áll majd panaszt tenni az erre kijelölt nemzeti hatóságoknál.
Fotó: ismagilov, iStockphoto
Az átláthatósági kockázatot jelentő kategóriába azok a rendszerek tartoznak, amelyek esetében fennáll a manipuláció vagy a hamisítás lehetősége: ide tartoznak a chatbotok és a deepfake tartalom előállítására alkalmas programok. Ezekben az esetekben jogunk van tudni, hogy az adott tartalmat mesterséges intelligencia hozta létre – azaz például azt, hogy épp egy géppel beszélgetünk. A modell nem hozhat létre illegális tartalmat, és közzé kell tenni a tanítása során felhasznált szerzői joggal védett tartalmak összefoglalóit.
A kategórián belül külön figyelmet kapnak az általános célú, nagy méretű generatív MI-modellek is, amelyek az EU-ban számos mesterségesintelligencia-rendszer alapjául szolgálnak, emiatt rendszerszintű kockázatot is jelenthetnek. Jelenleg az olyan általános célú MI-modellek tartoznak ide, amelyeket 1025 Flopnál nagyobb teljes számítási teljesítményt használva képeztek ki (a Flopról a legnagyobb szuperszámítógépekről szóló posztunkban írtunk bővebben). A Bizottság a technológiai fejlődés fényében frissítheti a küszöbértéket, vagy kiegészítheti további kritériumokkal (például a felhasználók számával vagy a modell autonómiájának mértékével). Ezekre a modellekre különleges átláthatósági követelmények vonatkoznak: alapos értékelésnek kell alávetni őket, és minden súlyos incidenst jelenteni kell az Európai Bizottságnak.
A minimális kockázatú MI-rendszerek például az MI megoldást használó ajánlórendszerek, spamszűrők vagy videójátékok. Ezek fejlesztésére és használatára – a hatályos jogszabályokon kívül – nem vonatkoznak speciális jogi kötelezettségek. Az ilyen rendszerek szolgáltatói önkéntesen alkalmazhatják a megbízható mesterséges intelligenciára vonatkozó követelményeket, és önkéntes magatartási kódexekhez is csatlakozhatnak.
Fotó: ismagilov, iStockphoto
A rendelet féléves határidőt ad (2025. február 1-jéig) az MI-t alkalmazó vagy szolgáltató cégeknek, hogy felmérjék, a megoldások közül melyik minősül az AI ACT szerint tiltott rendszernek – ezek használatát, fejlesztését és forgalmazását meg kell szüntetni. Emellett képzésekkel jártasságot kell biztosítani a cég munkatársainak, hogy megismerjék az MI lehetőségeit, kockázatait és az általuk okozható károkat.
Az EU célja persze nemcsak a szabályozás, hanem a mesterséges intelligenciával kapcsolatos beruházások és innováció előmozdítása is. A rendelet így további rendelkezéseket tartalmaz az innováció támogatására, és szorosan összefügg többek között az EU mesterséges intelligenciáról szóló összehangolt tervével, amelynek célja, hogy felgyorsítsa a kapcsolódó beruházásokat Európában.
Borítókép: cyano66, iStockphoto
---
Az Európa Pont az Európai Bizottság és Európai Parlament információs és kulturális központja a budapesti Millenáris Parkban. Az európai kultúra házaként tájékoztat, szórakoztat, közösségi térként beszélgetéseknek ad teret, embereket hoz össze európai témákhoz és kultúrákhoz kapcsolódóan.
Olvasd el többi bejegyzésünk, iratkozz fel hírlevelünkre, hallgasd a podcastunkat, kövess minket a Facebookon és az Európai Bizottság Magyarországi Képviselete YouTube csatornáján és gyere el ingyenes programjainkra, vagy, ha nem lehetséges a személyes jelenlét, kövesd őket online!
Ajánlott bejegyzések:
A bejegyzés trackback címe:
Kommentek:
A hozzászólások a vonatkozó jogszabályok értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a Felhasználási feltételekben és az adatvédelmi tájékoztatóban.