A digitális korra felkészült Európa: a Bizottság új szabályokat és intézkedéseket javasol a kiválóságra és a bizalomra épülő mesterséges intelligencia terén

A Bizottság új szabályokat és intézkedéseket javasol annak érdekében, hogy Európa a megbízható mesterséges intelligencia (MI) globális központjává váljon. A mesterséges intelligenciára vonatkozó első jogi keret és a tagállamokkal összehangolt új terv együttesen garantálni fogja az emberek és a vállalkozások számára a biztonságot és az alapvető jogok érvényesülését, miközben Unió-szerte előmozdítja a mesterséges intelligencia térnyerését, a beruházásokat és az innovációt. A gépipari termékekre vonatkozó új szabályok oly módon egészítik ki ezt a megközelítést, hogy kiigazítják a biztonsági szabályokat annak érdekében, hogy a felhasználók nagyobb bizalommal viseltessenek a termékek új, sokoldalú generációja iránt.

A mesterséges intelligenciáról szóló új rendelet gondoskodni fog arról, hogy az európai emberek megbízzanak a mesterséges intelligencia kínálta lehetőségekben. A rendelet arányos és rugalmas szabályai kezelni fogják az MI-rendszerek által jelentett sajátos kockázatokat, és világszerte a legmagasabb szintű normákat fogják meghatározni. Az összehangolt terv felvázolja azokat a tagállami szintű szakpolitikai változtatásokat és beruházásokat, amelyek ahhoz szükségesek, hogy Európa vezető szerepet töltsön be az emberközpontú, fenntartható, biztonságos, inkluzív és megbízható mesterséges intelligencia fejlesztésében.

A megbízható mesterséges intelligencia európai megközelítése

Az új szabályokat a mesterséges intelligencia időtálló meghatározása alapján valamennyi tagállamban azonos módon, közvetlenül kell alkalmazni. A szabályok kockázatalapú megközelítésen alapulnak:

Elfogadhatatlan kockázat: Az olyan MI-rendszerek, amelyek egyértelműen veszélyeztetik az emberek biztonságát, megélhetését és jogait, be lesznek tiltva. Ide tartoznak az olyan MI-rendszerek vagy -alkalmazások, amelyek a felhasználók szabad akaratának megkerülése érdekében manipulálják az emberi viselkedést (pl. olyan játékok, amelyek hangasszisztens-szolgáltatások révén a kiskorúakat veszélyes viselkedésre ösztönzik) és olyan rendszerek, amelyek lehetővé teszik a kormányok általi „társadalmi pontozást”.

Magas kockázat: A magas kockázatúnak minősített MI-rendszerek közé tartoznak az alábbi területeken alkalmazott MI-technológiák:

• a kritikus infrastruktúrák (pl. közlekedés) területén alkalmazott MI-technológiák, amelyek veszélyeztethetik a polgárok életét és egészségét;
• az oktatás vagy szakképzés területén alkalmazott MI-technológiák, amelyek meghatározhatják az egyes személyek oktatáshoz és a szakmai képzéshez való hozzáférését (pl. vizsgák pontozása);
• egyes termékek biztonsági berendezései (pl. a robotsebészetben alkalmazott mesterségesintelligencia-alkalmazások);
• a foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés területén alkalmazott Mi-technológiák (pl. a munkaerő-felvételi eljárásokhoz használt önéletrajz-válogató szoftverek);
• alapvető magán- és közszolgáltatások (pl. hitelbesorolás, amely alapján a polgárok nem kaphatnak kölcsönt);
• a bűnüldözés területén egyes olyan tevékenységek, amelyek sérthetik az emberek alapvető jogait (pl. a bizonyítékok megbízhatóságának értékelése);
• migrációkezelés, menekültügy és határellenőrzés (pl. az úti okmányok valódiságának ellenőrzése);
• igazságszolgáltatás és demokratikus folyamatok (pl. a törvények konkrét tényállásra való alkalmazása).

A magas kockázatú MI-rendszerekre forgalomba hozataluk előtt szigorú kötelezettségek vonatkoznak majd:

• megfelelő kockázatértékelési és -csökkentési rendszereknek kell rendelkezésre állniuk;
• a kockázatok és a diszkriminatív eredmények minimalizálása érdekében a rendszer adatellátását biztosító adatkészleteknek kiváló minőségűeknek kell lenniük;
• az eredmények nyomon-követhetőségének biztosítása érdekében a tevékenységeket naplózni kell;
• részletes dokumentációnak kell rendelkezésre állnia, amely tartalmazza a rendszerrel és annak céljával kapcsolatban az összes olyan információt, amelyre a hatóságoknak szükségük van a rendszer megfelelőségének értékeléséhez;
• a felhasználókat egyértelműen és megfelelően tájékoztatni kell;
• megfelelő emberi felügyeleti intézkedésekre van szükség a kockázat minimalizálása érdekében;
• a rendszert nagy fokú megbízhatóság, biztonság és pontosság kell, hogy jellemezze.

Ezen belül az összes távoli biometrikus azonosító rendszer magas kockázatúnak minősül és szigorú követelmények hatálya alá tartozik. A nyilvánosan hozzáférhető helyeken történő, valós idejű, bűnüldözési célú felhasználásuk főszabály szerint tilos. Ez alól néhány szigorúan meghatározott, korlátozott és szabályozott kivétel van (például amikor eltűnt gyermek felkutatásához, konkrét és közvetlen terrorfenyegetés megelőzéséhez, vagy egy súlyos bűncselekmény elkövetőjének vagy gyanúsítottjának felderítéséhez, felkutatásához, azonosításához vagy büntetőeljárás alá vonásához az MI feltétlenül szükséges). Az ilyen felhasználást bírói vagy más független szervnek kell engedélyeznie, és az időtartam, a földrajzi hatókör és a lekérdezett adatbázisok tekintetében bizonyos korlátozások vonatkoznak rá.

Korlátozott kockázat, azaz egyedi átláthatósági kötelezettség alá tartozó MI-rendszerek: Az ilyen MI-rendszerek, például a csevegőrobotok használatakor a felhasználóknak tisztában kell lenniük azzal, hogy egy géppel kommunikálnak, és ezen információ alapján dönthetnek arról, hogy folytatják vagy abbahagyják az adott tevékenységet.

Minimális kockázat: A jogszabályjavaslat lehetővé teszi az olyan alkalmazások szabad használatát, mint a mesterséges intelligencián alapuló videojátékok vagy a spamszűrők. A mesterségesintelligencia-rendszerek túlnyomó többsége ebbe a kategóriába tartozik. A rendelettervezet itt nem avatkozik be, mivel ezek a mesterséges-intelligencia-rendszerek csak minimális kockázatot jelentenek a polgárok jogaira vagy biztonságára nézve.

Ami az irányítást illeti, a Bizottság azt javasolja, hogy az új szabályokat az illetékes nemzeti piacfelügyeleti hatóságok felügyeljék, a mesterséges intelligenciával foglalkozó európai testület létrehozása pedig meg fogja könnyíteni a szabályok végrehajtását, valamint ösztönözni fogja a mesterséges intelligenciára vonatkozó szabványok kidolgozását. Emellett a Bizottság a nem magas kockázatú mesterséges intelligenciára vonatkozóan önkéntes magatartási kódexek kidolgozását, a felelősségteljes innováció elősegítése érdekében pedig szabályozási tesztkörnyezetek kialakítását javasolja.

A kiválóságot középpontba helyező európai megközelítés a mesterséges intelligencia terén

A koordináció erősíteni fogja Európa vezető pozícióját az emberközpontú, fenntartható, biztonságos, inkluzív és megbízható mesterséges intelligencia terén. Ahhoz, hogy az EU világviszonylatban megőrizhesse versenyképességét, a Bizottság elkötelezett amellett, hogy valamennyi iparágban és valamennyi tagállamban előmozdítsa az innovációt a mesterséges-intelligencia-technológia fejlesztése és használata terén.

Az aktualizált koordinált terv megvalósítása során a Digitális Európa és a Horizon Europe programok, valamint a 20%-os digitális kiadási célt előirányzó Helyreállítási és Reziliencia-építési Eszköz és a kohéziós politikai programok keretében allokált forrásokat a következő célok érdekében fogják felhasználni:

• a mesterséges intelligencia fejlesztéséhez és elterjedéséhez szükséges feltételek megteremtése a szakpolitikai ismeretek cseréje, az adatok megosztása és a kritikus számítástechnikai kapacitásokba való beruházások révén;
• a mesterséges intelligencia terén a kiválóság előmozdítása „a laboratóriumtól a piacig”, egy köz- és magánszféra közötti partnerség létrehozásával, kutatási, fejlesztési és innovációs kapacitások kiépítésével és mozgósításával, valamint tesztelési és kísérleti létesítményeknek és digitális innovációs központoknak a kkv-k és közigazgatási szervek rendelkezésére bocsátásával;
• annak biztosítása, hogy a mesterséges intelligencia az emberek javát szolgálja és a társadalom szolgálatában álljon. Ennek érdekében a megbízható mesterséges intelligencia fejlesztése és alkalmazása terén az élvonalban kell lenni, a digitális területeken a szakmai gyakorlatok, doktori hálózatok és posztdoktori ösztöndíjak révén támogatni kell a tehetségeket és a készségek elsajátítását, a bizalmat a mesterséges intelligenciára vonatkozó szakpolitikák alapelemévé kell tenni, és világszerte elő kell mozdítani a fenntartható és megbízható mesterséges intelligencia európai jövőképét;
• stratégiai vezető szerep kialakítása a nagy hatású ágazatokban és technológiákban, ideértve a környezetvédelmet is, különös figyelmet fordítva a mesterséges intelligenciának a fenntartható termeléshez, valamint az olyan területekhez való hozzájárulására, mint az egészségügy (a határokon átnyúló információcsere kiterjesztésével), a közszféra, a mobilitás, a belügyek, a mezőgazdaság és a robotika.

A gépipari termékekkel kapcsolatos új európai megközelítés

A gépipari termékek a fogyasztói és professzionális termékek széles skáláját ölelik fel a robotoktól a fűnyírókon, a 3D nyomtatókon és az építőipari gépeken át az ipari gyártósorokig. A gépipari termékekről szóló irányelv, amelynek helyébe a gépipari termékekről szóló új rendelet lépett, a gépipari termékekre vonatkozóan egészségvédelmi és biztonsági követelményeket határozott meg. A gépipari termékekről szóló új rendelet biztosítani fogja, hogy a gépipari termékek új generációja garantálja a felhasználók és a fogyasztók biztonságát, és ösztönözze az innovációt. Míg a mesterséges intelligenciáról szóló rendelet az MI-rendszerek biztonsági kockázataival fog foglalkozni, a gépipari termékekről szóló rendelet az MI-rendszernek a gépekbe történő biztonságos integrálásáról gondoskodik majd. A vállalkozásoknak elég lesz egy megfelelőség-értékelést elvégezniük. 

Ezen túlmenően a gépipari termékekről szóló új rendelet reagál a piaci igényekre, és ennek részeként növeli a jelenlegi rendelkezések jogi egyértelműségét, a dokumentációk digitális formátumának lehetővé tételével és a kkv-k megfelelőség-értékelési díjainak kiigazításával csökkenti a vállalatok adminisztratív terheit és költségeit, ugyanakkor biztosítja a termékekre vonatkozó uniós jogi kerettel való összhangot.

Forrás és bővebb információ:

https://ec.europa.eu/commission/presscorner/detail/en/ip_21_1682