Až v 2026 nadobudne účinnosť Európsky zákon o umelej inteligencii

Európsky  zákon o umelej inteligencii (AI Act) , prvý komplexný predpis o umelej inteligencii na svete, vstúpil do platnosti. Zákon o umelej inteligencii je navrhnutý tak, aby zabezpečil, že umelá inteligencia vyvinutá a používaná v EÚ bude dôveryhodná a bude obsahovať záruky na ochranu základných práv ľudí. Cieľom nariadenia je vytvoriť harmonizovaný vnútorný trh pre umelú inteligenciu v EÚ, podporovať zavádzanie tejto technológie a vytvárať podporné prostredie pre inovácie a investície.

Zákon o umelej inteligencii zavádza perspektívnu definíciu umelej inteligencie založenú na prístupe založenom na bezpečnosti produktov a riziku v EÚ:

• Minimálne riziko : Väčšina systémov AI, ako sú napríklad systémy odporúčaní s podporou AI a filtre nevyžiadanej pošty, patrí do tejto kategórie. Tieto systémy nemajú žiadne povinnosti podľa zákona o AI z dôvodu ich minimálneho rizika pre práva a bezpečnosť občanov.  Spoločnosti môžu dobrovoľne prijať dodatočné kódexy správania .
  .
• Špecifické riziko transparentnosti : Systémy umelej inteligencie, ako sú chatboty,  musia používateľom jasne oznámiť, že interagujú so strojom . Určitý obsah generovaný AI, vrátane falzifikátov, musí byť takto označený a používatelia musia byť informovaní, keď sa používajú systémy biometrickej kategorizácie alebo rozpoznávania emócií. Okrem toho budú musieť poskytovatelia navrhnúť systémy tak, aby syntetický obsah zvuku, videa, textu a obrázkov bol označený v strojovo čitateľnom formáte a aby bolo možné zistiť, či sú umelo vytvorené alebo spracované.
  .
• Vysoké riziko:  Systémy umelej inteligencie označené ako vysokorizikové budú musieť spĺňať  prísne požiadavky vrátane systémov na zmiernenie rizika, vysokej kvality súborov údajov, zaznamenávania aktivít, podrobnej dokumentácie, jasných informácií o používateľovi, ľudského dohľadu a vysokej úrovne robustnosť, presnosť a kybernetická bezpečnosť. Regulačné karantény uľahčia zodpovedné inovácie a vývoj vyhovujúcich systémov AI. Medzi takéto vysokorizikové systémy umelej inteligencie patria napríklad systémy umelej inteligencie používané na nábor zamestnancov alebo na posúdenie, či má niekto nárok na pôžičku, alebo na prevádzkovanie autonómnych robotov.
  .
• Neprijateľné riziko:  Systémy umelej inteligencie považované za jasnú hrozbu pre základné práva ľudí budú  zakázané . Patria sem systémy alebo aplikácie umelej inteligencie, ktoré manipulujú s ľudským správaním s cieľom obísť slobodnú vôľu používateľov, ako sú napríklad hračky využívajúce hlasovú asistenciu na podporu nebezpečného správania neplnoletých, systémy umožňujúce „sociálne hodnotenie“ zo strany vlád alebo spoločností a určité aplikácie prediktívnej polície. Okrem toho bude zakázané niektoré používanie biometrických systémov, napríklad systémy na rozpoznávanie emócií používané na pracovisku a niektoré systémy na kategorizáciu ľudí alebo biometrickú identifikáciu na diaľku v reálnom čase na účely presadzovania práva vo verejne prístupných priestoroch (až na úzke výnimky).

Na doplnenie tohto systému zákon o umelej inteligencii zavádza aj pravidlá pre takzvané  modely umelej inteligencie na všeobecné účely , čo sú vysoko schopné modely umelej inteligencie, ktoré sú navrhnuté tak, aby vykonávali širokú škálu úloh, ako je vytváranie textu podobného ľuďom. Univerzálne modely AI sa čoraz častejšie používajú ako súčasti aplikácií AI. Zákon o AI zabezpečí transparentnosť v hodnotovom reťazci a rieši možné systémové riziká najschopnejších modelov.

Uplatňovanie a presadzovanie pravidiel AI

Členské štáty majú do 2. augusta 2025 určiť príslušné vnútroštátne orgány, ktoré budú dohliadať na uplatňovanie pravidiel pre systémy umelej inteligencie a vykonávať činnosti dohľadu nad trhom.  Kancelária Komisie pre umelú inteligenciu  bude kľúčovým implementačným orgánom pre zákon o umelej inteligencii na úrovni EÚ, ako aj presadzovateľom pravidiel pre modely umelej inteligencie na všeobecné účely.

Implementáciu pravidiel budú podporovať tri poradné orgány. Európsky  výbor pre umelú inteligenciu  zabezpečí jednotné uplatňovanie zákona o umelej inteligencii vo všetkých členských štátoch EÚ a bude pôsobiť ako hlavný orgán pre spoluprácu medzi Komisiou a členskými štátmi.  Vedecký panel nezávislých odborníkov  ponúkne technické poradenstvo a informácie o presadzovaní. Tento panel môže najmä vydávať upozornenia úradu AI o rizikách spojených s modelmi AI na všeobecné účely. Kancelária pre umelú inteligenciu môže tiež získať poradenstvo od  poradného fóra zloženého z rôznych zainteresovaných strán.

Spoločnosti, ktoré pravidlá nedodržia, budú pokutované. Pokuty by mohli dosiahnuť až 7 % celosvetového ročného obratu za porušenie zakázaných aplikácií AI, až 3 % za porušenie iných povinností a až 1,5 % za poskytnutie nesprávnych informácií.

Ďalšie kroky

Väčšina pravidiel zákona o umelej inteligencii začne platiť 2. augusta 2026. Zákazy systémov umelej inteligencie, ktoré predstavujú neprijateľné riziko, však budú platiť už po šiestich mesiacoch, zatiaľ čo pravidlá pre takzvané modely umelej inteligencie na všeobecné použitie budú platiť po 12 mesiacov.

Na preklenutie prechodného obdobia pred úplnou implementáciou Komisia spustila  Pakt umelej inteligencie . Táto iniciatíva vyzýva vývojárov AI, aby dobrovoľne prijali kľúčové povinnosti zákona o AI pred uplynutím zákonných lehôt.

Komisia tiež pripravuje usmernenia na definovanie a podrobné informácie o tom, ako by sa mal vykonávať zákon o umelej inteligencii, a na uľahčenie koregulačných nástrojov, ako sú normy a kódexy postupov. Komisia otvorila výzvu na vyjadrenie záujmu o účasť na vypracovaní prvého kódexu postupov umelej inteligencie na všeobecné účely, ako aj  konzultáciu s viacerými zainteresovanými stranami , ktorá dáva možnosť všetkým zainteresovaným stranám vyjadriť sa k prvému kódexu postupov podľa zákona o AI.

Pozadie

Komisia 9. decembra 2023 uvítala politickú dohodu  o zákone o umelej inteligencii. Dňa 24. januára 2024 Komisia spustila balík opatrení na podporu európskych začínajúcich podnikov a MSP pri vývoji dôveryhodnej umelej inteligencie. Dňa 29. mája 2024 Komisia  predstavila úrad AI .  Dňa 9. júla 2024 nadobudlo účinnosť zmenené a doplnené nariadenie o spoločnom podniku EuroHPC , čím sa umožnilo zriadenie tovární na umelú inteligenciu. To umožňuje použitie špecializovaných AI-superpočítačov na trénovanie modelov General Purpose AI (GPAI).

Pokračujúci nezávislý výskum založený na dôkazoch realizovaný  Spoločným výskumným centrom (JRC)  bol zásadný pri formovaní politík EÚ v oblasti umelej inteligencie a zabezpečovaní ich účinného vykonávania.

Zdroj:

• https://www.eureporter.co/internet-2/artificial-intelligence/2024/08/05/european-artificial-intelligence-act-comes-into-force/
• https://ec.europa.eu/commission/presscorner/detail/sk/QANDA_21_1683