|
Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689, známe ako Akt o umelej inteligencii (AI Act), je prvým komplexným právnym rámcom na svete, ktorý reguluje vývoj a používanie umelej inteligencie (AI).
Akt o umelej inteligencii [nariadenie (EÚ) 2024/1689, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie] je vôbec prvým komplexným právnym rámcom pre umelú inteligenciu na celom svete. Cieľom pravidiel je podporiť dôveryhodnú umelú inteligenciu v Európe.
|
|
Hlavný cieľ
Cieľom tohto nariadenia je podporiť zavádzanie bezpečných a dôveryhodných systémov AI na jednotnom trhu Európskej únie pri súčasnom zabezpečení ochrany zdravia, bezpečnosti občanov a dodržiavaní základných práv.
Kľúčové body a pravidlá
Akt o umelej inteligencii stanovuje pravidlá založené na posúdení rizík, ktoré klasifikujú systémy AI do štyroch úrovní: neprijateľné, vysoké, obmedzené a minimálne riziko.
Neprijateľné riziko (Zakázané praktiky): Určité postupy AI, ktoré predstavujú jasnú hrozbu pre práva a bezpečnosť ľudí, sú zakázané. Patrí sem napríklad manipulatívne kognitívne behaviorálne techniky alebo celoplošné sociálne bodovanie (social scoring) štátnymi orgánmi.
Vysoké riziko: Systémy AI, ktoré by mohli mať významný vplyv na bezpečnosť alebo základné práva (napr. v medicíne, kritickej infraštruktúre, vzdelávaní), podliehajú prísnym požiadavkám na testovanie, transparentnosť, dohľad a posudzovanie zhody (označenie CE).
Obmedzené a minimálne riziko: Väčšina systémov AI spadá do týchto kategórií, kde sú požiadavky na transparentnosť miernejšie (napr. povinnosť informovať používateľa, že komunikuje s chatbotom).
Pre koho platí?
Nariadenie má extrateritoriálnu pôsobnosť, čo znamená, že sa vzťahuje na poskytovateľov a používateľov systémov AI v EÚ, ale aj na spoločnosti mimo EÚ, ak ich produkty alebo služby ovplyvňujú trh EÚ.
Účinnosť a implementácia
Akt nadobudol platnosť 1. augusta 2024. Jednotlivé povinnosti sa však zavádzajú postupne, pričom prvé povinnosti (týkajúce sa zakázaných praktík a AI gramotnosti) začali platiť od 2. februára 2025.
Plná účinnosť nariadenia nastane v priebehu roka 2026.
Viac informácií nájdete na oficiálnych stránkach EÚ, napríklad na EUR-Lex alebo na platforme Európskej komisie venovanej digitálnej stratégii. Na Slovensku je gestorským orgánom pre dohľad napríklad Ministerstvo investícií, regionálneho rozvoja a informatizácie SR.
Všeobecné povinnosti pre firmy (nielen vysokorizikové)
Akt o umelej inteligencii (EÚ AI Act) ukladá firmám povinnosti, ktoré sa líšia v závislosti od ich úlohy (poskytovateľ/vývojár vs. nasadzujúci subjekt/používateľ) a miery rizika daného AI systému.
Väčšina firiem, ktoré len používajú hotové AI nástroje (napr. prekladové nástroje, generátory textov), bude v pozícii tzv. "nasadzujúceho subjektu" a ich povinnosti budú menej rozsiahle ako povinnosti vývojárov.
Zakázané praktiky: Firmy nesmú používať určité praktiky AI, ktoré EÚ považuje za neprijateľné riziko, ako napríklad skryté manipulatívne techniky správania alebo sociálne bodovanie (social scoring) štátnymi orgánmi.
Transparentnosť: Ak firmy nasadzujú AI systémy, ktoré interagujú s ľuďmi (napr. chatboty), musia informovať používateľov, že komunikujú so strojom, pokiaľ to nie je zjavné z kontextu.
Označovanie obsahu: Od 2. augusta 2026 budú musieť byť AI-generované výstupy (obrázky, audio, video), ktoré sú zverejnené bez ľudskej revízie, jasne označené ako umelo vytvorené.
Školenie zamestnancov: Zamestnanci, ktorí pracujú s AI systémami, musia byť oboznámení s ich rizikami, obmedzeniami a právnou zodpovednosťou.
Monitorovanie a dokumentácia: Firmy by mali monitorovať výstupy AI systémov, viesť záznamy o používaní a zabezpečiť technickú dokumentáciu.
Povinnosti pre poskytovateľov vysokorizikových AI systémov
Pre firmy, ktoré vyvíjajú (poskytujú) vysokorizikové AI systémy, sú povinnosti oveľa prísnejšie. Medzi vysokorizikové systémy patria napríklad tie, ktoré sa používajú v kritickej infraštruktúre, vzdelávaní, zamestnávaní (nástroje na nábor zamestnancov) alebo v zdravotníctve.
Tieto firmy musia pred uvedením systému na trh EÚ splniť súbor požiadaviek:
Posudzovanie zhody (Conformity assessment):Pred uvedením na trh musia vykonať komplexné posúdenie zhody s požiadavkami AI Actu.
Riadenie rizík: Musia zaviesť systémy na posudzovanie, hodnotenie a zmierňovanie rizík počas celého životného cyklu AI systému.
Kvalita dát a správa údajov: Systémy musia byť trénované na vysokokvalitných, relevantných a reprezentatívnych súboroch údajov, aby sa minimalizovalo riziko diskriminačných výsledkov.
Technická dokumentácia: Musia viesť podrobnú technickú dokumentáciu, ktorá je potrebná na posúdenie súladu systému s predpismi.
Ľudský dohľad: Musia byť navrhnuté tak, aby umožňovali efektívny ľudský dohľad, kedy môže človek systém zastaviť alebo zmeniť jeho rozhodnutie.
Presnosť, robustnosť a kybernetická bezpečnosť: Systémy musia byť odolné voči chybám, zlyhaniam a kybernetickým útokom.
Registrácia: Vysokorizikové systémy musia byť zaregistrované vo verejnej EÚ databáze.
Pokuty za nedodržanie
Za porušenie pravidiel hrozia firmám vysoké pokuty, ktoré môžu dosiahnuť až 7% z celosvetového ročného obratu alebo 35 miliónov eur, podľa toho, čo je vyššie.
Odporúča sa, aby firmy analyzovali, do ktorej kategórie spadajú ich AI aktivity a pripravili sa na implementáciu potrebných zmien, pričom kľúčové povinnosti začínajú platiť od augusta 2025. Viac informácií nájdete napríklad na oficiálnej stránke Európskej komisie venovanej digitálnej stratégii.
Celé nariadenie si možete pozrieť tu :
NARIADENIE