Akt EÚ o umelej inteligencii predstavuje kľúčový vývoj v oblasti regulácie umelej inteligencie, ktorý zavádza komplexný dohľad nad technológiami umelej inteligencie. Ako prvý právny predpis svojho druhu na celom svete má za cieľ zabezpečiť bezpečné, transparentné a etické zavádzanie umelej inteligencie s ďalekosiahlymi dôsledkami mimo Európskej únie. Tento zákon, ktorý bol uverejnený v Úradnom vestníku EÚ 12. júla 2024, zavŕšil legislatívnu cestu, ktorá sa začala v apríli 2021, keď ho navrhla Európska komisia. Akt EÚ o umelej inteligencii s účinnosťou od 1. augusta 2024 zavádza harmonogram postupného presadzovania, vďaka čomu je pre globálne podniky, najmä tie, ktoré pôsobia v EÚ alebo s EÚ, veľmi dôležité, aby pochopili a dodržiavali jeho ustanovenia.
Spoločnosti by mali dôsledne dodržiavať akt EÚ o umelej inteligencii, pretože má potenciál stať sa globálnym štandardom pre etický vývoj a používanie umelej inteligencie. Podobne ako GDPR transformovalo predpisy o ochrane osobných údajov, zákon o umelej inteligencii stanovuje rámec pre riadenie vysoko rizikových systémov umelej inteligencie v rôznych sektoroch, od zdravotníctva a presadzovania práva až po moderovanie online obsahu. Toto zameranie na etickú umelú inteligenciu už formuje diskusie o politike umelej inteligencie na celom svete.
Nedodržanie zákona môže mať za následok vysoké pokuty, ktoré dosahujú až 35 miliónov eur alebo 7 % celosvetového obratu spoločnosti, podľa toho, ktorá suma je vyššia. Dodržiavanie zákona preto nie je len otázkou etiky, ale aj strategickou nevyhnutnosťou pre spoločnosti pôsobiace v EÚ alebo s globálnym dosahom.
Systémy umelej inteligencie, ktoré predstavujú neprijateľné riziko pre bezpečnosť a práva, sú prísne zakázané. Patria sem technológie, ktoré ohrozujú súkromie, ľudskú dôstojnosť alebo autonómiu. Zabezpečenie toho, aby nedošlo k nasadeniu takejto vysoko rizikovej umelej inteligencie. Viac sa dozviete tu.
Systémy umelej inteligencie identifikované ako vysoko rizikové musia spĺňať prísne konštrukčné a prevádzkové normy. Tieto systémy prechádzajú prísnymi kontrolami, aby sa zaručil súlad s bezpečnostnými a etickými normami a aby sa zabezpečilo, že sú bezpečné a dôveryhodné pred nasadením.
Systémy umelej inteligencie s obmedzeným rizikom si vyžadujú opatrenia v oblasti transparentnosti a zodpovednosti. Tieto systémy musia jasne informovať používateľov o svojej prevádzke, najmä pri interakcií s ľuďmi alebo pri spracovaní citlivých údajov, aby sa zachovala dôvera a dodržiavanie predpisov.
Systémy umelej inteligencie s minimálnym rizikom nepodliehajú žiadnym povinným regulačným obmedzeniam, ktoré podporujú inovácie a rýchly rozvoj. Takéto systémy sa môžu voľne zavádzať, čím sa podporuje technologický pokrok s nižším dohľadom.
Existujú aj dodatočné a konkrétnejšie povinnosti pre poskytovateľov systémov umelej inteligencie s určitým rizikom transparentnosti a modelov umelej inteligencie na všeobecné účely.