Odpočítávání skončilo. Od 2. srpna vstoupily
v platnost povinnost transparentnosti a většina pravidel pro vysoce rizikové systémy AI.
Zatímco na korporátních poradách se ještě donedávna vedly debaty o tom, kdy a v jaké podobě přijde regulace umělé inteligence, Evropská unie tuto otázku už vyřešila. Nařízením 2024/1689, známým jako AI Act, vznikl vůbec první ucelený právní rámec pro umělou inteligenci na světě. Není to však zákon, který na firmy dopadne jedním úderem. Spíš jde o proces, jenž postupuje po vlnách. A jednu z nich máme čerstvě za sebou.
AI Act vstoupil v platnost již od srpna 2024. Obecná pravidla a první zákazy pak platí od 2. února 2025, pravidla pro modely AI pro všeobecné účely pak od 2. srpna 2025. Právě teď jsme ovšem v nejcitelnější fázi celého procesu, když od 2. srpna vstoupily v platnost povinnost transparentnosti a většina pravidel pro vysoce rizikové systémy AI. Regulace se tak konečně přesouvá z teorie do každodenní praxe.
Na obzoru zbývá už jen jeden velký časový milník, a tím je rok 2027, kdy dorazí poslední fáze pro vybrané vysoce rizikové systémy zabudované do produktů, které už dnes podléhají jiné evropské regulaci. Brusel tak neurčil jen to, co se má regulovat, ale i tempo, jakým se na to firmy musí adaptovat. A toto tempo nyní nabírá obrátky. Co to v praxi znamená?
Riziko jako určující faktor
Základním stavebním kamenem AI Actu je princip řízení rizik. „Nízkoriziková“ umělá inteligence zůstává firmám k dispozici bez velkých omezení. Jakmile ale systém zasahuje do zdraví, bezpečnosti nebo základních práv lidí, dostává nálepku „vysoce riziková“. A s ní přichází i balík povinností: dokumentace, dohled, testování, zveřejňování informací o fungování, v krajním případě i ukončení používání.
Pro spoustu podniků tak není klíčovou otázkou, zda AI používají, ale který konkrétní případ užití spadá do dané kategorie. Firmy, jež nasazují modely pro všeobecné účely, řeší jiné povinnosti než ty, které AI zabudovávají přímo do svých produktů a služeb a musí posoudit, zda se nedostaly do pásma vysokého rizika.
AI Act se přitom netýká pouze velkých technologických firem. Dopadá na vydavatele pracující s AI generovaným obsahem, banky spoléhající na automatizované rozhodování i na jakoukoli společnost, jež umělou inteligenci používá při náboru zaměstnanců, péči o klienty nebo v běžném provozu.
Banky: credit scoring jako vysoce rizikový systém
Bankovní sektor patří k odvětvím, na nějž AI Act dopadá nejkonkrétněji. Evropský orgán pro bankovnictví (EBA) upozorňuje, že AI se v bankovnictví a platebních službách napříč EU využívá čím dál víc – především při posuzování úvěruschopnosti, odhalování podvodů a klientské podpoře.
Právě posuzování úvěruschopnosti a credit scoringu fyzických osob přitom AI Act zařazuje mezi vysoce rizikové systémy, protože přímo ovlivňují přístup lidí k penězům a základním finančním službám. Pro banky to znamená přísnější kontrolu kvality dat, logování, lidský dohled, přesnost, robustnost i kybernetickou bezpečnost u všech procesů, kde AI vstupuje do citlivého rozhodování.
EBA už tyto požadavky provázala se specifiky bankovního a platebního sektoru. AI Act tak pro finanční instituce dávno přestal být teoretickým cvičením a stal se konkrétní sektorovou compliance povinností.
Článek byl publikován na webu ieuro.cz
Autor:
Filip Drnec, výkonný ředitel v Portos, advokátní kancelář s.r.o.
