Evropský AI Act v praxi: Co čeká malé firmy v Česku a Německu a kolik to bude stát?
Nová evropská regulace umělé inteligence nabíhá do praxe. Jaké povinnosti přináší malým podnikům a proč mají německé firmy díky státním pískovištím náskok před českými?
Evropský akt o umělé inteligenci (AI Act) nabyl účinnosti 1. srpna 2024. Nejde o směrnici, kterou by národní parlamenty postupně a s lokálními úpravami přepisovaly do vlastních zákonů. Jde o nařízení, které platí přímo a napříč celou Evropskou unií. Běžný majitel menší firmy ho dosud pravděpodobně ignoroval s pocitem, že regulace dopadne výhradně na nadnárodní vývojáře velkých jazykových modelů. Skutečnost je odlišná. Legislativa tvrdě dopadá i na takzvané zavádějící subjekty – tedy na běžné firmy, které hotové algoritmy nakupují a začleňují do svého vlastního byznysu.
Zákon zavádí striktní dělení podle míry rizika, které daný systém představuje pro základní práva občanů. Z tohoto dělení pak vyplývají konkrétní povinnosti, administrativní zátěž a v konečném důsledku i finanční náklady na takzvanou compliance, tedy zajištění souladu s předpisy.
Čtyři patra rizika: Od spamu po třídění životopisů
Nařízení rozděluje systémy umělé inteligence do čtyř kategorií. Zcela zakázané jsou systémy s nepřijatelným rizikem. Sem patří například sociální skórování občanů, manipulace s lidským podvědomím nebo plošné biometrické sledování v reálném čase. Pro běžný byznys jsou tyto praktiky irelevantní, zákaz jejich používání začne platit už v únoru 2025.
Zásadní dopad má ovšem kategorie vysoce rizikových systémů. Zde se ocitne překvapivé množství středních firem. Pokud provozujete personální agenturu a používáte algoritmus pro automatické třídění došlých životopisů nebo hodnocení kandidátů, využíváte vysoce rizikovou AI. Stejně tak tam spadají systémy pro posuzování úvěruschopnosti zákazníků. Pro zavádějící subjekty to znamená povinnost zajistit lidský dohled nad rozhodováním stroje, vést detailní záznamy (logy) o fungování systému a informovat zaměstnance i odbory o nasazení takové technologie.
Většina malých podniků se setká se třetí kategorií, kterou je omezené riziko. Typickým příkladem jsou chatboti nasazení na e-shopech pro vyřizování zákaznické podpory nebo nástroje generující reklamní texty a obrázky. Zde legislativa požaduje především transparentnost. Zákazník musí jasně vědět, že komunikuje se strojem, a obsah vytvořený umělou inteligencí musí být zřetelně označen.
Poslední kategorií je minimální riziko, kam spadají běžné spamové filtry nebo algoritmy pro doporučování produktů. Těm se nová regulace vyhýbá a firmy je mohou používat volně jako dosud.
Účet za právníky: Propastný rozdíl mezi Českem a Německem
Zavádění evropských nařízení do praxe často naráží na lokální připravenost státního aparátu. Právě zde se ostře ukazuje rozdíl mezi přístupem v Česku a v sousedním Německu.
Německé spolkové ministerstvo hospodářství a ochrany klimatu (BMWK) i tamní obchodní komory (IHK) začaly s přípravou podnikatelského prostředí s velkým předstihem. Německo masivně investuje do vzniku takzvaných regulačních pískovišť (regulatory sandboxes). Jde o státem garantované testovací prostředí, kde si malé a střední firmy mohou nasazení AI nástrojů vyzkoušet pod dohledem úředníků, aniž by jim hrozily okamžité sankce za formální pochybení. Německý podnikatel má k dispozici standardizované metodiky, dotované konzultace a jasně určený dozorový orgán, na který se může obrátit.
Česká realita nabízí o poznání chladnější prostředí. Státní správa teprve formuje kompetence a určuje, který úřad bude mít roli hlavního národního dozorce – pravděpodobně půjde o Český telekomunikační úřad nebo Úřad pro ochranu osobních údajů. Do té doby je česká firma odkázána sama na sebe. Chybějící bezplatnou státní metodiku tak nahrazují komerční advokátní kanceláře. Podle dostupných odhadů z trhu se základní právní audit nasazených AI nástrojů pro středně velký e-shop pohybuje řádově v nižších desítkách tisíc korun. U firem, které experimentují s vysoce rizikovými systémy v HR nebo financích, se účet za právní a procesní nastavení může vyšplhat na stovky tisíc korun.
Pokuty, které mohou firmu zlikvidovat
Sankce za nedodržení AI Actu jsou nastaveny nekompromisně a inspirují se modelem GDPR. Za používání zakázaných systémů hrozí pokuta až 35 milionů eur nebo 7 % celosvětového ročního obratu. Za porušení pravidel u vysoce rizikových systémů nebo povinnosti transparentnosti je to až 15 milionů eur nebo 3 % obratu.
Zákonodárci do textu vložili speciální pravidlo pro malé a střední podniky (SME) a startupy. Zatímco u velkých korporací se uplatní ta částka, která je vyšší, u malých firem se úřady musí řídit tou částkou, která je nižší. I přesto, že 3 % z obratu lokálního e-shopu nedosáhnou na miliony eur, jde o částku, která dokáže vymazat roční zisk firmy.
Pět kroků pro menší firmy: Jak se připravit
Aplikace nařízení je rozfázovaná. Zatímco zakázané systémy skončí v únoru 2025, pravidla pro vysoce rizikové systémy začnou plně platit až za 24 až 36 měsíců (podle přesné specifikace v přílohách nařízení). Povinnosti týkající se transparentnosti (chatboti, generovaný obsah) ale nastupují rychle. Firma by proto měla postupovat strukturovaně:
- Udělejte inventuru algoritmů: Zjistěte, kde všude vaši zaměstnanci AI používají. Často jde o stínové IT, kdy si marketingové oddělení samo platí předplatné za nástroje na generování grafiky nebo textů.
- Určete svou roli: Jste vývojář, nebo jen uživatel (zavádějící subjekt)? V 99 % případů budete pouze uživatel, což znamená menší, ale stále existující zátěž.
- Klasifikujte riziko: Rozřaďte své nástroje do zmíněných čtyř kategorií. Pokud používáte AI na předvýběr uchazečů o zaměstnání, okamžitě zpozorněte a začněte řešit logování a lidský dohled.
- Upravte web a obchodní podmínky: Nasadili jste na zákaznickou linku hlasového bota? Zákazník se to musí dozvědět hned v prvních vteřinách hovoru. Stejně tak doplňte informaci o využívání AI do patičky webu nebo do sekce obchodních podmínek.
- Ošetřete dodavatelské smlouvy: Pokud vám externí agentura dodává marketingové texty nebo kódy tvořené umělou inteligencí, upravte s nimi smlouvy tak, aby nesli odpovědnost za dodržení autorských práv a pravidel AI Actu.
Evropská snaha o kultivaci digitálního prostředí dává z pohledu ochrany spotřebitele smysl. Pro malé a střední firmy v Česku to ale znamená další vrstvu byrokracie a nákladů na právní služby, obzvlášť v situaci, kdy stát zatím nenabízí záchrannou síť v podobě srozumitelných a bezplatných metodik, jaké vidíme u našich západních sousedů. Kdo začne s revizí svých interních systémů už nyní, vyhne se panice a přirážkám za urgentní právní konzultace v době, kdy začnou padat první exemplární pokuty.
Zdroje
- — Portál veřejné správy: Slovníček pojmů a vysvětlení k Nařízení o umělé inteligenci (AI Act)
- — Portál veřejné správy: Tisková zpráva ÚNMZ k implementaci AI Act v ČR
Rozebírá nové zákony, daňové změny a dopady regulace na malé a střední firmy.