Regulace AI v byznysu: Jste připraveni na AI Act?

Umělá inteligence už není sci-fi, ale každodenní nástroj, který pomáhá firmám inovovat, automatizovat a růst. S velkou mocí ale přichází i odpovědnost – a teď i nová pravidla. Evropská unie zavedla první komplexní regulaci umělé inteligence na světě, známou jako AI Act. Co to pro vás jako podnikatele v Česku znamená? Nejde o brzdu inovací, ale o nastavení jasných mantinelů pro důvěryhodnou a bezpečnou AI.

Hlavní princip: Vše se točí kolem rizika

AI Act nezatěžuje všechny stejně. Zavádí chytrý přístup založený na míře rizika. Jednoduše řečeno, čím větší potenciální dopad může AI mít, tím přísnější pravidla pro ni platí. Systémy se dělí do čtyř kategorií:

1. Zakázané AI (Nepřijatelné riziko)

Sem patří praktiky, které jsou v přímém rozporu s hodnotami EU. Například systémy pro sociální skórování občanů, podprahová manipulace nebo cílené zneužívání zranitelných skupin. Tyto systémy je zakázáno vyvíjet, používat i uvádět na trh.

2. Vysoce rizikové AI

Týká se to hlavně citlivých oblastí, jako je personalistika (AI pro nábor a hodnocení zaměstnanců), hodnocení úvěruschopnosti, kritická infrastruktura nebo zdravotnictví. Pokud takový systém nasazujete, máte řadu povinností, jako je zajištění lidského dohledu, monitoringu a vedení záznamů.

3. AI s omezeným rizikem

Zde spadá většina nástrojů, které dnes firmy běžně používají – od chatbotů po generátory obsahu. Hlavním a zásadním požadavkem je transparentnost.

4. AI s minimálním rizikem

Spamové filtry, AI ve videohrách, jednoduché systémy doporučení... zde AI Act žádné nové povinnosti nestanovuje. Většina vašich současných nástrojů pravděpodobně spadá sem.

Co to znamená pro vaši firmu v praxi?

Pro většinu podnikatelů, kteří AI využívají pro marketing, komunikaci nebo interní procesy, plynou z AI Actu hlavně dvě klíčové povinnosti, které se týkají systémů s omezeným rizikem:

• Buďte transparentní: Pokud máte na webu chatbota, musíte uživatele srozumitelně informovat, že komunikují s umělou inteligencí.
• Označujte AI obsah: Vytváříte marketingové texty, obrázky nebo videa pomocí AI? Musíte je označit tak, aby bylo zřejmé, že obsah byl uměle vygenerován nebo upraven. To platí dvojnásob pro takzvané "deepfakes".

I když používáte nástroj od třetí strany, jako zavádějící subjekt (deployer) nesete odpovědnost za jeho správné a bezpečné použití. Proto je klíčové prověřovat dodavatele a pečlivě číst smluvní podmínky.

Závěr: Nebojte se, ale připravte se

Regulace AI není strašák, ale příležitost, jak budovat důvěru u zákazníků a partnerů. Proaktivní přístup se vám vyplatí. Začněte tím, že si zmapujete, kde a jak AI ve firmě používáte, proškolíte zaměstnance o základních rizicích a nastavíte si jednoduchá interní pravidla pro transparentnost.

V České republice bude na dodržování pravidel dohlížet hlavně Ministerstvo průmyslu a obchodu (MPO) ve spolupráci s Českým telekomunikačním úřadem (ČTÚ). Pro firmy, které chtějí inovovat, budou k dispozici i tzv. regulatorní sandboxy.

Pro detailní informace si můžete projít plné znění Nařízení EU č. 2024/1689 o umělé inteligenci nebo si přečíst oficiální sumarizace tohoto AI act na stránkách eur-lex.