AI Act ! Přichází revoluce v regulaci umělé inteligence v EU

Od začátku příštího měsíce začne platit nové evropské nařízení o umělé inteligenci (AI) známé jako AI Act. Toto nařízení, které bude postupně zaváděno, poskytuje firmám a úřadům dvouletou lhůtu na přípravu, než se stane plně závazným. Některé části regulace však budou vymahatelné již po šesti měsících, jak vyplývá z textu zákona a odborných analýz.

Podle Lukáše Benzla, ředitele České asociace AI, čeká Českou republiku a jednotlivé firmy nabitý harmonogram, kdy budou muset splnit mnoho nových povinností. Nařízení začne platit od 2. srpna a od 2. února 2025 začnou platit obecná ustanovení a zakázané postupy. Do 2. srpna 2025 musí členské státy zřídit oznamující orgány a subjekty. Plně se nařízení začne uplatňovat od 2. srpna 2026, s výjimkou AI systémů používaných jako bezpečnostní součást produktu.

Benzl zdůraznil, že příprava na regulaci je naléhavá a firmy by měly začít okamžitě, aby splnily první povinnosti, jako je školení zaměstnanců v oblasti AI gramotnosti, které začne platit už v únoru příštího roku. Regulace ovlivní všechna oddělení firem, od vývoje přes marketing až po lidské zdroje.

Dopad na subjekty mimo EU

Podle poradenské firmy Deloitte se tato pravidla budou vztahovat nejen na organizace a jednotlivce v EU, ale i na ty mimo EU, jejichž aktivity ovlivňují trhy nebo občany EU. Tím pádem budou muset i organizace mimo EU dodržovat AI Act, pokud jejich AI zasahuje do EU.

Adam Hanka, ředitel pro AI firmy Creative Dock, uvedl, že AI Act má za cíl nastavit pravidla pro využití AI tak, aby byl maximální přínos pro lidi a firmy a minimalizoval se její negativní dopad na společnost. Firmy by měly začít s přípravou na nová pravidla okamžitě, aby si udržely konkurenceschopnost.

Zákaz manipulace a zneužívání

Deloitte uvádí, že bude zakázána AI, která manipuluje s lidmi, zneužívá děti nebo klasifikuje lidi podle jejich sociálního chování. Zakázána bude i vzdálená biometrie pro plošnou identifikaci a prediktivní policejní dohled. Nařízení rozděluje AI na vysoce rizikovou, omezeně rizikovou a minimálně rizikovou, kterou lze využívat bez omezení.

Hanka také připomněl, že je dobře, že se regulace AI ujala EU, protože žádná evropská země není dostatečně silná na to, aby sama prosadila účinnou legislativu proti velkým světovým hráčům jako Meta, Microsoft, Alphabet nebo OpenAI.