Ve středu 13. března 2024 přijal Evropský parlament Akt o umělé inteligenci (AI Act). Nařízení je považováno za první komplexní právní rámec pro umělou inteligenci na světě. Stanovuje pravidla pro celou EU, která se týkají kvality dat, transparentnosti, lidského dohledu a odpovědnosti.
Nařízení, které bylo dohodnuto na jednáních s členskými státy v prosinci 2023, má chránit základní práva, demokracii, právní stát a udržitelnost životního prostředí před „vysoce rizikovou umělou inteligencí“. Má ale také zároveň podporovat inovace a etablovat Evropu jako lídra v této oblasti. Nařízení stanoví povinnosti pro umělou inteligenci na základě potenciálních rizik a úrovně jejích dopadu.
Nová pravidla tak zakazují určité aplikace umělé inteligence, které ohrožují práva občanů, včetně biometrických kategorizačních systémů. Ty jsou založeny na citlivých charakteristikách a necíleném získávání obrázků obličejů z internetu nebo záběrů CCTV za účelem vytváření databází pro rozpoznávání obličejů.
Zakázáno bude také rozpoznávání emocí na pracovišti a ve školách, sociální bodování, prediktivní policejní práce (pokud je založena pouze na profilování osoby nebo na hodnocení jejích vlastností) a umělá inteligence, která manipuluje s lidským chováním nebo využívá zranitelnosti lidí.
Jasné povinnosti jsou rovněž stanoveny pro další vysoce rizikové systémy umělé inteligence, které by potenciálně mohly značně poškodit zdraví, bezpečnost, základní práva, životní prostředí, demokracie a právního státu). Příklady vysoce rizikového použití umělé inteligence zahrnují kritickou infrastrukturu, vzdělávání a odbornou přípravu, zaměstnání a základní soukromé a veřejné služby (např. zdravotnictví, bankovnictví).
Legislativa vyžaduje, aby takové systémy vyhodnocovaly a omezovaly rizika, vedly záznamy o používání, byly transparentní, přesné a zajišťovaly lidský dohled. Občané budou mít právo na systémy umělé inteligence podávat stížnosti a obdržet vysvětlení ohledně rozhodnutí založených na vysoce rizikových systémech umělé inteligence, která ovlivňují jejich práva.
Systémy umělé inteligence pro všeobecné použití (GPAI – General Purpose Artiffcial Intelligence) a modely AI, které jsou na nich založeny, musí splňovat určité požadavky na transparentnost, včetně dodržování autorského práva EU a zveřejňování podrobných shrnutí obsahu použitého pro školení.
Na výkonnější modely GPAI, které by pak mohly představovat systémová rizika, se budou vztahovat další požadavky, včetně provádění hodnocení modelů, posuzování a zmírňování systémových rizik a podávání zpráv o incidentech.
Opatření na podporu inovací a SME
Pro testování AI aplikací v reálném prostředí budou na národních úrovních vytvořeny regulatorní sandboxy. Ty budou zpřístupněny středním a malým podnikům nebo začínajícím podnikům, aby mohly vyvíjet a školit inovativní AI před jejím uvedením na trh.
Další kroky
AI Act je první závazný zákon o umělé inteligenci na světě, který má snížit rizika, vytvořit příležitosti, bojovat proti diskriminaci a zajistit transparentnost. Díky EU Parlamentu budou v Evropě zakázány nepřijatelné praktiky umělé inteligence a budou chráněna práva pracovníků a občanů. Bude zřízen Úřad pro umělou inteligenci, který bude podporovat společnosti, aby začaly pravidla dodržovat ještě před jejich vstupem v platnost.
Nařízení ještě projde závěrečnou právnicko-lingvistickou kontrolou a očekává se, že bude definitivně přijato ještě před koncem volebního období (prostřednictvím tzv. procedury corrigendum). Zákon musí rovněž formálně schválit EU Rada.
Vstoupí v platnost dvacet dní po zveřejnění v Úředním věstníku a bude plně použitelný 24 měsíců po vstupu v platnost, s výjimkou: zákazů zakázaných praktik, které se uplatní šest měsíců po vstupu v platnost; kodexů praxe (devět měsíců po vstupu v platnost); obecně platných pravidel AI včetně správy (12 měsíců po vstupu v platnost); a povinností pro vysoce rizikové systémy (36 měsíců). Petr Moláček