AI Act se přiblížil ke schválení. Nařízení zasazuje umělou inteligenci do právního rámce

Právě průnik mezi potřebou regulace možného problematického využití AI a jejím dalším rozvojem byl jedním z hlavních předmětů diskuzí mezi Evropským parlamentem, členskými státy a Evropskou komisí, která nařízení pod názvem AI Act, v roce 2021 navrhla. „Původní text zaváděl příliš mnoho omezení, která by nás ve výsledku dostala do nevýhodné pozice vůči zbytku světa. Evropská legislativa by ale neměla stát v cestě dalším inovacím, pokud nejsou vyloženě škodlivé. Jsem proto rád, že se podařilo najít kompromis přijatelný pro všechny zúčastněné strany,“ komentuje Ondřej Kovařík, člen Výboru pro občanské svobody, spravedlnost a vnitřní věci v Evropském parlamentu.

Zakázaná zóna

Působnost aktu o umělé inteligenci zahrnuje všechna odvětví vyjma armády. Typy umělé inteligence škáluje na základě potenciálních rizik a úrovně dopadu. Zcela zakázané tak mají být systémy manipulující lidské chování nebo využívající zranitelnost lidí, systémy sloužící k rozpoznávání emocí na pracovištích a ve vzdělávacích institucích nebo sociálnímu skórování na základě osobních charakteristik. Zakázán je také sběr fotografií obličejů za účelem vytváření databází pro jejich rozpoznávání.

Jako vysoce rizikové vnímají evropské instituce také využívání biometrických identifikačních systémů (RBI). Kategorizační systémy využívající citlivé charakteristiky, například rasu, sexuální orientaci, politické, filozofické nebo náboženské přesvědčení, dokument zcela zakazuje, po připomínkách členských států ale stanovil výjimku. 

„Prvotní návrh nedovoloval využívání biometrické identifikace v reálném čase. Tento nástroj je však významný, protože umožňuje sledování pohybu podezřelých osob ve veřejných prostorech, spolehlivé rozpoznávání podezřelých jedinců a pachatelů trestných činů, stejně jako hledání obětí trestné činnosti. Tato technologie má klíčový význam při stíhání pachatelů a zajišťování silných důkazů v trestním řízení,“ vysvětluje Kovařík a dodává, že je rád, že výjimky pro využití RBI pro účely trestního stíhání nakonec nařízení obsahuje. 

Povinnosti pro vysoce rizikové systémy

Pro systémy umělé inteligence klasifikované jako vysoce rizikové, mezi které patří například i systémy pro pojišťovnictví a bankovnictví, stanovuje AI Act jasně dané povinnosti. Ty zahrnují například povinná hodnocení dopadu na základní práva, životní prostředí či bezpečnost nebo právo občanů podat stížnost a obdržet vysvětlení o rozhodnutích založených na AI systémech s vysokým rizikem, které ovlivňují jejich práva.

Regulace základních modelů umělé inteligence (GPAI) byla dle Kovaříka nejnáročnější na shodu. „Obecné systémy umělé inteligence jsou velmi obsáhlou kategorií a mohou plnit řadu funkcí. Není ale možné zatěžovat malé a střední evropské firmy, které chtějí integrovat systémy GPAI, mezi které patří například oblíbený Chat GPT, do svých systémů, zbytečnou regulační zátěží. Chceme-li hrát ve světě inovací první ligu, musíme je v tom naopak podporovat,“ říká. 

Právě k podpoře inovací v malých a středních podnicích mají sloužit takzvaná inovativní regulační prostředí (Regulatory Sandbox). Ta umožní firmám a inovátorům testovat nové produkty v omezených a kontrolovaných podmínkách, aniž by byli omezeni přísnými regulačními požadavky platnými pro běžný trh.

Systémy umělé inteligence pro obecné účely (GPAI) pak dle nařízení musí dodržovat požadavky na transparentnost. V případě modelů GPAI s vysokým systémovým rizikem pak budou platit přísnější povinnosti. Mezi ty spadá například povinnost vypracování technické dokumentace, dodržování autorského práva EU nebo pravidelné hodnocení modelů a podávání zpráv o jejich energetické účinnosti. 

Od návrhu k implementaci

Přestože hledání finální podoby této regulace trvalo několik let, již několik dní po jeho odsouhlasení se ozývají kritické hlasy. Ty patří například inovátorům z oblasti medicíny. Obávají se, že pravidla, která budou muset splnit lékařské přístroje obsahující AI komponent budou příliš přísná. Kromě AI aktu se totiž musí řídit také Nařízením o lékařských prostředcích (MDR). Náklady a složitost procesu by dle předních firem z oblasti MedTech mohly investory od působení na evropském trhu odradit. 

Kovařík ale upozorňuje, že schválení dokumentu je pouze prvním krokem, zásadnější bude jeho následná implementace do praxe. V každém státě EU bude muset vzniknout úřad, který se touto problematikou bude zabývat. „V tomto ohledu zatím nevidím žádnou aktivitu ze strany úřadů v České republice. Máme zde špičková akademická pracoviště a také řadu inovativních firem, pro které taková podpora bude důležitá. Je na čase ze strany státu tuto podporu co nejdříve zajistit, “ uzavírá člena frakce Renew.

Po vydání nařízení bude následovat zhruba dvou až tříleté implementační období, AI Act tak bude účinný podle předpokladu v roce 2026.