Vláda schválila klíčový dokument pro rozvoj i bezpečnost AI v Česku

Klíčové role v implementaci Aktu o umělé inteligenci v ČR budou zastávat Ministerstvo průmyslu a obchodu ČR (MPO), Český telekomunikační úřad (ČTÚ), Úřad pro technickou normalizaci, metrologii a státní zkušebnictví (ÚNMZ) a Česká agentura pro standardizaci (ČAS).

Rizikové AI systémy budou „pod dozorem“

Při rozvoji a implementaci umělé inteligence budou vznikat i systémy, které mohou být rizikové z hlediska bezpečnosti nebo etiky. Mezi vysoce rizikové systémy patří například biometrická identifikace, automatizované posuzování žádostí o víza, software pro třídění životopisů při přijímacích řízeních, aplikace AI v roboticky podporované chirurgii atd.

Tyto systémy budou muset podstoupit certifikaci, aby bylo ověřeno, že splňují všechny zákonné požadavky. Tzv. „posuzování shody“ provedou nezávislé organizace, které zkontrolují, zda AI systémy vyhovují zákonným podmínkám. Tyto organizace, odborně nazývané „subjekty posuzování shody“, budou dohlížet například na transparentnost, přesnost a kybernetickou bezpečnost vysoce rizikových AI systémů.

O tom, zda je subjekt posuzování shody dostatečně kvalifikovaný a kompetentní k udělování AI certifikací, rozhodne tzv. „oznamující orgán“. Tím se v ČR stane ÚNMZ, který bude nad subjekty posuzování shody vykonávat dozor a registrovat je (oznamovat) příslušným orgánům Evropské komise.

ÚNMZ jako oznamující orgán nebude provádět certifikace ani poskytovat žádné činnosti, které provádějí subjekty posuzování shody. Nebude ani poskytovat poradenské služby na komerčním nebo konkurenčním základě. „Naším cílem je vytvořit v České republice transparentní a kvalitní prostředí, které umožní, aby jen důvěryhodné a kompetentní subjekty mohly provádět certifikace AI systémů podle pravidel evropského aktu o umělé inteligenci,“ prohlásil Jiří Kratochvíl, předseda ÚNMZ.

Rozvoj AI v ČR zajistí sandbox pod dohledem ČAS

Regulatorní sandbox, za jehož vytvoření odpovídá Česká agentura pro standardizaci, je klíčovým nástrojem pro rozvoj AI. „Umožní podnikům a výzkumníkům testovat inovativní AI řešení, jako jsou autonomní systémy či pokročilé analytické nástroje, v kontrolovaném prostředí pod dohledem regulátorů,“ řekl Zdeněk Veselý, generální ředitel ČAS, a doplnil: „Tento přístup urychlí vývoj nových technologií, zajistí jejich shodu s AI Aktem a minimalizuje rizika před uvedením na trh. Hodně si od AI slibujeme právě v odvětvích, kde máme dlouhodobou tradici, know-how a zkušené lidi. Jako příklad uvedu implementaci a rozvoj AI v automobilovém průmyslu.“

Role klíčových institucí při implementaci AI Aktu

• Ministerstvo průmyslu a obchodu (MPO): Jako gestor koordinuje implementaci AI Aktu v České republice. Připraví návrh Zákona o umělé inteligenci a zřídí Kompetenční centrum AI pro eGovernment.
• Český telekomunikační úřad (ČTÚ): Jmenován orgánem dozoru nad trhem, bude zajišťovat dodržování pravidel AI Aktu v oblasti tržní regulace.
• Úřad pro technickou normalizaci, metrologii a státní zkušebnictví (ÚNMZ): Působí jako oznamující orgán, který bude jmenovat a oznamovat subjekty posuzování shody a monitorovat jejich činnost v souladu s požadavky AI Aktu.
• Česká agentura pro standardizaci (ČAS): Zodpovídá za vytvoření a správu regulatorního sandboxu, který podpoří inovace a testování AI technologií.

Spolupráce se soukromým sektorem

Česká agentura pro standardizaci chce při výstavbě a provozu regulatorního sandboxu úzce spolupracovat s odbornou veřejností a soukromým sektorem. Z tohoto důvodu navázala spolupráci s Českou asociací umělé inteligence a uzavřela s ní Memorandum o spolupráci, jehož hlavním záměrem je podpora výzkumu, vývoje a testování AI systémů, zejména prostřednictvím regulatorního sandboxu.

„Dnešní schválení implementačního plánu českou vládou je naprosto zásadní krok pro rozvoj AI v ČR. Jsme připraveni spolupracovat se státními orgány a těšíme se na naplnění Memoranda o spolupráci s ČAS, které podpoří vznik a fungování regulatorního sandboxu,“ uvedl Lukáš Benzl, ředitel České asociace umělé inteligence, který dodal: „Aby EU a Česká republika mohly konkurovat v AI Číně nebo USA, musí dobře fungovat spolupráce mezi veřejnou sférou a privátním sektorem. Pružná a rychlá výměna poznatků i know-how je nezbytná a my k tomu budeme s naší členskou základnou v rámci plnění memoranda rádi přispívat.“