Český telekomunikační úřad zahájil dohled nad umělou inteligencí

Dohled nad umělou inteligencí v České republice nabývá konkrétních obrysů. Od prvního září letošního roku oficiálně zahájilo činnost nové specializované oddělení na Českém telekomunikačním úřadě (ČTÚ), jehož primárním úkolem je dohlížet na oblast umělé inteligence. Tento krok není izolovanou iniciativou, nýbrž přímou reakcí na požadavky a principy evropského nařízení o umělé inteligenci, známého jako AI Act.

Vznik tohoto útvaru signalizuje, že Evropská unie a její členské státy přecházejí od teoretických diskusí k praktické implementaci regulace AI. ČTÚ se tak stává jedním z klíčových vnitrostátních orgánů, které budou plnit roli dozoru nad trhem s AI technologiemi. Pro české vývojáře, integrátory a firmy, které umělou inteligenci využívají nebo vyvíjejí, to znamená, že se pravidla AI Actu stávají reálnou součástí jejich podnikatelského prostředí.

Role a působnost nového oddělení

Primární funkcí nově zřízeného oddělení je zajišťovat soulad s požadavky AI Actu na českém trhu. Toto nařízení, které je postaveno na rizikově orientovaném přístupu, kategorizuje AI systémy podle míry rizika, které představují pro uživatele a společnost. Systémy s vysokým rizikem podléhají nejpřísnějším požadavkům, které se týkají transparentnosti, bezpečnosti, dohledu člověka a robustnosti. Oddělení ČTÚ bude mít za úkol monitorovat, zda jsou tyto požadavky dodržovány, a v případě zjištění nedostatků přijímat příslušná opatření.

Očekává se, že dohled ČTÚ se nebude omezovat pouze na pasivní kontrolu, ale bude zahrnovat i aktivní činnosti, jako je poskytování metodické podpory, interpretace pravidel a komunikace s dotčenými subjekty. Cílem je vytvořit prostředí, které podporuje inovace, ale zároveň zajišťuje důvěryhodnost a bezpečnost AI systémů. Důraz bude kladen na to, aby se AI technologie vyvíjely a nasazovaly odpovědně, s ohledem na etické principy a ochranu základních práv občanů.

Co to znamená pro české firmy a vývojáře

Zahájení dohledu nad AI ze strany ČTÚ je zlomovým momentem pro celý český technologický sektor. Dosud se firmy mohly s AI Actem seznamovat a připravovat se na jeho budoucí platnost. Nyní se však dostáváme do fáze, kdy se teoretické požadavky začnou promítat do praktických kontrol a vynucování. To znamená, že společnosti, které vyvíjejí nebo nasazují AI systémy, musí aktivně posoudit svou připravenost a zajistit plnou shodu s regulací. Podle informací z Lupa.cz je to přímý důsledek startu nového oddělení.

Firmy by měly revidovat své interní procesy, dokumentaci a technická řešení, aby odpovídaly novým standardům. Zvláštní pozornost je třeba věnovat AI systémům klasifikovaným jako "vysoce rizikové", které podléhají přísnějším požadavkům na posuzování shody, řízení rizik, monitorování a transparentnost. Proaktivní přístup k regulaci může firmám přinést konkurenční výhodu a posílit důvěru zákazníků i partnerů.

Co to znamená pro vaši firmu

• Proveďte interní audit AI systémů: Zmapujte všechny AI systémy, které vaše firma vyvíjí, nasazuje nebo využívá. Posuďte jejich klasifikaci dle AI Actu (zejména potenciální "vysoce rizikové" systémy).
• Připravte se na dokumentační požadavky: Zajistěte, že máte připravenou veškerou potřebnou dokumentaci, včetně technické dokumentace, systémů řízení rizik a protokolů pro sběr dat, jak to AI Act vyžaduje.
• Sledujte vývoj regulace a metodiky: ČTÚ bude postupně vydávat další upřesňující informace a metodiky. Je klíčové být informován o aktuálním vývoji a přizpůsobovat se novým pokynům.
• Zvažte školení zaměstnanců: Zajistěte, aby vaši klíčoví zaměstnanci, zejména ti z oddělení vývoje, práva a compliance, byli proškoleni v požadavcích AI Actu a jeho dopadech na firemní procesy.