ČTÚ varuje firmy před novými pravidly Aktu o AI

Český telekomunikační úřad (ČTÚ) oficiálně upozornil tuzemské podniky na zahájení platnosti evropské regulace umělé inteligence, známé jako Akt o AI. Tato zpráva signalizuje přechod od teoretických diskusí k aktivnímu vymáhání nových pravidel, což vyžaduje okamžitou pozornost českých podnikatelů. Klíčovým bodem, na který úřad upozorňuje, je povinnost označování výstupů generovaných umělou inteligencí. Jak uvádí Lupa.cz, nedodržení těchto povinností může pro firmy znamenat citelné právní i finanční postihy.

Ačkoliv některé části Aktu o AI nabudou plné účinnosti až později, povinnosti týkající se transparentnosti a označování AI generátů jsou již v platnosti. To znamená, že společnosti, které využívají generativní AI systémy pro tvorbu obsahu – ať už textů, obrázků, videí nebo zvuků – musí zajistit, aby tyto výstupy byly jasně identifikovatelné jako díla umělé inteligence. Cílem je zvýšit důvěru uživatelů a zajistit transparentnost v digitálním prostředí, které je stále více ovlivňováno AI technologiemi.

Důsledky nedodržení a role ČTÚ

ČTÚ v současnosti aktivně buduje specializovaný tým odborníků, který bude mít na starosti dohled nad dodržováním nových pravidel v České republice. Tato iniciativa podtrhuje vážnost, s jakou regulátor k implementaci Aktu o AI přistupuje. Pro firmy to znamená, že se již nemohou spoléhat na to, že se pravidla budou týkat pouze velkých technologických hráčů. Regulace dopadá na všechny subjekty, které AI systémy vyvíjejí, dodávají na trh nebo je významným způsobem využívají.

Postihy za nedodržení povinností spojených s Aktem o AI mohou být značné. Kromě reputačních rizik, která plynou z netransparentního používání AI, mohou firmy čelit i vysokým finančním sankcím a právním komplikacím. Analytici upozorňují, že regulatorní orgány v Evropské unii budou pravděpodobně postupovat důsledně, aby zajistily jednotný přístup k nové legislativě. Pro české podniky je proto klíčové, aby se s novými požadavky seznámily a zajistily jejich implementaci do svých interních procesů.

Co to konkrétně znamená pro vaše interní procesy

Povinnost označovat AI generáty se dotkne široké škály firemních činností. Typicky to zahrnuje marketingové materiály, obsah pro sociální sítě, zákaznickou podporu využívající chatboty, interní reporty generované AI nástroji nebo jakékoli vizuální či zvukové výstupy, které prošly generativní AI. Firmy by měly zvážit, jakým způsobem jejich zaměstnanci a externí dodavatelé AI nástroje využívají. Je nezbytné zavést jasné směrnice a postupy, které zajistí, že veškerý relevantní obsah bude řádně označen.

Identifikace AI generovaného obsahu může být výzvou, zejména pokud zaměstnanci využívají volně dostupné nástroje bez vědomí vedení. Proto je důležité nejen implementovat technická řešení, ale také investovat do vzdělávání zaměstnanců. Pochopení, co přesně je AI generát a jaké jsou povinnosti s ním spojené, je základem pro efektivní dodržování regulace. Firmy by měly rovněž zvážit revizi smluv s dodavateli AI služeb a nástrojů, aby zajistily soulad i na straně třetích stran.

Co to znamená pro vaši firmu

• Audit interních AI procesů: Proveďte komplexní audit všech interních procesů a nástrojů, kde dochází k využití generativní umělé inteligence. Identifikujte, kde vznikají AI generáty a jak jsou dále distribuovány.
• Vytvoření interních směrnic: Zaveďte jasné a srozumitelné interní směrnice pro používání AI nástrojů a povinné označování AI generátů. Tyto směrnice by měly být závazné pro všechny relevantní oddělení a zaměstnance.
• Vzdělávání a školení zaměstnanců: Zajistěte pravidelné školení pro zaměstnance, kteří přicházejí do styku s AI technologiemi. Měli by rozumět regulatorním požadavkům a vědět, jak správně označovat AI generáty.
• Monitorování legislativního vývoje: Sledujte aktuální vývoj v oblasti legislativy a doprovodných prováděcích předpisů Aktu o AI, abyste mohli včas reagovat na případné změny a upřesnění.