Umělá inteligence (AI, z anglického Artificial Intelligence) je jednou z nových rychle se rozšiřujících technologií, která má potenciál zlepšit život jednotlivců i celé společnosti díky schopnosti napodobovat lidské dovednosti a činnosti. Na druhé straně může znamenat značné nebezpečí pro jednotlivce i sociální skupiny, mj. proto, že může nakládat s osobními údaji způsobem, který je v příkrém rozporu s GDPR.
Z uvedených důvodů bylo rozhodnuto o regulaci využívání umělé inteligence v EU. Konkrétně byl vytvořen formou nařízení dokument AI Act, který otázku umělé inteligence komplexně upravuje. Evropský parlament i Rada Evropské unie ho schválily a 12. července 2024 byl AI Act zveřejněn v Úředním věstníku jako nařízení Evropského parlamentu a Rady (EU) 2024/1689. Jde o rozsáhlý dokument, česká verze má drobným písmem 144 stran. Plné uplatnění celého AI Act nastane dva roky po vydání, tedy v roce 2026.
Některé části regulace AI ale byly vymahatelné dříve. Konkrétně zákazy se uplatnily už 1. února 2025, další ustanovení 1. srpna 2025. Je třeba uvážit, že legislativní dokument typu nařízení platí okamžitě v celé Evropské unii, i bez národní regulace formou zákona a případně vyhlášek.
Za této situace už měly na firmy AI Act reagovat vnitřním předpisem, který vyloučí, že firma bude v rozporu s AI Act využívat buď zakázanou umělou inteligenci nebo i povolenou umělou inteligenci, ale zakázaným způsobem.
Kromě zákazů z nařízení AI Act je třeba pečlivě zvážit, které zákazy nebo využití s podmínkami si má firma definovat sama v rámci bezpečnosti svého podnikání.
Naše firma vám může pomoci s následujícími pracemi:
- vytvoření řídicího dokumentu (směrnice) pro využívání AI, vč. pravidel pro implementaci nakupovaných produktů i produktů, které jsou k dispozici zdarma,
- inventarizaci agend, ve kterých už dnes AI využívají,
- porovnání tohoto využívání se zakázanými praktikami, případně ukončení nezákonného zpracování,
- porovnání pravidel pro AI s GDPR a případné provedení balančních analýz, DPIA apod. s následnou úpravou dokumentů tak, aby byly obě odborné oblasti v souladu,
- zavedení kontrolních mechanismů ve vztahu k využívání AI.