Umělá inteligence má přinášet hodnotu, ne nejasnost. AI Act vytváří rámec, který pomáhá posuzovat rizika, nastavit odpovědnost a zajistit, aby se AI systémy vyvíjely a používaly s ohledem na lidi, data i konkrétní dopady.
Co je EU AI Act
EU AI Act je evropské nařízení pro umělou inteligenci. Jeho cílem je podpořit bezpečnou a důvěryhodnou AI a současně chránit zdraví, bezpečnost a základní práva lidí. Pravidla nestaví všechny systémy na stejnou úroveň. Vycházejí z toho, jaké riziko může konkrétní použití AI vytvářet.
Povinnosti se mohou lišit podle toho, zda organizace AI systém vyvíjí, poskytuje, nasazuje nebo distribuuje. Záleží také na účelu použití, pracovaných datech a konkrétních dopadech na lidi nebo procesy.
Riziko rozhoduje o rozsahu pravidel
Zakázané praktiky
Některé způsoby použití AI mohou být nepřípustné, zejména tam, kde představují nepřijatelný zásah do práv nebo bezpečnosti lidí.
Vysoké riziko
U citlivých oblastí může být potřeba řízení rizik, kvalitní data, technická dokumentace, dohled člověka a průběžná kontrola systému.
Transparentnost
U některých systémů je důležité, aby člověk věděl, že komunikuje s AI nebo že pracuje s obsahem vytvořeným či upraveným umělou inteligencí.
Obecné použití AI
Některé povinnosti se týkají také modelů, které mohou být využívány v mnoha různých systémech a pro více účelů.
Řízení a doložitelnost
Vedle technických opatření je důležité umět doložit, jak vzniklo rozhodnutí o použití AI, kdo za systém odpovídá, jak se vyhodnocuje jeho dopad a jak organizace reaguje na změny nebo incidenty.
Jak se AI Act promítá do práce s Atodatem
Odpovědné používání AI nezačíná až u finálního modelu. Začíná u přehledu nad daty, procesy, lidmi a rozhodnutími. Atodat může pomoci vytvářet strukturu pro lepší dohledatelnost a řízení souvislostí napříč životním cyklem AI řešení.
Dohledatelnost dat a výstupů. Data lineage může pomoci zachytit, z jakých zdrojů data vycházejí, jakými kroky prochází a které výstupy nebo procesy mohou ovlivnit. To je důležité při posuzování dopadů změny i při přípravě podkladů pro kontrolu.
Jasné role a rozhodnutí. Každý AI systém potřebuje znát vlastníka, odpovědné osoby i hranice použití. Strukturované řízení pomáhá určit, kdo model schvaluje, kdo sleduje jeho provoz a kdo rozhoduje ve chvíli, kdy se objeví problém.
Řízení změn a auditní stopa. Modely, data i pravidla se v čase mění. Dohledatelné změny, verze a souvislosti pomáhají lépe vysvětlit, proč systém fungoval určitým způsobem a co se změnilo mezi jednotlivými verzemi.
Dohled člověka. U citlivějších použití AI je důležité, aby člověk dokázal výstupy přezkoumat, pochopit jejich souvislosti a v případě potřeby zasáhnout. Technologie má podporovat odpovědné rozhodování, ne jej bez kontroly nahrazovat.
Co to znamená pro vás
Pro tým to znamená větší jistotu, že AI není zaváděna bez kontextu. Důležité otázky lze řešit dříve: jaká data systém používá, koho může ovlivnit, kdo za něj odpovídá a jak lze doložit klíčová rozhodnutí.
AI Act tak nemusí být jen povinnost. Při správném nastavení může být rámcem pro bezpečnější inovaci, lepší důvěru uživatelů a promyšlenější práci s technologiemi, které mají reálný dopad na lidi i organizace.
Závěr
Důvěryhodná AI není jednorázový dokument ani kontrola před spuštěním. Je to průběžná disciplína, která propojuje data, procesy, odpovědnost a dohled. Atodat může pomoci vytvářet prostředí, ve kterém jsou tyto souvislosti lépe viditelné a řiditelné.
Chcete projít odpovědné nasazení AI konkrétně pro váš projekt?
Promluvit si s Atodatem →Zdroje
[1] Evropská unie — Nařízení Evropského parlamentu a Rady (EU) 2024/1689 — EUR Lex — Artificial Intelligence Act
[2] Evropská komise — Přehled pravidel a harmonogramu AI Act — Evropská komise — AI Act