Právní průvodce

AI ve firmě:  bezpečně a legálně 

Jak implementovat umělou inteligenci v souladu s GDPR, EU AI Act nebo autorským právem.

9 kapitol a praktické materiály ke stažení.
Write your awesome label here.

🛡️

Ochrana osobních údajů, AI a GDPR

📝

Směrnice pro používání AI ve firmě 

🎓

Povinné proškolení zaměstnanců

⚠️

Kategorizace AI nástrojů dle EU AI Act

👩‍💼

Používání umělé inteligence v HR

👨🏻‍🔧👩‍🔬

Využívání AI kandidáty 

🔖

Označování obsahu vytvořeného AI

⚖️

Autorská práva a AI generovaný obsah 

🛠️

AI bezpečně a s rozumem 

🎁

Bonusové materiály ke stažení

☝️ Důležité
Tento průvodce shrnuje problematiku AI a práva laickou a srozumitelnou formou. Pro závazná právní stanoviska se vždy obracejte na svojí advokátní kancelář.

🛡️  
Ochrana osobních údajů -
AI a GDPR 

Základním pravidlem je, že při používání AI musíme stále dodržovat GDPR. Nejde pouze o zjevné úkony, jako je zpracování něčího životopisu pomocí ChatGPT, ale i o běžné činnosti jako vytváření souhrnů z e-mailové komunikace nebo zápisů ze schůzek, kdy pracujeme se jmény zaměstnanců.

Co je třeba udělat

Získejte informovaný souhlas zaměstnanců. Doporučujeme do stávajícího souhlasu se zpracováním osobních údajů dle GDPR doplnit formulaci o zpracování pomocí AI nástrojů.

Nevkládejte osobní údaje (a další citlivá data) do nezabezpečených nástrojů. Běžný ChatGPT (zejména v neplacené verzi) je nezabezpečený AI nástroj - vše, co do něj vložíte, používá OpenAI ke zlepšování svých služeb a trénování AI modelu. Sice nehrozí, že by vaše konverzace četli jiní uživatelé, ale nad svými daty nemáte úplnou kontrolu.


Ideální jsou firemní AI nástroje.
Stále více firem poskytuje svým zaměstnancům vlastní zabezpečené AI systémy. Solidní míru zabezpečení nabízí i Enterprise verze ChatGPT, kde se OpenAI zavazuje, že na vašich datech netrénuje. Můžete nastavit, jak dlouho budou data uložena, vaše konverzace s nikým nesdílí a vše probíhá šifrovaně.


Jak řešit ochranu osobních dat?

  • Vkládejte dokumenty v anonymizované podobě. Například používejte osobní čísla místo jmen.
  • Upravujte dokumenty před vložením do AI. Potřebujete-li pracovat s životopisem, vytvořte snímek obrazovky pouze té části CV, kde nejsou osobní údaje.
  • U nezabezpečených nebo bezplatných nástrojů musíme být dvakrát tak obezřetní. 

📝
Směrnice pro používání AI ve firmě 

Doporučujeme vytvořit interní směrnici pro používání AI nástrojů ve firmě. Tato směrnice nemusí být komplikovaná - může jít o jednoduché "desatero" zásad, které zaměstnancům pomůže orientovat se v tom, co je při práci s AI povoleno a co není.

Co by měla směrnice obsahovat?

  • Seznam doporučených a zabezpečených AI nástrojů, které mohou zaměstnanci používat (pokud takové ve firmě máte implementované).
  • Pravidla pro vkládání dat: Jasné instrukce, jaké typy dat lze do AI nástrojů vkládat a jaké nikoliv (například zákaz vkládání osobních údajů, firemního know-how, autorsky chráněných materiálů apod.)
  • Odpovědnost člověka: Za výstup je vždy zodpovědný zaměstnanec. AI by měl používat jako pomocníka, nikoli jako náhradu své práce, a neměl by nekriticky přijímat její výstupy.
  • Bezpečnostní opatření: Pokyny pro ochranu citlivých informací a prevenci kybernetických rizik.
  • Etické zásady: Doporučení pro zodpovědné a etické používání AI, včetně respektování autorských práv.
📎 Vzor AI směrnice ke stažení!

🎓
Proškolení zaměstnanců

Od února 2025 vstupuje v platnost směrnice známá jako EU AI Act, která definuje právní rámec využívání umělé inteligence ve firmách. Z ní vyplývá povinnost proškolit zaměstnance v používání umělé inteligence, pokud ji v práci využívají.

💡 Tip
Proškolení může mít jednoduchou formu v délce 15 až 30 minut, kdy představíte hlavní zásady a seznámíte zaměstnance se základními pravidly (viz směrnice). Školení by mělo být maximálně praktické a užitečné. Vše demonstrujte na konkrétních příkladech z vaší firmy.

⚠️
Kategorizace AI nástrojů dle EU AI Act

Na rozdíl od běžné automatizace procesů, kdy činnost probíhá podle předem definovaných pravidel, je rizikovost AI spatřována ve schopnosti "samostatně přemýšlet", a tedy v riziku, že svými závěry a rozhodnutími způsobí škodu nebo někoho poškodí.

AI nástroje se z hlediska rizikovosti dělí do 4 kategorií, podle kterých je třeba k nim přistupovat:

1) Systémy AI s nepřijatelným rizikem 

Zahrnují podprahovou manipulaci, zneužití zranitelnosti osob (např. věk, zdravotní postižení, špatná socioekonomická situace), social scoring, sledování emocí osob na pracovišti či biometrickou kategorizaci.

2) Systémy AI s vysokým rizikem 

Do této kategorie spadají systémy pro nábor a hodnocení pracovníků, typicky výběr uchazečů o práci. Na jejich využívání se váže řada povinností (pro poskytovatele i uživatele), například archivační povinnost, registrace systému, vyhodnocení rizik apod.

Využívání těchto systémů je možné, ale je třeba se důkladně seznámit s právní problematikou a vyžadovat od dodavatele prokázání souladu s AI Actem. 

Člověk musí mít v rozhodování vždy poslední slovo a musí umět pochopit a vysvětlit rozhodnutí systému.

3) Systémy AI s omezeným rizikem (tzv. GPAI)

Sem spadá většina běžných AI nástrojů, včetně chatbotů, avatarů a voicebotů. Důležitá je zejména povinnost informovat uživatele, pokud interagují s AI.
Doporučujeme používat systémy od důvěryhodných dodavatelů, být obezřetní k nástrojům, které jsou zdarma, a pečlivě zvažovat, jaká data s kým sdílíte (protože poskytovatel má vždy možnost vidět vaše data).

4) Systémy AI s nízkým rizikem 

Například asistenti typu Siri, aplikace pro filtrování e-mailů apod., které nejsou nijak regulované.
Zajímá vás víc? Pusťte si záznam webináře, kde vše do detailu probíráme s právníky.
Write your awesome label here.

👩‍💼
Používání AI v HR

Není třeba se užívání AI bát. Spousta procesů v rámci HR je bez rizika, a správné používání AI může ušetřit spoustu času a zlepšit výsledek práce.

Bezpečné procesy 

Většina běžných úkonů v HR nespadá do rizikové kategorie. Bez obav můžete AI využívat pro:
  • Tvorbu pracovních inzerátů
  • Přípravu vzdělávacích materiálů
  • Přípravu onboardinguKomunikační materiály
  • Školení
  • Tvorba interních předpisů
  • Sběr zpětné vazby a vyhodnocování dotazníků
  • Vyhodnocování dat

Rizikové procesy 

  • Vyhodnocování životopisů
  • Hodnocení zaměstnanců
  • Analýzy osobnosti


Při těchto činnostech musí nejen poskytovatel AI řešení splnit řadu povinností, ale máte je i vy jako uživatelé: monitoring fungování AI systému, archivační povinnost, posouzení vlivu na ochranu osobních údajů.

💡 Doporučení

AI nám poskytuje mnoho příležitostí, jak zvýšit produktivitu v běžných rutinních činnostech, které jsou zároveň bezrizikové. Začněme nasazovat AI právě zde a nepouštějme se na tenký led, pokud nemáme jistotu, že splňujeme všechny povinnosti a že zisk produktivity za to stojí. Případné pokuty jsou skutečně vysoké (až miliony eur).

👨🏻‍🔧👩‍🔬
Používání umělé inteligence kandidáty 

V dnešní době mohou i kandidáti při hledání práce využívat AI nástroje, například při psaní životopisů, motivačních dopisů nebo při vyplňování testů. Je důležité mít v této oblasti jasno a stanovit pravidla, která budou srozumitelná jak pro HR tým, tak pro uchazeče.

Co je potřeba zvážit?

  • Povolení nebo omezení použití AI: Rozhodněte se, zda umožníte kandidátům používat AI při určitých částech náborového procesu. 
  • Transparentnost: Pokud je použití AI omezeno nebo zakázáno, jasně to komunikujte v průběhu náboru.
  • Náborové metody: Přizpůsobte metody hodnocení tak, aby zohledňovaly možnost využití AI nástrojů kandidátem (například online testy jsou snadno vyřešitelné pomocí AI, a proto nejsou průkazné).
  • Mějte jednotný přístup napříč celou firmou.

💡 Doporučení

Není dobré nastavit příšli restriktivní přístup. Pokud kandidáti používají AI chytře, stejně nemáte moc šancí to odhalit (nástroje pro detekci AI textu nejsou spolehlivé). 

🔖
Označování obsahu vytvořeného umělou inteligencí 

Podle obchodních podmínek některých nástrojů, například OpenAI, bychom měli označovat výstupy vytvořené AI. V praxi je však potřeba přistupovat k této otázce rozumně a podle kontextu.

Kdy označovat obsah jako vytvořený AI?

  • Chatboti, avataři, hlasoví asistenti apod. Pokud zaměstnanci nebo klienti komunikují s AI nástrojem a mohli by mít dojem, že komunikují s člověkem, je třeba jasně informovat, že jde o AI.
  • Analýza, strojově vytvořený souhrn ze schůzky, AI generovaný článek - i v těchto oblastech může být žádoucí označit AI obsah.
  • Naopak nemá smysl označovat každý e-mail jako zpracovaný pomocí AI jen proto, že jsme ho poslali do ChatGPT na překlad.
  • Pokud vytváříme díla pro naše zákazníky, měli bychom je informovat o míře zapojení AI.

💡 Automatické označovaání AI obsahu

Některé AI nástroje (například OpenAI v obrázcích) již začaly přidávat do obraázků AI vodoznak. AI obrázky jsou automaticky označované i na LinekdInu.

⚖️
Autorská práva a AI generovaný obsah 

⚠️ Hlavní zásada

AI by měla sloužit jako pomocník, nikoli jako náhrada tvůrčí práce, a je třeba respektovat práva ostatních autorů.
1) Vlastnictví obsahu vytvořeného AI. Obsah generovaný AI nemusí podléhat autorskému právu, protože není vytvořen lidskou tvůrčí činností. To nepředstavuje problém u běžných ilustrací, obrázků do prezentací a dalších materiálů, které běžně v práci vytváříme.

2) Vytváření AI děl pro vaše zákazníky.
Zvláštní pozornost věnujte situacím, kdy má být výstup z AI poskytnut zákazníkovi s určitými právy duševního vlastnictví. Zejména není možné použít AI pro vytváření výstupů (například grafiky nebo kódu), u kterých zákazník požaduje výhradní licenci, postoupení autorských práv nebo záruku, že jde o autorské dílo.

3) Napodobování stylu
Pokud požádáte AI, aby vytvořila dílo ve stylu konkrétního autora nebo kopii jeho díla, dostáváte se do střetu s autorským právem.
Vyhněte se kopírování a nepoužívejte AI k napodobování konkrétních děl či stylů.
 ✅ Pokud chcete, aby byl výsledek (například obrázek) v určitém stylu, definujte jej spíše obecně, např. "Nakresli obrázek XY v komiksovém stylu". To je v pořádku. 

❌ Špatně je požadovat vytvoření obrázku ve stylu určitého autora nebo kopírování konkrétní předlohy. To je plagiátorství.

Vytvářejte originální obsah
Používejte AI k tvorbě nového, originálního obsahu, který není založen na chráněných dílech.
⚠️ Důležité
Jako uživatel AI nástrojů jste zodpovědní za obsah, který předáváte dál. Nemůžete se vzdát odpovědnosti argumentem "...ale to mi nakreslila AI".

🛠️
Implementace AI bezpečně
a s rozumem 

Zavádění AI do firemních procesů může přinést mnoho výhod, ale je důležité přistupovat k tomu bezpečně a s rozvahou. Není třeba se AI obávat; klíčové je používat zdravý rozum a dodržovat základní zásady.

Jak na to?

  • Právní minimum: Zaveďte informovaný souhlas, praktickou směrnici pro užívání AI a základní proškolení zaměstnanců.
  • Bezpečné AI nástroje: Pokud nemáte vlastní firemní zabezpečený AI nástroj, raději předpokládejte, že všechna data, která do AI vložíte, si může někdo přečíst. Sami si odpovězte, u kterých dat to představuje riziko a kde nikoliv. Kontrolní otázka: "Zveřejnil bych tato data na webu?"
  • Určitě najdete mnoho možností využití AI v bezrizikových oblastech. Těmi začněte nejdříve.
  • AI by měla sloužit jako pomocník, ale konečná rozhodnutí musí zůstat v rukou lidí. Nenechávejte klíčová rozhodnutí na AI.
  • Pragmatický přístup: Nepřehánějte obavy z AI legislativy. Stejně jako u GDPR se praxe ukázala jako přirozená a logická. Byla by škoda přílišnou regulací a “strašením” odradit zaměstnance od kreativního (ale samozřejmě bezpečného) experimentování.

🎁
Bonusový materiál zdarma pro vás

AI ve firmě bez rizika? Pošleme vám podklady, které vám ušetří čas i starosti.

  • Záznam 60minutového webináře s advokátem Luďkem Plachkým – detailní průvodce všemi právními aspekty implementace AI ve firmách.
  • Praktický vzor interní směrnice – připraven k okamžitému použití. Stačí stáhnout, upravit podle potřeb vaší firmy a máte hotovo!
Podklady vám pošleme e-mailem. Stačí vyplnit kontakt:
✉️
Podklady jsou na cestě do vaší schránky. Podívejte se raději i do spamu.
Write your awesome label here.

📌
Užitečné odkazy

Zajímá vás toto téma víc do hloubky? Prozkoumejte další zdroje:
Created with