Zaměstnanec vloží do AI nástroje zákaznickou smlouvu a požádá o stručné shrnutí. Jiný si nechá upravit životopis uchazeče nebo připravit odpověď na reklamaci. Každý tím může ušetřit čas. Vedení firmy se ale o použití nástroje nemusí vůbec dozvědět, přestože do něj putují obchodní informace nebo osobní údaje. Právě u těchto běžných situací má smysl začít s pravidly pro AI.
Rozhoduje konkrétní použití nástroje
Firma, která používá cizí nástroj ke své práci, je typicky v roli zavádějícího subjektu podle AI Actu. Tento pojem označuje profesionálního uživatele systému; nemusí jít o společnost, která umělou inteligenci vyvíjí. Rozsah povinností závisí na tom, co systém dělá, jak jej firma používá a zda se její role například při úpravách či poskytování vlastního řešení nezmění.
Pomoc při formulaci e-mailu proto nelze posuzovat stejně jako systém hodnotící uchazeče o zaměstnání nebo rozhodující o přístupu lidí ke službě. U takových použití je namístě samostatně prověřit rizikovost i právní režim. Totéž platí pro veřejné instituce, kde se k evropským pravidlům přidává odpovědnost za řádný výkon jejich agendy.
Evropská pravidla se letos změnila
Červencová novela AI Actu upravila mimo jiné povinnost podporovat rozvoj AI gramotnosti lidí, kteří se systémem pracují. Aktuální pravidlo nevyžaduje, aby firma garantovala konkrétní úroveň znalostí každého jednotlivce. Povinnost přijímat odpovídající opatření k rozvoji znalostí a dovedností ale zůstává. Konkrétní podoba má vycházet ze zkušeností pracovníků, používaných nástrojů a účelu jejich použití.
Nařízení tak samo o sobě nepředepisuje jeden povinný certifikovaný kurz pro všechny zaměstnance. Smysluplným opatřením může být přiměřené školení na situacích, které firma skutečně řeší, doplněné dostupným návodem a možností konzultace. Vhodné je uchovat záznam, co firma pro rozvoj těchto dovedností udělala.
Novela také posunula použití části pravidel pro vysoce rizikové systémy: u systémů podle přílohy III na 2. prosince 2027, u příslušných systémů spojených s regulovanými výrobky na 2. srpna 2028. Tyto termíny ale neposouvají všechny povinnosti při používání AI. Ochranu osobních údajů, smluvní důvěrnost a již použitelná pravidla je potřeba řešit nyní.
Kam odcházejí firemní informace
U každého povoleného nástroje prověřte podmínky služby a nastavení účtu. Zjistěte, zda dodavatel vstupy uchovává, k jakým účelům je používá a kdo k nim může mít přístup. Rozdíly mohou být i mezi různými tarify stejné služby. Obchodní označení účtu proto nemůže nahradit kontrolu konkrétních podmínek.
Pokud vstup obsahuje osobní údaje, je nutné posoudit právní základ, nezbytnost jejich předání a zabezpečení. Podle vztahu s dodavatelem může být potřeba zpracovatelská smlouva a řešení případného předávání údajů mimo Evropský hospodářský prostor. Pouhé odstranění jména nemusí stačit: člověka mohou identifikovat i další údaje v dokumentu. U důvěrných obchodních informací zase ověřujte, zda jejich předání dovolují vaše závazky vůči zákazníkovi.
Pravidla mají řešit běžné pracovní situace
Praktická interní pravidla mohou být stručná. Zaměstnanec z nich potřebuje zjistit, které nástroje a účty smí použít, jaké údaje do nich může vložit a u kterých úkolů musí nejprve získat souhlas. Užitečné jsou konkrétní příklady z jeho práce: veřejný popis produktu, smlouva s cenami, seznam kontaktů nebo podklady uchazečů.
Stejně jasně určete, kdo výsledek kontroluje před odesláním zákazníkovi nebo zveřejněním. AI může vytvořit přesvědčivý text s nesprávnou informací. U smlouvy je potřeba ověřit navržené změny, u nabídky skutečné parametry a u odpovědi klientovi její věcnou správnost. Použití AI samo o sobě neodstraňuje odpovědnost firmy za její vlastní jednání.
Zaměstnanci by také měli vědět, komu oznámit chybné vložení dokumentu nebo podezření na zpřístupnění informací. Včasné oznámení umožní posoudit dopad a případné další povinnosti. Postup je dobré vyzkoušet dříve, než k podobné situaci skutečně dojde.
Začněte přehledem používaných nástrojů
Prvním krokem může být jednoduchý soupis nástrojů a úkolů, k nimž se ve firmě používají. Podle něj lze nastavit přiměřená pravidla, ověřit dodavatele a vysvětlit zaměstnancům bezpečný postup. Stejný návod nemusí vyhovovat malému e-shopu, personální agentuře a obecnímu úřadu.
Pomůžeme vám posoudit používané nástroje, jejich smluvní podmínky a práci s daty. Navazující pravidla i školení připravíme podle skutečného provozu vaší organizace, aby zaměstnanci věděli, jak AI využít a kdy potřebují další kontrolu.