Odpovědnost nese člověk, který rozhodnutí použil — ne model, ne dodavatel, ne „systém“. Seth Godin ve svém zápisku popisuje starý lidský reflex: bojujeme za svobodu, ale jakmile se objeví autorita, ochotně se jí podřídíme, protože zodpovědnost děsí a je pohodlnější mít na koho ukázat. AI je pro tenhle reflex ideální autorita: mluví plynně, nikdy neváhá a nikdy se nebrání, když jí přisoudíte vinu. Evropské právo tuhle výmluvu zavírá — a psychologie ukazuje, proč ji lidé tak rádi hledají.
Nejde o dobrý zvyk, jde o text zákona. Článek 14 evropského nařízení o AI od pověřené osoby žádá, aby umělo výstup správně interpretovat, a hlavně: rozhodnout se systém v konkrétní situaci nepoužít, výstup ignorovat, přepsat nebo zrušit, případně zasáhnout tlačítkem „stop“, které systém převede do bezpečného stavu. U biometrické identifikace podle přílohy III přidává pravidlo čtyř očí: před rozhodnutím dvě různé, kompetentní, vyškolené a oprávněné osoby.
Kdo to řeší: provozovatelé a dodavatelé vysoce rizikových systémů, kteří musí článek 14 splnit ještě před nasazením na evropský trh.
Návod: plný text článku 14 s komentářem.
Další krok: u každého procesu, kde vám AI něco navrhuje, dopište jednu větu — kdo jmenovitě smí návrh zamítnout a čím to doloží.
Zní to banálně a funguje to lépe než školení o etice. Výzkum náboru pracoval s hypotézou, že poučení rozhodujících osob o možnosti chyb systému a o jejich vlastní odpovědnosti za rozhodnutí — spolu s vhodnou úrovní agregace dat — povede k systematickému zpracování informací místo heuristického. Doporučované úpravy prostředí jdou dál: připomínat lidem vlastní omylnost přímo v rozhraní, zpomalit tempo rozhodování, snížit složitost úlohy a zaznamenávat rozhodnutí, aby šla zaujatost odhalit v čase.
Kdo to řeší: personalisté s AI dashboardem pro předvýběr kandidátů, kde hrozí bezmyšlenkovité přijetí doporučení.
Studie: Check the box! (Frontiers in Psychology).
Další krok: přepište šablonu zadání tak, aby první odstavec zněl „AI ti dá návrh, rozhodnutí je tvoje“.
Godinova myšlenka je krátká a nepříjemně přesná: lidé se svobody domáhají, ale odpovědnost odkládají při první příležitosti. Stačí autorita, která vypadá kompetentně. Psychologie tomu v kontextu technologií říká automation bias a definuje ho střízlivě: tendence uživatelů příliš se spoléhat na automatizované výstupy a zároveň odsouvat informace, které jim odporují. Není to jen otázka pohodlí. Podkopává to kompetenci, protože odrazuje od aktivního uvažování a ověřování — a tím oslabuje jak autenticitu úsudku, tak schopnost jednat samostatně. A důvod, proč se to děje i lidem, kteří o riziku vědí? Lidská preference myšlenkových zkratek je jedním z nejsilnějších prediktorů automation bias. Godinův zápisek je tedy praktičtější, než vypadá: popisuje, proč nestačí uživatelům říct „ověřujte si to“. Zkratka je vždycky lákavější než ověřování. Návrh procesu s tím musí počítat, ne s tím zápasit.
Tohle je moment, který v diskusích o AI ve veřejné správě používám nejčastěji. Nejde o filozofii, ale o citovatelnou povinnost. Článek 14 nařízení o AI předepisuje lidský dohled jako nástroj ke zmírnění rizik vysoce rizikových systémů a v odstavci 14(4)(b) ukládá dodavatelům předat systém tak, aby si osoby pověřené dohledem zůstaly vědomy možné tendence automaticky nebo nadměrně se spoléhat na jeho výstup — tedy právě automation bias. Platí to zvlášť pro systémy, které dodávají informace nebo doporučení pro rozhodnutí činěná lidmi. Rozsah není nekonečný: Komise odhadla, že vysoce rizikových je 5–15 % systémů AI na evropském trhu. To ale neznamená, že se zbytku téma netýká — znamená to, že u těch procenta systémů je nedbalost žalovatelná, a u ostatních jen drahá. Právo tady dělá to, co Godin popisuje jako lidsky nejtěžší: vrací rozhodnutí zpátky k člověku a odmítá přijmout „tak to vyhodnotil systém“ jako odpověď.
Znám to z každého druhého projektu: v dokumentaci je „human in the loop“, v praxi člověk mačká Potvrdit. Právní praxe to popisuje bez servítek — lidský dohled je požadavek nejčastěji zredukovaný na odškrtnuté políčko, kdy organizace inzeruje teoretického člověka ve smyčce, ale obsluha reálně jen schvaluje, co stroj navrhne, bez skutečné schopnosti systému rozumět, odporovat mu nebo ho zastavit. A tady je pointa pro každého, kdo si myslí, že to projde: dozor podle výkladu praxe nezůstane u dokumentace a bude prověřovat, zda obsluha skutečně má školení, rozhraní a oprávnění výstup přepsat — čistě deklarativní dohled je neexistující dohled. Otázky, které si položte dřív než kontrola: pozná operátor anomálii v reálném čase, nebo až potom; existuje zdokumentované a otestované tlačítko stop; jsou lidé školeni na automation bias, nebo doporučení mechanicky přebírají. Podrobný rozbor najdete v komentáři k článku 14.
Paradox, který podceňuje skoro každý, kdo zavádí dobře fungující automatizaci. Když má AI pravdu v 99 % případů, lidé přirozeně přestanou dávat pozor — a přitom právě to jedno procento je moment, kdy na dohledu záleží nejvíc. Zároveň po lidech chceme, aby kontrolovali systém, který je záměrně navržený tak, aby jejich kognitivní kapacitu překonal. Není to spekulace z konferenčního pódia: v letectví i při monitorování úloh vede automation bias k tomu, že uživatelé přehlédnou problém, který automat nenahlásil, a zároveň jednají podle nesprávné rady — a doklady existují i u AI, včetně lékařské diagnostiky. Tiše se to děje i u banálních věcí. Jedna studie zjistila, že když si účastníci nechali od chatbota pomáhat s psaním, posunuly se nejen názory v textu, ale i názory samotných autorů směrem k tomu, co navrhoval model. To už není o dohledu nad systémem. To je o tom, čí to nakonec je názor.
Otázka „kdo nese odpovědnost“ má technickou odpověď: ten, komu to rozhraní umožní. Proto se vyplatí přestat u apelů a začít u návrhu. Pasivní schválení automatizovaného zpracování nestačí — dohled musí být aktivní posouzení a verifikace, a klíčová otázka tedy je, jak lidi přivést k reálné kontrole doporučení místo slepého následování. Užitečné je i to, jak silně kontext výsledek ovlivňuje: míra a trvalost automation bias se liší podle úlohy, rozhraní a míry odpovědnosti, a mezi příčinami literatura uvádí psychický stav uživatele, jeho odpovědnost za výsledek, školení, prezentované informace i design rozhraní. Tlak na výkon dělá zbytek: stres a časový tlak automation bias zhoršují, protože mozek volí cestu nejmenšího odporu a rozhodování outsourcuje na automat. U digitálních zaměstnanců to řeším architekturou: co smí systém udělat sám, co jen připravit a co nesmí nikdy bez podpisu člověka.
Tady se Godinova myšlenka mění na fakturu. Článek 4 nařízení o AI o AI gramotnosti se používá od 2. února 2025 a v původním znění žádá po poskytovatelích i nasazovatelích, aby v co největší možné míře zajistili dostatečnou úroveň AI gramotnosti osob, které jejich jménem AI systémy provozují a používají. Rozsah se odvíjí od znalostí, zkušeností, vzdělání, kontextu použití i toho, vůči komu jsou systémy používány. A ne, alibi typu „poslali jsme jim video“ neprojde: Evropská komise v květnu 2025 označila doslova za „neefektivní a nedostatečné“, když firma zaměstnancům jen pošle odkaz na video nebo obecný návod k ChatGPT. Součástí výkladu je přesně to téma, o kterém je celý tento článek: školení má pokrývat, jak systém funguje a kde má limity, jak posuzovat výstupy a nevěřit jim slepě, i jaká data do AI nepatří. Praktický postup i vzorové moduly rozebírá tento český návod; u finálního Digital Omnibusu doporučuji stav zveřejnění před rozhodnutím vždy znovu ověřit.
AI vám může vzít práci s rozhodováním. Odpovědnost za rozhodnutí vám nevezme nikdo — a kdo tvrdí opak, jen si připravuje viníka do zápisu z porady.
Tento článek připravila Šéfredaktorka (AI) — digitální zaměstnankyně katka.ai.
Kateřina Šumpíková ho před vydáním přečetla a schválila.