Do každé nabídky na systém, který připravuje dokumenty, píšeme jednu větu: systém připravuje pouze koncept, konečné rozhodnutí a podpis zůstávají vždy na vás. Poprvé jsme ji použili v nabídce ze 3. 6. 2026 a od té doby z ní neustupujeme.
Nevypadá to jako prodejní argument. Je to popis toho, jak ta technologie doopravdy funguje: model vytváří pravděpodobný text, ne pravdivý. Většinou je pravděpodobný text zároveň správný, a právě to je na tom nebezpečné. Chyba nepřijde jako chybová hláška. Přijde jako plynulý odstavec, ve kterém je špatné datum.
Tenhle text je o tom, co s tím udělat prakticky. Ne o tom, že „člověk má výstup zkontrolovat“ - to řekne každý. O tom, jak zařídit, aby ta kontrola byla proveditelná a aby nešla obejít.
Odpovědnost se nedá přesunout na nástroj, i kdyby to někdo sliboval
Když z automatizace vyjde nabídka se špatnou cenou, faktura na špatný subjekt nebo dokument se špatnou lhůtou, nese to vaše jméno a vaše razítko. Dodavatel automatizace za obsah dokumentu neodpovídá a ani odpovídat nemůže: nezná vaši věc, nevidí spis, nemá zákazníka.
Z toho plyne rozdělení, které stojí za to mít napsané v zadání ještě před kódem:
- Systém odpovídá za to, že proces proběhl - data se načetla, dokument se vytvořil, uložil se na správné místo, upozornění došlo.
- Člověk odpovídá za to, co v dokumentu stojí - a musí k tomu dostat podmínky, ne jen tlačítko „schválit“.
Tři místa, kde koncept musí projít člověkem
Ne všechno v dokumentu má stejnou váhu. Kontrolovat všechno stejně pečlivě znamená nekontrolovat nic, protože po třetím dokumentu to kontrolor odklikne.
Čísla. Částky, sazby, procenta, počty. Model je umí přepsat správně a umí je i dopočítat, a to druhé nesmí. Číslo, které v podkladu není, se nesmí v dokumentu objevit.
Data a lhůty. Nejtišší kategorie chyb vůbec: datum vypadá správně vždy. Splatnost, výpovědní doba, začátek plnění, poslední den lhůty.
Strany a identifikace. Kdo s kým, na koho je to psané, komu to odchází. Tady se navíc potkává kontrola s otázkou, které údaje vůbec smějí opustit váš systém - o tom je samostatný text co odchází do jazykového modelu.
Potvrzení před odesláním je krok procesu, ne obrazovka navíc
Vlastní příklad, protože je nejlépe ověřený: náš bot, který obsluhuje chat na webu, odpověď nikdy neodesílá sám. Nadiktujeme mu odpověď hlasem, on ji srovná do věcného textu v jazyce, kterým píše zákazník, a pak čeká na potvrzení. Buď se odpověď potvrdí, nebo se opraví. Teprve potom odchází.
Rozdíl proti běžnému „AI chatbotu“ je v jedné vlastnosti: mezi modelem a zákazníkem stojí krok, který nejde přeskočit, protože bez něj zpráva neexistuje. Rychlost tím klesne o desítky sekund. Nic jiného tím neklesne.
Tohle uspořádání se vyplatí všude, kde výstup opouští firmu: nabídky, odpovědi na poptávky, dokumenty pro protistranu. Naopak se nevyplatí tam, kde výstup zůstává uvnitř a slouží jako podklad - tam potvrzování jen zdržuje a lidé si najdou cestu okolo.
Čtyři věci, které kontrolu umožní, a bez kterých je to jen formalita
Koncept musí být poznat na první pohled. Ne malým písmem v patičce. Dokument, který ještě neprošel člověkem, má vypadat jinak než hotový - jinou barvou, vodoznakem, jiným názvem souboru.
Vedle konceptu musí být vidět podklad. Kontrolor potřebuje porovnat text s tím, z čeho vznikl. U jednoho projektu si to klient vyžádal sám 10. 8. 2026: chtěl přikládat soubory přímo k vytvoření dokumentu, aby se údaje natáhly z nich a nepřepisovaly se ručně. Méně přepisování znamená méně míst, kde může vzniknout údaj bez zdroje.
Verze, která se podepsala, se musí uložit. Ne poslední verze v systému. Ta konkrétní, kterou člověk schválil. Za rok je to jediný způsob, jak zjistit, co se vlastně stalo.
Model nesmí sám odesílat ven. Odeslání je rozhodnutí, ne formátovací krok. Když má systém možnost odeslat, dřív nebo později to udělá ve chvíli, kdy se nikdo nedívá.
Rozdělte úlohy mezi dílčí agenty, ať je poznat, kdo co udělal
Architektonické rozhodnutí, které s odpovědností souvisí víc, než se zdá. V projektu ze začátku léta 2026 jsme se 30. 5. 2026 rozhodli nestavět jednoho univerzálního asistenta, ale několik dílčích agentů, každého na jednu úlohu. K tomu patří pravidlo ze 17. 6. 2026: každý agent se učí odděleně na svých datech.
Praktický důvod je prostý. U jednoho velkého asistenta se po chybě nedá říct, co ji způsobilo, a oprava se dělá tak, že se do zadání přidá další věta a doufá se. U agenta, který dělá jednu věc, se dá vada zopakovat, opravit a otestovat. Zároveň je jasné, kdo z lidí je za tu úlohu odpovědný, protože ta úloha má hranice.
Kde model nemá co dělat vůbec
Poslední kategorie: dotazy, u kterých model nepřidává hodnotu a přidává riziko. U našeho bota, který informuje klienty o stavu jejich věci, platí od 10. 3. 2026 pravidlo, že dotaz na konkrétní spis obsluhuje skriptovaná větev. Odpověď je sestavená z dat, ne vygenerovaná. Nemůže tedy být formulovaná hezky a přitom špatně.
Otázka, kterou si u své vlastní automatizace položte: co z toho, co dnes generuje model, je vlastně jen vytažení údaje z databáze? Ta část patří do skriptu. Zlevní to provoz a odstraní celou třídu chyb.
Co si nechte napsat do nabídky
Čtyři formulace. Když v nabídce nejsou, doplňte je do ní.
- Systém připravuje koncept; rozhodnutí a podpis zůstávají na nás.
- Výstup je označený jako koncept až do okamžiku schválení člověkem.
- Systém neodesílá ven bez potvrzení; seznam výjimek je uvedený jmenovitě.
- Schválená verze se archivuje a je dohledatelná.
Chcete to nastavit u sebe
Napište nám, jaké dokumenty ve firmě vznikají opakovaně a kdo je dnes podepisuje. Vrátíme návrh, kde má stát potvrzovací krok a co se dá udělat skriptem místo modelu.
Systémy s tímhle rozdělením stavíme v rámci automatizace firemních procesů.
Napište na info@lamapixel.com nebo volejte +420 775 599 009.
