У кожну пропозицію на систему, яка готує документи, ми пишемо одну фразу: система готує лише чернетку, остаточне рішення і підпис завжди лишаються за вами. Уперше ми її використали в пропозиції від 3. 6. 2026 і відтоді від неї не відступаємо.
Вона не виглядає продажним аргументом. Це опис того, як технологія працює насправді: модель створює ймовірний текст, а не правдивий. Найчастіше ймовірний текст водночас і правильний, і саме це в ньому небезпечне. Помилка не приходить як повідомлення про помилку. Вона приходить як гладкий абзац, у якому хибна дата.
Цей текст про те, що з цим робити практично. Не про те, що «людина має перевірити результат» - це скаже будь-хто. Про те, як влаштувати, щоб ця перевірка була здійсненною і щоб її не можна було обійти.
Відповідальність не можна перекласти на інструмент, навіть якщо хтось це обіцяє
Коли з автоматизації виходить пропозиція з хибною ціною, рахунок не на ту юридичну особу або документ із хибним строком, на цьому стоїть ваше ім'я і ваша печатка. Підрядник з автоматизації за зміст документа не відповідає і відповідати не може: він не знає вашої справи, не бачить матеріалів, не має клієнта.
Звідси розподіл, який варто записати в завдання ще до коду:
- Система відповідає за те, що процес пройшов - дані завантажилися, документ створився, зберігся в правильному місці, сповіщення дійшло.
- Людина відповідає за те, що в документі написано - і має отримати для цього умови, а не просто кнопку «затвердити».
Три місця, де чернетка зобов'язана пройти через людину
Не все в документі важить однаково. Перевіряти все з однаковою ретельністю означає не перевіряти нічого, бо після третього документа контролер це проклацає.
Числа. Суми, ставки, відсотки, кількості. Модель уміє переписати їх правильно і вміє їх дорахувати, і другого робити не повинна. Число, якого в підставі немає, не має з'явитися в документі.
Дати і строки. Найтихіша категорія помилок взагалі: дата завжди виглядає правильною. Строк оплати, строк повідомлення, початок виконання, останній день строку.
Сторони та ідентифікація. Хто з ким, на кого це оформлено, кому йде. Тут до того ж перевірка зустрічається з питанням, які дані взагалі мають право покинути вашу систему, - про це окремий текст що відходить у мовну модель.
Підтвердження перед надсиланням - крок процесу, а не зайвий екран
Власний приклад, бо він найкраще перевірений: наш бот, який обслуговує чат на сайті, відповідь ніколи не надсилає сам. Ми надиктовуємо йому відповідь голосом, він зводить її в діловий текст мовою, якою пише клієнт, і потім чекає на підтвердження. Відповідь або підтверджують, або правлять. І лише потім вона йде.
Відмінність від звичайного «AI-чатбота» в одній властивості: між моделлю і клієнтом стоїть крок, який не можна пропустити, бо без нього повідомлення не існує. Швидкість від цього падає на десятки секунд. Більше нічого від цього не падає.
Такий устрій окупається всюди, де результат покидає фірму: пропозиції, відповіді на запити, документи для контрагента. І навпаки, не окупається там, де результат лишається всередині і слугує підставою, - там підтвердження лише затримує, і люди знайдуть дорогу в обхід.
Чотири речі, які роблять перевірку можливою, і без яких це формальність
Чернетка має бути видна з першого погляду. Не дрібним шрифтом у підвалі. Документ, який ще не пройшов через людину, має виглядати інакше, ніж готовий, - іншим кольором, водяним знаком, іншим іменем файлу.
Поруч із чернеткою має бути видна підстава. Контролеру треба порівняти текст із тим, з чого він виник. На одному проєкті клієнт попросив про це сам 10. 8. 2026: він хотів долучати файли просто до створення документа, щоб дані підтягувалися з них і не переписувалися вручну. Менше переписування - менше місць, де може виникнути значення без джерела.
Версія, яку підписали, має зберігатися. Не остання версія в системі. Та конкретна, яку людина затвердила. За рік це єдиний спосіб з'ясувати, що ж сталося.
Модель не має сама надсилати назовні. Надсилання - це рішення, а не крок форматування. Коли в системи є можливість надіслати, рано чи пізно вона це зробить у момент, коли ніхто не дивиться.
Розділіть задачі між частковими агентами, щоб було видно, хто що зробив
Архітектурне рішення, пов'язане з відповідальністю сильніше, ніж здається. У проєкті початку літа 2026 ми 30. 5. 2026 вирішили не будувати одного універсального асистента, а зробити кілька часткових агентів, кожного під одну задачу. До цього належить правило від 17. 6. 2026: кожен агент вчиться окремо на своїх даних.
Практична причина проста. В одного великого асистента після помилки не можна сказати, що її спричинило, і правка робиться так, що в завдання додають ще одну фразу і сподіваються. В агента, який робить одну річ, дефект можна повторити, виправити і протестувати. Заразом зрозуміло, хто з людей за цю задачу відповідає, бо в задачі є межі.
Де моделі взагалі нема чого робити
Остання категорія: запити, де модель не додає цінності, а ризик додає. У нашого бота, який повідомляє клієнтам про стан їхньої справи, з 10. 3. 2026 діє правило, що запит щодо конкретної справи обслуговує скриптована гілка. Відповідь зібрана з даних, а не згенерована. Отже, вона не може бути сформульована красиво і при цьому хибно.
Питання, яке варто поставити своїй власній автоматизації: що з того, що сьогодні генерує модель, насправді лише витягування значення з бази? Ця частина належить до скрипта. Це здешевить експлуатацію і прибере цілий клас помилок.
Що попросити вписати в пропозицію
Чотири формулювання. Якщо їх у пропозиції немає, додайте їх туди.
- Система готує чернетку; рішення і підпис лишаються за нами.
- Результат позначений як чернетка до моменту затвердження людиною.
- Система не надсилає назовні без підтвердження; перелік винятків наведено поіменно.
- Затверджена версія архівується і доступна для пошуку.
Хочете налаштувати це в себе
Напишіть нам, які документи у фірмі виникають регулярно і хто їх сьогодні підписує. Повернемо пропозицію, де має стояти крок підтвердження і що можна зробити скриптом замість моделі.
Системи з таким розподілом ми будуємо в межах автоматизації бізнес-процесів.
Напишіть на info@lamapixel.com або телефонуйте +420 775 599 009.
