В каждое предложение на систему, которая готовит документы, мы пишем одну фразу: система готовит только черновик, окончательное решение и подпись всегда остаются за вами. Впервые мы её использовали в предложении от 3. 6. 2026 и с тех пор от неё не отступаем.
Она не выглядит продающим аргументом. Это описание того, как технология работает на самом деле: модель создаёт вероятный текст, а не правдивый. Чаще всего вероятный текст одновременно и верный, и именно это в нём опасно. Ошибка не приходит как сообщение об ошибке. Она приходит как гладкий абзац, в котором неверная дата.
Этот текст о том, что с этим делать практически. Не о том, что «человек должен проверить результат» - это скажет любой. О том, как устроить, чтобы эта проверка была выполнимой и чтобы её нельзя было обойти.
Ответственность нельзя переложить на инструмент, даже если кто-то это обещает
Когда из автоматизации выходит предложение с неверной ценой, счёт не на то юрлицо или документ с неверным сроком, на этом стоит ваше имя и ваша печать. Подрядчик по автоматизации за содержание документа не отвечает и отвечать не может: он не знает вашего дела, не видит материалов, не имеет клиента.
Отсюда разделение, которое стоит записать в задание ещё до кода:
- Система отвечает за то, что процесс прошёл - данные загрузились, документ создался, сохранился в правильном месте, уведомление дошло.
- Человек отвечает за то, что в документе написано - и должен получить для этого условия, а не просто кнопку «утвердить».
Три места, где черновик обязан пройти через человека
Не всё в документе весит одинаково. Проверять всё с одинаковым тщанием означает не проверять ничего, потому что после третьего документа контролёр это прокликает.
Числа. Суммы, ставки, проценты, количества. Модель умеет переписать их правильно и умеет их досчитать, и второго делать не должна. Число, которого в исходнике нет, не должно появиться в документе.
Даты и сроки. Самая тихая категория ошибок вообще: дата всегда выглядит правильной. Срок оплаты, срок уведомления, начало исполнения, последний день срока.
Стороны и идентификация. Кто с кем, на кого это оформлено, кому уходит. Здесь к тому же проверка встречается с вопросом, какие данные вообще вправе покинуть вашу систему, - об этом отдельный текст что уходит в языковую модель.
Подтверждение перед отправкой - шаг процесса, а не лишний экран
Собственный пример, потому что он лучше всего проверен: наш бот, который обслуживает чат на сайте, ответ никогда не отправляет сам. Мы надиктовываем ему ответ голосом, он приводит его в деловой текст на языке, которым пишет клиент, и затем ждёт подтверждения. Ответ либо подтверждают, либо правят. И только потом он уходит.
Отличие от обычного «AI-чатбота» в одном свойстве: между моделью и клиентом стоит шаг, который нельзя пропустить, потому что без него сообщения не существует. Скорость от этого падает на десятки секунд. Больше ничего от этого не падает.
Такое устройство окупается везде, где результат покидает фирму: предложения, ответы на заявки, документы для контрагента. И наоборот, не окупается там, где результат остаётся внутри и служит подспорьем, - там подтверждение только задерживает, и люди найдут дорогу в обход.
Четыре вещи, которые делают проверку возможной, и без которых это формальность
Черновик должен быть виден с первого взгляда. Не мелким шрифтом в подвале. Документ, который ещё не прошёл через человека, должен выглядеть иначе, чем готовый, - другим цветом, водяным знаком, другим именем файла.
Рядом с черновиком должен быть виден исходник. Контролёру нужно сравнить текст с тем, из чего он возник. На одном проекте клиент попросил об этом сам 10. 8. 2026: он хотел прикладывать файлы прямо к созданию документа, чтобы данные подтягивались из них и не переписывались вручную. Меньше переписывания - меньше мест, где может возникнуть значение без источника.
Версия, которую подписали, должна сохраняться. Не последняя версия в системе. Та конкретная, которую человек утвердил. Через год это единственный способ выяснить, что же произошло.
Модель не должна сама отправлять наружу. Отправка - это решение, а не шаг форматирования. Когда у системы есть возможность отправить, рано или поздно она это сделает в момент, когда никто не смотрит.
Разделите задачи между частными агентами, чтобы было видно, кто что сделал
Архитектурное решение, которое связано с ответственностью сильнее, чем кажется. В проекте начала лета 2026 мы 30. 5. 2026 решили не строить одного универсального ассистента, а сделать несколько частных агентов, каждого под одну задачу. К этому относится правило от 17. 6. 2026: каждый агент учится отдельно на своих данных.
Практическая причина простая. У одного большого ассистента после ошибки нельзя сказать, что её вызвало, и правка делается так, что в задание добавляют ещё одну фразу и надеются. У агента, который делает одну вещь, дефект можно повторить, исправить и протестировать. Заодно понятно, кто из людей за эту задачу отвечает, потому что у задачи есть границы.
Где модели вообще делать нечего
Последняя категория: запросы, где модель не добавляет ценности, а риск добавляет. У нашего бота, который сообщает клиентам о состоянии их дела, с 10. 3. 2026 действует правило, что запрос по конкретному делу обслуживает скриптованная ветка. Ответ собран из данных, а не сгенерирован. Значит, он не может быть сформулирован красиво и при этом неверно.
Вопрос, который стоит задать своей собственной автоматизации: что из того, что сегодня генерирует модель, на самом деле лишь извлечение значения из базы? Эта часть относится к скрипту. Это удешевит эксплуатацию и уберёт целый класс ошибок.
Что попросить вписать в предложение
Четыре формулировки. Если их в предложении нет, добавьте их туда.
- Система готовит черновик; решение и подпись остаются за нами.
- Результат помечен как черновик до момента утверждения человеком.
- Система не отправляет наружу без подтверждения; список исключений приведён поимённо.
- Утверждённая версия архивируется и доступна для поиска.
Хотите настроить это у себя
Напишите нам, какие документы в фирме возникают регулярно и кто их сегодня подписывает. Вернём предложение, где должен стоять шаг подтверждения и что можно сделать скриптом вместо модели.
Системы с таким разделением мы строим в рамках автоматизации бизнес-процессов.
Напишите на info@lamapixel.com или звоните +420 775 599 009.
