На встрече по автоматизации закупок я вернулся к правилу, которое уже пришлось вводить в своей работе: нейросеть можно использовать для поиска вариантов и рекомендаций, но сотрудник должен лично проверить результат и отвечать за решение, которое отправляет дальше.
В предыдущей статье я разбирал, почему новый инструмент не заменяет ответственность руководителя за результат функции.
На той же встрече возник следующий вопрос. Допустим, ИИ всё-таки появляется в процессе закупок.
Он анализирует уже подготовленные данные, находит аномалию и говорит закупщику:
Обрати внимание на эту позицию. Текущего остатка может не хватить.
Что происходит дальше?
Можно построить схему, в которой сотрудник просто нажимает «согласен» и передаёт рекомендацию дальше.
Формально человек остаётся в процессе.
Но для меня это ещё не означает, что появился реальный контроль.
Потому что у меня уже был период, когда сотрудники именно так начали работать с нейросетями.
И мне этот опыт не понравился.
Сначала я сам требовал использовать ИИ почти в каждой задаче
Когда нейросети начали давать полезный результат в обычной работе, я довольно быстро решил, что сотрудников нужно приучать использовать их системно.
Логика была простой.
Если инструмент помогает быстрее собрать информацию, сформулировать варианты, проверить текст или подготовить первый черновик, странно отказываться от него только потому, что раньше работа делалась вручную.
Я начал требовать использовать нейросети во многих задачах.
Через некоторое время увидел неожиданный побочный эффект.
Некоторые сотрудники перестали быть авторами результата.
Они превращались в промежуточное звено между моделью и мной.
Получили задачу.
Спросили нейросеть.
Скопировали ответ.
Отправили дальше.
И самое неприятное было не в самом использовании ИИ.
Проблема была в том, что человек иногда уже не читал результат настолько внимательно, насколько прочитал бы собственную работу.
Если там была ерунда, выдуманная цифра или неверный вывод, возникала очень удобная внутренняя позиция:
Это не я ошибся. Это нейросеть так написала.
Для рабочего процесса такая конструкция мне не подходит.
Я сначала попробовал решить проблему запретом
Моя первая реакция тоже оказалась неудачной.
Я расстроился качеством таких результатов и попробовал ограничить использование нейросетей.
Но это быстро превратилось в другую крайность.
Инструмент уже существует.
Люди всё равно им пользуются.
И в целом это нормально.
Запрещать полезный способ работы только потому, что кто-то использует его плохо, значит лечить не ту проблему.
Поэтому я сформулировал другое правило.
Используйте любые инструменты. Но всё, что вы отправляете дальше как результат своей работы, вы должны быть готовы подписать своим именем.
Не в буквальном смысле ставить электронную подпись под каждым сообщением.
Смысл в ответственности.
Если сотрудник отправляет мне цифру, он отвечает за эту цифру.
Если отправляет вывод, он отвечает за вывод.
Если использовал нейросеть, поиск, коллегу, калькулятор или готовый шаблон, это не меняет владельца результата.
Инструмент помог подготовить работу.
Но работу отправил человек.
Это правило сильно меняет отношение к проверке
Пока ответ модели воспринимается как чужой текст, его легко переслать дальше.
Когда результат становится твоим, приходится задавать другие вопросы.
Откуда эта цифра?
Могу ли я её проверить?
Правильно ли модель поняла контекст?
Не перепутала ли периоды?
Не придумала ли причинно-следственную связь?
Есть ли в исходных данных то, на что она ссылается?
Не пропущено ли важное исключение?
То есть ИИ перестаёт быть источником истины.
Он становится одним из инструментов подготовки решения.
Для меня это намного здоровее.
И именно поэтому тема ответственности очень естественно вернулась на встрече про закупки.
В закупках цена ошибки видна особенно хорошо
В текстовой задаче ошибка может закончиться плохим абзацем.
В закупке ошибка превращается в деньги и товар на складе.
На встрече я привёл простой пример.
Представим, что модель посмотрела на историю и уверенно рекомендует купить крупную партию сезонного товара.
Закупщик не проверил контекст.
Руководитель увидел готовую рекомендацию и тоже просто согласовал.
Партия приехала.
А реальный спрос оказался совсем другим.
Теперь товар лежит на складе.
Можно сколько угодно обсуждать, почему модель ошиблась.
Для бизнеса главный вопрос будет другим:
Кто принял решение купить товар?
Ответ «нейросеть посоветовала» ничего не решает.
Поэтому в таком процессе я бы не проектировал ИИ как конечного владельца решения.
Он может найти сигнал.
Может подготовить аргументы.
Может обратить внимание на изменение скорости продаж.
Может показать, что большая часть свободного остатка уже зарезервирована.
Но решение о закупке остаётся за человеком, если контекст ещё нельзя безопасно свести к формальным правилам.
Человек в процессе нужен не для галочки
Здесь легко сделать другую ошибку.
Добавить в интерфейс кнопку «Подтвердить» и сказать, что теперь всё безопасно, потому что решение проверяет человек.
Но если сотрудник получает десятки или сотни рекомендаций и машинально подтверждает их одну за другой, реального контроля опять нет.
Для меня участие человека имеет смысл только тогда, когда у него есть четыре вещи.
Понятный предмет проверки.
Он должен понимать, что именно система рекомендует и почему.
Необходимый контекст.
У него должны быть доступны данные, по которым можно проверить рекомендацию.
Время на решение.
Нельзя одновременно требовать качественной проверки и построить поток, где на каждое решение остаётся несколько секунд.
Право не согласиться.
Если человек не может отменить или изменить рекомендацию, его участие становится декоративным.
Поэтому мне важен не сам факт присутствия сотрудника между ИИ и действием.
Мне важно, какую ответственность он реально несёт и что способен изменить.
На встрече мы пришли к многоуровневой схеме
Клиент как раз не предлагал полностью убрать закупщика.
Логика была другой.
Большой объём данных можно обработать заранее.
Система или ИИ поднимает наверх позиции, которые требуют внимания.
Закупщик смотрит на отчёт, дополнительные показатели и рекомендацию.
После этого принимает решение.
Но на этом контур можно не заканчивать.
Для части решений имеет смысл добавить согласование руководителя.
Например, по сумме закупки.
По объёму.
По необычному отклонению от стандартной рекомендации.
По позиции с высокой ценой ошибки.
Или в случае, когда сотрудник решил не выполнять действие, которое система считает стандартным.
Тогда получается не один универсальный уровень контроля, а несколько.
сигнал -> решение закупщика -> при необходимости согласование руководителя -> действие.
Для меня это намного реалистичнее, чем идея «ИИ всё решил, человек подтвердил».
Цена решения должна влиять на глубину проверки
На встрече прозвучало полезное наблюдение.
Когда закупается большая партия товара и цена решения очевидно высока, люди относятся к нему внимательнее.
Смотрят отчёт.
Перепроверяют показатели.
Обсуждают объём.
А небольшие регулярные подтоварки получают меньше внимания, хотя именно они составляют значительную часть ежедневных решений.
Каждая отдельная ошибка выглядит маленькой.
Но в сумме они могут создавать те же неликвиды и дефицит.
Отсюда для меня появляется важный принцип проектирования.
Не все решения должны проходить одинаковый маршрут.
Стандартный и хорошо формализованный случай можно максимально автоматизировать.
Небольшое отклонение можно оставить закупщику.
Крупное, необычное или рискованное решение отправлять на второй уровень согласования.
То есть участие человека должно определяться не страхом перед ИИ вообще, а риском конкретного действия.
Ответственность нужно закреплять не только словами, но и процессом
Правило «ты отвечаешь за результат» полезно, но одной фразы мало.
Система должна поддерживать его технически.
Мне важно сохранять как минимум несколько вещей.
Что именно рекомендовала система.
Какие данные были доступны в этот момент.
Какое решение принял сотрудник.
Изменил ли он рекомендацию.
Кто согласовал действие, если требовался второй уровень.
Какой результат получился потом.
Тогда появляется обратная связь.
Если система регулярно даёт плохой сигнал, можно улучшать систему.
Если сотрудник регулярно отклоняет правильные рекомендации, можно разбираться в его логике.
Если руководитель формально согласует всё подряд, видно, что второй уровень контроля не работает.
Если одно и то же исключение повторяется, возможно, его пора превратить в новое правило автоматизации.
Ответственность становится частью процесса, а не моральным призывом быть внимательнее.
Для меня важно разделить ошибку модели и ошибку процесса
ИИ действительно ошибается. На встрече отдельно обсуждался случай, когда модель уверенно подставляла некорректные цифры под желаемый вывод.
Я сам много раз видел ошибки в числовых задачах. Это ограничение технологии.
Но если компания знает об этом ограничении и всё равно строит процесс так, что неподтверждённый ответ модели автоматически превращается в закупку, это уже другая проблема.
Это ошибка проектирования процесса.
Поэтому я разделяю два вопроса.
Первый:
Насколько качественно ИИ выполняет свою часть работы?
Второй:
Что должно произойти, если ИИ ошибся?
Второй вопрос для бизнеса часто даже важнее.
Безошибочной системы у меня всё равно не будет.
Значит, нужно заранее определить границы автономности, проверки и эскалации.
Иногда правильный результат проверки - остановить действие
Когда говорят про участие человека, часто подразумевается, что сотрудник должен подтвердить рекомендацию.
Я бы формулировал иначе.
Его работа - принять собственное решение.
Иногда оно совпадает с рекомендацией ИИ.
Иногда нет.
Например, система показывает, что товар заканчивается и его нужно заказать.
Но закупщик знает, что спрос был вызван разовой отгрузкой и повторения не ожидается.
Он отклоняет рекомендацию.
Это нормально.
Но если отклонение касается ликвидной позиции и несёт риск дефицита, система может отправить его руководителю:
Сотрудник решил не заказывать товар, несмотря на стандартный сигнал. Подтвердите решение.
Тогда человеческое несогласие не ломает автоматизацию.
Оно становится предусмотренной веткой процесса.
И одновременно даёт материал для улучшения правил.
Чем лучше автоматизация, тем точнее должна становиться ответственность
Есть парадокс. Когда большая часть рутины выполняется автоматически, человеку остаётся меньше действий.
Но оставшиеся действия часто становятся более важными.
Система сама посчитала показатели.
Сама выделила аномалии.
Сама подготовила черновик заказа.
Человеку больше не нужно тратить часы на просмотр всего массива данных.
Ему остаются исключения и решения, где действительно нужен контекст.
То есть автоматизация не обязательно уменьшает ответственность сотрудника.
Она может сделать её более концентрированной.
Раньше закупщик отвечал за сотни механических просмотров.
После автоматизации он может отвечать за двадцать решений, каждое из которых требует реального суждения.
Для меня это нормальный сценарий цифрового сотрудника.
Система забирает то, что умеет делать стабильно.
Человек остаётся там, где цена ошибки и неоднозначность требуют человеческого решения.
Поэтому я больше не требую от людей просто «использовать ИИ»
Мой собственный опыт с сотрудниками сильно поменял отношение к этому вопросу.
Мне уже недостаточно увидеть, что человек открыл нейросеть.
Использовал правильный запрос.
Получил красивый ответ.
Мне важнее другое.
Что он сделал с этим ответом?
Проверил ли?
Понял ли?
Может ли объяснить вывод своими словами?
Готов ли поставить под ним своё имя?
Если нет, то ИИ не усилил сотрудника.
Он просто добавил ещё одного автора, за которого никто не хочет отвечать.
Поэтому моё рабочее правило сейчас простое:
ИИ может предлагать. Решение должно иметь конкретного владельца.
В закупках этим владельцем может быть закупщик.
Для более дорогих и рискованных случаев - закупщик и руководитель.
Для стандартных детерминированных операций человеком может быть заранее утверждено само правило, а система дальше выполняет его автоматически.
Но в каждом варианте я хочу понимать, где заканчивается рекомендация и начинается ответственность за действие.
Все материалы этого исследования собраны в серии “Автоматизация оптовой компании”.
В следующем материале я перейду к ещё одной теме из этой же встречи: почему оплаченные подписки и даже обучение сами по себе не создают культуру использования ИИ в компании.
Автоматизация оптовой компании
- 10Автоматизация оптовой компании: как я искал конкретные работы, а не готовые решения
- 20Отчёт по закупкам уже работал. Почему бизнес всё равно теряет деньги
- 30Когда для автоматизации закупок ИИ вообще не нужен
- 40Как достать алгоритм принятия решения из головы сильного сотрудника
- 50ИИ может помочь найти алгоритм, после чего сам становится не нужен
- 60Когда проблема выглядит как нехватка автоматизации, а на самом деле это управленческая проблема
- 70ИИ может советовать, но ответственность за решение остаётся у человека
- 80Почему подписка и курс по ИИ не внедряют ИИ в компанию
- 90Руководитель не обязан знать ответ. Но теперь странно приходить вообще без вариантов