Я дал девяти AI-моделям одну таблицу и получил разные уверенные рекомендации. После этого вопрос «не перестанем ли мы думать из-за ИИ» стал для меня намного конкретнее.
Как пользоваться ИИ и не перестать думать самому
Недавно я проверял, может ли ИИ готовить руководителю рекомендации к планёрке. Я взял одну таблицу по отделу продаж и дал её 9 моделям. В таблице были количество звонков и проценты по отдельным критериям. Не было конверсии, причин отклонений, информации о загрузке менеджеров, качестве лидов и текущем фокусе руководителя.
Но рекомендации получились очень уверенными.
ChatGPT увидел “потенциал роста конверсии”, хотя конверсии в таблице вообще не было.
Qwen нашёл зависимость “объём-качество” и предложил перераспределить работу в пользу более “качественных” менеджеров, хотя данных для такого решения тоже не было.
Другие модели построили свои версии. Я подробно разбирал этот эксперимент в статье о рекомендациях ИИ к планёрке. Здесь меня интересует другой вопрос.
Модели не просто ошибались в фактах. В их ответах появлялись критерии, которых я не задавал, а дальше вокруг них последовательно строился убедительный вывод.
После этого вопрос “не перестанем ли мы думать из-за ИИ” для меня стал намного конкретнее. Проблема не в том, сколько работы делает ИИ.Проблема начинается, когда вместе с работой я незаметно отдаю ему ещё и критерий, по которому сам потом решаю, что ответ правильный.
9 моделей получили одну таблицу - и придумали разные выводы
Когда ИИ выдаёт очевидную ерунду, всё довольно просто. Ошибку видно, цифру можно проверить, источник открыть, расчёт пересчитать. Гораздо интереснее частично правильный ответ.
Модель нормально читает данные, пишет связный текст, использует профессиональные слова. А затем делает один шаг дальше того, что эти данные позволяют сказать.
Низкий показатель превращается в причину плохого результата.
Количество звонков и проценты по критериям превращаются в закономерность “объём против качества”.
Несколько высоких процентов превращают сотрудника в “топ-перформера”.
Каждый такой переход может звучать логично. Но логично не значит доказано. В моём эксперименте модели получили один и тот же набор данных и пришли к разным управленческим историям не потому, что одна нашла скрытую истину, а остальные её не увидели.
Нужной для окончательного вывода информации в таблице просто не было. Убедительность текста эту информацию не добавила.
Проблема была не только в ошибках - критерий ИИ выбрал за нас
Чтобы сказать, кто в отделе работает лучше, сначала нужно определить, что вообще значит “лучше”?
Количество звонков?
Выход на ЛПР?
Качество квалификации?
Следующий шаг?
Продажи?
Маржа?
Сложность базы?
Если критерий не задан, модель всё равно должна продолжить задачу. Тогда система координат появляется уже внутри ответа, хотя я её не задавал.
То же самое с причинностью. Красная ячейка может означать проблему менеджера. А может быть неприменимым критерием, особенностью базы, маленькой выборкой или следствием процесса, которого в таблице вообще нет.
Когда я просто прошу ИИ дать рекомендацию, часть этих пробелов он может заполнить правдоподобной интерпретацией. Поэтому проверку ответа я бы уже не сводил к одному вопросу:
Правильные ли здесь факты?
Мне нужны ещё как минимум четыре:
По какому критерию построен вывод?
Этот критерий задал я или его фактически выбрала модель?
Где заканчиваются данные и начинается интерпретация?
Какого контекста не хватает, чтобы превратить гипотезу в решение?
Для меня это гораздо точнее, чем спор “думал я сам или попросил ChatGPT”.
Делегировать исполнение и делегировать суждение - не одно и то же
Я сам использую ИИ очень много: для исследования, поиска, сравнения информации, структуры, черновиков, анализа, проверки, кода и другой повторяемой интеллектуальной работы.
И я не хочу искусственно возвращать всё это себе ради ощущения, что “я подумал сам”. Границу между объёмом исполнения и ролью человека я отдельно разбирал в статье о том, заменит ли ИИ людей. Здесь меня интересует следующий слой - кто определяет, почему получившийся вывод вообще принимается.
Если система может за несколько минут собрать материал, который я вручную собирал бы несколько часов, я хочу эти часы сохранить.
Если она может сравнить десятки вариантов, я хочу поручить ей сравнение.
Если может сделать первый проход по большому массиву данных, я тоже хочу это использовать.
Но для себя я всё сильнее разделяю две вещи:
делегировать исполнение
и
делегировать суждение.
Первое для меня нормально и часто желательно.
Второе заметить сложнее.
Я попросил провести исследование - и автоматически принял, какие источники важны.
Попросил сравнить варианты - и не заметил, по каким критериям система их сравнила.
Попросил рекомендацию - и принял причинную связь, которую никто не проверял.
Попросил написать вывод - и через несколько минут уже повторяю его как собственную позицию.
В этот момент проблема не в том, что ИИ проделал большую часть работы. Проблема в том, что я больше не вижу, почему именно считаю получившийся результат правильным.
ИИ и критическое мышление: исследования не дают простого ответа
Я не хочу превращать эту тему в страшилку про “отупление”. Для такого универсального вывода у меня нет оснований. В исследованиях, которые я проверил для этой статьи, картина аккуратнее. В работе Microsoft Research и Carnegie Mellon, представленной на CHI 2025, 319 специалистов описали 936 реальных случаев использования генеративного ИИ в работе. Более высокая уверенность в ИИ была связана с меньшим сообщаемым усилием критического мышления. При этом сама критическая работа не просто исчезала. Она смещалась в сторону проверки информации, интеграции ответа и контроля задачи.
Для моей темы это важнее громкой формулы “ИИ заставляет нас меньше думать”. Получается, полезнее спросить: куда именно перемещается мышление, когда часть интеллектуального исполнения забирает система?
Есть и более старая область исследований чрезмерного доверия к автоматизированным рекомендациям. Эта проблема появилась не с ChatGPT. Систематические обзоры исследований систем поддержки решений показывают, что человек может чрезмерно полагаться на автоматический совет, а на это влияют доверие к системе, сложность задачи, нагрузка и дизайн самой рекомендации.
В другом небольшом исследовании Microsoft Research на CHI 2025 сравнивали два варианта ИИ-поддержки при принятии инвестиционного решения. Один вариант сразу давал рекомендацию. Другой строил помощь вокруг уже сформулированного человеком обоснования.
В этом эксперименте вариант, который развивал собственное обоснование участника, лучше встраивался в его процесс принятия решения. Вариант с готовой рекомендацией требовал меньше когнитивного усилия.
Исследование небольшое и не доказывает, что человек всегда обязан сначала сформулировать своё решение. Но оно поддерживает важную для меня мысль: имеет значение не только то, что умеет ИИ, но и то, какую роль я отдаю ему внутри собственного процесса принятия решения.
Сначала делать всё самому - тоже плохое правило
Из предыдущего блока легко сделать слишком защитный вывод:
Сначала полностью реши задачу сам, потом спроси ИИ.
Я так не работаю и не считаю это хорошим универсальным правилом. Если я уже полностью решил задачу, во многих случаях я теряю значительную часть пользы от автоматизации.
Я не хочу вручную проводить исследование, которое система может сделать быстрее.
Не хочу сам перебирать двадцать вариантов, если ИИ может подготовить сравнение.
Не хочу сначала писать полный текст, а потом просить модель написать его ещё раз.
Мне не нужен готовый ответ до обращения к ИИ.
Мне нужно сохранить более узкий набор вещей.
Я должен понимать, какой вопрос решаю.
Должен понимать, по каким критериям приму ответ.
Должен видеть, где факты, а где вывод модели.
И в конце должен решить, принимаю ли этот вывод и почему.
То есть я не хочу возвращать себе всю работу.
Я хочу оставлять видимым путь, по которому результат системы становится моим решением.
Моя рабочая модель: вопрос -> критерии -> ИИ -> проверка -> решение
Сейчас я для себя всё чаще раскладываю задачу с ИИ на пять частей.
1. Вопрос
Что я на самом деле хочу понять или решить? Не просто “сделай исследование конкурентов”, а, например:
Мне нужно решить, стоит ли запускать этот продукт в конкретном сегменте.
Не просто “проанализируй звонки”, а:
Мне нужно понять, где у отдела системно ломается следующий шаг и что стоит проверить на планёрке.
Формулировка вопроса задаёт направление всей дальнейшей работы.
2. Критерии
По каким признакам ответ будет хорошим?
Каких доказательств достаточно?
Что может изменить решение?
В эксперименте с таблицей именно этого слоя не хватало. Я попросил модели дать управленческие рекомендации, но в данных не было ответа на вопрос, что считать хорошей работой менеджера и какой бизнес-результат сейчас важнее.
Модели заполнили этот пробел сами.
3. ИИ
Здесь я как раз за максимальную разумную делегацию.
Пусть система ищет, собирает, сравнивает, структурирует, считает, генерирует варианты, критикует их и предлагает гипотезы.
Пусть делает столько исполнения, сколько может делать достаточно надёжно.
Мне не нужно вручную повторять эту работу, чтобы сохранить контроль над результатом.
4. Проверка
Здесь я отделяю 4 вещи:
- что подтверждено;
- что является выводом;
- какого контекста не хватает;
- что противоречит полученной версии.
Проверка - это не только поиск неправильной цифры. Если ИИ правильно прочитал таблицу, но из этой таблицы нельзя сделать заявленный вывод, проверка тоже должна это поймать.
5. Решение
Какой вывод я в итоге принимаю?
Почему?
Что должно быть правдой, чтобы я действовал на его основе?
И ещё один вопрос:
Могу ли я объяснить это решение своими словами, не повторяя формулировку нейросети?
Сам по себе такой пересказ ничего не доказывает. Можно уверенно объяснить и ошибочный вывод. Для меня это только диагностика. Если я сам не могу сказать, почему согласился с ответом, значит, есть риск, что я не принял решение, а просто принял уже готовую конструкцию.
Начните с одной задачи, которую ИИ уже делает за вас
Я бы не пытался сразу пересматривать все свои привычки работы с ИИ. Достаточно взять одну повторяющуюся задачу, где система уже возвращает вам готовый ответ.
Например, рекомендацию по отчёту, сравнение нескольких сервисов, анализ обратной связи клиентов, подбор вариантов или черновик аналитической записки.
И проверить её по тем же вопросам:
- Что я на самом деле пытаюсь решить?
- Какие критерии задал явно?
- Какие критерии ИИ мог добавить сам?
- Что в ответе подтверждено данными или источниками?
- Что является интерпретацией?
- Какой контекст система не знает?
- Какой факт заставил бы меня отказаться от вывода?
- Могу ли я объяснить, почему в итоге его принимаю?
Если да, это не означает, что решение обязательно правильное. Но хотя бы виден путь от вопроса к выводу.
Если нет, я бы не спешил говорить, что “мы вместе с ИИ подумали”. Скорее система отработала в рамке, которую сама же частично и создала, а я получил уже упакованный результат.
Чтобы остаться автором решения, не нужно делать всё самому
Мне всё меньше нравится вопрос:
Не слишком ли много я отдаю ИИ?
Сам по себе объём делегирования мало что говорит. Можно вручную проделать почти всю работу и в конце принять плохое решение.
А можно отдать системе большую часть исполнения и сохранить за собой несколько точек, которые действительно определяют результат.
Для меня сейчас важнее другой вопрос:
Я вижу путь, по которому этот ответ стал моим выводом?
Что было исходным вопросом?
Кто выбрал критерии?
На каких данных стоит вывод?
Где появилась интерпретация?
Что я проверил?
Почему в итоге согласился?
Если этот путь виден, я готов отдавать ИИ очень много работы.
Если он исчезает, проблема для меня уже не в количестве автоматизации.
Проблема в том, что вместе с исполнением я незаметно передал системе ещё и право определить, что считать правильным. И вот эту границу я стараюсь оставлять явной.