Почему ИИ отправил поручение не тому Евгению — и как это починить
Поручение ушло не тому человеку. Никто не заметил — ни сразу, ни когда первый Евгений открыл «Согласования» и увидел чужое дело. Второй Евгений всё это время был уверен, что задача зафиксирована и работа идёт.
Это не экзотика. Это то, что происходит, когда автоматизация опирается на данные, которые выглядят достаточными, но не являются точными.
Как получилось
Система матчила исполнителя по первому совпадению имени. Один Евгений нашёлся в учётке — значит, он. Логика без изъянов, если Евгений в компании один.
Проблема в том, что система не знала о втором Евгении — или знала, но не посчитала это поводом остановиться. Подпись в кабинете совпала, галочка поставлена, поручение улетело.
Никакой сложной цепочки ошибок. Просто одно допущение: имени достаточно.
Где именно сломалось
Матчинг шёл по подписи в кабинете, а не по справочнику. Это два разных источника данных с разной степенью надёжности. Справочник — это имя и фамилия, привязанные к конкретной учётной записи. Подпись в кабинете — это то, что человек сам написал про себя: может быть сокращённой, неполной или просто «Евгений» без фамилии.
Когда источник ненадёжен, первое совпадение — это не результат, это угадывание.
Как починили
Решение вышло простым и, по собственному описанию команды, занудным: теперь система сверяет и имя, и фамилию из справочника. Не из подписи — из справочника.
Если данные расходятся или совпадение неоднозначное — исполнитель не назначается. Поручение возвращается организатору. Пусть человек разберётся сам, какой именно Евгений нужен.
Это важный принцип: автоматика не угадывает. Если уверенности нет — она останавливается и передаёт решение человеку. Это не слабость системы, это её правильное поведение.
Почему это вообще работает
Здесь есть наблюдение, которое стоит зафиксировать отдельно: ИИ нормально работает не от умной модели, а от зарплатной ведомости.
Звучит как шутка, но за этим стоит конкретная мысль. Качество автоматизации в задачах на назначение, маршрутизацию, согласование — оно определяется не тем, насколько «умна» модель, а тем, насколько точен список людей, с которым она работает. Есть ли там фамилии. Актуальны ли данные. Уникальны ли идентификаторы.
Модель, которая получает на вход размытые данные, будет давать размытые результаты. Не потому что она плохая — потому что у неё нет оснований дать точные.
Что делать, если Евгениев двадцать
Когда в компании двадцать Евгениев — это уже не баг, который надо отловить и закрыть. Это штатный режим работы, под который нужно проектировать систему.
Конкретно это значит:
- Матчинг всегда по полному имени из справочника, не по отображаемому имени или подписи.
- Совпадение по одному полю — не результат. Результат — совпадение по достаточному набору атрибутов, который однозначно идентифицирует человека.
- Неоднозначность — повод для остановки, а не для выбора первого варианта.
Это не про ИИ отдельно. Это про любую систему, которая работает с людьми внутри компании: согласования, поручения, уведомления, доступы.
Что из этого следует на практике
Если у вас есть автоматизация, которая назначает что-то на людей — проверьте один вопрос: откуда берётся список людей и насколько он точен.
Не «умная» ли модель, не какой промпт написан, а просто: есть ли у системы надёжный справочник с именами и фамилиями, и сверяется ли она с ним, а не с тем, что люди сами написали о себе в профиле.
Если справочника нет или он не используется — первый попавшийся Евгений рано или поздно получит чужое поручение. И никто не заметит.