Эксперт предупредил о рисках масштабирования созданных сотрудниками ИИ-агентов

В Москве проходит форум «Цифровые решения» — крупнейшая российская площадка, посвященная цифровой трансформации. Форум проводится Минцифры при поддержке правительства и объединяет представителей государства, бизнеса и ИТ-отрасли. В центре повестки — развитие цифровой экономики, реализация нацпроекта «Экономика данных» и внедрение новых технологий в разные отрасли.

Одной из тем форума в этом году стало применение искусственного интеллекта в бизнес-процессах. Директор департамента по искусственному интеллекту и большим данным МегаФона Виталий Щербаков рассказал, почему требование стопроцентной точности от корпоративных ИИ-агентов не всегда оправданно. По его словам, ручные процессы сами могут содержать значительную долю ошибок, поэтому первым этапом автоматизации должен стать аудит текущих показателей.

«Часто возникает ситуация, когда к автоматизации предъявляют требование стопроцентной точности, хотя существующий ручной процесс, выполняемый сотрудниками, уже содержит значительный процент сбоев. В таком случае целью внедрения агента становится не достижение идеала, а обеспечение результата, который не уступает текущим показателям человеческого исполнения», — отметил Щербаков на сессии в рамках форума «Цифровые решения», проходящего в Москве.

При этом допустимый уровень ошибок зависит от их последствий. Если сбой легко исправить, и он не несёт серьёзных потерь, то процесс можно автоматизировать, утверждает Щербаков. При этом в сценариях с высокой ценой ошибки, например при массовых начислениях клиентам, необходим жесткий контроль человеком, добавил Щербаков.