Технологии несовершенны. Даже при идеальной организации проекта могут проявиться факторы, которые невозможно было предусмотреть на этапе проектирования.
Можно выделить две проблемы, которые чаще всего возникают при внедрении интеллектуальной автоматизации (RPA+ИИ): нестабильность графических интерфейсов, с которыми взаимодействует робот, и галлюцинации ИИ.
- Нестабильность интерфейсов (GUI)
RPA-роботы часто работают через пользовательский интерфейс, имитируя действия человека. Проблема: изменение UI (смена текста внутри кнопки, обновление ERP-системы, всплывающее окно) может «сломать» сценарий робота.
Как снизить риски:
- использовать устойчивые селекторы, которые подвержены только значительным изменениям;
- использовать проактивные и реактивные методы поддержки (проактивный – тестирование роботов перед обновлением систем, походит, если роботы работают с внутренними системами; реактивный – закладывать в архитектуру робота или в настройках RPA-платформы механизмы автоматического оповещения о сбоях и оперативно реагировать на них.
- по возможности переходить на API-интеграции.
2.
Галлюцинации ИИИспользование генеративного ИИ в автоматизации процессов добавляет новые риски. LLM могут:
- генерировать правдоподобные, но неверные данные,
- искажать информацию при недостатке контекста.
Это может привести к тому, что робот отправит клиенту неверный ответ или внесет ложные данные в учетную систему.
Чтобы минимизировать риски возникновения таких ситуаций, важно соблюдать лучшие практики использования ИИ. Некоторые из них:
- На этапах высокой ответственности оставлять сотрудника для контроля и верификации решений ИИ, постепенно снижая долю ручного контроля по мере накопления статистики (принцип Human-in-the-Loop)
- Строго ограничивать область ответа нейросети, заставляя ее работать только с конкретными форматами данных.
- Не использовать ИИ для критических решений без предварительной валидации данных, на которых он обучен или использует в ответе.
Интеллектуальная автоматизация требует контроля, особенно в сценариях с высокой ответственностью.