ИИ-агентам нельзя предоставлять возможность самостоятельно расширять собственные полномочия: повышать финансовые лимиты или отключать механизмы контроля. Об этом заявил управляющий директор по диджитал-решениям «МегаФона» Евгений Бобков на форуме «Цифровые решения».
Он добавил, что диагностику и исполнение задач ИИ можно делегировать, но право менять границы допустимого должно оставаться вне агента. При этом определенного процента ошибок для решения автоматизировать процесс нет — все зависит от характера операции.
«Неверная категория заявки и ошибочное списание — принципиально разные риски. Для обратимых малорисковых операций порог можно задавать относительно действующего процесса. Несанкционированные списания и выход за полномочия — недопустимые события, которые нужно блокировать архитектурно», — объяснил Евгений Бобков.
По его словам, давать оценку результата работы агента должна целевая система, а не он сам. «Как пример, нужны доля корректно завершенных задач без вмешательства, частота и тяжесть ошибочных действий, соблюдение прав доступа, стоимость и время выполнения», — добавил эксперт.
«Катюша» будет помогать свердловчанам жениться и разводитьсяВчера в 12:54
