VK Predict предложил ограничения для AI-агентов на "Финополис-2025"
На форуме "Финополис-2025" Роман Стятюгин из VK Predict подчеркнул необходимость контроля за AI-агентами, ограничивая их область применения. Форум проходит с 8 по 10 октября на территории "Сириус", объединяя Банк России и IT-отрасль.
В ходе форума "Финополис-2025" была озвучена необходимость контроля и ограничения области применения AI-агентов. Об этом заявил Роман Стятюгин, директор центра аналитических продуктов VK Predict. По словам эксперта, VK Predict выделил определенные направления, которые следует учитывать при работе с AI-агентами. При внедрении таких сервисов в деятельность организаций необходимо ограничить их область применения.
Если мы решаем какую-то конкретную задачу, то ровно ею и [надо] ограничиться. Не надо, например, разрешать ему (AI-агенту - прим. ТАСС) выходить в интернет: вот он смотрит на профиль клиента - и ок. Не надо ему давать выходы наружу, что-то еще разрешать, делать такое, что шире, чем эта задача. Мы теряем контроль здесь и можем получить какие-то аспекты, которые нам не нужны и не нравятся
- отметил Стятюгин. Он также подчеркнул важность не только управления AI-агентами, но и объяснения им причин принимаемых решений на каждом этапе работы. Это обеспечивает эффективную коммуникацию. При этом человек должен оставаться в "контуре управления", принимая решения и контролируя поведение AI-агента.
Форум "Финополис-2025", посвященный инновационным финансовым технологиям, проходит с 8 по 10 октября на территории "Сириус". Организатором форума выступает Банк России совместно с представителями IT-отрасли и финансового рынка. ТАСС является генеральным информационным партнером форума.