Андрей Рыбников назвал главные ошибки искусственного интеллекта
Андрей Рыбников, преподаватель РТУ МИРЭА, рассказал о ключевых ошибках ИИ, таких как "галлюцинации" и уязвимости к манипуляциям данными. Он подчеркнул важность четких запросов для улучшения результатов. Эксперт Алексей Лукацкий добавил, что ИИ не влияет на когнитивные навыки людей.
Преподаватель кафедры инструментального и прикладного программного обеспечения Института информационных технологий РТУ МИРЭА Андрей Рыбников выделил основные ошибки, характерные для искусственного интеллекта (ИИ). По его словам, в первую очередь это "галлюцинации" и уязвимости, вызванные манипуляцией входной информацией. Он пояснил, что "галлюцинации" — это когда нейронная сеть вырабатывает данные, которые кажутся достоверными, но на самом деле являются полностью вымышленными.
Такое явление не является сознательным обманом, а простым следствием алгоритмической работы модели, как объяснил он в интервью Lenta.ru.
Также Андрей Рыбников сообщил, что ИИ легко можно склонить к выдаче некорректных ответов с помощью изменения формулировки запросов, что в профессиональной среде часто называется взломом промтов. Это делает модель уязвимой, позволяя игнорировать предусмотренные инструкции.
Для минимизации ошибок необходимо формулировать запросы максимально точно и с учётом контекста. Для повышения точности ответов ИИ в решении технических задач требуется верификация полученных данных, а в сфере творчества следует уточнять целевую аудиторию, что будет способствовать улучшению качества результата.
Ранее эксперт по информационной безопасности Алексей Лукацкий утверждал, что правильное применение ИИ не окажет негативного влияния на когнитивные способности людей, а также не затронет их коммуникационные навыки.